ほぼ鳥取県出身、東京在住のエンジニアがお送りする日々の出来事や役に立つ情報(=What I know)を紹介するブログ。わったいな（鳥取県の方言ですごいという意味）といってもらえるような記事を更新予定。※本ページはプロモーションが含まれています
前回の記事では、Gemma 3 を内蔵 Intel UHD Graphics で動かすという内容を紹介しました。
その後 Mistral Small 3.1 というモデルも公開されました。
こちらも、NVIDIA RTX 4090 や 32GB RAM の Mac でも動作するとされています。
ただ、前回の記事でもお話ししましたように、自分は PC でゲームをしないため、NVIDIA や AMD の外部の GPU を所有していないため、なんとか手持ちの機材で動かしてみます。
“Mistral Small 3.1 を Intel Core i5-14600T のみでローカルで動かしてみる” の続きを読む
Gemma 3 がリリースされました。
Gemma 3 は軽量であることもうたっており、NVIDIA H100 GPU 1枚で高い性能を誇るとのことです。
また、自分は PC でゲームをしないため、NVIDIA や AMD の外部の GPU を所有していないのですが、Intel が開発している IPEX-LLM というのを用いると、
で Gemma 3 を動作させられるようです。
“Gemma 3 を IPEX-LLM で内蔵 Intel UHD Graphics で動かしてみる” の続きを読む