gemma4:26bを試してみた

以前、gemma3というのを試しました。

ollamaでオープンモデルでマルチモーダルな生成AI「gemma3」を試してみた: EeePCの軌跡

マルチモーダルなローカルLLM(大規模言語モデル)を格安なPCで動かしてみると: EeePCの軌跡

二つ目はかなりおまけですが、そこそこ低スペックなPCでも動くというのがウリなローカルで動くマルチモーダルAIです。

そんなgemmaが4にバージョンアップ。
しかも、そこそこ重いモデル(26b)でもPC上で軽快に動くというので、我が家のメインPCで確かめてみました。

なお、メインPCですが、CPU：AMD Ryzen 5 7533HS(3.3GHz、最大4GHz)、メモリー64GB(DDR4 4800)、GPU：RTX4060 Laptop(8GB)です。

まずは、Ollamaの最新版をダウンロードしてインストール。

Download Ollama on Windows

その後、「gemma4:26b」を選択して、適当な質問を投げます。

すると、モデルのダウンロードが開始されます。
26b(260億パラメータ)という大きさのわりには、小さめのモデルかなと。とはいえ、約17GB。
さすがに、MacBook Air(16GB)で動かすのは無理そうなモデルです。

ダウンロード終了後、返事が返ってきます。

質問が単純ということもありますが、かなり早いです。

さて、上の二つ目の記事で読み込ませた画像2種類(富士山、東京駅)を同様に読み込ませてみました。
その時の回答は、以下のようになりました。

(車窓の富士山)

(大手町側の東京駅)

gemma3:4bでは東京駅を「シンガポール中央郵便局」と申しておりましたが、果たしてどうなるか？

で、動かした結果を書くと、

(車窓の富士山)

この写真には、以下のようなものが写っています。

* **富士山**: 背景の中央に、非常に大きく特徴的な円錐形の山が見えます。雲に一部隠れていますが、その雄大な姿が確認できます。
* **街並み**: 富士山の麓には、多くの住宅や建物が密集している街の様子が写っています。
* **車窓からの風景**: 手前側がブレており、右側に窓枠のようなものが見えることから、走行中の電車（新幹線など）の窓から撮影された景色であると推測できます。
* **曇り空**: 空は厚い雲に覆われており、全体的に落ち着いた、あるいは少しどんよりとした天候の風景です。

まとめると、**「走行中の車窓から見た、雲に覆われた富士山と、その麓に広がる街の風景」**といえます。

(大手町側の東京駅)

この写真には、以下のようなものが写っています。

* **東京駅（丸の内駅舎）**: 写真の左側に、歴史を感じさせる赤レンガ造りの美しい建物が見えます。これは東京駅の丸の内側の駅舎です。
* **近代的な高層ビル**: 背景には、ガラス張りの現代的な高層ビルがそびえ立っています。歴史的な建築物である駅舎と、最新の建築物であるビル群が対照的に写っており、東京の「伝統と現代の融合」を感じさせる風景です。
* **駅前の広場と人々**: 手前の広い歩道には、歩いている人々が写っています。行き交う人々の姿から、都会の日常的な活気が伝わってきます。
* **曇り空**: 空は一面の曇り空で、全体的に落ち着いたトーンの都会的な景色となっています。

まとめると、**「歴史的な東京駅の駅舎と、背後にそびえる近代的なビル群が共存する、東京の象徴的な風景」**を捉えた写真です。

さすがにパラメータの多さと、最新版ということもあって正確な答えです。

調子に乗って、今書きかけの小説(約7万文字)を読み込ませて、概要を書かせようとしてみました。

なんかバグってしまい、無限ループに陥りました。さすがに、フリーの生成AIに7万文字はしんどかったか。

なお、動作中のタスクマネージャーの画面はこんな感じ。
GPUはほぼメモリーはマックス8GBまで使用。それでも足りずメインメモリーも26GBほど食ってます。
64GB搭載しててよかったですね。しかし今、64GBを買おうとするととんでもない値段になるようなので、安いうちに買っておいて正解でした(DDR4-4800ですが、2024年7月時点では約2.3万円でした。今買うと・・・DDR4-2666の32GB×2でも8万円近く。たっか！)

ということで、わりと高精度な生成AIが軽快に動いてくれることは確認できました。
そこそこのGPUを搭載し、32GB以上のメモリーを積んだPCならば、実用レベルで動いてくれそうな感触です。

もっとも、メモリー価格が異常に高騰しているご時世ですので、今は32GBといえど厳しいですね。早く正常化してくれないかしらん。

Gemma 4 入門: Googleの最新オープンAIモデルを初心者でもわかる言葉で徹底解説 (88Books)