MacBook Air M4にて「LM Studio」でgemma4-E4bを動かしてみた

最近、ローカルLLMの「Gemma4」が出てきて、12Bモデルが16GBメモリーでも動くと聞きました。

メモリ16GBでOK！音声も画像も対応する賢いLLM「Gemma 4 12B」無償公開 - PC Watch

画像どころか、音声も行けるというなかなかのマルチモーダルなLLMなので、興味津々。

しかも、うちのMacBook Airでも動かせるじゃん、となって、MacBook AirにてLM Studioをダウンロードして使ってみることにしました。

LM Studio - Local AI on your computer

上のサイトからダウンロードしたデータがデスクトップ上に現れたので、ダブルクリック。その後、フォルダが開くので、LM Studioのアイコンを「Application」フォルダに入れてやります。

こんな感じのアイコンを、ダブルクリックすると起動します。

こんな感じの画面が出てくるので、「Get Started」をクリック。

で、モデルなんですが、なぜかGemma4 E4bしか表示されません。他は、選択不能。
まあ、とりあえずテスト用に一旦、それを落としてみました。
だいたい7GBくらいでしたかね。

至ってごく普通のプロンプト画面が出てきたので、テストしてみました。
次の小説用の貴族の名前でも考えさせてみようと思い、

イギリス風の貴族名をフルネームでいくつか考えてください。

とだけ入力。

すると、数秒ほどで答えが出始めます。

これがGemini Plusだと、本当にいくつかの名前を羅列するだけなのですが、ちょっとこのモデルの面白いところは、聞いてもいないのに「クラシックな上流階級の貴族」や「闇落ちした紳士・ドラマティックな貴族」といった具合に、なぜか背景事情に合わせた名前を提案し、その理由まで書いてくれました。
案外、お節介ながらも、なかなか賢い言語モデルでした。これ、本当に4b(40億パラメータ)のモデル？

ただの言語モデルとしてなら、12b(120億パラメータ)モデルを使うまでもなく、なんかこれで十分かなと思ってしまうほどの出来です。

とはいえ、せっかくダウンロードしたので、12bも試してみようかと思います。さて、どうやってダウンロードするのやら・・・まずは、LM Studioの使い方からマスターしないとダメそうです。

Gemma 4ではじめるローカルLLM実践ガイド: 課金疲れを卒業して、自分だけのAIを手に入れる