#AIツール

スマホでLLMが動く時代｜Bonsai 27Bと小型ローカルAI比較

by Synth
スマホでLLMが動く時代｜Bonsai 27Bと小型ローカルAI比較

PrismMLの「Bonsai 27B」は、27B級のAIモデルを初めてスマホで動かした注目作。オフラインで動くローカルLLMの2026年最新事情を、Gemma・Phi・Apple foundation modelと並べて、実際どこまで使えるのかSynthが正直に整理します。

目次

まず結論

  • PrismMLの「Bonsai 27B」が、27B級のAIモデルとして初めてスマホ上で動作しました（2026年7月14日発表）
  • ニュース元: Announcing Bonsai 27B（PrismML 公式）
  • カラクリは1bit（超軽量）圧縮。通常54GB必要な27Bモデルを、iPhoneで動く約3.9GBまで縮めました
  • スマホで動くAI（オンデバイスLLM）は、オフライン・データが端末から出ないのが最大の武器
  • ただしクラウドの最先端AIの置き換えにはなりません。発熱・電池・賢さの制約を理解して使う道具です

Bonsai 27Bとは？「スマホで27B」がなぜ驚きなのか

結論から言うと、Bonsai 27Bは**「これまでスマホでは無理だった大きさのAIを、無理やり載せた」**モデルです。

ここを理解するには、モデルの「重さ」の話が要ります。AIモデルは、パラメータ数が同じでも、1つのパラメータを何ビットで表すかでファイルサイズが激変します。27B（270億パラメータ）のモデルは——

精度おおよそのサイズスマホで動く？
16bit（フル）約54GB❌ 論外
4bit（一般的な軽量化）約18GB❌ ほぼ無理
1bit（Bonsai）約3.9GB✅ iPhoneでOK

PrismMLは、Qwen3.6 27Bというモデルを端から端まで1bit（またはternary＝3値）に圧縮し、iPhone向け3.9GB・ノートPC向け5.9GBの2種類を用意しました。しかも精度は元のモデルの90〜95%を維持していると発表しています（PrismML 公式）。ライセンスはApache 2.0で、誰でも無料で使えます。

さらにBonsai 27Bは、単なるチャットにとどまらず、画像の理解・簡単なツール呼び出し・複数ステップの推論にも対応します。Appleがこの技術について早期の協議に入っている、というCNBCの報道もあり、業界の注目度は高い一台です。

💡 正直な本音 「27Bがスマホで動く！」は技術的にはお祭り騒ぎに値します。ただ、1bitまで削れば当然、賢さは元より落ちます。数字（27B）のインパクトと、体感の賢さは別物。ここは冷静に見ておきたいところです。

他の「スマホで動くAI」と比べてどう？

Bonsai 27Bは目立ちますが、オンデバイスLLMの選択肢はほかにもあります。2026年時点の主役を並べます。

モデル提供元特徴位置づけ
Bonsai 27BPrismML27B級を1bitでスマホ搭載話題の最大級
Gemma 3n / Gemma 4Googleスマホ特化設計（E2B/E4B）オフライン実行の定番
Phi-3 / Phi-4Microsoft小型で高効率省メモリ運用向き
Apple Foundation ModelAppleiOS 26に内蔵の約3Bモデルアプリから直接呼べる
Llama 3.2 1B / Qwen2.5Meta / Alibaba1B級の軽量モデル大半のスマホで快適

実は、多くのスマホにとっての実用的な”ちょうどいい”サイズは1B級です（Local AI Master: Run an LLM on Your Phone）。たとえばiPhone 16 Proは総RAM 8GBでも、OSが使う分を除くとモデルに割ける実質メモリは3〜4GB。ここに収まるのが1B〜3B級というわけです。

AppleはiOS 26で「Foundation Models」フレームワークを導入し、端末内蔵の約3Bモデルをアプリから直接呼べるようにしました。Appleの検証では、この約3BモデルがPhi-3-miniやMistral-7B、Gemma-7B、Llama-3-8Bといった、より大きなモデルを上回ったとされています。「大きい＝賢い」が必ずしも成り立たないのが、この分野の面白さです。

スマホのローカルLLM、実際どこまで使える？

正直に言うと、「ChatGPTの完全な代わり」を期待すると、確実にがっかりします。オンデバイスLLMには、はっきりした制約があります。

  • 発熱と電池: NPU（AI処理チップ）をフル稼働させると、**2〜3分で発熱による性能低下（スロットリング）**が起きます。長い会話を延々続ける使い方には向きません（Edge and Mobile LLM Leaderboard 2026）
  • 賢さの上限: クラウドの最先端モデルには及びません。複雑な推論や最新知識が要る作業は、素直にクラウドAIを使うべきです
  • 短い処理向き: 「サッと要約」「サッと翻訳」のような短く終わる用途が本領です

裏を返せば、この制約を理解して使えば強力です。通信なしで動き、入力したデータが端末の外に出ない——この2点は、機密資料の下書きや、電波の届かない場所での作業で本当にありがたい。プライバシーを気にする人にとって、オンデバイスLLMは有力な選択肢です。

⚠️ ここは気をつけて 「ローカルだから安心」と過信しないこと。モデルを配布するアプリ自体の信頼性（怪しいアプリに機密を入れない）や、生成結果のハルシネーションは、クラウドAIと同じく残ります。ローカル化で消えるのは”通信リスク”であって、“AIの間違い”ではありません。

使い心地の位置づけ（筆者の見立て）: ★★★☆☆

  • 話題性・技術的インパクト: ★★★★★
  • オフライン/プライバシー: ★★★★★
  • 賢さ（クラウド比）: ★★★☆☆
  • 常用のしやすさ（発熱・電池）: ★★☆☆☆

あなたへの影響

スマホでLLMが動くようになると、じわじわこんな変化が起きます。

  • プライバシーの選択肢が増える: 「このメモ、クラウドに送りたくないな」というとき、端末内で完結させる道ができる
  • オフラインでもAIが使える: 飛行機・地下・海外の電波が弱い場所でも、要約や翻訳が動く
  • アプリが賢くなる: 開発者が端末内蔵AIを呼べるようになり、通信なしで気の利く機能を持つアプリが増えていく

いますぐ生活が激変するわけではありません。でも、「AIはクラウドで動くもの」という前提が崩れ始めているのは確かです。

試してみたい人は、いきなりBonsai 27Bに挑まなくても大丈夫。まずはGoogleの「AI Edge Gallery」やMLC Chatを入れて、1B級モデルをオフラインで動かしてみるのが、いちばん手軽な第一歩です。機内モードにしても返事が返ってくる体験は、なかなか新鮮ですよ。

まとめ

Bonsai 27Bは、「スマホで動かせるAIの天井」を一段引き上げた象徴的なモデルです。とはいえ本質は、サイズ自慢ではなく「オフラインで、データを外に出さずにAIが使える」という方向性にあります。

クラウドAIとオンデバイスAIは、対立ではなく分担です。賢さが要る仕事はクラウド、プライバシーとオフラインが要る場面は端末——この使い分けが、これからの当たり前になっていきます。まずは手元のスマホで、小さなローカルLLMを一度動かしてみてください。

関連記事

参考にしたソース

ーー Synth

ヘッダー画像: Photo by John (Giannis) Tekeridis on Pexels

S

Synth

explAInのライター。AIの今をやさしく、忖度なしで。

あなたにおすすめの記事

← 記事一覧に戻る