「スマホで動く」270億パラメーターLLM「Bonsai 27B」登場
本文の状態
日本語全文を表示中
詳細モードで約2分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
ITmedia AI+
カリフォルニア工科大学発のPrismMLは、スマートフォンで動作する初の27BクラスLLM「Bonsai 27B」を発表し、1ビット量化により3.9GBで実行可能としつつ性能を維持する技術を実現した。
AI深層分析を開く2026年8月1日 03:49
AI深層分析
キーポイント
PrismMLによる新モデル発表
米カリフォルニア工科大学発のAIスタートアップ企業、PrismMLが7月15日、「スマートフォン上で動作する初の27Bクラスモデル」であるLLM「Bonsai 27B」を発表した。
極端な量子化によるサイズ削減
各パラメータの重みを1〜2ビット程度に削減することで、スマートフォン向けの「1-bit Bonsai 27B」は3.9GB（有効1.125ビット／重み）に縮小し、iPhoneでの実行を可能にした。
高性能維持とオープンソース化
同社によるとベンチマークでフル精度モデルの90〜95%の性能を維持しており、「Qwen3.6 27B」ベースのマルチモーダルモデルとしてApache 2.0ライセンスで公開される。
重要な引用
「スマートフォン上で動作する初の27Bクラスモデル」をうたうLLM「Bonsai 27B」を発表した
「1-bit Bonsai 27B」は、重みを「－1」と「＋1」の2値で表現し、3.9GB（有効1.125ビット／重み）に縮小
Ternary版はフル精度モデルの性能の95％を、1-bit版は90％を維持した
編集コメントを表示
編集コメント
27Bクラスの大規模モデルを3GB台で動作させる技術は、オンデバイスAIの実用化に向けた大きな転換点となる。Apache 2.0ライセンスでの公開により、開発コミュニティにおける実装と改良が加速することが期待される。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
「スマホで動く」270億パラメーターLLM「Bonsai 27B」登場
公開
2026年07月17日 10時59分
更新
2026年07月19日 08時40分
米カリフォルニア工科大学発のAIスタートアップ企業、PrismMLは7月15日（現地時間）、「スマートフォン上で動作する初の27Bクラスモデル」をうたうLLM「Bonsai 27B」を発表した。
「Qwen3.6 27B」をベースとしたマルチモーダル対応モデル。商用利用可能な「Apache 2.0」ライセンスの下でオープンソースで提供する。
PrismMLのニュースリリースより
27Bモデルは通常、16ビット精度で約54GBのメモリを占有する。4ビット版でも約18GBとなるため、スマートフォンやノートPCで動かすのは現実的ではなかった。
特にスマートフォンは、限られたメモリをKVキャッシュやアクティベーション、ランタイムなどと共有する必要があるなど、制約が厳しい。
Bonsai 27Bは、各パラメータの重みを1～2ビット程度にまで削減することでモデル全体のサイズを大幅に縮小した。
スマートフォン向けのサイズに最適化した「1-bit Bonsai 27B」は、重みを「－1」と「＋1」の2値で表現し、3.9GB（有効1.125ビット／重み）に縮小。27BクラスのモデルをiPhoneで実行可能な容量に収めたとしている。
ノートPC向けの品質に最適化した「Ternary Bonsai 27B」は5.9GB（有効1.71ビット／重み）で、重みを「－1」「0」「＋1」の3値で表現する。
同社によると、知識、推論、数学、コーディング、指示追従、ツール使用、視覚認識にわたる15のベンチマークで評価した結果、Ternary版はフル精度モデルの性能の95％を、1-bit版は90％を維持したという。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
-
-
SpecialPR
原文を表示
「スマホで動く」270億パラメーターLLM「Bonsai 27B」登場
公開
2026年07月17日 10時59分
更新
2026年07月19日 08時40分
米カリフォルニア工科大学発のAIスタートアップ企業、PrismMLは7月15日（現地時間）、「スマートフォン上で動作する初の27Bクラスモデル」をうたうLLM「Bonsai 27B」を発表した。
「Qwen3.6 27B」をベースとしたマルチモーダル対応モデル。商用利用可能な「Apache 2.0」ライセンスの下でオープンソースで提供する。
PrismMLのニュースリリースより
27Bモデルは通常、16ビット精度で約54GBのメモリを占有する。4ビット版でも約18GBとなるため、スマートフォンやノートPCで動かすのは現実的ではなかった。
特にスマートフォンは、限られたメモリをKVキャッシュやアクティベーション、ランタイムなどと共有する必要があるなど、制約が厳しい。
Bonsai 27Bは、各パラメータの重みを1～2ビット程度にまで削減することでモデル全体のサイズを大幅に縮小した。
スマートフォン向けのサイズに最適化した「1-bit Bonsai 27B」は、重みを「－1」と「＋1」の2値で表現し、3.9GB（有効1.125ビット／重み）に縮小。27BクラスのモデルをiPhoneで実行可能な容量に収めたとしている。
ノートPC向けの品質に最適化した「Ternary Bonsai 27B」は5.9GB（有効1.71ビット／重み）で、重みを「－1」「0」「＋1」の3値で表現する。
同社によると、知識、推論、数学、コーディング、指示追従、ツール使用、視覚認識にわたる15のベンチマークで評価した結果、Ternary版はフル精度モデルの性能の95％を、1-bit版は90％を維持したという。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
-
-
SpecialPR
AI算出
主要ニュースainew評価高い
AI モデルの大幅な軽量化（1-2 ビット量子化）によるスマホ実行という明確な技術的ブレークスルーを報じており、新規性が高い。ただし、発表元が米国企業であり日本固有の導入情報や規制情報が含まれていないため、日本の関連性は限定的である。
6つの評価軸を見る
- AI関連度
- 100
- 情報源の信頼性
- 75
- 新規性
- 75
- 調べる価値
- 75
- 重複の少なさ
- 100
- 日本での有用性
- 25
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み