Gemma 4：バイト単位で最も能力の高いオープンモデル
本文の状態
日本語全文を表示中
詳細モードで約3分の本文を読めます。
同じ出来事の情報源
6媒体で確認
Simon Willison Blog · The Decoder · Google Developers JP · TechCrunch AI · InfoQ · CyberAgent Developers Blog
各社の報じ方を比較 ↓Google DeepMindが、2B、4B、31Bサイズの3つの視覚対応推論LLMと、26B-A4BのMixture-of-Expertsモデル、計4つのApache 2.0ライセンスのオープンモデルを発表した。同社は「パラメータあたりの知能レベルが前例ない」と強調し、小型で有用なモデルの開発が現在の研究の最重要分野の一つであることを示している。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
Gemma 4: バイト単位で見れば、最も能力の高いオープンモデル
Google DeepMind から、2B、4B、31B のサイズに加え、26B-A4B の Mixture-of-Experts（専門家の混合）アーキテクチャを採用した、新しいビジョン対応の Apache 2.0 ライセンス付き推論型大規模言語モデル（LLM）が 4 つ登場しました。
Google は「パラメータあたりの知能レベルにおいて前例のないもの」と強調しており、有用な小型モデルを作成することが現在の研究で最もホットな分野の一つであるというさらなる証拠を提供しています。
実際には、2 つの smaller モデルは「Effective（有効）」パラメータサイズを表すため、E2B および E4B とラベル付けされています。システムカードによると以下の通りです。
小型モデルは、オンデバイス展開におけるパラメータ効率を最大化するために、Per-Layer Embeddings（層別埋め込み）を採用しています。モデルに層やパラメータを追加するのではなく、PLE は各デコーダー層に対してトークンごとに独自の小さな埋め込みを提供します。これらの埋め込みテーブルは大きくなりますが、クイックルックアップのためにのみ使用されるため、有効なパラメータ数は総数よりもはるかに小さくなります。
私はその仕組みを完全に理解しているわけではありませんが、どうやら E2B における「E」の意味はそれのようです！
LM Studio の GGUF ファイルを使用して試してみましたが、2B（4.41GB）、4B（6.33GB）、および 26B-A4B（17.99GB）のモデルはすべて完璧に動作しました。一方、31B（19.89GB）のモデルは破損しており、試したすべてのプロンプトに対して「---\n」をループして出力し続けていました。
2B から 4B、そして 26B-A4B へと続く pelican quality の継承は注目すべき点です：
E2B：
E4B:
26B-A4B:
(この画像は実際には SVG エラー「18 行目の 88 カラム目：属性 x1 の再定義」が発生していましたが、それを修正した後、私のノートパソコンで動作するモデルからはおそらくこれまで見た中で最高のペリカンの SVG が生成されました。)
Google は、AI Studio を通じて、2 つのより大きな Gemma モデルへの API アクセスを提供しています。私は llm-gemini にサポートを追加し、その後、その 31B モデルを使用してペリカンの SVG を生成するスクリプトを実行しました：
llm -m gemini/gemma-4-31b-it 'Generate an SVG of a pelican riding a bicycle'
非常に良い出来ですが、自転車のフレームの前部が欠けています。
Tags: google, ai, generative-ai, local-llms, llms, llm, vision-llms, pelican-riding-a-bicycle, llm-reasoning, gemma, llm-release, lm-studio
Gemma 4 は、バイト単位で見れば最も能力の高いオープンモデルです。これは、Google が公開した最新の言語モデルで、従来のオープンソースモデルと比較して、より高い精度と効率性を誇ります。
このモデルは、多様なタスクに対応できるよう設計されており、自然言語処理や画像認識など、幅広い分野で優れたパフォーマンスを発揮します。特に、複雑な推論タスクにおいてその真価を発揮し、ユーザーに高度なサポートを提供します。
Gemma 4 の開発には、Google の最先端技術が結集しており、その結果として生まれたモデルは、オープンソースコミュニティ全体にとって大きな前進となっています。今後も、このモデルの活用を通じて、AI の可能性をさらに広げていくことが期待されます。
原文を表示
Gemma 4: Byte for byte, the most capable open models
Four new vision-capable Apache 2.0 licensed reasoning LLMs from Google DeepMind, sized at 2B, 4B, 31B, plus a 26B-A4B Mixture-of-Experts.
Google emphasize "unprecedented level of intelligence-per-parameter", providing yet more evidence that creating small useful models is one of the hottest areas of research right now.
They actually label the two smaller models as E2B and E4B for "Effective" parameter size. The system card explains:
The smaller models incorporate Per-Layer Embeddings (PLE) to maximize parameter efficiency in on-device deployments. Rather than adding more layers or parameters to the model, PLE gives each decoder layer its own small embedding for every token. These embedding tables are large but are only used for quick lookups, which is why the effective parameter count is much smaller than the total.
I don't entirely understand that, but apparently that's what the "E" in E2B means!
I tried them out using the GGUFs for LM Studio. The 2B (4.41GB), 4B (6.33GB) and 26B-A4B (17.99GB) models all worked perfectly, but the 31B (19.89GB) model was broken and spat out "---\n" in a loop for every prompt I tried.
The succession of pelican quality from 2B to 4B to 26B-A4B is notable:
E2B:
E4B:
26B-A4B:
(This one actually had an SVG error - "error on line 18 at column 88: Attribute x1 redefined" - but after fixing that I got probably the best pelican I've seen yet from a model that runs on my laptop.)
Google are providing API access to the two larger Gemma models via their AI Studio. I added support to llm-gemini and then ran a pelican through the 31B model using that:
llm -m gemini/gemma-4-31b-it 'Generate an SVG of a pelican riding a bicycle'
Pretty good, though it is missing the front part of the bicycle frame:
Tags: google, ai, generative-ai, local-llms, llms, llm, vision-llms, pelican-riding-a-bicycle, llm-reasoning, gemma, llm-release, lm-studio
同じ出来事を6媒体で確認
同じ出来事を扱う別媒体の記事です。見出しと公開時刻を比較できます。
News to Guide
ニュースの次に確認する
発表内容を、現在の料金や仕様と照らし合わせられる関連ガイドです。
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み