動画記事 · Two Minute Papers
ディープマインドの AI 手法、全人類が模倣すべき
動画の文字起こしと公開情報をもとにAIで要約・構成しています。 正確な発言は元動画と時間位置で確認してください。
まず要点
ディープマインドが開発したGemma 4は、従来の専門的なエンコーダーを排除し画像や音声を直接トークン化して統合処理する新アーキテクチャにより、小型モデルでも高度なマルチモーダル能力を実現している。
ディープマインドの「Gemma 4」が示す、AI の未来は巨大化ではなく統合にあった
現在の AI モデルはパラメータ数が桁違いに増え続ける一方、「画像を見られない」という皮肉な欠陥を抱えていました。しかし、ディープマインドが開発したオープンソースモデル「Gemma 4」は、その規模の 99% も小さくしながらも、見ること・聞くこと・考えることを一つの脳で完結させる画期的な技術を実現しました。
これは単なる小型化の話ではなく、「見る」「聞く」「考える」の境界を曖昧にするアーキテクチャの転換点であり、次世代 AI 開発における最も重要な指針となるでしょう。
巨大モデルの限界と、99% 小さい「Gemma 4」の登場
現在、AI モデルはほぼ滑稽なほど巨大化しています。DeepSeek のような大規模なオープンモデルですら、パラメータ数が 1.6 兆に達しており、これを実行するには数十万ドルものコストがかかります。
しかし、こうした超巨大モデルに画像を見せ、「この画像は何ですか?」と問うと、驚くべきことに「分からない」と答えるのです。彼らは見ることができないのです。
そんな中、ディープマインドが公開したのが「Gemma 4」です。これは比較対象となる巨大モデルの 99% も小さい、塵ほどの存在ですが、なんと画像認識能力を備えています。ローカルのノートパソコンで動作し、すでに 3 億回以上ダウンロードされたこのモデルは、無料かつオープンソースであり、その性能は「絶対的な宝石(absolute gem)」と呼ぶにふさわしいものです。
専門エンコーダーの廃止:統合アーキテクチャの実現
従来の AI は、画像や音声のために別々のニューラルネットワーク(専門エンコーダー)を接続するものでした。画像には視覚モデルを、音声には聴覚エンコーダーを用意し、それぞれが翻訳された情報をやり取りする仕組みでした。
これは「見ている」のではなく、「別のネットワークが作った翻訳を渡されている」に過ぎません。
Gemma 4 はこの常識を完全に覆しました。ディープマインドの科学者たちはこう言います。「それらをすべて捨てろ」。彼らが採用したのは、以下のような単純かつ強力なアプローチです。
- 画像処理: 画像を小さなパッチ(断片)に分割し、ピクセル情報を直接モデル内部の表現へ投影します。これにより、各パッチがどこから来たのかという位置情報も保持されます。
- 音声処理: 音声を 40 ミリ秒のチャンクに切り分け、トークン化します。
そして、これらのデータをすべて主トランスフォーマー(メインの脳)へ直接投入します。専門的なエンコーダーは不要なのです。
「目」「耳」「脳」を同時に持つシステム
このアーキテクチャの最大の特徴は、システムが「目」「耳」「脳」として同時に機能することを強制される点にあります。
従来のように情報を翻訳して渡すのではなく、生データ(トークン)を直接処理させることで、モデル自身が見ることと聞くことを学習せざるを得なくなります。これにより、数百億個の専門パラメータが不要となり、「知覚」と「思考」の境界線が曖昧になります。
「このシステムは、目でもあり耳であり脳でもあるように学ぶことを強制されます。これは Gemma 4 における最も重要なアーキテクチャ上のアイデアの一つです。」
その結果、Gemma 4 は自分の体重以上の力(punches way above its weight)を発揮します。画像も音声も扱い、かつ非常に賢い推論能力を持つのです。
オープンソースへの感謝と、今後の課題
Gemma 4 の意義は、このモデル自体が素晴らしいことだけではありません。ディープマインドがこの「秘密のレシピ(secret sauce)」を公開したことで、DeepSeek や他のシステムも、より効率的に視覚を理解する方法を学ぶことができるようになります。
しかし、話者は同時に警告もしています。これらの素晴らしいオープンモデルが今後も自動的に提供され続けることは、自然法則ではありません。能力が高まるにつれて、無料の贈り物が止まる可能性もあるのです。
「世界中でオープンモデルに取り組む人々はすべてヒーローです。彼らは科学者や学生、そして数百万の人々の仕事をより良くするために貢献しています。私たちはコミュニティとして、これらのオープンシステムを支援するためにできる限りのことをするべきです。」
Gemma 4 は、リソース制約のある環境でも高度なマルチモーダル処理を可能にし、ローカル AI の実用性を劇的に高める転換点となりました。業界全体が「巨大化」から「効率化と統合」へとパラダイムシフトを迫られる今、オープンソースコミュニティの重要性はかつてないほど高まっています。
Original Source
元動画で発言を確認
プレイヤーは必要になるまで読み込みません。YouTubeのCookieと通信も再生を選ぶまで開始しません。
時間位置から根拠を確認
章や引用を選ぶと、元動画をその位置から再生します。