Fugu-Ultra v1.1、コーディング・推論性能向上
Sakana AI は、複数の最先端モデルが協力して問題解決を行う「AB-MCTS」という新しい推論時スケーリングアルゴリズムを発表し、ARC-AGI-2 ベンチマークで単一モデルを大幅に上回る性能を実現した。
AIニュース価値スコアβ
主要ニュースAI関連度、新規性、日本での有用性など6軸を公開検証中です。現在、掲載順には使用していません。
- AI関連度
- 100
- 情報源の信頼性
- 50
- 新規性
- 75
- 検索具体性
- 75
- 重複の少なさ
- 100
- 日本での有用性
- 25
AI モデルの主要な能力強化(コーディング、エージェント、推論)と価格据え置きという明確な新事実が含まれており、新規性が高い。ただし、日本固有の情報や企業事例は含まれていないため、日本の関連性は低めとする。
キーポイント
AB-MCTS アルゴリズムの発表
Sakana AI が発表した「Adaptive Branching Monte Carlo Tree Search (AB-MCTS)」は、複数のフロンティアモデルを協力させて試行錯誤を行うことで、単一モデルでは解決が困難な課題を克服する新しい推論手法である。
集合知による性能向上
Gemini 2.5 Pro、o4-mini、DeepSeek-R1-0528 のような異なるモデルを組み合わせることで、各モデルの独自の強みとバイアスを活用し、人間の専門家チームのような協働効果を生み出している。
ARC-AGI-2 ベンチマークでの成果
初期評価において、AB-MCTS は単一モデルを大幅に上回る成績を収め、複雑な推論タスクにおける集合知の優位性を実証した。
オープンソース化と研究の方向性
Sakana AI は AB-MCTS の実装コード(TreeQuest)を GitHub で公開し、モデルを「混ぜて作る」アプローチから「既存の強力なモデルを混ぜて使う」アプローチへと研究の焦点をシフトしたことを示している。
AB-MCTS のオープンソース化
SakanaAI は AB-MCTS(Adversarial Best-of-K Monte Carlo Tree Search)の実装を GitHub で公開しました。
複数 LLM による ARC-AGI-2 の解決
単一の LLM では解けなかった ARC-AGI-2 の問題事例が、複数の LLM を組み合わせることで解決可能となりました。
誤答の活用による正解導出
o4-mini による初期の誤った試行を、R1-0528 や Gemini-2.5-Pro がヒントとして利用し、最終的に正しい解決策に到達するケースが確認されました。
重要な引用
Our new inference-time scaling algorithm enables collective intelligence for AI by allowing multiple frontier models to cooperate.
Individual frontier models like ChatGPT, Gemini, and DeepSeek are remarkably advanced, each possessing unique strengths and biases stemming from their training, which we view as valuable resources for collective problem-solving.
AB-MCTS combining o4-mini + Gemini-2.5-Pro + R1-0528... significantly outperforming individual models by a substantial margin.
Many ARC-AGI-2 examples that were unsolvable by any single LLM were solved by combining multiple LLMs.
In some cases, an initially incorrect attempt by o4-mini is used by R1-0528 and Gemini-2.5-Pro as a hint to get to the correct solution.
影響分析・編集コメントを表示
影響分析
この発表は、AI の能力向上を単一のモデルの規模拡大や学習データ量に依存する従来のアプローチから、既存の多様なモデルを動的に連携させる「集合知」のアプローチへと転換させる重要な転換点となる可能性があります。特に複雑な推論タスクにおいて、異なる専門性を持つモデルを組み合わせることで、より頑健で高度な問題解決能力を実現できる道筋を示しており、今後の AI エージェントやシステム設計の新たな標準となる可能性を秘めています。
編集コメント
Sakana AI のこのアプローチは、AI の「個別の能力」を最大化するのではなく、「多様性の統合」によって新たな知能を生み出すという、非常に示唆に富む視点を提供しています。特に、異なるモデル間のバイアスを補完し合う仕組みは、実社会での複雑な課題解決に向けた重要なステップと言えるでしょう。
AB-MCTS の発表です!
この新しい推論時のスケーリングアルゴリズムは、Gemini 2.5 Pro や o4-mini、DeepSeek-R1-0528 といった複数の最先端モデルが連携することで、AI における集合知を実現します。
ブログ: sakana.ai/ab-mcts
人類の集合知が、多様な思考を持つ人々の協働によって最大の成果を生み出すように、AI にも同じ原理が適用できると考えています。ChatGPT、Gemini、DeepSeek といった個々の最先端モデルは非常に高度ですが、それぞれ学習データに由来する独自の強みやバイアスを持っています。これらは集合知による問題解決において貴重なリソースと捉えています。
AB-MCTS(Adaptive Branching Monte Carlo Tree Search)は、こうした各モデルの個性を活用し、複数のモデルが協力して効果的な試行錯誤を行うことで、単一の AI には難しい課題を解決します。ARC-AGI-2 ベンチマークでの初期結果は有望で、o4-mini、Gemini-2.5-Pro、R1-0528 という現在の最先端モデルを組み合わせた AB-MCTS は、個々のモデルを大幅に上回る性能を示しました。
本研究は、2024 年に発表した進化的モデル統合に関する知見を踏襲しつつ、「混ぜて新しいものを作る」アプローチから、「既存の強力な AI を混ぜて活用する」アプローチへと焦点をシフトしました。Sakana AI では引き続き、進化や集合知といった自然に着想を得た原理を応用し、革新的な AI システムの開拓に取り組んでいきます。本成果は、AI システムが人間の専門家チームのように協力して複雑な課題に取り組み、新たな問題解決能力を開花させ、単一モデルの限界を超えていく未来への一歩だと考えています。
アルゴリズム(TreeQuest): github.com/SakanaAI/treeq…
ARC-AGI 実験: github.com/SakanaAI/ab-mc…
o4-mini、Gemini-2.5-Pro、R1-0528 という現在の最先端 AI モデルを AB-MCTS で組み合わせることで、ARC-AGI-2 ベンチマークにおいて強力なパフォーマンスを発揮し、単独モデルと比較して大幅に上回る結果となりました。
AB-MCTS の実装コードをオープンソース化しました:
LLM 1 つでは解決できなかった ARC-AGI-2 の多くの例題も、複数の LLM を組み合わせることで解決できました。あるケースでは、o4-mini が最初に誤った試行を行った結果を、R1-0528 と Gemini-2.5-Pro がヒントとして活用し、正解へと導くことができました。
ARC-AGI-2 のコード: github.com/SakanaAI/ab-mc…
原文を表示
We’re excited to introduce AB-MCTS!
Our new inference-time scaling algorithm enables collective intelligence for AI by allowing multiple frontier models (like Gemini 2.5 Pro, o4-mini, DeepSeek-R1-0528) to cooperate.
Blog: sakana.ai/ab-mcts
Paper: arxiv.org/abs/2503.04412
Inspired by the power of human collective intelligence, where the greatest achievements arise from the collaboration of diverse minds, we believe the same principle applies to AI. Individual frontier models like ChatGPT, Gemini, and DeepSeek are remarkably advanced, each possessing unique strengths and biases stemming from their training, which we view as valuable resources for collective problem-solving.
AB-MCTS (Adaptive Branching Monte Carlo Tree Search) harnesses these individualities, allowing multiple models to cooperate and engage in effective trial-and-error, solving challenging problems for any single AI. Our initial results on the ARC-AGI-2 benchmark are promising, with AB-MCTS combining o4-mini + Gemini-2.5-Pro + R1-0528, current frontier AI models, significantly outperforming individual models by a substantial margin.
This research builds on our 2024 work on evolutionary model merging, shifting focus from “mixing to create” to “mixing to use” existing, powerful AIs. At Sakana AI, we remain committed to pioneering novel AI systems by applying nature-inspired principles such as evolution and collective intelligence. We believe this work represents a step toward a future where AI systems collaboratively tackle complex challenges, much like a team of human experts, unlocking new problem-solving capabilities and moving beyond single-model limitations.
Algorithm (TreeQuest): github.com/SakanaAI/treeq…
ARC-AGI Experiments: github.com/SakanaAI/ab-mc…
The AB-MCTS combination of o4-mini + Gemini-2.5-Pro + R1-0528, current frontier AI models, achieves strong performance on the ARC-AGI-2 benchmark, outperforming individual models by a large margin.
We open-sourced our implementation of AB-MCTS:
Many ARC-AGI-2 examples that were unsolvable by any single LLM were solved by combining multiple LLMs. In some cases, an initially incorrect attempt by o4-mini is used by R1-0528 and Gemini-2.5-Pro as a hint to get to the correct solution.
ARC-AGI-2 code:
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み