マルチエージェント AI セーフティ研究への投資について

2026 年 6 月 11 日 責任と安全性 Google DeepMind、Schmidt Sciences、Cooperative AI Foundation、ARIA および Google.org マルチエージェント世界における AI セーフティ研究のスケーリング 過去 10 年間、私たちは個々の AI モデルをより有能で、役立ち、安全なものにすることに注力してきました。本日、Google DeepMind は [Schmidt Sciences](https://www.schmidtsciences.org/)、[Cooperative AI Foundation](https://www.cooperativeai.com/foundation)、[Advanced Research and Invention Agency](https://aria.org.uk/opportunity-spaces/trust-everything-everywhere/scaling-trust/) と連携し、[Google.org](http://google.org/) の支援のもと、世界中の研究者を対象とした最大 1000 万ドルの新たな技術研究資金助成を発表します。 AI テクノロジーがスケールするにつれ、私たちは新しい時代へと入りつつあります。まもなく、異なる組織によって構築された数百万の AI エージェントがデジタル環境を横断して相互作用し、互いに通信し、交渉し、取引を行うようになります。 これらのシステムが相互作用する際には、安全かつ予測可能に行われなければなりません。この転換は重要な機会を生み出します：私たちは最初から AI エコシステム全体の安全性と安定性を強化することができます。 今回の資金助成は、大規模なマルチエージェント AI システムがグループとしてどのように振る舞うか、また潜在的なリスクを理解し緩和するための枠組みをどう提供できるかを研究することに焦点を当てています。世界中の研究者に権限を与えることで、私たちは異なるネットワーク間で独立したシステムが相互作用する際に生じる「見えない」安全性リスクの解決を目指します。 ## エージェント生態系が重要な理由 大規模な AI エージェント群が相互作用する際、新たな集合的振る舞いや能力が突如として現れる可能性があります。現在、私たちはこれらの移行を予測・測定・監視するためのツールを持っていません。ほとんどの安全性評価はモデルを孤立した状態で分析しますが、[私たちが](https://arxiv.org/abs/2512.16856)や[他の研究者](https://www.cooperativeai.com/post/new-report-multi-agent-risks-from-advanced-ai)が以前から主張してきたように、相互作用する自律型エージェントは予測困難な複雑で「創発的（emergent）」な振る舞いを生み出す可能性があります。 これは新しい研究領域であるため、これらの移行がどのように発生するかを理解することが極めて重要です。例えば、予期せぬ経済活動の激化を引き起こしたり、新たなセキュリティ課題をもたらしたりする可能性はないでしょうか？システム全体のこうした振る舞いをどう管理するかを理解することが、私たちの核心的な目標です。 ## 多エージェント安全性研究の最前線の拡大 多エージェント安全性のための基礎的な枠組みは存在しますが、これらのシステムの急速な進化に対応するため、即座に大規模な研究拡大が必要です。 私たちの[2025 年の研究](https://arxiv.org/abs/2512.16856)はこれらの相互作用を理解するための枠組みを確立しましたが、最近の [AI エージェントトラップ（AI Agent Traps）](https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6372438) に関する研究では、敵対的環境においてエージェントが直面する脆弱性を探求しています。今こそ、より迅速に進む必要があります。多エージェント相互作用の複雑さが既存の安全性モデルを凌駕し始めている重要な分岐点に私たちはいます。 この資金提供要請は、独立した研究者たちのグローバルネットワークを支援することで進展を加速させることを目的としています。すべての人にとって安全基準が透明かつ堅牢であることを確保するためには、多様なコミュニティが不可欠です。 この取り組みはまた、シュミット・サイエンシーズの[信頼できる AI の科学](https://www.schmidtsciences.org/trustworthy-ai/)および [AI エージェント](https://www.schmidtsciences.org/ai-agents/)プログラムの使命を推進するものであり、これらは最先端 AI システムからのリスクを理解し軽減するための基盤となる研究を支援しています。また、ARIA の[信頼の拡大](https://aria.org.uk/opportunity-spaces/trust-everything-everywhere/scaling-trust/)プログラムも同様に、新たな形態のサイバー・フィジカルなマルチエージェント協調を実現することを目指しています。 ## 協力的な行動要請 単一のラボがマルチエージェントの安全性を一人で解決することはできません。私たちは学術機関および独立した研究者に対し、4 つの優先分野において提案書の提出を呼びかけます。 - サンクボックスとテストベッド：マルチエージェント安全性のすべての分野における評価、比較、および進展加速のために、現実的で再現可能な環境を構築すること。これには、仮想マーケットプレイス、シミュレーションされた生態系、および多組織ワークフローが含まれます。 - エージェントネットワークの科学：相互作用するエージェント集団の安全性に関連する性質を理解すること。これには、集合的な能力がどのように発生し拡大するか、ネットワークがどのように失敗または不安定化するか、そして危険で予期しない集団レベルの性質をどのように検出するかを探求することが含まれます。 - エージェントインフラの強化：クロスプラットフォームのエージェント相互作用のためのアイデンティティ、評判、コミットメントのプロトコルに対するストレステストの実施。 - 監視と制御：展開されたエージェント集団を監視し、大規模な集合的害を軽減するための手法の開発。 ## 参加方法 私たちは研究者に対し、提案募集要項のレビューに参加し、マルチエージェント未来のための安全な基盤構築にご協力いただくよう呼びかけます。 応募締切は2026年8月8日で、受賞者の発表は2026年秋に予定されています。 技術要件および申請プロセスの詳細については、[申請ポータル](https://schmidtsciences.smapply.io/prog/scaling_ai_safety_for_a_multi_agent_world)をご覧ください。

マルチエージェント AI セーフティ研究への投資について

背景や根拠まで確認しますか？

調べる

選ぶ

サイト