グーグルのデミス・ハサビス氏、米国主導のグローバル AI 監視機関設立を提唱
Google DeepMind のデミス・ハサビス CEO は、AGI 実現の目前において、米国主導で「AI 監視機関」を設立し、危険なモデルに対して停止権限を持つべきだと提唱している。
キーポイント
米国主導のグローバル監視機関の提唱
ハサビス氏は、経済的・技術的な優位性から米国が世界基準を設定するリーダーとなるべきとし、金融業界規制当局（FINRA）に似た権限を持つ組織を提案している。
モデルリリース前の評価と停止権限
新機関は独立した専門家やオープンソースコミュニティの代表から構成され、 Frontier モデルのリリース前に安全性を評価し、リスクが高いと判断された場合は業界全体のデプロイを一時停止する権限を持つ。
AGI 実現への緊迫感
ハサビス氏は人工一般知能（AGI）が数年以内に実現すると予測し、現在を「特異点のふもとの新時代の幕開け」と位置づけ、規制の必要性が極めて切迫していると強調している。
重要な引用
The US should lead the initiative, arguing that the country is the best place to set global standards given its economic and technical standing.
When we look back on this time in the decades to come, I think we will realise we were standing in the foothills of the singularity - nothing less than the dawning of a new age for humanity.
The organization... would have the authority to evaluate frontier models before they are released and coordinate an industry-wide slowdown if they were judged too risky to deploy.
影響分析・編集コメントを表示
影響分析
この提言は、AI 業界における自主規制から、実効力のある国際的な法的・行政的枠組みへの転換を促す重要なシグナルです。特に米国主導という点と「停止権限」の付与は、今後の AI ガバナンスの議論や各国政府の政策決定に直接的な影響を与える可能性が高く、業界全体のパラダイムシフトを引き起こす重大な出来事と言えます。
編集コメント
業界の頂点に立つ Google の CEO が、自社の利益を超えて「停止権限」を持つ厳格な国際規制を提唱した点は極めて異例であり、AI セーフティへの危機感が頂点に達していることを示唆しています。
ロバート・ハート
The Verge のロンドン拠点記者。AI 関連のニュースを幅広く担当し、シニア・タッベルフェローでもあります。以前は Forbe で健康、科学、テクノロジー分野の記事を書いていました。
デミス・ハサビス氏は、最先端モデルが危険になりすぎた際にブレーキをかけられる権限を持つ AI 監視機関が必要だと考えています。
Google DeepMind の CEO 兼共同創業者であるハサビス氏は、LinkedIn のブログ記事で、米国がこのイニシアチブを主導すべきだと主張しました。その理由は、経済力と技術力を考慮すれば、世界基準を設定するのに最も適した国だからです。この組織は金融業界規制局（FINRA）のような既存の規制機関に似ており、独立系の主要な専門家やオープンソースコミュニティの代表者で構成されます。リリース前の最先端モデルを評価する権限を持ち、実装が危険と判断された場合は業界全体での一時停止を調整できる力を持っています。
「最先端 AI と新たな時代の幕開け」と題されたこのブログ記事では、AI システムの高度化に伴い、世界的な規制の必要性がより切迫しているとの見解を示しました。人工一般知能（AGI）は「おそらくあと数年で実現するだろう」とハサビス氏は語ります。「数十年後に振り返った時、私たちは特異点のふもとの山肌に立っていたことに気づくでしょう。それは人類にとって新たな時代の幕開けに他なりません。」
Axios の取材によると、ハサビス氏はこの提案に対する支持を数ヶ月かけて静かに築き上げてきた。トランプ政権や他の AI ラボ、欧州の当局者らへの説明会を行い、年内に新組織が稼働するよう期待しているという。同氏はこの点について Axios に「トランプ政権から聞こえてくる反応は非常に前向きだ」と語った。
この提案は、ハサビス氏をはじめとする業界リーダーたちが、ますます強力になる AI システムのガバナンスに向けた一貫した枠組みを確立し、それらがもたらすリスクを軽減しようとする最新の取り組みの一つである。
原文を表示
Robert Hart
is a London-based reporter at *The Verge* covering all things AI and a Senior Tarbell Fellow. Previously, he wrote about health, science and tech for *Forbes*.
Demis Hassabis thinks the world needs an AI watchdog with the power to hit the brakes if frontier models become too dangerous.
Writing in a blog post, the Google DeepMind CEO and cofounder said the US should lead the initiative, arguing that the country is the best place to set global standards “given its economic and technical standing.” The organization, which could resemble existing regulators like the Financial Industry Regulatory Authority, would be made up of leading independent experts and representatives from open-source communities and would have the authority to evaluate frontier models before they are released and coordinate an industry-wide slowdown if they were judged too risky to deploy.
The blog, titled “A Framework for Frontier AI and the Dawning of a New Age,” argued that the need for global regulation is becoming more urgent as AI systems grow in sophistication. Artificial general intelligence (AGI) “is probably only a few short years away,” he said. “When we look back on this time in the decades to come, I think we will realise we were standing in the foothills of the singularity - nothing less than the dawning of a new age for humanity.”
According to Axios, Hassabis has spent months quietly building support for his proposal, including briefing the Trump administration, other AI labs, and European officials, and hopes to have the new organization up and running before the end of the year. He told *Axios* that “the noises I’ve been hearing [from the Trump administration] are very positive.”
The proposal is the latest effort by Hassabis and other industry leaders to establish a coherent framework for governing increasingly powerful AI systems, as well as mitigate the risks they may pose.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み