Welcome to the AGI era of AI governance｜AI ガバナンスの AGI 時代へ：米国行政機関が Anthropic の最新モデルへのアクセスを強制停止 | AIニュース最前線

アメリカ合衆国行政府が Anthropic に、最新の Claude 5 Mythos/Fable モデルへのアクセスを社内および社外ともに停止させるよう強制したことは、AI ガバナンスにおける新時代の始動を告げるものとなりました。これは、人間の労働者を効果的に補完する AI エージェントを定義し、新たな働き方や既存ツールの適用領域を開拓する時代です。これらのモデルは急速に性能を向上させ続け、より多くのガバナンス課題を迫ることになるでしょう。 共有 フロンティアにおける不安定な均衡 金曜日、市場が閉じた直後、政府は Anthropic に連絡し、そのモデルへのアクセスを外国人または海外のユーザーに対して停止するよう強制しました。この文章を書いている時点でも、この騒動はまだ進行中です。Anthropic と政府がモデルの再公開に関する合意に達する可能性は高いですが、これは新たなタイプの AI ガバナンスを示す混乱した指標です。ホワイトハウスには、Anthropic の最大の金融および技術パートナーである Amazon によってリスクが警告されていました。 これらの動態は非常に複雑であり、状況図が完全ではないものの、この騒動に対する永続的な見解として考えられる点についてのみコメントを提供します： モデルの重み（weights）に対する輸出禁止は、米国にとって永続的かつ否定的な政策となるでしょう。これはオープンソースモデルとクローズドモデルの両方に当てはまりますが、オープンソースモデルの方がまもなく輸入禁止になる可能性が高いにもかかわらずです。 Fable モデルの jailbreak（脱獄）に関するセキュリティ上の懸念は、非常に限定的なものであったとしても正当なものでした。しかし、私はこの一連の出来事が引き起こされるべきではなかったと考えています。なぜなら、どのモデルも完全に jailbreak に免疫を持っているわけではなく、今後数年間で世界のあらゆる組織がこの能力レベルのモデルにアクセスできる世界に向けてインフラを整備する必要があるからです。 過去数年間にわたる Anthropic による絶え間ない恐怖煽りが、この局面を加速させました。AI を核兵器などに例えるような継続的なメッセージがなければ、このようなガバナンス様式はさらに 6 か月から 12 ヶ月（AI の進展の期間）先まで現れなかったと推測されます。Anthropic は自らが蒔いた種を収穫している面があります。 人々は、我が国の指導的 AI 企業が繰り返し潜在的な政治攻撃の対象となっていることを祝うべきではありません（はい、オープンソースコミュニティの人々を見ているのです）。これは経済的に極めて不安定であり、アメリカシステムの経済的安定性を損ないます。十分な程度の不安定性は景気後退を引き起こし、AI バブルを弾けさせる可能性があります。 ホワイトハウスがモデルを禁止するための行動は強権的で、Anthropic に対する強い政治的偏見に影響されています。政府の要求と目標には深い矛盾があります。なぜなら、外国人が米国でフロンティア AI を利用して開発できない場合、国内の AI 産業が存在しないからです。 なぜアマゾンが保有する情報を直接ホワイトハウスに持ち込んだのか、この発表と禁止令に至るまでの経緯（リリース前の議論に関するオンライン上の多くの報告がある）、そして主要なテクノロジー企業とホワイトハウスの間の危機管理が通常どのように進行するのかについて、私には不明です。これは、アンソロピックが政府とどのように関与しているかという奇妙なダイナミクスを示しており、政治的に標的とされたことへの反応である可能性があります。 原因はともかく、これは悪いダイナミクスであり、アンソロピックのここでの関わり方に影を落としています。民間企業が政府をコントロールしようとすれば、政府はより強く反発します。ダリオが実際にウェルネス・リトリート（wellness retreat）にいたというホワイトハウス代表の発言は本当ではないと思いますが、電話の向こう側に誰がいるかを考慮すると、彼の回答が遅すぎたことは確かです。 これらの行き来するダイナミクスについて、私には論理的なことを書くのは難しいですが、これは起きていることの真実にとって非常に重要です。 この状況は非常に複雑です。これは、モデルのリリースが技術的才能が極めて少ない行政機関によって「雰囲気」で判断され、政治的に評価された技術的な評価という曖昧さの背後にリリースが制限される近未来の世界を示唆しています。 これは、私たちが AGI（人工一般知能）時代にあることを内部化している政府です。彼らはそれに対して準備ができておらず、失われた時間を取り戻すために迅速に行動しなければならないと感じています。 これは、まだ AI ガバナンスの ChatGPT 時代にあった政権です——質問に答えるだけのモデルが存在する時代です。彼らの最初の AI アクションプランはこの時代の反映であり、過去の多くの安全性に関する議論が実際には懸念よりも煙と鏡（smoke and mirrors）に過ぎず、オープンソースモデルで追いつくことがいかに急務であったかを強調していました。総合的に見れば、彼らの意見や提言は業界にとって主に同意でき、有用なものでした。 このガバナンスの ChatGPT 時代にあっても、AI 企業は多くの場合、モデルがリスクであり、十分な注意なしにはリリースできないと私たちに伝えていました。主要研究所の多くのスポークスマンは、モデルのパフォーマンスに意味のある飛躍があった際の言語の緊急性を高める余地を、自分自身に対して十分に確保していませんでした。 回答推論からエージェント型推論（agentic inference）へと移行する中で、私は依然としてリスクが過大評価されている立場ですが、最新の AI システムの実際のリスクとそれらを記述するために使われる言語との間の余裕は縮小しています。これにより、主要な AI 研究所以外の権力構造が不安を抱くようになりました。 AI ガバナンスの AGI エラ（時代）への移行とは、世界中の多くの主権国家が AI を真剣に受け止め始める時期を指します。ヨーロッパ、中東、そしておそらく中国もまた、最先端の AI を手放すリスクがあることに気づき始めています。この転換は、オープンソースコミュニティにとって勝利として捉えられています。なぜなら、政府が主要なプラットフォームに対して恣意的に反対する ruling（裁定）を下せるようになる未来において、企業自身が自らのインテリジェンスを制御したいと考えるという長期的な軌道が見えているからです。 この時代を理解するための鍵は、Anthropic と連邦政府の間で起こった出来事、これらが AI ポリシーの歴史における最も大きな出来事の 2 つのように見えるものの、実は今後の展開に向けたスタートの合図に過ぎないということです。これは新しいノーマル（常態）です。既存の権力構造が、急速に台頭する技術に対する自らのコントロールを主張する必要を感じているからです。この過程は混乱し、困難に満ちており、時には危険さえ伴うでしょう。 これらの出来事を追っているとき、私はより多くのことが起こることを知っているため、虚無を見つめるような絶望感に襲われます。世界中で広く拡散され、安全かつ安価な超強力な AI のポジティブなビジョンを実現するために、エスカレーションを緩和する道筋を選ぼうとするには、決意が必要です。 購読する 主権 AI、オープンソースのニーズ、そして間もなく勃発する戦い この一連の出来事を熱狂的に祝うオープンソース AI 推進派は、急速な対応を迫る AI 政策の spotlight が彼らに向けられた時に備えておらず、全く準備ができていません。同様に攻撃的な行動がオープンモデルに対して行われる可能性は非常に高いですが、それが 3 ヶ月後なのか 2 年後なのかはまだ分かりません。 続きを読む

AI ガバナンスの AGI 時代へ：米国行政機関が Anthropic の最新モデルへのアクセスを強制停止

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト