Amazon のセキュリティ研究がホワイトハウスの Anthropic Fable 禁止に繋がったと報じられる
Amazon のセキュリティ研究と CEO アンドー・ジャシー氏のホワイトハウスへの働きかけが要因となり、米国政府が Anthropic の Fable 5 および Mythos 5 モデルの輸出規制を強化し、外国人研究者によるアクセスも制限された。
キーポイント
規制発動の直接的要因
Wall Street Journal の報道によると、Amazon が特定のプロンプトを通じて Fable 5 をサイバー攻撃に悪用可能な情報を出力させることに成功したというセキュリティ研究が、輸出管理指令の発動トリガーとなった。
ホワイトハウスとの協議と決定
Amazon CEO の Andy Jassy が米国政府高官と協議し、その知見を共有した後、外国籍者によるこれらのモデルへのアクセス禁止措置が迅速に講じられた。
Anthropic の反論と「脱獄」の否定
Anthropic は政府の発表を「脱獄（jailbreak）」と呼ぶことに異議を唱え、同様の脆弱性は GPT 5.5 など他社の公開モデルでも発見可能であると主張している。
外国人研究者への波及影響
規制により Anthropic の多くの外国籍出身の研究者が自社の製品にアクセスできなくなったという、開発体制への直接的な悪影響が生じている。
影響分析・編集コメントを表示
影響分析
このニュースは、AI モデルのセキュリティ評価が単なる技術的な議論から、地政学的な輸出管理や国家安全保障の文脈で厳格に扱われるようになったことを示す重要な転換点です。特に、競合他社（Amazon）の研究結果が即座に規制措置へと繋がり、開発者の国籍を理由としたアクセス制限が発生した点は、AI 業界全体のパラダイムシフトを意味します。今後、モデルの公開や研究協力におけるコンプライアンスリスクがさらに高まり、企業間の情報共有や国際的な共同研究のハードルが上がる可能性があります。
編集コメント
競合企業のセキュリティ報告が政府の規制決定に直結するケースは極めて異例であり、AI セキュリティ評価の政治的側面が顕在化しています。企業間の情報共有や研究発表が、単なる技術競争から地政学的なリスク管理へとシフトしている現状を如実に示す事例です。
Terrence O'Brien
は The Verge の週末編集者です。18 年以上の経験があり、そのうち Engadget で 10 年間編集長を務めました。
Wall Street Journal の報道によると、Anthropic が Fable 5 と Mythos 5 へのアクセスを切断した輸出管理指令は、Amazon のサイバーセキュリティ研究と CEO アンディ・ジャシー氏とホワイトハウスとの会談がきっかけとなった一部です。報道によれば、Amazon の論文では、一連のプロンプトを通じて Fable 5 がサイバー攻撃に利用可能な情報を提供できることを示したと主張しています。Amazon はまだコメント依頼への回答をしていません。
ジャシー氏が同社の発見を政府に共有した後まもなく、外国籍者による使用をブロックする決定が下されました。この問題を複雑にしているのは、Anthropic の研究者の多くが海外生まれであり、彼ら自身が自社の製品にアクセスできなくなった点です。
Anthropic は 声明 において、政府がこの問題を「脱獄（jailbreak）」と表現したことに異議を唱えました。同社は、GPT 5.5 を含む他の公開されているモデルを用いても、同じ脆弱性の多くが発見され得ると主張しています。一部のセキュリティ研究者は、企業の解釈を支持しているようです。LutaSecurity の創設者兼 CEO であるケイティ・ムッソウリス氏は BlueSky に投稿 し、「論文を読んだが、これは脱獄ではない」と述べています。元商務省高官の ケイト・コーレン 氏は『WSJ』に対し、ホワイトハウスが Anthropic を嫌っていることがこの決定に影響した可能性があると推測しています。
アンソロピックとトランプ政権は、同社が AI を米国人の大量監視に使用したり、致命的自律兵器を駆動するために利用することを拒否している件で、ある期間にわたり対立してきました。2 月にはトランプが連邦機関に対しアンソロピックの AI の使用を停止するよう指示しました。そして数時間後、国防長官のピーター・ヘグセットは同社をサプライチェーンリスクとして指定しました。
政府と企業は和解したように見え、両者は Mythos へのアクセスを拡大するために協力していました。しかし現在、再び衝突が避けられない状況にあるようです。
このストーリーのトピックや著者からフォローして、パーソナライズされたホームページフィードで類似の記事をもっと見たり、メール更新を受け取ったりしてください。
- Terrence O'Brien
-
-
-
-
-
-
原文を表示
Terrence O'Brien
is the Verge’s weekend editor. He has over 18 years of experience, including 10 years as managing editor at Engadget.
According to the* Wall Street Journal*, the export control directive that led to Anthropic cutting off access to Fable 5 and Mythos 5 was triggered in part by cybersecurity research from Amazon and conversations between CEO Andy Jassy and the White House. According to the report, the paper from Amazon claims that, through a series of prompts, it was able to get Fable 5 to serve up information that could be used in cyberattacks. Amazon has yet to respond to a request for comment.
Shortly after Jassy shared the company’s findings with the government, it made the call to block its use by foreign nationals. Complicating this issue is that many of Anthropic’s researchers are foreign-born, meaning they were barred from accessing their own product.
In a statement, Anthropic disputed the government’s characterization of the issue as a “jailbreak.” It argued that many of the same vulnerabilities could be discovered using other publicly available models, including GPT 5.5. Some security researchers appear to back the company’s interpretation. Katie Moussouris, the founder and CEO of LutaSecurity posted on BlueSky that “I’ve seen the paper. It’s not a jailbreak.” Former Commerce Department official Kate Koren speculated to the *WSJ* that the White House’s dislike of Anthropic may have influenced the decision.
Anthropic and the Trump administration have been at odds for some time over the company’s refusal to allow its AI to be used for mass surveillance of Americans or to power lethal autonomous weapons. In February, Trump instructed federal agencies to stop using Anthropic’s AI. And just hours later, Secretary of Defense Pete Hegseth designated the company a supply chain risk.
The government and the company seemed to have made amends, and the two had worked together to expand access to Mythos. However, now the two seem destined to clash again.
Follow topics and authors from this story to see more like this in your personalized homepage feed and to receive email updates.
- Terrence O'Brien
-
-
-
-
-
-
-
-
関連記事
米国政府が Anthropic の Fable および Mythos アクセスを強制停止
米国政府は金曜日夜、高性能 AI モデル「Fable」および「Mythos」へのアクセスを Anthropic に強制停止させた。規制の無秩序な適用により、AI 開発者の世界が劣化すると指摘されている。
中国が「Mythos」にアクセスした可能性、ホワイトハウスが輸出規制の理由に
セマフォールの新報告によると、ホワイトハウスはAnthropic社の生成AIモデル「Mythos」が中国関連グループにアクセスされた恐れから輸出制限を決定した。もし中国政府が同モデルにアクセスしていれば、深刻な国家安全保障上の懸念が生じるという。
AI ガバナンスの AGI 時代へ：米国行政機関が Anthropic の最新モデルへのアクセスを強制停止
米国の行政機関が Anthropic に対し、最新の Claude 5 Mythos/Fable モデルへの内部・外部アクセスを強制停止させたことが、AI ガバナンスの新時代の幕開けとなった。この措置は、人間労働者を補完する AI エージェントの定義や、急速に進化するモデルによるガバナンス課題の増大を示唆している。
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み