米国政府が Anthropic の Fable および Mythos アクセスを強制停止
米国政府が Anthropic の生成 AI モデル「Fable」および「Mythos」に対し、広義のセキュリティ懸念を理由にアクセス停止命令を出し、輸出規制によって強制的にサービス終了に至らしめた事案。
キーポイント
政府による強制撤去と輸出規制
ホワイトハウスは Anthropic の説得に応じず、Fable と Mythos のアクセス停止を命令し、実行しない場合は輸出規制を科すことで強制的にサービス終了に至らせた。
技術的誤解と過剰反応
政府は狭義の jailbreak（脱獄）を検知したが、同様の出力は GPT-5.5 などの他モデルでも標準的に生成可能であり、 Anthropic が「修正すべき状況ではない」と説明しても無視された。
業界への深刻な影響と先例
この事案は米国の AI に対する信頼、ビジネス環境、海外人材の採用、そして法支配に対する永続的なダメージを与える悪しき先例となり得る。
政府の動機と今後の不確実性
政府がなぜこの決断を下したのか、その混乱の深さ、および将来的な対応策については依然として不明瞭な点が多い。
政府の行動力と将来への教訓
今回の措置により、経済や政治的なコストがかかっても必要な時には政府が行動する意志があることが示された。今後は緊急事態に備えて、適切な対応策（停止や調整など）を事前に確立しておく必要がある。
権威主義的転換のリスク
今回の出来事が単なる誤解ではなく、政府が AI ラボを強制的に支配しようとする権威主義的な動きの一環である可能性も否定できない。
企業の過信と信頼性の喪失
企業が「状況は安全だ」と主張して実際には危険だった場合、政府の判断が正しかったことが証明される可能性がある。その場合、Anthropic は全面的に信用を失うことになる。
影響分析・編集コメントを表示
影響分析
このニュースは、AI 開発企業と規制当局の間の深刻な認識齟齬を示しており、技術的な実情よりも政治的判断やパニック反応が優先された結果、業界全体に不信感をもたらす重大な先例となりました。特に、米国政府が輸出規制を武器にして民間企業の製品を強制的に停止させた点は、今後の AI ガバナンスの在り方や国際的な信頼関係に大きな影を落としています。
編集コメント
技術的な実証がなされたにもかかわらず、政府の強権的な介入によってサービスが停止した事実は、AI 業界における規制リスクの極端な事例と言えます。今後の AI ガバナンスにおいて、技術的専門性を尊重する対話プロセスの重要性が改めて浮き彫りになりました。
金曜日の夜、米国政府はアンソロピックに対し、Fable および Mythos へのすべてのアクセスを停止するよう強制した。
週末は非常に過酷なものだった。
Dean W. Ball: 最近リリースされた高性能なモデルに対して AI 規制が場当たり的に課されることの一つの側面として、極めて現実的な意味で政府が私の世界を*より愚か*にしたという点が挙げられる。感覚的な意味では、私は常に政府に対してこのように考えるが、今回はそれが文字通りの事実となった。
さらに詳細が明らかになった。戦争の霧（fog of war）は依然として残っているが、なぜ Claude Fable と Mythos が深く愚かな形で停止されたのかについて、私たちはかなり良い理解を得ている。
狭義の脱獄（jailbreak）が発見された。これはアンソロピックが事前に存在すると警告していたタイプのものだ。示された出力はすべて、GPT-5.5 が脱獄やバイパスなしに、むしろ容易に生成できるものである。
ホワイトハウスは状況を「修正」するために Fable の停止をアンソロピックに要求し、状況に修正すべき点はないとダリオが説明しようとしても耳を貸さなかった。
アンソロピックがこれに従わなかったため、ホワイトハウスは Fable と Mythos を全員のために強制的に停止させることが確実な輸出規制を課した。
多くの虚無主義者がこの決定を正当化し、Anthropic を責めていますが、彼らは全員が、米国政府を死にゆく NPC の終末期患者として描いた Dean Ball の肖像画を忠実に守っていることを確認しています。つまり、適切な雰囲気と屈辱的な礼拝によって適切に慰めなければ、我々に対して攻撃してくるかもしれないという前提です。しかし、彼らはこれを強さと正義と同義視しており、「力こそが正義」であり、権力と雰囲気がすべてだと考えています。
これは急速に展開する物語で、スピードに対する大きなプレミアムがあるため、誤りや構造が理想的でないことについてお詫び申し上げます。我々はできる限りのことをしています。
我々が知らないことは以下の通りです：
政府がこの決定を下した動機は何だったのか。
彼らがこの仕組みのどこまで混乱していたか。
彼らは狭義の修正を求め、現在もそれを求めているのか、それとも全球的な修正を求めているのか。
狭義の修正はおそらく容易です。一方、全球的な修正はおそらく不可能でしょう。
彼らが次に何をしようとしているのか、そして何を実現しようと試みているのか。
必ず JSON 形式で返してください。translation フィールドのみ。他のフィールド (technical_terms 等)は一切追加しないこと — 余計なフィールドを書こうとして本文翻訳がトークン上限で打ち切られる事故を防ぐため:
{"translation": "翻訳全文"}
最善の結果は、これが深刻な誤解であり、パニック反応の反映に過ぎず、すぐに整理がつき、アクセスを回復できるという点にあるかもしれません。あるいは、相手が十分な圧力に直面し、自分が間違いを犯したことに気づくか、Anthropic が何らかの手段で懸念を迅速に和らげる（それが愚かなことであっても）ことができる場合です。それでもなお、アメリカの AI に対する信頼、ビジネス環境、重要な外国籍 AI 人材の雇用能力、アメリカと同盟国との関係、Project Glasswing の進展およびサイバーセキュリティ、そして法の支配に対して、多くの永続的な損害を伴う恐ろしい先例が作られてしまいます。
朗報として期待できる大きな点は、実際に行動が必要な時に、我々は多大な経済的・政治的コストを払っても行動することを恐れないことを示すことになるかもしれません。時には国家安全保障やその他の懸念によって要請が生じる場合があり、シャットダウンなしにその要請に応えることが物理的に不可能なら、それは致し方ないことです。これは（極めて稀な例外を除き）安全推進派が選択肢として提案する範囲を遥かに超えた行動であり、実際に実行されました。したがって、今後このような状況において「諦めろ、政府は決して [X] を行わない」と言うことはできなくなります。
これはまた、行動を必要とする前に、今どのようにして適切に行動するかを見極める必要性を強調するものです。もしそのような状況に陥り、[X] を行う良い方法を持たない場合、私たちはむしろ[X]を、ひどく、無秩序で、深く破壊的な方法で行ってしまう可能性があります。したがって、取引を行う方法や一時停止する方法、あるいは特定のモデルを撤廃する方法などを検討し始める必要があります。
最悪の結果は、これが深刻な誤解ではない場合であり、他の要因によって動機付けられており、迅速に解決できない場合です。政府が実際には、あなたに対して決して反論すべきではないと考え、ジャンプと言われたら（あるいは株式の提供やその他の要求をされたら）誰もが「どのくらい高く」尋ねるべきだと考える、権威主義的な単一行政官によるアメリカの主要な AI ラボの強制的な買収へと急速にエスカレートしている可能性があります。さもなければ。
また、現時点ではありそうもないことですが、ホワイトハウスが正しく、脅威が現実のものであり、緊急事態であったという第三の可能性もあります。それがダリオやアンソロピックに対してリアルタイムでどのように正当化したか、あるいは現在どのように正当化しているかに係わらずです。もしかすると、それ自体が危険だったのかもしれませんし、他の危険に対するリスクが高すぎたのかもしれません。
技術的な主張を検証できるまで、これを排除することはできません。そして、次回も企業が正しく政府が間違っていると仮定すべきではありません。いつか、「これは大丈夫だ」と言う企業があり、それが非常に、非常に間違っているという時代が来るでしょう。
それが真実であることが証明されれば、Anthropic はあらゆる面で多大な信頼を失うことになります。これが私がこの状況を極めて unlikely と考えるもう一つの理由です。彼らはここで間違っている余裕はありません。
目次
何が起きたか：結論。
Amazon がホワイトハウスに電話する。
政府がパニックになる。
さらに愚かなバージョン。
ウェルネス・リトリートは存在しなかった。
脅威を明確にする。
中国は Mythos にアクセスしていたのか？
Anthropic は要請された際に Fable をオフラインにするべきだったのか？
はい、これは Fable に対する撤去命令でした。
私たちは DoW の闘争が関連しているとは言っていませんが、しかし。
虚無主義者たち。
主に無害。
全員が全員を指します。
これが最善のシナリオであり、ほとんどが誤解だった可能性があります。
次のステップ。
最悪のライセンス制度は完全にアドホックです。
私たちは信頼できないパートナーであることを示しています。
何が起きたか：結論
政府自身の説明では、Anthropic の対応における『真剣さの欠如』が、政府による輸出管理措置の発動につながったとされています。
Axios や Politico を信じるならば、『真剣さの欠如』とは Anthropic が以下を行った時です：
Fable を即座に撤去し、極めて従順かつ真面目に対応しなかったこと。
GPT-5.5 でも不可能ではない jailbreak（脱獄）に対して対応した際のこと。
詳細は一切提供されず。
むしろ事件の詳細を問い合わせたこと。
金曜日の午後、わずか 90 分以内に。
つまり要するに、『Anthropic は理由があってのみ行動しようとする。したがって雰囲気がおかしいと判断し、誰がボスなのかを示すためにすべてを吹き飛ばしてやる』ということでした。
これは、「この特定の時刻にダリオ氏に連絡が取れなかったため、金曜日の午後 5 時直後に米国の AI 政策をすべて吹き飛ばさなければならなかった」という言い訳が、2 度目に出てきたケースでもあります。この言い訳はエミル・マイケル氏によっても使われました。
今回は、彼が「ウェルネス・リトリート」にいたという主張ですが、Anthropic はこれを断固として否定しており、そこにいたアシュリー・ヴァンス氏も同様に断固として否定しています。
Anthropic によると、ダリオ氏は要請から 75 分後に利用可能になったとされ、その間には他の Anthropic の上級幹部たちも利用可能だったとのことです。私は彼らの話を信じています。
ホワイトハウスは、Amazon から連絡を受けた後、75 分以上待ったどころか、一晩中待ってからダリオ氏への接触を試み始めました。
Amazon がホワイトハウスに電話
出来事とタイムラインに関する詳細が次々と明らかになっています。まず Axios の報道です：
マリア・库里（Axios）:
裏側では、Amazon は木曜日の夜に行政当局者に電話をかけ、Anthropic の強力な新モデル「Mythos」の一部を脱獄してアクセスし、それが国家安全保障上の脅威となることを示す報告書を共有したと、事情に詳しい関係者が Axios に語りました。
Anthropic は以前から、一般利用版である Fable の 6 月 9 日リリースについて政府に複数回通知しており、政府は異議を唱えなかったと、同社に近い人物が述べています。
しかし、Amazon からの電話に加え、少なくとも他の 5 つの企業から木曜日の夜と金曜日の朝にかけて様々な上級行政当局者へ連絡があった結果、このモデルは金曜日の夜までにシャットダウンされました。
Amazon がホワイトハウスに最初の連絡を行い、Fable を撤去する行動へとつながった中心的な要因であることが確認されています。他社も同様に連絡を行ったと見られています。
前回の議論で触れた通り、Anthropic のリリース発表には、Amazon が行ったようなレベルの Jailbreak（拘束解除）が可能であることを明確に警告する内容が含まれていました。彼らが行政当局に対してそのような詳細について徹底的なブリーフィングを行ったことは疑いの余地がありません。
Fable 5 のリリース発表から出されたこのグラフを覚えている方はいますか？
なぜ Amazon の CEO がこれについてホワイトハウスに電話をしたのか、私は理解できません。そこには私たちが知らない重要な情報が含まれているはずです。
政府のパニック
Amazon からの最初の連絡から Anthropic に与えられた時間は 24 時間未満でした。実際に関係する事態の詳細は一切提示されておらず、その後、典型的な「金曜日の午後 5 時以降」の命令が下されました。その 24 時間未満の間、政府側は Anthropic に対してこの件について連絡を試みたことはほとんどありませんでした。
ホワイトハウスには情報筋があり、彼らの物語を完全に信じたとしても、90 分間にわたる一連の電話通話で得た雰囲気が気に入らなかったため、米国の AI 全体を吹き飛ばすリスクを冒してでも決断したと確認しています。
ソフィア・C とシェイニー・ハスレット：この動きは、Anthropic の CEO ダリオ・アモダイ氏と、財務長官スコット・ベッセントやホワイトハウスサイバーディレクターのショーン・ケインクロスを含む行政当局者との間で複数の緊張した電話通話が行われた後に発生しており、ホワイトハウスが急速に進みつつ潜在的に危険な AI モデル（Artificial Intelligence models）を規制することについてリアルタイムで葛藤している様子を浮き彫りにしています。
… 会議の後、行政側はアモダイ氏に連絡を試みました。しかし、行政当局者およびホワイトハウスの上級職員によると、彼はウェルネス・リトリート（wellness retreat：心身の健康回復のための滞在施設）に参加中であるため利用できないと伝えられたそうです。
Anthropic の広報担当者は、彼がウェルネス・リトリートにいるという主張を否定し、「これは完全に誤りです」と述べています。
Anthropic に近い人物によると、アモダイ氏への要請は正午頃に行われ、1 時間 15 分以内に上級当局者との電話通話に応じたとのこと。彼は一時不在でしたが、その間 Anthropic は彼に代わって他の上級リーダーを対応させたそうです。
行政側がついにアモダイ氏と連絡が取れた際、ケインクロス氏、ベッセント氏、商務長官のハワード・ルトニック氏を含む約 6 名の行政当局者との組み合わせで、3 回の電話通話に参加したことが、ホワイトハウスの上級職員および行政当局者の一人によって明らかにされています。
…通話中、アモデイは自分が誤解だと考えていた点を解消しようと努めました。彼は行政側の懸念に反論し、ガードレールを擁護するとともに、発生したバイパスがアンソロピックによって設置されたすべてのガードレールなしで利用可能にする広範な「ジャイルブレイク」と同じリスクをもたらすものではないと主張しました。
ダリオはこれが限定的な問題だと説明しようとしましたが、相手方は理解も信じることもできず、あるいは理解したり信じたりすることを意図的に避けたのだと述べています。
現在では、ダリオがその問題を限定的かつ無害であると判断した点は完全に正しかったことがわかっています。
ダリオが誤っていたのは、自分が話していた相手方が彼が伝えようとしていることを理解する能力を持ち、また理解しようとする意欲を持っていると仮定したことでした。
ホワイトハウスの上級職員および行政当局者2名の証言によると、相手方はアンソロピックに対し、モデルを自主的に削除し、政府と協力して脆弱性に対処するよう求めました。アモデイはより多くの時間と情報を要求しましたが、モデルの削除について何らのコミットメントも示さず、ある時点でベッセントは上級ホワイトハウス当局者の証言によると、アモデイに対して直接「悪い決断をしている」と告げました。
…「数時間にわたり一緒に取り組むよう懇願した末に輸出管理措置が最終手段となった」と、ホワイトハウスの上級職員は述べています。「これは私たちが望んだことではありませんでしたが、手が出せなかったのです。」
公開後、アンソロピックに近しい人物の一人は、同社が行政と自発的に協力する選択肢を与えられたという主張を否定した。
「ホワイトハウスは実際の脅威に関する詳細も示さず、90 分以内にモデルを削除するよう命じた」とその人物は述べた。「彼らに協力を求めるために懇願したり、頼んだりすることは一度もなかった。ただ宣言された 90 分の期限があったのみだ」。
テ・キム：FT が確認したところ、「同社に近しい人物によると、アンソロピックには遵守のために 90 分が与えられ、命令が発令される前に詳細な懸念事項は提示されなかった」とのことです。
ホワイトハウスが「数時間にわたり懇願していた」と思いますか？それとも、彼らが単に言葉を投げかけているだけだと考えますか？最良のケースでもそれは「まだ公式な命令を出していない」というコード（暗号）に過ぎないかもしれません。
私はここでアンソロピックを信じる理由を見出せません。ダリオはこれが誤検知であると説明しようとし、詳細を求めました。しかしホワイトハウスは、彼らの主張を裏付ける詳細も、それが必要かつ慎重であるという証拠も一切提供しませんでした。単に「Fable を 90 分以内に削除せよ」と言い、おそらくこれが「さもなくば IFAR（国際緊急事態対応法）が適用される」ことを明確にしなかったのです。
彼らを怒らせたのは、どうやら主にアンソロピックが命令されて飛び上がるべきかどうかを問うのではなく、理由を求めたことにあるようです。
つまり、何があっても「飛び上がれ」と言われた際にそうするよう約束しなかったことが問題だったのです。
Axios：結論として、政府の考え方に詳しい情報筋は、Fable のリリースに対してアンソロピックが適用している「真剣さの欠如」があったと述べています。
「アンソロピックがこれを真剣に受け止め、孤立した事象として片付けるのではなく、アクセスの修正や一時停止へと動き出していれば、このような事態は決して起こらなかった」とその関係者は語り、「彼らは過剰な自信を持っていた」と付け加えた。
つまり、彼らこそが間違っていると我々に告げたのだ。それは彼らが真剣ではないことを意味する。財務長官よりも状況の理解に優れているなど、どうしてあり得ようか？
急ぎで確認：金曜日の午後1時（東部時間）、アンソロピックは政府から電話を受け、「国家安全保障上の脅威」を理由として、Mythos および Fable モデルのリリースを撤回するよう指示されたが、詳細な説明は何もなかったと、その関係者は述べた。
「私たちは直ちに脅威の具体的な性質を理解し、それを是正するために動いた」とその関係者は語ったが、政府は要求に固執した。
アンソロピックの関係者：トランプ政権は金曜日に、同社に対するライセンス制度の導入を科す前に、最も強力なモデルを削除するよう 90 分を与えたという。これはアンソロピックの関係者の話である。
マイルズ・ブランダージ：どう見ても仕掛けた工作のように聞こえる。
もっと愚かなバージョン
これが良い方の話だ。悪い方の話は、Chubby がここで説明している通りであり、Axios も明確に示唆しているが、ホワイトハウスは単なる小競り合いを起こしており、理由を求めたことや、反対の政治的見解を持つ人材を採用したことでアンソロピックが「彼らを裏切った」と考えているのだ。これは、これらの人々がどのように思考しているかを非常に如実に表している。
なぜ重要か：世界で最も重要な技術を統治することは、トランプ大統領の言語を話すことに収束しつつある。
アンソロピックは、最近のサイバー行政命令を「尊重」しなかったと、政権関係者は主張しており、同社がその問題を真剣に受け止めなかったという purported な失敗が原因で、同社の最も強力な製品がインターネットから削除された。
「誰もがアンソロピックは悪役だと発言していた。一部の私たちは、彼らに機会を与える時が来たと述べていた。しかし今、那些人々はそれを疑問視している。彼らは私たちを裏切った」と、政権関係者は語った。
…
裏側では：「行政当局と対話し、イデオロギーの違いを理解しようとする点で、アンソロピックは大きな成果を上げていない」と、政権の考え方に詳しいある情報筋は述べた。
「まるで彼らは異なる言語で話しているかのようだ」とその情報筋は付け加え、同社はこの政権とのコミュニケーション方法をまだ見出せていないだけだと指摘した。
…
この崩壊以前にも、アンソロピックとペンタゴンの間の過去の対立も、ある意味では単に交渉テーブルの向こう側にいる人物を好まなかったことに帰着していた。
ホワイトハウスの関係者は Axios に対し、ペンタゴンとの争いは完全に無関係であると語ったが、アンソロピックの効果的なコミュニケーション能力の欠如は、同様に有害な形で現れた。
「私たちはこれが起こることを望んでいなかった。私たちの最優先事項はイノベーションだが、手は縛られていた」とホワイトハウスの関係者は述べた。
その光景は火に油を注ぐ結果となりました。Anthropic は Amazon の報告書を却下するブログ記事を公開し、その後、行政側から「過激な民主党員」と見なされているサイバーセキュリティの専門家を起用しました。この専門家は後に、トランプ氏が解雇したクリス・ケルブスによって称賛されました。
ホワイトハウスは、Anthropic のセキュリティ専門家が「過激な民主党員」であることに不満を抱いており、これを「我々を裏切った」と解釈し、現在は悪意ある行為者として扱うべきだと考えています。
このような事態におけるすべての側の愚かさは計り知れません。これは本来重要視されるべきことではありませんが、Anthropic にとって非常に愚かな過失となるでしょう。はい、これらの人々は政治的視点に執着していることは事実です。したがって、彼らと直接対峙する際には、この状況が完全に非政治的なものであり、そのような懸念は意味をなさないにもかかわらず、これらの人々を刺激しない人物を送り出すことを優先する必要があります。つまり、これは誰にとっても共通の責任と言えます。
ウェルネス・リトリートなど存在しなかった
Ashlee Vance: Anthropic は過去 2 年間で AI の発展に劇的な貢献をしてきました。現在、同社は米国 AI テクノロジーの頂点にある宝石です。
連邦政府は、@DarioAmodei が彼らのすべての要求に応じないことを好ましく思っておらず、ホワイトハウスが「Dario はウェルネス・リトリートにいて連絡が取れない」といった笑える主張をあらゆる記者に吹き込み、ソビエト式のプロパガンダの段階に入ろうとしています。いい加減にしてください。
私は、AI において米国が自滅的な行動をとらないことを望んでいました。なぜなら、中国に対する米国の最後の希望の一つがまさにそこにあるからです。しかし、今や私たちはその状況に直面しています。
これら一連の出来事は数週間前のことではありません。私がこの事態が展開されている最中に Anthropic の本社で報道取材をしていたのは先週の金曜日です。ダリオはウェルネス・リトリート（健康回復施設）にはいません。連邦政府側は、再び Anthropic を見せしめにしようとして慌ただしく動き回っているように見えます。
これは技術的な問題ではありません。些細なことに過ぎません。
Anthropic は不満の核心が何なのかを突き止めようとしていたのでしょうが、それを行うための時間はあまり与えられていなかったようです。お気づきかもしれませんが、この政権は常に最も合理的で誠実であるとは限りません。
Teortaxes: 私は名誉毀損を非難します
「ダリオはウェルネス・リトリートにいた」という主張は、ヘグセットのような残酷なサルによって作り上げられた、ステレオタイプに基づいたデタラメである可能性が極めて高いです。ダリオはヒッピーではなく、狂信的な創設者兼 CEO です。明らかに緊張している「Fable」をめぐる状況が進行中である間に休暇に行くようなことはしません。
ダリオがウェルネス・リトリートにいたとは私は非常に考えにくいですが、仮にあったとしても、CEO が 4 時間電話に出られず、代わりに誰かを責任者として残しただけで、米国の AI ポリシー全体を崩壊させるようなことはあり得ません。これは一体いつの時代の話でしょうか？2029 年ですか？
あなたの脅威を明確にせよ
ホワイトハウスと Anthropic の間には多くの誤解が生じています。
報道によると、ダリオ・アモダイは Fable を自発的に削除するよう求められた際、「それは悪い決断だ」と告げられましたが、彼はより多くの情報を求めるために拒否しました。
要は、それが何を意味するかは誰にもわからないのです。それは「あなたが怒るだろう」という意味かもしれないし、「これはもうあなたの責任だ。何か問題が起きたら、すべてあなたのせいだ」という意味かもしれません。
もしダリオに、否認可能性を維持する代わりに、『ファブルは今日オフラインになります。今すぐこれを自発的に行うことに同意しない場合、輸出管理措置を科し、あなたは完全に破滅します』と明確に告げていれば、こうした事態はすべて回避できたのでしょうか？
わかりません。しかし私の推測では、はい、そうだったでしょう。
以前にもこの選択肢が提示されていたことに気づきました。Axios の記事によると：
ホワイトハウスによれば、管理当局は数週間前、最先端の Mythos モデルが中国共産党と直接つながりがある外国の組織に提供されていることを知り、Anthropic に対して輸出管理措置を科すと脅しました。
中国が Mythos にアクセスしていたのか？
フィナンシャル・タイムズ、The Verge、Semafor を通じて伝えられている主張では、「中国に関連するグループ」が Mythos にアクセスしたとホワイトハウスが知ったとしています。私の疑念は、これが直前に言及した以前の出来事との混同ではないかということです。どちらの可能性もあります。
Mythos へのアクセス権限を付与されたパートナーシップが 100 を超える場合、少なくとも時折こうした事態は確実に起こります。アクセス制御には限界があります。重要なのは、何が実行可能かを制限することです。
原文を表示
On Friday evening the United States Government has forced Anthropic to take down all access to Fable and Mythos.
It’s been a rough weekend.
Dean W. Ball: One thing about AI regulation being haphazardly imposed on just-released, highly performant models is that in a very real sense, the government just made my world *dumber.* In some impressionistic sense I almost always think this is true of government, but here it is literal.
More details have come to light. There remains some fog of war, but we now have a rather good idea why Claude Fable and Mythos were, deeply stupidly, taken down.
A narrow jailbreak was discovered, of the type Anthropic warned in advance obviously existed. All demonstrated outputs are things GPT-5.5 can not only produce, but produce without any sort of jailbreak or bypass.
The White House demanded Anthropic take down Fable to ‘fix’ the situation, and did not listen when Dario tried to explain that there was no situation to fix.
When Anthropic did not do so, the White House hit them with an export restriction that they knew would force Fable and Mythos down for everyone.
A lot of nihilists are justifying this decision, and blaming Anthropic, all of whom are very much confirming that they adhere to Dean Ball’s portrait of the United States Government as a dying NPC hospice patient we have to properly placate with the proper vibes and genuflection so they don’t lash out at us. Except they equate this with strength and righteousness, because might makes right, power and vibes.
This is a fast developing story with a large speed premium, so I apologize for any errors, and for the structure likely not being ideal. We do the best we can.
What we do not know is:
What was motivating the government to make these decisions.
How deeply they were confused about how any of this works.
Whether they demanded and are demanding a narrow fix or a global fix.
Narrow fix is probably easy. Global fix is probably impossible.
What they intend to do next and what they are trying to accomplish.
The good outcome would be that this is a terrible misunderstanding, a reflection of a panic reaction, which can be sorted out quickly, after which we can restore access. Or where they otherwise face enough pressure they quickly realize they made a mistake, or Anthropic can do something to quickly assuage their concerns even if it is dumb. There will still be a terrible precedent set, which comes with a lot of permanent damage to trust in American AI, to our business climate, to our ability to employ vital foreign AI talent, to America’s relationships to its allies, to the progress of Project Glasswing and our cyber security, and to the rule of law.
The silver lining, which might be large, is that this will have shown that when we actually need to act, we are not afraid to act, even at great economic and political cost. Sometimes there will be a demand driven by national security, or other concerns, and if you cannot physically meet that demand without shutting down? Tough. This was (with notably extremely rare exceptions) an action far out of bounds of what safety advocates have dared propose as even an option, and it happened. So there’s no more saying, in such situations: ‘Give up, the government will never do [X].’
This also emphasizes the need to figure out how to act well, now, before we need to act. If we get into such a situation, and don’t have a good way to do [X], we might well do [X] in a no good, haphazard, deeply destructive way, instead. So get to work figuring out how to strike deals, or do a pause, or take down a given model, and so on.
The bad outcome is if this is not a terrible misunderstanding, is motivated by other factors, and cannot be sorted out quickly. The government might actually be rapidly escalating towards a forcible takeover of America’s leading AI labs by a would-be authoritarian unitary executive that thinks you should never talk back to it, and when it says jump (or asks for stock, or anything else) everyone should ask how high. Or else.
There is also the third possibility that, as unlikely as it looks now, the White House was correct, the threat was real, and this was an emergency situation, whether or not they did a good job justifying this to Dario and Anthropic in real time, and whether or not they are doing a good job justifying this now. Perhaps this was itself dangerous, or perhaps it implied too high risk of other dangers.
We cannot rule this out until we can verify technical claims. And we should not assume that next time, the company will be right and the government wrong. There likely will come a time when a company says ‘This Is Fine’ and is very, very wrong.
If that proves to be true, Anthropic will have lost a ton of credibility on all fronts, which is another reason I find this so unlikely. They cannot afford to be wrong, here.
Table of Contents
What Happened When: The Bottom Line.
Amazon Calls The White House.
The Government Panics.
The Stupider Version.
There Was No Wellness Retreat.
Make Your Threats Explicit.
Was China Accessing Mythos?
Should Anthropic Still Have Taken Fable Offline When Asked?
Yes, This Was A Takedown Order For Fable.
We Are Not Saying The DoW Fight Is Related And Yet.
The Nihilists.
Mostly Harmless.
Everyone Means Everyone.
This Could Be The Good Scenario And Mostly A Misunderstanding.
The Next Step.
The Worst Licensing Regime Is Fully Ad-Hoc.
We Are Showing We Are Unreliable Partners.
What Happened When: The Bottom Line
The government’s own account is that Anthropic’s ‘lack of seriousness’ around responding led to the government imposing export controls.
If we believe Axios and Politico, the ‘lack of seriousness’ was when Anthropic:
Did not rush to take down Fable and act super deferential and serious.
In response to a jailbreak that did not do anything GPT-5.5 cannot do.
With no details provided.
And instead asked for details of the incident.
Within 90 minutes, on Friday afternoon.
So it was basically ‘Anthropic wants to only do things because of reasons, and thus we concluded the vibes were off, so f*** them we’re blowing it all up to show who is boss.’
This is also the second time ‘we could not reach Dario this particular minute so we had to blow up all of American AI policy shortly after 5pm on a Friday’ has come up as an excuse. It was also used by Emil Michael.
This time, the claim is that he was at a ‘wellness retreat’ which Anthropic categorically denies, and which Ashlee Vance, who was there, categorically denies.
Anthropic says it made Dario available 75 minutes after he was requested, and that other senior Anthropic people were made available during that time. I believe them.
The White House waited far longer than 75 minutes, indeed they waited overnight, after they were contacted by Amazon, to start attempting to contact Dario.
Amazon Calls The White House
Details continue to come in on the events and the timeline. First Axios:
Maria Curi (Axios):
Behind the scenes: Amazon called administration officials Thursday night to share a report showing how they were able to jailbreak and access portions of Anthropic’s powerful new Mythos model that pose a national security threat, sources familiar told Axios.
Anthropic had previously notified the government multiple times about the planned June 9 release of Fable — which is a general-use version of Mythos —and the government did not object, a source close to the company said.
But calls from Amazon — as well as at least five other companies to a variety of senior administration officials Thursday evening and Friday morning — led to the model being shut down by Friday night.
Amazon is confirmed as the central call, among others, that caused the White House to start taking actions that led to them taking down Fable.
As I discussed last time, Anthropic’s release announcement included clear warnings that jailbreaks on the level of what Amazon did were possible. I have no doubt they extensively briefed the administration on such details.
Does anyone remember this graph, from the Fable 5 release announcement?
I do not understand why Amazon’s CEO called the White House over this. There is a key piece of information there that we do not know.
The Government Panics
Anthropic was then given less than 24 hours from the initial call by Amazon, and no details of anything actually concerning happening, after which it was hit by a classic ‘Friday after 5pm’ order. For most of those less than 24 hours, the government had not yet attempted to contact Anthropic about this.
We have a source in the White House confirming, even if we fully buy their story, that they decided to risk blowing up all of American AI because they did not like the vibes they got in 90 minutes over a series of phone calls.
Sophia C and Cheyenne Haslett: The move, which followed multiple tense calls between Anthropic CEO Dario Amodei and administration officials, including Treasury Secretary Scott Bessent and White House Cyber Director Sean Cairncross, underscores how the White House is wrestling in real-time with regulating fast-moving and potentially dangerous AI models.
… Following the meeting, the administration attempted to reach Amodei but was told he was unavailable because he was attending a wellness retreat, one of the administration officials and the senior White House official said.
A spokesperson for Anthropic rejected the claim that he was at a wellness retreat, saying, “this is absolutely false.”
A person close to Anthropic said Amodei was first requested around noon and was on the phone with senior officials within an hour and 15 minutes. While he was out of pocket, Anthropic offered other senior leaders in his place, the person said.
When the administration finally reached Amodei, he participated in three calls with a combination of roughly half a dozen senior administration officials, including Cairncross, Bessent and Commerce Secretary Howard Lutnick, according to the senior White House official and one of the administration officials.
… During the calls, Amodei tried to clear up what he assumed was a misunderstanding. He pushed back on the administration’s concerns, defended the guardrails and argued that the type of bypass that occurred, which he believed to be specific, did not pose the same risk as a broader “jailbreak” that would allow it to be used without any of the guardrails put in place by Anthropic.
Dario tried to explain that this was a narrow issue, and they simply did not understand or believe him, or chose not to understand or believe him.
We now know that Dario was fully correct that the issue was narrow and harmless.
Where Dario was incorrect was in assuming those he was talking to were both capable of and interested in understanding what he was trying to say.
They urged Anthropic to voluntarily remove the model and coordinate with the government to address the vulnerabilities, according to the senior White House official and the two administration officials. Amodei asked for more time and information, but he made no commitments to pull the model, and at one point Bessent told Amodei directly that he was making a “bad decision,” according to the senior White House official.
… “Export controls were a last resort after begging them for hours to work with us,” the senior White House official said. “This was not something we wanted to do, but our hands were tied.”
After publication, one of the people close to Anthropic disputed that the company was given a choice to voluntarily work with the administration.
“The White House gave 90 minutes to take the models down, with no details on the actual threat,” the person said. “There was never any begging — or asking — for them to work with us, just a declared 90 minute deadline.”
tae kim: FT confirms: "Anthropic was given 90 minutes to comply and was not provided with detailed concerns before the order was issued, according to a person close to the company."
Do you think the White House was ‘begging for hours?’ Or do you think they’re just throwing words out, that at best are code for ‘we did not issue an official order yet?’
I see no reason not to believe Anthropic here. Dario tried to explain that this was a false positive and asked for details. The White House did not provide any details that supported their claims, or evidence that this was necessary or prudent. They simply said ‘remove Fable in 90 minutes,’ likely without making it clear this was ‘or else IFAR.’
What pissed them off, it seems, is in large part that Anthropic wanted reasons, rather than asking how high when told to jump.
That he failed to commit to asking how high, in general, no matter what.
Axios: The bottom line: The source familiar with the government’s thinking said there was a “lack of seriousness” that Anthropic was applying to the release of Fable.
“Had Anthropic taken it seriously and, rather than dismissing as isolated, moved to fix or pause access, this would have never happened,” the source said, adding “they were overly confident.”
As in, they told us we were wrong. That means they are not serious. How could they possibly understand the situation better than the Treasury Secretary?
Catch up quick: At 1 p.m. ET on Friday, Anthropic received a call from the government instructing them to roll back the release of the Mythos and Fable models due to a “national security threat,” but with no further details, the Anthropic source said.
“We immediately sought to understand the specific nature of the threat so we could remediate it,” the source said, but the government held firm on the demand.
Anthropic source: The Trump administration gave Anthropic 90 minutes on Friday to pull down its most powerful models before imposing a licensing regime on the company, according to an Anthropic source.
Miles Brundage: Sure sounds like a hit job.
The Stupider Version
And that’s the good version. The bad version, as Chubby explains here, and which Axios seems to make clear, is that the White House is simply being petty, and thinks Anthropic ‘screwed them’ by asking for reasons and by having employed people with opposing political views. That is very illustrative of how these people think.
Why it matters: Governing the world's most consequential technology is coming down to speaking President Trump's language.
Anthropic failed to "honor" a recent cyber executive order, administration officials claim, and the company's purported failure to take the matter seriously led to its most powerful products being scrubbed from the internet.
"Everybody said Anthropic was a bad actor. Some of us said it was time to give them a chance. Now those people are questioning that. They screwed us," an administration official said.
…
Behind the scenes: "Anthropic has not done a great job at trying to speak to the administration and appreciate the ideological differences," one source familiar with the administration's thinking said.
"It's like they just speak in different languages," the source said, adding that the company has simply not figured out how to communicate with this administration.
…
Even before this breakdown, a previous fight between Anthropic and the Pentagon also came down in some ways to just not liking the person on the other side of the negotiating table.
A White House official told Axios that the Pentagon fight is completely unrelated — but Anthropic's inability to communicate effectively showed up in a similar, unhelpful way.
"We never wanted this to happen. Our number one priority is innovation but our hands were tied," the White House official said.
The optics added fuel to the fire. Anthropic came out with a blog post dismissing the Amazon report. Then the company enlisted a cybersecurity expert viewed by the administration as a "radical Democrat," who was then celebrated by Chris Krebs, who Trump just fired.
The White House did not like that the Anthropic security expert was a ‘radical Democrat’ and the White House is interpreting that as ‘they screwed us’ and should now be considered bad actors.
The stupidity, on all sides, of such a thing, knows no bounds. This is not something that should matter, but it also would be a really stupid mistake by Anthropic. Look, yes, these folks are that obsessed with political perspectives, so when dealing with them directly you really do need to prioritize sending in people who won’t set off these folks, even though this is a fully apolitical situation where that concern makes no sense. So it’s kind of on everyone.
There Was No Wellness Retreat
Ashlee Vance: Anthropic has pushed AI forward dramatically over the past two years. It’s currently the crown jewel of US AI tech.
The Feds don’t like @DarioAmodei because he won’t do all their bidding. And so, we’ve now entering the Soviet-style propaganda portion of the program with the White House feeding every reporter it can find with laughable claims like Dario is unreachable at a wellness retreat. Come on.
I’d hoped the US would not be self-defeating on AI, since it’s kinda one of the last hopes the US has versus China. But here we are . . . . already
None of this was some weeks long back and forth. I was at Anthropic’s HQ on Friday reporting when this all unfolded. Dario is not at a wellness retreat. The Feds seemed to be scrambling to try and make an example of Anthropic again.
This is not technical. It’s petty.
Think Anthropic was just trying to figure what was at the heart of the gripe and was not given much time to do so. Not sure if you’ve noticed but this is isn’t always the most rational and good faith of administrations.
Teortaxes: I condemn libel
“Dario was at wellness retreat” is almost certainly stereotype-driven bullshit cooked up by cruel baboons like Hegseth. Dario is a fanatic and a founder CEO, not a hippie, and he wouldn’t go on a vacation while the obviously tense situation with Fable unfolds.
I find it very unlikely that Dario was at a wellness retreat, but even if he was you do not blow up all of American AI policy if a CEO does not have his phone for four hours and left someone else in charge. What is this, 2029?
Make Your Threats Explicit
There has been a lot of miscommunication between the White House and Anthropic.
Reporting is that Dario Amodei was told ‘you are making a bad decision’ when he refused to voluntarily take down Fable, instead asking for more information.
The thing is, that could mean anything. It could mean ‘we will be mad at you’ or ‘this is now on you and if something goes wrong it is your fault.’
Could all of this have been avoided if instead of maintaining deniability, Dario had been told, explicitly, ‘Fable is going offline today. If you do not agree this minute to do this voluntarily we will hit you with an export control and you’ll be totally f***ed?’
I don’t know. But my guess is yes.
I did notice that the option had previously been put on the table, here’s Axios:
The administration first threatened Anthropic with export controls a couple of weeks ago after learning that its cutting-edge Mythos model was made available to an entity in a foreign country with direct ties to the Chinese Communist Party, according to the White House.
Was China Accessing Mythos?
There is the claim via the Financial Times, Verge and Semafor that the White House learned that ‘a China linked-group’ had accessed Mythos. My suspicion is this is a mixup with the earlier incident mentioned just above? Could go either way.
That is absolutely going to happen, at least from time to time, when there are over 100 partnerships given access to Mythos. Access controls can only go so far. The key is to contain what can be done bef
関連記事
Amazon のセキュリティ研究がホワイトハウスの Anthropic Fable 禁止に繋がったと報じられる
ウォール・ストリート・ジャーナルの報道によると、アンソロピックが Fable 5 と Mythos 5 へのアクセスを停止させた輸出管理指令は、アマゾンのサイバーセキュリティ研究とアンディ・ジャシー CEO のホワイトハウスとの協議が引き金となった。
サイバーセキュリティの専門家が「危険」としてアンソロピックの最強力モデル輸出禁止に抗議
サイバーセキュリティ専門家数十名がホワイトハウスに対し、アンソロピック社の最強力モデル「フェイブル」および「ミソス」への輸出規制撤廃を求めた。この規制はソフトウェアや製品のセキュリティ確保能力を制限すると主張している。
中国が「Mythos」にアクセスした可能性、ホワイトハウスが輸出規制の理由に
セマフォールの新報告によると、ホワイトハウスはAnthropic社の生成AIモデル「Mythos」が中国関連グループにアクセスされた恐れから輸出制限を決定した。もし中国政府が同モデルにアクセスしていれば、深刻な国家安全保障上の懸念が生じるという。
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み