The Once And Future Fable #2｜米国政府が Anthropic の Fable および Mythos アクセスを強制停止 | AIニュース最前線

金曜日の夜、米国政府はアンソロピックに対し、Fable および Mythos へのすべてのアクセスを停止するよう強制した。 週末は非常に過酷なものだった。 Dean W. Ball: 最近リリースされた高性能なモデルに対して AI 規制が場当たり的に課されることの一つの側面として、極めて現実的な意味で政府が私の世界を*より愚か*にしたという点が挙げられる。感覚的な意味では、私は常に政府に対してこのように考えるが、今回はそれが文字通りの事実となった。 さらに詳細が明らかになった。戦争の霧（fog of war）は依然として残っているが、なぜ Claude Fable と Mythos が深く愚かな形で停止されたのかについて、私たちはかなり良い理解を得ている。 狭義の脱獄（jailbreak）が発見された。これはアンソロピックが事前に存在すると警告していたタイプのものだ。示された出力はすべて、GPT-5.5 が脱獄やバイパスなしに、むしろ容易に生成できるものである。 ホワイトハウスは状況を「修正」するために Fable の停止をアンソロピックに要求し、状況に修正すべき点はないとダリオが説明しようとしても耳を貸さなかった。 アンソロピックがこれに従わなかったため、ホワイトハウスは Fable と Mythos を全員のために強制的に停止させることが確実な輸出規制を課した。 多くの虚無主義者がこの決定を正当化し、Anthropic を責めていますが、彼らは全員が、米国政府を死にゆく NPC の終末期患者として描いた Dean Ball の肖像画を忠実に守っていることを確認しています。つまり、適切な雰囲気と屈辱的な礼拝によって適切に慰めなければ、我々に対して攻撃してくるかもしれないという前提です。しかし、彼らはこれを強さと正義と同義視しており、「力こそが正義」であり、権力と雰囲気がすべてだと考えています。 これは急速に展開する物語で、スピードに対する大きなプレミアムがあるため、誤りや構造が理想的でないことについてお詫び申し上げます。我々はできる限りのことをしています。 我々が知らないことは以下の通りです： 政府がこの決定を下した動機は何だったのか。 彼らがこの仕組みのどこまで混乱していたか。 彼らは狭義の修正を求め、現在もそれを求めているのか、それとも全球的な修正を求めているのか。 狭義の修正はおそらく容易です。一方、全球的な修正はおそらく不可能でしょう。 彼らが次に何をしようとしているのか、そして何を実現しようと試みているのか。 翻訳全文 最善の結果は、これが深刻な誤解であり、パニック反応の反映に過ぎず、すぐに整理がつき、アクセスを回復できるという点にあるかもしれません。あるいは、相手が十分な圧力に直面し、自分が間違いを犯したことに気づくか、Anthropic が何らかの手段で懸念を迅速に和らげる（それが愚かなことであっても）ことができる場合です。それでもなお、アメリカの AI に対する信頼、ビジネス環境、重要な外国籍 AI 人材の雇用能力、アメリカと同盟国との関係、Project Glasswing の進展およびサイバーセキュリティ、そして法の支配に対して、多くの永続的な損害を伴う恐ろしい先例が作られてしまいます。 朗報として期待できる大きな点は、実際に行動が必要な時に、我々は多大な経済的・政治的コストを払っても行動することを恐れないことを示すことになるかもしれません。時には国家安全保障やその他の懸念によって要請が生じる場合があり、シャットダウンなしにその要請に応えることが物理的に不可能なら、それは致し方ないことです。これは（極めて稀な例外を除き）安全推進派が選択肢として提案する範囲を遥かに超えた行動であり、実際に実行されました。したがって、今後このような状況において「諦めろ、政府は決して [X] を行わない」と言うことはできなくなります。 これはまた、行動を必要とする前に、今どのようにして適切に行動するかを見極める必要性を強調するものです。もしそのような状況に陥り、[X] を行う良い方法を持たない場合、私たちはむしろ[X]を、ひどく、無秩序で、深く破壊的な方法で行ってしまう可能性があります。したがって、取引を行う方法や一時停止する方法、あるいは特定のモデルを撤廃する方法などを検討し始める必要があります。 最悪の結果は、これが深刻な誤解ではない場合であり、他の要因によって動機付けられており、迅速に解決できない場合です。政府が実際には、あなたに対して決して反論すべきではないと考え、ジャンプと言われたら（あるいは株式の提供やその他の要求をされたら）誰もが「どのくらい高く」尋ねるべきだと考える、権威主義的な単一行政官によるアメリカの主要な AI ラボの強制的な買収へと急速にエスカレートしている可能性があります。さもなければ。 また、現時点ではありそうもないことですが、ホワイトハウスが正しく、脅威が現実のものであり、緊急事態であったという第三の可能性もあります。それがダリオやアンソロピックに対してリアルタイムでどのように正当化したか、あるいは現在どのように正当化しているかに係わらずです。もしかすると、それ自体が危険だったのかもしれませんし、他の危険に対するリスクが高すぎたのかもしれません。 技術的な主張を検証できるまで、これを排除することはできません。そして、次回も企業が正しく政府が間違っていると仮定すべきではありません。いつか、「これは大丈夫だ」と言う企業があり、それが非常に、非常に間違っているという時代が来るでしょう。 それが真実であることが証明されれば、Anthropic はあらゆる面で多大な信頼を失うことになります。これが私がこの状況を極めて unlikely と考えるもう一つの理由です。彼らはここで間違っている余裕はありません。 目次 何が起きたか：結論。 Amazon がホワイトハウスに電話する。 政府がパニックになる。 さらに愚かなバージョン。 ウェルネス・リトリートは存在しなかった。 脅威を明確にする。 中国は Mythos にアクセスしていたのか？ Anthropic は要請された際に Fable をオフラインにするべきだったのか？ はい、これは Fable に対する撤去命令でした。 私たちは DoW の闘争が関連しているとは言っていませんが、しかし。 虚無主義者たち。 主に無害。 全員が全員を指します。 これが最善のシナリオであり、ほとんどが誤解だった可能性があります。 次のステップ。 最悪のライセンス制度は完全にアドホックです。 私たちは信頼できないパートナーであることを示しています。 何が起きたか：結論 政府自身の説明では、Anthropic の対応における『真剣さの欠如』が、政府による輸出管理措置の発動につながったとされています。 Axios や Politico を信じるならば、『真剣さの欠如』とは Anthropic が以下を行った時です： Fable を即座に撤去し、極めて従順かつ真面目に対応しなかったこと。 GPT-5.5 でも不可能ではない jailbreak（脱獄）に対して対応した際のこと。 詳細は一切提供されず。 むしろ事件の詳細を問い合わせたこと。 金曜日の午後、わずか 90 分以内に。 つまり要するに、『Anthropic は理由があってのみ行動しようとする。したがって雰囲気がおかしいと判断し、誰がボスなのかを示すためにすべてを吹き飛ばしてやる』ということでした。 これは、「この特定の時刻にダリオ氏に連絡が取れなかったため、金曜日の午後 5 時直後に米国の AI 政策をすべて吹き飛ばさなければならなかった」という言い訳が、2 度目に出てきたケースでもあります。この言い訳はエミル・マイケル氏によっても使われました。 今回は、彼が「ウェルネス・リトリート」にいたという主張ですが、Anthropic はこれを断固として否定しており、そこにいたアシュリー・ヴァンス氏も同様に断固として否定しています。 Anthropic によると、ダリオ氏は要請から 75 分後に利用可能になったとされ、その間には他の Anthropic の上級幹部たちも利用可能だったとのことです。私は彼らの話を信じています。 ホワイトハウスは、Amazon から連絡を受けた後、75 分以上待ったどころか、一晩中待ってからダリオ氏への接触を試み始めました。 Amazon がホワイトハウスに電話 出来事とタイムラインに関する詳細が次々と明らかになっています。まず Axios の報道です： マリア・库里（Axios）: 裏側では、Amazon は木曜日の夜に行政当局者に電話をかけ、Anthropic の強力な新モデル「Mythos」の一部を脱獄してアクセスし、それが国家安全保障上の脅威となることを示す報告書を共有したと、事情に詳しい関係者が Axios に語りました。 Anthropic は以前から、一般利用版である Fable の 6 月 9 日リリースについて政府に複数回通知しており、政府は異議を唱えなかったと、同社に近い人物が述べています。 しかし、Amazon からの電話に加え、少なくとも他の 5 つの企業から木曜日の夜と金曜日の朝にかけて様々な上級行政当局者へ連絡があった結果、このモデルは金曜日の夜までにシャットダウンされました。 Amazon がホワイトハウスに最初の連絡を行い、Fable を撤去する行動へとつながった中心的な要因であることが確認されています。他社も同様に連絡を行ったと見られています。 前回の議論で触れた通り、Anthropic のリリース発表には、Amazon が行ったようなレベルの Jailbreak（拘束解除）が可能であることを明確に警告する内容が含まれていました。彼らが行政当局に対してそのような詳細について徹底的なブリーフィングを行ったことは疑いの余地がありません。 Fable 5 のリリース発表から出されたこのグラフを覚えている方はいますか？ ![image](https://substackcdn.com/image/fetch/$s_!-t2P!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F3c321f20-72e5-4893-877a-adea6859fbd5_967x731.jpeg) なぜ Amazon の CEO がこれについてホワイトハウスに電話をしたのか、私は理解できません。そこには私たちが知らない重要な情報が含まれているはずです。 政府のパニック Amazon からの最初の連絡から Anthropic に与えられた時間は 24 時間未満でした。実際に関係する事態の詳細は一切提示されておらず、その後、典型的な「金曜日の午後 5 時以降」の命令が下されました。その 24 時間未満の間、政府側は Anthropic に対してこの件について連絡を試みたことはほとんどありませんでした。 ホワイトハウスには情報筋があり、彼らの物語を完全に信じたとしても、90 分間にわたる一連の電話通話で得た雰囲気が気に入らなかったため、米国の AI 全体を吹き飛ばすリスクを冒してでも決断したと確認しています。 ソフィア・C とシェイニー・ハスレット：この動きは、Anthropic の CEO ダリオ・アモダイ氏と、財務長官スコット・ベッセントやホワイトハウスサイバーディレクターのショーン・ケインクロスを含む行政当局者との間で複数の緊張した電話通話が行われた後に発生しており、ホワイトハウスが急速に進みつつ潜在的に危険な AI モデル（Artificial Intelligence models）を規制することについてリアルタイムで葛藤している様子を浮き彫りにしています。 … 会議の後、行政側はアモダイ氏に連絡を試みました。しかし、行政当局者およびホワイトハウスの上級職員によると、彼はウェルネス・リトリート（wellness retreat：心身の健康回復のための滞在施設）に参加中であるため利用できないと伝えられたそうです。 Anthropic の広報担当者は、彼がウェルネス・リトリートにいるという主張を否定し、「これは完全に誤りです」と述べています。 Anthropic に近い人物によると、アモダイ氏への要請は正午頃に行われ、1 時間 15 分以内に上級当局者との電話通話に応じたとのこと。彼は一時不在でしたが、その間 Anthropic は彼に代わって他の上級リーダーを対応させたそうです。 行政側がついにアモダイ氏と連絡が取れた際、ケインクロス氏、ベッセント氏、商務長官のハワード・ルトニック氏を含む約 6 名の行政当局者との組み合わせで、3 回の電話通話に参加したことが、ホワイトハウスの上級職員および行政当局者の一人によって明らかにされています。 …通話中、アモデイは自分が誤解だと考えていた点を解消しようと努めました。彼は行政側の懸念に反論し、ガードレールを擁護するとともに、発生したバイパスがアンソロピックによって設置されたすべてのガードレールなしで利用可能にする広範な「ジャイルブレイク」と同じリスクをもたらすものではないと主張しました。 ダリオはこれが限定的な問題だと説明しようとしましたが、相手方は理解も信じることもできず、あるいは理解したり信じたりすることを意図的に避けたのだと述べています。 現在では、ダリオがその問題を限定的かつ無害であると判断した点は完全に正しかったことがわかっています。 ダリオが誤っていたのは、自分が話していた相手方が彼が伝えようとしていることを理解する能力を持ち、また理解しようとする意欲を持っていると仮定したことでした。 ホワイトハウスの上級職員および行政当局者2名の証言によると、相手方はアンソロピックに対し、モデルを自主的に削除し、政府と協力して脆弱性に対処するよう求めました。アモデイはより多くの時間と情報を要求しましたが、モデルの削除について何らのコミットメントも示さず、ある時点でベッセントは上級ホワイトハウス当局者の証言によると、アモデイに対して直接「悪い決断をしている」と告げました。 …「数時間にわたり一緒に取り組むよう懇願した末に輸出管理措置が最終手段となった」と、ホワイトハウスの上級職員は述べています。「これは私たちが望んだことではありませんでしたが、手が出せなかったのです。」 公開後、アンソロピックに近しい人物の一人は、同社が行政と自発的に協力する選択肢を与えられたという主張を否定した。 「ホワイトハウスは実際の脅威に関する詳細も示さず、90 分以内にモデルを削除するよう命じた」とその人物は述べた。「彼らに協力を求めるために懇願したり、頼んだりすることは一度もなかった。ただ宣言された 90 分の期限があったのみだ」。 テ・キム：FT が確認したところ、「同社に近しい人物によると、アンソロピックには遵守のために 90 分が与えられ、命令が発令される前に詳細な懸念事項は提示されなかった」とのことです。 ホワイトハウスが「数時間にわたり懇願していた」と思いますか？それとも、彼らが単に言葉を投げかけているだけだと考えますか？最良のケースでもそれは「まだ公式な命令を出していない」というコード（暗号）に過ぎないかもしれません。 私はここでアンソロピックを信じる理由を見出せません。ダリオはこれが誤検知であると説明しようとし、詳細を求めました。しかしホワイトハウスは、彼らの主張を裏付ける詳細も、それが必要かつ慎重であるという証拠も一切提供しませんでした。単に「Fable を 90 分以内に削除せよ」と言い、おそらくこれが「さもなくば IFAR（国際緊急事態対応法）が適用される」ことを明確にしなかったのです。 彼らを怒らせたのは、どうやら主にアンソロピックが命令されて飛び上がるべきかどうかを問うのではなく、理由を求めたことにあるようです。 つまり、何があっても「飛び上がれ」と言われた際にそうするよう約束しなかったことが問題だったのです。 Axios：結論として、政府の考え方に詳しい情報筋は、Fable のリリースに対してアンソロピックが適用している「真剣さの欠如」があったと述べています。 「アンソロピックがこれを真剣に受け止め、孤立した事象として片付けるのではなく、アクセスの修正や一時停止へと動き出していれば、このような事態は決して起こらなかった」とその関係者は語り、「彼らは過剰な自信を持っていた」と付け加えた。 つまり、彼らこそが間違っていると我々に告げたのだ。それは彼らが真剣ではないことを意味する。財務長官よりも状況の理解に優れているなど、どうしてあり得ようか？ 急ぎで確認：金曜日の午後1時（東部時間）、アンソロピックは政府から電話を受け、「国家安全保障上の脅威」を理由として、Mythos および Fable モデルのリリースを撤回するよう指示されたが、詳細な説明は何もなかったと、その関係者は述べた。 「私たちは直ちに脅威の具体的な性質を理解し、それを是正するために動いた」とその関係者は語ったが、政府は要求に固執した。 アンソロピックの関係者：トランプ政権は金曜日に、同社に対するライセンス制度の導入を科す前に、最も強力なモデルを削除するよう 90 分を与えたという。これはアンソロピックの関係者の話である。 マイルズ・ブランダージ：どう見ても仕掛けた工作のように聞こえる。 もっと愚かなバージョン これが良い方の話だ。悪い方の話は、Chubby がここで説明している通りであり、Axios も明確に示唆しているが、ホワイトハウスは単なる小競り合いを起こしており、理由を求めたことや、反対の政治的見解を持つ人材を採用したことでアンソロピックが「彼らを裏切った」と考えているのだ。これは、これらの人々がどのように思考しているかを非常に如実に表している。 なぜ重要か：世界で最も重要な技術を統治することは、トランプ大統領の言語を話すことに収束しつつある。 アンソロピックは、最近のサイバー行政命令を「尊重」しなかったと、政権関係者は主張しており、同社がその問題を真剣に受け止めなかったという purported な失敗が原因で、同社の最も強力な製品がインターネットから削除された。 「誰もがアンソロピックは悪役だと発言していた。一部の私たちは、彼らに機会を与える時が来たと述べていた。しかし今、那些人々はそれを疑問視している。彼らは私たちを裏切った」と、政権関係者は語った。 … 裏側では：「行政当局と対話し、イデオロギーの違いを理解しようとする点で、アンソロピックは大きな成果を上げていない」と、政権の考え方に詳しいある情報筋は述べた。 「まるで彼らは異なる言語で話しているかのようだ」とその情報筋は付け加え、同社はこの政権とのコミュニケーション方法をまだ見出せていないだけだと指摘した。 … この崩壊以前にも、アンソロピックとペンタゴンの間の過去の対立も、ある意味では単に交渉テーブルの向こう側にいる人物を好まなかったことに帰着していた。 ホワイトハウスの関係者は Axios に対し、ペンタゴンとの争いは完全に無関係であると語ったが、アンソロピックの効果的なコミュニケーション能力の欠如は、同様に有害な形で現れた。 「私たちはこれが起こることを望んでいなかった。私たちの最優先事項はイノベーションだが、手は縛られていた」とホワイトハウスの関係者は述べた。 その光景は火に油を注ぐ結果となりました。Anthropic は Amazon の報告書を却下するブログ記事を公開し、その後、行政側から「過激な民主党員」と見なされているサイバーセキュリティの専門家を起用しました。この専門家は後に、トランプ氏が解雇したクリス・ケルブスによって称賛されました。 ホワイトハウスは、Anthropic のセキュリティ専門家が「過激な民主党員」であることに不満を抱いており、これを「我々を裏切った」と解釈し、現在は悪意ある行為者として扱うべきだと考えています。 このような事態におけるすべての側の愚かさは計り知れません。これは本来重要視されるべきことではありませんが、Anthropic にとって非常に愚かな過失となるでしょう。はい、これらの人々は政治的視点に執着していることは事実です。したがって、彼らと直接対峙する際には、この状況が完全に非政治的なものであり、そのような懸念は意味をなさないにもかかわらず、これらの人々を刺激しない人物を送り出すことを優先する必要があります。つまり、これは誰にとっても共通の責任と言えます。 ウェルネス・リトリートなど存在しなかった Ashlee Vance: Anthropic は過去 2 年間で AI の発展に劇的な貢献をしてきました。現在、同社は米国 AI テクノロジーの頂点にある宝石です。 連邦政府は、@DarioAmodei が彼らのすべての要求に応じないことを好ましく思っておらず、ホワイトハウスが「Dario はウェルネス・リトリートにいて連絡が取れない」といった笑える主張をあらゆる記者に吹き込み、ソビエト式のプロパガンダの段階に入ろうとしています。いい加減にしてください。 私は、AI において米国が自滅的な行動をとらないことを望んでいました。なぜなら、中国に対する米国の最後の希望の一つがまさにそこにあるからです。しかし、今や私たちはその状況に直面しています。 これら一連の出来事は数週間前のことではありません。私がこの事態が展開されている最中に Anthropic の本社で報道取材をしていたのは先週の金曜日です。ダリオはウェルネス・リトリート（健康回復施設）にはいません。連邦政府側は、再び Anthropic を見せしめにしようとして慌ただしく動き回っているように見えます。 これは技術的な問題ではありません。些細なことに過ぎません。 Anthropic は不満の核心が何なのかを突き止めようとしていたのでしょうが、それを行うための時間はあまり与えられていなかったようです。お気づきかもしれませんが、この政権は常に最も合理的で誠実であるとは限りません。 Teortaxes: 私は名誉毀損を非難します 「ダリオはウェルネス・リトリートにいた」という主張は、ヘグセットのような残酷なサルによって作り上げられた、ステレオタイプに基づいたデタラメである可能性が極めて高いです。ダリオはヒッピーではなく、狂信的な創設者兼 CEO です。明らかに緊張している「Fable」をめぐる状況が進行中である間に休暇に行くようなことはしません。 ダリオがウェルネス・リトリートにいたとは私は非常に考えにくいですが、仮にあったとしても、CEO が 4 時間電話に出られず、代わりに誰かを責任者として残しただけで、米国の AI ポリシー全体を崩壊させるようなことはあり得ません。これは一体いつの時代の話でしょうか？2029 年ですか？ あなたの脅威を明確にせよ ホワイトハウスと Anthropic の間には多くの誤解が生じています。 報道によると、ダリオ・アモダイは Fable を自発的に削除するよう求められた際、「それは悪い決断だ」と告げられましたが、彼はより多くの情報を求めるために拒否しました。 要は、それが何を意味するかは誰にもわからないのです。それは「あなたが怒るだろう」という意味かもしれないし、「これはもうあなたの責任だ。何か問題が起きたら、すべてあなたのせいだ」という意味かもしれません。 もしダリオに、否認可能性を維持する代わりに、『ファブルは今日オフラインになります。今すぐこれを自発的に行うことに同意しない場合、輸出管理措置を科し、あなたは完全に破滅します』と明確に告げていれば、こうした事態はすべて回避できたのでしょうか？ わかりません。しかし私の推測では、はい、そうだったでしょう。 以前にもこの選択肢が提示されていたことに気づきました。Axios の記事によると： ホワイトハウスによれば、管理当局は数週間前、最先端の Mythos モデルが中国共産党と直接つながりがある外国の組織に提供されていることを知り、Anthropic に対して輸出管理措置を科すと脅しました。 中国が Mythos にアクセスしていたのか？ フィナンシャル・タイムズ、The Verge、Semafor を通じて伝えられている主張では、「中国に関連するグループ」が Mythos にアクセスしたとホワイトハウスが知ったとしています。私の疑念は、これが直前に言及した以前の出来事との混同ではないかということです。どちらの可能性もあります。 Mythos へのアクセス権限を付与されたパートナーシップが 100 を超える場合、少なくとも時折こうした事態は確実に起こります。アクセス制御には限界があります。重要なのは、何が実行可能かを制限することです。

米国政府が Anthropic の Fable および Mythos アクセスを強制停止

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト