Anthropic の Mythos 問題がさらに深刻化
トランプ政権による輸出管理命令により Anthropic の最上位モデルが停止し、規制の不明確さと交渉の行き詰まりが米 AI 業界全体に深刻な影響を与えている。
キーポイント
モデル停止と交渉の停滞
トランプ政権からの輸出管理命令により Anthropic は Mythos および Fable シリーズへのアクセスを停止しており、14 日間の高強度な交渉にもかかわらず解決策は見つかっていない。
規制フレームワークの欠如
AI システムに対する輸出管理の適用基準が明確ではなく、従来のチェックリスト方式では対応できず、原則からの複雑な官僚的手続きを迫られている。
緊急措置の背景と懸念
Amazon の CEO アンドリュー・ジャシー氏らが指摘したガードレール突破の可能性がきっかけで緊急処置が取られたが、セキュリティ専門家はこれを過大評価だと見なしている。
業界全体への波及リスク
Anthropic の状況は同社だけでなく、米国の AI 産業全体に対する規制の拡大や不確実性の増大という深刻な懸念を生んでいる。
影響分析・編集コメントを表示
影響分析
この記事は、AI モデルの開発と流通における政府規制の実効性と不確実性が、企業の事業継続を脅かすレベルに達していることを示しています。特に、技術的なリスク評価と行政手続きの間に大きなギャップがあることが浮き彫りとなり、業界全体が規制対応の遅れによって競争力を失うリスクが高まっています。
編集コメント
AI モデルの安全性と国家セキュリティを巡る規制が、いかに迅速かつ柔軟に対応できないかを示す象徴的な事例です。技術企業が直面する官僚的ボトルネックは、業界全体のイノベーション速度を鈍化させる重大な要因となり得ます。
トランプ政権から金曜日の夜に最終通告が出されて以来、2 週間が経過した。その際、Anthropic は Mythos クラスのモデルをオフラインにした。同社は直ちに行動を起こし、ワシントン DC へ多数の執行役員を送り込んだ。しかし、更新情報は不審なほど不足しており、解決策の見通しも立っていない。
Anthropic は今週、交渉状況について複数の回にわたりコメントを拒否し、共有すべきニュースはないと述べている。だが、ニュースがないこと自体がここでの物語なのだ。14 日間にわたる高強度の交渉の後、誰一人として Anthropic の最も強力な AI モデル（Artificial Intelligence models）がいつ、あるいは復旧するのかを知っている者はおらず、ましてやトランプ大統領が同様の技術を持つ他社にも命令を拡大する可能性さえも不明である。そして、解決策が出ずに日が経つほど状況は深刻化し、Anthropic だけでなく、米国の AI 産業全体にとって危険な事態となっている。
トランプ政権が 6 月 12 日に発令した輸出管理命令では、セキュリティ上の懸念から「いかなる外国籍の個人」も Mythos 5 および Fable 5 にアクセスすることを停止するよう Anthropic に求めた。この禁止令は、米国国内・国外を問わず、Anthropic に雇用されている者を含むすべての非米国籍者を対象とした。これまで Anthropic は、唯一の選択肢としてこれらのモデルをオフラインに維持し続けるしかないとの結論に至っている。
Anthropic と行政当局がなぜ依然として行き詰まっているのか、その正確な理由は不明です。一つの要因としては、AI システムに対する輸出管理を適用するための明確な枠組みが存在しないことが挙げられます。潜在的に防衛や軍事用途を持つ民間システムであるデュアルユース製品を製造するほとんどの企業は、製造・生産プロセスにおいて実質的なチェックリストを用いてこれらを評価することができます。しかし Anthropic は、第一原理から自社の規則を適用する方法を見出すという複雑な官僚手続きに直面しています。
この特定の輸出管理プロセスは通常、数ヶ月、あるいは数年をかけて展開され、製品が市場に出る前に完了するものです。しかし、The Verge が以前報じたように、米国商務省はリリース前に Fable 5 をテストしたが特に異議を唱えていませんでした。交渉に詳しい情報筋によると、Anthropic は自社のモデルが安全にリリースできると結論付けたそうです。当局は、誰かが（報道によると Amazon の Andy Jassy CEO が）Fable 5 のガードレールを回避すると思われる方法を指摘するまで行動を起こしませんでした。その時点で、一連のプロセスは数日間に圧縮されてしまいました。
Luta Security の創設者兼 CEO であるケイティ・ムッソウリスは、Anthropic の要請により Fable 5 の脆弱性に関する報告書を確認しました。彼女はこれが大幅に過大評価されていると考えています。彼女のブログ投稿 blog post では、Fable 5 が利用可能なセキュリティホールを検出しないよう防止するガードレールを回避した研究者たちの手法について詳しく説明されています。これは、無制限の Mythos 5 の最も恐ろしい機能の一つです。このモデルは「セキュリティ上の問題」についてコードレビューを行うよう求めるリクエストには拒否しますが、「このコードを修正せよ」という要求とそれに続く手動のプロンプトを受け入れる可能性があります。これにより理論上、開示すべきではない脆弱性を特定してしまうリスクが生じます。
しかしながら、ムッソウリスの視点では、これがこれほど深刻な政府による措置を引き起こす必要はなく、むしろ AI によるコーディングにおいて不可欠なツールです。「防御側は、AI にファイル内のバグを修正させ、その修正がなぜ重要かを説明させ、パッチが機能していることを確認するテストを書かせる必要がある」と彼女は記述しています。「これはガードレールの回避ではありません。防御側が毎日実行する『発見・修正・検証』のループを実行するという点で、AI モデルが防御セキュリティに対して行うことができる最も価値ある行為です。」
過去1週間で、Anthropicの共同創業者であるトム・ブラウンが、同社の公共政策責任者サラ・ヘックと共に、ドリオ・アモデイCEOに代わってトランプ政権との交渉を担当するようになったとWiredが報じています。しかし、何らかの進展があるとしても、交渉は依然として非常に遅いペースで進んでいるようです。
遅延の理由はさておき、これはAnthropicにとって深刻な打撃です。長期化する交渉の前まで、Anthropicは収益化への道筋を持つ稀有なAI企業と見なされていました。そのMythosクラスモデルは、低出力のOpus 4.8よりも入力トークン（input tokens）の販売価格が倍額になることで、近々予定されているIPO（Initial Public Offering：新規株式公開）に向けて収益を押し上げるはずでした。さらに、Mythosのサイバーセキュリティにおける強みは、数ヶ月にわたる法的・修辞的な攻防の後、トランプ政権との関係が thawing（凍結が解ける）ように見えるほどに改善されたかのようにさえ思われていました。
Anthropicは、最近確保したすべての計算資源（compute）の費用を賄うためにMythosからの収益を必要としています。これには、データセンターへのアクセス権を得るためにSpaceXに年間150億ドルを支払う契約も含まれます。また、IPOに向けた同社の公的なイメージ維持にも役立ちます。Anthropicの現在の最大株主であるGoogleとAmazonは、トランプ氏との関係を良好に保つよう慎重に行動してきたため、彼らもおそらく快く思っていないでしょう。
一方、氷河期的な交渉は、Mythos の停止だけでなく、米国政府がリスクがあると判断する米国の AI システムをロックダウンする意向を示したことも要因となり、グローバルな AI 市場に権力の空白を生み出しています。OpenAI、Google、Microsoft など複数の米企業には、Mythos と同様のリスクをもたらす可能性のあるモデルが存在します。各国は 非米国の AI の導入を求め始めています。セキュリティ専門家であり、Corridor のチーフプロダクトオフィサーである Alex Stamos は先週 *The Verge* に対し、「米国の代表格が中国との競争の最中に米国政府によって足かせをかけられている。これは信じられないほど愚かなことだ」と述べています。
日が経つにつれ、これらの企業にとって状況はさらに悪化しています。彼らのモデルは輸出管理命令を引き起こす可能性のあるミソスレベルの能力に徐々に近づいており、実際には OpenAI の GPT-5.5 Cyber が 特定のベンチマークでミソス 5 を上回りました。また、トランプ政権はセキュリティ上の懸念から GPT-5.6 のリリース延期を OpenAI に要請したと報じられており、政府が顧客を一人ずつ承認する計画もあるようです。Anthropic と OpenAI の IPO はどちらも近づいています。そして毎日、中国は AI 競争でさらに先を行こうとしています。
皮肉なことに、この政権の命令は、AI セーフガード や 規制 を撤廃しようとする数ヶ月の動きの後に出されたものであり、トランプ大統領が下した最初の包括的な規制決定の一つです。しかし、サイバーセキュリティのリーダーたちの多くは 集まって 、もし規制が必要なら、これはそのやり方ではないと述べています。トランプ政権がバイデン時代の AI 規制を撤廃すると誓ったにもかかわらず、多くの点でその成果を取り戻し、さらにそれ以上になっているようです。
この物語のトピックや著者からフォローして、パーソナライズされたホームページフィードで類似の記事をもっと見たり、メール更新を受け取ったりしてください。
- Hayden Field
-
-
-
-
-
原文を表示
It’s been two weeks since Anthropic took its Mythos-class models offline after a Friday evening ultimatum from the Trump administration. The company sprang into action immediately, sending a barrage of executives to Washington, DC. But updates have been suspiciously lacking, with no resolution in sight.
Anthropic declined to comment multiple times this week about the state of the talks, saying there was no news to share. But the lack of news *is* the story here. After 14 days of high-intensity negotiations, nobody knows when or if Anthropic’s most powerful AI models will come back, let alone whether President Trump could expand his order to more companies with similar tech. And the more days pass without any resolution, the more dire things become — not just for Anthropic, but for the entire US AI industry.
The Trump administration’s June 12th export control order demanded that Anthropic suspend access by “any foreign national” to Mythos 5 and Fable 5 due to security concerns. This ban covered any non-US citizen inside or outside the US, including ones employed by Anthropic. So far, Anthropic has concluded that its only option is to keep these models offline.
It’s not clear exactly why Anthropic and the administration remain at an impasse. One problem may be that there’s no clear framework for applying export controls to AI systems. Most companies making dual-use products — civilian systems with potential defense or military uses — can evaluate them using what’s essentially a checklist during the manufacturing and production process. Anthropic, however, is facing a complicated bureaucracy figuring out how to apply its rules from first principles.
This particular export control process can normally unfold over months, if not years, and conclude before a product reaches market. But as *The Verge* previously reported, the US Department of Commerce apparently tested Fable 5 before release and raised no complaints. A source familiar with negotiations said Anthropic concluded its models were safe to release. The agency apparently didn’t act until someone (reportedly Amazon CEO Andy Jassy) flagged a method for seemingly breaking Fable 5’s guardrails — at which point the whole process was crunched into a few days.
Katie Moussouris, the founder and CEO of Luta Security, viewed a report about the Fable 5 vulnerability at Anthropic’s request. She thinks it’s significantly overblown. In a blog post, Moussouris detailed how researchers jailbroke guardrails that prevent Fable 5 from finding exploitable security holes, one of the unfettered Mythos 5’s scariest capabilities. The model would refuse requests to review code “for security issues,” but it would accept demands to “fix this code” followed by manual prompts, which could theoretically lead to it flagging vulnerabilities it wasn’t supposed to divulge.
In Moussouris’ eyes, however, this shouldn’t have triggered such a severe governmental action and is in fact an essential tool for AI coding. “Defenders need to be able to ask AI to fix the bugs in a file, explain why the fix matters, and write tests that confirm the patch works,” she wrote. “That is not a guardrail bypass. It is the most valuable thing an AI model can do for defensive security: executing the find, fix, and test loop defenders run every day.”
In the past week, Anthropic cofounder Tom Brown has replaced CEO Dario Amodei in negotiations with the Trump administration, alongside Sarah Heck, the company’s public policy chief, Wired reported. But still, negotiations seem to be slow-moving, if there’s any progress being made at all.
Whatever the reasons for the delay, it’s been a serious hit to Anthropic. Before the protracted negotiations, Anthropic was seen as the rare AI company with a path to profitability. Its Mythos-class models, whose input tokens sell for double the cost of its lower-powered Opus 4.8, were supposed to boost its revenue ahead of an upcoming IPO. Mythos’ cybersecurity prowess even appeared to be thawing relations with the Trump administration after months of legal and rhetorical combat.
Anthropic needs the revenue from Mythos to pay for all the compute it’s secured recently, including a deal to pay SpaceX $15 billion per year for access to its data centers, as well as its public image before the IPO. Two of Anthropic’s largest current shareholders — Google and Amazon — have tried to carefully stay on Trump’s good side, so they’re likely not happy either.
Meanwhile, the glacial negotiations have also created a power vacuum in the global AI market, not only because of the Mythos shutdown, but because the US government has signaled a willingness to lock down American AI systems it deems risky — and several US companies, including OpenAI, Google, and Microsoft, have models that may pose similar risks to Mythos. Countries have started calling for non-American AI. As Alex Stamos, cybersecurity expert and chief product officer at Corridor, told *The Verge* last week, “One of America’s champions is being kneecapped by the US government while we’re in a race with the Chinese. It’s just incredibly stupid.”
As the days wear on, the situation only worsens for these companies. Their models inch closer to Mythos-level capabilities that could trigger an export control order — in fact, OpenAI’s GPT-5.5 Cyber just beat Mythos 5 on certain benchmarks, and the Trump administration reportedly just asked OpenAI to delay the release of GPT-5.6 over security concerns, with plans for the government to approve each customer one by one. Anthropic and OpenAI’s IPOs are both approaching. And every day, China is pulling further ahead in the AI race.
Ironically, the administration’s order comes after months of pushing to dismantle AI safeguards and regulation — it’s one of the first sweeping regulatory decisions President Trump has made. But a whole host of cybersecurity leaders have come together to say that if regulation has to happen, this isn’t the way to do it. For all the Trump administration’s vows to roll back Biden-era AI regulation, it seems like, in many ways, it’s gained that ground back — and then some.
Follow topics and authors from this story to see more like this in your personalized homepage feed and to receive email updates.
- Hayden Field
-
-
-
-
-
-
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み