AI業界の命運を分ける可能性のあるMAGA派の権力闘争:Anthropicの事例
Anthropicは、政府からの輸出管理指令により、米国国外および国内の外国人に対する新モデル「Claude Fable 5」および「Mythos 5」へのアクセスを即時停止すると発表した。これにより事実上の技術禁止措置が講じられた。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
Anthropic は金曜日、わずか3日前にリリースした強力な新モデル「Claude Fable 5」と「Mythos 5」へのアクセスを取り下げると発表し、AI界を驚かせました。
Anthropicによると、政府は「米国国内・国外を問わず、すべての外国人によるFable 5およびMythos 5へのアクセスを停止する輸出管理指令を発令した」とのことです。Anthropicには米国人へのアクセス制限を行う手段がないため、これは事実上の技術禁止措置となりました。
Anthropicも米国政府も、この命令の根拠や法的根拠についてはほとんど詳細を提供していません。しかし週末にかけて、複数の報道機関が金曜日の発表に至るまでの交渉を記した記事を掲載しました。最も詳細だったのは土曜日にPoliticoが発表した記事で、「当局者がセキュリティリスクがあると信じていた新リリースされた人工知能モデルの自主的な撤回を企業に説得するため、上級職員による必死の24時間の努力が行われた」と説明していました。
PoliticoやThe Informationを含む複数の報道機関は、AmazonのCEOであるAndy JassyがAnthropicの最上位モデルにおける潜在的な脆弱性についてトランプ政権に警告したと報じています。Amazonは明らかに、Fable のガードレールを回避して、Claude Mythos Preview が4月に発表されて以来市場から提供を控えていた強力なサイバーセキュリティ機能の一部へのアクセスが可能であることを発見しました。
Politico の報道によると、金曜日の電話会議において、Anthropic のCEOであるダリオ・アモダイ氏は「政府の懸念に反論し、ガードレールを擁護するとともに、発生した迂回行為は彼が考えるところでは特定の事象であり、広範な脱獄(jailbreak)と同様のリスクをもたらすものではない」と主張しました。
Anthropic は金曜日に Fable へのアクセス停止を発表した際にも同様の見解を示しています。「まだどのテスターも、モデルの安全対策を非常に広く迂回し、幅広いサイバー機能を解放する普遍的な脱獄手法を見つけることはできていません。」
しかし Politico の報道によれば、政府高官らはアモダイ氏の主張に動かされることはありませんでした。彼らは Anthropic 最も強力なモデルに対して輸出規制を科しました。
これはトランプ政権が Anthropic に対して行った二度目の劇的な法的措置です。昨年2月には国防総省が Anthropic をサプライチェーン上のリスクと宣言し、事実上軍隊および特定の軍事請負業者による同社モデルの使用を禁止しました。この措置は以来裁判所に係属しており、連邦判事が政府の根拠が建前ではないかと疑問を呈しています。
「統治する法律には、政府に異議を唱えるだけで米国の企業を潜在的な敵対者やアメリカに対する破壊者と見なすというオーウェル的な概念を支持する記述は何もない」と、リタ・リン判事は3月の判決で書き記しました。
私のポッドキャスト『AI Summer』の最新エピソードで、法学者のアラン・ロゼンシュタイン氏は、金曜日の輸出禁止令が法的にはより確固たる基盤にある可能性があると私に語りました。
「政府が行っていることは、法的観点から見て表面的には妥当だ」と、彼は金曜日の命令について述べました。「彼らは確かにこれらの輸出管理措置を持っており、これらの輸出管理措置は事実上のライセンス制度を創出する可能性があります」
つまり、トランプ政権が望めば、アンソロピックに深刻な損害を与える権限を持っている可能性が高いのです。大きな疑問は、トランプ氏がそれを望むかどうかです。
もっと読む
原文を表示
Anthropic stunned the AI world on Friday by announcing it was revoking access to Claude Fable 5 and Mythos 5, the powerful new models it released just three days earlier.
The government, Anthropic said, had “issued an export control directive to suspend all access to Fable 5 and Mythos 5 by any foreign national, whether inside or outside the United States.” Because Anthropic doesn’t have a way to limit access to Americans, this amounted to a de facto ban on the technology.
Neither Anthropic nor the US government has provided much detail on the order’s rationale or legal basis. But over the weekend, a number of news organizations published articles describing the negotiations that preceded Friday’s announcement. The most detailed was this Saturday article in Politico that described a “frantic 24-hour effort by senior officials to convince the company to voluntarily pull a newly released artificial intelligence model that officials believed posed security risks.”
Multiple news outlets, including Politico and The Information, have reported that Amazon CEO Andy Jassy alerted the Trump Administration about potential vulnerabilities in Anthropic’s top models. Amazon apparently discovered it was possible to bypass Fable’s guardrails and thereby gain access to some of the powerful cybersecurity capabilities Anthropic has withheld from the market since the April announcement of Claude Mythos Preview.
Politico reports that during a Friday call, Anthropic CEO Dario Amodei “pushed back on the administration’s concerns, defended the guardrails, and argued that the type of bypass that occurred, which he believed to be specific, did not pose the same risk as a broader jailbreak.”
Anthropic made similar points in its Friday post announcing the suspension of Fable access: “No testers have yet been able to find a universal jailbreak — a jailbreak method that can very broadly bypass the model’s safeguards, unblocking a wide range of cyber capabilities.”
But according to Politico, senior administration officials were unmoved by Amodei’s arguments. They slapped export controls on Anthropic’s most powerful models.
This is the second time the Trump Administration has taken dramatic legal action against Anthropic. Back in February, the Defense Department declared Anthropic to be a supply chain risk, effectively prohibiting use of its models by the military — as well as certain military contractors. That action has been tied up in court ever since, with a federal judge wondering whether the government’s rationale was pretextual.
“Nothing in the governing statute supports the Orwellian notion that an American company may be branded a potential adversary and saboteur of the US for expressing disagreement with the government,” wrote Judge Rita Lin in a March ruling.
In a new episode of my podcast, AI Summer, the legal scholar Alan Rozenshtein told me that Friday’s export ban may be on firmer ground, legally speaking.
“What the government is doing from a legal perspective is facially plausible,” he said of Friday’s order. “They do really have these export controls, and these export controls really can create a de facto licensing regime.”
So the Trump Administration likely has the power to seriously harm Anthropic if it wants to do so. The big question is whether Trump wants to do that.
Read more
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み