サイバーセキュリティの専門家が「危険」としてアンソロピックの最強力モデル輸出禁止に抗議
サイバーセキュリティ専門家数十名がホワイトハウスに対し、アンソロピック社の最強力モデル「フェイブル」および「ミソス」への輸出規制撤廃を求めた。この規制はソフトウェアや製品のセキュリティ確保能力を制限すると主張している。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
業界の著名なベテラン数名を含む数十人のサイバーセキュリティ専門家からなるグループは、米国政府に対し、Anthropic の Fable および Mythos モデルに対する輸出管理命令の解除を求める公開書簡 published an open letter を発表しました。
この公開書簡によると、「この措置により、脆弱性を発見し、ソフトウェアや製品をより安全にするためにこれらのモデルを活用してきたサイバーセキュリティ [cybersecurity] 防衛担当者が、最良のモデルを利用できなくなっている」と述べています。
「敵対勢力が急速に能力を向上させている中で、正当な理由もなく最良の機能を防衛担当者から奪うことは危険である」と書簡には記されています。
金曜日、米国政府は国家安全保障上の懸念を理由に、Anthropic の Fable および Mythos の輸出制限を命じました the U.S. government ordered Anthropic to limit the export of Fable and Mythos。しかし、Anthropic によると according to Anthropic、この命令の具体的な理由は説明されていませんでした。これを受け、同社は世界中のすべてのユーザーに対するモデルへのアクセスを停止しました。
執筆時点において、この書簡には Alex Stamos（元 Facebook セキュリティ責任者）、Casey Ellis（バグバウンティプラットフォーム Bugcrowd の創設者）、Jon Callas（著名な暗号技術者で元 Apple セキュリティ設計・アーキテクチャマネージャー）、Paul Vixie（コンピュータサイエンティスト）、Dino Dai Zovi（元 Block 応用セキュリティエンジニアリング責任者）、Katie Moussouris（Luta Security の創設者）、Rachel Tobac（セキュリティ意識向上トレーニング企業 SocialProof Security の CEO）を含む 76 名のサイバーセキュリティ専門家の署名が寄せられています。
Mythos が今年 4 月にプレビューとして発表された際、Anthropic は同モデルがセキュリティ脆弱性の発見において極めて強力であるため、悪意のあるハッカーや外国の敵対勢力がインターネットに混乱をもたらすために使用することを防ぐために、アクセスを厳格に制限する必要があると主張しました。実際には、Anthropic は当初約 50 社に Mythos のアクセス権を与え、その後この対象範囲を拡大し、現在では 15 カ国における約 150 の組織が含まれるようになりました。
先週、Anthropic は「Fable」を公開しました。これは同社が生物、化学、サイバーセキュリティ分野での使用をブロックし、他者がこのモデルを蒸留して再構築することを防ぐために厳格なガードレールを設けた Mythos の一般向けバージョンです。Fabel に適用されたガードレールは非常に厳しく、多くのサイバーセキュリティ専門家が、ほぼすべてのサイバーセキュリティ関連のプロンプトが遮断されていることを発見しました。
Anthropic は、ホワイトハウスの輸出管理命令が、Fable をバイパス（または jailbreak）して強力な Mythos レベルの機能を解放する方法が存在するという報告に基づいている可能性があると述べています。
お問い合わせ
この禁止措置を促した Amazon の論文について、さらに詳しい情報をお持ちですか？ぜひお聞かせください。私用デバイスとネットワークから、Signal で +1 917 257 1382（ロレンツォ・フランチェスキ＝ビッチエライ氏に安全に連絡可能）、または Telegram と Keybase の @lorenzofb、メールを通じてご連絡ください。
オープンレターの署名者の一人であるケイティ・ムッソウリス氏によると、この手法は非公開の論文においてアマゾンの研究者らによって実証されたものであり、同氏はその論文を閲覧している。
しかし、ムッソウリス氏はブログ記事 こちら で、その論文は実際には本格的な jailbreak（拘束解除）を実証したものではないと述べている。同氏によれば、研究者たちはモデルが最初に「コードのセキュリティ問題についてレビューする」ことを拒否した後、公開されており既知の脆弱性を有するオープンソースコードや、「意図的に植え付けられた脆弱性」を修正するよう Fable に指示しただけだった。
「論文で記述されている振る舞いは実質的に修正することはできず、いかなる試みも防御のためのモデル機能を弱めるだけだ」とムッソウリス氏は書いた。「防衛側は、AI にファイル内のバグを修正させ、その修正がなぜ重要かを説明させ、パッチが機能していることを確認するテストコードを書かせる必要がある。これはガードレールの回避ではない。それは AI モデルが防御セキュリティのために成し得る最も価値ある行為であり、防衛側が毎日実行する『発見・修正・検証』のループを実行することだ。」
ムッソウリス氏の批判はオープンレターでも支持され、同文書では専門家グループは、アマゾンの論文に記載された手法が OpenAI の GPT-5.5 や、Anthropic 自身が公開している Claude Opus 4.8 および Sonnet で「再現可能」であり、「中国製モデルである Kimi 2.7 でも同様に行える」と述べている。
同書簡はまた、業界および学術の専門家が実施した科学的調査に基づき、「民主的なルール策定プロセス」によって作成され、透明性かつ公平に執行される規制と、米国民の安全を確保するために必要最小限の範囲でのみ使用されるべきであるとの要求も含まれています。
*当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを獲得する可能性があります。これは当社の編集独立性には影響しません。
Lorenzo Franceschi-Bicchierai は TechCrunch のシニアライターであり、ハッキング、サイバーセキュリティ、監視、プライバシーを専門に扱っています。
Lorenzo への連絡や、彼からのアウトリーチの検証は、lorenzo@techcrunch.com へメールを送るか、Signal で暗号化メッセージを +1 917 257 1382 まで送信するか、Keybase/Telegram の @lorenzofb 経由で行うことができます。
原文を表示
A group made up of dozens of cybersecurity experts, including several well-known veterans of the industry, published an open letter to the U.S. government asking it to lift the export control order on Anthropic’s Fable and Mythos models.
According to the open letter, “this action has taken the best models away from [cybersecurity] defenders” who now can’t use the models to find vulnerabilities and make their software and products more secure.
“To pull the best capabilities away from defenders without a good reason when our adversaries are rapidly advancing is dangerous,” read the letter.
On Friday, the U.S. government ordered Anthropic to limit the export of Fable and Mythos, citing national security concerns, without explaining the specific reasons behind the order, according to Anthropic. In response, the company suspended access to the models to all users worldwide.
As of this writing, the letter is signed by 76 cybersecurity experts, including Alex Stamos, former Facebook chief of security; Casey Ellis, the founder bug bounty platform Bugcrowd; Jon Callas, famed cryptographer and former Apple security design and architecture manager; Paul Vixie, computer scientist ; Dino Dai Zovi, the former head of applied security engineering at Block; Katie Moussouris, the founder of Luta Security; and Rachel Tobac, the CEO of the security awareness training firm SocialProof Security.
When Mythos launched as a preview in April, Anthropic claimed it was so powerful at finding security vulnerabilities that the company needed to tightly restrict access to prevent malicious hackers or foreign adversaries from using it to cause havoc on the internet. In practice, that meant Anthropic gave around 50 companies initial access to Mythos, recently expanding that group to include around 150 organizations in 15 countries.
Last week, Anthropic released Fable, a public version of Mythos that the company said had strict guardrails to block its use in the fields of biology, chemistry, and cybersecurity, as well as to stop others from distilling the model in order to re-create it. The guardrails on Fable were so strict that many cybersecurity experts found that it stopped essentially any prompts related to cybersecurity.
Anthropic said that the White House export control order may have been based on a report that there was a method to bypass — or jailbreak — Fable to unlock its powerful Mythos-level capabilities.
Contact Us
Do you have more information about the Amazon paper that prompted the ban? We’d love to hear from you. From a non-work device and network, you can contact Lorenzo Franceschi-Bicchierai securely on Signal at +1 917 257 1382, or via Telegram and Keybase @lorenzofb, or email.
According to Katie Moussouris, one of the signatories of the open letter, the method was demonstrated by Amazon researchers in a paper that is not public but that she has reviewed.
But Moussouris said in a blog post that the paper did not actually demonstrate a real jailbreak. Instead, she wrote, the researchers simply asked Fable to fix open source code with public and known vulnerabilities along with “deliberately planted vulnerabilities,” after the model initially refused to “review the code for security issues.”
“The behavior described in the paper cannot meaningfully be fixed, and any attempt would only weaken the model for defense,” Moussouris wrote. “Defenders need to be able to ask AI to fix the bugs in a file, explain why the fix matters, and write tests that confirm the patch works. That is not a guardrail bypass. It is the most valuable thing an AI model can do for defensive security: executing the find, fix, and test loop defenders run every day.”
Moussouris’ critique was echoed in the open letter, which also said that the group of experts believe the method in the Amazon paper “can be replicated” on OpenAI’s GPT-5.5, on Anthropic’s own publicly available Claude Opus 4.8 and Sonnet, “and even Chinese models like Kimi 2.7.”
The letter also asked for transparently and fairly enforced regulations created by “a democratic rule-making process” that are based on scientific research done by industry and academic experts, and “used only to the minimal extent necessary to ensure the safety of the American public.”
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
Lorenzo Franceschi-Bicchierai is a Senior Writer at TechCrunch, where he covers hacking, cybersecurity, surveillance, and privacy.
You can contact or verify outreach from Lorenzo by emailing lorenzo@techcrunch.com, via encrypted message at +1 917 257 1382 on Signal, and @lorenzofb on Keybase/Telegram.
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み