米国政府の指令に基づく Fable 5 および Mythos 5 のアクセス停止に関する声明

米国政府は国家安全保障当局を根拠に、アメリカ国内・国外を問わず、外国籍者（Anthropic の従業員を含む）による Fable 5 および Mythos 5 へのすべてのアクセスを停止する輸出管理指令を発令しました。この命令の直接的な影響として、コンプライアンスを確保するため、当社はすべての顧客に対して Fable 5 と Mythos 5 を突如として無効化しなければなりません。**他のすべての Anthropic モデル** **へのアクセスには影響しません。** 政府からこの指令を受けたのは本日午後 5 時 21 分（東部標準時）です。書簡には国家安全保障上の懸念に関する具体的な詳細は記載されていません。私どもの理解では、政府は Fable 5 を回避する、あるいは「 Jailbreaking（脱獄）」する方法を特定したと判断しているようです。私たちはこの特定の手法が、以前から知られている少数の軽微な脆弱性を特定するために使用されているデモンストレーションを確認しました。これらの脆弱性はすべて比較的単純であることが判明しており、他の公開されたモデルでも回避措置を必要とせずに同様に発見できることを確認しています。 Fable のセーフガードに関する Anthropic の姿勢は、当社のローンチ [ブログ記事](https://www.anthropic.com/news/claude-fable-5-mythos-5) に記載されている通り以下の通りです： - 私たちは、Fable がサイバーセキュリティ関連のタスク（その他多数）に誤用される可能性を大幅に低減する強力なセーフガードを導入しました。実際、私たちのセーフガードは非常に強固であるため、多くのユーザーから「過度に広範すぎる」という苦情が寄せられています。 - Fable のローンチを迎える数週間前、Anthropic は米国政府、英国 AISI（AI Safety Institute）、複数の民間第三者組織、および社内チームと協力し、Fable のセーフガードを総計数千時間にわたってレッドチームテストしました。 - これらのテストにより、Fable のセーフガードはこれまでに展開されたどのモデルよりも実質的に効果的であることが示されました。 - 現時点で、誰一人として「ユニバーサル・ジェイルブレイク」（モデルのセーフガードを非常に広範に迂回し、幅広いサイバー機能を解放する手法）を見つけることはできていません。 - 私たちは、現在のところどのモデルプロバイダーにとっても完璧なジェイルブレイク耐性は不可能であると推測しています。業界で使用されているすべてのセーフガードは、非ユニバーサル・ジェイルブレイク（特定の状況下で一部のサイバー情報を引き出す可能性がある）に対して脆弱であり、将来的にはユニバーサル・ジェイルブレイクが発見される可能性が高いと考えられます。これは Fable 5 をリリースする際に明確に述べた通りです。 - 完璧なジェイルブレイク耐性が今日では実現不可能であると考えられるため、Anthropic は Fable 5 において「ディフェンス・イン・デプス（多層防御）」戦略を採用しました。私たちの目的は、非ユニバーサル・ジェイルブレイクの場合は狭い範囲に限定し、ユニバーサル・ジェイルブレイクの場合は生成コストを非常に高くすること、そしてこれと徹底的なモニタリングを組み合わせて、成功した攻撃を迅速に検知して停止させることにあります。これが Anthropic が Fable において顧客データの 30 日間の保持を義務付けた理由でもあります。これは顧客との関係において実際にコストがかかるポリシー変更ですが、ジェイルブレイクの調査と緩和を行うために必要な措置です。 - 私たちはこのディフェンス・イン・デプス戦略を堅持します。これにより Fable がもたらすリスクが低減され、業界全体で既に展開されている既存モデルのリスクと比較可能なレベルに抑えられています。 - 有害な結果をもたらした懸念すべき非ユニバーサル・ジェイルブレイクの開示すら、私たちはまだ受けていません。私たちに開示された潜在的なジェイルブレイクは、すべて無害な応答であるか、または Mythos に特化した向上をもたらさない些細な発見に過ぎません。 - 現時点まで、政府から提供されたのは、潜在的で狭い範囲の非ユニバーサル・ジェイルブレイクの口頭証拠のみです。これは本質的に、モデルに対して特定のコードベースを読み込み、ソフトウェア上の欠陥を修正するよう求める内容です。私たちが理解している限り、一つの潜在的なジェイルブレイクが政府に共有されました。私たちは、政府の指令の根拠であると信じる報告書をレビューし、そこで示された能力レベルが他のモデル（OpenAI の [GPT-5.5](https://deploymentsafety.openai.com/gpt-5-5/cybersecurity) など）からも広く利用可能であり、システムを安全に保つ防御者によって毎日使用されていることを確認しました。詳細については今後 24 時間以内に共有いたします。 私たちは政府の法的指示に従い、すべてのユーザーに対する Fable 5 および Mythos 5 のアクセスを停止しました。しかし、限定的な潜在的な Jailbreak（脱獄）の発見が、数億人に展開されている商用モデルのリコール理由となるべきだと私どもは考えません。もしこの基準が業界全体に適用されるのであれば、すべてのフロンティア・モデル・プロバイダーにとって新たなモデルの展開が事実上停止されると私たちは考えています。 私たちは [公的に](https://www.anthropic.com/policy-on-the-ai-exponential) [表明した](https://darioamodei.com/post/policy-on-the-ai-exponential) 通り、政府には不安全な展開をブロックする権限を持つべきだと考えています。ただし、それは透明性があり、公平で明確であり、技術的事実に基づいた法定プロセスの一環として行われるべきです。今回の措置はこれらの原則に則っていません。 お客様へのこの混乱についてお詫び申し上げます。これは誤解によるものと考えており、可能な限り早くアクセスを復旧させるよう取り組んでいます。 ## 関連コンテンツ ## 最初の Anthropic パブリック・レコードからの結果 [さらに読む](https://www.anthropic.com/news/anthropic-public-record) ## TCS と Anthropic が Claude を規制業界に導入するためにパートナーシップを結ぶ 私たちはタタ・コンサルティング・サービス（Tata Consultancy Services、以下 TCS）とのパートナーシップを発表します。TCS は 56 カ国にわたる自社の従業員 50,000 名に対して Claude を提供し、金融サービス、ヘルスケア、公共部門、およびその他の規制業界のクライアント向けに Claude を搭載した製品を開発し、Claude パートナー・ネットワークに参加します。 [続きを読む](https://www.anthropic.com/news/tcs-anthropic-partnership) DXC は、銀行や航空会社、その他の規制業界が依存するシステムに Claude を統合します 私たちは、世界最大の IT サービス企業の 1 つである DXC Technology と、数年間にわたるグローバルな同盟を結ぶことを発表します。 [続きを読む](https://www.anthropic.com/news/dxc-anthropic-alliance)

米国政府の指令に基づく Fable 5 および Mythos 5 のアクセス停止に関する声明

背景や根拠まで確認しますか？

調べる

選ぶ

サイト