Anthropic、Fable 5 および Mythos 5 のアクセスを停止

米国政府は国家安全保障当局を根拠に、アメリカ国内・国外を問わず、外国籍の個人（Anthropic の従業員を含む）に対する Fable 5 および Mythos 5 へのすべてのアクセスを停止する輸出管理指令を発令しました。この命令の直接的な影響として、コンプライアンスを確保するため、当社はすべての顧客に対して Fable 5 と Mythos 5 の利用を突如として無効化しなければなりません。**他のすべての Anthropic モデル** **へのアクセスには影響はありません。** 政府からこの指令を受けたのは本日午後 5 時 21 分（東部標準時）です。書簡には国家安全保障上の懸念に関する具体的な詳細は記載されていません。私どもの理解では、政府は Fable 5 の回避策、すなわち「 Jailbreaking（ジールブレイキング）」と呼ばれる手法が特定されたことを認識したと判断しています。私たちは、この特定の技術を用いて以前から知られていた少数の軽微な脆弱性を特定するデモンストレーションを確認しました。これらの脆弱性はすべて比較的単純なものであり、回避策を必要とせずとも、他の一般に利用可能なモデルでも同様に発見可能であることを確認しています。 Fable のセーフガードに関する Anthropic の姿勢は、当社のローンチ [ブログ記事](https://www.anthropic.com/news/claude-fable-5-mythos-5) に明記されている通り以下の通りです： - 私たちは、Fable がサイバーセキュリティ（その他多数のタスク）に関連する目的で誤用される可能性を大幅に低減させるための強力なセーフガードを導入しました。実際、私たちのセーフガードは非常に強固であるため、多くのユーザーから「過度に広範すぎる」という苦情が寄せられています。 - Fable のローンチを迎える数週間前、Anthropic は米国政府、英国 AISI、複数の民間第三者組織、および社内チームと協力し、Fable のセーフガードを総計数千時間にわたってレッドチーム（攻撃シミュレーション）テストしました。 - これらのテストにより、Fable のセーフガードはこれまでに展開されたどのモデルよりも実質的に効果的であることが示されました。 - 現時点で、誰一人として「ユニバーサル・ジェイルブレイク」（モデルのセーフガードを非常に広範に迂回し、幅広いサイバー機能を解放する手法）を見つけることはできていません。 - 私たちは、現在のどのモデルプロバイダーにとっても完璧なジェイルブレイク耐性は実現不可能であると推測しています。業界で使用されているすべてのセーフガードは、非ユニバーサル・ジェイルブレイク（特定の状況下で一部のサイバー情報を引き出す可能性がある）に対して脆弱であり、将来的にはユニバーサル・ジェイルブレイクが発見される可能性が高いと考えられます。これは Fable 5 をリリースする際に明確に述べた通りです。 - 完璧なジェイルブレイク耐性が今日では実現不可能であると考えられるため、Anthropic は Fable 5 において「ディフェンス・イン・デプス（多層防御）」戦略を採用しました。私たちの目的は、非ユニバーサル・ジェイルブレイクの場合は狭い範囲に限定し、ユニバーサル・ジェイルブレイクの場合は作成に非常に高いコストがかかるようにすること、そしてこれと徹底的なモニタリングを組み合わせて、成功した攻撃を迅速に検知して停止させることにあります。これが Anthropic が Fable において顧客データの 30 日間の保持を義務付けた理由でもあります。これは顧客との関係において実際にコストを伴うポリシー変更ですが、ジェイルブレイクの調査と緩和を行うために必要な措置です。 - 私たちはこのディフェンス・イン・デプス戦略を堅持します。これにより Fable がもたらすリスクが低減され、業界全体で既に展開されている既存モデルのリスクと比較可能なレベルに抑えられています。 - 有害な結果をもたらした懸念すべき非ユニバーサル・ジェイルブレイクの開示は、現時点でまだ受けていません。私たちに開示された潜在的なジェイルブレイクは、すべて無害な応答であるか、または Mythos に特化した向上効果をもたらさない些細な発見に過ぎません。 - 現在までに、政府から提供されたのは、潜在的な狭い範囲の非ユニバーサル・ジェイルブレイクに関する口頭証拠のみです。これは本質的に、モデルに対して特定のコードベースを読み込み、ソフトウェア上の欠陥を修正するよう求める内容で構成されています。私たちが理解している限り、一つの潜在的なジェイルブレイクが政府に共有されました。私たちは、政府の指示の根拠であると信じる報告書をレビューし、そこで示された能力レベルが他のモデル（OpenAI の [GPT-5.5](https://deploymentsafety.openai.com/gpt-5-5/cybersecurity) など）でも広く利用可能であり、システムを安全に保つ防御者によって毎日使用されていることを検証しました。詳細については今後 24 時間以内に共有いたします。 政府の法的指示に従い、すべてのユーザーに対する Fable 5 および Mythos 5 のアクセスを停止いたします。しかしながら、限定的な潜在的な Jailbreak（制限回避）の発見が、数億人に展開されている商用モデルの回収理由となるべきではないと考えています。この基準が業界全体に適用された場合、最先端モデルプロバイダーすべての新モデル展開が事実上停止されると考えております。 [公的に表明](https://www.anthropic.com/policy-on-the-ai-exponential) した通り、政府には不安全な展開をブロックする権限があるべきであり、それは透明性があり公平で明確かつ技術的事実に基づいた法定プロセスの一環としてあるべきだと考えています。今回の措置はこれらの原則に則っておりません。 お客様へのこの混乱についてお詫び申し上げます。これは誤解によるものと考えており、可能な限り早くアクセスを復旧させるよう取り組んでおります。 ## 関連コンテンツ ## 最初の Anthropic パブリックレコードからの結果 [さらに読む](https://www.anthropic.com/news/anthropic-public-record?utm_source=tldrai) ## TCS と Anthropic が Claude を規制業界へ導入するためのパートナーシップを締結 Tata Consultancy Services (TCS) とのパートナーシップを発表いたします。TCS は 56 カ国にわたる自社の従業員 50,000 名に対して Claude を提供し、金融サービス、ヘルスケア、公共部門およびその他の規制業界におけるクライアント向けに Claude 搭載製品を開発し、Claude パートナーネットワークに参加します。 [続きを読む](https://www.anthropic.com/news/tcs-anthropic-partnership?utm_source=tldrai) DXC は、銀行や航空会社、その他の規制業界が依存するシステムに Claude を統合します 私たちは、世界最大の IT サービス企業のひとつである DXC Technology と、長期的なグローバル同盟を結ぶことを発表いたします。 [続きを読む](https://www.anthropic.com/news/dxc-anthropic-alliance?utm_source=tldrai)

Anthropic、Fable 5 および Mythos 5 のアクセスを停止

背景や根拠まで確認しますか？

調べる

選ぶ

サイト