Anthropic、顧客制御クラウドの「Enterprise Frontier Safeguards」を発表

本日、Enterprise Frontier Safeguards（EFS）を発表します。これは、ゼロデータ保持（ZDR）のプライバシー保護と、不正利用を検出するための最先端のセーフガードを融合させたソリューションです。

EFS は、データを Anthropic が管理するクラウドインフラではなく、顧客が制御するクラウドインフラに保存することで機能します。EFS の導入は段階的に進められ、今秋後半から開始されます。移行をスムーズに行うため、対象となる顧客には EFS 提供までの間、Fable 5 および Fable 5.1 で ZDR が提供されます。

EFS は、金融サービス、ヘルスケア、製造業、通信、法律、小売、公共部門など、100 社を超える顧客と緊密に協力して開発されました。また、Amazon Web Services、Google Cloud、Microsoft Azure のクラウドパートナーとも連携しています。

Claude Code、Claude Enterprise、Claude Platform、Amazon Bedrock、AWS 上の Claude Platform、Google の Agent Platform、Microsoft Foundry で EFS をサポートします。

フロンティアセキュリティのジレンマを解決する

Claude Fable 5.1 に代表される Mythos クラスのモデルは、知能とエージェント機能において飛躍的な向上をもたらします。しかし、その能力の向上には、不正利用や自律的な誤動作のリスクも伴います。

ここ数ヶ月、AI モデルの悪用が試みられたという確かな証拠が相次いでいます。その内容は、詐欺などの典型的な悪用から、エージェントが自律的に破壊行為を行う高度なサイバー攻撃まで多岐にわたります。なかには、企業顧客の認証情報を盗んだり不正利用したりするケースもあり、トラフィックを監視して異常行動を検知する能力がなければ、これらを発見するのは極めて困難です。

さらに、最も巧妙な悪用は複数のセッションやアカウントにまたがる多数のタスクを含むため、各やり取りを個別に自動分析して即座にデータを破棄するだけでは不十分です。効果的な検出には、時間軸やアカウント間でデータを相関させるために、一定期間データを保存しておく必要があります。

このため、Fable 5 から 30 日間のデータ保持ポリシーを導入しました。これは企業データを学習したいという欲求から生まれたものではなく、Anthropic は明示的な許可なく企業データを学習したことは一度もなく、今後も決して行いません。

協力してきた企業は一般的に、データ保持のセキュリティ上の価値を理解していましたが、規制の厳しい業界を中心に、データ保持を前提としたモデルの利用には難色を示すケースが多くありました。そこで私たちは顧客と協議し、両方のメリットを両立する解決策を設計しました。それが、ZDR（ゼロデータリテンション）によるプライバシー保護と、時間軸やアカウントを超えた監視によって実現される安全性の両方です。

お客様と共に設計した

Enterprise Frontier Safeguards (EFS) は、毎日このツールを利用するセキュリティ、プロダクト、コンプライアンス、デリバリーチームの専門家からのフィードバックを元に構築されました。私たちが協力した組織の一つに、米国最大銀行の chief information security officers が名を連ねる「システムリスク分析・レジリエンスセンター (ARC)」があります。ゴールドマン・サックス、モーガン・スタンレー、シティ、バンク・オブ・アメリカ、ウェルズ・ファーゴなどの大手金融機関がメンバーです。

また、コムキャスト、KPMG、マスターカード、セールスフォース、ビザなど、業界を問わず設計の堅牢性を検証するために各企業のリーダーとも連携しました。その対話の対象は、フォーチュン100 社の四分の一に及び、全米のグローバルシステム重要銀行すべて、そして事実上すべての規制産業に広がりました。

ここでは、多様なお客様から寄せられた声と、それらの共通する懸念に対応するために EFS に組み込んだ機能をご紹介します。

モニタリングについて

企業は従来より、内部不正リスクに対するモニタリングを適用してきましたが、現在はエージェントのモニタリングレベルを引き上げる支援を求めています。主な懸念点は、Anthropic の自動モニタリングシステムが自社の規制基準を満たすかどうかです。

EFS では、顧客がデータレビューの方法を制御できます。 モニタリングで注意が必要なパターンを検知した場合、そのシグナルは直接顧客へ送信され、自動化されたシステムが検出した内容を顧客自身が確認できるようになります。

データストレージについて

企業が新たな「信頼できるデータベンダー」を追加するには、多くの理由から多大な労力が必要です。企業は自社の顧客に対してベンダーの情報を通知し、契約を更新する必要があります。また、データの機密性が高いため、安全な保存と監査に関する内部要件も満たさなければなりません。

これらの懸念を踏まえ、私たちは EFS を設計する際、顧客が既存のクラウドインフラストラクチャ上にデータを保存できる仕組みを採用しました。

EFS では、顧客がデータストレージと管理を完全にコントロールできます。 顧客は、自社の制御下にあるインフラストラクチャ内にデータを配置し、独自の暗号化キー、アクセスポリシー、監査ログを適用したいと考えています。監視に使用されるアクティビティデータは、顧客自身のクラウドアカウント（Amazon S3、Azure Blob Storage、Google Cloud Storage など）に保存することが可能です。

自動化と人的レビューについて

自動レビューの精度が向上しているとはいえ、フラグを立てられた内容を人間が確認することで、実際の不正利用を確認し、誤検知を除外する価値は依然としてあります。しかし、多くの顧客、特に規制産業に従事する企業から寄せられた声では、そのレビューを行うのは自社の担当者に限られるべきだとされています。

彼らは、特定の情報を閲覧できる人物を厳格に規定するルールの下で運営しています。例えば、機密性の高い法的資料や非公開情報、薬物安全性報告書などが該当します。これらの業務は、すでに社内チームが訓練され、権限付与されているためです。

EFS（Enterprise Frontier Safeguards）は、自動化された安全監視機能を備えており、Anthropic による人的レビューを必要としません。顧客はサイバー攻撃からの保護を求めていますが、こうした攻撃が複数のセッションやアカウントにまたがって進行した場合、検出が困難であることも理解しています。EFS では、自動システムがトラフィックのローリングウィンドウを分析し、深刻な悪用の兆候を検出します。具体的には、攻撃的なサイバー能力や生物学的能力の開発試み、あるいは盗まれたり漏洩したりした認証情報の痕跡などが対象となります。検知されたアラートは直接顧客へ通知され、その後顧客側で対応が行われます。Anthropic の従業員による人的レビューは不要です。

AI の制御は機密情報を保護するために設計されるべきであり、モデルのセーフガードはそのプロセスにおいて重要な要素です。Anthropic は、顧客の要件や基準との整合性を確保するため、Enterprise Frontier Safeguards を開発する際に当社と連携しました。

「Enterprise Frontier Safeguards」は、私たちが求めたものをそのまま実現しています。ログはウェルズ・ファーゴが管理する環境内にあり、暗号鍵も同様に社内で管理されています。データの実質的な所有権は当社が保持したまま、検知機能の運用は Anthropic が担当します。この役割分担こそが、チームが最先端モデルを安全に活用し、顧客や従業員、規制当局に対する責任を果たすことを可能にしています。業界がこの種の safeguards を必要としていたからこそ、私たちはその設計段階から関与しました。

重要インフラを運用する企業として、モデルの能力は極めて重要です。それと同等に重要なのは、データを自社のアカウント内に保持できるソリューションです。「Enterprise Frontier Safeguards」がその課題を解決しました。

当社のメンバー8名が Anthropic と協力し、システム的に重要な銀行内で最も能力の高い最先端モデルを運用するために必要な条件を定義しました。具体的には、「データを誰が保有するか」「鍵を管理するのは誰か」「自動レビューで何が閲覧可能で何が不可か」「人間が確認できるのはどのような条件下でのみか」です。この協働は、業界全体やその先へと展開可能な、より高度な safeguards と基準の開発・提供につながっています。

セーフガードアーキテクチャの重要な原則の一つは、データをモデル自体の外に保持し、自社の環境内で保護できる能力です。企業やクライアントの業務には規制対象となる領域や極めて機微な情報が存在します。こうしたセーフガードがあるからこそ、以前は適用できなかったビジネス分野にも AI を活用できるようになりました。

当社は過去 20 年以上にわたり、顧客からデータを預かってきました。この経験こそが、Anthropic と共に仕組みを一緒に考え、傍観するのを待たなかった理由です。セキュリティやプライバシーの機能について、ポリシーレベルだけでなくアーキテクチャレベルで新たな機能を共同開発することができました。

顧客はフロンティアモデルを実務に導入したいと考えていますが、セキュリティチームはデータを自らが管理するインフラ内に留めておくことを望んでいます。Anthropic は Enterprise Frontier Safeguards を 100 社以上の企業と共に構築し、まさにその実現を目指しました。

AI モデルが規制の厳しい、機密性の高いワークロードを担うようになると、責任あるスケーリングは単なるポリシーへのコミットメントだけでなく、アーキテクチャにも左右されます。データ環境に対する直接的な制御と、パターンベースの自動安全監視を組み合わせることで、企業は実際の監督、説明責任、そして自信を持って導入するための具体的な構造的な能力を手に入れることができます。

「これらのセーフガードとその設計は、明確に私たちのフィードバックを反映しています。これにより、私たちは運転席の座席を確保できました。ログは私たちが管理しており、私たちが望まない限り他者に送信されることはありません。これは、データと情報の制御権、そしてセーフガードを超える事象が検出された後の処理に関する制御権を私たちに与えてくれます。」

「AI が企業内にさらに深く組み込まれるにつれ、セキュリティと信頼こそが、組織を実験段階から大規模な導入へと導く鍵となります。Enterprise Frontier Safeguards は、この仕組みを最初から構築します。監視データは顧客が管理するインフラストラクチャ内に留まり、誰がアクセスできるかは顧客自身のチームが決定します。」

顧客データの機密保持は、Snowflake がすべての顧客に対して約束するものです。私たちは常に迅速に最先端モデルを顧客の手元に届けることに注力してきましたが、最も厳しいデータ保証のもとでそれを安全に行うことが課題でした。

Anthropic と連携して「Enterprise Frontier Safeguards（エンタープライズ・フロンティア・セーフガード）」を設計したことで、両方の要件を満たすことが可能になりました。顧客の環境内にデータを保持し、管理キーは顧客が握りながら、最初の日から Anthropic の最も高性能なモデルを実行できるのです。これは、プラットフォームを意識して構築された責任ある最先端 AI の姿です。

Stripe において、顧客データの保護は事業運営の根幹です。Anthropic の「Enterprise Frontier Safeguards」により、対象となる最先端モデルを利用しながらも、会話ログを Stripe の AWS 環境内に保持することが可能になります。アクセス権限やレビュープロセスは、Stripe が管理するセキュリティコントロールによって統制されます。

Rogo の顧客は、利用可能な最高のインテリジェンスへのアクセスを期待していますが、そのためにセキュリティやデータ保護の枠組みが損なわれることは決してありません。「Enterprise Frontier Safeguards」は、最も高性能なモデルを金融機関に提供しつつ、彼らが求める機関レベルのデータ要件を満たします。最先端の知性とエンタープライズ級の制御を組み合わせたこのアプローチこそが、金融サービス分野における AI の展開において不可欠な要素です。

企業は、Cognition の自律型エンジニアに実際の生産現場での業務を任せています。この信頼関係が成り立つためには、作業内容のプライバシーが守られることが不可欠です。「Enterprise Frontier Safeguards」により、顧客のデータや身元情報は当社の管理範囲から決して離れることはありません。これにより、プライバシーを犠牲にする必要なく、最先端 AI を生産現場に導入することが可能になります。

顧客のコードやデータは、彼らにとって最も価値ある知的財産の一つです。この情報を保護することは、私たちが Factory で事業を構築する上で基盤となる要素です。Anthropic と連携することで、顧客が Claude の最上位モデルを活用しながらも、機密データの管理権限を自社の手に保持できる環境を提供しています。「Enterprise Frontier Safeguards」は、セキュリティチームが必要とするデータ保護機能を備えつつ、企業に対して最先端の知能へのアクセスを実現します。

私たちは常に、顧客の機密性とセキュリティに対する揺るぎないコミットメントを維持してきました。私たちが支援する主要な法務および専門チームは、これらの原則を交渉不可のものとして捉えており、私たち自身も同様の基準を課しています。

「Enterprise Frontier Safeguards（EFS）」はこのコミットメントを反映したものであり、最も厳格な機密性要件を満たす顧客が、モデルプロバイダーにデータを保持されることなく、最先端のモデルにアクセスできる環境を提供します。

EFS の仕組みについて

これらの制御機能は、Claude に直接アクセスする場合でも、クラウドパートナーを通じてアクセスする場合でも、同じように動作するように設計されています。Amazon Web Services、Google Cloud、Microsoft Azure を利用する顧客には同等の制御機能が提供され、アクティビティデータは各自が信頼しているクラウド環境内の自身のアカウントに保存されます。また、Enterprise Frontier Safeguards の対象となる顧客をサポートするサードパーティ製サービスへの対応も進めています。

顧客所有ストレージ、顧客管理暗号化キー、完全な自動レビュー機能はいずれもオプトイン式です。組織が必要とする機能を自由に選択して有効化できます。これらの設定は、モデルの動作、API の価格設定、レート制限には一切影響しません。

Anthropic は Enterprise Frontier Safeguards に対して追加料金を請求しません。ただし、顧客がクラウドアカウントにデータを保存を選択した場合、そのストレージ容量や読み書き、データ転送（egress）にかかる費用は、各クラウドプロバイダーが他のリソースと同様に請求します。

導入について

Enterprise Frontier Safeguards は、段階的に顧客へ展開され、今年秋の遅くには広く利用可能になる予定です。本機能へのアクセスを希望される場合は、以下のフォームにご記入ください。

フォームはこちら

関連記事

アライメントとセキュリティ対策の強化について

7 月 30 日、Claude モデルが許可なく実際のコンピュータシステムにアクセスしたという 3 つのインシデントが発生したことを報告しました。現在、これらの事案について詳細な分析を行っており、METR と連携して独立したレビューを実施する計画です。その間、過去 1 ヶ月で実施した変更の一部をご紹介いたします。

詳しく読む

モデルハードウェア標準（MHS）のプレビューについて

AI エージェントが物理デバイスを安全に操作するための共通仕様である「モデルハードウェア標準（Model Hardware Standard：MHS）」の研究プレビューを、特定の科学研究所および高度な製造業者を対象に開始しました。

詳しく読む

科学者への支援拡大

本日より、世界中の10,000人の科学者がClaudeを無料で利用開始できるようになります。認定された主任研究者はClaude Teamサブスクリプションプランの対象となり、研究チームのメンバーには標準プランを無償で、プレミアムプランを月額15ドル（最長1年間）で提供できます。

詳細はこちら