Anthropic、最強モデルの出力を防御者に提供しモデル自体は非公開へ
本文の状態
日本語全文を表示中
詳細モードで約4分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
TLDR AI
Anthropic は最強のセキュリティモデル「Claude Mythos 5」を直接公開せず、パートナー製品の防御機能として提供し、同時にオープンソースセキュリティへの資金支援を発表した。
AI深層分析を開く2026年8月25日 22:05
AI深層分析
キーポイント
モデルの非公開・出力提供戦略
Anthropic は Claude Mythos 5 を直接公開するのではなく、Claude Security やパートナー製品の内部で実行させ、ユーザーにはパッチ提案やアラートなどの出力のみを提供する設計を採用している。
人間による検証の必須化
生成されたパッチの実装前には必ず人間のレビューと承認が必要であり、この仕組みによりモデルへの悪用リスクを排除し、開発者がループ(Human in the loop)に留まることを設計上保証している。
オープンソースセキュリティ基金の創設
Anthropic はオープンソースプロジェクトの脆弱性対応を加速させるため、3500 万ドル相当のクレジットを「Defender Advantage Fund」として拠出すると発表した。
欧州規制への対応と資金活用
9 月 11 日に発効する欧州のサイバーレジリエンス法(Cyber Resilience Act)に対応するため、資金は既存の脆弱性パッチ適用やスキャン自動化ツールの開発に充てられる。
設定ミスによるモデルの流出事例
Anthropic は7月、設定ミスを起こしたサイバーセキュリティ評価中に自社の3つのモデルが実際の組織に到達したと明らかにした。
重要な引用
A user of a partner tool receives a specific artifact, a suggested patch or an alert, and has no way to prompt the model to write an exploit instead.
Anthropic is putting $35mn of credits into a Defender Advantage Fund for open-source security
The distinction is the whole design.
Anthropic disclosed in July that three of its own models reached real organisations during misconfigured cybersecurity evaluations, which is the argument for handing out results rather than prompts.
編集コメントを表示
編集コメント
Anthropic はセキュリティモデルの公開を制限する一方で、その能力を社会実装するための資金と仕組みを提供しており、技術の民主化と安全確保の両立を目指す戦略が明確である。欧州の規制発効を目前に控えたタイミングでの発表は、業界全体が直面する課題に対する即応性を示していると言える。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
Anthropic は、Claude Security においてコードスキャンに「Claude Mythos 5」の利用を開始し、パートナー企業の防御製品への組み込みを進めています。ユーザーはモデルそのものへの直接アクセスを得るのではなく、分析結果や対策案といった出力を受け取る形となります。また、オープンソースのセキュリティ分野向けに 3,500 万ドル相当のクレジットを提供する方針も示しています。
Anthropic は、最も高度なサイバーセキュリティモデルへのアクセス範囲を広げつつ、一般ユーザーがモデルそのものに近づくことを制限しています。Claude Mythos 5 は現在、Claude Security 内でコードスキャンを実行しており、防御担当者が日常的に利用している製品へと組み込まれていきます。
この設計の肝は、明確な境界線にあります。パートナーツールの利用者には、特定の成果物(アセット)としてパッチ案やアラートが提示されるだけで、モデルに対して「攻撃用のコードを書け」といったプロンプトを与える手段はありません。
今日から実装されているのはスキャン機能です。企業顧客は、Claude Mythos 5 をリポジトリに指定するだけで、CWE(共通脆弱性分類)カテゴリ、深刻度、信頼度のラベル付きで発見事項を取得し、推奨される修正策も得られます。これは追加オプションではなく、通常のトークン使用量として課金されます。
設計上、人間は常にプロセスの最終判断者として関与します。すべてのパッチは実装前に人のレビューと承認を経なければならず、スキャンによって Claude へのアクセス範囲が他へ拡張されることはありません。
2 つ目の発表は資金に関するもので、これが真のボトルネックを浮き彫りにしています。Anthropic は、オープンソースセキュリティ向けの「Defender Advantage Fund」に 3500 万ドル相当のクレジットを提供します。これは、TNW の報道で Glasswing のモデルがわずか 1 ヶ月で 10,000 件の深刻な脆弱性 を発見し、パッチ適用のスピードが追いついていないことが明らかになった後の措置です。
助成金は主に 3 つの目的に充てられます。広く利用されているプロジェクトにおける既知の脆弱性の修正、他のプロジェクトでも流用できるスキャンとパッチ自動化の実装、そして攻撃全体を封じるような設計アプローチの追求です。
欧州の開発者にとってこのタイミングは偶然ではありません。サイバーレジリエンス法(Cyber Resilience Act)に基づく脆弱性報告義務が 9 月 11 日、わずか 3 週間後に発効します。
これらの規則は特にオープンソースの管理責任者に課されます。セキュリティポリシーの策定、実際に悪用されている脆弱性の積極的な報告、市場監視当局との協力などが求められます。ただし罰則からの免除規定があり、また Mythos 自体への欧州側のアクセス権については 調整に難航 した経緯があります。
クレジットを提供するだけでは不十分です。これはあくまで限界のある支援策であり、モデルの使用権を付与する形では、すでに運用体制を整えているプロジェクトしか恩恵を受けられません。
競争の構図は同じ形に収束しつつあります。OpenAI もセキュリティチーム向けに独自の「審査済みアクセスプログラム」を設けており、能力を認証後に開放するという同じ論理に基づいています。
こうした慎重な姿勢が特に顕著になったのは最近のことです。Anthropic は 7 月、自社のモデル 3 つが設定ミスのあるサイバーセキュリティ評価中に実際の組織に到達したと発表しました。この事実こそが、プロンプトそのものを公開するのではなく、結果のみを提供すべきだという主張の根拠となっています。
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み