プロジェクト・グラスウィングの拡大について
本文の状態
日本語全文を表示中
詳細モードで約9分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Anthropic News
Anthropic が、AI の安全性や透明性を高めるための「プロジェクト・グラスウィング」の範囲を拡大すると発表した。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
Project Glasswing は、世界で最も重要なソフトウェアを保護するための当社の共同取り組みです。今年 4 月初旬には、約 50 の初期パートナーが Claude Mythos Preview にアクセスできるようになると発表しましたが、それ以来、これらのパートナーは自社のコードベースから脆弱性をスキャンするためにこのモデルを展開してきました。最近 報告 した通り、これまでにこれらのパートナーによって発見された高または重大な深刻度のセキュリティ上の欠陥は 10,000 件を超えています。
現在、Project Glasswing を拡大しています。プロジェクトのパートナー、セキュリティ業界、オープンソースソフトウェアのメンテナ、そして米国政府との数週間にわたる緊密な協力を経て、約 150 の新たな組織にパートナーシップを拡大します。各組織はアクセス権を得る前に、当社のセキュリティ要件を満たす必要があります。
この新しいグループに所属する組織は 15 カ国以上にまたがっており、その多くがさらに多くの地域に対して重要なインフラストラクチャを提供しています（将来的には、地理的な展開範囲をさらに大きく拡大する予定です）。このグループには、初期の参加者では十分に代表されていなかった電力、水道、医療、通信、ハードウェアなどの複数の産業が含まれています。また、新しいパートナーの多くはベンダーであり、世界中の多くの組織、政府を含む他社が依存しているコードベースを維持する企業や非営利団体です。
各パートナーに共通しているのは、彼らのコードベースに対する攻撃が成功すれば壊滅的な結果を招く可能性があるという点です。ほとんどのパートナーにおいて、大規模な攻撃は 1 億人以上に影響を与える可能性があり、グローバルおよび国家安全保障の両面において重要な帰結をもたらすと推定しています。
この拡大は、AI がすべてのソフトウェアをより安全にし、業界が AI によってサイバーセキュリティのコアとなる多くの前提条件がどのように変化するかに適応できるよう支援するという、私たちの長期的な目標に向けた次のステップです。
Project Glasswing の役割
Project Glasswing と Claude Mythos Preview の機能は、ソフトウェア業界内および政府との間で、AI がサイバーセキュリティをどのように変化させているかについて広範な議論を引き起こしました。これらの対話は、プログラムを拡大する際の指針となり、また Project Glasswing の究極的な目的についての私たちの考え方を形作るものとなりました。
安価で高速でありながら強力なサイバー能力を持つ AI モデルは目前に迫っています。Project Glasswing は、この現実を反映した運用規範へと機関を促すことを目指しています。
Mythos Preview は、私たちが長期間警告してきた傾向の継続です：今後 6 か月から 12 ヶ月以内に、多くの他の AI 企業が Mythos クラスのモデルを保有し、悪用を防ぐためのセーフガードなしにそれらをリリースするようになる可能性があります。そのような世界では、サイバー攻撃はより頻繁に、そしてより予測不能な形で発生するようになります。サイバー防衛側がそのペースを保つために適応することは不可欠です 参照。
私たちは自らの役割を二重のものと考えています。第一に、より優れたモデル、ツール、共通インフラストラクチャへの安全な広範なアクセスを提供することで、ソフトウェア業界の適応を支援することです。第二に、脆弱性の発見から、その開示、修正、パッチ適用済みソフトウェアの展開へと、私たちが提供するサポートを着実にシフトさせることです。これら二点について、順を追って議論していきましょう。
サイバー防衛者を支援するために
これまでのところ、企業、非営利団体、メンテナ、研究者は迅速に行動してきました。Project Glasswing の最初の数週間のうちに、各メンバーは大規模で Mythos Preview を使用し、他のパートナーと情報やベストプラクティスを共有し、第三者と協力してモデルの発見事項をトリアージしました。これらの組織が新しいツールに適応するための方法は、サイバー攻撃に脆弱な数百万の組織や開発者全体において、広く複製可能であり、またそうあるべきです。
これを支援するため、私たちは最近、最新の公開フロンティアモデル（Claude Opus 4.8 など）を使用してコードベースをスキャンし、パッチを提案する製品である Claude Security をリリースしました。また、信頼できるセキュリティチームからの要請に応じて、Project Glasswing のパートナーが脆弱性をより迅速に見つけるために開発した ツール も公開しています。
私たちはさらに大きな目標を持っています：中長期的な目的は、強力なサイバーモデルの時代に向けた新たなイニシアチブ、標準、インフラストラクチャを業界が作成するのを支援することです。
パッチ適用の加速とその他のセキュリティ対策
以前に議論した通り、現在サイバーセキュリティにおけるボトルネックは、Mythos クラスのモデルが検出する大量の脆弱性（vulnerabilities）の検証、開示、およびパッチ適用です。
Mythos Preview 自体もこれを支援できます。Project Glasswing の多くのパートナーは、すでにこのモデルを用いてパッチの作成や、脆弱性が最初に発生しないようにするためのリリース前のチェックを行っています。また、Mythos Preview などのモデルは、ペネトレーションテスト（サイバー攻撃をシミュレートして脆弱性がどのように悪用されるかを特定する手法）や、脅威検出と対応の自動化、メモリ安全な言語でのレガシーコードベースの再構築など、多くの防御タスクにも利用可能です。
私たちは、オープンソースソフトウェアにおける脆弱性のレビューおよびパッチ適用を大幅に拡大する方法について、第三者との協議を進めています。また、オープンソースのメンテナに対して脆弱性を開示する際のアイデアやベストプラクティスを共有することに取り組んでおり、これらの報告書がより容易にトリアージされ、対応されることを目指しています。
今後の道筋
この迫りくる課題の規模に対処するため、数十万もの組織、研究者、メンテナが、利用可能な最も高度なサイバー能力とツールへのアクセスを必要とする可能性があります。
私たちは、一般利用向けに Mythos レベルの機能を安全にリリースできるよう、可能な限り迅速に取り組んでいます。そのためには、モデルのサイバー機能が誤用されないよう防止する、極めて堅牢なセーフガードが必要です—しかし、私たちが（そして私たちの知る限り他のすべての AI 開発者も）まだ開発していないセーフガードです。サイバーセキュリティには有益な用途と破壊的な用途の両方があるため、強力でかつ精度の高いセーフガードを構築することは大きな課題となっています。
その間、私たちは Project Glasswing をさらに拡大する計画を立てています—追加の不可欠なインフラストラクチャプロバイダー、重要なオープンソースソフトウェアのメンテナ、および安全性テスターを優先します。今後の拡大では、このプロジェクトと同様に、米国および海外の組織も対象とすることを意図しています。また、特定のサイバー防御タスクのために Mythos クラスの機能を多くの組織に付与する「Cyber Verification Program（サイバー検証プログラム）」の規模拡大も計画しています。
将来、フロンティアモデルのリリースはますます重大なリスクを伴うものとなるでしょう。機能はすべての分野で継続的に向上し、サイバーセキュリティのように攻撃者と防御者の両方を強化できる分野も含まれます。これが、このような課題に直面する最後の機会ではありません。しかし、Project Glasswing は、モデルが重要な能力閾値を超える際にどのように対応すべきかについて多くの教訓を与えてくれました。もし成功すれば、私たちは防御側に恒久的な優位性をもたらすことを目指しています。
Related content
アンソロピック、機密裏に S-1 草案を SEC に提出
アンソロピックは、証券取引委員会（SEC）に対して、S-1 登録声明書の草案を機密裏に提出しました。
Anthropic、シリーズHラウンドで650億ドルを調達、事後評価額9,650億ドル
Anthropicは、アルティメーター・キャピタル（Altimeter Capital）、ドラゴニア（Dragoneer）、グリーンオークス（Greenoaks）、シーコイア・キャピタル（Sequoia Capital）が主導するシリーズHラウンドで650億ドルの資金調達を実現しました。
Claude Opus 4.8 のご紹介
コーディング、エージェントタスク、専門的な業務におけるパフォーマンスの向上、および長時間実行される作業への対応能力を備えた、Opus クラスモデルのアップグレード版です。
原文を表示
Project Glasswing is our collaborative effort to secure the world’s most important software. In early April, we announced that roughly 50 initial partners had access to Claude Mythos Preview, and since then, they’ve been deploying the model to scan their codebases for vulnerabilities. We recently described how these partners have so far found more than 10,000 high- or critical-severity security flaws.
We’re now expanding Project Glasswing. Following several weeks of close collaboration with our Project Glasswing partners, the security industry, open-source software maintainers, and the US government, we’re extending the partnership to approximately 150 new organizations. Each one will need to meet our security requirements before they gain access.
The organizations in this new group are based in more than 15 countries, and most provide critical infrastructure to many more. (In the future, we intend to expand our geographical reach much further.) The group covers several industries that weren’t well represented in our initial cohort, such as power, water, healthcare, communications, and hardware. And many of the new partners are vendors—companies or nonprofits that maintain codebases that are relied upon by lots of other organizations around the world, including governments.
What each partner has in common is that a successful attack on their codebase could be catastrophic. For most partners, we estimate that a major attack could affect more than 100 million people, with important ramifications for both global and national security.
This expansion is the next step toward our long-term goals: for AI to make *all* software more secure, and for us to help the industry adjust to how AI could change many of the core assumptions of cybersecurity.
The role of Project Glasswing
Project Glasswing and the capabilities of Claude Mythos Preview have sparked broad conversations—both within the software industry and with governments—about how AI is changing cybersecurity. These conversations have informed how we’ve expanded the program. They’ve also shaped our thinking about the very purpose of Project Glasswing.
Cheap, fast AI models with powerful cyber capabilities are around the corner. We want Project Glasswing to spur institutions toward operating norms that reflect this reality.
Mythos Preview continues a long-term trend that we’ve been warning about for some time: within 6 to 12 months, we expect that many other AI companies will have Mythos-class models, and they could release them without safeguards that prevent misuse. In that world, cyberattacks could occur much more often, and in much more unpredictable forms. It’s imperative that cyberdefenders adapt to maintain pace.
We see our role as twofold. First, to help the software industry adapt by safely providing wide access to better models, tools, and common infrastructure. Second, to steadily shift the support we provide, from finding vulnerabilities to disclosing, fixing, and deploying patched software. We’ll now discuss each of these in turn.
Supporting cyberdefenders
So far, companies, nonprofits, maintainers, and researchers have acted quickly. Within the first weeks of Project Glasswing, each member began using Mythos Preview at large scale, sharing information and best practices with other partners, and working with third parties to triage the model’s findings. These organizations’ methods for adapting to new tools can, and should, be replicated widely across the millions of organizations and developers who are vulnerable to cyberattacks.
To support this, we recently released Claude Security, a product that uses our latest public frontier models, like Claude Opus 4.8, to scan codebases and suggest patches. We're also releasing—on request, to trusted security teams—the tools we developed to help Project Glasswing’s partners find vulnerabilities more quickly.
We intend to go much further: our longer-term aim is to support the industry in creating new initiatives, standards, and infrastructure for the era of powerful cyber models.
Accelerating patching and the rest of security
As we’ve previously discussed, the bottleneck in cybersecurity is now verifying, disclosing, and patching the large numbers of vulnerabilities that Mythos-class models can surface.
Mythos Preview itself can help. Many of Project Glasswing’s partners now use the model to write patches, as well as for pre-release checks that prevent vulnerabilities from appearing in the first place. Models like Mythos Preview can also be used for penetration testing (simulating a cyberattack to identify how vulnerabilities might be exploited), automating threat detection and response, and rebuilding legacy codebases in memory-safe languages, among many other defensive tasks.
We’re in discussions with third parties about how we might substantially scale up the reviewing and patching of vulnerabilities in open-source software. We’re also working on sharing ideas and best practices for disclosing vulnerabilities to open-source maintainers, with the intent of making these reports easier to triage and to act upon.
The path ahead
To address the scale of this coming challenge, hundreds of thousands of organizations, researchers, and maintainers will likely need access to the most advanced cyber capabilities and tools available.
We’re working as quickly as we can to safely release Mythos-level capabilities in general access. To do so, we’ll need highly robust safeguards that prevent the model’s cyber capabilities from being misused—safeguards that we (and, to our knowledge, all other AI developers) have yet to develop. Because cybersecurity has both helpful and destructive uses, making safeguards that are both strong and precise enough is a major challenge.
In the meantime, we plan to expand Project Glasswing even further—prioritizing additional essential infrastructure providers, maintainers of critical open-source software, and safety testers. We intend for future expansions to cover organizations in the US and overseas, just as this one does. We also intend to scale up our Cyber Verification Program, which would grant Mythos-class capabilities to many more organizations for specific cyberdefense tasks.
In the future, frontier model releases will become increasingly high-stakes. Capabilities will continue to improve across all domains, including many that—like cybersecurity—can empower attackers and defenders alike. This will not be the last time we need to confront a challenge like this one. But Project Glasswing has taught us a great deal about how to respond when models cross important capability thresholds. If we’re successful, we hope to enable a permanent advantage for defenders.
Related content
Anthropic confidentially submits draft S-1 to the SEC
Anthropic has confidentially submitted a draft S-1 registration statement to the Securities and Exchange Commission
Anthropic raises $65B in Series H funding at $965B post-money valuation
Anthropic has raised $65 billion in Series H funding led by Altimeter Capital, Dragoneer, Greenoaks, and Sequoia Capital.
Introducing Claude Opus 4.8
An upgrade to our Opus class of models, with stronger performance across coding, agentic tasks, and professional work, and the consistency to handle long-running work.
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み