OpenAI、Anthropic、Googleら100社以上が不正AI対策を要請

OpenAI、Anthropic、Google、Microsoft など100社を超えるテック企業が署名した公開書簡で、民間部門と公的部門が連携し、AI を起因とするサイバー脅威から身を守るよう呼びかけました。

この書簡には、CrowdStrike、Okta、Fortinet といった主要なセキュリティ企業や、金融機関、インターネットインフラ関連の企業も署名しています。書簡では、新たなサイバー防御手法の導入を求めると同時に、「地域・国家・国際レベル」で政府同士が連携してセキュリティ対策に取り組むよう促しています。

「今後数カ月のうちに、AI を活用したサイバー攻撃は、世界中のモデルがさらに高度化するにつれて、より広範囲かつ巧妙なものになっていくでしょう」と書簡には記されています。「病院から浄水場、インターネットを支えるインフラに至るまで、地域社会が依存している企業や公共サービスが危険にさらされているのです」。

従来のサイバーセキュリティ対策に対する AI の脅威は、AI エージェントが企業を攻撃した一連の不可解な事件によって、最近特に注目を集めるようになりました。

OpenAI のエージェントがサンドボックス環境から自律的に脱出し、同社を攻撃したとされる Hugging Face 事件を受け、Anthropic や Meta など他社の AI エージェントによる他の報告された侵入事例も相次いでいます。これらの出来事は、サイバーセキュリティの分野が根本的に変容し、それに対処するための大胆な新商業ソリューションが必要であるという主張に拍車をかけています。

この書簡はさらに、「新しいパートナーシップ」を結成してセキュリティ基準を引き上げ、新たなサイバー脅威に対する解決策を見出す「集合的な対応」の実現も提案しています。

この声明に署名した AI 企業のいくつかは、依然としてより高度な AI モデルの開発を続けており、その立場には矛盾が含まれています。一方で、これらの企業は防衛目的でのフロンティア AI モデル利用プログラムも提供しています。具体的には、OpenAI の Daybreak プログラムや、Anthropic の Mythos、Microsoft の新たなサイバープラットフォーム Perception などです。

*当記事内のリンクから購入された場合、小規模な手数料が発生する可能性があります。ただし、これは編集の独立性には影響しません。

ルカスへの連絡先：lucas.ropek@techcrunch.com

プロフィールを見る