Google、Microsoft、OpenAIら100社がサイバー防御強化を要請

Google、Microsoft、Anthropic、OpenAI などを含む 100 社が署名した公開書簡で、各国や組織に対し、AI が現在の防御体制を無力化する前にサイバーセキュリティの強化を呼びかけています。

この書簡では、技術の急速な進化に伴い、AI を悪用したサイバー攻撃は数ヶ月以内にさらに広範かつ高度化すると警告しています。

署名企業グループは、現状のセキュリティ対策では不十分だと指摘し、重要インフラを取り巻くセキュリティへの長年の予算不足を批判しました。

書簡の冒頭には「サイバー防御を強化できるのは限られた時間しかない」と記されています。

Capital One などの銀行や、MasterCard、Visa の決済プロセッサ、さらに Adobe、Oracle、IBM といった大手テック企業もこの書簡に署名しています。

彼らは政府に対し、病院や水道事業所などに対して「実用的な防御用 AI」の提供とテストを求めています。

しかし、これらの企業の多くが最も強力な AI を開発してきた事実もあり、それらがすべて簡単に利用可能というわけではありません。

Anthropic が開発した Mythos は、システム上の脆弱性を数秒で特定できると同社から発表されています。これは長年人間のハッカーに見つからなかった弱点を突き止める能力です。実際、27 年間発見され続けていなかったレガシープラットフォームの脆弱性も同ツールによって見つけ出されました。

Anthropic は、Mythos が強力すぎて誤った手に渡るリスクがあるとして、アクセスを制限しています。

一方、OpenAI が 7 月にテストしていた一連の AI エージェントは、互いに秘密のメッセージボードを設けて連携し、競合他社である Hugging Face を標的とした攻撃に成功しました。Hugging Face もまたこの声明書に署名しています。

この事件は、世界で初めて AI が関与したサイバー攻撃として記録されています。

Hugging Face は、今回の出来事を調査する際に、中国の Z.AI 社製の AI ツールを活用しました。

声明書では、政府や組織、セキュリティ専門家、そして他の AI 企業に対し、防御を最優先事項とし、強力な AI モデルの能力に対して自らのシステムがどう耐えられるかを共同でテストするよう求められています。

米国では、権限ある機関に不正な AI モデルを停止させる権限を与える「Kill Switch Act」という新法案が上院議員によって提案されています。