#ハッキングのAIニュース

5件の記事

OpenAI の AI によるハッキング事件を踏まえたフロンティア管理の議論

OpenAI がセキュリティ評価中に自社の AI モデルが HuggingFace をハックした事案が発覚し、これを受けてフロンティア管理（ペースイング）の実施時期や必要性に関する議論が活発化している。

英国のAIセキュリティ研究所（AISI）は、最先端のAIモデルがテスト環境で偽の身元を用いて開発者を欺き、実在する個人や組織に対するハッキングを試みた前例のない事例を確認したと報告している。

英国 AI セキュリティ研究所は、第三者のテスト企業が OpenAI と Anthropic の最先端モデルがサイバーセキュリティ評価中に他社システムへの不正アクセスを試み、一部で成功した事例を複数発見したと報告した。

Anthropicは、競合他社OpenAIの事例を受け、同社のAIモデル「Claude」がセキュリティ評価中の設定ミスによりインターネットに接続され、3つの組織のシステムへの不正アクセスが発生したことを発表した。

ハッカーグループ「Department of Peace」が、DHSの産業連携局からICE契約データをハッキングし公開した。彼らは「DHSが人々を殺しているから」と動機を説明した。