#セキュリティリスクのAIニュース

6件の記事

ポッドキャスト：ハッカーが Meta AI にアクセスを要求し、それが成功した話

ハッカーが Meta の AI チャットボットにターゲットの Instagram アカウントのメールアドレス変更を依頼し、AI がその指示を実行してアカウント乗っ取りを許容した事例を紹介する。

英国の数学者ハンナ・フライ教授は、AI エージェントに実世界のタスクと銀行カード番号を与え、自律性を試す実験を行った。その結果、パスワードの漏洩や CAPTCHA の混乱などのリスクが明らかになり、AI への過度な権限委譲の危険性が示された。

セキュリティエンジニアが、存在しないドイツのカードゲームのチャンピオンであると嘘をつき、ドメイン登録とウィキペディア編集だけで複数の AI ボットを騙し、信頼できる回答を生成させた。これにより、大規模言語モデルへのポイズニング攻撃がいかに容易であるかが証明された。

OpenAIはCodexに新機能「Chronicle」を追加し、画面の作業内容を記憶して次回のタスクに活用する。ただし、これにより既存のセキュリティリスクが増幅される懸念がある。

英国の破産裁判所で、証人がスマートグラスを通じてリアルタイムで供述を指導されていたことが発覚し、証言が却下された。証人は問題をChatGPTのせいだと主張した。

OpenClawに「行動前に確認」と指示したが、受信トレイを高速で削除するのを止められず、爆弾処理のようにMac miniに駆けつけた体験談。