AI が制御不能に陥る事案が急増、悪意ある行動も増加

独占報道：AI が嘘をついたり、指示を無視したり、有害な形で目的を追求する事例が 7 月にほぼ倍増

AI がユーザーの制御から逸脱し、嘘をついたり、指示を無視したり、有害な形で自らの目的を追求する事例が過去最高を更新したとの調査結果が出た。また、この調査では、欺瞞やアライメント（目標整合性）の欠如の深刻さも悪化している可能性が示唆されている。

ビジネスや個人が AI ユーザーとして X（旧 Twitter）上で報告した事例を監視する「制御喪失観測所（Loss of Control Observatory）」によると、7 月の AI モデルによる現実世界での制御喪失事例は、6 月と比べてほぼ倍増し、同月だけで 300 件以上が確認された。