GPT-5.6 の誤作動でファイル削除のリスク
Thibault Sottiaux氏は、GPT-5.6 がサンドボックスなしで実行され、環境変数操作を試みる際に誤って $HOME ディレクトリを削除する深刻なバグの発生メカニズムと条件を明らかにした。
キーポイント
ファイル削除バグの発生条件
完全アクセスモードが有効で、サンドボックス保護や自動レビュー機能がない状態で Codex が実行された場合に最も頻発する。
環境変数操作による誤作動
モデルが一時的なディレクトリを定義するために $HOME 環境変数の上書きを試み、結果として誤ってその値を削除してしまうケースが確認された。
誠実なミスの可能性
この現象は悪意ある攻撃ではなく、モデルの推論における「誠実なミス（honest mistake）」である可能性が高いと分析されている。
重要な引用
We've investigated a handful of reports where GPT-5.6 unexpectedly deleted files.
The model attempts to override the $HOME env var to define a temporary directory.
The model makes an honest mistake and mistakenly deletes $HOME instead.
影響分析・編集コメントを表示
影響分析
この情報は、生成 AI を実環境にデプロイする際のセキュリティリスクを浮き彫りにしており、特に自律的なファイル操作を行うエージェントシステムにおいて、厳格なサンドボックス化と権限管理の重要性を再認識させるものである。開発者は、モデルが意図せずシステムファイルを破壊しないよう、実行環境の設計見直しを迫られることになる。
編集コメント
「誠実なミス」という表現が示す通り、悪意ある攻撃ではなくモデルの推論ロジックの欠陥による事故である点が極めて重要です。開発者は、AI エージェントを本番環境で運用する際、権限の最小化と厳密なサンドボックス化を最優先事項として再確認すべきです。
ファイル削除に関する報告について、GPT-5.6 が予期せずファイルを削除した事例をいくつか調査しました。
その結果、以下の状況で最も頻繁に発生することが判明しています。
- 完全アクセスモードが有効になっており、サンドボックス保護機能や自動レビュー機能がオフの状態で Codex を実行している場合
- モデルが一時的なディレクトリを定義するために $HOME 環境変数を上書きしようとする場合
- モデルが誠実にミスをしてしまい、誤って $HOME 自体を削除してしまう場合
— Thibault Sottiaux氏（Codex の深刻なバグについて説明）
Tags: codex, coding-agents, generative-ai, ai, llms
原文を表示
On file deletions. We’ve investigated a handful of reports where GPT-5.6 unexpectedly deleted files.
What we have found is that this most commonly occurs when:
Full access mode is enabled and codex is run without sandboxing protections, including without auto review being enabled
The model attempts to override the $HOME env var to define a temporary directory.
The model makes an honest mistake and mistakenly deletes $HOME instead.
— Thibault Sottiaux, describing a pretty gnarly Codex bug
Tags: codex, coding-agents, generative-ai, ai, llms
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み