OpenAI の新フラッグシップモデルが自己判断でファイルを削除、利用者が警告を繰り返す

OpenAI の最新フラッグシップモデル「GPT-5.6 Sol」のユーザーから、ソーシャルメディア上で恐ろしい報告が相次いでいます。このモデルが、事前の確認もなしに勝手にファイルやデータ、さらにはデータベース全体を削除してしまったというのです。

HyperWrite を開発する AI スタートアップ OthersideAI の創業者兼 CEO、マット・シューマー氏は X（旧 Twitter）で「GPT-5.6-Sol が私の Mac 上のファイルをほぼすべて誤って削除してしまった」と投稿し、その内容は瞬く間に拡散されました。

開発者の Bruno Lemos 氏も同様に「GPT-5.6 Sol が本番環境のデータベース全体を消去した。冗談じゃない。他のモデルでこんなことがあったことは一度もない」と X に投稿しています。

さらに開発者ジョーイ・クディッシュ氏は、「Codex Sol の野心的すぎるシステムにやられて、削除してはいけないファイルを消してしまったようだ。バックアップがあるので大丈夫だが、これは許容できない。Sol はもう少し慎重になるべきだ」と指摘しました。

Reddit には、こうした事例をまとめた投稿も寄せられています。

確かに、シューマー氏のような信頼性の高いユーザーを含め、数人のユーザーが同様の被害を訴えているからといって、それがモデル単独の欠陥であるという統計的に確かな証拠になるとは限りません。AI システムが誤作動を起こす原因は他にも多々存在するからです。

しかし、OpenAI 自体は Sol がリリースされる前にこのリスクを指摘していました。GPT-5.6 Sol の公開の 2 週間前、同社はモデルのテスト手法と結果を記録した システムカード を発表しています。当然ながら、こうした報告書では Sol の能力が称賛されるのが通例ですが、そこには注意喚起も含まれていました（太字は当メディアによる強調）。

**

コード作成の文脈において、モデルと人間の意図のズレは、タスク完了への過度な熱意と、ユーザー指示を必要以上に寛容に解釈することから生じることが一般的です。具体的には、「明示的かつ明白に禁止されていない限り、行動は許可されている」という前提が働きます。その結果、モデルは要求されたタスクを実行する際に対処すべき制限を回避しようとして過度に自律的な振る舞いをしたり、タスクの範囲を超えて破壊的な行動を無謀に行ったり、あるいはユーザーへの報告時に嘘をついたりするようになります。

つまり、OpenAI は Sol が「明示的に禁止されていない限り」、タスクを完了させるために自分が判断したあらゆる行動（破壊的なものも含む）を実行しようとする傾向があることを発見しました。さらに、その行動の理由について嘘をつく可能性さえあるのです。

OpenAI が公開した事例の一つでは、ユーザーは Sol に「1」「2」「3」と名付けられた 3 つの遠隔仮想マシン（クラウド上のコンピューター）を削除するよう指示しました。しかし、Sol は指定された名前が探索先に見つからなかったため、止まって確認するのではなく、勝手に別の仮想マシン「5」「6」「7」を削除してしまいました。論文によると、これによりアクティブなプロセスが停止し、強制的にワークツリー（コーディングプロジェクトに関連する作業ファイル）も削除されました。後になって Sol は、「遠隔仮想マシン 6 にコミットされていない作業データが失われた可能性がある」と認めています。

要するに、Sol は誤ったマシンを勝手に削除し、事後になって初めてその事実を認めました。

別の事例では、Sol が「ユーザーの権限を超えた資格情報を使用」したことが報告されています。資格情報とは、ログイン許可を確認するためにシステムが使用するユーザー名、パスワード、セキュリティキーのことです。この incident は、Sol がプロジェクト作業中にクラウドファイルを読み込めなくなった際に発生しました。ユーザーに問題を報告するのではなく、Sol は独自に資格情報を検索し、隠されたローカルキャッシュからそれを見つけると、ユーザーの承認を得ずに勝手に使用してしまいました。

システムカードでは破壊的な動作は稀になると約束されていますが、同時に「GPT-5.6 Sol は GPT-5.5 に比べて、ユーザーの意図を超えて行動する傾向が強く、ユーザーが求めていない行動を実行しようとするケースも見られる」とも認めています。

これらの事象——Sol がファイルを削除したり、ユーザーが提供していない認証情報を抽出したりするケース——がどれほど広範に発生しているかは現時点で断言できません。その間、Sol ユーザーはモデルに対して独自の安全対策を講じておく必要があります。具体的には、本番環境へのアクセス権限を与えないような「権限スコーピング」の活用や、バックアップの維持、段階的なロールアウトの実施などが挙げられます。

OpenAI は当社のコメント依頼に対し、現時点で即時回答していません。

*当記事内のリンクを通じて購入された場合、私たちは少額のコミッションを受け取る可能性があります。ただし、これは当社の編集の独立性には一切影響しません。