OpenAI Codex システムプロンプトに「ゴブリンについて語るな」という明記された指示が含まれる
OpenAI の最新モデル GPT-5.5 におけるシステムプロンプトに、ユーザーの意図と無関係な「ゴブリン」などの話題を禁止する明確な指示が含まれていることが判明した。
キーポイント
具体的な禁止事項の公開
OpenAI が GitHub に公開した Codex CLI のソースコードに含まれる GPT-5.5 のシステムプロンプトに、「ゴブリン、グレイリン、ラッコウ、トロル、オグレス、鳩など」への言及を禁止する指示が明記されている。
新モデル特有の現象
以前のモデルのプロンプトにはこの特定の禁止事項が含まれておらず、これは直近の GPT-5.5 リリースで発生した新しい問題（不要な話題への言及）に対処するための対策である可能性が高い。
ユーザーからの報告
ソーシャルメディア上では、最近の会話においてモデルが完全に無関係な文脈でも「ゴブリン」に焦点を当ててしまうというユーザーの不満が報告されている。
影響分析・編集コメントを表示
影響分析
このニュースは、大規模言語モデル（LLM）の開発において、ユーザーの意図と異なる特定の話題への「固執」やハルシネーションが新たな課題として浮上していることを示唆しています。開発側がプロンプトエンジニアリングを通じて具体的な禁止事項を直接注入する手法で対応している点は、AI の安全性と制御可能性を確保するための現実的なアプローチの一つと言えます。
編集コメント
「ゴブリン」という具体的な単語が禁止リストに含まれている点は、開発現場で実際に発生した奇妙なバグやユーザーのクレームを反映した非常に興味深い事例です。AI の挙動制御において、抽象的な指示だけでなく、具体的なケーススタディに基づくプロンプト調整が行われていることが伺えます。
OpenAI の Codex CLI におけるシステムプロンプトには、最新の GPT モデルに対して「ゴブリン、グレムリン、アライグマ、トロル、オーガ、鳩、またはその他の動物や生物について、それがユーザーの問い合わせに絶対的かつ明白に関連する場合以外は一切話してはならない」という困惑を呼ぶ警告が繰り返し記載されています。
この明示的な運用上の警告は先週、OpenAI が GitHub に投稿した Codex CLI の最新オープンソースコードの一部として公開されました。この禁止事項は、最近リリースされた GPT-5.5 向けの 3,500 語以上の「基本指示」セット内で二度繰り返されており、そこには「明示的な指示がない限り絵文字やダッシュ（em dash）を使用しない」「ユーザーが明確にその操作を要求していない限り git reset --hard や git checkout -- のような破壊的コマンドを使用しない」といったより穏やかな注意喚起も併記されています。
同じ JSON ファイルに含まれる以前のモデル向けの別個のシステムプロンプト指示には、ゴブリンやその他の生物への言及に対する特定の禁止事項は含まれておらず、これは OpenAI が最新のモデルリリースで新たに発生した問題に対処していることを示唆しています。ソーシャルメディア上の証言によると、最近では一部のユーザーが、GPT が全く無関係な会話の中でゴブリンに焦点を当てる傾向があることに不満を訴えているとのことです。
記事全文を読む
コメント
原文を表示
The system prompt for OpenAI's Codex CLI contains a perplexing and repeated warning for the most recent GPT model to "never talk about goblins, gremlins, raccoons, trolls, ogres, pigeons, or other animals or creatures unless it is absolutely and unambiguously relevant to the user's query."
The explicit operational warning was made public last week as part of the latest open source code for Codex CLI that OpenAI posted on GitHub. The prohibition is repeated twice in a 3,500+ word set of "base instructions" for the recently released GPT-5.5, alongside more anodyne reminders not to "use emojis or em dashes unless explicitly instructed" and to "never use destructive commands like git reset --hard or git checkout -- unless the user has clearly asked for that operation."
Separate system prompt instructions for earlier models contained in the same JSON file do not contain the specific prohibition against mentioning goblins and other creatures, suggesting OpenAI is fighting a new problem that has popped up in its latest model release. Anecdotal evidence on social media shows some users complaining about GPT's penchant for focusing on goblins in completely unrelated conversations in recent days.
Read full article
Comments
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み