コネチカット裁判でプロンプトインジェクションを隠蔽した人物が AI に味方するよう指示

記事の3ポイント

1. 1

   プロンプトインジェクションの法廷提出

   原告 Matthew Elliott は訴訟書類に、AI モデルに対して自らの主張を支持するよう指示する「プロンプトインジェクション」を埋め込んだ。

2. 2

   視覚的隠蔽技術の使用

   指示文は 3 ポイントの白色フォントで記述され、人間には見えないがソフトウェアには読み取れる状態にして提出書類に散りばめられた。

3. 3

   裁判所による検知と対応

   裁判所の担当者が余分な空白領域を調査した結果、AI 向けの隠された指示文を発見し、これは裁判所や相手方への論点ではないと判断した。