裁判官がAI生成誤記を指摘し注意喚起

裁判官が、法廷記録員によって提出された公式の法廷記録に AI 生成による誤りが含まれているのを発見し、AI の利用についてすべての記録員に警告を発しました。

薬物を販売した男性と、その過剰摂取で死亡したもう一人の男性に関する事件を巡る覚書決定において、7 月 23 日に提出されたものの中で、ポール・フェリックス裁判官は決定書の脚注に、生成 AI に特有と思われる誤りが含まれている記録があることを記しました。この脚注は、弁護士ロブ・フロイントが X で指摘したものです。

裁判記録のなかには、州側が提出したとみられる動議を審理裁判所名義のものとして記述している箇所があり、またウィリアムズ氏が反対意見を述べた場面を保安官の名義で記載している箇所もあります。さらに、州側の結審陳述を審理裁判所の発言として誤記している箇所も確認されました」とフェリックス判事は指摘しました。「これらの誤りは他にも多数あり、ウィリアムズ氏の控訴審査を複雑化させましたが、実質的な妨げにはなりませんでした。いずれにせよ、記録作成担当者に対し、本裁判所が裁判記録の真実性と正確性を強く求めていることを改めてお伝えします。今回のような誤りの種類から判断すると、この記録作成に生成型人工知能（AI）が利用された可能性が高いと考えられます。AI は効率化や多くの専門家の生産性向上に寄与する有用なツールですが、その利用者は生成された成果物の校正と正確性の確保に責任を負う必要があります。」

ここ数年、裁判官たちは法廷提出書類に AI を使用した弁護士を次々と見つけてきました。こうした事態はいつも弁護士にとって混乱と恥辱の連続です。弁護士の本来の仕事は、既存の判例や法的先例を引用してクライアントを最善で代表することですが、AI はそれを頻繁に失敗します。そのため裁判官たちは不満を隠さず口にするようになっています。

5 月にはニューヨーク州控訴院の裁判官たちが、ある弁護士が AI を使用したと非難し、他の弁護士たちもそれを見逃すほどおそまつだと批判して、20 分以上にわたって厳しく叱責しました。裁判官たちはこの状況を「驚くべき、懸念すべき、失望させる、そして悲しい」と表現しました。一方、弁護士側はパラリーガルのミスや風邪、あるいは「急ぎすぎたせいだ」と弁明しています。

しかし、これは初めて、法廷記録官が AI 生成の誤りを文書上で見逃したことで公的な注意を受けたケースです。これにより、弁護士の提出書類だけでなく、裁判の公式記録自体にも誤りが含まれている可能性が浮き彫りになりました。法廷記録のために AI が生成した文書を提供するアプリや企業は多数存在しますが、法廷記録官たちは、AI が曖昧さを解決したり再述を求めたりする前に推測して記録してしまう傾向があるため、人間としての聴取能力と熟練した書き取り技術が依然として法廷において極めて価値あるものであると強調しています。