裁判官がAI生成誤記を指摘し注意喚起
判事が裁判記録に生成AI特有の誤りが見つかったと明言し、速記士に対しAI利用時の厳格な検証義務を課す画期的な事例となった。
キーポイント
AI由来の誤りによる公式記録の汚染
判事パウエル・フェリックスは、裁判記録において発言者が著しく誤って割り当てられるなど、生成AI特有の論理破綻が確認されたと指摘した。
速記士に対する公式警告
判事はAIが効率化に寄与する可能性を認めつつも、最終的な正確性を保証するのは使用者の責任であり、厳重な校閲が必要だと明言した。
法廷記録における信頼性の危機
弁護士による提出書類でのAI誤用問題に続き、公式な裁判記録そのものがAIによって汚染されるリスクが初めて公的に認識された。
重要な引用
Based upon the types of errors reviewed, it appears that generative artificial intelligence may have assisted with the preparation of this transcript.
While AI can improve efficiency and be a productive tool for many professionals, it is incumbent upon those using such systems to proofread and ensure the accuracy of the generated product.
These errors... complicated but did not substantially impede our review of Williams's appeal.
影響分析・編集コメントを表示
影響分析
この事例は、AI技術が法廷記録という極めて厳格な信頼性が求められる領域に侵入し始めたことを示す画期的な転換点です。判事の厳しい警告は、単なる注意喚起を超え、AI生成コンテンツの利用における法的責任の所在を再定義する先例となり、今後、法曹界全体でのAI利用ガイドラインや監査プロセスの強化を促す要因となるでしょう。
編集コメント
法廷記録の完全性がAIによって脅かされるという事実は、業界全体に大きな衝撃を与えています。技術の導入は進んでいますが、この事例が示すように「人間の最終責任」の重みはこれまで以上に高まっています。
裁判官が、法廷記録員によって提出された公式の法廷記録に AI 生成による誤りが含まれているのを発見し、AI の利用についてすべての記録員に警告を発しました。
薬物を販売した男性と、その過剰摂取で死亡したもう一人の男性に関する事件を巡る覚書決定において、7 月 23 日に提出されたものの中で、ポール・フェリックス裁判官は決定書の脚注に、生成 AI に特有と思われる誤りが含まれている記録があることを記しました。この脚注は、弁護士ロブ・フロイントが X で指摘したものです。
裁判記録のなかには、州側が提出したとみられる動議を審理裁判所名義のものとして記述している箇所があり、またウィリアムズ氏が反対意見を述べた場面を保安官の名義で記載している箇所もあります。さらに、州側の結審陳述を審理裁判所の発言として誤記している箇所も確認されました」とフェリックス判事は指摘しました。「これらの誤りは他にも多数あり、ウィリアムズ氏の控訴審査を複雑化させましたが、実質的な妨げにはなりませんでした。いずれにせよ、記録作成担当者に対し、本裁判所が裁判記録の真実性と正確性を強く求めていることを改めてお伝えします。今回のような誤りの種類から判断すると、この記録作成に生成型人工知能（AI）が利用された可能性が高いと考えられます。AI は効率化や多くの専門家の生産性向上に寄与する有用なツールですが、その利用者は生成された成果物の校正と正確性の確保に責任を負う必要があります。」
ここ数年、裁判官たちは法廷提出書類に AI を使用した弁護士を次々と見つけてきました。こうした事態はいつも弁護士にとって混乱と恥辱の連続です。弁護士の本来の仕事は、既存の判例や法的先例を引用してクライアントを最善で代表することですが、AI はそれを頻繁に失敗します。そのため裁判官たちは不満を隠さず口にするようになっています。
5 月にはニューヨーク州控訴院の裁判官たちが、ある弁護士が AI を使用したと非難し、他の弁護士たちもそれを見逃すほどおそまつだと批判して、20 分以上にわたって厳しく叱責しました。裁判官たちはこの状況を「驚くべき、懸念すべき、失望させる、そして悲しい」と表現しました。一方、弁護士側はパラリーガルのミスや風邪、あるいは「急ぎすぎたせいだ」と弁明しています。
しかし、これは初めて、法廷記録官が AI 生成の誤りを文書上で見逃したことで公的な注意を受けたケースです。これにより、弁護士の提出書類だけでなく、裁判の公式記録自体にも誤りが含まれている可能性が浮き彫りになりました。法廷記録のために AI が生成した文書を提供するアプリや企業は多数存在しますが、法廷記録官たちは、AI が曖昧さを解決したり再述を求めたりする前に推測して記録してしまう傾向があるため、人間としての聴取能力と熟練した書き取り技術が依然として法廷において極めて価値あるものであると強調しています。
原文を表示
imageA judge caught a court reporter making AI-generated errors in a court transcript, and put stenographers everywhere on notice for their use of AI.
In a memorandum decision concerning a case about a man who sold drugs to another man who overdosed and died, filed on July 23, Judge Paul Felix wrote in a footnote of the decision that a transcript contained errors that looked a lot like generative AI. The footnote was spotted by attorney Rob Freund on X.
“At one point in the transcript, a motion, presumably made by the State, is attributed to the trial court. At another point, an objection, presumably made by Williams, is attributed to the Bailiff. At yet another point, the State’s closing argument is attributed to the trial court,” judge Felix wrote. “These errors, among others not described herein, complicated but did not substantially impede our review of Williams’s appeal. Regardless, we remind the Court Reporter that this court relies on transcripts being true and accurate representations of the transcribed proceedings. Based upon the types of errors reviewed, it appears that generative artificial intelligence may have assisted with the preparation of this transcript. While AI can improve efficiency and be a productive tool for many professionals, it is incumbent upon those using such systems to proofread and ensure the accuracy of the generated product.”
In case after case after case, for the last few years, judges have been catching lawyers using AI in court filings. These situations are always messy and embarrassing for the attorneys — whose whole job it is to represent their clients to the best of their ability by citing existing case law and legal precedent, which AI routinely fucks up — and judges are becoming more outspoken about their frustrations. In May, judges in the Supreme Court of the State of New York Appellate Division laid into several lawyers for more than 20 minutes after accusing one of them of using AI and the others of being too sloppy to catch it; the judges called the entire situation “striking, concerning, disappointing, and saddening.” Lawyers, meanwhile, blame paralegals, head colds, and “rushing.”
But this is the first time a court reporter has been publicly put on notice for not catching AI-generated errors in transcripts, raising the specter of there being errors not just in court filings from attorneys but in the records of official proceedings of a trial. There are many apps and companies that offer AI-generated transcripts for court reporting, but stenographers say their expertise as human listeners and skilled transcribers, especially since AI tends to guess instead of pausing to ask for a re-statement or resolve ambiguity before putting it into the court record, is still extremely valuable in the courtroom.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み