AI が作成した「合成引用」を本に採用したが、著者は引き続き利用する意向を示す
AI ツールによる引用の誤りが発覚した著者スティーブン・ローゼンバウムが、事実確認プロセスの重要性を再認識し、今後の訂正作業に取り組んでいる。
キーポイント
AI 生成引用の発覚と影響
ニューヨーク・タイムズの調査により、著者の新書に AI が作成した不適切な引用が含まれていることが明らかになり、対象者であるカラ・スウィッシャー氏やリサ・フェルドマン・バレット教授らが否定している。
著者の対応と謝罪
著者は AI ツールの使用を認めつつも、書籍の主題である「真実の歪曲」への懸念から、編集者と協力して完全な引用監査（citation audit）を実施し、次版で修正する方針を示している。
AI 利用と信頼性のジレンマ
AI の活用が効率化をもたらす一方で、事実確認の欠如が著者の信頼や作品の誠実性を損なうリスクを浮き彫りにし、業界全体での AI 利用基準の見直しを促している。
重要な引用
"a handful of improperly attributed or synthetic quotes"
"never said"
"don't appear in [my] book, and they are also wrong."
"citation audit"
影響分析・編集コメントを表示
影響分析
この事案は、生成 AI の活用が加速する中で、情報の信頼性と出典の明確性がいかに脆弱であるかを示す象徴的な事例です。特にジャーナリズムや学術出版の分野では、AI ツールの使用を前提とした厳格な検証プロセスの確立が急務であり、業界全体のガバナンス基準の見直しを迫るきっかけとなるでしょう。
編集コメント
AI ツールの活用が著者の信頼を損なうという皮肉な結果となったこの事例は、技術導入における「人間による最終検証」の重要性を強く再認識させる内容です。
ジャーナリストであり著者のスティーブン・ローゼンバウムは、AI に対する不信感を抱く理由を他の人々よりも多く持っています。
彼の新作『The Future of Truth: How AI Reshapes Reality（真実の未来：AI が現実をどう再構築するか）』は、「急速に進み利益追求型の AI の圧力」によって「真実が曲げられ、曖昧にされ、合成されている」様子について描いたものです。しかし今週、ニューヨーク・タイムズ紙の調査により、ローゼンバウムも現在認めているように、本書の研究過程で AI ツールを使用した際に生じた「数件の不適切な帰属または合成された引用」が発見されました。
これらの引用には、テクノロジー担当記者のカラ・スウィッシャーが「決して言ったことはない」とタイムズ紙に語ったものや、ノースイースタン大学のリサ・フェルドマン・バレット教授が「私の本には登場せず、また誤りである」と述べたものが含まれています。ローゼンバウムは現在、編集者と協力し、今後の版を修正する完全な「引用監査」を進めています。
記事全文を読む
コメント
原文を表示
Journalist and author Steven Rosenbaum has more reasons than most to distrust AI.
His new book, The Future of Truth: How AI Reshapes Reality, is all about "how Truth is being bent, blurred, and synthesized" thanks to the "pressure of fast-moving, profit-driven AI." Yet a New York Times investigation this week found what Rosenbaum now acknowledges are "a handful of improperly attributed or synthetic quotes" linked to his use of AI tools while researching the book.
These quotes include one that tech reporter Kara Swisher told the Times she "never said" and another that Northeastern University professor Lisa Feldman Barrett said "don’t appear in [my] book, and they are also wrong." Rosenbaum is now working with editors on what he says is a full "citation audit" that will correct future editions.
Read full article
Comments
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み