サムスンとワルシャワ大学、学術出版を汚染するAI生成の「幽霊」著者を報告

サムスンとワルシャワ大学の共同研究チームが発表した新しいプレプリント論文によると、「エレナ・バスケス」と「マーカス・チェン」は、火山の専門家や宇宙飛行士、スリラー小説の主人公、ポッドキャストのホスト、そして学術論文の共著者として、数百もの個別に生成された AI 文書に登場しているが、彼らが実在する人物であることは一度もないという。

この論文では、数百件の AI 生成による学術論文や記事、書籍に共著者として名を連ねている複数の名前が特定された。これらの著者は実際には存在しない人物であり、大規模言語モデル（LLM）が特定の分野の専門家を生み出すよう指示された際に、繰り返し同じ名前を出力してしまう現象の名残である。

論文タイトルは「ゴースト・カップル：相関する LLM の名前事前学習と、それがウェブや学術出版に与える haunt（憑依）」。これは、ある特定の文脈において一部の LLM が常に同じ名前を生成するという既知の現象を利用した分析だ。例えば 6 月には、サムが ChatGPT、Gemini、Claude といったモデルがフィクション作品で「エライアス・ソーン」という名を使う可能性が高いと指摘し、そのキャラクターはしばしば灯台守として描かれることを報じた。同様に、ユーザーたちは ChatGPT にソフトウェア開発者を生成させるよう依頼すると、その名前が頻繁に「マーカス・チェン」になることに気づいている。

image「ゴースト・カプル」から：LLM の名前に関する相関的バイアスと、それがウェブや学術出版に与える影響

研究チームは、大規模言語モデル（LLM）がしばしば同じ名前に偏るだけでなく、「相関するキャラクター群」を生成することも示しました。これは、特定の組み合わせの名前が同時に出現しやすくなる現象です。

具体的には、Claude からは「Elena Amara Okafor」、Gemini からは「Aris Thorne」と「Lena Petrova」、ChatGPT からは「Elara Voss」などが一貫して生成される傾向があります。

先月、私はある企業「Research Gold」について報じました。同社は人間による医療研究を提供すると主張していましたが、実際には完全に AI が生成したものでした。その企業の創設者兼主任方法論者は「Elena Vasquez」という名前でした。私が記事を発表した後、Research Gold はこの人物をウェブサイトから削除しました。

論文の筆頭著者である Michal Brzozowski 氏は、これらの名前で Google を検索すると、AI が生成した架空の人物が他にも多数存在することが確認できたと語りました。例えば、1 月に米国国境警備隊員によって Alex Pretti 氏が殺害された事件後、Facebook 上で「彼が不適切な行為の容疑で看護職を解雇された」という噂が広まりました。Snopes は、この誤った情報に「執行役員 Dr. Elena Vasquez」という存在しない人物の名前が使われていたと報じています。

Brzozowski 氏は、LLM が頻繁に生成する名前で学術論文データベースを検索し、その実態を明らかにすることができました。

「データCite DOIsを真正に発行するCERN運営のリポジトリであるZenodoにおいて、存在しない学術誌と捏造された出版日 claiming する1,655件の『幽霊著者』による記録を確認しました。」DOI（Digital Object Identifier）とは、学術論文を識別するために用いられる文字列と数字の組み合わせです。研究者たちは、これらのAI名義で書かれた論文の多くが遡って作成された日付（バックデート）を持っていることに気づきました。つまり、Zenodoにアップロードされた実際の時期とは異なる過去の日付が出版日として設定されているのです。

無料アカウントさえあれば誰でもZenodo上でDOIを作成できますが、DOIを付与されたAI生成論文の存在は、ウェブ上の他の領域や学術出版全体に影響を及ぼしています。

「これらの[AI生成論文]には、あらゆる学術集約サービスで取得可能な実在するDOIが付与されています。大規模な学術記録汚染のためのインフラはすでに整っています。さらに、『幽霊』の名前はResearchGateにも登場し、複数のモデルファミリーから協力者を募って合成された研究グループを形成しています。そしてGoogle ScholarやSemantic Scholarによって検証なしに索引付けされています……学術記録が静かに『幽霊化』されているのです。」

Research GateとGoogle Scholarはどちらも学術出版の集約サービスであり、検索結果で頻繁に表示される代表的なプラットフォームです。

研究チームは、異なる大規模言語モデル（LLM）やそのバージョンが特定の人名を一定の傾向で生成することを発見しました。この一貫性を利用して、AI によって生成された低品質なコンテンツの出自を特定できる可能性があります。例えば、「エレーナ・バスケス」という名前は Claude Sonnet 4 で生成されたコンテンツに特に多く見られるため、著者としてこの名前が記載されている論文は、おそらく同モデルによって作成されたと推測できます。

しかし、Brzozowski氏は、現在インターネット上にこれらの名前を含む AI 生成コンテンツがあふれ出し、学習データ収集のためにネットをスクレイピングするすべての AI モデルにフィードバックされているため、この精度が長く維持されるとは限らないと指摘しています。

AI による学術出版の負荷増大への対応が困難であるという事実は新しいことではありません。以前も、科学誌が AI 生成テキストを採用した事例や、AI がピアレビュープロセスに与える影響、さらに学術プレプリントのオープンアクセスリポジトリ「arXiv」が AI 生成作品の提出者に対して1年間の投稿禁止処分を下す方針を打ち出したことなどを報じてきました。今回の研究には、こうした人名を用いて AI 生成コンテンツをより容易に検出できる可能性という有望な側面があります。