オーストラリア議会、AI 生成資料による誤情報流入に警戒

オーストラリアの主要な連邦議会委員会の委員長たちは、AI によって生成された大量の資料が政策決定に誤った情報や「幻覚（ハルシネーション）」と呼ばれる虚偽の内容を持ち込んでいると警告しています。議員らは、提出される資料の真実性を常に確認するよう注意を促しています。

今週、ガーディアン・オーストラリアが行った分析によると、議会審査では AI によって作成されたコンテンツが溢れており、存在しない研究を捏造したり、実在する学者や著者に根拠のない研究成果を帰属させたりしていることが明らかになりました。一部の委員会報告書では、出典の大半が AI の幻覚による虚偽情報である提出資料すら引用されているケースがあります。これは大規模言語モデル（LLM）が、実際には存在しないのに実在するように見える情報を生成・参照する現象です。