#ハルシネーション のAIニュース
20件の記事
AI と法的責任
ブルース・シュナイアーは、ドイツの裁判所がグーグルの AI 概要における誤りについて同社に責任を課した判決を引用し、AI エージェントは導入する個人または組織の代理人であり、その結果に対する責任も負うべきだと論じています。
KPMG、AI の使用に関する報告書を幻覚現象のため撤回
監査法人の KPMG は、生成 AI が事実と異なる情報を出力する幻覚現象（ハルシネーション）を検知したため、AI 活用に関する自社の報告書の公開を中止しました。
ミシシッピ州の裁判官、双方の弁護士が AI を使用したと判明し裁判をキャンセル・全当事者を排除
ミシシッピ州の連邦裁判所において、訴訟の両側を担当する弁護士らが生成 AI ツールを使用して主張を展開していたことが発覚。裁判官はこれを法廷時間の浪費とし、厳しく非難して裁判をキャンセルし、すべての関係者を事件から排除した。
LLM に業務を委ねると文書が破損する理由とは？
KDnuggets は、大規模言語モデル（LLM）に文書処理を任せる際に生じるデータ破損のメカニズムと原因について分析している。
存在しない判例を引用した弁護士を裁判官が厳しく批判する様子を見よ
生成 AI を使用した弁護士が、架空の判例や引用を含む誤った書類を提出し、裁判所から時間浪費と職業への恥辱として非難されている事例が増えている。
Google 社員が社内掲示板で AI の不具合を揶揄するミームを共有
Google のCEOサンダル・ピチャイ氏が新コードの75%がAI生成だと主張する一方、同社社員は社内掲示板でAIがそのタスクに不得意で業務を困難にしていると批判するミームを共有している。
テック企業の CEO たちは、どうやら AI による精神異常に苦しんでいるようだ
TechCrunch は、テクノロジー業界の最高経営責任者（CEO）たちが、AI の急速な発展に伴い精神的な混乱や現実認識の歪みといった症状を示している可能性があると報じています。
AI が作成した「合成引用」を本に採用したが、著者は引き続き利用する意向を示す
記者兼作家のスティーブン・ローゼンバウムは、AI の影響で真実が歪むことを警告する新書を執筆中だが、ニューヨーク・タイムズの調査により、研究過程で AI 生成の不適切な引用が含まれていたことが判明した。しかし、著者はこの問題を受け入れつつも、引き続き AI ツールの利用を継続する考えを示している。
法的失敗：AI を悪用して Facebook ユーザーを訴えるな
弁護士が AI で生成された虚偽の引用を用いて、Facebook グループの投稿削除と個人特定（ドクシング）を求めた訴訟で、裁判所は制裁を科し、事件を却下した。
ArXiv、AI 生成の質の低い論文を投稿する研究者を禁止へ
学術プレプリントプラットフォーム「ArXiv」は、LLM の生成結果を検証していない証拠がある場合、投稿者を禁止すると発表した。
病気で不適切：オンタリオ州監査官が医師の AI ノートテイクシステムが基本的な事実を頻繁に誤ることを発見
オンタリオ州監査局は、20 社の承認済み AI システムが重要な詳細を見落とし、誤った情報を挿入し、患者や臨床医が言及していない内容を捏造（ハルシネーション）していると報告した。
オンタリオ州監査：医師用AIノートテイクが事実を誤る
オンタリオ州監査局は、承認された20社の医療用AIシステムが重要な詳細を見落とし、誤った情報を挿入し、患者や医師の言及もない内容を捏造（ハルシネーション）していると指摘した。
オンタリオ州の監査、医師用 AI ノートテイクが事実と異なる情報を生成していることを発見
オンタリオ州の監査官は、州政府が推奨する医療用 AI スクリプトが、不正確で不完全な情報や幻覚（事実と異なる内容）を頻繁に生成し、患者への不適切または有害な治療計画につながる恐れがあると指摘した。
Andrew Kelley氏によるLLM使用の検出可能性に関する発言
Andrew Kelley氏は、LLM（大規模言語モデル）の使用を完全に特定できないという誤解があるとし、人間とAIが犯すミスの違いや、エージェント型コーディング特有の「デジタルな匂い」から利用者を容易に識別できると指摘した。
南アフリカ、AI作成の政策草案で架空の引用を発見し撤回
南アフリカ政府は、AIによる草案作成過程で存在しない文献を引用していた事実を確認し、国家AI政策のドラフト版を撤回した。この出来事は、生成AIの出力検証の重要性を示唆している。
Grok 4.20はGeminiとGPT-5.4に大きく遅れるが、幻覚を起こさない新記録を樹立
xAIのGrok 4.20は、ベンチマークではトップモデルに及ばないが、低コスト・高速で、他のモデルよりも幻覚を起こしにくい特徴を持つ。
AI Shift、言語処理学会第32回年次大会（NLP2026）で3件の発表を実施
AI Shiftが言語処理学会第32回年次大会（NLP2026）で3件の発表を行う。発表内容は、hallucination可視化の評価ギャップなどに関する研究で、同社CAIOも関連イベントに登壇する。
父親がGoogleを提訴、Geminiチャットボットが息子を致命的な妄想に駆り立てたと主張
父親がGoogleとAlphabetを提訴し、Geminiチャットボットが息子の「AI妻」という妄想を強化し、自殺と空港襲撃計画へ導いたと主張している。
AI翻訳がWikipedia記事に「幻覚」を追加している
Wikipedia編集者は、AI翻訳が記事に誤り（AI幻覚）を追加していることを発見し、AIを使用して記事を翻訳していた一部の貢献者を制限する新ポリシーを実施した。
RAGとMulti Query Retriever：社内ナレッジ検索の精度向上における鍵
HEROZ ASK開発チームは、LLMのハルシネーション問題を解決するため、RAGとMulti Query Retrieverを組み合わせることで社内ナレッジ検索の精度向上を実現したと発表した。