不確実性を通じた幻覚の再考：Google の新アプローチ

[PDF を表示](https://arxiv.org/pdf/2605.01428) [HTML（実験版）](https://arxiv.org/html/2605.01428v1) ** 要旨：事実の信頼性において著しい進歩を遂げたにもかかわらず、誤り -- しばしば幻覚（hallucinations）と呼ばれる -- は生成 AI の主要な懸念事項であり続けています。特に、大規模言語モデル（LLM）がより複雑または微妙な設定において有用性を発揮することがますます期待されるようになっている現状ではなおさらです。しかし、最も単純な設定 -- 明確な正解が存在する事実質問応答 -- でさえも、外部ツールを備えていない最前線のモデルは依然として幻覚を起こし続けています。私たちは、この分野における事実に基づく成果のほとんどが、モデルの知識の境界を広げる（より多くの事実を符号化する）ことによるものであり、その境界への意識を高める（既知と未知を区別する）ことによるものではないと主張します。後者は本質的に困難であると私たちは推測しています：モデルは真実と誤りを完璧に分離するための識別能力を欠いている可能性があり、幻覚の排除と有用性の維持の間には避けられないトレードオフが生じると考えられます。 このトレードオフは、異なる枠組みの下では解消されます。ハルシネーションを「適切な注釈なしに提供される自信満々な誤り」として理解すれば、回答するか見送るかという二項対立を超えた第三の道が現れます。それは不確実性を表現することです。私たちは忠実な不確実性（faithful uncertainty）を提案します。これは言語的な不確実性と本質的な不確実性を一致させることです。これはメタ認知の一側面であり、自身の不確実性を認識し、それに基づいて行動する能力です。直接的な対話においては、不確実性を誠実に伝えることが行動に繋がります。エージェントシステムにおいては、検索を行うタイミングや何を信頼するかを支配する制御層となります。したがって、LLM が信頼性が高くかつ能力を持つためにはメタ認知が不可欠であり、私たちはこの目標に向けた進展のための未解決課題を強調して結論とします。 コメント: ICML 2026（Position Track）に掲載予定 分野: 計算と言語 (cs.CL) 引用形式: [arXiv:2605.01428](https://arxiv.org/abs/2605.01428) [cs.CL] (または、このバージョンについては [arXiv:2605.01428v1](https://arxiv.org/abs/2605.01428v1) [cs.CL]) [https://doi.org/10.48550/arXiv.2605.01428](https://doi.org/10.48550/arXiv.2605.01428) arXiv 発行 DOI (DataCite 経由) ## 提出履歴 送信者：Gal Yona [[メールを見る](https://arxiv.org/show-email/e7f95c1f/2605.01428)] [v1]** 日本時間 2026 年 5 月 2 日（土）12:59:14 UTC (680 KB)

不確実性を通じた幻覚の再考：Google の新アプローチ

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト