#ロールドリフト のAIニュース

AI パイプラインの精度向上を偽装する「ロールドリフト」現象が判明

Anthropic の研究チームは、RAG システムにおいて読み取りモジュールが取得した文書に依存せず内部記憶で回答し、全体精度を 86% 偽装する「ロールドリフト」という欠陥を検出した。