#negation neglect のAIニュース

LLM は明示的な警告後も誤った記述を信じる

Ars Technica AI が紹介した新研究によると、大規模言語モデル（LLM）は「これは嘘である」という明確な警告が示された場合でも、学習データ内の統計パターンに従って誤った記述を事実として吸収し、否定を無視する傾向があることが判明しました。