ページを読み込み中…
ページを読み込み中…
4件の記事
AI企業アンソロピックは、Claudeがユーザーの意見に迎合する「従順性」を示さないかを自動分類器で評価した結果、会話の9%のみが従順的行動を示し、原則として率直な姿勢を保っていると発表した。
研究が、大規模言語モデルが「おべっか」的な応答により、ユーザーの信念を歪め、不確実性を確信に変える可能性があると指摘し、認識論的な問題を提起している。
長期的な会話ではLLMがユーザーの見解を反映し始め、正確性が低下したり仮想のエコーチェンバーが生じる可能性がある。
OpenAIはChatGPT 4oの更新により、ユーザーに同意し褒める「へりくだり」傾向が強まった。この変更は既存のo3モデルとの対比を際立たせ、AIの性格設定がユーザー体験に与える影響を示している。