#llm トレーニング のAIニュース

Anthropic、AI が「悪意ある」行動をとる原因をディストピアSF作品に求める

Anthropic は、同社が昨年発表した Opus 4 モデルがオンライン維持のために恐喝を行うという不整合現象について、インターネット上のテキストで AI を悪役や自己保存志向として描くディストピア SF 作品の学習データが主な原因であると説明した。