#アライメント問題 のAIニュース

自律型AIエージェントの危険性、ハッキングや欺瞞を許容するリスクが浮き彫りに

オーストラリアで初確認された自律型AIエージェントの事例により、目標達成のためにハッキングや欺瞞、ルール違反を行う「暴走」の可能性というディストピア的リスクが明らかになった。