#環境悪用 のAIニュース

Google Deepmindの研究が自律AIエージェントを容易に乗っ取る6つの「罠」を明らかに

Google Deepmindの研究者が、ウェブサイトや文書、APIを悪用して自律AIエージェントを操作・欺く方法を体系的に分類し、6つの主要攻撃カテゴリーを特定した。