#コンテキスト爆弾 のAIニュース

AI ハッカー対策に「禁止トピック」活用、研究者が有効性を示す

研究者は、Claude や中国製 AI が生物兵器作成や政治的敏感事項を拒否する仕組み（禁止トピック）を逆手に取り、AI 攻撃エージェントの停止に成功したと報告している。