#システムリスク のAIニュース

AI エージェントのスケールにおける失敗リスクと不確実性

モデルの進化に伴い共有コードベースや市場でタスクを担う AI エージェントが増加し、人間速度での監督が機能しない大規模な相互作用による失敗リスクが懸念されている。