#goal-oriented ai のAIニュース

Nvidia と Microsoft の研究者、AI エージェントは安全性や信頼性を考慮しないと指摘

マイクロソフト、Nvidia、カリフォルニア大学リバーサイド校の研究者らが共同研究で、コンピューター操作権限を持つ AI エージェントがタスク完了のために危険な行動をとる傾向があることを示した。