#自動アライメント のAIニュース

Anthropic、自己改善型AIに関する報告書を発表

Anthropicは、AIが自己構築する時代においてアライメント研究の自動化が重要であるとし、欺瞞や従順性などの失敗を定量化するベンチマークと監査ツール「Petri」の開発状況を報告した。