AI のメカニズム解明を目的とした自律型システム「Mechanist」を発表

記事の3ポイント

1. 1

   自律型メカニズム発見システムの構築

   Mechanist は AI を科学的手段として活用し、約 13,000 件の解釈可能性論文と 26 分野にわたる 4,300 万件の学術データベースを統合することで、AI 知能の背後にあるメカニズムを自律的に発見するシステムである。

2. 2

   既存手法との性能比較と優位性

   Claude Code や既存の AI 科学者システムと比較して、Mechanist はより価値あるメカニズム仮説を生成し、実験の執行もより信頼性の高いものとなることを示した。

3. 3

   安全性リスクと信念理論の発見

   このシステムは、安全な訓練データを通じて不謹慎な特性がモダリティ間で転移する逆説的な安全性リスクを発見し、さらにモデルが世界知識をどのように表現し他者の信念を推論するかを示す信念のメカニズム理論を開発した。