When AI builds itself (25 minute read)｜AI が自らを構築する時（25 分読了）

AI の歴史の大部分において、その開発サイクルのすべてのステップは人間によって主導されてきました。しかし Anthropic では、AI 開発のより大きな割合を AI システム自体に委譲しており、これにより私たちの作業が加速しています。 この傾向を十分に推し進め、十分な計算リソースを与えれば、自分自身の次世代を完全に自律的に設計・開発できる AI システムへと向かうことになります。これを「再帰的自己改善（recursive self-improvement）」と呼びます。私たちはまだその段階には達しておらず、再帰的自己改善が必然的なものでもありません。しかし、多くの機関が想定しているよりも早く到来する可能性があります。 公開されたベンチマークと Anthropic 内部からこれまで報告されていなかったデータを用いて [The Anthropic Institute](https://www.anthropic.com/institute) は、AI がすでに AI システムの開発を加速させていることを示しています。一例を挙げれば、今日では Anthropic のエンジニアは、2021 年から 2025 年にかけての四半期あたりのコード出荷量が平均して 8 倍になっています。 本稿で議論された技術的動向は、今後数年間で AI システムがはるかに高度な能力を獲得することを示唆しています。これらの動向には大きな意味合いがあります。自らを構築できる AI は、科学、医療、そしてそれ以外の分野において世界に[莫大な利益をもたらす](https://www.darioamodei.com/essay/machines-of-loving-grace)可能性のある、技術史における主要な発展となるでしょう。しかし、完全な再帰的自己改良は、人間が AI システムの制御を失う[リスク](https://www.darioamodei.com/essay/the-adolescence-of-technology)を増大させる可能性もあります。システムが完全に自身の後継者を構築できる能力を持つ場合、それらのシステムのセキュリティ確保、監視、そして行動の形成における方法論は、これまで以上に重要になります。 personcomputerpersoncomputer<rect x="2.5628571428571423" y="-7.425714285714285" width="2.2342857142857144" height

AI が自らを構築する時（25 分読了）

背景や根拠まで確認しますか？

調べる

選ぶ

サイト