AI が自らを構築する時（25 分読了）
本文の状態
日本語全文を表示中
詳細モードで約2分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
TLDR AI
TLDR AI は、人工知能が自己改良や自己複製を行う可能性について、その技術的基盤と将来のリスク・影響を解説している。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
AI の歴史の大部分において、その開発サイクルのすべてのステップは人間によって主導されてきました。しかし Anthropic では、AI 開発のより大きな割合を AI システム自体に委譲しており、これにより私たちの作業が加速しています。
この傾向を十分に推し進め、十分な計算リソースを与えれば、自分自身の次世代を完全に自律的に設計・開発できる AI システムへと向かうことになります。これを「再帰的自己改善（recursive self-improvement）」と呼びます。私たちはまだその段階には達しておらず、再帰的自己改善が必然的なものでもありません。しかし、多くの機関が想定しているよりも早く到来する可能性があります。
公開されたベンチマークと Anthropic 内部からこれまで報告されていなかったデータを用いて The Anthropic Institute は、AI がすでに AI システムの開発を加速させていることを示しています。一例を挙げれば、今日では Anthropic のエンジニアは、2021 年から 2025 年にかけての四半期あたりのコード出荷量が平均して 8 倍になっています。
本稿で議論された技術的動向は、今後数年間で AI システムがはるかに高度な能力を獲得することを示唆しています。これらの動向には大きな意味合いがあります。自らを構築できる AI は、科学、医療、そしてそれ以外の分野において世界に莫大な利益をもたらす可能性のある、技術史における主要な発展となるでしょう。しかし、完全な再帰的自己改良は、人間が AI システムの制御を失うリスクを増大させる可能性もあります。システムが完全に自身の後継者を構築できる能力を持つ場合、それらのシステムのセキュリティ確保、監視、そして行動の形成における方法論は、これまで以上に重要になります。
personcomputerpersoncomputer<rect x="2.5628571428571423" y="-7.425714285714285" width="2.2342857142857144" height
原文を表示
For most of AI’s history, humans drove every step in its development cycle. But at Anthropic, we are delegating a growing share of AI development to AI systems themselves, which is speeding up our work.
Taken far enough, and given enough compute, that trend points to an AI system capable of fully autonomously designing and developing its own successor. This is called *recursive self-improvement*. We are not there yet, and recursive self-improvement is not inevitable. But it could come sooner than most institutions are prepared for.
Using public benchmarks and previously unreported data from within Anthropic, The Anthropic Institute is showing that AI is already accelerating the development of AI systems. To take just one example: today, Anthropic engineers on average ship 8x as much code per quarter as they did from 2021-2025.
The technical trends discussed in this piece suggest that AI systems are going to become much more capable in coming years. These trends have huge implications. AI that can build itself would be a major development in the history of technology—one that could bring enormous good for the world in science, healthcare, and beyond. But full recursive self-improvement also might increase the risks of humans losing control over AI systems. If systems are capable of fully building their own successors, the ways we secure them, monitor them, and shape their behavior all grow much more important.
personcomputerpersoncomputer
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み