AI が自らを構築し始めたとき、何が起きるのか？

リチャード・ソチャーは、長年にわたり AI の主要人物の一人であり、初期のチャットボットスタートアップ You.com を設立したことで最もよく知られています。その前には ImageNet に関する彼の業績が挙げられます。さて、彼は現在、研究に焦点を当てた AI スタートアップの新世代に加わり、サンフランシスコを拠点とする Recursive Superintelligence というスタートアップに参加しました。この企業は水曜日にステルスモードから脱却し、6億5000万ドルの資金調達を発表しました。 ソチャーには、ピーター・ノヴィグや Cresta の共同創設者であるティム・シーら、著名な AI 研究者たちが新事業に参加しています。彼らは再帰的に自己改善を行う AI モデルの構築に取り組んでおり、これは人間が関与することなく、自ら弱点を特定し、それを修正するために自身を再設計できるモデルです。これは現代の AI 研究において長年追求されてきた聖杯とされています。 私はローンチ後に Zoom で彼にインタビューを行い、Recursive の独自技術的アプローチや、なぜこの新プロジェクトを「ネオラボ（研究よりも製品構築を優先する新世代の AI スタートアップに対する非公式な呼称）」とは考えていないのかについて掘り下げました。 本インタビューは、長さの調整と明瞭化のために編集されています。 **最近では再帰性（recursion）についてよく耳にしますが、さまざまなラボで非常に一般的な目標のように感じられます。あなたにとって独自のアプローチは何だとお考えですか？** 私たちのユニークなアプローチは、誰もまだ達成していない再帰的自己改善へと至るためにオープンエンドネスを利用することです。これは多くの人にとって掴みどころのない目標です。多くの人は、単に自動研究を行うだけでそれが起こるとすでに考えています。つまり、AI を使って何か他のものをより良くするように依頼できるということです。それは機械学習システムでも、あなたが書く手紙でも、あるいは何であれ構いませんが、しかしそれは再帰的自己改善ではありません。それは単なる改善です。 私たちの主な焦点は、スケーラブルに真の再帰的自己改善型スーパーインテリジェンスを構築することであり、これは研究アイデアの立案、実装、検証のプロセス全体が自動化されることを意味します。 まず [AI 研究アイデアを自動化し]、最終的にはあらゆる種類の研究アイデア、さらには物理的領域におけるものさえも自動化します。しかし、特に強力なのは AI が自分自身に取り組む場合であり、その際、自身の欠点に対する新たな自己認識の感覚を発展させることです。 **あなたは「オープンエンドネス」という用語を使いましたが、それは特定の技術的な意味を持っていますか？** もちろんです。実際、共同創設者の一人である Tim Rocktäschel は、Google DeepMind でオープンエンドネスと自己改善チームを率い、特に世界モデル Genie 3 に取り組んでいました。これはオープンエンドネスの素晴らしい例です。あらゆる概念、あらゆる世界、あらゆるエージェントを指定するだけで、AI がそれを作成し、対話的に動作します。 生物進化において、動物は環境に適応し、その後他の生物がその適応に対して逆適応します。これは数十億年にもわたって進化し続けるプロセスであり、面白いことが次々と起こり続けますよね？これが私たちが[頭]に目を持つようになった理由です。 もう一つの例として、Tim による[別の論文](https://iclr.cc/virtual/2024/23768)から「レインボー・ティーミング（rainbow teaming）」があります。レッド・ティーミング（red teaming）という言葉を聞いたことがありますか？ **サイバーセキュリティにおいて、これは**-- つまり、大規模言語モデル（LLM: Large Language Model）の文脈でもレッド・ティーミングを行う必要があります。基本的には、LLM に爆弾の作り方を教えるように仕向けようとし、それが実行されないことを確認します。 現在、人間が長時間座って、AI が言うべきではない面白い例を思いつくことができます。しかし、もしこの最初の AI を別の AI でテストし、その第二の AI の任務が第一の AI に[可能な限り]あらゆる悪いことを言わせるように仕向けることだとしたらどうでしょうか？そして、それらは数百万回の反復で互いに攻防を繰り広げます。 実際には、2 つの AI が共進化（co-evolution）するようにすることも可能です。一方が他方を攻撃し続け、単一の角度だけでなく多くの異なる角度から攻め立てるのです。これが「レインボー」という比喩の由来です。そして第一の AI を免疫させることで、私たちはより安全になっていきます。これは Tim Rocktaeschel 氏のアイデアであり、現在は主要な研究ラボすべてで採用されています。 **いつ完了したと判断すればよいのでしょうか？おそらく、それは決して完了することはないでしょう。** これらのことのいくつかは決して達成されないでしょう。あなたは常により知的になることができます。プログラミングや数学などにおいて、常に向上することができます。知性にはある程度の限界がありますが、私は現在それらを形式化しようとしています。しかし、その限界は天文学的な規模です。私たちはその限界から非常に遠く離れています。 **ネオラボ（新世代の研究所）として、主要な研究所が取り組んでいない何かを行うべきだと感じます。つまり、主要な研究所が現在のやり方では RSI [再帰的自己改善] に到達しないと考えているという含意があるのでしょうか？それは公平な指摘でしょうか？** 彼らが何をしているかについてはコメントできませんが、私たちは異なるアプローチでこれに近づいていると思います。私たちはオープンエンドネス（開放性）の概念を真に受け入れ、チームはこのビジョンに完全に集中しています。このチームは過去 10 年間、この分野の研究を行い、論文を発表してきました。また、この分野を大きく前進させ、実際に製品をリリースしてきた実績があります。例えば、Tim Shi は Cresta をユニコーン企業へと成長させました。Josh Tobin は OpenAI の初期メンバーの一人であり、後に Codex チームや深層研究チームを率いました。 私は実際、時折この「ネオラボ」というカテゴリに少し違和感を覚えます。私たちは単なる研究所ではないと感じています。私たちは本当に持続可能な企業となり、人々が愛用し、人類に対してポジティブな影響を与える素晴らしい製品を持つことを目指しています。 **では、最初の製品のリリースはいつ予定されていますか？** 私はそれを何度も考えました。チームは非常に多くの進歩を遂げ、当初想定していたスケジュールよりも前倒しできるかもしれません。しかしはい、製品は登場しますし、数年待つ必要はなく、数四半期待てばよいことになります。 **再帰的自己改善に関するアイデアの一つに、このようなシステムが完成すれば、計算リソースこそが唯一重要な資源となるというのがあります。システムをどれだけ高速で実行するかによって、その改善速度が決まり、外部の人間の活動が実質的な違いをもたらすことはありません。つまり競争は、「どれだけの処理能力をこの目的に投入できるか」という点に集約されます。私たちが向かっている世界がまさにそのようなものだとお考えですか？** 計算リソースを過小評価してはいけません。将来、非常に重要な問いとなるのは、「人類はどの問題を解決するために、どれだけ計算リソースを投じるべきか」です。例えば、このがんやあのウイルスがあります。どちらを先に解決したいですか？それにどれだけの計算リソースを与えますか？最終的には資源配分の問題となります。これは世界で最も大きな課題の一つになるでしょう。 *当記事内のリンクを通じてご購入いただいた場合、[私たちは少額のコミッションを受け取る可能性があります](https://techcrunch.com/techcrunch-affiliate-monetization-standards/)。ただし、これは当社の編集の独立性には影響しません。*

AI が自らを構築し始めたとき、何が起きるのか？

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト