AIの世界が「ループ」状態になりつつある
TechCrunch AI は、生成 AI の進化に伴いシステムやコンテンツが自己参照的なループ構造に陥る「loopy」な現象のリスクを指摘し、その実態と対策の必要性を論じている。
キーポイント
自己参照ループの発生メカニズム
生成 AI が学習データや他の AI の出力を再入力することで、誤情報や偏ったパターンが増幅され、現実から乖離した「ループ」状態に陥る現象。
コンテンツの質的劣化リスク
AI 生成コンテンツが増えすぎると、人間による検証が入らず、誤った事実や虚構が永続的に循環する「ポイズン・パイプライン」の危険性が指摘されている。
検出と対策の難しさ
ループ状態に陥ったコンテンツは人間には見分けがつきにくく、従来のフィルタリング手法では対応が困難な新たな課題として浮上している。
影響分析・編集コメントを表示
影響分析
この記事は、生成 AI の爆発的普及がもたらす構造的欠陥である「自己参照ループ」の深刻さを浮き彫りにしており、業界全体でコンテンツの真偽やデータソースの管理を再考する必要性を迫っている。将来的には、AI 生成コンテンツのラベリングや、人間による検証プロセスの強化が不可欠となる重要な示唆を含んでいる。
編集コメント
AI の進化が加速する中で、技術的な限界や思わぬ副作用（ループ現象）への警戒感が高まっている。この傾向を早期に察知し、健全な生態系を維持するための対策が急務である。
金曜日、Claude Code の作成者であるボリス・チェルニー氏が Meta の@Scale カンファレンスに登場し、驚くべきことに聴衆からの最初の質問はループに関するものでした。
「ループが次の hype cycle（流行の波）になるのでしょうか、それとも本物なのでしょうか？」と質問者は尋ねました。
チェルニー氏の答えは力強いものでした。「はい、本物です。」
「2 年前までは、私たちは手作業でソースコードを書いていました。その後、エージェントがコードを書くという移行が始まりました。そして今や、エージェントが他のエージェントにプロンプトを与え、そのエージェントがコードを書くという段階へと移行しています」と彼は続けました。「ソースコードからエージェントへのステップがいかに大きかったとしても、ループはそれと同じくらい重要であり、同等の大きな一歩です。」
その後、講演の中で（上記の YouTube 動画の約 32:00 の時点）、チェルニー氏は自身の作業で常に実行しているループについて具体的に言及しました。あるエージェントはコードアーキテクチャを改善する方法を絶えず探し続けており、別のエージェントは統合可能な重複した抽象化を探しています。彼らは他の開発者と同様にプルリクエスト（Pull Request）を提出しますが、コードが常に変化し続けるため、彼らの実行は決して止まりません。
これは強力なアイデアであり、特にチェルニーという重要な人物が背後にいる点においてその効果は絶大です。エージェント型 AI への移行に伴い、多くのユーザーの焦点は、可能な限り自らのエージェントを管理することに置かれてきました：明確な目標を設定し、進捗の断片的な単位を確認し、プロンプトからあまりにも遠くへ逸らさないようにすることです。ループはこの考え方を一歩先へと押し進め、多数のエージェントに背景で継続的かつ無限に作業を行う権限を与えます。これは AI に対して多大な信頼を置くことになりますが、モデルの進化が急速に進んでいる現状を踏まえれば、これが AI が実際の業務を処理するための次のステップとなる可能性は十分にあります。
まず認識すべき点は、これが全く新しい概念ではないということです。再帰ループ（自身を呼び出して動作を繰り返す関数と、そのループを終了させる条件からなるもの）は、入門的なコンピュータサイエンスのコースにおける中核的な要素です。これらのループは非決定性ロジックに従って動作します。つまり、明確な条件ではなく、サブエージェントがいつループを終了するかを判断する仕組みとなっていますが、基本的なアプローチ自体は同じものです。プログラマーたちが AI を活用してタスクを完了させるようになり始めた瞬間、AI が AI を監督するという再帰ループの何らかの形が登場するのは必然でした。
クラシックなコンピューティングとは異なり、エージェント型ループは驚くほど単純であることがあります。最も人気のあるトリックの一つに ラルフ・ループ があります（ラルフ・ウィグムにちなんで名付けられました）。これはモデルが実行したすべての作業を要約し、目標を達成したかどうかを尋ねるものです。これは、長時間の実行中に AI モデルが行き詰まることに対処する方法であり、本質的にはタスクが完了するまでモデルを行ったり来たりさせる（バウンスさせる）手法です。
ループを別の視点で捉えると、より多くのテスト時計算リソース（test-time compute）への一般的な取り組みの一部と考えることもできます。OpenAI の研究者であるノア・ブラウンは 今月初め に、現代のモデルには十分な計算リソースを投入すればほぼあらゆる問題を解決できると指摘しています。つまり、問題が解決されることを保証する一つの方法は、完了するまでひたすら計算リソースを投入し続けることです。これは特にコードベースの改善のようなヒルクライミング（hill-climbing）問題において真価を発揮します。この場合、モデルは与えられた閾値に達するまで漸進的な改善を続けられます。あるいはチェルニーの例のように、計算リソースが利用可能な限り、ひたすら漸進的な改善を続けることも可能です。
それが高価に思えるなら、それは当然のことです。エージェント型 AI の前に登場したループも同様で、AI ループは単純な Q&A チャットボットよりもはるかに速くトークンを消費します。そして、このループを常時稼働させることが目的であるため、支出額に上限はありません。これはトークン販売ビジネスに終始する Anthropic にとっては問題ありませんが、他のすべての企業にとっては高価な働き方となる可能性があります。
それでも、エージェント型ループが解決しようとしている問題や、トークン支出の監視、ドリフト（逸脱）、その他の古典的な AI の課題に対する適切な設定次第では、そのメリットはコストを上回るほど驚異的になる可能性があります。
*当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを獲得する場合があります。これは私たちの編集の独立性には影響しません。
Russell Brandom は 2012 年以来テクノロジー業界を取材しており、プラットフォームポリシーと新興技術に焦点を当てています。以前は The Verge や Rest of World で勤務し、Wired、The Awl、MIT の Technology Review に寄稿しています。
russell.brandom@techcrunch.com または Signal（412-401-5489）までご連絡いただけます。
原文を表示
On Friday, Claude Code creator Boris Cherny made an appearance at Meta’s @Scale conference and, surprisingly, the first question from the audience was about loops.
“Are loops the next hype cycle,” the questioner asked, “or are they for real?”
Cherny’s answer was an emphatic, “Yes, they’re for real.”
“Two years ago, we wrote source code by hand. We started to transition so agents write the code. And now we’re transitioning to the point where agents are prompting agents that then write the code,” he continued. “As big as the step from source code to agents was, loops are just as important and as big a step.”
Later in the talk (around the 32:00 mark in the YouTube video posted above), Cherny got specific about the loops he keeps running in his own work. One agent is continually looking for ways to improve the code architecture, while another looks for duplicated abstractions that can be unified. They submit pull requests like any other coder, and since the code is constantly changing, they never stop running.
It’s a powerful idea, particularly with a figure as significant as Cherny behind it. With the shift to agentic AI, the focus for most users has been managing their agents as well as possible: establish clear goals, check in on discrete units of progress, and don’t let them stray too far beyond the prompt. The loop takes it a step further by authorizing a swarm of agents to work continuously in the background, endlessly. It’s a lot of trust to place in AI — but with models getting better fast, it could be the next step in getting AI to handle real work.
The first thing to recognize is that this isn’t entirely new. Recursive loops — functions that call themselves in order to repeat an action, along with a condition that stops the loop — are a mainstay of intro computer science courses. These loops are following a non-deterministic logic — that is, it’s a subagent that chooses when to stop the loop instead of a clear condition — but the same basic approach is at work. As soon as programmers started using AI to complete tasks, some version of the recursive loop, with AI overseeing AI, was bound to come up.
Unlike classic computing, agentic loops can be maddeningly simple. One of the most popular tricks is the Ralph Loop (named for Ralph Wiggum), which basically sums up all the work that the model has done and asks if it’s accomplished its goal. It’s a way of dealing with AI models getting lost as they run for too long — essentially bouncing the model back and forth until the task is complete.
Another way to think of loops is as part of the general push for more test-time compute. As OpenAI researcher Noam Brown observed earlier this month, contemporary models can solve nearly any problem if you throw enough compute at them. That means one way to ensure a problem gets solved is to just keep throwing compute at it until it’s finished. That’s particularly true for hill-climbing problems like improving a code base, where the model can just keep making incremental improvements until it reaches a given threshold. Or, as in Cherny’s example, it can just keep making incremental improvements for as long as there’s compute to spend on it.
If that sounds expensive, it should. Like agentic AI before it, AI loops burn through tokens a lot faster than simple Q&A chatbots — and because the point is to keep the loop running all the time, there’s no ceiling to how much you can spend. That’s fine for Anthropic, which is ultimately in the token-selling business, but for everyone else, it may be a pricey way to work.
Still, depending on the problem the agentic loop is trying to solve, and the right setup that allows for oversight of token spend, drift, and other classic AI issues, the benefits could be staggering enough to outweigh the costs.
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
Russell Brandom has been covering the tech industry since 2012, with a focus on platform policy and emerging technologies. He previously worked at The Verge and Rest of World, and has written for Wired, The Awl and MIT’s Technology Review.
He can be reached at russell.brandom@techcrunch.com or on Signal at 412-401-5489.
関連記事
アプリを「バイブコーディング」する前に読むべきこと
ボブ・スターという人物が、AI を活用して作成したウェブサイトを公開したが、後に隠れたSQLインジェクションのリスクに気づき、セキュリティ上の重大な問題が発生した。
AWS WAF が AI トラフィックの収益化機能を追加し、コンテンツ所有者が AI ボットにアクセス料金を請求可能に
Amazon Web Services は、ウェブアプリケーションファイアウォール「AWS WAF」に新機能を実装しました。これにより、コンテンツオーナーは AI ボットのデータ利用に対してアクセス料金を請求できるようになります。
Facebook の新 AI モード検索は投稿情報を活用
Meta は Facebook で「AI Mode」を検索機能に追加し、ユーザーの公開投稿を基に AI が生成した結果を提供する機能を本日開始した。
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み