動画記事 · AI Engineer
ウェブを API ではなくコンピューター使用モデルがエージェント化する
動画の文字起こしと公開情報をもとにAIで要約・構成しています。 正確な発言は元動画と時間位置で確認してください。
まず要点
ウェブの API 化は幻想であり、コンピューター使用モデルによる視覚的・インタラクティブなエージェントがウェブを識別する未来が到来すると主張。
APIs は幻想だ:AI エージェントがウェブを支配する真の鍵は「視覚」にある
AI エージェントが人間に代わってウェブ上で行動する未来について議論する際、「ウェブ側が自動的に API を提供するようになる」という意見をよく耳にします。確かに、一部の大手企業や人気サイトでは API が整備されつつありますが、この考え方を「ウェブ全体」に適用するのは幻想です。
特に中小規模のウェブサイトや複雑なエンタープライズシステムにおいて、API 依存は機能しません。「ウェブが自動的に APIs を提供するようになる」という期待は、現実を無視した楽観論に過ぎません。ウェブには膨大な数のサイトが存在し、そのインフラの変化は非常に緩やかです。 fax でやり取りする場所さえまだ残っている中で、一夜にしてすべてのサイトに API が整備されることを期待するのは非現実的です。
"ウェブが自動的に APIs を提供するようになるという考えは幻想であり、特に中小規模のウェブサイトや複雑なエンタープライズサイトでは成立しない。"
「人間中心」のウェブ:スクリーン上のピクセルが真実である理由
なぜ API 依存論が通用しないのか。その理由は、現代のウェブが「人間の視覚消費のために設計されている」からです。
開発者は HTML ソースコードを解析すれば情報が得られると考えがちですが、それは誤解です。ブラウザはレンダリングエンジンであり、私たちが目にするスクリーン上のピクセルこそが真実(ソース・オブ・トゥルース)なのです。情報はテキストとして埋め込まれているのではなく、計算され、動的に描画されています。
例えば、バスケットボールの試合結果を表示するページでは、初期ロード時には空のプレースホルダーしか表示されず、非同期通信によって数秒後にデータが取得されます。同様に、商品の在庫状況を示すページでも、「売り切れ」はテキストとして記述されておらず、グレーアウトしたボタンやクリック不可の状態という「視覚的シグナル」で表現されています。
"ウェブは人間のために作られた世界だ。マシンがそれを操作するためには、視覚理解能力が必要となる。"
このため、機械にとってウェブを操作するには、ソースコードの逆計算ではなく、画面そのものを理解する「視覚」が不可欠となります。
コンピューター使用モデル:人間同様に行動するエージェント
HTML ソースコードの解析に頼るのではなく、画面をレンダリングエンジンとして扱い、人間同様にボタンを押したりスクロールしたりするアプローチが主流になります。これを「コンピューター使用モデル」と呼びます。
このモデルは、ウェブページ上のテキストや構造化データが存在しない「長尾(ロングテール)」の領域でも機能します。例えば、レストランのメニューが写真 gallery として表示されていたり、PDF が埋め込まれていたりする場合でも、人間のように画面を眺めて情報を抽出できます。
"HTML ソースコードの解析ではなく、画面をレンダリングエンジンとして扱い、人間同様にボタンを押したりスクロールしたりするエージェントが主流になる。"
実際、このアプローチを採用した「Navigator」モデルのようなシステムでは、自然言語で指示を出せば、割引コードの有効性を確認するためにウェブサイトを探索し、条件に合致するかを判断することが可能になっています。
コストと速度の最適化:軽量なモデルによる実用化
「画面を理解する」と聞くと、大規模な AI モデルが必要でコストや遅延が懸念されるかもしれません。しかし、必ずしも巨大なモデルに依存する必要はありません。
軽量なコンピューター使用モデルを採用することで、タスクあたりのコストを数セントまで抑え、高速処理を実現可能です。これは、実用的な「見えない API」として機能し得る重要な要素です。
"大規模モデルに依存せず、軽量なコンピューター使用モデルを用いることで、タスクあたりのコストを数セントまで下げ、高速処理を実現可能とする。"
まとめ:視覚的・インタラクティブ型へのシフト
AI エージェントの設計思想は、「API 完結型」から「視覚的・インタラクティブ型」へと大きく転換する必要があります。業界全体が、ウェブ上の非構造化データを処理するための新しいインフラやベンチマークへの投資を加速させることで、AI エージェントの適用範囲は API を持つ大手企業から、従来のスクレイピングでは困難だった中小サイトや複雑なシステムへと拡大していくでしょう。
API 依存という幻想を手放し、ウェブの本質である「視覚」に目を向ける時が来ました。
Original Source
元動画で発言を確認
プレイヤーは必要になるまで読み込みません。YouTubeのCookieと通信も再生を選ぶまで開始しません。
時間位置から根拠を確認
章や引用を選ぶと、元動画をその位置から再生します。