AI企業は神創造から製品構築へ転換した。それは良いことだ

AI 企業は総じてハードウェアとデータセンターに 1 兆ドルを投じる計画を立てていますが、これまでのところ目に見える成果は比較的少ないものです。これが原因で、「生成 AI はバブルだ」という懸念の声が相次いでいます。今後何が起きるかについては予測を提供するつもりはありません。しかし、なぜここまで事態が悪化したのかという点については、確固たる診断を下すことができると思っています。

本稿では、AI 企業が犯した過ちと、それらをどう修正しようとしているかを説明します。その後、生成 AI を投資に見合うほど商業的に成功させるために、まだ乗り越えなければならない5つの障壁について議論します。

プロダクト・マーケットフィット

ChatGPT が登場した際、人々は千もの予期せぬ使い道を見つけました。これにより AI 開発者たちは過度に興奮してしまいました。彼らは市場を完全に誤解し、概念実証と信頼性の高い製品との間の巨大なギャップを見くびってしまいました。この誤解が、LLM（大規模言語モデル）の商業化に向けた二つの相反するが、どちらも欠陥のあるアプローチを生み出すことになりました。

OpenAI と Anthropic は、プロダクトよりもモデル構築に注力し、プロダクトについては気にしない方針をとりました。例えば、OpenAI が ChatGPT の iOS アプリをリリースするために手間をかけたのは6ヶ月後であり、Android アプリのリリースに至っては8ヶ月もかかってしまいました。

Google と Microsoft は、どのプロダクトが実際に AI から恩恵を受けるのか、どのように統合すべきかを考えもせず、パニックに陥って AI をあらゆるものに無理やり組み込む競争を行いました。

両方のグループの企業が、「人々が欲するものを作る」というスローガンを忘れてしまいました。LLM の汎用性により、開発者たちは自分たちが製品市場適合性の必要性から免れていると錯覚し、モデルにタスクを実行させるプロンプトが、慎重に設計された製品や機能の代替になると考えてしまうようになりました。

OpenAI と Anthropic の DIY アプローチは、LLM の初期採用者が不誠実な行為を行う者たちに偏って集中する結果となりました。なぜなら、彼らは新しい技術を自らの目的に適応させる方法を解明することに深く関与している一方、一般ユーザーは使いやすい製品を求めているからです。これが技術に対する公衆の認識を悪化させる一因となっています。

一方、Microsoft と Google の「顔に押し付ける」AI へのアプローチは、時折有用ではあるが、より頻繁には迷惑な機能を生み出しました。また、不十分なテストによる自発的なミスを数多く引き起こし、例えば Microsoft の初期の Sydney チャットボットや Google の Gemini 画像生成器などがその例です。これもまた反発を招いています。

しかし、企業は行動を変えつつあります。OpenAI は、不確かな未来に焦点を当てた研究ラボから、通常の製品会社に似たものへと移行しているようです。OpenAI の取締役会でのドラマにおける人間味のある要素をすべて取り除けば、それは本質的に「神々」を作るという方針から「製品」を構築するという方針への転換に関するものでした。Anthropic は、人工一般知能により関心を持ち、OpenAI で居心地の悪さを感じていた研究者や開発者の多くを引き抜いていますが、Anthropic もまた製品の構築が必要であることを認識しています。

Google と Microsoft は学習が遅いですが、Apple がこれら二社に変化を迫るだろうと私たちは推測します。昨年は AI において後れを取っていると見られていた Apple ですが、振り返ってみれば、開発者向けカンファレンスである WWDC で示した、慎重かつ熟考に満ちたアプローチの方が、ユーザーにより共鳴する可能性が高いことが明確です。Google は検索への統合よりも、今後の Pixel スマートフォンや Android への AI 統合についてより多くの思考を注いでいるようですが、スマートフォンはまだ発売されていないため、様子を見ましょう。

そして Meta があります。そのビジョンは、広告収益型のソーシャルメディアプラットフォーム上で AI を活用してコンテンツとエンゲージメントを生み出すことです。AI 生成コンテンツで溢れる世界における社会的含意は両刃の剣ですが、ビジネスの視点からは理にかなっています。

あなたは当社の書籍についての記事「AI Snake Oil」というニュースレターを読んでいます。新しい投稿を受け取るには購読してください。

消費者向け AI における主要な 5 つの課題

LLM には、開発者が魅力的な AI ベースの消費者向け製品を構築するために取り組む必要がある 5 つの制限があります。3（有用で信頼性の高い AI エージェントを構築するためのオンラインワークショップは 8 月 29 日に開催予定であり、その中でこれらの多くについて議論します。）

1. コスト

機能性が障壁ではなく、コストが障壁となっているケースは数多くあります。単純なチャットアプリケーションでさえも、コストの懸念がボットが追跡できる履歴の量を決めます。会話が進むにつれて、すべての応答に対して完全な履歴を処理しようとすると、すぐに費用が高騰して実行不可能になります。

コストに関する急速な進歩があります。過去 18 ヶ月間で、同等の機能に対するコストは 100 倍以上低下しました。4 その結果、企業たちは LLM がすでに「計測するほど安すぎる」、あるいはまもなくそうなるだろうと主張しています。しかし、API が無料になったときに初めて私たちはそれを信じるでしょう。

より深刻な問題は、多くのアプリケーションにおいてコストの改善が直接精度の向上につながるという点です。これは、LLM のランダム性を考慮すると、タスクを数十回、数千回、あるいは数百万回繰り返し試行することが成功の可能性を高める有効な手段となるためです。つまり、モデルが安価であればあるほど、与えられた予算内でより多くの再試行が可能になります。私たちは最近のエージェントに関する論文でこれを定量化しましたが、その後も多くの他の論文が同様の指摘を行っています。

とはいえ、まもなくほとんどのアプリケーションにおいてコスト最適化が深刻な懸念ではなくなる段階に達する可能性は十分にあります。

1. 信頼性

私たちは、能力と信頼性はある程度直交する概念であると捉えています。AI システムがタスクを 90% の確率で正しく実行できる場合、それはそのタスクを実行する能力はあると言えるものの、それを信頼して行うことはできないと言えます。90% の達成に至るための技術は、100% を達成するためのものとは異なる可能性が高いです。

統計学習に基づくシステムでは、完全な精度を達成することは本質的に困難です。機械学習の成功事例、例えば広告ターゲティングや不正検出、あるいはより最近では天気予報などを考えてみてください。これらにおいて完全な精度が目標となるわけではありません。重要なのは、そのシステムが現在の最先端技術よりも優れているかどうかであり、そうであれば有用であるということです。医療診断やその他のヘルスケアアプリケーションにおいても、私たちは多くの誤りを許容しています。

しかし、開発者が AI を消費者向け製品に組み込む場合、人々はそれがソフトウェアのように動作することを期待します。つまり、決定論的に機能する必要があるのです。もしあなたの AI 旅行エージェントが正しい目的地への休暇予約を 90% の確率でしか行わないのであれば、それは成功しないでしょう。私たちが以前記述した通り、信頼性の限界は最近の AI ベースのガジェットの失敗の一部を説明しています。

AI の開発者たちは、専門家であるために AI を従来のソフトウェアとは根本的に異なるものとして概念化することに慣れているため、この事実に気づくのが遅れていました。例えば、私たち二人は日常業務でチャットボットやエージェントを頻繁に利用していますが、これらのツールの幻覚現象や信頼性の低さに対処して作業を進めることが、ほぼ自動的に行えるようになってしまいました。1 年前には、AI の開発者たちは非専門的なユーザーが AI に適応することを期待または想定していましたが、次第に明確になってきたのは、企業側が AI をユーザーの期待に合わせて適応させ、従来のソフトウェアのように振る舞わせる必要があるという事実です。

信頼性の向上は、私たちのプリンストン大学チームの研究関心事の一つです。現時点では、確率的なコンポーネント（大規模言語モデル：LLM）から決定論的なシステムを構築することが可能かどうかは、根本的に未解決の問いとなっています。一部の企業は信頼性の問題を解決したと主張していますが、例えば法務テックベンダーが「幻覚現象のない」システムを謳った事例などがあります。しかし、これらの主張は時期尚早であることが示されました。

1. プライバシー

歴史的に、機械学習は広告ターゲティングのための閲覧履歴やヘルステクノロジーのための医療記録といった機密性の高いデータソースに依存することが多かったです。この意味において、LLM はやや特異な存在です。なぜなら、それらは主にウェブページや書籍などの公開されたソースでトレーニングされているからです。

しかし、AI アシスタントにおいてはプライバシーへの懸念が再び激しく浮上しています。有用なアシスタントを構築するためには、企業はユーザーのやり取りに基づいてシステムを訓練する必要があります。例えば、メール作成に長けるためには、モデルがメールデータで訓練されていることが非常に有益です。企業のプライバシーポリシーはこの点について曖昧であり、これがどの程度行われているのかは明確ではありません。6 メール、文書、スクリーンショットなどは、チャットでのやり取りよりもはるかに機微な情報を含んでいる可能性があります。

トレーニングではなく推論に関連する、異なる種類のプライバシー懸念が存在します。アシスタントが私たちにとって有用なことを行うためには、彼らは私たちの個人データへのアクセスを必要とします。例えば、マイクロソフト（Microsoft）は、CoPilot AI にユーザーの活動履歴の記憶を持たせるために、数秒ごとにユーザーの PC のスクリーンショットを取得するという物議を醸す機能を発表しました。しかし、これに対する強い反発があり、同社は方針を撤回せざるを得ませんでした。

「データがデバイスから決して離れない」といった純粋に技術的なプライバシー解釈には注意が必要です。マーセド・ウィッター（Meredith Whittaker）は、オンデバイス（on-device）の不正検知が常時監視を正常化し、そのインフラストラクチャがより抑圧的な目的のために転用されうると指摘しています。とはいえ、技術的イノベーションは確かに役立ちます。

1. セーフティとセキュリティ

安全性とセキュリティに関しては、いくつかの関連する懸念事項があります：ジェミニの画像生成におけるバイアスなどの意図しない失敗、音声クローンやディープフェイクといった AI の悪用、ユーザーデータを漏洩させたり他の方法でユーザーに危害を加えたりする可能性のあるプロンプトインジェクションのようなハッキングです。

私たちは偶発的な失敗は修正可能だと考えています。ほとんどの種類の悪用については、悪用できないモデルを作成する方法はないため、防御策は主に下流側に配置されるべきだという見解です。もちろん、全員が同意しているわけではありませんので、企業は避けられない悪用によって常に悪い報道にさらされ続けることになりますが、彼らはこれをビジネスを行うコストとして受け入れているようです。

それでは第三のカテゴリーであるハッキングについて話し合いましょう。私たちが把握する限り、これは企業が最も注意を払っていないように見える分野です。少なくとも理論的には、ユーザーからユーザーへ拡散し、そのユーザーの AI アシスタントをだまして、より多くのワームのコピーを作成するなど有害な行為を行わせるような AI ワームのような壊滅的なハッキングも可能です。

デプロイされた製品においてこれらの脆弱性を発見する概念実証のデモやバグ報奨金プログラムが数多く行われてきましたが、実際の現場でこのような攻撃が行われた例はまだ見ていません。これが AI アシスタントの普及率が低いことによるものなのか、企業が組み立てた不器用な防御策が十分だったからなのか、あるいは別の理由によるものなのかは確信が持てません。時間が経てば明らかになるでしょう。

1. ユーザーインターフェース

多くのアプリケーションにおいて、大規模言語モデル（LLM）の信頼性の低さは、ボットが軌道から外れた場合にユーザーが介入できる何らかの方法が必要であることを意味します。チャットボットでは、回答を再生成するか、複数のバージョンを表示してユーザーに選ばせるという単純な方法で対応可能です。しかし、飛行機の予約のようにエラーのコストが高いアプリケーションでは、適切な監督を保証するのはより難しく、システムはあまりにも多くの中断によってユーザーをイライラさせないよう注意する必要があります。

自然言語インターフェースにおいては、ユーザーがアシスタントに話しかけ、アシスタントが応答するという形式において、この問題はさらに困難になります。ここに生成 AI の潜在能力の多くが存在します。例えば、必要に応じて、特に要求されることなく、あなたのメガネの中に隠れてあなたに語りかける AI——例えば、あなたが外国語の看板を見つめていることを検知して——は、現在の体験とは全く異なるものとなるでしょう。しかし、制約されたユーザーインターフェースでは、誤ったまたは予期しない動作に対する余地は非常に限られています。

結びの言葉

AI の推進派は往々にして、AI の能力向上のペースが急速であるため、社会や経済に大きな影響がすぐに現れるべきだと主張します。私たちは、そうした能力予測に含まれる傾向の単純な外挿や、ずさんな思考に対して懐疑的です。さらに重要なのは、たとえ AI の能力が急速に向上したとしても、開発者は上記で議論された課題を解決しなければならないという点です。これらは純粋に技術的な問題ではなく、社会技術的な課題であるため、進展は緩やかになるでしょう。そして、これらの課題が解決されたとしても、組織は AI を既存の製品やワークフローに統合し、人々がそれを生産的に使いこなせるように訓練するとともに、その落とし穴を回避する必要があります。これは 1 年や 2 年ではなく、10 年以上という時間軸で起こるものだと予想すべきです。

さらに読むべき文献

ベネディクト・エヴァンスは、汎用言語モデルを用いて単機能のソフトウェアを構築することの重要性について論じています。

1 明確に述べておくと、最先端モデルへのアクセスを制限することが誤用の減少につながると考えているわけではありません。しかし、大規模言語モデル（LLM）においては、誤用が正当な利用（これには思考が必要となる）よりも容易であるため、誤用が広範に広がっていることは驚くべきことではありません。

2 AI の普及のペースは相対的なものです。Apple でさえも、自社の製品への AI 統合のアプローチが速すぎると批判されたことがあります。

3 これらはユーザーエクスペリエンスにとって重要な要素に関するものです。環境コストや著作権データを用いたトレーニングなどの問題はここでは脇に置きます。

例えば、API の GPT-3.5 (text-davinci-003) は 100 万トークンあたり 20 ドルかかりますが、より高性能な gpt-4o-mini はわずか 15 セントです。

明確にしておくと、データソースが公開されているからといって、プライバシーに関する懸念がないわけではありません。

例えば、Google は「Google の AI モデルのトレーニングに公開情報を活用しています」と述べていますが、別の場所では、メールなどのプライベートデータをサービス提供、維持・改善、パーソナライズ、新サービスの開発に利用する可能性があると明記しています。これらの開示と整合性のあるアプローチの一つとして、Gemini のようなモデルの前学習には公開データのみを使用し、プライベートデータは、例えばメール自動応答ボットを作成するためにそれらのモデルをファインチューニング（微調整）する際に使用するというものがあります。Anthropic が唯一の例外です。同社は「ユーザーが明示的な許可を与えない限り、生成モデルのトレーニングにユーザー提出データを一切使用しません。これまでに、顧客やユーザーから提出されたデータを使用して生成モデルをトレーニングしたことはありません」と述べています。このプライバシーへのコミットメントは称賛に値しますが、同社が製品構築により積極的に取り組む場合、それが不利になる可能性があると予測しています。