シミュレーションが新たなスケーリング・ローに:Joon Sung Park(Simile AI)
Simulation: the new Scaling Law — Joon Sung Park, Simile AI
まず要点
Simile AI の Joon Sung Park は、LLM が人間の行動を正確にモデル化するにはプロンプトだけでなく、因果関係や長期の行動データに基づく事後学習が不可欠であり、これが新たなスケーリング・ローになると主張する。
Stanford大学で博士号を取得したJoon Sung Park氏は、2023年に注目を集めた研究論文「Generative Agents」の著者であり、現在はSimile AIの創設者として活動しています。同氏とチームは、「タイムマシンゲーム」という思考実験を通じて、10年後の世界を振り返った際に最も重要な応用となるのは世界そのものの再現であると結論付けました。
世界再現への挑戦とパーソナルエージェントの課題
Simile AIが「世界を再現するシミュレーション」に注力した背景には、パーソナルエージェントの実現における根本的な課題への洞察があります。Joon氏は、現在のAIがユーザーのために夕食の注文をする際、「パイナップルが入ったピザ」を頼んでしまうようなミスを犯すのは、ユーザーという人間に対する深い理解がないためだと指摘します。
「真に素晴らしいパーソナルアシスタントを作るためには、まずユーザーの正確なモデルが必要である」というのが同氏の確信です。家族や親しい友人が互いのことを深く理解しているように、AIもまた人間の深層心理や社会的なつながりを理解する必要があるのです。そのため、Simile AIでは複雑なエージェントを構築する前に、まずは人間を正確に表現・再現するシミュレーション技術を追求するという戦略をとりました。
行動モデル構築の3つのデータバケット
現在のLLMはウェブ上の自己申告データやソーシャルメディアの投稿などに依存しており、「人々が実際に何をしているか」という深層の行動特性や、社会を動かす物理法則(社会的物理)を十分に学習できていないとJoon氏は分析します。このギャップを埋めるためには、単なるプロンプトエンジニアリングを超え、モデル自体に人間の行動特性を学習させる「事後学習」が不可欠です。
そのためにSimile AIが重視しているのは、3つの異なるデータバケットの組み合わせです。1つ目は参加者に人生の物語を語ってもらうことで得られる、質の高い定性的なデータであるインタビューデータで、これは単なる行動統計ではなく個人の動機や背景を理解する基盤となります。2つ目は人々の実際の行動パターンを示す統計データである観察データで、ウェブ上の自己申告とは異なる現実世界での振る舞いを捉えます。3つ目は因果メカニズムを明らかにするための実験データであるRCT(ランダム化比較試験)データで、特定の介入が結果にどう影響するかを科学的に証明する高品質なデータです。
プロンプトの限界と事後学習による社会的物理法則の理解
現在のAI開発において、プロンプトエンジニアリングだけで解決できない領域が存在します。Joon氏は、モデルが「その世界で動作するための基礎的な物理法則」を学ぶ必要がある場合、パラメータ自体への介入(トレーニングや事後学習)が必要だと説きます。
例えば、「車洗場まで5分歩くか、10分運転するか」という単純な判断において、人間は効率性だけでなく「思考の時間を持つためあえて歩く」といった非効率的だが人間的な理由で行動することがあります。現在のモデルはこの「人間の特性」や「社会的物理法則」を完全に理解していないため、プロンプトだけでこうした深層の意思決定を再現するのは困難です。
この課題に対し、Simile AIはOpen Science Frameworkなどのプラットフォームから得られる高品質なRCTデータを収集し、それらを用いてモデルを事後学習させるアプローチを取っています。これにより、モデルは単なる統計的な予測ではなく、因果関係に基づいた人間行動の理解を深めることが可能になります。
シミュレーションが持つ社会的価値と未来への介入
シミュレーション技術の目的は、未来を単に予測することだけではありません。特定の行動がどのような結果をもたらすかを把握し、未来を形作るための意思決定支援を行うことにあります。
例えば、ユニバーサル・ベーシックインカム(UBI)のような大規模な社会実験において、現実世界で数千万ドルを投じて数年間かけて行う研究も、シミュレーションであれば瞬時かつ反復的に実行可能です。Joon氏は、科学技術の発展が人類の理解を深めるのと同様に、高度なシミュレーションは「人間社会や集合的な生活」に対する理解を深めるための重要な演習であると位置づけています。
データ戦略と学習アプローチの転換点
Joon Sung氏によるSimile AIの議論は、AIエージェント開発におけるパラダイムシフトを示唆しています。単なるプロンプト設計やウェブデータの収集に依存する現状から、因果関係が明確な高品質な行動データを収集し、モデル自体に人間の社会的・心理的特性を学習させる「事後学習」へと重心が移りつつあります。
企業や研究者にとって、この議論はデータ戦略の再構築を迫るものです。真のパフォーマンスを発揮するAIエージェントを実現するためには、ユーザーの深層心理や行動の因果関係を捉えた「行動基盤モデル(Behavior Foundation Model)」の構築が不可欠であり、それが次世代AIの鍵となるでしょう。
現在のLLMはウェブ上の自己申告データに依存しており、現実の深層行動や社会的物理法則を学習していないため、事後学習が必要です。シミュレーションの目的は単なる未来予測ではなく、特定の行動が結果にどう影響するかを把握し、未来を形作るための意思決定支援にあります。
注目した発言
「もし素晴らしいパーソナルアシスタントを作りたいなら、まずそのユーザーの驚くべきモデルが必要である。」
「現在のモデルはウェブ上の自己申告データで訓練されており、人間が実際に何をするかという深層行動をまだ学習していない。」
「シミュレーションの価値は未来を予言することではなく、どうすればその未来を回避できるかを理解させることにある。」