Poolside AIのモデル開発現場をEiso Kantが語る

Poolside AI の創業者 Eiso Kant 氏は、AI エコシステムの独占化を防ぐため、同社がオープンソースモデルの公開と研究の透明性を推進する方針を明らかにしました。また、限られた計算資源の中で高性能な「Laguna S」を開発した事例を紹介し、明確な目標と境界線の下で個人の裁量を最大化する組織運営の重要性を説いています。

少数の独占を防ぐ「オープンソース」への回帰

Eiso Kant 氏は自身のキャリアにおいて AI の民主化に深く関わってきた背景を語りました。2015 年に Andrej Karpathy 氏の論文に触発されコード生成や言語モデルの研究に没頭しましたが、当時の技術的限界から失敗を経験しています。ChatGPT の登場でそのビジョンが正当化されたものの、Poolside AI を設立当初は「オープンソース」を優先せず、リインフォースメント・ラーニング（RL）の進展や技術能力の向上に集中していました。

しかし 2024 年初頭になり、世界が数社による独占へと向かっている現状に対し、「ディストピア小説」のような未来を危惧するようになりました。Eiso 氏はこう述べています。「私は、自分がその 5 社の内の一人であっても、100 の基盤モデル企業がある世界で生きることを望みます。」この信念に基づき同社は研究と重み（weights）の公開を決定しました。ビジネスモデルや政府の対応など未解決の課題は残るものの、多様な選択肢が存在する世界を実現するためにオープンソース化が不可欠であると結論付けたのです。

リソース制約がもたらした「Laguna S」の技術的突破

Poolside AI は大規模な計算資源や外部データへの依存を避け、自社のトレーニングコードをゼロから構築することで独自の強みを築きました。その成果として発表されたのが、1180 億パラメータ（アクティブ 80 億）のスパースモデル「Laguna S」です。同社はわずか 8 週間でこのモデルを開発・リリースしました。

Eiso 氏は、このサイズのパラメータ数であっても同等規模以上のモデルを凌駕する性能とコスト効率を実現できたと強調します。特に DGX Spark などの小規模な環境でも動作可能なサイズでありながら、ベンチマークにおいてより大きなモデルを上回る結果を出している点はリソース制約下でのイノベーションの証左となっています。「このモデルは、このサイズのパラメータ数で何が可能かを示すものになるはずです。私たちは、2 倍から 3 倍のサイズのモデルよりも優れた性能を発揮しています。」また FP8 などの低精度トレーニングや多様なハーン（harness）での「ポリッシング」を通じて、外部環境でも安定して動作するモデル作りにも注力しました。

明確な境界線が育む「高エージェンシー」な組織文化

AI エンジニアリング組織において Eiso Kant 氏は管理コストを減らし個人の裁量を高める「高エージェンシー（High Agency）」な文化の重要性を説きます。同社は現在エンジニアと研究者を合わせて 115 名未満のチームでこの成果を達成しており、一人ひとりの影響力が極めて大きい環境です。

Eiso 氏によれば高エージェンシーな人材を集めるには単に「何でもやっていい」とするのではなく、「共通の目標」と「明確な境界線」を設定することが鍵となります。例えば「マルチモーダルは行わない」「RL に集中する」といった制約を事前に示すことで、メンバーはその範囲内で最大限の裁量権を持って行動できるといいます。「イノベーションは制約から生まれます。私たちは比較的少ない計算資源と資金で、他の軸での改善を迫られました。」このアプローチにより組織が「探索アルゴリズム」のように散漫になるのを防ぎつつ、個人の能力を最大限に引き出すことに成功しています。

採用におけるインパクトの最大化

Eiso Kant 氏は採用活動においても「インパクト」を最優先する姿勢を強調しました。大規模企業で多くの一人になるのではなく小規模チームの中で大きな影響力を持ちながらミッションに共感できる人材を求めています。技術的突破と組織文化の革新を両輪として推進する Poolside AI の動きは、AI エコシステムの多様性を支える重要な一歩となっています。