Patronus AI が 5000 万ドルを調達し、AI エージェントの耐性をテストする「デジタル世界」構築へ
本文の状態
日本語全文を表示中
詳細モードで約7分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
TechCrunch AI
Patronus AI は 5000 万ドルの資金調達に成功し、AI エージェントの安全性や信頼性を評価するための仮想環境（デジタル世界）の開発を開始します。
Continue in AI NEW LAB
このニュースを、実務の判断につなげる
AI NEW LABで、試したことや先に確認したい条件を共有できます。まずはログインなしで読めます。
AI NEW LABで論点を見るSource Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
AI エージェントはより洗練されつつあります。彼らは単に質問に応えることから、自律的に多段階の複雑なタスクを実行する存在へと進化しています。
しかし、これらのエージェントがユーザーに代わって旅行の手配や財務分析を行うことを信頼できるようになる前に、モデルプロバイダーおよびそのようなエージェントを構築するスタートアップは、広範なシナリオにおいて確実に機能することを確保したいと考えています。
AI ラボではしばしばベンチマークを用いて自社のモデルの能力を見せびらかしますが、高いスコア—even エージェント指向のベンチマークであっても—は、実際には AI がさまざまな複雑で現実的なタスクを正しく遂行できることを証明するものではありません。
2023 年に元 Meta AI の研究者である Anand Kannappan と Rebecca Qian によって設立されたスタートアップ「Patronus AI」(https://www.patronus.ai/) は、エージェントのパフォーマンスを評価するためのシミュレーションされたデジタル環境を構築することで、モデルメーカーや企業がそのようにモデルを微調整するのを支援しています。
サンフランシスコに拠点を置くこのスタートアップは重要な課題に取り組んでいるはずです。Notable Capital のマネージングディレクターである Glenn Solomon によると、同社のシミュレーション環境に対する需要はほぼ尽きることがないほどであり、事実上すべてのフロンティア AI ラボおよび多くの新興スタートアップが顧客となっています。
Patronus の収益は過去1年間で15倍に成長し、大きな投資家の関心を集めています。木曜日同社は Greenfield Partners が主導し、Notable Capital、Lightspeed、Datadog、Samsung が参加する 5,000万ドルのシリーズ B ラウンドを発表しました。これにより、同社の総調達額は7,000万ドルとなりました。
Patronus は「デジタル・ワールド・モデル」と呼ぶ技術を用いて、ウェブサイトの複製や内部システムの模倣を作成します。これらの環境では、強化学習（reinforcement learning）を用いたトレーニング後にエージェントがストレステストにかけられ、タスクの成功には反復的に報酬を与え、エラーに対してはペナルティを科す仕組みとなっています。
AI ラボはこのデジタル・シミュレーションに大きな価値を見出しています。なぜなら、これによりエージェントは異なる、時には予測不能なシナリオを試す機会を得るからです。同社は自社のアプローチを、Waymo が自動運転車を訓練する際に行っていた手法と比較します。Waymo はまず合成世界（synthetic worlds）を構築し、悪天候やボールを追いかける子供といった稀な危険に対して車両をテストしました。
AI エージェントにおける違いは、彼らが近道を取ろうとする傾向がある点です。つまり、タスクを正しく完了できないということです。「Patronus はハックを見抜くのが非常に得意で、モデルの責任所在を明確にしています」と Solomon 氏は述べています。
Patronus は現在、ソフトウェアエンジニアリングと金融分野向けにシミュレーションされたデジタル・ワールドを提供していますが、これは始まりに過ぎないと Kannappan 氏は語っています。
「今日、私たちが特に注力しているのは、検証可能な問題です。つまり、すぐに確認・検証できる問題ですが、非常に非検証的であったり、検証が極めて困難な領域は他にも無数にあります」と彼は述べました。
これらのプロセスが検証可能であるからといって、単純であるとは限りません。「10 時間、10 日、あるいは 10 週間にもわたって稼働するエージェントを運用できる環境を実際に構築できるようになることを望んでいます」と Kannappan は語りました。
競合他社については、Patronus は主に AI ラボがすでに構築しているエージェントの行動を評価するための内部チームと競合していると信じています。Mercor や Surge といった人間データ企業は強化学習においてモデル作成者を支援しますが、Patronus は人間の関与なしにエージェントがどのように振る舞うかを評価するという点で異なるアプローチをとっています。
*当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを獲得する可能性があります。これは私たちの編集の独立性には影響しません。*
Marina Temkin は TechCrunch のベンチャーキャピタルおよびスタートアップ担当記者です。TechCrunch 入社以前は、PitchBook や Venture Capital Journal で VC（ベンチャーキャピタル）について執筆していました。キャリア初期には金融アナリストとして働き、CFA チャーターホルダーの資格を取得しました。
Marina への連絡や、彼女からのアウトリーチの検証については、marina.temkin@techcrunch.com までメールを送るか、Signal で +1 347-683-3909 経由で暗号化メッセージを送信してください。
Patronus AI は、AI エージェントのストレステストを行う「デジタルワールド」を構築するために 5000 万ドル（約 75 億円）の資金調達を果たしました。このラウンドはシードラウンドで、Lead Venture Partners がリードし、他の主要な投資家も参加しています。
Patronus AI の創設者兼 CEO、Marina Temkin は、現在の AI エージェントが複雑な環境や予期せぬ状況に直面した際にどのように振る舞うかを評価する手段が不足していると指摘します。同社は、現実世界を模倣した仮想空間で AI をテストし、その信頼性や安全性を検証するプラットフォームを提供することを目的としています。
この「デジタルワールド」は、多様なシナリオやエッジケースを含む動的な環境を生成できます。これにより、開発者は AI エージェントが予期しないトラブルに直面した際の対応能力を事前に確認することが可能になります。同社の技術は、自然言語処理（NLP）と強化学習（RL）を組み合わせた独自のアルゴリズムに基づいています。
Patronus AI は、金融、ヘルスケア、自動運転車など、高リスクな分野で AI エージェントの導入が進む中で、その安全性を確保する必要性が高まっていることを背景に設立されました。同社は、投資家からの資金を活用して、より高度なシミュレーション環境の開発と、業界標準のテストフレームワークの確立を目指しています。
Marina Temkin は、「AI の進化に伴い、その信頼性を検証する方法が不可欠になっています」と述べています。「Patronus AI は、AI エージェントが現実世界で安全かつ効果的に機能することを保証する重要な役割を果たすでしょう」。
今回の資金調達は、Patronus AI が今後 18 ヶ月以内に、主要な企業向けにテストプラットフォームを本格展開するための基盤となります。同社は、世界中の大手テック企業やスタートアップとの提携も進めており、AI エージェントの安全性向上に向けた業界全体の取り組みを強化していく方針です。
Patronus AI の技術は、従来の静的なテスト手法とは異なり、動的で適応的なシナリオを通じて AI の限界を探ります。これにより、開発者はより現実的な条件下での AI のパフォーマンスを評価し、潜在的なリスクを早期に発見することが可能になります。
同社は、今後の展開において、AI エージェントの倫理的側面やバイアス検出機能にも注力する予定です。これにより、AI が公平かつ透明性のある形で運用されるよう支援します。
Patronus AI の成功は、AI 業界における安全性と信頼性の重要性を再認識させるものとなるでしょう。同社の取り組みが、次世代の AI エージェント開発に大きな影響を与えることが期待されています。
原文を表示
AI agents are becoming more sophisticated. They are evolving from answering questions to autonomously executing multi-step complex tasks.
But before these agents can be trusted to book trips or conduct financial analysis on behalf of users, model providers and the startups building such agents want to ensure that they perform reliably across a vast range of scenarios.
AI labs often use benchmarks to show off their model’s prowess, but a high score, even on an agent-oriented benchmark, doesn’t actually prove that an AI can accomplish various complex, real-world jobs correctly.
Patronus AI, a startup founded in 2023 by former Meta AI researchers Anand Kannappan and Rebecca Qian, is helping model makers and companies fine-tune models to do just that by building simulated digital environments in which to evaluate the agents’ performance.
The San Francisco-based startup must be solving an important problem. Virtually every frontier AI lab and many emerging startups are now customers, according to Glenn Solomon, a managing director at Notable Capital, who describes demand for the company’s simulated environments as nearly insatiable.
Patronus’ revenue has grown 15-fold over the past year, fueling significant investor interest. On Thursday, the company announced a $50 million Series B round led by Greenfield Partners, with participation from Notable Capital, Lightspeed, Datadog, and Samsung. The round brings the company’s total funding to $70 million.
Patronus uses what it calls “digital world models” to create replicas of websites and internal systems. In these environments, agents are stress-tested after training using reinforcement learning, which iteratively rewards successful task completion and penalizes errors.
AI labs see great value in these digital simulations because they give agents a chance to try different, sometimes unpredictable, scenarios. The company compares its approach to how Waymo trained autonomous cars by first building synthetic worlds to test vehicles against rare hazards, such as severe weather or a child running after a ball.
The difference with AI agents is that they tend to take shortcuts, which means they fail to complete the task correctly. “Patronus is really good at spotting the hacks and making sure they are holding the models accountable,” Solomon said.
Patronus is currently providing its simulated digital worlds for software engineering and finance, but these are just the start, according to Kannappan.
“Today we’re very focused on the problems that are verifiable, so the problems that you can immediately check and verify, but there are a ton more areas that are very non-verifiable or very hard to verify,” he said.
Just because these processes are verifiable doesn’t mean they are simple. “We want to be able to actually create the environment in which you can operate an agent that can run for 10 hours or 10 days or 10 weeks,” Kannappan said.
As for rivals, Patronus believes it is primarily competing against the internal teams AI labs have already built to evaluate agent behavior. While human-data firms like Mercor and Surge help model makers with reinforcement learning, Patronus operates differently by evaluating how agents behave without any human involvement.
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
Marina Temkin is a venture capital and startups reporter at TechCrunch. Prior to joining TechCrunch, she wrote about VC for PitchBook and Venture Capital Journal. Earlier in her career, Marina was a financial analyst and earned a CFA charterholder designation.
You can contact or verify outreach from Marina by emailing marina.temkin@techcrunch.com or via encrypted message at +1 347-683-3909 on Signal.
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み