ZeroDrift が AI モデルの自己破損を防ぐため 1000 万ドルを調達
本文の状態
日本語全文を表示中
詳細モードで約3分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
TechCrunch AI
スタートアップ企業の ZeroDrift は、AI モデルが学習データや環境の変化によって性能が低下する現象（ドリフト）から保護するための技術開発に注力し、シリーズ A ラウンドで 1000 万ドルの資金調達を実現した。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
企業が AI システムのトラブルシューティングを行う中で、ガバナンスが主要な課題として浮上しています。一部の企業は二重アプローチを採用しており、一つは incoming queries（入力クエリ）を処理するモデル、もう一つはその最初のモデルが問題に巻き込まれないように監視する別のモデルです。
これが ZeroDrift の前提となる概念です。これは新しい AI コンプライアンスサービスで、火曜日にシードラウンドで 1000 万ドルを調達したと発表しました。このラウンドでは a16z Speedrun、Reign Ventures、PitchDrive Ventures、U&I Ventures などから投資を受けました。同社はシステムの二番目の部分に特化しており、AI モデルとエンドユーザーの間に位置して、コンプライアンス上の問題を引き起こす可能性のあるメッセージを特定し、置き換えます。
他の AI システムのミスを修正するために AI ツールを構築するのは奇妙に思えるかもしれませんが、ZeroDrift によれば、そのシステムには修正対象となるモデルに対していくつかのアーキテクチャ上の利点があります。このシステムは、SOC 2 や GDPR といった既知のコンプライアンス基準を決定論的に適用する従来のプログラムによってトリガーされ、LLM（大規模言語モデル）が関与するのはメッセージがフラグされた後で、同じメッセージのコンプライアンスに適合したバージョンを書き換える際のみです。
「私たちは、どの規制対象領域が存在するか、どのような違反が発生しているかを決定論的に特定でき、その後、書き換えを行う LLM を活用します」と CEO の Kumesh Aroomoogan は述べています。
重要なのは、同社によるとそのシステム全体は、従来の大規模言語モデル（LLM）よりも低遅延かつ高信頼性で実行可能であるという点です。これが、ZeroDrift が OpenAI や Anthropic といった大手ラボに対する主な優位性として謳っている理由であり、これらの企業はすでに基盤となるシステムに存在しているケースがほとんどです。
最も明白なユースケースは AI チャットボットです。これらはすでに消費者向けに展開されており、誤った回答が出た場合の深刻な結果を考慮する必要があります。しかし、Aroomoogan 氏はさらに大きな総獲得可能市場（TAM）を見込んでおり、そこには人間が決して目にしない自動化システム内で生成される AI 生成メッセージも含まれる可能性があります。現時点では比較的小さな市場ですが、AI が普及するにつれて成長していく分野です。
今回の資金調達が示す通り、こうした製品に対する潜在的な需要は非常に大きいです。「おそらく私が人生で経験した中で最も迅速な資金調達でした」と Aroomoogan 氏は語り、シードラウンドの構造化を支援してくれた Andressen Horowitz に感謝しています。「3 週間でクローズし、募集額は目標額の 3 倍を超えてオーバーサブスクライブされる見込みです」。
*当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを獲得する可能性があります。これは当社の編集の独立性には影響しません。*
ラッセル・ブランドは 2012 年以来、プラットフォーム政策と新興技術に焦点を当てながらテクノロジー業界の取材を続けています。以前は The Verge や Rest of World で勤務し、Wired、The Awl、MIT の Technology Review にも寄稿しています。
彼への連絡先は russell.brandom@techcrunch.com または Signal（412-401-5489）です。
原文を表示
As enterprises troubleshoot their AI systems, governance has emerged as a key challenge. Some are taking a dual approach: One model to handle incoming queries, and another to keep the first one from getting into trouble.
That’s the premise of ZeroDrift, a new AI compliance service that on Tuesday said it had raised $10 million in a seed funding round that saw investments from a16z Speedrun, Reign Ventures, PitchDrive Ventures, and U&I Ventures, among others. The company deals entirely with the second part of the system, sitting between AI models and end users to flag and replace any messages that might present a compliance problem.
It might seem strange to build an AI tool to correct other AI systems’ mistakes, but ZeroDrift says its system has a few architectural advantages over the models it will be correcting. The system is triggered by conventional programs that deterministically apply known compliance standards like SOC 2 or GDPR, and the LLM only comes into play once a message has been flagged, rewriting a compliant version of the same message.
“We’re able to identify, deterministically, what are all the regulated areas, what’s the violation that’s being broken, and then we have LLMs that can do the rewrites,” CEO Kumesh Aroomoogan says.
Critically, the company says its entire system can be run with lower latency and more reliability than a conventional LLM. This is what ZeroDrift touts as its primary advantage over big labs like OpenAI and Anthropic, which are often already present in the underlying system.
The most obvious use case is for AI chatbots, which are already deployed in front of consumers where there can be serious consequences for rogue answers. But Aroomoogan sees a much larger total addressable market, potentially spanning AI-generated messages that are generated only within automated systems that humans will never see. So far, it’s a relatively small market, but it’s one that will grow as AI proliferates.
If the fundraise is any indication, there’s a lot of pent-up demand for such products. “It was probably the fastest fundraising I’ve done in my life,” Aroomoogan says, crediting Andressen Horowitz for helping structure the seed round. “We closed within three weeks, and we will be oversubscribed by 3x on the amount.”
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
Russell Brandom has been covering the tech industry since 2012, with a focus on platform policy and emerging technologies. He previously worked at The Verge and Rest of World, and has written for Wired, The Awl and MIT’s Technology Review.
He can be reached at russell.brandom@techcrunch.com or on Signal at 412-401-5489.
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み