How Okara runs CMO agents for 120,000 companies on Vercel｜Vercel上で12万社分のCMOエージェントを運用するOkaraの仕組み | AIニュース最前線

Okara on Vercel Vercel のマルチプロバイダー AI スタック上で、1 日あたり 40 億トークンを処理 12 万社以上のビジネスの成長を積極的に管理する AI CMO（チーフマーケティングオフィサー） SEO、GEO、ソーシャルメディア、コンテンツ、Reddit、Hacker News を担当する 8 つのサブエージェント 新 AI モデルは、リリースされたその日にユーザーが利用可能に Okara は、創業者が手をかけなくてもマーケティングを推進するために、専門的なサブエージェントチームを指揮する AI CMO です。Okara にウェブサイトの URL を渡すだけで、AI CMO がマーケティング戦略を構築し、ブランドボイスを開発し、SEO、コンテンツ、ソーシャルメディアの各エージェントを起動して、マーケティング担当者を一人も雇わずに認知度とパイプラインを拡大します。 Okara の創業者である Fatima Rizwan はこう述べています。「週末に何かを構築することはできても、誰にも気づいてもらうために数ヶ月を費やすことになります。」彼女は、流通（ディストリビューション）が AI 以前の時代に取り残されていると主張します。それはサブスクリプションや代理店に断片化されており、1 ドルも戻ってくる前に月額 15,000 ドル以上のコストがかかるのです。 Okara は 4 人のチームによって構築され、1 日あたり 40 億トークンを処理しています。この会社は、スタートアップに対する新しいモデルで運営されています：少数のチームが、数千社もの他社の成長を担うプラットフォームを構築するのです。Fatima はすぐに、4 人で数十万社にサービスを提供するには、インフラストラクチャが見え隠れしないことが必要だと学びました。そこに時間を費やすことは、構築に費やす時間が減ることを意味します。 AI Gateway を使用して、複数のプロバイダーを 1 つの API キーで統合する 個別のプロバイダー SDK を管理することによる摩擦 Okara のバックエンドは、もともと 8 つのモデルプロバイダーと個別の SDK を通じて通信しており、それぞれに独自のキー管理、画像処理、エッジケースへの対応が必要でした。オープンソースモデルへの展開が進むにつれ、このアプローチは完全に機能しなくなりました。新しいモデルが追加されるたびに、エンジニアは製品の開発を中断してアダプターを作成する必要が生じました。リトライロジック、フォールバックルーティング、プロバイダーのヘルスモニタリングなどはすべて Okara のコードベース内にあり、手動で維持されていました。 通常の AI インフラストラクチャであれば、Okara はこうした摩擦を抱えたまま運用を続ける必要があったでしょう。だからこそ、Vercel AI Gateway への移行を決断したのです。 1 つのエンドポイントで、すべてのプロバイダーに対応 AI Gateway は、すべてのカスタム統合を単一の設定に置き換えました。リトライロジックとフォールバック処理は Okara のコードベースから完全に外され、Vercel のルーティング層に移管されました。これには、Okara がプライバシーに敏感なセキュアチャットで必要とするゼロデータ保持サポートも含まれています。 新しいモデルがリリースされた日、Okara のチームは Gateway を通じて即座にユーザーに提供できます。アダプターの作成も不要、エッジケースのテストも不要、デプロイサイクルも不要です。 Vercel Sandboxes でのエージェントワークフローの実行 Okara の SEO エージェントは問題のスキャンと、それを修正するコードの作成が可能です。ユーザーのサイトで技術的な課題が見つかった場合、エージェントは Vercel Sandbox を起動し、隔離された環境で分析を実行します。その結果はコーディングエージェントに渡され、開発者がレビューしてマージできるよう、修正を含むプルリクエストが作成されます。検出、分析、コード変更：この一連のループはすべて自動化されており、公開前に最終判断を下すのは人間です。 Okara は Vercel Sandbox のローンチ当日からその利用を開始しました。Rizwan が X で発表を確認し、チームはすぐに構築に取り掛かりました。 今後の展望 現在、120,000 件のウェブサイトが Okara の AI CMO を活用しています。チームは一日に六回から七回プロダクションへリリースを行っており、すべての改善点はリリースされたその日に顧客のもとへ届きます。Okara を利用する一人の創業者でも、人員数や月額 15,000 ドルのエージェンシー費用をかけずに、十倍以上の規模を持つチームと同じような拡散力を得ることができます。 Okara はエージェントスイートの拡大と、より大規模なチームを対象とした上流市場への進出を進めています。製品が成長するにつれて、インフラストラクチャの需要も増大します。ユーザー数、エージェント数、トークン数の増加です。120,000 社の企業の成長を四人で支える場合、インフラストラクチャが気晴らしになるような余裕は許されません。Vercel を用いることで、そのような心配はありません。 Okara について：Okara は、創業者や小規模チームの SEO、コンテンツ、ソーシャルメディアを担うために、専門的なサブエージェントからなるチームを指揮する AI CMO です。ウェブサイトへの接続を行い、ブランドボイスを開発し、マーケティング担当者を雇わずに 8 つのチャネルにわたる配信を管理します。 もっと読む

Vercel上で12万社分のCMOエージェントを運用するOkaraの仕組み

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト