Vercel上で12万社分のCMOエージェントを運用するOkaraの仕組み
Okara は Vercel の AI Gateway と Sandboxes を活用し、少人数チームで 12 万社以上の企業向けに自律型 CMO エージェントを運用するインフラモデルの成功事例を示した。
キーポイント
Vercel AI Gateway による統合アーキテクチャ転換
複数のプロバイダー SDK を手動で管理していた従来の方式から、単一エンドポイントと自動リトライ・フォールバック機能を持つ Vercel AI Gateway へ移行し、開発効率を劇的に向上させた。
自律型サブエージェントによる完全自動化マーケティング
SEO、GEO、SNS、コンテンツ作成などを担当する 8 つの専門サブエージェントが連携し、マーケターを雇わずに成長戦略を実行・管理する仕組みを実現している。
Vercel Sandboxes を活用したコード修正ループ
SEO エージェントが問題を検知すると、隔離環境である Vercel Sandbox で分析し、コーディングエージェントがプルリクエストを生成するまでを自動で完結させる技術を採用している。
少人数チームによる大規模スケールの実現
4 人のチームで日次 40 億トークンを処理し、12 万社以上の顧客にサービスを提供しており、インフラの可視化を排除した「見えないインフラ」戦略が成功要因となっている。
高速なデプロイと即座の価値提供
チームは1日に6〜7回本番環境へリリースしており、改善点は即日顧客に届く。
インフラ負担の排除による成長加速
4人のチームで12万社を扱う規模でもVercelによりインフラ管理が気にならず、成長に集中できる。
影響分析・編集コメントを表示
影響分析
この記事は、AI エージェントが単なる情報提供から実際の業務実行(コード修正やデプロイ準備)までを自律的に行う「Agentic Workflow」の実用化段階にあることを示しています。また、Vercel のようなプラットフォームが提供する抽象化レイヤー(Gateway, Sandboxes)が、複雑なマルチプロバイダー環境やセキュリティ要件を解決し、少人数チームでも大規模 AI サービスを運営可能にする決定打となっている点に大きな意義があります。
編集コメント
少人数チームで大規模な AI エージェントシステムを運用する具体的なアーキテクチャと、プラットフォーム依存による開発負荷の低減事例として非常に参考になります。特に「インフラ管理から解放される」ことでコアビジネスに集中できる点は、今後の AI スタートアップにとって重要な示唆を含んでいます。
Okara on Vercel
Vercel のマルチプロバイダー AI スタック上で、1 日あたり 40 億トークンを処理
12 万社以上のビジネスの成長を積極的に管理する AI CMO(チーフマーケティングオフィサー)
SEO、GEO、ソーシャルメディア、コンテンツ、Reddit、Hacker News を担当する 8 つのサブエージェント
新 AI モデルは、リリースされたその日にユーザーが利用可能に
Okara は、創業者が手をかけなくてもマーケティングを推進するために、専門的なサブエージェントチームを指揮する AI CMO です。Okara にウェブサイトの URL を渡すだけで、AI CMO がマーケティング戦略を構築し、ブランドボイスを開発し、SEO、コンテンツ、ソーシャルメディアの各エージェントを起動して、マーケティング担当者を一人も雇わずに認知度とパイプラインを拡大します。
Okara の創業者である Fatima Rizwan はこう述べています。「週末に何かを構築することはできても、誰にも気づいてもらうために数ヶ月を費やすことになります。」彼女は、流通(ディストリビューション)が AI 以前の時代に取り残されていると主張します。それはサブスクリプションや代理店に断片化されており、1 ドルも戻ってくる前に月額 15,000 ドル以上のコストがかかるのです。
Okara は 4 人のチームによって構築され、1 日あたり 40 億トークンを処理しています。この会社は、スタートアップに対する新しいモデルで運営されています:少数のチームが、数千社もの他社の成長を担うプラットフォームを構築するのです。Fatima はすぐに、4 人で数十万社にサービスを提供するには、インフラストラクチャが見え隠れしないことが必要だと学びました。そこに時間を費やすことは、構築に費やす時間が減ることを意味します。
AI Gateway を使用して、複数のプロバイダーを 1 つの API キーで統合する
個別のプロバイダー SDK を管理することによる摩擦
Okara のバックエンドは、もともと 8 つのモデルプロバイダーと個別の SDK を通じて通信しており、それぞれに独自のキー管理、画像処理、エッジケースへの対応が必要でした。オープンソースモデルへの展開が進むにつれ、このアプローチは完全に機能しなくなりました。新しいモデルが追加されるたびに、エンジニアは製品の開発を中断してアダプターを作成する必要が生じました。リトライロジック、フォールバックルーティング、プロバイダーのヘルスモニタリングなどはすべて Okara のコードベース内にあり、手動で維持されていました。
通常の AI インフラストラクチャであれば、Okara はこうした摩擦を抱えたまま運用を続ける必要があったでしょう。だからこそ、Vercel AI Gateway への移行を決断したのです。
1 つのエンドポイントで、すべてのプロバイダーに対応
AI Gateway は、すべてのカスタム統合を単一の設定に置き換えました。リトライロジックとフォールバック処理は Okara のコードベースから完全に外され、Vercel のルーティング層に移管されました。これには、Okara がプライバシーに敏感なセキュアチャットで必要とするゼロデータ保持サポートも含まれています。
新しいモデルがリリースされた日、Okara のチームは Gateway を通じて即座にユーザーに提供できます。アダプターの作成も不要、エッジケースのテストも不要、デプロイサイクルも不要です。
Vercel Sandboxes でのエージェントワークフローの実行
Okara の SEO エージェントは問題のスキャンと、それを修正するコードの作成が可能です。ユーザーのサイトで技術的な課題が見つかった場合、エージェントは Vercel Sandbox を起動し、隔離された環境で分析を実行します。その結果はコーディングエージェントに渡され、開発者がレビューしてマージできるよう、修正を含むプルリクエストが作成されます。検出、分析、コード変更:この一連のループはすべて自動化されており、公開前に最終判断を下すのは人間です。
Okara は Vercel Sandbox のローンチ当日からその利用を開始しました。Rizwan が X で発表を確認し、チームはすぐに構築に取り掛かりました。
今後の展望
現在、120,000 件のウェブサイトが Okara の AI CMO を活用しています。チームは一日に六回から七回プロダクションへリリースを行っており、すべての改善点はリリースされたその日に顧客のもとへ届きます。Okara を利用する一人の創業者でも、人員数や月額 15,000 ドルのエージェンシー費用をかけずに、十倍以上の規模を持つチームと同じような拡散力を得ることができます。
Okara はエージェントスイートの拡大と、より大規模なチームを対象とした上流市場への進出を進めています。製品が成長するにつれて、インフラストラクチャの需要も増大します。ユーザー数、エージェント数、トークン数の増加です。120,000 社の企業の成長を四人で支える場合、インフラストラクチャが気晴らしになるような余裕は許されません。Vercel を用いることで、そのような心配はありません。
Okara について:Okara は、創業者や小規模チームの SEO、コンテンツ、ソーシャルメディアを担うために、専門的なサブエージェントからなるチームを指揮する AI CMO です。ウェブサイトへの接続を行い、ブランドボイスを開発し、マーケティング担当者を雇わずに 8 つのチャネルにわたる配信を管理します。
もっと読む
原文を表示
Okara on Vercel
4 billion tokens processed daily across a multi-provider AI stack on Vercel
AI CMOs actively managing growth for 120,000+ businesses
Eight sub-agents handling SEO, GEO, social, content, Reddit, and Hacker News
New AI models available to users the same day they ship
Okara is an AI CMO that directs a team of specialized sub-agents to drive marketing, so founders don't have to. Give Okara your website URL, and the AI CMO builds a marketing strategy, develops a brand voice, and activates agents across SEO, content, and social media to drive awareness and pipeline without a single marketing hire.
As Fatima Rizwan, Okara's founder, puts it: "You can build something in a weekend and spend months trying to get anyone to notice." Distribution, she argues, is stuck in the pre-AI era: fragmented across subscriptions and agencies that cost over $15,000 a month before a single dollar comes back.
Okara is built by a team of four and processes 4 billion tokens a day. The company operates on the new model for startups: a small team building a platform that handles growth for thousands of other companies. Fatima quickly learned that serving hundreds of thousands of companies with four people meant infrastructure had to be invisible. Any time spent on it was time not spent building.
Using AI Gateway to integrate multiple providers with one API key
The friction of managing individual provider SDKs
Okara's backend originally talked to eight model providers through separate SDKs, each with its own key management, image handling, and edge cases. When they expanded to open-source models, the approach broke down completely. Every new model meant an engineer stopped shipping product and wrote an adapter instead. Retry logic, fallback routing, and provider health monitoring all lived in Okara's codebase, maintained by hand.
Most AI infrastructure would have required Okara to keep living with that friction. That's why they moved to Vercel AI Gateway.
One endpoint, every provider
AI Gateway replaced every custom integration with a single configuration. Retry logic and fallback handling moved out of Okara's codebase and into Vercel's routing layer entirely, including zero-data retention support for Okara's privacy-sensitive secure chat.
The day a new model ships, Okara's team can make it available to users immediately through Gateway. No adapter, no edge case testing, no deploy cycle.
Running agent workflows in Vercel Sandboxes
Okara's SEO agent can scan for problems and write the code that fixes them. When the agent finds a technical issue on a user's site, it spins up a Vercel Sandbox and runs the analysis in an isolated environment. The findings are passed to a coding agent, which opens a pull request with the fix, ready for the developer to review and merge. Detection, analysis, code change: the entire loop runs automatically, with a human making the final call before anything goes live.
Okara adopted Vercel Sandboxes the day they launched. Rizwan saw the announcement on X and the team started building immediately.
What's next
120,000 websites are now using Okara's AI CMO. The team ships to production six or seven times a day, and every improvement lands for customers the same day it ships. A solo founder using Okara gets the same distribution muscle as a team ten times their size, without the headcount or the $15,000 monthly agency bill.
Okara is expanding its agent suite and moving upmarket to serve larger teams. As the product grows, so does the infrastructure demand. More users, more agents, more tokens. When you're four people handling growth for 120,000 companies, you can't afford for infrastructure to be a distraction. With Vercel, it isn't.
About Okara: Okara is an AI CMO that directs a team of specialized sub-agents to handle SEO, content, and social media for founders and small teams. It connects to your website, develops a brand voice, and manages distribution across eight channels without a marketing hire.
Read more
関連記事
AI エージェント向けの生産環境インフラストラクチャ(19 分読)
TLDR AI が、AI エージェントを実際の運用環境で安定稼働させるための基盤整備や設計手法について解説している。
大規模なデータと AI エージェントのための文脈知能
AWS は、AI エージェントがデータレイクやデータベースなど散在する情報源を統合し、大規模に推論できる「文脈知能」機能を発表した。これによりエージェントの判断精度向上を目指す。
Vercel Connect の紹介:エージェントへのアクセス制御を強化
Vercel は、AI エージェントがツールやデータに安全にアクセスできるよう、認証と権限管理の仕組み「Vercel Connect」を発表した。従来の永続トークンに代わり、より細粒度なアクセス制御を実現する。
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み