Mozilla、LLM 管理プラットフォーム「Otari」をオープンソース化
本文の状態
日本語全文を表示中
詳細モードで約3分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Mozilla AI
Mozilla.ai は、複数の LLM プロバイダーを統一的に管理するオープンソースの制御平面「Otari」を発表し、ルーティングや予算管理、ガバナンス機能を提供することで開発者のインフラ管理負担を軽減すると発表した。
AI深層分析を開く2026年8月4日 12:08
AI深層分析
キーポイント
統一された LLM インフラ管理プラットフォーム
Otari は単一のエンドポイントを通じて複数の LLM プロバイダーへのリクエストルーティング、予算制御、ガバナンス管理を実現する制御平面として機能する。
開発者による柔軟なデプロイと信頼性向上
ホスト型またはセルフホスト型の環境を選べるほか、インテリジェントなルーティングと自動フェイルオーバーによりシステムの信頼性を高める機能を備えている。
エージェント対応機能の統合
Agent Harness を提供することで、組み込みツールとオーケストレーションを内蔵し、エージェントベースのアプリケーション構築を容易にする。
重要な引用
Otari provides a single control plane for your LLM infrastructure, helping developers and engineering teams manage routing, budgets, governance, deployment and reliability across multiple LLM providers.
These capabilities should not have to be rebuilt every time a new LLM-powered application is created.
Control your LLM infrastructure before complexity controls you.
編集コメントを表示
編集コメント
Mozilla が主導するオープンソースプロジェクトが、マルチプロバイダー環境の複雑さを解決するための実用的な制御平面として登場した点は注目される。開発者がインフラの重複構築に悩まされないよう、標準的な機能セットを提供する動きは業界全体にとって有益である。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
image現在、LLM（大規模言語モデル）を活用したアプリケーションを構築している場合、複数のプロバイダーや API キーの管理、ルーティング・予算・フェイルオーバーのための独自ロジックに頭を抱えているはずです。言語モデルへのアクセス自体はもはや課題ではありません。重要なのは、LLM インフラをいかに効果的に運用するかです。
このたび、Mozilla.ai が開発したオープンソースの LLM コントロールプレーン「Otari」をリリースすることを発表できることを嬉しく思います。
LLM インフラへの統一アプローチ
Otari は、LLM インフラのための単一コントローラーとして機能します。複数のプロバイダーにまたがるルーティング、予算管理、ガバナンス、デプロイメント、信頼性の確保など、開発者やエンジニアリングチームが直面する課題を一元化して支援します。
このプラットフォーム一つで、開発者は以下が可能になります：
- 単一のエンドポイントを通じて、複数の LLM プロバイダー間でリクエストをルーティングできる。
- 組み込みの予算機能、利用状況の可視化、自動的な予算制限により、LLM のコストを管理できる。
- 集中管理された API キー、ワークスペース、アクセス制御を通じてガバナンスを実現できる。
- ホスト型またはセルフホスト型の環境を選べるため、必要な場所でデプロイできる。
- インテリジェントなルーティングと自動フェイルオーバーにより、システムの信頼性を向上できる。
Agent Harness によって、組み込みツールとオーケストレーション機能を備えたエージェント対応アプリケーションを構築できる。
Otari は開発者が LLM インフラを一箇所で管理できるようにし、複雑さの管理に費やす時間を減らし、AI アプリケーションの開発により多くの時間を割けるようになります。
なぜ Mozilla.ai は Otari を作ったのか
Mozilla.ai では、開発者がオープンで柔軟性があり、かつ自らの管理下にある AI システムを構築できるべきだと考えています。
LLM を導入する開発者や組織と協力する中で、私たちはインフラに関する課題が繰り返し同じ形で現れることを目の当たりにしました。各チームは、カスタムのルーティングロジックの構築、プロバイダーキーの管理、利用状況の追跡、予算の適用、ガバナンスの実装といった作業を、すべてのアプリケーションで個別に手動で行っていました。
これらの機能は、LLM を活用した新しいアプリケーションが作られるたびに再構築する必要はありません。
開発者がインフラを一元的に管理・運用できる場所として、アプリケーションと LLM プロバイダーの間に位置する専用のコントロールプレーンに統合されるべきだと私たちは考えます。
そこで Otari を開発しました。
Otari で構築を始める
Otari は本日より利用可能です。
プラットフォームを検索し、ドキュメントを読み、GitHub のオープンソースプロジェクトを訪れて、Otari での構築を開始してください。
otari.ai で Otari を発見してください。
複雑さがあなたを支配する前に、LLM インフラのコントロールを握りましょう。
原文を表示
imageIf you are building LLM-powered applications today, you are probably managing multiple LLM providers, a pile of API keys, and your own logic for routing, budgets, and failovers. Accessing language models is no longer the challenge. Operating LLM infrastructure effectively is.
Today, we are excited to launch Otari, the open-source LLM control plane built by Mozilla.ai.
A Unified Approach to LLM Infrastructure
Otari provides a single control plane for your LLM infrastructure, helping developers and engineering teams manage routing, budgets, governance, deployment and reliability across multiple LLM providers.
From one platform, developers can:
Route requests across multiple LLM providers through a single endpoint.
Control LLM spend with built-in budgets, usage visibility and automatic budget enforcement.
Manage governance through centralised API keys, workspaces and access controls.
Deploy where you need to using either hosted or self-hosted environments.
Improve reliability with intelligent routing and automatic failover.
Build agent-ready applications with Agent Harnesses that provide built-in tools and orchestration.
Otari gives developers one place to control LLM infrastructure, so they can spend less time managing complexity and more time building AI applications.
Why Mozilla.ai Built Otari
At Mozilla.ai, we believe developers should be able to build AI systems that are open, flexible and under their control.
As we worked with developers and organisations adopting LLMs, we saw the same infrastructure challenges appear again and again. Teams were building custom routing logic, managing provider keys, tracking usage, enforcing budgets and implementing governance independently across every application.
These capabilities should not have to be rebuilt every time a new LLM-powered application is created.
We believe they belong in a dedicated control plane that sits between applications and LLM providers, giving developers one place to manage and operate their infrastructure.
That is why we built Otari.
Start Building with Otari
Otari is available today.
Explore the platform, read the documentation, visit the open source project on GitHub and start building with Otari.
Discover Otari at otari.ai.
Control your LLM infrastructure before complexity controls you.
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み