Parloa が顧客が話したいと願うサービスエージェントを構築
Parloa は、OpenAI の最新モデル（GPT-5.4）を活用した「Agent Management Platform (AMP)」を公開し、非技術者が自然言語で AI エージェントの設計・テスト・運用を可能にするプラットフォームを提供している。
キーポイント
コード不要なエンタープライズ向け管理プラットフォーム
Parloa の AMP は、専門知識を持つビジネスユーザーがコードを書かずに自然言語でエージェントの役割や制約を定義できるインターフェースを提供する。
GPT-5.4 を活用した高度なシミュレーションと評価
本番環境への展開前に、複数のモデル（通話役とエージェント役）を用いたシミュレーションで性能や遅延、エッジケースを厳密にテストする仕組みを搭載している。
生産環境での信頼性と速度の最適化
OpenAI と緊密に連携し、リアルタイム会話に必要な高速性と信頼性を確保するため、モデルの選定とチューニングを継続的に行っている。
重要な引用
"The models only matter if they work in production. We work closely with OpenAI on how to make the models fast and reliable enough for real-time conversations."
"With AMP, we can have subject matter experts from different business units actually build the agents and connect the APIs in a much leaner and simpler way."
影響分析・編集コメントを表示
影響分析
このニュースは、生成 AI の実装が「技術者主導」から「ドメインエキスパート主導」へ移行する重要な転換点を示しています。特に、複雑なエンタープライズ環境でも安全かつ迅速に AI エージェントを運用できる仕組みを提供することで、業界全体の導入スピードと採用範囲を加速させる可能性があります。
編集コメント
Parloa のアプローチは、LLM の能力を最大限に引き出すだけでなく、組織内の非技術リソースを活用して実装の壁を取り払う点で非常に示唆に富んでいます。特に OpenAI との連携による本番環境での最適化への注力は、実用化における課題解決の鍵となるでしょう。
Parloa の創業初期、共同創業者の Stefan Ostwald は、チームが音声体験の構築に取り組んでいた保険のカスタマーセンターに一日を過ごしました。エージェントたちと並んで座り、彼はパスワードのリセットやポリシーに関する質問、日常的な変更など、同じ会話が繰り返される様子を何度も耳にしました。そこで彼は、これらの業務の多くは自動化可能だと気づきました。
その経験の後、ベルリンを拠点とする Parloa(新しいウィンドウで開く) は、高頻度のカスタマーインタラクションを自動化するためのルールベースの音声エージェントの構築を開始しました。
ChatGPT の登場に伴い、同社は現在、AI エージェント管理プラットフォーム（AMP）と呼ばれるものを構築するよう進化しました。これは GPT‑5.4 を含む次世代モデルを基盤にしています。
AMP は、企業が顧客サービスインタラクションを大規模に設計・展開・管理するための手段を提供します。堅牢な意図やフローをマッピングする代わりに、チームは自然言語で行動を定義し、内部システムに接続し、組み込みのシミュレーションと評価を用いて迅速に反復します。
Parloa はこれらのインタラクションをエンドツーエンドで実行し、単純なルーティングから複雑な多段階リクエストまですべてを処理します。焦点は、パフォーマンス、レイテンシ、エッジケースがすべて重要となる本番環境における一貫性にあります。そのために、Parloa は本番展開前にモデルを実際のカスタマーシナリオに対して継続的にテストしています。
「モデルが重要なのは、本番環境で機能する場合に限られます。私たちはリアルタイムの会話に十分速く信頼性の高いものとする方法について、OpenAI と緊密に協力しています。」
—Ciaran O'Reilly Ibañez, Parloa のエンジニアリングマネージャー
エンタープライズビルダー向け AMP の設計
Parloa のエージェント管理プラットフォーム（AMP: Agent Management Platform）は、ビジネスユーザーや専門家がコードを書かずに AI エージェントを構築できるように設計されています。
「AMP を使えば、異なる事業部門から専門家を招集し、より軽量でシンプルな方法でエージェントを構築し API を接続できます」と O'Reilly は述べています。
高レベルでは、AMP はブランドが AI エージェントのライフサイクル全体を管理することを可能にします。それは、非技術チームに対して、エージェントが本番環境に展開される前にその振る舞いを定義するためのより簡単な方法を提供することで実現されます。コードを書いたり、硬直した意図ツリーをマッピングしたりする代わりに、専門家は自然言語でエージェントの役割、指示、ツール、および境界を設定します。この設定が、モデルのプロンプト方法や本番環境でのシステムの振る舞いの基礎となります。
一度定義されると、展開前にエージェントはテストされます。Parloa は GPT‑5.4 などのモデルを使用して顧客との会話をシミュレートし、一方のモデルが発信者役として、もう一方が設定されたエージェントを実行します。チームはこれらの対話を直接検査し、現実的なシナリオに対して変更をテストし、本番展開前に反復処理を行うことができます。
その後、同じモデルを使用して、決定論的チェックと LLM-as-a-judge スコアリング（LLM を評決者として用いるスコアリング）の組み合わせによってそれらの会話を評価します。これにより、エージェントが指示に従ったか、ツールを正しく使用したか、期待通りにタスクを完了したかが確認できます。
ライブ会話中、AMP のオーケストレーション層はエージェント構成と会話の文脈を OpenAI モデルにプロンプトとして提供し、応答の生成、RAG を通じた情報取得、または顧客バックエンドとの対話をトリガーするツール実行を行います。Parloa は、これらのモデルが実世界のパフォーマンスで明確な向上を示すたびに、この層を最新世代のモデルへと継続的に更新します。
会話終了後、別個の OpenAI 駆動ワークフローがそのやり取りを要約し、顧客の意図を分類し、定義されたルールに対するパフォーマンスを評価します。
エージェントがより複雑化するにつれて、単一のモノリシックなプロンプトを維持することは困難になりました。些細な変更でも予期せぬ副作用を引き起こす可能性があります。これに対処するため、Parloa はモジュラーアプローチを導入しました。認証、予約の変更、アカウント更新などのタスクは別個のサブエージェントに分離され、指示への従順性が向上し、システムが時間とともに進化しやすくなります。
同時に、信頼性が最も重要となる箇所には決定論的な制御を組み込んでいます。企業は構造化された API チェーンやイベントベースのロジックを定義することで、重要なステップが正しい順序で実行されるように保証し、会話の柔軟性と予測可能な実行のバランスを取ります。
Parloa は、GPT‑4.1 や GPT‑5‑mini などのモデルを使用して、エージェントが実際に稼働する前に現実的な顧客とのやり取りをシミュレーションし、LLM-as-a-judge（LLM を判事として用いた評価）と決定論的ルールを組み合わせてそれらのやり取りを検証します。これにより、チームはエッジケースのテストや迅速な反復、そして顧客に失敗を曝す前のパフォーマンス検証を行うことができます。
評価ファーストのアプローチ
Parloa は主に大企業を対象としており、そこでは機能性と同様に一貫性が重要です。
「新しいモデルが登場したら、私たちはそのモデルに対してベンチマークスイートを実行します」と語るのはシニア・アプライド・サイエンティストの Matthäus Deutsch 氏です。「理論上のベンチマークだけでなく、実際の使用ケースでも確実に動作することが、私たちにとって非常に重要です。」
抽象的なベンチマークに依存するのではなく、Parloa は実際の生産環境のエージェントを模倣し、シミュレーションと評価パイプラインを通じて実行します。これらのテストは、指示の遵守信頼性、API 呼び出しの一貫性、レイテンシ、そして現実的な条件下での全体的なパフォーマンスを測定します。
これらの評価により、どのモデルが生産環境に適しているかが決定されます。実際の顧客シナリオで確実に機能するモデルのみがデプロイされます。
「大企業の顧客は、実際的な移行コストに直面しています」と Deutsch 氏は述べています。「一度システムが生産環境で動作し始めると、彼らはそれを安定した状態のまま維持し、明確なメリットがある場合にのみ切り替えます。」
その結果、システムは本番環境でもスケーラビリティを維持しながら予測可能な挙動を示します。数百万件の顧客インタラクションを通じて、ほとんどの会話は摩擦なく解決されます。通話が人間のエージェントにルーティングされた場合でさえ、エスカレーションが失敗によって引き起こされることは稀です。あるグローバル旅行会社の導入事例では、人間のエージェントへのリクエストを 80% 削減することに成功しました。
この評価ファーストの思考様式は、Parloa の中核的な差別化要因となり、本番環境での信頼性を犠牲にすることなく迅速な展開を可能にしています。
グローバル規模での音声対応構築
音声は、テキストベースのチャットとは異なる一連の制約をもたらします。すべてのインタラクションは低遅延パイプラインを経由して実行されます：音声からテキストへの変換（Speech-to-Text）、モデルによる推論、そしてテキストから音声への変換（Text-to-Speech）。
このパイプラインにより、遅延が極めて重要となります。モデル層におけるわずかな遅れでも、通話者にとって目に見える一時停止として蓄積し、モデルの選択や最適化の方法に大きな影響を与えます。
Parloa は OpenAI と緊密に連携し、リアルタイムユースケース向けの性能を最適化しています。重点は、低遅延、応答品質、および指示の遵守にあります。チームは、ライブ顧客インタラクションへの展開前に、本番環境と似た条件下で新しいモデルの反復版を継続的に評価・負荷テストしています。
Parloa は音声スタックの各コンポーネントを独立して評価します：
- 音声認識システムは、単語誤り率（Word Error Rate）の観点からテストされます。特に、ポリシー番号やアカウント識別子といった機微な入力においては厳格に評価が行われます。
- テキスト読み上げモデルは、実際のユーザーにとって声がどれほど自然かを評価するために、盲聴取テストを通じて検証されます。これらの結果は、本番環境における一貫したパフォーマンスを確保するため、実際の顧客とのやり取りデータと比較・確認されます。
- 音声対音声（Speech-to-speech）モデルについては、現在、生産環境での導入準備が整っているかどうかが評価されており、特にレイテンシ（遅延）、精度、コストに焦点が当てられています。
当初からこれらのシステムは、グローバル展開を前提として構築されてきました。ベンチマークは複数の言語にまたがり、世界中の地域で事業を展開する顧客を対象としています。この多言語における厳格なアプローチは、Parloa の欧州にルーツを持つ企業であることと、単一の言語や地域だけでなく、市場全体で一貫したパフォーマンスを要求するエンタープライズ顧客の期待の両方を反映しています。
現在、Parloa のエージェントは、小売、旅行、保険など多様な業界で数百万件の会話を処理しており、サポート自動化からテレショッピングのような収益創出フローに至るまで、幅広いユースケースをサポートしています。
変化する顧客体験に対応する技術の進化
Parloa は、カスタマーサービスが完全にマルチモーダルな体験へと進化していくと捉えています。
会話は電話から始まり、チャットに続き、その過程でリンクやインタラクティブ要素が含まれることもあります。各ステップを別々のフローとして扱うのではなく、AMP はこれを単一の相互作用として処理するように設計されています。時間の経過とともに、AI エージェントはウェブサイトやモバイルアプリと同様に、顧客体験の中心的存在となっていく可能性があります。
企業が顧客とのやり取りのより大きな割合を自動化する方向へ進む中で、Parloa は AI エージェントがグローバル規模で運用できるよう、信頼性、柔軟性、そして信頼性を十分に備えることに注力しています。
原文を表示
In Parloa’s early days, Co-founder Stefan Ostwald spent a day inside an insurance call center, where his team had been building early voice experiences. Sitting alongside agents, he listened to the same conversations play out again and again: password resets, policy questions, routine changes. He realized much of that work could be automated.
After that experience, Berlin-based Parloa(opens in a new window) began building rule-based voice agents to automate high-volume customer interactions.
With the emergence of ChatGPT, the company evolved to build what is now its AI Agent Management Platform (AMP), built on a new generation of models including GPT‑5.4.
AMP gives enterprises a way to design, deploy, and manage customer service interactions at scale. Instead of mapping out rigid intents and flows, teams define behavior in natural language, connect to internal systems, and iterate quickly using built-in simulations and evaluations.
Parloa runs these interactions end to end, handling everything from simple routing to complex, multi-step requests. The focus is on consistency in production, where performance, latency, and edge cases all matter. To get there, Parloa continuously tests models against real customer scenarios before deploying them.
“The models only matter if they work in production. We work closely with OpenAI on how to make the models fast and reliable enough for real-time conversations.”
—Ciaran O’Reilly Ibañez, Engineering Manager at Parloa
Designing AMP for enterprise builders
Parloa’s Agent Management Platform (AMP) is designed for business users and subject matter experts to be able to build AI agents without writing code.
“With AMP, we can have subject matter experts from different business units actually build the agents and connect the APIs in a much leaner and simpler way,” says O’Reilly.
At a high level, AMP allows brands to manage the entire AI agent lifecycle. It does that by giving non-technical teams a simpler way to define how an agent should behave before it ever goes live. Instead of writing code or mapping rigid intent trees, subject matter experts set the agent’s role, instructions, tools, and boundaries in natural language. That configuration becomes the basis for how the model is prompted and how the system behaves in production.
Once defined, the agent is tested before deployment. Parloa simulates customer conversations using models like GPT‑5.4, with one model acting as the caller and another running the configured agent. Teams can inspect these interactions directly, test changes against realistic scenarios, and iterate before going live.
The same models are then used to evaluate those conversations using a mix of deterministic checks and LLM-as-a-judge scoring. This shows whether the agent followed instructions, used tools correctly, and completed the task as expected.
During a live conversation, AMP’s orchestration layer prompts an OpenAI model with the agent configuration and conversation context to generate a response, retrieve information through RAG, or trigger tools to interact with customer backends. Parloa continuously updates this layer with the latest generation of models as they demonstrate clear gains in real world performance.
After the conversation, separate OpenAI-powered workflows summarize the interaction, classify customer intent, and evaluate performance against defined rules.
As agents became more complex, maintaining a single, monolithic prompt became harder. Small changes could introduce unintended side effects. To address this, Parloa introduced a modular approach. Tasks like authentication, booking changes, or account updates can be separated into distinct sub-agents, improving instruction-following and making systems easier to evolve over time.
At the same time, the platform incorporates deterministic controls where reliability matters most. Enterprises can define structured API chains and event-based logic to ensure critical steps happen in the right order, balancing conversational flexibility with predictable execution.
Parloa uses models like GPT‑4.1, GPT‑5‑mini, and others to simulate realistic customer interactions before an agent ever goes live, then evaluates those interactions using a combination of LLM-as-a-judge and deterministic rules. This allows teams to test edge cases, iterate quickly, and validate performance before exposing customers to failure.
An evaluation-first approach
Parloa works primarily with large enterprises, where consistency matters as much as capability.
“When a new model comes out, we run our benchmarking suite against it,” says Matthäus Deutsch, Senior Applied Scientist. “It’s very important for us that things do not only work in theoretical benchmarks but in actual real use cases.”
Instead of relying on abstract benchmarks, Parloa mirrors real production agents and runs them through simulation and evaluation pipelines. These tests measure instruction-following reliability, API-calling consistency, latency, and overall performance under realistic conditions.
These evaluations determine which models are ready for production. Only models that perform reliably across real customer scenarios are deployed.
“Enterprise customers face a real migration cost,” says Deutsch. “Once a system is working in production, they keep it stable and only switch when the benefits are clear.”
As a result, systems behave predictably in production, even at scale. Across millions of customer interactions, most conversations are resolved without friction. Even when calls are routed to human agents, escalation is rarely driven by failure. In one deployment, a global travel company reduced requests for a human agent by 80%.
This evaluation-first mindset has become a core differentiator, allowing Parloa to move quickly without sacrificing reliability in production.
Building for voice at global scale
Voice introduces a different set of constraints than text-based chat. Every interaction runs through a low-latency pipeline: speech-to-text, model reasoning, and text-to-speech.
This pipeline makes latency critical. Even small delays in the model layer compound into noticeable pauses for the caller, shaping how models are selected and optimized.
Parloa works closely with OpenAI to optimize performance for real-time use cases, focusing on latency, response quality, and instruction following. The team continuously evaluates and stress-tests new model iterations in production-like environments before rolling them out to live customer interactions.
Parloa evaluates each component of the voice stack independently:
- Speech-to-text systems are tested for word error rate, especially for sensitive inputs like policy numbers or account identifiers.
- Text-to-speech models are evaluated through blind listening tests to assess how natural the voice sounds to real users. Those results are then checked against real customer interactions to ensure consistent performance in production environments.
- Speech-to-speech models are currently being evaluated for production readiness, with a focus on latency, accuracy, and cost.
From the beginning, these systems have been built for global deployment. Benchmarks span multiple languages, with customers operating across regions worldwide. This multilingual rigor reflects both Parloa’s European roots and the expectations of enterprise customers, who require consistent performance across markets, not just in a single language or region.
Today, Parloa’s agents handle millions of conversations across industries including retail, travel, and insurance, supporting use cases that range from support automation to revenue-generating flows such as teleshopping.
Changing tech for changing customer journeys
Parloa sees customer service evolving into a fully multimodal experience.
A conversation might start on the phone, continue in chat, and include links or interactive elements along the way. Instead of treating each step as a separate flow, AMP is designed to handle it as a single interaction. Over time, AI agents may become as central to customer journeys as websites and mobile apps.
As enterprises move toward automating a growing share of customer interactions, Parloa is focused on making AI agents reliable enough, flexible enough, and trusted enough to operate at global scale.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み