「そうそう、わかってるな」と信頼されるAIエージェントを作りたい ── 半歩先の体験設計の話

こんにちは。Algomatic で営業 AI エージェントの開発をしている貝塚 (@kaizukahideo) です。

この記事は Algomatic 初夏のアドベントカレンダー、11 日目です。前回の Go さんの記事は以下です！便利スキルの裏側に色々な理論が詰め込まれていたんだなーと感心しました。

tech.algomatic.jp

私はこれまで営業、エンジニア、PM(プロジェクトマネージャー) といろいろ渡り歩いてきました。エンジニアのときはフロントエンドを中心にやっていた時期もあり、ユーザー体験 (UX: ユーザーエクスペリエンス) とか考えるのも好きです。今日は、AI エージェントが信頼されて業務に溶け込むには「半歩先の体験設計」が大事なのでは？というのを書いていきます。

半歩先の体験とは

「そうそう、わかってるな」と思ってもらえる先回りのことを、「半歩先の体験」と私は呼んでいます。ユーザーがこのプロダクトは自分のことわかってくれてるなという感覚を生み出すために大事だと考えてます。

先回りというと、聞かれる前に全部やってあげることを想像しがちですが、何でも勝手にやられると、ちょっと心配に感じてしまう時もある。かといって、何をするにも「やっていいですか？」と聞かれるとそれはそれで煩わしい。なので実際の設計は、どこは自動でやって、どこでひと言聞くか、の見極めが大事だなと思っております。

AI エージェントの真価は、作業を少し手伝ってくれることよりも、業務を丸ごと任せられる点にあるのではないでしょうか。ただし、すべてを任せるにはハードルが高いものです。人間の同僚であっても、「この人なら任せて大丈夫」と思われるようになるまでには時間がかかります。技術的に動作することと、現場で信頼されて任されることの間にはかなりの距離があり、その距離を縮めるのが「そうそう」の積み重ねなのではないかと考えます。

具体例をデモを交えながら

ここからは、私が考える半歩先の体験の具体像を、デモを交えて解説していきます。

これは私が開発している営業用 AI を題材にしたデモです。3 つとも同じ商談の一日を切り取ったもので、朝、商談直後、その 5 分後という順に並んでいます。

※この記事用に作成したコンセプトモックであり、実際のプロダクト画面ではありません。

朝のブリーフ（ひと言聞く）

Before のイメージは以下の通りです。カレンダーを確認し、過去の議事録を漁り、SFA を開いて往復する作業です。営業をしていた身としてわかりますが、この朝の準備は地味に面倒なものです。

After の体験では、今日の予定が Slack に届くところまでは黙って自動で処理します。ただし、商談相手の情報を画面に広げるかどうかについては、「出しますか？」と一度確認する設計です。予定の整理は勝手にやってくれて構いませんが、情報をいつ見るかは人のタイミングに任せるため、そこだけを確認する仕組みになっています。

商談後の入力（黙って自動でやる）

翻訳全文

Before のイメージは商談が終わって夜にまとめて手入力している画面です。商談から数時間経つと、会話の細部はもう思い出せない事もあります。

After の体験だと、商談が終わった直後に記録が入っています。こだわりたかったのは根拠のほうです。「決裁時期：6 月末」の隣に、先方の「6 月中には決めたい」という発言がセットで見える。根拠があれば人はあとから確認できるし、間違っていても直せます。自動入力そのものより、こっちのほうが信頼につながる気がしています。

AI からの相談（不確実なら聞く）

受注確度のように、発言だけでは判断しきれない項目もあります。ここで AI が黙ってそれっぽく埋めてしまうと、間違いに気づいたときに一気に信頼を失う可能性があります。

このデモでは AI が確信度 62% と開示したうえで、「B（中）と仮置きしますが、肌感はどうですか？」と聞いてきます。全部自動でやるのが偉いわけではなくて、自信がないときに聞いてくれるほうが、結果的には多くを任せられるんじゃないかと思っています。

ちなみにデモは HyperFrames という、HTML から動画が作れる OSS（オープンソースソフトウェア）で作りました。おすすめです。

どう設計するか

設計するためにはユーザーや業務フローを理解して、観察して、言語化して、という段階を踏むことが多いと思います。

その中で意識しているのは、「入力が面倒」みたいな要望そのままじゃなくて、その裏の状況と気持ちのほうを考えることです。業務の流れを追って、どこで引っかかって、そこで何を感じているか。たとえば「面倒」の裏には「数時間も経つと思い出せない」「商談のあとで疲れてる」がある。そこまで見えると、こういう状態で人手で入れるのはもう無理があるな、いっそ自動のほうがいいな、と機能のかたちが決まってくる。逆に、受注確度みたいに、間違って入れると見込み数字が狂うなどミスが響くところは、迷ったらいったん確認を挟む。このあたりの設計をどうやるのがいいかは、正直まだ自分も模索中ですが。

これから

AI がやってくれることは、これからも増えていくと思います。ただ、どこまで先回りして、どこで人に聞くかは結局人が決める必要があって、ここを外すと、せっかく作っても任せてもらえないシステムができてしまうかなと。これ見極めるために、業務やユーザーをとことん理解して作ってくことが大事だし、自分はそこをやりがいに思ってます。

Algomatic は 6 月より新体制となり、採用も強化中です！ご興味を持っていただけたら、ぜひお気軽にカジュアル面談へ足を運んでいただけると嬉しいです！

recruiting.algomatic.jp

前回の続きです。AI エージェントが人間に「わかっている」と感じさせるためには、単なる情報提供ではなく、文脈の共有と共感が必要です。

まず重要なのは、ユーザーの意図を正確に汲み取ることです。表面的な言葉だけでなく、背景にある感情や目的まで理解しようとする姿勢が、信頼関係の基盤となります。

次に、予測可能な行動を示すことです。AI が次のステップを事前に提示し、「あ、そうか」と思わせる瞬間を作ることが、半歩先の体験設計の核心です。

さらに、失敗した際の対応も重要です。誤解やエラーが発生した際に、謝罪だけでなく、解決策を提案する姿勢が、ユーザーに安心感を与えます。

最後に、継続的な学習と改善です。ユーザーとの対話を通じて、AI が自ら進化していく様子を可視化することで、長期的な信頼を築くことができます。

これらの要素を組み合わせることで、「そうそう、わかってるな」と思われる AI エージェントを実現できます。次回は具体的な実装例について解説します。