Google、AI 実装に信頼と透明性あるガバナンスの重要性を指摘

AI から真の価値を引き出し、成功裏に導入するためには、信頼性・透明性・相互運用性を組み込んだ AI ワークフローを構築するために必要な、実践的で体系的なガバナンスに注力すべきです。

毎週のように登場する多数の AI モデルは、AI を単なる大掛かりな宣伝サイクルのように感じさせることがあります。これにより、自社の AI ワークフローを効果的なものにするために何が必要かを見極めようとする企業にとって混乱が生じることもあります。しかし、AI モデルやツール、エージェントが約束する未来へと踏み出すためには、技術に対して非現実的な期待を抱くべきではありません。信頼性・透明性・相互運用性を基盤とした実践的な AI アプリケーションを構築するための土台を整えることが重要です。

「相互運用性とオープン性以及び透明性は、非常に重要な概念です」と Google Cloud の製品管理ディレクターであるマイケル・クラーク氏は、AI Business が提供する『Targeting AI』ポッドキャストで語っています。

クラーク氏によれば、他のシステムと接続できることが、生成 AI やエージェント型 AI アプリケーションの成功には不可欠だといいます。例えば、カスタマーサービスにおいて AI エージェントが成功するためには、多様なシステムとの相互運用性が企業に必要となります。

関連記事：OpenAI が GPT-6 Astra を最も安全なモデルと称賛するも、依然として危険性あり

「多くのコールセンターでは、顧客対応を解決する際に API を活用せず、手作業に頼るケースが依然として多い」とクラーク氏は指摘します。「つまり、担当者が直接対応するか、あるいは他部門の状況を把握した上で適切なアクションを起こせる体制が必要だということです。」

さらにクラーク氏は、「コンテキスト（文脈）の有無が、機能するエージェント型アプリケーションとそうでないものを分ける決定的な要因にもなり得る」と付け加えました。

「音声や動画に加え、場合によっては LiDAR などのセンサーデータ、金融ストリーミングデータなど多様な情報を統合し、担当者の日常的な意思決定を支援することが重要です」とクラーク氏は説明します。

相互運用性とコンテキストに加えて、企業はガバナンスと信頼性の確保も不可欠です。クラーク氏は「自社のビジネス目標を明確に理解し、許容できるリスクの範囲を把握することが第一歩です。特定されたリスクを超えた事案については、必ず人間が関与する仕組み（ヒューマン・イン・ザ・ループ）を設けるべきです」と述べています。

執筆者について

News Writer, AI Business

エスター・シットゥは、2021 年以来 AI テクノロジーと業界の動向を取材し続けています。"Targeting AI"ポッドキャストの共同ホストとして、重要な AI の進展を探求する専門家や思想家、実務家との対談を行っています。AI Business 加入前は、SearchEnterpriseAI やニューヨーク・デイリー・ニュース、Bklyner、ブルックリン・デイリー・イーグルなどで執筆していました。AI の世界に没頭していないときは、情熱的なプロジェクトに取り組んだり、3 人の子供を育てたりしています。

サトナーの日刊紙キャリアには、調査報道やマサチューセッツ州議会議事堂、政治担当が含まれています。また、21 年にわたり『Worcester Telegram & Gazette』のコラムニストおよび特派員としてスノースポーツについても執筆しています。趣味はテニス、スタンドアップパドルボード、料理、そしてポピュラー音楽です。