AIのブラックボックスを開く：Mavenが「考えを声に出す」仕組み

AIを活用したカスタマーサポートは、ブラックボックスのように感じられることが少なくありません。AIは回答の根拠を説明しないまま答えを提示することが多く、情報源も推論過程も示されず、本当に正しいのかを検証する手段もありません。

その結果、エージェントは2つの不満の残る選択を迫られます。

• AIの回答を盲目的に信頼し、不正確な情報を伝えるリスクを負う
• すべてを手作業で再確認し、効率化のメリットを損なう

どちらも理想的ではありません。そこで私たちはMavenをアップデートし、「考えを声に出す」ようにしました。推論を説明し、情報源を示し、回答に至るまでのステップをエージェントが確認できるようにしたのです。

Mavenは単に回答を示すだけでなく、その過程をステップごとに提示するため、エージェントは回答がどのように作成されたのかを正確に把握できます。Mavenは現在、次のことを行います。

1. 回答作成時に検討・使用したナレッジソースを表示

顧客から「私のサブスクリプションはいくらですか？」と尋ねられると、Mavenは関連するすべてのナレッジソースを検索し、最も正確な情報を探します。そのうえで、サブスクリプションプランの概要記事や過去のチャット記録など、最適なソースを選んで適切な詳細を取り出します。私たちはAIのブラックボックスを開き、こうした情報をエージェントが簡単に参照できるよう表示するようにしました。

2. 検討・実行したアクションを表示

多くのAIツールは情報の取得で止まります。Mavenはさらに一歩進んで、どのアクションが必要かを評価し、顧客に代わって実行します。先ほどのサブスクリプションの例では、Mavenが「アップグレードの提案」を最適な対応と判断し、顧客をスムーズかつ直感的に案内することがあります。

このレベルの透明性により、チームはMavenがなぜその判断をしたのかを理解し、提供される回答を信頼できます。

「Mavenがナレッジとアクションの根拠を示してくれるので、回答がどのように組み立てられたのかを推測する必要がなくなりました」と、Checkのサービスデリバリー責任者であるJim Kohl氏は語ります。「今では情報源をすばやく特定し、ナレッジのギャップを見つけ、的を絞った修正を行うことで、質の高い回答をより早く実現できています。この機能は、社内での信頼構築や、組織全体およびお客様とのAI導入の加速に特に役立っています。」

Mavenは、AIを単なるツールではなく、信頼できる透明性の高いパートナーだと考えています。エージェントが確認し、理解し、頼ることのできるAIカスタマーサポートを、これからも提供してまいります。