ヒューマン・イン・ザ・ループ

ヒューマン・イン・ザ・ループAIとは

ヒューマン・イン・ザ・ループ（HITL）とは、重要な意思決定のポイントで人間の判断をAIのワークフローに組み込むAI導入のアプローチです。AIを完全に自律させるのでも、すべてを手作業にするのでもなく、AIエージェントが定型業務を自律的に処理し、重要度の高い判断や複雑な判断については人間のエージェントが確認、承認、介入する協働モデルを実現します。

カスタマーサービスでは、たとえばAIエージェントが簡単な質問は単独で解決し、一定額を超える返金リクエストは人間に承認を回す、あるいは会話は自律的に対応しつつ、感情分析で怒りや強い不安を抱えた顧客を検知した場合にはフラグを立てる、といった運用がHITLにあたります。

カスタマーサービスにおけるHITLモデル

カスタマーサポートでヒューマン・イン・ザ・ループを実装する方法はいくつかあります。

• 承認ゲート： AIがアクション（返金処理など）を提案し、人間の承認を得てから実行します
• 信頼度に基づくエスカレーション： AIは信頼度の高いやり取りを処理し、信頼度の低いケースを人間にエスカレーションします
• 品質サンプリング： AIが対応したやり取りから無作為に抽出したサンプルを人間が確認し、ミスの発見と改善につなげます
• 継続的なフィードバック： 人間のエージェントがAIの提案を評価・修正することでフィードバックループが生まれ、モデルが継続的に改善されます

HITLが重要な理由

学習データの範囲を超える判断、共感、ポリシーの解釈が求められる場面では、完全自律型のAIはリスクを生みます。一方、すべて人手によるサポートは拡張性に欠けます。HITLは、定型業務にはAIの効率性を、例外対応には人間の判断力を生かす、両者の長所を兼ね備えたアプローチです。

業界調査： Gartnerは、AIを理由にカスタマーサービスの人員削減を計画している組織の50%が、2027年までにその計画を撤回すると予測しています。人間とAIの協働が完全自動化を上回る成果を上げることが認識されつつあるためです。人間とAIが協働するチームは、どちらか単独の場合よりも高い顧客満足度と迅速な解決を実現します。

Mavenの強み：インテリジェントなエスカレーションとCopilot

Maven AGIは、2つの仕組みでHITLを実現しています。1つ目はインテリジェントなエスカレーションです。AIが信頼度のしきい値に達すると、会話の全コンテキストと推論内容を引き継いだうえで人間のエージェントに会話を回すため、担当者が一から対応し直す必要はありません。2つ目は、MavenのAI Copilotです。人間のエージェントとリアルタイムで連携し、返信の下書き、会話内容の要約、翻訳、アクションの提案を行います。人間を置き換えるのではなく、その力を引き出します。

Mavenの実績： ClickUpでは、Maven AGIのCopilotを導入してから1週間以内に、担当者1人あたりの1時間の解決件数が25%増加しました。HITLはAIのミスを防ぐためだけのものではなく、人間のエージェントの生産性を大きく高めるものであることを示しています。

よくある質問

ヒューマン・イン・ザ・ループによってAIの解決が遅くなりませんか？

遅くなるのは、人間の確認が必要な特定のやり取りに限られます。顧客からの問い合わせの大半は、AIエージェントが自律的に解決できます。HITLによる待ち時間が生じるのは、人間の判断を加える価値がある場面、一般的には高額、高リスク、または感情面で配慮が必要な状況に限られます。

人間による確認が必要なものと完全自動化するものは、どう判断すればよいですか？

まずはリスク評価から始めます。この種のリクエストでAIがミスをした場合、最悪どのような結果になるかを考えます。低リスクで件数の多い問い合わせ（注文状況の確認、FAQへの回答など）は完全自動化の候補です。高リスクなケースや前例のないケースは、AIが安定した正確性を示すまで人間が確認するべきです。

HITLによってAIのパフォーマンスは継続的に向上しますか？

はい。人間がAIのアクションを修正または承認すると、そのフィードバックをAIエージェントの正確性や信頼度の調整の改善に活用できます。AIが過去の修正から学習することで、時間とともに人間の介入が少なくて済む好循環が生まれます。