درجة الثقة في الذكاء الاصطناعي

ما هي درجة ثقة الذكاء الاصطناعي؟

درجة ثقة الذكاء الاصطناعي مقياس رقمي (يتراوح عادةً بين 0-100% أو 0-1) يعبّر عن مدى يقين وكيل الذكاء الاصطناعي من دقة إجابته أو من ملاءمة الإجراء الذي ينوي اتخاذه. تعني الثقة المرتفعة أن لدى الوكيل أدلة قوية تدعم إجابته، بينما تعني الثقة المنخفضة أنه غير متيقن وأن الإجابة قد لا تكون موثوقة.

درجات الثقة هي الآلية الأساسية لإدارة موثوقية الذكاء الاصطناعي في بيئة الإنتاج، فهي تحدد متى يجيب الذكاء الاصطناعي مباشرةً، ومتى يطرح أسئلة توضيحية، ومتى يصعّد المحادثة إلى موظف بشري.

كيف تعمل درجات الثقة

تُستمد درجات الثقة من إشارات متعددة:

• جودة الاسترجاع: مدى تطابق المحتوى المسترجع من قاعدة المعرفة مع سؤال العميل (وفقًا لدرجات التشابه في البحث الدلالي)
• تغطية المصادر: ما إذا كانت مصادر متعددة تتفق على الإجابة أم عُثر على مصدر واحد فقط
• وضوح النية: مدى وضوح تحديد نظام التعرّف على النية لما يطلبه العميل
• استناد الإجابة: مدى دعم الأدلة المسترجعة للإجابة المُولَّدة (قوة الاستناد إلى المصادر)

أهمية درجات الثقة

بدون درجات الثقة، يتعامل وكيل الذكاء الاصطناعي مع كل إجابة بالقدر نفسه من اليقين، حتى عندما يكون مجرد تخمين. ويؤدي ذلك إلى إجابات مُهلوَسة تُقدَّم بثقة زائفة، وهو أسوأ من قول «لست متأكدًا» أو التصعيد إلى موظف بشري.

تتيح درجات الثقة المُعايَرة جيدًا سلوك استجابة متدرجًا:

• ثقة مرتفعة (90%+): الرد مباشرةً على العميل
• ثقة متوسطة (60-90%): الرد مع إضافة تحفظات، أو طرح أسئلة توضيحية، أو عرض التصعيد
• ثقة منخفضة (أقل من 60%): التصعيد إلى موظف بشري بدلًا من المخاطرة بإجابة غير دقيقة

سياق القطاع: في عام 2024، اتخذ 47% من مستخدمي الذكاء الاصطناعي في المؤسسات قرارات عمل كبرى بناءً على محتوى مُهلوَس، وهي إحصائية تؤكد أهمية درجات الثقة بوصفها ضمانة ضد الثقة المفرطة للذكاء الاصطناعي.

ميزة Maven: ثقة مُعايَرة وشفافية

تستخدم Maven AGI درجات الثقة في جميع مراحل سلسلة الاستدلال لتحديد سلوك الاستجابة. فعندما تكون الثقة مرتفعة، يحل الوكيل المشكلة باستقلالية؛ وعندما تكون منخفضة، يصعّدها مع السياق الكامل. وتجعل ميزة "Thinks Out Loud" من Maven تقييم الثقة هذا مرئيًا لفرق الدعم، ما يوفر شفافية حول سبب اختيار الذكاء الاصطناعي الرد أو الاستيضاح أو التصعيد.

دليل من Maven: تحافظ Check على دقة بنسبة 85% في الاستفسارات المالية المعقدة، وهو مجال تكتسب فيه معايرة الثقة أهمية بالغة لأن الإجابات الخاطئة في المسائل المالية لها عواقب حقيقية.

الأسئلة الشائعة

هل يمكن أن تكون درجات الثقة خاطئة؟

نعم. درجات الثقة تقديرات وليست ضمانات؛ فقد يكون الذكاء الاصطناعي واثقًا وهو مخطئ (درجة مرتفعة لإجابة غير صحيحة)، أو مترددًا دون داعٍ (درجة منخفضة لإجابة صحيحة). وتُحسّن المعايرة المستمرة من خلال ضمان الجودة وحلقات الملاحظات الدقةَ بمرور الوقت.

هل ينبغي أن يرى العملاء درجة ثقة الذكاء الاصطناعي؟

لا في الغالب، فالدرجات الخام لا تعني شيئًا للعملاء. بدلًا من ذلك، ينبغي للذكاء الاصطناعي أن يكيّف صياغته بحسب مستوى الثقة: «ستتم معالجة استرداد أموالك خلال 3-5 أيام عمل» (ثقة مرتفعة) مقابل «بناءً على ما أراه، من المفترض أن تتم معالجة استرداد أموالك خلال 3-5 أيام عمل، لكن دعني أوصلك بأحد المختصين للتأكيد» (ثقة متوسطة).

كيف تُحدَّد عتبات الثقة المناسبة؟

ابدأوا بنهج متحفظ (تصعيد أكثر) ثم عدّلوا استنادًا إلى البيانات. راقبوا دقة الإجابات عند مستويات الثقة المختلفة، واضبطوا العتبات لتحقيق التوازن بين معدل الحل والدقة. وينبغي للمجالات الأعلى خطورة (الرعاية الصحية والتمويل) أن تعتمد عتبات أعلى من المجالات الأقل خطورة.