هلوسة الذكاء الاصطناعي

ما هي هلوسة الذكاء الاصطناعي؟

تحدث هلوسة الذكاء الاصطناعي عندما يولّد نظام ذكاء اصطناعي مخرجات خاطئة من حيث الوقائع أو مختلَقة أو لا تدعمها بيانات تدريبه أو مواده المصدرية. وفي سياق النماذج اللغوية الكبيرة (LLMs)، تعني الهلوسة أن النموذج ينتج نصًا واثقًا وسلسًا يتضمن حقائق مختلَقة أو مراجع غير موجودة أو ادعاءات غير صحيحة. ويستند المصطلح إلى تشبيه بالهلوسة لدى البشر: إذ يدرك النظام (أو يولّد) شيئًا لا وجود له.

في خدمة العملاء، لا تُعدّ هلوسة الذكاء الاصطناعي مشكلة بحثية نظرية، بل خطرًا تشغيليًا ملموسًا. فعندما يختلق وكيل ذكاء اصطناعي سياسة إرجاع، أو يخترع ميزة لمنتج، أو يقدم رصيد حساب خاطئًا، فإنه يقوّض ثقة العملاء ويُنشئ مسؤولية قانونية. ووفقًا لمعيار مقارنة من AIMultiple حُدِّث في يناير 2026، احتوت أكثر من 15% من مخرجات 37 نموذجًا لغويًا كبيرًا خضعت للاختبار على محتوى مهلوَس، فيما تعدّ 77% من الشركات الهلوسة من أبرز مخاوفها عند نشر الذكاء الاصطناعي.

كيف تحدث هلوسة الذكاء الاصطناعي

تنبع الهلوسة من طريقة تدريب النماذج اللغوية الكبيرة، إذ تتنبأ هذه النماذج بالرمز التالي الأكثر احتمالًا في التسلسل. ويكافئ هذا الهدف السلاسة والمعقولية لا الدقة الواقعية. فقد تعلّم النموذج أنماطًا إحصائية، ويولّد نصًا يتوافق مع هذه الأنماط، لا حقائق تم التحقق منها.

هناك ثلاثة عوامل رئيسية تقف وراء الهلوسة. أولًا، مشكلات بيانات التدريب: إذ تُرسّخ المعلومات المشوشة أو المتحيزة أو القديمة في مجموعة بيانات التدريب المسبق أخطاءً داخل النموذج. ثانيًا، عدم توافق الهدف: فهدف التنبؤ بالرمز التالي يحفّز الاستكمال المعقول على حساب الأمانة المعرفية. ثالثًا، هشاشة الاسترجاع: ففي أنظمة RAG، إذا كان السياق المسترجع ناقصًا أو غير ذي صلة، فقد يهلوس النموذج لسد الفجوات.

الأنواع الرئيسية لهلوسة الذكاء الاصطناعي

الهلوسة الجوهرية: تتعارض المخرجات المولَّدة مع المادة المصدرية المقدَّمة للنموذج. فعلى سبيل المثال، قد يذكر وكيل ذكاء اصطناعي يلخّص مقالة من قاعدة المعرفة عكس ما تقوله المقالة.

الهلوسة الخارجية: تتضمن المخرجات المولَّدة معلومات لا يمكن التحقق منها من أي مصدر مقدَّم. وهذا هو النمط التقليدي لـ"اختلاق المعلومات"، مثل الاستشهاد بدراسة غير موجودة أو اختراع مواصفات لمنتج.

هلوسة الكيانات والأرقام: يستبدل النموذج كيانًا بآخر (كأن ينسب ميزة إلى المنتج الخطأ) أو يختلق أرقامًا وتواريخ وأسعارًا. وهذه الأنواع خطيرة بشكل خاص في سياقات الخدمات المالية والفوترة وإدارة الطلبات.

أهمية هلوسة الذكاء الاصطناعي لتجربة العملاء

في خدمة العملاء، الدقة ليست خيارًا. فقد يؤدي رد مهلوَس إلى تزويد العميل بأسعار خاطئة، أو خطوات غير صحيحة لحل المشكلات، أو سياسة مختلَقة تضطر الشركة بعدها إلى الالتزام بها أو الطعن فيها. وتشمل التكاليف اللاحقة المبالغ المستردة والتصعيدات ومخالفات الامتثال والضرر الدائم بثقة العلامة التجارية.

تعدّ Gartner الهلوسة عائقًا رئيسيًا أمام تبنّي الذكاء الاصطناعي التوليدي في المؤسسات، وتوصي بإجراءات تخفيف متعددة المستويات تشمل التأصيل بالاسترجاع والضبط الدقيق للنماذج والتحقق بعد التوليد، بوصفها مكونات أساسية لأي نشر للذكاء الاصطناعي في بيئة التشغيل الفعلية.

ويتفاقم التحدي مع التوسع. فالمؤسسة التي تتعامل مع ملايين التفاعلات سنويًا لا تستطيع مراجعة كل رد يولّده الذكاء الاصطناعي يدويًا. لذا يجب أن تكون استراتيجية التخفيف جزءًا من بنية النظام، لا إضافة لاحقة.

كيفية الحد من هلوسة الذكاء الاصطناعي

التوليد المعزّز بالاسترجاع (RAG): تأصيل كل رد في وثائق مصدرية مسترجعة من قاعدة معرفة موثوقة. لا يقضي RAG على الهلوسة تمامًا، لكنه يضيّق إلى حد كبير نطاق ما يمكن للنموذج توليده.

التأصيل بالرسم البياني المعرفي: استخدام الرسوم البيانية المعرفية لتوفير سياق منظم وقائم على الحقائق بدلًا من الاعتماد على استرجاع النصوص غير المنظمة وحده. فالردود المؤصَّلة بالرسم البياني تمتلك سلسلة استدلال يمكن التحقق منها.

التحقق بعد التوليد: تطبيق وحدات للتحقق من الحقائق وحدود للثقة وأدوات للتحقق من المراجع بعد التوليد. وإذا تعذّر تتبع مخرجات النموذج إلى مصدر، فيجب وضع علامة عليها للمراجعة أو الامتناع عن الإجابة.

عدم اليقين المعايَر: تعمل أبحاث حديثة (arXiv، 2025) حول التعلم المعزّز المعايَر سلوكيًا على تدريب النماذج للإفصاح عن مستويات ثقة صادقة والامتناع عن الإجابة عند عدم اليقين بدلًا من التخمين.

الضبط الدقيق الخاص بالمجال: ضبط النماذج بدقة على بيانات مجال منتقاة وعالية الجودة للحد من تأثير بيانات التدريب المسبق المشوشة على المخرجات في القطاعات المتخصصة.

ميزة Maven

صُممت منصة Maven AGI لتقليل الهلوسة إلى أدنى حد في كل مستوى. إذ يستخدم النظام RAG متعدد المصادر المؤصَّل في بيانات مؤسسية موثوقة، والتعرف على النية لتحديد نطاق الردود بدقة، والتحقق بعد التوليد للتأكد من الدقة قبل وصول الرد إلى العميل. وعندما تكون الثقة منخفضة، يصعّد Maven الأمر إلى موظف بشري عبر AI Copilot بدلًا من التخمين.

حققت Check، وهي شركة متخصصة في التقنيات الحكومية، دقة بنسبة 85% في الاستعلامات التنظيمية واستعلامات الامتثال المعقدة باستخدام Maven AGI، ما يثبت إمكانية تحقيق دقة بمستوى المؤسسات حتى في المجالات عالية المخاطر التي تترتب فيها على الهلوسة عواقب حقيقية.

للاطلاع على المزيد حول أبحاث الهلوسة، راجعوا هذا المسح الشامل لتقنيات الحد من الهلوسة من arXiv، أو استكشفوا أبحاث Stanford HAI حول هلوسة الذكاء الاصطناعي.

الأسئلة الشائعة

هل يمكن القضاء على هلوسة الذكاء الاصطناعي تمامًا؟

لا توجد حاليًا تقنية تقضي على الهلوسة كليًا. والهدف هو خفضها إلى مستوى مقبول لحالة الاستخدام، وبناء أنظمة تكتشفها وتتعامل معها بسلاسة. وينبغي أن تجمع أنظمة التشغيل الفعلية بين عدة مستويات للتخفيف (RAG، والتحقق، وعدم اليقين المعايَر، والتصعيد إلى موظف بشري) لتقليل مخاطر المخرجات المهلوَسة وتأثيرها.

كيف يمكن اكتشاف هلوسة الذكاء الاصطناعي في بيئة التشغيل الفعلية؟

تشمل أساليب الاكتشاف فحوصات إسناد المصادر (هل يمكن تتبع المخرجات إلى وثيقة مسترجعة؟)، وتقييم الاتساق الدلالي (هل يتعارض الرد مع المادة المصدرية؟)، وحدود الثقة (هل يقل يقين النموذج عن مستوى آمن؟)، وأخذ العينات بمشاركة بشرية حيث يدقق المراجعون مجموعة عشوائية من ردود الذكاء الاصطناعي مقارنةً ببيانات المصدر.

هل يكفي RAG لمنع الهلوسة؟

يقلل RAG الهلوسة بشكل كبير عبر تأصيل التوليد في الوثائق المسترجعة، لكنه لا يكفي وحده. فإذا كان السياق المسترجع ناقصًا أو قديمًا أو غير ذي صلة، فقد يظل النموذج يهلوس لسد الفجوات. وتجمع الأنظمة الفعّالة بين RAG والتأصيل بـالرسم البياني المعرفي والتحقق بعد التوليد والتصعيد القائم على مستوى الثقة.

لماذا تهلوس النماذج اللغوية الكبيرة حتى عند تزويدها بمعلومات صحيحة؟

تعالج النماذج اللغوية الكبيرة المعلومات بطريقة احتمالية لا منطقية. فحتى مع وجود سياق صحيح في الموجّه، قد يحيد تنبؤ النموذج بالرمز التالي عن المادة المصدرية، خاصة في المخرجات الأطول أو عندما يتطلب المصدر استدلالًا متعدد الخطوات. ولهذا تُعدّ مستويات التحقق ضرورية: فعملية التوليد نفسها تنطوي على قدر من عدم اليقين بغض النظر عن جودة المدخلات.