ثمة افتراض راسخ في تصميم معظم وكلاء الذكاء الاصطناعي نادرًا ما يخضع للتمحيص: إذا كانت البيانات ذات صلة بالإجابة عن سؤال ما، فينبغي أن يتمكن الوكيل من استخدامها.
يبدو هذا منطقيًا، لكنه خاطئ.
فبالنسبة إلى المؤسسات التي تدير منصات تضم فئات متعددة من المشاركين، كالعملاء والتجار، والركاب والسائقين، والعملاء ومقدمي الخدمات، فإن هذا الافتراض هو ما يحوّل عمليات نشر الذكاء الاصطناعي بصمت إلى مشكلات ثقة.
فخ الصلة
يتواصل عميل مع الدعم بشأن تأخر طلبه، ويريد معرفة ما حدث ويطلب استرداد المبلغ.
تشمل المعلومات الأكثر صلة متوسط أوقات التحضير لدى المطعم، ومدة التحضير الفعلية لهذا الطلب تحديدًا، وسجل مسارات السائق، وأي تنبيهات ظهرت أثناء التنفيذ. وكلها مفيدة مباشرةً وتُنتج إجابة أفضل وأكثر دقة.
لكنها ستكشف أيضًا بيانات الأداء التشغيلي للمطعم لعميل لا يحق له الاطلاع عليها، وستُدين سلوك السائق دون إجراءات منصفة، وسترسم صلة مباشرة بين نتيجة طرف وبيانات طرف آخر، دون علم أي منهما أو موافقته.
لم يرتكب الوكيل خطأً، بل فعل تمامًا ما صُمم من أجله: العثور على ما هو ذو صلة واستخدامه. الخطأ كان في افتراض أن الصلة والإذن أمر واحد.
لماذا يصعب هذا التمييز أكثر مما يبدو
في المنتجات أحادية الطرف، تتطابق الصلة والإذن في الغالب؛ فالمستخدم الذي يطرح السؤال هو نفسه صاحب البيانات المعنية. والفجوة بين ما هو مفيد وما هو مسموح به ضيقة بما يكفي لأن يتعامل معها معظم الوكلاء دون حوادث.
أما المنصات متعددة الأطراف فتهدم هذا الافتراض كليًا.
فلكل فئة من المشاركين بياناتها ومسارات عملها وتوقعاتها بشأن الخصوصية، وتعريفها الخاص للنتيجة العادلة. وعندما يعمل وكيل ذكاء اصطناعي عبر جميع هذه الفئات انطلاقًا من قاعدة معرفية مشتركة، فإنه لا يتعامل مع بيئة بيانات واحدة، بل مع عدة بيئات في آن واحد دون حدود صارمة تفصل بينها.
وتظهر 3 أنماط إخفاق باستمرار:
تسرّب البيانات عبر الواجهات. معلومات ذات صلة بواجهة ما تخص مشاركًا على واجهة أخرى: وكيل للعملاء يستطيع رؤية سجل نزاعات التاجر، أو بوابة للتجار تعرض تفاصيل شكاوى العملاء، أو واجهة للسائقين تشير إلى بيانات الإنفاذ على مستوى المنصة.
إجراءات تُحدث عواقب غير مراجَعة في مكان آخر. يؤدي استرداد مبلغ على واجهة العملاء إلى خصم من مستحقات التاجر على واجهة التجار. ووكيل الذكاء الاصطناعي القادر على اتخاذ الإجراء الأول دون رؤية عاقبته الثانية سيتخذ قرارات تبدو معقولة لكنها تُحدث مشكلات لا يواجهها أبدًا، فلا تكتمل حلقة التغذية الراجعة.
معاملة غير متسقة بحسب فئة المشاركين. السؤال الجوهري نفسه، لماذا خُفّض مبلغ دفعتي؟، يحمل معنى مختلفًا جذريًا بحسب ما إذا كان من يطرحه تاجرًا أم سائقًا. فالبيانات المؤهلة، والاستجابة المناسبة، والإجراءات المسموح بها كلها مختلفة. والوكيل الذي يفتقر إلى حدود صارمة بين الواجهات يُنتج إجابات صحيحة تقنيًا لكنها خاطئة في سياقها.
ولا يتحمل وكيل الذكاء الاصطناعي مسؤولية أي من ذلك، فهي إخفاقات في البنية. لم يُخبَر الوكيل قط أين تقع الحدود.
الصلة نقطة انطلاق، لا تفويض
إليكم إعادة الصياغة الجوهرية: ينبغي أن توجّه الصلة ما يبحث عنه الوكيل، لكن الأهلية هي التي يجب أن تحدد ما يمكنه الوصول إليه فعليًا.
سؤالان منفصلان، تتم الإجابة عنهما بالتتابع.
الأهلية أولًا. قبل أن يسترجع الوكيل أي شيء، يجب أن تكون المنصة قد أجابت مسبقًا: من أي واجهة يأتي هذا التفاعل؟ وما فئة المشاركين التي جرت مصادقتها؟ وما البيانات والإجراءات المتاحة لهذه الواجهة وهذا الدور وسياق السياسة هذا؟ وما المحظور قطعيًا مهما بلغت صلته؟
هذه ليست أسئلة يستنتج النموذج إجاباتها، بل قيود تفرضها المنصة بشكل حتمي قبل أن يبدأ الوكيل عمله. ثم تعمل الصلة ضمن هذه القيود، لا بديلًا عنها.
والأثر العملي لذلك كبير. فالوكيل المحصور في واجهة العملاء لا يمكنه كشف بيانات التجار عن طريق الخطأ، لا لأنه تلقى تعليمات بعدم فعل ذلك، بل لأن تلك البيانات لم تكن مؤهلة أصلًا. يمكن الالتفاف على تعليمات الأوامر، أما قيود الأهلية فلا.
ولهذا التمييز أهمية تفوق ما قد يبدو. فعبارة «لا ينبغي استخدامها» لا توفر مستوى الحماية ذاته الذي توفره «لا يمكن الوصول إليها». وعلى نطاق واسع، وفي البيئات المعقدة، ومع الحالات الاستثنائية الحقيقية، لا يصمد سوى الثاني.
ماذا يعني ذلك عمليًا
المنصات التي تُحسن التعامل مع ذلك لا تبني وكلاء أكثر تقييدًا، بل تبني وكلاء ذوي بنية أفضل. تبقى قدرة الوكيل على الاستدلال كما هي؛ وما يتغير هو الواجهة التي يستدل بناءً عليها.
والنتيجة ليست وكيلًا أقل قدرة، بل وكيلًا يمكن الوثوق به عبر جميع فئات المشاركين في آن واحد. وعلى المنصات متعددة الأطراف، هذه هي القدرة التي تتوسع.
الصلة توصلكم إلى إجابة جيدة، والأهلية توصلكم إلى إجابة جديرة بالثقة.
شاهدوه على محادثاتكم الفعلية.
اطلبوا عرضًا توضيحيًا مخصصًا ومجانيًا.
