ما المعنى الحقيقي لـ«التحكم الحتمي» في وكلاء الذكاء الاصطناعي

كل بضعة أشهر، يُفرز مجال الذكاء الاصطناعي المؤسسي مصطلحًا جديدًا يتكرر حتى يفقد معناه. الذكاء الاصطناعي المسؤول. الإنسان في الحلقة. الحواجز الوقائية. كلمات بدأت مفاهيمَ تقنية دقيقة، ثم تحولت إلى اختزالات تسويقية قبل أن يتفق أحد على ما تصفه فعلًا.

والتحكم الحتمي مهدد بأن يسلك المسار نفسه.

وهذه مشكلة. فخلافًا لمعظم لغة حوكمة الذكاء الاصطناعي، يصف هذا المفهوم شيئًا محددًا حقًا: مبدأ تصميم له انعكاسات فعلية على البنية المعمارية، وفرق قابل للقياس في النتائج مقارنةً بالبديل. وتركه يغدو مبهمًا له ثمن.

لذا، قبل أن يحدث ذلك: إليكم المعنى الفعلي للتحكم الحتمي، ولماذا يهم وكلاء الذكاء الاصطناعي في البيئات المعقدة، وكيف يبدو عمليًا مقارنةً بالنهج الذي يحل محله.

طريقتان لحوكمة وكيل الذكاء الاصطناعي

النهج السائد اليوم في حوكمة وكلاء الذكاء الاصطناعي هو الحوكمة الاحتمالية. يحظى الوكيل بوصول واسع إلى الأنظمة والبيانات، ويستنتج ما هو ذو صلة ومناسب بحسب السياق. وتلتقط مرشحات المخرجات والحواجز الوقائية وفحوصات ما بعد التوليد المشكلاتِ بعد وقوعها. ويبقى حكم النموذج الآليةَ الأساسية التي تُبقي السلوك ضمن الحدود المقبولة.

ينجح ذلك بما يكفي في البيئات المتجانسة نسبيًا. فحين تكون مجموعة التفاعلات الممكنة قابلة للتنبؤ، وتنطبق القواعد نفسها على مختلف المستخدمين والسياقات، وتكون الفجوة بين ما هو ذو صلة وما هو مناسب ضئيلة، تحقق الحوكمة الاحتمالية نتائج مقبولة في معظم الأحيان.

لكن «معظم الأحيان» هو المشكلة بعينها. ففي البيئات عالية المخاطر أو المعقدة أو متعددة الأطراف، لا تكون الحالات الاستثنائية نادرة، بل جزءًا من البنية ذاتها. وعندما تقع، تفشل الأنظمة الاحتمالية بطرق يصعب التنبؤ بها، ويصعب تفسيرها، ويصعب اكتشافها قبل وقوع الضرر.

أما التحكم الحتمي فيتبنى نهجًا مختلفًا جذريًا. فبدلًا من ترك الوكيل يحدد ما هو ممكن والاعتماد على فحوصات لاحقة لالتقاط الأخطاء، تحدد المنصة ما يُسمح للوكيل بفعله قبل أن يبدأ. إذ تُرسى صلاحيات الوصول والإجراءات وعتبات التصعيد والأذونات الخاصة بكل طرف مسبقًا، كقيود صارمة، لا كتوجيهات يوازنها النموذج مع عوامل أخرى.

ثم يعمل الوكيل بكامل قدرته على الاستدلال، لكن ضمن حدود رُسمت قبل أن يلمس أي شيء.

لماذا يهم التسلسل أكثر من القواعد

أهم ما في التحكم الحتمي ليس القواعد ذاتها، بل توقيت فرضها. فمعظم أطر الحوكمة تُطبَّق بأثر لاحق: بعد أن يسترجع الوكيل المعلومات، ويولّد استجابة، ويتخذ إجراءً. أما التحكم الحتمي فينقل نقطة الفرض إلى مرحلة أسبق، قبل حدوث أي استرجاع أو استدلال أو توليد على الإطلاق.

وهذا الفرق أعمق مما يبدو.

عندما تُطبَّق الحوكمة بعد التوليد، يكون الوكيل قد وصل بالفعل إلى بيانات ربما لم يكن مسموحًا له باستخدامها واستدل بها. وحتى لو التُقطت المخرجات ورُشّحت، فإن العملية الداخلية التي أنتجتها جرت بلا حوكمة. وعلى نطاق واسع، يصبح الترشيح اللاحق للتوليد موقفًا دفاعيًا في مواجهة مشكلة نشأت منذ الخطوة الأولى.

وعندما تُفرض الأهلية قبل الاسترجاع، لا يصل الوكيل أبدًا إلى البيانات الواقعة خارج النطاق. فالمشكلة لا تُرشَّح لاحقًا، بل لا تدخل النظام من الأساس. ولا يمكن للوكيل أن يستدل ببيانات لا يراها.

إن «لا ينبغي أن يستخدم» و«لا يستطيع الوصول» يقودان إلى نتائج مختلفة تمامًا في بيئة الإنتاج. فالأول يعتمد على التزام النموذج الموثوق بالتعليمات في كل سياق ممكن، والثاني لا يعتمد على النموذج إطلاقًا.

الأسئلة الأربعة التي يجب الإجابة عنها قبل تشغيل الوكيل

عمليًا، يعني التحكم الحتمي وضع إجابات واضحة عن أربعة أسئلة في بداية كل تفاعل.

ما الواجهة المعنية؟ هل يأتي التفاعل من واجهة عميل، أم بوابة تاجر، أم تطبيق سائق، أم أداة داخلية؟ تحدد الواجهة السياق الأساسي لكل ما يليها. ولا ينبغي استنتاجها من مؤشرات المحادثة، بل يجب تمريرها كمُدخل صارم من طبقة المصادقة والتوجيه في المنصة.

ما البيانات المؤهلة؟ بناءً على الواجهة والهوية المُصادَق عليها والدور: ما الأنظمة ومصادر البيانات الداخلة في نطاق هذا التفاعل؟ الأهلية ليست اقتراحًا للوكيل، بل مرشّح صارم لما يمكن استرجاعه. فالبيانات غير المؤهلة ليست مخفية عن الوكيل، بل هي ببساطة غير متاحة للاسترجاع. وهذا الفرق جوهري على مستوى التنفيذ.

ما الإجراءات المسموح بها؟ ما الذي يستطيع الوكيل فعله حقًا في هذا السياق؟ إصدار استرداد؟ الإبلاغ عن نزاع؟ تحديث حقل في الحساب؟ بدء تصعيد؟ تُحدَّد الإجراءات المسموح بها صراحةً بحسب الواجهة والدور والسياسة، لا استنتاجًا من نية المحادثة. فسؤال العميل عما إذا كان بإمكان الوكيل تعديل إعدادات تاجر لا يُدخل هذا الإجراء في النطاق. المنصة هي التي تحدد الإجراءات المسموح بها، لا مضمون الطلب.

أين خط التصعيد؟ لكل سياق، يجب أن تكون هناك عتبة محددة يتوقف بعدها الوكيل ويحيل الأمر إلى إنسان. وهذا ليس حلًا احتياطيًا لحالات الخلل، بل ميزة تصميمية في نموذج التفاعل. ففي المنصات التي قد يؤثر فيها قرار واحد على عدة فئات من الأطراف، لا يُعد اللجوء إلى الحكم البشري علامة على فشل الذكاء الاصطناعي، بل كثيرًا ما يكون القرار الصائب، وينبغي أن تجعل البنية المعمارية الوصول إليه سهلًا.

لا يجيب الوكيل عن هذه الأسئلة الأربعة، بل تجيب عنها المنصة، وتُرمَّز كقيود، وتُفرض قبل تشغيل الوكيل.

ما ليس عليه التحكم الحتمي

ثمة مفاهيم يُخلط بينها وبين التحكم الحتمي كثيرًا، وإليكم لماذا تهم هذه الفروق.

ليس مرادفًا للسيناريوهات الجامدة. فالوكلاء المعتمدون على السيناريوهات يتبعون مسارات ثابتة ولا يستطيعون التعامل مع التنوع. أما وكلاء الذكاء الاصطناعي الخاضعون للتحكم الحتمي فيستطيعون الاستدلال بحرية، والتعامل مع مدخلات جديدة، وتوليد استجابات مرنة، لكن ضمن سياق محدود. فالقيد يقع على الوصول والإجراءات، لا على الاستدلال.

لا يتعلق بتقييد القدرات. من الاعتراضات الشائعة على أطر الحوكمة أنها تجعل الوكلاء أقل فائدة. لكن التحكم الحتمي لا يقلل ما يستطيع الوكيل فعله، بل يحدد النطاق الذي يعمل فيه. فالوكيل العامل ضمن النطاق المؤهل للعميل يتمتع بقدرات كاملة داخل ذلك النطاق. والحدود لا تُضعف الاستدلال، بل تحكم البيئة التي يجري فيها.

لا تحله أوامر نصية أفضل. الحوكمة القائمة على الأوامر النصية تخبر الوكيل كيف يتصرف، أما التحكم الحتمي فيخبر المنصة بما يُسمح للوكيل بفعله. يمكن الالتفاف على الأوامر النصية أو إساءة تفسيرها أو إغراقها بالسياق، أما قيود الأهلية المفروضة على مستوى البنية المعمارية فلا مجال لمجادلتها.

ليس حكرًا على المنصات متعددة الأطراف. يكتسب التحكم الحتمي أهميته في أي موضع تكون فيه عواقب أخطاء الذكاء الاصطناعي غير متكافئة: حيث يؤثر خطأ في تفاعل ما على أطراف لم تكن جزءًا منه، أو حيث تتفاوت حساسية البيانات كثيرًا بحسب السياق، أو حيث تجعل المتطلبات التنظيمية الحوكمة الاحتمالية غير كافية. والمنصات متعددة الأطراف هي المثال الأوضح، لكنها ليست الوحيدة.

التحكم الحتمي على أرض الواقع

كيف يبدو ذلك فعليًا في نظام قيد التشغيل؟

قبل بدء أي تفاعل، ترسي المنصة السياق: الواجهة، والمستخدم المُصادَق عليه، والدور، والسياسات النافذة. ويُمرَّر هذا السياق كمُدخل منظّم، لا كلغة طبيعية داخل أمر نصي، بل كمعاملات صارمة تتحكم في ما يمكن للوكيل الوصول إليه.

يقتصر استرجاع المعرفة لدى Agent Maven على المصادر المؤهلة لذلك السياق، وتقتصر مجموعة إجراءاته على العمليات المسموح بها، وعتبات التصعيد لديه محددة. ولا يظهر شيء من ذلك في المحادثة، فهو يحدث قبل أن تبدأ.

ثم يؤدي Agent Maven ما يجيده وكلاء الذكاء الاصطناعي: فهم الطلب، واسترجاع المعلومات ذات الصلة ضمن النطاق المؤهل، والاستدلال على أفضل استجابة، والتصرف وفقًا لذلك، عاملًا ضمن نطاق صممته المنصة، لا نطاق اكتشفه بنفسه.

والنتيجة وكيل يتصرف باتساق، لا لأنه طُلب منه ذلك، بل لأن البنية المعمارية تجعل عدم الاتساق صعبًا من الناحية الهيكلية.

هذا هو المعنى الفعلي للتحكم الحتمي. وفي البيئات التي ترتفع فيها كلفة عدم الاتساق، يصنع الفرق بين ذكاء اصطناعي يعزز الثقة على نطاق واسع، وذكاء اصطناعي يقوّضها بصمت.