إليكم محادثة تتكرر أكثر مما يدركه معظم الناس.
يتواصل أحد العملاء مع موظف دعم لحل مشكلة ما. وخلال المحادثة، يشارك بيانات الحساب المعتادة مثل اسمه أو عنوان بريده الإلكتروني أو رقم هاتفه أو معرّف العميل. لكن بعض العملاء يشاركون أحيانًا أكثر من اللازم: رقم الضمان الاجتماعي، أو بيانات بطاقة الائتمان، أو معلومات طبية مثل التشخيص أو اسم دواء موصوف.
والسؤال بسيط لكنه بالغ الأهمية: ماذا ينبغي أن يحدث لهذه البيانات بعد ذلك؟
في Maven AGI، نميّز بوضوح بين المعلومات المعتمدة والمعلومات الحساسة غير الضرورية. فلا يُسمح بدخول مسار معالجة الذكاء الاصطناعي إلا للبيانات المعتمدة صراحةً لحالة استخدام محددة. أما أي بيانات حساسة غير ضرورية فتُكتشف وتُحجب تلقائيًا عند الاستقبال، قبل أن تُستخدم في استدلال الذكاء الاصطناعي، أو تُرسل إلى مزوّدي النماذج الخارجيين، أو تُدوَّن في سجلات التدقيق، أو تُعرض في واجهات موظفي الدعم.
هذه الضوابط قائمة على السياسات ومتّسقة، ولا تُعدَّل من محادثة إلى أخرى. إذ يحدد عملاؤنا المعلومات المعتمدة لسير عملهم، وتطبّق Maven AGI هذه السياسات باتساق على مستوى المنصة بأكملها.
هذه ليست ميزة أُضيفت لاحقًا، بل هي الطريقة التي صُمّم بها النظام منذ اليوم الأول.
مشكلة الثقة في الذكاء الاصطناعي المؤسسي
لم يعد تبنّي المؤسسات للذكاء الاصطناعي مقيّدًا بقدرات النماذج، بل بالثقة.
فالمؤسسات التي تقيّم منصات الذكاء الاصطناعي التحادثي تطرح الأسئلة العملية نفسها: هل يستطيع هذا النظام التعامل بأمان مع بيانات العملاء الحساسة؟ وكيف يمنع الكشف غير الضروري عن المعلومات عالية المخاطر؟ وكيف نُثبت فعالية الضوابط أمام المدققين والجهات التنظيمية والعملاء؟ وهل يمكن نشر الذكاء الاصطناعي في البيئات الخاضعة للتنظيم دون استحداث مخاطر جديدة؟
هذه ليست مخاوف نظرية. فعندما راجع أحد عملائنا من المؤسسات التي تولي الأمن أولوية قصوى وضعَ الامتثال لدى Maven، كان رده الفوري: سيكون مجلس إدارتنا راضيًا جدًا عن هذا. لم يكن ذلك الرد متعلقًا بالميزات فحسب، بل كان تعبيرًا عن الثقة بأن نشر الذكاء الاصطناعي لن يُنشئ عبئًا على صعيد الحوكمة أو الامتثال.
الأمن جزء من البنية، لا إضافة لاحقة
يرتكز نهج Maven على مبدأ بسيط: الأمن المفوَّض.
فنحن لا نطلب من العملاء اعتماد نموذج جديد للهوية أو الوصول، بل نتكامل مع الأنظمة التي يثقون بها بالفعل. يحدد العملاء سياسات الوصول، وتطبّقها Maven AGI باتساق.
وتكمن أهمية ذلك في أن متطلبات الأمن ليست موحّدة؛ فلكل قطاع ولكل مؤسسة قيودها التنظيمية والتشغيلية وقيود المخاطر الخاصة بها، ولا يصلح نهج أمني واحد للجميع.
وبشكل عام، توفر Maven AGI التكامل مع أنظمة الهوية المؤسسية، والتحكم في الوصول القائم على الأدوار، والمصادقة القوية للمستخدمين ذوي الصلاحيات المميزة، وتسجيل التدقيق الشامل، والتشفير أثناء النقل والتخزين، وعزل المستأجرين، واختبارات الأمن المستقلة المستمرة.
أمن المنتج: الطبقة الخاصة بالذكاء الاصطناعي
الضوابط الأمنية التقليدية ضرورية، لكنها ليست كافية؛ إذ تُدخل أنظمة الذكاء الاصطناعي أنماطًا جديدة من الإخفاقات تتطلب ضمانات إضافية.
البيانات المعتمدة تدخل، والبيانات الحساسة غير الضرورية تُستبعد. تعتمد Maven AGI نموذج قائمة سماح يحددها العميل وتُطبَّق وفق السياسات. ويُسمح بعناصر البيانات المعتمدة، مثل الأسماء وعناوين البريد الإلكتروني وأرقام الهواتف ومعرّفات الحسابات، متى كانت مطلوبة لسير عمل الدعم. أما البيانات الحساسة عالية المخاطر غير الضرورية، مثل أرقام الضمان الاجتماعي أو معلومات الحسابات المالية أو التفاصيل الطبية، فتُكتشف وتُحجب عند الاستقبال. ويتم الحجب قبل أي استدعاء لنماذج خارجية، أو تخزين طويل الأمد، أو تسجيل في سجلات التدقيق، أو عرض في واجهات موظفي الدعم.
لا تُستخدم بيانات العملاء لتدريب النماذج. لا تستخدم Maven AGI بيانات العملاء لتدريب النماذج التأسيسية أو ضبطها الدقيق، ولا تُجمَّع بيانات العملاء أو يُعاد استخدامها لتحسين النماذج.
السلامة والصمود أمام الهجمات. صُمّمت المنصة لرصد المحتوى الضار والتصدي للتهديدات الخاصة بالذكاء الاصطناعي، بما في ذلك حقن الأوامر (Prompt Injection)، ومحاولات التمويه، والأساليب الرامية إلى استخراج البيانات الحساسة أو تجاوز سلوك النظام.
إجابات موثّقة وقابلة للتتبع. تستند الردود إلى مصادر معرفية يعتمدها العميل، ويمكن للمستخدمين الاطلاع على المعلومات التي بُنيت عليها كل إجابة، مما يقلل المخرجات غير المدعومة ويعزز قابلية التدقيق.
إشراف بشري ضمن التصميم. عندما لا تكون الأتمتة مناسبة، تدعم Maven AGI التصعيد إلى موظفي الدعم البشريين بناءً على مؤشرات قابلة للتهيئة، مثل حدود الثقة أو طلبات العملاء أو مؤشرات مخاطر المحادثة. ويتلقى الموظفون السياق الكامل حتى لا يضطر العملاء إلى تكرار ما قالوه.
التحقق عبر عمليات تدقيق مستقلة
الضوابط القوية مهمة، والتحقق المستقل يعزز الثقة.
يجري التحقق من ممارسات Maven في الأمن والخصوصية وحوكمة الذكاء الاصطناعي عبر عمليات تدقيق وشهادات من جهات خارجية، تشمل ISO/IEC 27001:2022 (إدارة أمن المعلومات)، وSOC 2 Type II (ضوابط الأمن والتوافر والسرية)، وISO/IEC 27017 (ضوابط أمن الحوسبة السحابية)، وISO/IEC 27018 (حماية البيانات الشخصية في البيئات السحابية)، وPCI-DSS v4.0 Level 1 AOC، وHIPAA/HITECH مع إتاحة اتفاقية BAA، وISO/IEC 27701 (إدارة معلومات الخصوصية)، وISO/IEC 42001 (نظام إدارة الذكاء الاصطناعي).
وتوفر شهادة ISO/IEC 42001 تحققًا مستقلًا من أن أنظمة الذكاء الاصطناعي لدى Maven تخضع للحوكمة عبر سياسات محددة ومراقبة وإدارة للحوادث، لا أنها تُنشر وتُترك دون رقابة.
الأمن والحوكمة في بيئات المؤسسات الخاضعة للتنظيم
الشهادات مهمة، لكنها جزء من منظومة أشمل.
فالمقياس الحقيقي للنجاح هو قدرة المؤسسات على نشر الذكاء الاصطناعي بثقة: مع اليقين بأن بياناتها محمية، والتزاماتها مستوفاة، وأنظمة الذكاء الاصطناعي لديها تعمل بشكل متوقع ومسؤول في بيئة الإنتاج.
إذا كنتم تقيّمون حلول الذكاء الاصطناعي التحادثي للمؤسسات أو القطاعات الخاضعة للتنظيم، فإليكم الأسئلة التي تستحق أن تطرحوها على المورّدين: ما المعلومات المسموح بدخولها صراحةً إلى نظام الذكاء الاصطناعي؟ وأين ومتى تُحجب البيانات الحساسة غير الضرورية؟ وهل تُستخدم بيانات العملاء لتدريب النماذج؟ وما الشهادات التي حصلتم عليها فعليًا؟ وهل يمكن نشر النظام محليًا عند الحاجة؟ وكيف تتعاملون مع حقن الأوامر وغيره من الهجمات الخاصة بالذكاء الاصطناعي؟ وماذا يحدث عند تصعيد الذكاء الاصطناعي المحادثة إلى موظف بشري؛ هل يضطر العميل إلى البدء من جديد؟
في Maven AGI، لا يُعدّ الأمن وحوكمة الذكاء الاصطناعي أمرًا ثانويًا أو ادعاءات تسويقية، بل هما الأساس الذي تقوم عليه البنية ويجعل تبنّي المؤسسات للذكاء الاصطناعي ممكنًا.
إذا رغبتم في رؤية هذا النهج عمليًا، يمكنكم طلب عرض توضيحي، أو زيارة مركز الثقة لدينا.
شاهدوه على محادثاتكم الفعلية.
اطلبوا عرضًا توضيحيًا مخصصًا ومجانيًا.
