يعمل وكلاء الذكاء الاصطناعي بسرعات تتجاوز بكثير قدرة الإنسان على متابعة كل إجراء يتخذونه. ومع اتساع دورهم داخل المؤسسات، لم تعد المشكلة في تمكينهم من أداء مزيد من المهام، بل في معرفة متى يجب السماح لهم بالاستمرار، ومتى يصبح التدخل البشري ضرورياً.
بالنسبة إلى جيمس هودج، كبير استراتيجيي البيانات والمدير التقني الميداني في شركة «سبلانك» التابعة لـ«سيسكو»، فإن الإجابة تبدأ من إدارة المخاطر. فالمؤسسة التي تتعامل مع بيانات جوازات سفر، مثلاً، قد تختار إيقاف النظام عند أدنى مؤشر خطر، بينما تستطيع خدمة منخفضة الحساسية تحمّل هامش أكبر قبل التدخل. الفارق لا تحدده التقنية وحدها، بل طبيعة البيانات، والقطاع، والإطار التنظيمي، ومستوى المخاطر المقبول.
السلوك المتوقع مقابل السلوك المنحرف
أحد أصعب التحديات التي تظهر مع وكلاء الذكاء الاصطناعي هو أن الخطأ لا يحمل دائماً شكلاً واحداً. فقد يكون ناتجاً عن خلل في النظام، أو عن تعليمات لم تُصغ بدقة، أو عن تلاعب خارجي، أو عن اختراق أمني فعلي. ويقول هودج خلال لقاء خاص مع «الشرق الأوسط» على هامش مؤتمر «سبلانك» الذي عقد في مدينة دنفر الأميركية إن الخطوة الأولى يجب ألا تكون القفز مباشرة إلى سؤال ما إذا كان الحادث أمنياً، أو تشغيلياً، بل معرفة ما إذا كان الوكيل ما زال يتصرف ضمن الحدود المتوقعة منه.
ويشرح أن ذلك يتطلب ثلاث طبقات مترابطة، بدءاً من طبقة بيانات يعتمد عليها الوكيل، وطبقة سياق تساعد في فهم ما يحدث، ثم طبقة سياسات تحدد ما يعتبر سلوكاً مقبولاً. وعندها يمكن مقارنة ما يقوم به الوكيل فعلياً بما كان متوقعاً منه، ورصد أي انحراف قبل أن يتحول إلى مشكلة أكبر.
ولا يعني الانحراف بالضرورة وجود هجوم. فقد ينفذ الوكيل ما طُلب منه حرفياً، لكن بطريقة غير مناسبة، لأن التعليمات نفسها لم تكن دقيقة. وقد يكون الخطأ ناتجاً عن برمجة غير مكتملة، أو عن محاولة خارجية للتلاعب بالوكيل. وهنا تبدأ عملية التحقيق لتحديد ما إذا كانت المشكلة يجب أن تُحال إلى فريق تشغيل الأنظمة، أو إلى مركز العمليات الأمنية، أو مستقبلاً إلى وكلاء آخرين متخصصين في التحقيق، والتحليل.
لا استقلالية من دون تفسير
يضع هودج شرطاً أساسياً قبل الحديث عن منح وكلاء الذكاء الاصطناعي صلاحيات أكبر: أن تستطيع المؤسسة تفسير ما يفعلونه. ويشير إلى أن المؤسسة التي لا تستطيع شرح ما الذي ينفذه الوكيل، وما الأنظمة التي يتفاعل معها، ولماذا اتخذ مساراً معيناً، فإنها ستجد صعوبة في تحديد مستوى المخاطر، أو تقرير متى يحتاج القرار إلى تدخل بشري.
ويضرب مثالاً بأدوات البرمجة المدعومة بالذكاء الاصطناعي، موضحاً أنه إذا استخدم مطور أدوات مثل «Claude» أو «Codex» لإنشاء شيفرة برمجية، فمن المهم أن يفهم فعلياً ما الذي كُتب داخلها، بدلاً من الاكتفاء بقبول النتيجة.
وينطبق المبدأ نفسه على وكلاء الذكاء الاصطناعي. فإذا لم تتمكن المؤسسة من تفسير ما يقوم به الوكيل، يصبح من الصعب عليها تحديد ما إذا كان يمكن السماح له بالتنفيذ المباشر، أو الاكتفاء بتقديم توصية تحتاج إلى موافقة بشرية. وبذلك تصبح قابلية التفسير جزءاً من إدارة المخاطر نفسها، لا مجرد ميزة تقنية. فكلما ارتفعت درجة الرؤية إلى سلوك الوكيل، أصبح من الأسهل تحديد مقدار الاستقلالية التي يمكن منحه إياها.
إعادة بناء القرار من البداية
تزداد صعوبة المسألة عندما لا يعمل الوكيل وحده، بل يستدعي وكلاء أو أنظمة أخرى ضمن سلسلة طويلة من الإجراءات. وبحسب هودج، تتيح أدوات مراقبة الوكلاء تسجيل المطالبات التي تدخل إلى النظام، والمدخلات التي تلقاها، والخطوات التي نفذها، والمخرجات التي نتجت عنها، بما يسمح بإعادة بناء المسار الذي أدى إلى القرار النهائي.
ولتفسير ذلك بشكل أوضح، يقول مثلاً إذا طلب موظف الحصول على بيانات رواتب العاملين، ففي بيئة مؤسسية مضبوطة يمكن لطبقة حماية أن ترفض الطلب قبل وصوله إلى الوكيل إذا خالف السياسة، ثم تستمر أدوات المراقبة في تسجيل ما يحدث لاحقاً. وتظهر أهمية ذلك عند التحقيق في الأخطاء، لأن المؤسسة لا تحتاج فقط إلى معرفة أن قراراً غير مناسب حدث، بل إلى تحديد مصدره الأصلي، وما إذا كان ناتجاً عن تعليمات المستخدم، أو عن خطوة وسيطة، أو عن قرار اتخذه وكيل آخر داخل سير العمل.
الرؤية من الرقاقة إلى مستوى الأعمال
في بيئات معقدة قد يحتاج التحقيق إلى تتبع ما يحدث عبر طبقات متعددة، من الرقاقة، والشبكة، والبنية التحتية، إلى التطبيقات، والخدمات، ثم مستوى الأعمال.
ويشير هودج إلى أن استراتيجية شركة «سبلانك» تعتمد على جمع البيانات من مختلف أنحاء المؤسسة، وربطها، مستشهداً بـ«Cisco Data Fabric» و«Machine Data Lake» وإمكانات البحث الموحّد عبر البيانات. والهدف باعتقاده هو أن تستطيع المؤسسة رؤية الطلب الأصلي، ثم متابعة أثره عبر الشبكة، والبنية التحتية، والتطبيق، والخدمة، والعملية التجارية، بدلاً من التعامل مع كل طبقة بمعزل عن الأخرى.
ويصبح هذا النوع من الرؤية أكثر أهمية كلما زادت قدرة الوكلاء على تنفيذ سلسلة من الإجراءات بصورة مستقلة، لأن الخطأ قد يبدأ في طبقة واحدة، ثم يظهر أثره في مكان آخر تماماً.
الوكيل الداخلي ليس كالخارجي
يبرز هودج فارقاً أساسياً بين الوكلاء الذين تعمل عليهم المؤسسة داخل بيئتها التقنية، والوكلاء الخارجيين الذين يتصلون بخدماتها عبر واجهات برمجة التطبيقات، أو بروتوكولات اتصال أخرى.
فإذا كان الوكيل داخل حدود المؤسسة، يمكن معرفة الجهاز الذي يعمل عليه، ومن أنشأه، وما الأدوات التي يستخدمها، وجمع بيانات مفصلة عن سلوكه. أما إذا كان الوكيل يعمل خارج البيئة التي تسيطر عليها المؤسسة، فقد لا تكون الرؤية متاحة إلا للطلب الذي وصل إلى النظام، من دون معرفة ما الذي جرى داخل الوكيل قبل ذلك. وهذا الفرق يضع حدوداً عملية على فكرة المراقبة الشاملة، خصوصاً مع توسع استخدام وكلاء تابعين لأطراف خارجية.
السرعة تفرض أدوات أخف
قد ينفذ الوكيل خلال ثوانٍ عدداً من الاستدعاءات والإجراءات يفوق بكثير ما يقوم به مستخدم بشري، ما يجعل مراقبة كل خطوة باستخدام نموذج لغوي كبير أمراً مكلفاً، وبطيئاً. ولهذا يقول جيمس هودج إن «سبلانك» تعتمد على مزيج من الأساليب، بينها نماذج لغوية أصغر، ومحددة المهام، إلى جانب تقنيات إحصائية، وقواعد تقليدية، لرصد الانحرافات بسرعة وكلفة أقل.
وفي أحد العروض داخل المؤتمر أشار هودج إلى مثال تجاوزت فيه درجة المخاطر 70 في المائة، ما أعطى ثقة قوية بوجود حادث أمني، لكن القرار النهائي بشأن الإيقاف أو السماح باستمرار العمل بقي بيد المحلل. ويؤكد أن هذه النسبة ليست قاعدة ثابتة. فقد تختار مؤسسة التعامل مع مستوى خطر أقل بكثير باعتباره سبباً كافياً للإيقاف إذا كان الوكيل يتعامل مع نظام حرج، بينما يمكن قبول هامش أكبر في خدمة منخفضة الحساسية.
الاستقلالية ليست مستوى واحداً
ومن هنا يأتي مفهوم «الاستقلالية القابلة للضبط». فعند اكتشاف وكيل جديد، تبدأ المؤسسة في فهم ما الذي يفعله، والأنظمة التي يتفاعل معها، ونوعية البيانات التي يطلبها، وإلى أين تنتقل تلك البيانات.
بعد ذلك يمكن بناء ملف مخاطر للوكيل، ووضع سياسة تحدد ما إذا كان يسمح له بالتوصية فقط، أو بالتنفيذ بعد موافقة بشرية، أو بالعمل بصورة أكثر استقلالية. ويرى هودج أن هذه المرونة ضرورية، لأن مستويات المخاطر تختلف جذرياً من استخدام إلى آخر، ولا يمكن تطبيق نموذج واحد على كل وكلاء الذكاء الاصطناعي.
الإنسان ما زال ضرورياً
ورغم الاتجاه نحو قدر أكبر من الاستقلالية لا يعد هودج أن المؤسسات وصلت إلى مرحلة يمكن فيها إخراج الإنسان من القرارات الحساسة. وقال إن التدخل البشري «يجب أن يبقى في الوقت الحالي»، خصوصاً في القطاعات الأكثر حساسية، لأن المؤسسات لا تزال تتعلم كيفية قياس المخاطر، والحوكمة، والتكلفة المرتبطة بالذكاء الاصطناعي. ولفت إلى أن التحدي لا يقتصر على بناء وكلاء قادرين على التنفيذ، بل القدرة على منح فرق المؤسسة الثقة الكافية لفهم ما يحدث عندما تعمل هذه الأنظمة بسرعة الآلة. وبذلك فإن الانتقال إلى استقلالية أوسع لن يحدث دفعة واحدة، بل عبر مراحل تبدأ بالمراقبة، والفهم، ثم منح صلاحيات محدودة، وصولاً إلى مستويات أعلى من التنفيذ عندما تصبح المؤسسة قادرة على تقييم المخاطر بصورة أكثر دقة.
السعودية... التنظيم يساعد على التسريع
في الجانب السعودي يصف هودج المملكة بأنها «واحدة من أسرع أسواقنا نمواً»، مشيراً إلى سرعة تطور قطاع التقنية، وتوسع مشروعات الذكاء الاصطناعي فيها. وينوه إلى أن وجود أطر تنظيمية واضحة حول الأمن، والسيادة على البيانات، ونشر تقنيات الذكاء الاصطناعي يمثل عاملاً يساعد المؤسسات على التحرك بسرعة أكبر. وبحسب هودج فإن وضوح القواعد يتيح للشركات والبنوك والمؤسسات المنظمة معرفة الحدود التي يجب أن تعمل ضمنها، بدلاً من الدخول في مشاريع من دون تصور واضح لمستوى المخاطر المقبول، أو نوع البيانات التي يمكن استخدامها. ويذكر أن هذا الوضوح يسمح لـ«سبلانك» بالعمل مع المؤسسات المالية في المملكة على أساس أطر تنظيمية قائمة، بدلاً من بناء قواعد جديدة لكل حالة. ولا يعني ذلك أن السعودية تمنح الوكلاء استقلالية أكبر من الأسواق الأخرى. بل يقول هودج إن التدخل البشري لا يزال حاضراً في معظم القطاعات، وإن القرار يرتبط بالمخاطر والإطار التنظيمي أكثر من ارتباطه بالسوق نفسها.
السيادة تعيد الذكاء الاصطناعي إلى مراكز البيانات
يمتد النقاش في المملكة إلى مكان تشغيل هذه الأنظمة. فقد لا يكون إرسال جميع البيانات إلى بيئات سحابية خارجية خياراً مناسباً في قطاعات مثل البنوك، والبنى التحتية الوطنية، والمؤسسات التي تتعامل مع بيانات حساسة. وقال هودج إن هذا هو أحد الأسباب التي تجعل توفير إمكانات الذكاء الاصطناعي والمراقبة داخل مراكز البيانات نفسها مهماً للقطاعات المنظمة.
وأشار إلى التعاون مع «إنفيديا»، وإلى حلول التشغيل المحلي التي تتيح نشر أدوات مراقبة الوكلاء ومساعدات الذكاء الاصطناعي داخل بيئة المؤسسة، بدلاً من الاعتماد حصراً على السحابة العامة.
لكنه أوضح أن هذا الطلب لا يقتصر على السعودية، إذ توجد توجهات مشابهة في أوروبا حول السيادة على البيانات، ومكان تشغيل وكلاء الذكاء الاصطناعي، بينما يرى أن المملكة تتميز بسرعة التطور، ووضوح السياسات.
أكبر تحدٍ أمام المؤسسات السعودية
وعندما سؤال «الشرق الأوسط» عن التحدي الأكبر أمام المؤسسات السعودية وهي تنتقل من تجارب الذكاء الاصطناعي إلى الاستخدام الفعلي، لم يضع هودج قوة النماذج أو توفر الحوسبة في مقدمة القائمة.
بل قال إن الصعوبة الرئيسة هي القدرة على رؤية البيانات عبر المؤسسة بأكملها. وبحسب وصفه، تحتاج المؤسسة إلى معرفة ما يجري في كل نظام، وكل تطبيق، وكل وكيل، ثم تقديم هذه المعلومات بطريقة تساعد الموظف على تقييم مستوى المخاطر.
ويبين أن هذا يمثل تغييراً في مهارات فرق تقنية المعلومات نفسها. ففي الأنظمة التقليدية كان من الممكن في كثير من الأحيان تحديد الحالة بصورة ثنائية: النظام يعمل أو لا يعمل، والإشارة خضراء أو حمراء.
أما في عالم وكلاء الذكاء الاصطناعي، فتظهر منطقة أوسع من عدم اليقين. قد يبدو النظام سليماً، لكنه يتجه تدريجياً نحو مستوى أعلى من المخاطر، ما يتطلب من الموظف تفسير الاتجاه والسياق بدلاً من الاعتماد على حالة تشغيل ثابتة.
ولهذا يحذر هودج من الاندفاع مباشرة إلى أكثر تطبيقات الذكاء الاصطناعي تقدماً قبل بناء الأساس اللازم لها. فطبقة البيانات، والسياق، والسياسات، والرؤية عبر الأنظمة ليست مكونات تأتي بعد نشر الوكلاء، بل تعد شروطاً يجب أن تسبق الانتقال إلى التشغيل على نطاق واسع.
