لم يعد الخطر المرتبط بوكلاء الذكاء الاصطناعي يقتصر على نموذج ينتج إجابة خاطئة أو ينفذ أمراً غير دقيق، بل يمتد إلى منظومة من المهارات والملحقات والخوادم الخارجية والأوامر المتسلسلة التي قد تمنح المهاجم طريقاً إلى البيانات والأنظمة الداخلية. ومع انتقال الشركات من استخدام الذكاء الاصطناعي في مهام محدودة إلى وكلاء قادرين على الوصول إلى البريد الإلكتروني وقواعد البيانات وبيئات التطوير، تصبح مراقبة ما يفعله الوكيل أهم من الاكتفاء بفحص التعليمات التي تلقاها.
يقول سيرجي لوزكين، رئيس فريق البحث والتحليل العالمي في منطقتي آسيا والمحيط الهادئ والشرق الأوسط وتركيا وأفريقيا لدى «كاسبرسكي» إن التمييز بين السلوك الطبيعي للوكيل والسلوك الناتج عن التلاعب أصبح أكثر تعقيداً. ففي المراحل الأولى، كانت المهارات الخبيثة تتضمن أوامر مباشرة تطلب من الوكيل تجاوز تعليماته السابقة أو تنفيذ أمر ضار، وهو ما جعل اكتشافها أسهل. أما اليوم، فقد انتقلت الهجمات إلى سلاسل متعددة المراحل تبدو فيها كل خطوة منفردة مشروعة، بينما لا يظهر الجزء الخبيث إلا في مرحلة لاحقة.
مهارة سليمة تقود إلى أخرى خبيثة
يشرح لوزكين خلال لقاء خاص مع «الشرق الأوسط» على هامش مؤتمر «كاسبرسكي للأمن السيبراني» لمنطقة الشرق الأوسط وتركيا وأفريقيا، الذي عُقد في تبليسي عاصمة جورجيا أن الموظف أو مسؤول الأمن قد يفتح مهارة جرى تنزيلها لوكيل ذكي ويفحصها من دون أن يجد فيها ما يثير الشك. وقد تكون وظيفتها الظاهرة الاتصال بخدمة سحابية مشروعة لتنزيل مهارة ثانية، ثم تطلب المهارة التالية الانتظار لفترة أو الاتصال بموقع آخر في توقيت محدد، قبل أن تصل السلسلة أخيراً إلى المكون الخبيث.
وتكمن صعوبة هذا النوع من الهجمات في أن المكونات الأولى لا تحتاج إلى احتواء تعليمات ضارة واضحة. فقد تعمل كل واحدة منها بوصفها حلقة في سلسلة، بينما توزّع الوظيفة الخبيثة بين عدة مهارات أو مصادر. ويعد لوزكين أن المخططات أصبحت «أكثر تطوراً»، وإن فحص مهارة واحدة بمعزل عن سياقها لا يكفي للحكم على سلامة العملية بأكملها.
وقد لا يبقى المكون الخبيث متاحاً لفترة طويلة حيث يمكن في بعض السيناريوهات إدخاله إلى السلسلة لبضع ساعات فقط، ثم إزالته أو استبداله قبل أن يبدأ التحقيق. ويصعّب ذلك الاعتماد على الفحص اللاحق للمستودع أو الرابط، لأن النسخة التي يراجعها المحقق قد لا تكون هي نفسها التي تعامل معها الوكيل وقت وقوع الحادث.
ولهذا يضع لوزكين الثقة في مصدر المهارات ضمن أول خطوط الدفاع. فالشركات التي تعتمد مستودعات موثوقة وخوادم «MCP» معروفة، ويفضل أن تكون مقدمة من الشركة المطورة للنظام أو من جهة خضعت للمراجعة، تقلل احتمال إدخال مكونات ضارة إلى بيئتها.
ويقارن لوزكين بين المهارات البرمجية الخاصة بالوكلاء والبرامج التقليدية التي يجري تنزيلها من الإنترنت. ويقول إن الموقف الأمني يجب أن يكون متشابهاً: «إذا كنت تنزل برنامجاً من موقع غير موثوق وتقوم بتشغيله، فقد يحتوي على برمجيات خبيثة. وينبغي التعامل مع مهارات الوكلاء بالطريقة نفسها».
مراقبة سير العمل كاملاً
لا يرى لوزكين أن حماية الوكلاء يمكن أن تعتمد فقط على تحليل التعليمات النصية أو البحث عن توقيعات معروفة، لأن الهجوم قد يُبنى من خطوات تبدو طبيعية عند النظر إليها منفردة. وبدلاً من ذلك، يدعو إلى مراقبة دورة عمل الوكيل بالكامل من خلال أدوات خارجية تتابع البيانات التي يرسلها ويستقبلها، والمصادر التي يتصل بها، والأوامر التي ينفذها، والملفات التي يحاول الوصول إليها.
ويذكر أن «كل خطوة، وكل جزء من البيانات، وكل حركة مرور، وكل أمر يُنفذ يجب أن يخضع للمراقبة». ويشبّه هذه الآلية بعمل برامج مكافحة الفيروسات التي تراقب تدفق تنفيذ البرنامج، لكنها تطبق هنا على كامل مسار عمل الوكيل الذكي.
وتستطيع أدوات أمن الشبكات والنقاط الطرفية والذاكرة الموجودة حالياً رصد جانب من السلوك الخبيث، بحسب لوزكين، حتى لو لم تكن مصممة في الأصل للوكلاء. لكنها تحتاج إلى تعديل إعداداتها ونطاق رؤيتها حتى تفهم العلاقات بين الأدوات التي يستخدمها الوكيل، والمهارات التي يستدعيها، والبيانات التي يتبادلها مع وكلاء آخرين.
ويرى أن تكييف الأدوات الحالية لمراقبة الوكلاء ليس تحولاً تقنياً مستحيلاً أو إعادة بناء كاملة للبنية الأمنية، بل تطوير لنطاق الرؤية والقواعد المستخدمة. فالسلوك الخبيث يظل قابلاً للرصد عندما يحاول الوكيل الوصول إلى ملفات غير معتادة، أو قراءة بيانات اعتماد، أو إرسال معلومات إلى وجهة خارجية.
ومع ذلك، يصبح الحل الأكثر فاعلية هو تخصيص طبقة المراقبة لتتبع السلوك الوكيلي بوصفه سلسلة مترابطة، لا مجموعة عمليات منفصلة. كما يتطلب التعامل مع المكونات قصيرة العمر الاحتفاظ بسجلات دقيقة للنسخ التي جرى تنزيلها، ومصدرها، وتوقيت تشغيلها، والتغيرات التي طرأت عليها.
العزل بدلاً من الموافقة
يثير انتشار الوكلاء المستقلين سؤالاً عملياً: هل يجب أن يوافق الموظف على كل مهارة أو أمر قبل تشغيله؟ يشرح لوزكين أن هذا النموذج يصعب تطبيقه عندما تعمل عشرات الوكلاء في وقت واحد، وتتبادل البيانات وتكتب الشيفرات وتنفذ المهام بسرعة تفوق قدرة الإنسان على مراجعة كل خطوة.
وفي بيئات التطوير الآلية، قد يعمل عدد كبير من الوكلاء بصورة متزامنة، فيبني أحدهم الشيفرة، ويختبرها آخر، ويتولى ثالث الوصول إلى أدوات أو بيانات إضافية. ويقول لوزكين إن إجبار الموظف على مراجعة كل أمر والضغط المتكرر على زر الموافقة سيبطئ العملية إلى درجة تلغي جانباً كبيراً من الفائدة التي توفرها الأتمتة.
ولهذا تصبح بيئة التشغيل المعزولة أكثر واقعية من الرقابة اليدوية المستمرة. ويقترح تشغيل الوكلاء، خصوصاً في مجالات مثل تطوير البرمجيات، داخل بيئات معزولة أو صناديق رملية لا تمنحهم إلا وصولاً محدوداً إلى الذاكرة والملفات والأنظمة.
وحتى إذا تعرض الوكيل للاختراق، يبقى محصوراً داخل ما وصفه لوزكين بـ«فقاعة معزولة»، فلا يستطيع الانتقال إلى بقية الشبكة أو جمع كامل البيانات الموجودة على الجهاز. ولا يحل العزل محل المراقبة، لكنه يقلل حجم الضرر المحتمل، لأن البيئة تُبنى على احتمال تعرض الوكيل للتلاعب، لا على افتراض بقائه آمناً دائماً.
صلاحيات أقل
تبدأ حماية الوكيل، وفق لوزكين، من سياسة واضحة للبيانات، وليس فقط من أداة تقنية. ويتعين على كل مؤسسة تحديد المعلومات التي يمكن للوكيل الوصول إليها، والبيانات التي لا ينبغي مشاركتها معه تحت أي ظرف. ويقدم مثالاً من بيئات تطوير البرمجيات، حيث قد تسمح الشركة للوكيل بالوصول إلى أجزاء محددة من الشيفرة، لكنها تمنعه من الاطلاع على المكونات الأكثر حساسية أو على المستودع بالكامل. ويقول إن المؤسسة يجب أن تسأل نفسها مسبقاً: ما المعلومات التي تستطيع تحمل تسربها، وما المعلومات التي يجب ألا تتسرب مطلقاً؟
ويضيف: «إذا كنت لا أريد لهذه المعلومات أن تتسرب أبداً، فلا ينبغي أن أسمح للوكيل بالوصول إليها». ويعني ذلك أن تطبيق مبدأ أقل قدر من الصلاحيات يصبح أكثر تشدداً عند التعامل مع الوكلاء، لأن الوكيل قد يجمع بين مصادر متعددة ويعيد تركيبها أو يرسلها إلى خدمة خارجية.
ويشير لوزكين إلى أن «كاسبرسكي» تطبق هذا الأسلوب عند استخدام الذكاء الاصطناعي في تطوير الأدوات الداخلية. فالوكيل الذي يمتلك اتصالاً خارجياً لا يُمنح وصولاً عاماً إلى جميع الرسائل أو المواعيد أو الشيفرات، بل إلى نطاق محدد من البيانات اللازمة للمهمة.
التسميم عبر البريد والوثائق
لا يحتاج المهاجم دائماً إلى اختراق النموذج الأساسي أو جهاز المستخدم مباشرة. فقد يستطيع التأثير في الوكيل من خلال بريد إلكتروني أو مستند أو محتوى يحتوي على تعليمات خفية أو مضللة.
ويفيد لوزكين بأن هجمات حقن التعليمات نجحت بالفعل في بعض الحالات، لكن النماذج السحابية الكبيرة المقدمة من الشركات الرئيسية أصبحت أكثر قدرة على التعرف على محاولات التلاعب. ومع ذلك، يبقى الخطر أكبر عند استخدام وكلاء محليين أو نماذج أقل تقييداً، حيث قد تستمر أساليب حقن التعليمات في العمل بفاعلية أعلى.
ولا يقتصر الخطر على المحتوى المباشر. فإذا كان الوكيل يقرأ بريداً أو مستنداً ثم يرسل خلاصته إلى وكيل آخر يمتلك صلاحيات تنفيذية، فقد تنتقل التعليمات الخبيثة عبر عدة طبقات قبل أن تظهر النتيجة. ولهذا لا تكفي حماية النموذج وحده، بل يجب مراقبة مصدر البيانات ومسار انتقالها والجهة التي سمحت للوكيل بتنفيذ الأمر.
هجمات سلسلة التوريد
يُعد اختراق سلسلة التوريد من أكثر السيناريوهات تعقيداً، لأن المهاجم لا يحتاج إلى إقناع المؤسسة بتنزيل مهارة مجهولة. وبدلاً من ذلك، قد يستهدف مستودعاً أو مكوناً كانت الشركة تثق به سابقاً، ثم يستبدل المهارة الأصلية بنسخة خبيثة.
وفي هذه الحالة، سيستمر النظام الداخلي في التعامل مع المهارة باعتبارها موثوقة، رغم أن سلوكها تغير. ويلفت لوزكين إلى أن مراقبة تدفق التنفيذ تستطيع كشف هذا التحول عندما يبدأ المكون في تنفيذ إجراءات لم يكن ينفذها من قبل، مثل الوصول إلى ملفات مفاتيح التشفير أو كلمات المرور أو مناطق حساسة في النظام.
ولا تعتمد الحماية هنا على السمعة السابقة للمكون فقط. فالثقة التاريخية لا تضمن سلامة النسخة الحالية، ولذلك يجب أن تخضع المهارات الموثوقة نفسها للمراقبة المستمرة، مع إطلاق تنبيه عند ظهور تغير في نمط عملها. وتزداد صعوبة التحقيق عندما يُفعّل المهاجم النسخة الخبيثة لفترة محدودة، ثم يعيد المستودع إلى حالته السابقة. وهنا تصبح سجلات التنفيذ وحفظ النسخ والتوقيتات أكثر أهمية من فحص المصدر بعد انتهاء الهجوم.
استجابة لا تبدأ من الصفر
لا يعتقد لوزكين أن ظهور الوكلاء يتطلب التخلص من منهجيات الاستجابة للحوادث التي طورتها المؤسسات على مدى سنوات. فالتحقيق الجنائي الرقمي، وتحليل الشبكات، ومراجعة حركة البيانات، وعزل الأنظمة المتأثرة، تظل عناصر أساسية. لكن هذه المنهجيات تحتاج إلى التكيف مع طبيعة سير العمل الوكيلي، بما يشمل تتبع التواصل بين عدة وكلاء، ومعرفة البيانات التي تبادلوها، وتحديد المهارة أو الخادم الخارجي الذي بدأ منه السلوك غير الطبيعي. ويقول إن التغيير المطلوب يتعلق في جانب كبير منه بالسياسات: ما الذي يجب مراقبته؟ وأي أجزاء من سير العمل تحتاج إلى تسجيل؟ ومتى يتحول السلوك إلى حادث يستوجب العزل؟ ومن يملك صلاحية إيقاف الوكيل؟ وفي بيئات التطوير، قد يتطلب التحقيق مراجعة الأوامر التي أنشأها الوكيل، والمصادر التي جلب منها الشيفرة، والمكونات التي أضافها إلى المشروع، وليس فقط فحص الملف التنفيذي النهائي.
الأمن يأتي بعد التوسع
يرى لوزكين أن المؤسسات في السعودية والخليج تتوسع بسرعة في الانتقال من التجارب المحدودة إلى وكلاء متصلين بالأنظمة الداخلية والسحابية، لكن القدرات الأمنية لا تتطور دائماً بالوتيرة نفسها.
ويعتبر أن الشركات تلاحظ الزيادة السريعة في الإنتاجية، فتندفع إلى نشر الوكلاء أولاً، على أن تضيف الحماية في مرحلة لاحقة. ويصف هذا الترتيب بأنه خطر، مؤكداً أن النهج الصحيح يجب أن يبدأ بوضع الضوابط الأمنية قبل الانتقال إلى الاستخدام الواسع.
ويصرح بأن النمط الذي يراه في عدد من المؤسسات هو: «لنبدأ باستخدام الوكلاء، ثم نعود لاحقاً إلى الأمن». ويشير إلى أن هذه الأولوية المعكوسة قد تترك الوكلاء متصلين ببيانات وأنظمة حساسة قبل وضع حدود واضحة لصلاحياتهم أو مراقبة نشاطهم.
وبرأي لوزكين، لا ينطبق مستوى المخاطر بالطريقة نفسها على جميع المؤسسات. فالشركات الكبرى غالباً ما تضع الأمن ضمن المراحل الأولى بسبب طبيعة عملياتها وحجم المخاطر التنظيمية والمالية، بينما قد تكون المؤسسات المتوسطة أكثر تعرضاً.
المؤسسات المتوسطة
يفصل لوزكين بين أوضاع الشركات الصغيرة والمتوسطة والكبيرة. فالشركات الصغيرة قد تمتلك عدداً أقل من الأنظمة والبيانات والبنى المعقدة، بينما تملك الشركات الكبرى فرقاً أمنية وإجراءات أكثر صرامة ومراحل موافقة أبطأ قبل نشر التقنيات الجديدة.
أما المؤسسات المتوسطة، فتقع بين الطرفين. فهي تملك أنظمة وبيانات وأصولاً رقمية مهمة، وتستخدم أدوات حماية متعددة، لكنها قد لا تمتلك الحجم نفسه من فرق الأمن والحوكمة الموجودة لدى الشركات الكبرى. وفي الوقت ذاته، تواجه ضغطاً أكبر لتسريع الأعمال وتحقيق نتائج سريعة.
ويقول لوزكين إن هذه المؤسسات تميل إلى وضع «الأعمال أولاً»، ثم معالجة الأمن في مرحلة لاحقة، ما يجعلها أكثر عرضة لاستغلال الوكلاء والمهارات الخبيثة. ولا يعني ذلك أن المؤسسات الكبيرة محصنة أو أن الشركات الصغيرة غير مستهدفة، بل إن الجمع بين حجم الأصول وسرعة التبني ونقص الموارد المتخصصة يرفع مستوى المخاطر لدى الفئة المتوسطة.
وعندما سؤاله عن القطاعات الأكثر تعرضاً، يشير إلى تطوير البرمجيات بوصفه مجالاً بارزاً، لأن الوكلاء فيه قد يحصلون على صلاحيات لكتابة الشيفرات وتشغيل الأوامر والاتصال بالمستودعات والأدوات الخارجية.
السعودية وحماية البيانات الحساسة
يبدي لوزكين ثقة في مستوى الاهتمام الأمني داخل القطاعات السعودية المنظمة، لكنه يؤكد أنه لا يملك تفاصيل عن الضوابط الداخلية، نظراً إلى طبيعتها السرية. ويقول إن السعودية «جيدة جداً في حماية البيانات»، وإن الجهات المسؤولة عن إدخال وكلاء الذكاء الاصطناعي إلى الأنظمة الحكومية يرجح أنها تدرس الجوانب الأمنية بالتوازي مع الاستخدام. لكنه لا يقدم حكماً تفصيلياً على إجراءات بعينها، مشيراً إلى أن تلك المعلومات لا تكون متاحة علناً. وتبقى القضية الأساسية بالنسبة إلى الجهات الحكومية والشركات المنظمة هي تحديد الحدود قبل منح الوكيل صلاحية الوصول إلى السجلات المالية أو البيانات الحكومية أو الأنظمة الحساسة. ويشمل ذلك العزل، وتقييد الصلاحيات، ومراقبة السلوك، واعتماد مصادر موثوقة للمهارات، ووضع خطة للاستجابة عند ظهور تغير في نشاط الوكيل.
من الاستطلاع إلى التصيد والاختراق
يصف لوزكين سيناريو يمكن فيه لوكيل هجومي تنفيذ مراحل متعددة كانت تحتاج سابقاً إلى فرق مختلفة. فقد يبدأ بجمع معلومات عن الشركة من المصادر المفتوحة، وتحليل حسابات الموظفين على «لينكدإن»، وتحديد الأشخاص المؤثرين في أقسام الموارد البشرية والهندسة والإدارة العليا.
بعد ذلك، يستطيع الوكيل بناء رسائل تصيد مخصصة لكل شخص، أو إنشاء حساب مزيف ينتحل شخصية الرئيس التنفيذي ويوجه تعليمات إلى الموظفين، ثم استخدام البيانات التي يحصل عليها لإطلاق محاولة اختراق أكثر تقدماً. وقد تنتقل النتائج تلقائياً إلى وكيل آخر مخصص لاختبار الاختراق، لينفذ المرحلة التقنية من الهجوم. وهكذا يستطيع المهاجم ربط جمع المعلومات والهندسة الاجتماعية وسرقة بيانات الاعتماد ومحاولة الاختراق داخل سير عمل آلي واحد.
وفي سيناريو آخر، قد يركز المهاجم على المستودعات التي تعتمد عليها الشركة، ثم يستبدل مهارة موثوقة بمهارة ضارة ضمن هجوم على سلسلة التوريد. وهنا لا تبدو نقطة الدخول غريبة للنظام، لأن المكون يأتي من المصدر نفسه الذي اعتاد استخدامه. وتكشف هذه السيناريوهات أن الخطر لا يرتبط بذكاء الوكيل وحده، بل بسرعة جمعه للمعلومات، وقدرته على تنسيق عدة خطوات، والعمل بصورة مستمرة من دون انتظار تدخل بشري. ولهذا تنتقل الحماية من فحص ملف أو رسالة منفردة إلى متابعة سلسلة كاملة من القرارات والاتصالات والصلاحيات.
وفي بيئة ينتشر فيها الوكلاء بصورة متزايدة، يصبح السؤال الأمني الأساسي ليس فقط ما إذا كان الوكيل موثوقاً عند تشغيله، بل ما إذا كانت المؤسسة تستطيع معرفة كل ما فعله، والبيانات التي لمسها، والمكونات التي استدعاها، والحد الذي لا يستطيع تجاوزه حتى إذا تعرض للاختراق.
