مع توسع استخدام الذكاء الاصطناعي داخل المؤسسات، لم تعد المخاطر مرتبطة فقط بما يمكن أن تفعله النماذج أو الوكلاء، بل أيضاً بمن يتحمل المسؤولية عندما يقع خلل أمني أو تتخذ الأنظمة إجراءات غير متوقعة. ويظهر تقرير «Global Digital Trust Insights 2027» الصادر عن «PwC» أن الشركات لا تزال بعيدة عن التوصل إلى نموذج موحد لتوزيع هذه المسؤولية، رغم ارتفاع الإنفاق على الأمن السيبراني وتسارع إدخال الذكاء الاصطناعي في العمليات.
الاستطلاع الذي شمل 3934 من قادة الأعمال والتكنولوجيا في 71 دولة ومنطقة، كشف أن 84 في المائة من مسؤولي الأمن والمالية يتوقعون زيادة ميزانيات الأمن السيبراني خلال الأشهر الـ12 المقبلة، مقارنة بـ78 في المائة في العام السابق. كما أدرج 58 في المائة الذكاء الاصطناعي ضمن أبرز أولويات الإنفاق السيبراني، في مؤشر على انتقاله من أداة لتحسين الإنتاجية إلى عنصر أساسي في استراتيجيات الحماية وإدارة المخاطر.
من المسؤول عن مخاطر الذكاء الاصطناعي؟
أحد أبرز ما كشفه التقرير هو غياب الاتفاق داخل المؤسسات حول الجهة التي يفترض أن تتحمل مسؤولية مخاطر الذكاء الاصطناعي، وخصوصاً مع صعود الأنظمة الوكيلية القادرة على اتخاذ إجراءات وتنفيذ مهام بدرجات متفاوتة من الاستقلالية.
وأفاد 29 في المائة من المشاركين بأن المسؤولية ينبغي أن تقع على عاتق رئيس تقنية المعلومات أو رئيس التكنولوجيا أو الوظيفة التقنية، فيما رأى 26 في المائة أنها من اختصاص قائد أو إدارة مستقلة للذكاء الاصطناعي. واختار 17 في المائة رئيس أمن المعلومات أو فرق الأمن السيبراني، فيما قال 11 في المائة إن المسؤولية غير واضحة لأنها موزعة بين أكثر من وظيفة داخل المؤسسة.
وفي المقابل، بدأت بعض المؤسسات بالفعل في إنشاء أدوار تنظيمية مخصصة، إذ أظهر الاستطلاع أن 33 في المائة منها عيّنت مسؤولين أو أنشأت وظائف مرتبطة مباشرة بقيادة الذكاء الاصطناعي، من بينها مناصب تنفيذية أو أدوار على مستوى مجالس الإدارة.
لكن وصول الموضوع إلى المستويات العليا لا يعني أن الحوكمة أصبحت مستقرة. فقد أفاد 47 في المائة فقط بأن الأمن السيبراني أصبح بنداً دائماً على جدول أعمال مجلس الإدارة، فيما تشير «PwC» إلى أن انتشار الذكاء الاصطناعي يفرض حاجة أكبر إلى وضوح المساءلة وتحديد من يملك القرار عند وقوع حادث أو فشل في الضوابط.
الذكاء الاصطناعي هدف للهجمات أيضاً
لا تقتصر المفارقة على استخدام الذكاء الاصطناعي كأداة دفاعية، إذ أصبح هو نفسه هدفاً متزايداً للهجمات. وأفاد نصف قادة الأمن تقريباً بأن الهجمات التي تستهدف أنظمة الذكاء الاصطناعي تأتي ضمن التهديدات التي يشعرون بأقل قدر من الاستعداد لمواجهتها.
وتشمل المخاطر التي يبرزها التقرير هجمات موجهة ضد النماذج والأنظمة الوكيلية، إضافة إلى العبث بالبيانات أو التأثير في سلوك الأنظمة. وأظهرت بيانات مرتبطة بالدراسة أن 53 في المائة أشاروا إلى اختراق شبكات آلية ذاتية التشغيل باعتباره من المخاطر التي تثير القلق، فيما ذكر 52 في المائة الهجمات العدائية على أنظمة الذكاء الاصطناعي، والنسبة نفسها تقريباً بالنسبة إلى تسميم البيانات.
وتكتسب هذه المخاطر وزناً أكبر مع انتقال الذكاء الاصطناعي من دور المساعد إلى أنظمة تستطيع الوصول إلى التطبيقات والبيانات واتخاذ خطوات داخل مسارات العمل، ما يعني أن ضعفاً في الصلاحيات أو الهوية أو الحوكمة قد ينتقل أثره من إنتاج إجابة خاطئة إلى تنفيذ إجراء فعلي داخل المؤسسة.
حذر من الوكلاء المستقلين
في الوقت الذي تزداد فيه خطط استخدام الذكاء الاصطناعي للدفاع السيبراني، لا تزال المؤسسات متحفظة تجاه منح الوكلاء صلاحيات كاملة. وأظهر التقرير أن 22 في المائة فقط سيوافقون على منح وكلاء الذكاء الاصطناعي استقلالية كاملة لتنفيذ إجراءات دفاعية.
وترتبط هذه الحيطة، حسب «PwC»، بعوامل من بينها الثقة في التقنية، والمساءلة، ونقص الخبرات القادرة على مراقبة الأنظمة المستقلة. وفي هذا السياق، ترى الشركة أن توسيع الاعتماد على الذكاء الاصطناعي في الأمن يحتاج إلى حوكمة واضحة وإشراف بشري وآليات تحدد حدود ما يستطيع النظام فعله من دون تدخل مباشر.
ويعكس ذلك معادلة جديدة داخل فرق الأمن السيبراني؛ فالمؤسسات تريد الاستفادة من سرعة الذكاء الاصطناعي وقدرته على تحليل كميات كبيرة من البيانات والاستجابة للتهديدات، لكنها في الوقت نفسه مطالبة بمنع أن يتحول النظام الدفاعي نفسه إلى مصدر لمخاطر جديدة.
الميزانيات ترتفع... لكن الجاهزية ليست كاملة
ارتفاع الميزانيات لا يعني بالضرورة وصول المؤسسات إلى مستوى متقدم من الجاهزية. فحسب التقرير، 39 في المائة فقط لديها خطة استمرارية رسمية ومطبقة بصورة كاملة تتعامل تحديداً مع المخاطر السيبرانية، رغم توسع استخدام نماذج الذكاء الاصطناعي المتقدمة.
كما أن الاستعداد للتهديدات المستقبلية ما زال متفاوتاً. ففي مجال التشفير المقاوم للحوسبة الكمية، أظهرت بيانات التقرير أن 21 في المائة فقط من المؤسسات نفذت بالفعل إجراءات أمنية مقاومة للتهديدات الكمية، ما يعكس أن جزءاً كبيراً من السوق لا يزال في مراحل مبكرة من الاستعداد لهذا التحول.
وتوضح الأرقام أن زيادة الاستثمار تأتي بالتوازي مع اتساع نطاق المسؤوليات؛ إذ لم تعد فرق الأمن مطالبة فقط بحماية الشبكات والبيانات والخدمات السحابية، بل أصبحت تحتاج أيضاً إلى حماية النماذج والبيانات التدريبية والوكلاء والهويات الرقمية الجديدة التي تعمل داخل المؤسسات.
من أداة دفاع إلى ملف حوكمة
تلخص «PwC» التحول بأن الذكاء الاصطناعي أصبح يعمل على جانبي معادلة الأمن السيبراني. فهو يوسع سطح الهجوم ويخلق أنواعاً جديدة من المخاطر، لكنه في الوقت نفسه يوفر أدوات يمكن استخدامها للكشف والاستجابة والحماية بدرجات أعلى من الأتمتة. ولهذا ترى الشركة أن القيمة الفعلية لا تتوقف على تبني التقنية، بل على بناء الثقة والحَوْكمة والإشراف البشري اللازم لاستخدامها بصورة مسؤولة.
وبينما تستعد المؤسسات لزيادة الإنفاق، يظل السؤال موجهاً حول من يمتلك القرار عندما يصبح وكيل ذكاء اصطناعي قادراً على الوصول إلى الأنظمة والبيانات واتخاذ إجراءات دفاعية أو تشغيلية.
أرقام الاستطلاع تشير إلى أن الشركات بدأت إنشاء أدوار وآليات جديدة للإجابة عن هذا السؤال، لكن توزيع المسؤولية بين التكنولوجيا والأمن وقيادة الذكاء الاصطناعي لم يستقر بعد.
