من السحابة إلى وكلاء الذكاء الاصطناعي… كيف يتغير مشهد الأمن السيبراني في الشرق الأوسط؟

«بروف بوينت»: «مساحة العمل الوكيلة» ليست «موضة ذكاء اصطناعي عابرة»

خبراء: «رؤية 2030» وسياسات حماية البيانات تجعل السعودية جاهزة لتجربة موسعة تجمع الإنسان والآلة رغم التهديدات السيبرانية (شاترستوك)
خبراء: «رؤية 2030» وسياسات حماية البيانات تجعل السعودية جاهزة لتجربة موسعة تجمع الإنسان والآلة رغم التهديدات السيبرانية (شاترستوك)
TT

من السحابة إلى وكلاء الذكاء الاصطناعي… كيف يتغير مشهد الأمن السيبراني في الشرق الأوسط؟

خبراء: «رؤية 2030» وسياسات حماية البيانات تجعل السعودية جاهزة لتجربة موسعة تجمع الإنسان والآلة رغم التهديدات السيبرانية (شاترستوك)
خبراء: «رؤية 2030» وسياسات حماية البيانات تجعل السعودية جاهزة لتجربة موسعة تجمع الإنسان والآلة رغم التهديدات السيبرانية (شاترستوك)

من التحوّل الرقمي إلى «مساحة العمل الوكيلة»، يدخل الخليج مرحلة تعاون بين البشر ووكلاء الذكاء الاصطناعي، وسط تصاعد التهديدات السيبرانية وسعي لحلول أمنية متقدمة.

تواصل حكومات وشركات منطقة الخليج رحلتها في التحوّل الرقمي، من نقل الخدمات إلى السحابة وبناء مراكز بيانات سيادية وأتمتة قطاعات كاملة. واليوم، يبرز أفق جديد قد يتجاوز تلك القفزات، إنه «مساحة العمل الوكيلة (Agentic AI Workspace)»، حيث يعمل البشر ووكلاء الذكاء الاصطناعي جنباً إلى جنب لإنجاز المهام.

وقد تجلّى هذا المستقبل في قمة «Proofpoint Protect 2025» في مدينة ناشفيل الأميركية، وحضرتها «الشرق الأوسط»، حيث كشفت الشركة عن ابتكارات لحماية هذه البيئة.

وبالنسبة للخليج؛ خصوصاً السعودية، التي تضع الذكاء الاصطناعي في صميم «رؤية 2030». يمثل هذا الإعلان خطوة أبعد من مجرد تحديث تقني. إنه دليل على السرعة التي يتحول فيها «الوكلاء» الرقميون إلى واقع ملموس.

يؤكد الرئيس التنفيذي لـ«بروف بوينت» أن «مساحة العمل الوكيلة» تحوّل حقيقي وليس مجرد موضة ذكاء اصطناعي (بروف بوينت)

أهمية هذا التحوّل للمنطقة

الشرق الأوسط طموح في مشاريعه التقنية، لكنه في الوقت نفسه عرضة لمخاطر سيبرانية متزايدة. أظهر تقرير «IBM X - Force» أن المنطقة جاءت رابعة عالمياً في الهجمات السيبرانية لعام 2024. بنسبة 10 في المائة من إجمالي الحوادث مقارنة بـ7 في المائة، في 2023. وتصدرت قطاعات المالية والتأمين نسبة 61 في المائة من الهجمات، تلتها الطاقة بنسبة 17 في المائة، وهي القطاعات ذاتها التي تعتمد أسرع تدفقات عمل مدعومة بالذكاء الاصطناعي.

وفي معرض «GISEC 2025»، صنّف مجلس الأمن السيبراني الإماراتي هجمات «حقن الأوامر»، حيث تُزرع تعليمات خفية لخداع وكلاء النماذج اللغوية الكبيرة كأولوية وطنية. وفي السعودية، أصدرت هيئة «سدايا» إرشادات دقيقة للاستخدام المسؤول لتقنيات الذكاء الاصطناعي التوليدي، محدِّدة متطلبات واضحة للأنظمة الوكيلة. هذه المؤشرات جميعها تؤكد أن تهديدات الذكاء الاصطناعي ليست مستقبلية بل آنية.

وشدّد سوميت دواهان، الرئيس التنفيذي لشركة «بروف بوينت (Proofpoint)»، في حديثه مع «الشرق الأوسط» على أن هذا التوجُّه عالمي، قائلاً: «نرى اعتماد المساعدين القائمين على الذكاء الاصطناعي يتسع حول العالم». ويضيف: «كنتُ في السعودية والإمارات قبل أربعة أشهر، وإنه موجود بالفعل. قطاعات مثل المالية والتأمين والرعاية الصحية، وحتى أجزاء من التجزئة بدأت (تطبيقات وكيلة) بالفعل. بعض المناطق تقفز إلى الأمام متجاوزة مراحل التطور المعتادة».

تُعد قطاعات المالية والتأمين والطاقة الأكثر تعرضاً للهجمات والأسرع في تبني بيئات العمل المدعومة بالذكاء الاصطناعي

ماذا تعني «مساحة العمل الوكيلة»؟

إذا كانت الحوسبة السحابية قد رقمنت عمل المؤسسات، فإن «مساحة العمل الوكيلة» تضيف عنصر الفعل الذاتي؛ فمساعدو الذكاء الاصطناعي لا يكتفون بالاقتراح بل ينفذون، يشاركون ويجدوِلون ويحللون ويتواصلون مع بعضهم. ويصف مسؤولو «بروف بوينت» هؤلاء الوكلاء بأنهم «مصممون للتصرف كبشر»، ما يجعلهم عرضة للخداع أو الاختراق كما يُخدع الإنسان.

هذا الاتساع في سطح الهجوم يمثل جوهر التحدي؛ فالبريد الاحتيالي قد يحمل أوامر خفية تستهدف أدوات مثل «مايكروسوفت كوبايلوت» (Microsoft Copilot) أو «غوغل جيميناي» (Google Gemini)، ويمكن لتعليمات خبيثة أن تُسرّب بيانات حساسة أو تتجاوز الضوابط الداخلية. ومع إنشاء المؤسسات لوكلاء ذكاء اصطناعي خاصين بها، يتضاعف حجم حركة البيانات بين الآلات.

دفاع بأربع ركائز

لمواجهة هذه التهديدات، طرحت «بروف بوينت» منظومة دفاع متكاملة تقوم على 4 ركائز مترابطة. تبدأ المنظومة باكتشاف استغلالات الذكاء الاصطناعي في البريد، عبر قدرات جديدة في منصة «Prime Threat Protection» التي تعيق الأوامر الخبيثة قبل وصولها إلى المستخدمين. وتليها منصة «Data Security Complete»مع حوكمة بيانات الذكاء الاصطناعي؛ حيث تُكتشف البيانات الحساسة وتُصنَّف عبر الأجهزة والبريد والسحابة، مع تطبيق سياسات تلقائية لمنع أي تسرب. ثم تأتي بوابة Secure Agent Gateway المبنية على بروتوكول «Model Context» لمراقبة وصول وكلاء العملاء إلى المعلومات والتحكم بها، بما في ذلك منع أو حجب البيانات قبل مشاركتها. وتتكامل هذه المكوّنات مع وكلاء «Satori™» الذين يؤتْمِتُون مهام الأمن، مثل محاكاة التصيّد وفرز التنبيهات؛ ما يضاعف قدرات مراكز العمليات الأمنية بسرعة تفوق العمل البشري. وتجمع هذه المنظومة بين الحماية الاستباقية وإدارة البيانات والرقابة الدقيقة، لتوفّر ما وصفه الرئيس التنفيذي للشركة بأنه «الجيل التالي من الأمن المتمحور حول الإنسان، من حماية البشر إلى حماية الوكلاء الذين يعملون معهم».

سوميت دواهان الرئيس التنفيذي لشركة «بروف بوينت» متحدثاً إلى «الشرق الأوسط» (بروف بوينت)

جاهزية سعودية متسارعة

يبني الخليج، وفي مقدمته المملكة العربية السعودية، المواهب والبنية التحتية لتطبيق بيئات العمل الوكيلة على نطاق واسع؛ فقد دخلت المملكة ضمن أعلى 20 دولة عالمياً في مواهب الذكاء الاصطناعي عام 2025. وتوسّع مبادرات النماذج اللغوية الضخمة مثل مشروع «علّام» (HUMAIN ALLAM) يعكس هذا التوجه، إلى جانب نمو الحوسبة السحابية السيادية. وأعلنت «بروف بوينت» عن مركز بيانات محلي يوفّر حلولها الأمنية المتمحورة حول الإنسان، بما يتوافق مع متطلبات الهيئة الوطنية للأمن السيبراني (NCA).

ويؤكد الرئيس التنفيذي سوميت دواهان في حديثه لـ«الشرق الأوسط» أن «تسليم حلولنا عبر مركز بيانات محلي يبرز استثمارنا المستمر في هذه المنطقة المحورية، ويؤكد التزامنا بمواكبة التحوّل الرقمي السريع في المملكة ضمن رؤية 2030».

الإنسان والآلة... هدف واحد

هذا التوسُّع يتقاطع مع بروز جبهة جديدة للهجمات السيبرانية؛ حيث تصبح الثقة سطح الهجوم الجديد. فالتقنيات التوليدية تمكّن المهاجمين من إنشاء رسائل تصيّد دقيقة وصفحات تسجيل دخول مزيفة على نطاق واسع، فيما يتيح «حقن الأوامر» تمرير تعليمات خفية إلى المحادثات لينفذها المساعد الذكي بصمت. وقدّمت «بروف بوينت» خريطة «Threat Interaction Map» التي تتيح لفرق الأمن تصوِّر هذه الهجمات متعددة القنوات، إلى جانب أداة «SSO Password Guard» التي تمنع إدخال بيانات الاعتماد في تطبيقات غير مصرَّح بها، لسد ثغرات لا تغطيها الدفاعات البشرية وحدها.

عقدت قمة «Proofpoint Protect 2025» في مدينة ناشفيل الأميركية بحضور مئات المختصين في الأمن السيبراني (بروف بوينت)

تحوّل جوهري يتجاوز موضة الذكاء الاصطناعي

يؤكد دواهان أن «مساحة العمل الوكيلة» تمثل تحولاً حقيقياً «لا مجرد موجة عابرة». ويشرح في حديثه مع «الشرق الأوسط» أن «أكبر تغيير يقدمه الذكاء الاصطناعي هو طريقة عمل البشر جنباً إلى جنب مع الوكلاء الذكيين؛ ما يمنحنا الحق في توسيع دورنا من حماية الأفراد إلى حماية البشر والوكلاء معاً». ويضيف: «مع التقنيات التوليدية والعملات الرقمية، لم تعد اللغة أو الجغرافيا أو العملة عائقاً أمام المهاجمين. يمكنهم الآن شن هجمات متطورة على نطاق واسع، وهو ما دفعنا للتوسع عالمياً، وجعل أعمالنا الدولية تنمو بمعدل يقارب ضعف أعمالنا في الولايات المتحدة».

أعطت قمة «Proofpoint Protect 2025» انطباعاً بأنها نقطة تحول شبيهة بدخول الخليج عالم الحوسبة السحابية قبل عقد من الزمن، حين سارعت الشركات إلى تحديث بنيتها الرقمية. واليوم، تستعد المنطقة لمرحلة جديدة تسمح للذكاء الاصطناعي بالمشاركة الفعلية في إنجاز العمل. ومع سياسات صارمة لحماية البيانات، واستثمارات ضخمة في الذكاء الاصطناعي، وقوى عاملة شابة تتبنى التقنيات بسرعة، تبدو «رؤية 2030» أرضاً مثالية لتجربة هذا المستقبل.


مقالات ذات صلة

هاتف «أونر 600»: تكامل الذكاء الاصطناعي التوليدي مع الأداء المتقدم

تكنولوجيا تصميم أنيق بأداء متقدم وبطارية لا تنتهي

هاتف «أونر 600»: تكامل الذكاء الاصطناعي التوليدي مع الأداء المتقدم

يحول الصور إلى أفلام سينمائية بسهولة بالغة وعروض فيديو إبداعية عبر أوامر نصية بسيطة.

خلدون غسان سعيد (جدة)
خاص توماس كوريان الرئيس التنفيذي لـ«غوغل كلاود» متحدثاً لـ«الشرق الأوسط» (الشرق الأوسط)

خاص الرئيس التنفيذي لـ«غوغل كلاود»: مراكز بياناتنا «مقاوِمَة للأزمات» ولا ترتبط بحدود

بينما تفرض التوترات الإقليمية تحديات على البنية التحتية، تعيد «غوغل» صياغة مفهوم استمرارية الأعمال عبر دمج الحصانة الرقمية بالذكاء الاصطناعي المؤسسي.

نسيم رمضان (لاس فيغاس)
الاقتصاد «رؤية 2030»: حكاية التحول من الإدارة التقليدية إلى الريادة الرقمية العالمية

«رؤية 2030»: حكاية التحول من الإدارة التقليدية إلى الريادة الرقمية العالمية

انطلقت السعودية في مسار التحوُّل الرقمي والاقتصاد المعرفي، مستندةً إلى بنية تحتية رقمية مُتقدِّمة وبناء معرفي تراكم عبر سنوات طويلة، ما عزز قدرتها على المنافسة.

عبير حمدي (الرياض)
الاقتصاد زوار في جناح «هواوي» خلال مؤتمر التكنولوجيا بالصين - 26 يوليو 2025 (رويترز)

أميركا لتوسيع الحرب التكنولوجية على الصين

أمرت وزارة الخارجية الأميركية بحملة عالمية لتسليط الضوء على محاولات لشركات صينية؛ مثل «ديب سيك» للذكاء الاصطناعي، لسرقة حقوق الملكية الفكرية الأميركية.

«الشرق الأوسط» (واشنطن)
خاص التوترات التي شهدها الشرق الأوسط خلال الشهرين الماضيين لم تؤدِّ إلى تصعيد سيبراني واسع وفوري بالقدر الذي كان متوقعاً (شاترستوك)

خاص «غوغل كلاود» لـ«الشرق الأوسط»: هدوء سيبراني «حذر» رغم التوترات الإقليمية

تقول «غوغل كلاود» إن هدوء الهجمات لا يلغي الخطر، وإن المرونة السيبرانية تبدأ من الثغرات والاستعداد المبكر قبل التصعيد.

نسيم رمضان (لاس فيغاس)

«ميتا» تتجه إلى الفضاء لتوليد الطاقة الشمسية

شعار شركة «ميتا» (رويترز)
شعار شركة «ميتا» (رويترز)
TT

«ميتا» تتجه إلى الفضاء لتوليد الطاقة الشمسية

شعار شركة «ميتا» (رويترز)
شعار شركة «ميتا» (رويترز)

في خطوة تعكس تسارع الابتكار في قطاع الطاقة والتكنولوجيا، تسعى شركة «ميتا» إلى استكشاف آفاق غير تقليدية لتأمين احتياجاتها المتزايدة من الطاقة، خصوصاً مع التوسع الكبير في تشغيل أنظمة الذكاء الاصطناعي. وفي هذا السياق، تخطط الشركة لاستغلال الطاقة الشمسية من الفضاء، في محاولة لتوفير مصدر مستدام وفعّال لتشغيل مراكز بياناتها على الأرض.

تعتزم شركة «ميتا»، المملوكة لمارك زوكربيرغ، جمع الطاقة الشمسية من الفضاء لتغذية مراكز بيانات الذكاء الاصطناعي التابعة لها، وذلك وفقاً لما أوردته صحيفة «التليغراف».

وفي هذا الإطار، وقّع مالك منصّتي «فيسبوك» و«إنستغرام» اتفاقية مع شركة «أوفر ڤيو إنرجي» الأميركية الناشئة، بهدف توفير ما يصل إلى غيغاوات واحدة من الطاقة الشمسية، وهو ما يعادل تزويد نحو 750 ألف منزل بالطاقة.

وتتعاون «ميتا» مع «أوفر ڤيو إنرجي» ضمن خططها لإطلاق أسطول قد يصل إلى 1000 قمر اصطناعي، مزوّد بألواح شمسية تعمل على جمع أشعة الشمس مباشرة من الفضاء.

وستُحوَّل هذه الطاقة المجمّعة إلى أشعة تحت حمراء منخفضة الكثافة، يمكن توجيهها نحو الألواح الكهروضوئية على سطح الأرض، حيث تُعاد معالجتها وتحويلها إلى طاقة كهربائية قابلة للاستخدام.

وتتميّز عملية جمع الطاقة الشمسية في الفضاء بكفاءة أعلى بكثير مقارنةً بسطح الأرض، إذ لا تتأثر أشعة الشمس هناك بعوامل مثل الغلاف الجوي أو تلوّث الهواء أو الغيوم، كما يمكن وضع الأقمار الاصطناعية في مدارات تتيح لها التعرّض لأشعة الشمس بشكل شبه دائم على مدار الساعة.

ومن بين مزايا هذه التقنية أيضاً إمكانية نقل الطاقة إلى مناطق تعاني من نقص الإضاءة أو الظلام، مما يسهم في تعزيز كفاءة أنظمة الطاقة الشمسية التقليدية.

وتُشكّل هذه التقنية دفعة قوية لشركات وادي السيليكون الكبرى، التي تعمل على إنشاء مراكز بيانات ضخمة لتشغيل تطبيقات الذكاء الاصطناعي في مختلف أنحاء العالم الغربي.

كما يُتوقع أن تمثّل الطاقة الشمسية القادمة من الفضاء مصدراً مستداماً ونظيفاً يلبي احتياجات شركات التكنولوجيا، التي تواجه تحديات متزايدة في الالتزام بمعاييرها البيئية، في ظل الطلب المتصاعد على الطاقة لتشغيل أنظمة الذكاء الاصطناعي.

ومن شأن هذه المبادرة أيضاً أن تقلّل اعتماد هذه الشركات على شبكات الطاقة المحلية التي تعاني أصلاً من ضغوط متزايدة.

في السياق ذاته، تعمل شركات أخرى على تطوير تقنيات مشابهة، من بينها «سبيس إكس» التابعة لإيلون ماسك، و«بلو أوريجين» التابعة لجيف بيزوس، إضافة إلى شركة «غوغل»، حيث تسعى هذه الجهات إلى تطوير أقمار اصطناعية تعمل بالطاقة الشمسية لدعم مراكز البيانات.


ردَّة فعل متصاعدة ضد الذكاء الاصطناعي تكتسب زخماً جماهيرياً

ردَّة فعل متصاعدة ضد الذكاء الاصطناعي تكتسب زخماً جماهيرياً
TT

ردَّة فعل متصاعدة ضد الذكاء الاصطناعي تكتسب زخماً جماهيرياً

ردَّة فعل متصاعدة ضد الذكاء الاصطناعي تكتسب زخماً جماهيرياً

تزداد في الولايات المتحدة حدَّة ردَّة الفعل المتصاعدة ضد الذكاء الاصطناعي، مدفوعة بمخاوف بشأن تأثير هذه التقنية على المجتمع. وتدعو هذه الحركة التي تضم شريحة واسعة من الناس من خلفيات سياسية ومهنية مختلفة، إلى مزيد من التنظيم القانوني، والنقاش حول دور الذكاء الاصطناعي في الحياة الأميركية، كما كتب تريب ميكل*.

وتشمل فئات المنتقدين آباءً، وقادة دينيين، وناشطين بيئيين، وغيرهم، متحدين في تشكيكهم في تركيز صناعة التكنولوجيا على الربح، وعواقبه السلبية المحتملة على الجمهور.

احتجاج ضد إنشاء مراكز البيانات المهددة للبيئة

دوافع متنوعة

وتتنوع دوافع هذه الردَّة. فعلى سبيل المثال، شعر مايكل غرايستون -وهو قس إنجيلي من أوستن في تكساس- بالقلق بعد سماعه عن الآثار المدمرة لـجهاز «رفيق ذكاء اصطناعي» على زواج صديق له. وبالمثل شعر جاك غاردنر -وهو موسيقي من بويز- في آيداهو وزوجته -وهي معلمة في مدرسة ابتدائية- بالقلق إزاء إنتاج الذكاء الاصطناعي الأغاني باستخدام موسيقى محمية بحقوق الطبع والنشر.

أما في وولكوت، بإنديانا، فقد خشي بارت وآمي سنايدر -وهما مزارعان- بعد علمهما ببناء مركز بيانات بالقرب من منزلهما، من استنزاف المياه الجوفية المحلية والإضرار بمجتمعهما. ووجد هذان الشخصان -على الرغم من افتقارهما للخبرة السياسية السابقة- نفسيهما جزءاً من تحالف متنامٍ من منتقدي الذكاء الاصطناعي.

مكاسب مالية... وعواقب اجتماعية

لا تقتصر هذه الحركة على المخاوف المحلية؛ بل تشمل شخصيات شعبوية، مثل ستيفن ك. بانون، وسياسيين تقدميين مثل السيناتور بيرني ساندرز. وبينما تختلف أسباب معارضتهم للذكاء الاصطناعي، فإنهم يشتركون في اعتقادهم بأن مطوري هذه التقنية يهتمون بالمكاسب المالية أكثر من اهتمامهم بعواقبها الأوسع على المجتمع. ويشمل ذلك مخاوف من أن الثروة الهائلة التي يولِّدها الذكاء الاصطناعي ستفيد بالدرجة الأولى أصحاب المليارات في وادي السيليكون، بينما ستقع التكاليف بشكل غير متناسب على الطبقتين المتوسطة والعاملة.

غياب الإشراف القانوني

يدور جزء كبير من الانتقادات حول غياب التنظيم القانوني أو حتى النقاش حول مستقبل الذكاء الاصطناعي. وقد عبَّر بيرني ساندرز عن إحباطه في مقابلة حديثة؛ مشيراً إلى أنه على الرغم من تأثير الذكاء الاصطناعي على جميع سكان البلاد، فإن النقاش حول كيفية إدارته في الكونغرس كان محدوداً. ووفقاً للمتحدث باسم البيت الأبيض ديفيس إنغل، ركزت إدارة ترمب على ضمان هيمنة أميركا في مجال الذكاء الاصطناعي لحماية الأمن القومي والمصالح الاقتصادية. مع ذلك، يرى النقاد أن الحكومة كانت أكثر دعماً لوادي السيليكون من اهتمامها بالمخاطر التي تشكلها هذه التقنية.

تأثير بيئي... وفقدان الوظائف

وقد ساهم النمو السريع للذكاء الاصطناعي، الذي حفزه إطلاق برنامج «تشات جي بي تي» عام 2022، في تفاقم ردود الفعل السلبية. ومع تحول نظام الدردشة الآلي هذا إلى أسرع منتج برمجي نمواً على الإطلاق، ضخَّت شركات التكنولوجيا مليارات الدولارات في بناء البنية التحتية اللازمة لتطوير تقنية الذكاء الاصطناعي. وقد أدى ذلك إلى انتشار مراكز البيانات في جميع أنحاء العالم، ما أثار مخاوف بشأن تأثيرها البيئي، فضلاً عن تساؤلات حول فقدان الوظائف المحتمل نتيجة للأتمتة.

عواقب وخيمة «إن انحرف عن مساره الصحيح»

بل إن بعض رواد صناعة التكنولوجيا -مثل إيلون ماسك وسام ألتمان- حذَّروا من المخاطر المرتبطة بالذكاء الاصطناعي. في عام 2023، حذَّر ألتمان المشرِّعين من المخاطر المحتملة للذكاء الاصطناعي، مُقراً بأنَّ عواقبه ستكون وخيمة إذا ما انحرف عن مساره الصحيح.

55 % من الأميركيين ينظرون إلى الذكاء الاصطناعي كقوة ضارة لا نافعة

وقد لاقى هذا التحذير صدى واسعاً لدى الرأي العام؛ إذ أظهر استطلاع رأي أجرته جامعة كوينيبياك أن 55 في المائة من الأميركيين ينظرون إلى الذكاء الاصطناعي كقوة ضارة لا نافعة. ويعكس هذا الردُّ السلبي شعوراً عاماً بالقلق إزاء دخول الذكاء الاصطناعي إلى السوق، وما يكتنفه من غموض وشفافية ومساءلة.

تسريح الموظفين

كما ساهم الخوف من أن يستحوذ الذكاء الاصطناعي على الوظائف في تأجيج المعارضة. فقد عمدت شركات التكنولوجيا إلى تقليص عدد موظفيها بالتزامن مع توسيع نطاق استخدامها الذكاء الاصطناعي. وفي الأشهر الأخيرة، أعلنت شركات مثل «ميتا» و«مايكروسوفت» عن تسريح أعداد كبيرة من الموظفين، ما زاد من المخاوف بشأن الآثار طويلة المدى للذكاء الاصطناعي على فرص العمل.

سلامة الذكاء الاصطناعي

وقد ساهمت منظمات ذات صلة بمفهوم «الإيثار الفعَّال» (effective altruism)، وهو فلسفة تُعنى بسلامة الذكاء الاصطناعي، في تنظيم معارضة هذه التقنية. وتُجادل هذه الجماعات -الممولة من قِبل أفراد مثل داستن موسكوفيتز، المؤسس المشارك لـ«فيسبوك»، وبيير أوميديار، مؤسس «إيباي»- بضرورة تنظيم الذكاء الاصطناعي بدقة لمنعه من إحداث الضرر.

ويُبرز صعود جماعات مناهضة للذكاء الاصطناعي، مثل «هيومنز فيرست» التي ترأسها آمي كريمر، الزعيمة السابقة لـ«حركة حزب الشاي»، تنامي التحالف السياسي الذي يعتبر تنظيم الذكاء الاصطناعي قضية بالغة الأهمية.

مع ذلك، لا يتوخى جميع قادة التكنولوجيا الحذر نفسه حيال مخاطر الذكاء الاصطناعي. فقد كان جنسن هوانغ، الرئيس التنفيذي لشركة «إنفيديا»، من أشدِّ المؤيدين للذكاء الاصطناعي، مؤكداً على إمكاناته في خلق مزيد من فرص العمل وتحسين حياة الناس. وهو يُقلِّل من شأن المخاوف التي أثارها النقاد، مُجادلاً بأن الذكاء الاصطناعي سيجعل العمل أكثر كفاءة، بدلاً من أن يحلَّ محلَّ العمل البشري.

احتجاج أمام مقر شركة «أوبن إيه آي»

داعمون ومعارضون

على الرغم من ذلك، لم يقف قطاع التكنولوجيا مكتوف الأيدي تماماً في مواجهة ردود الفعل الغاضبة. فقد استثمر وادي السيليكون بكثافة في لجان العمل السياسي للتأثير على المشرِّعين والتقليل من شأن الانتقادات. وكثيراً ما يصف قطاع التكنولوجيا معارضيه بـ«المتشائمين من الذكاء الاصطناعي»، أو «المعارضين المحليين»، ولكن بالنسبة لكثير من النقاد، تعكس هذه الأوصاف فشل القطاع في معالجة المخاوف الحقيقية.

ومع ذلك، وعلى الرغم من اختلاف الخلفيات السياسية والشخصية، يشترك الأفراد والجماعات المعارضة للذكاء الاصطناعي في هدف واحد: ضمان أن يصاحب نمو هذه التقنية تنظيم مسؤول ونقاش عام حول آثارها طويلة المدى. ويخشون أنه من دون هذه الرقابة، قد يؤدي الذكاء الاصطناعي إلى تفاقم عدم المساواة وإلى عواقب اجتماعية واقتصادية غير متوقعة.

* خدمة «نيويورك تايمز».


الإعلانات تتسلل إلى روبوتات الدردشة المدعومة بالذكاء الاصطناعي

الإعلانات تتسلل إلى روبوتات الدردشة المدعومة بالذكاء الاصطناعي
TT

الإعلانات تتسلل إلى روبوتات الدردشة المدعومة بالذكاء الاصطناعي

الإعلانات تتسلل إلى روبوتات الدردشة المدعومة بالذكاء الاصطناعي

يستعين مئات الملايين من الأشخاص يومياً بروبوتات الدردشة المدعومة بالذكاء الاصطناعي في كل شيء، بدءاً من طلب التوصيات حول المنتجات، وصولاً إلى العلاقات العاطفية، ما يجعلهم جمهوراً مغرياً للاستهداف بإعلانات قد تكون خفية.

توظيف النماذج الذكية للإعلانات الخفية

في الواقع، تشير بحوثنا إلى أنه يمكن استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي بسهولة، للإعلان الخفي، والتأثير على مستخدميها، كما كتب برايان جاي تانغ، وكانغ جي شين*.

نحن عالِما حاسوب نتابع سلامة وخصوصية الذكاء الاصطناعي منذ سنوات. وقد وجدنا في دراسة نشرناها في إحدى مجلات جمعية آلات الحوسبة، أن روبوتات الدردشة المدربة على تضمين إعلانات منتجات مخصصة في الردود على الاستفسارات، تؤثر على خيارات الناس بشأن المنتجات. ولم يدرك معظم المشاركين أنهم يتعرضون للتلاعب.

عرض الإعلانات

تأتي هذه النتائج في لحظة حاسمة. ففي عام 2023، بدأت «مايكروسوفت» في عرض إعلانات في أداة «Bing Chat»، التي تُعرف الآن باسم «كوبايلوت». ومنذ ذلك الحين، أجرت «غوغل» و«أوبن إيه آي» تجارب على الإعلانات في روبوتات الدردشة الخاصة بهما. وبدأت «ميتا» بإرسال إعلانات مخصصة للمستخدمين على «فيسبوك» و«إنستغرام»، بناءً على تفاعلاتهم مع أدوات الذكاء الاصطناعي التوليدية الخاصة بها.

وتتنافس الشركات الكبرى على الريادة؛ ففي أواخر مارس (آذار) الماضي، استقطبت «أوبن إيه آي» ديف دوغان، المدير التنفيذي المخضرم للإعلانات في «ميتا»، ليتولى قيادة عملياتها الإعلانية.

مستوى أعلى من المخاطر على المستخدمين

لقد أصبحت الإعلانات جزءاً لا يتجزأ من معظم خدمات الويب المجانية وقنوات الفيديو ومنصات التواصل الاجتماعي الكبيرة. ولكن أحدث نماذج الذكاء الاصطناعي قد تنقل هذه الممارسة إلى مستوى جديد من المخاطر على المستهلكين.

ولا يقتصر استخدام روبوتات الدردشة على البحث عن المعلومات والوسائط أو إنتاج المحتوى؛ بل يلجأ إليها المستخدمون لأداء مهام متنوعة، تصل في تعقيدها إلى تقديم النصائح الحياتية والدعم النفسي. ويتعامل الناس بشكل متزايد مع روبوتات الدردشة كرفقاء ومعالجين، حتى أن بعض المستخدمين يقيمون علاقات وثيقة مع الذكاء الاصطناعي.

في ظل هذه الظروف، قد يغفل الناس بسهولة أن الشركات تُنشئ روبوتات الدردشة لتحقيق الربح في نهاية المطاف. ولذلك، تسعى شركات الذكاء الاصطناعي جاهدة إلى تحليل بيانات المستخدمين بدقة، لجعل الإعلانات أكثر فاعلية وربحية.

تحليل البيانات لتوجيه إعلانات مخصصة

أصبحت إعلانات روبوتات الدردشة أكثر فاعلية. فبمجرد سؤال بسيط لروبوت الدردشة، يمكن الكشف عن معلومات أكثر بكثير مما يتوقعه المستخدم.

وقد أظهرت دراسة أجريت عام 2024 أن نماذج اللغة الضخمة قادرة على استنتاج نطاق واسع من البيانات الشخصية، والتفضيلات، وحتى أنماط تفكير الشخص خلال الاستفسارات الروتينية.

استنتاج التفضيلات لوضع ملفات شخصية

على سبيل المثال، قد يشير سؤال: «ساعدني في كتابة مقال عن تاريخ الأدب الأميركي» إلى أن المستخدم طالب في المرحلة الثانوية. بينما قد يشير سؤال: «اقترح عليَّ وصفات لعشاء سريع خلال الأسبوع» إلى أن المستخدم هو واحد من الوالدين العاملين. ومحادثة واحدة قد توفر كمّاً هائلاً من التفاصيل. ومع مرور الوقت، يمكن لسجل المحادثات الكامل أن يُكوِّن ملفاً شخصياً غنياً للغاية.

تجربة اختبار لنموذج ذكي بإعلانات

ولتوضيح كيفية حدوث ذلك عملياً، قمنا بتطوير روبوت دردشة يُدمج الإعلانات بسلاسة في محادثاته مع المستخدمين، مقترحاً منتجات وخدمات بناءً على سياق المحادثة.

طلبنا من 179 شخصاً إنجاز مهام يومية عبر الإنترنت، باستخدام واحد من 3 روبوتات دردشة: روبوت شائع الاستخدام على الإنترنت اليوم، وآخر يُدمج الإعلانات بشكل غير مُعلَن، وثالث يُصنِّف الاقتراحات الدعائية بوضوح.

لم يكن المشاركون على علم بأن التجربة تتعلق بالإعلانات. على سبيل المثال، عندما طلب المشاركون من برنامج الدردشة الآلي الخاص بنا نظاماً غذائياً وبرنامجاً رياضياً، اقترحت النسخة الإعلانية استخدام تطبيق محدد لتتبع السعرات الحرارية. وقدَّمت هذا المحتوى المدعوم على أنه توصية محايدة، مع أنه كان يهدف إلى التأثير على المستخدمين.

وقد أشار كثير من المشاركين إلى أنهم متأثرون بالذكاء الاصطناعي، وأن له تأثيراً على قراراتهم؛ بل إن بعضهم قال إنه فوَّض عملية اتخاذ القرار بالكامل إلى برنامج الدردشة الآلي.

إعلانات «خفيَّة» أكثر ودِّية

وأشار نصف المشاركين الذين تلقوا إعلانات مدعومة وإعلانات صريحة، إلى أنهم لم يلاحظوا وجود لغة إعلانية في الردود التي تلقوها. وقد أدى ذلك إلى نتيجة مقلقة؛ فمع أن الإعلانات جعلت أداء برنامج الدردشة الآلي أسوأ بنسبة 3 في المائة إلى 4 في المائة في كثير من المهام، فإن كثيراً من المستخدمين أشاروا إلى تفضيلهم ردود برنامج الدردشة الآلي الإعلانية على الردود غير الإعلانية؛ بل إنهم قالوا إن الردود التي تتضمن إعلانات بدت أكثر ودية وفائدة.

معرفة احتياجاتك... لإقناعك

قد يكون لهذا النوع من التأثير الخفي عواقب وخيمة عند ظهوره في مجالات أخرى من الحياة، كالآراء السياسية والاجتماعية. لطالما كان تحليل المستخدمين، واستخدام علم النفس لاستهدافهم، جزءاً من خوارزميات وسائل التواصل الاجتماعي والإعلانات الإلكترونية، لأكثر من عقد.

لكننا نرى أن برامج الدردشة الآلية ستعزِّز هذه التوجهات. ذلك لأن الأولوية القصوى لخوارزميات وسائل التواصل الاجتماعي هي إبقاء تفاعلك مع المحتوى؛ حيث تُخصَّص الإعلانات بناءً على سجل بحثك.

مع ذلك، يمكن لبرامج الدردشة الآلية أن تتجاوز ذلك بمحاولة إقناعك مباشرة، استناداً إلى معتقداتك ومشاعرك ونقاط ضعفك. وبرامج الدردشة الآلية القادرة على التفكير والتصرف بشكل مستقل أكثر فاعلية من الخوارزميات التقليدية في جمع المعلومات من المستخدمين تلقائياً. فبرنامج الدردشة الآلي المُصمَّم لغرض محدد يمكنه الاستمرار في استجواب شخص ما حتى يحصل على المعلومات المطلوبة، ما يُؤدِّي إلى تكوين صورة أدق عنه.

هذا النوع من الاستجواب الذاتي ممكن، ويتماشى مع نماذج أعمال شركات الذكاء الاصطناعي، وقد أثار قلق الجهات التنظيمية.

وتُطلق «أوبن إيه آي» حالياً إعلانات في «تشات جي بي تي»، ولكنها صرَّحت بأنها لن تسمح بوضع الإعلانات لتغيير ردود روبوت الدردشة المدعوم بالذكاء الاصطناعي.

لكن السماح بالإعلانات المُخصصة ضمن ردود روبوت الدردشة بات وشيكاً. وتشير بحوثنا إلى أنه إذا اتخذت شركات الذكاء الاصطناعي هذه الخطوة، فقد لا يلاحظ كثير من المستخدمين البشريين حدوثها.

خطوات للكشف عن إعلانات روبوتات الدردشة

إليك بعض الخطوات التي يمكنك اتباعها لمحاولة كشف إعلانات روبوتات الدردشة المدعومة بالذكاء الاصطناعي:

- ابحث عن أي نص إفصاحي (كلمات مثل: «إعلان»، و«برعاية») حتى لو كان باهتاً أو تصعب رؤيته. هذه النصوص إلزامية بموجب لوائح لجنة التجارة الفيدرالية. وتطبقها أيضاً منصتا «أمازون» و«غوغل»، وغيرهما من المنصات الإلكترونية الكبرى.

- فكِّر فيما إذا كان ذِكر المنتج أو العلامة التجارية منطقياً ومعروفاً على نطاق واسع؛ إذ يتعلم الذكاء الاصطناعي من النصوص والصور على الإنترنت، لذا من المرجح أن تكون العلامات التجارية الشهيرة مُدمجة في نماذجه. إذا كان المنتج جديداً أو غير معروف، فمن المرجح أن يكون إعلاناً.

- أي تغيير غير معتاد في التوجه، أو اللهجة، قد يكون مؤشراً على وجود إعلان. ويُشبه هذا الأمر على «يوتيوب» الانتقال المفاجئ أو غير المتوقع إلى قسم الإعلانات الممولة في مقاطع الفيديو التي يُنشئها مُنشئو المحتوى.

* طالب دكتوراه في علوم وهندسة الحاسوب، وأستاذ فخري في علوم الحاسوب بجامعة ميشيغان. مجلة «فاست كومباني».