خاص لـ«الشرق الأوسط»: «كاسبرسكي» تكشف مبكراً عن توقعاتها حول التهديدات السيبرانية لعام 2024

«كاسبرسكي»: ستبسط أدوات الذكاء الاصطناعي إنتاج رسائل التصيد الاحتيالي وتمكن المجرمين السيبرانيين من تقليد شخصيات معينة (شاترستوك)
«كاسبرسكي»: ستبسط أدوات الذكاء الاصطناعي إنتاج رسائل التصيد الاحتيالي وتمكن المجرمين السيبرانيين من تقليد شخصيات معينة (شاترستوك)
TT

خاص لـ«الشرق الأوسط»: «كاسبرسكي» تكشف مبكراً عن توقعاتها حول التهديدات السيبرانية لعام 2024

«كاسبرسكي»: ستبسط أدوات الذكاء الاصطناعي إنتاج رسائل التصيد الاحتيالي وتمكن المجرمين السيبرانيين من تقليد شخصيات معينة (شاترستوك)
«كاسبرسكي»: ستبسط أدوات الذكاء الاصطناعي إنتاج رسائل التصيد الاحتيالي وتمكن المجرمين السيبرانيين من تقليد شخصيات معينة (شاترستوك)

كما هي حال 2022، كان عام 2023 أيضاً حافلاً بحوادث الأمن السيبراني التي احتلت عناوين الأخبار في وسائل الإعلام. لقد تفاجأنا بتحولات ومنعطفات غير متوقعة، ومنها على سبيل المثال الهجمات المتطورة على القطاعات الصناعية، واستغلال تقنيات الهندسة الاجتماعية المتقدمة لاستهداف الناس والتحايل عليهم. ولكن الجانب الذي يبعث على الطمأنينة أننا لم نلاحظ أي تغييرات كان من الصعب التعامل معها.

وإذا أردنا أن نبني توقعات لعام 2024، يبدو لنا ذلك كأنه أكثر تعقيداً، حيث شارك خبراء «كاسبرسكي» بعض التوقعات أدناه حول عمليات الاستغلال الجديدة على الهواتف المحمولة والأجهزة القابلة للارتداء والأجهزة الذكية، وطرق الهجوم على سلسلة التوريد والذكاء الاصطناعي، ودورها في تكثيف الهجمات ذات الدوافع السياسية والجرائم الإلكترونية في عام 2024.

عماد الحفار رئيس الخبراء التقنيين لمنطقة الشرق الأوسط وتركيا وأفريقيا لدى «كاسبرسكي» (كاسبرسكي)

توظيف الذكاء الاصطناعي لانتحال الشخصيات

ستساعد أدوات الذكاء الاصطناعي الناشئة على تبسيط إنتاج رسائل التصيّد الاحتيالي، وتمكين المجرمين السيبرانيين من تقليد شخصيات معينة. وقد يبتكر هؤلاء أساليب أتمتة إبداعية من خلال جمع البيانات عبر الإنترنت، وتقديمها لنماذج اللغات الكبيرة لصياغة رسائل تحاكي أسلوب الشخص المتصل من أجل الإيقاع بالضحية.

وتمثل «استراتيجية التثليث للتجسس» عاماً رائداً لثغرات الأجهزة المحمولة، وقد تلهم كثيرين لإجراء مزيد من الأبحاث حول التهديدات المستمرة المتقدمة التي تهاجم الهواتف المحمولة والأجهزة القابلة للارتداء والأجهزة الذكية. وربما نشهد أيضاً قيام جهات التهديد بتوسيع جهودها الرقابية، واستهداف أجهزة المستهلك المختلفة من خلال نقاط الضعف وطرق الاستغلال «الصامتة»، بما في ذلك هجمات «النقرة الصفرية» عبر برامج المراسلة، والهجمات بنقرة واحدة عبر الرسائل القصيرة أو تطبيقات المراسلة، واعتراض حركة مرور الشبكة. ومما لا شك فيه أن حماية الأجهزة الشخصية وأجهزة الشركات قد أصبحت من الأمور الحيوية التي تزداد أهميتها بشكل متزايد.

لقد أصبح من الشائع استغلال نقاط الضعف في البرامج والأجهزة، الأمر الذي يحتّم علينا التعامل معها بحرص. وفي بعض الأحيان، لا يحظى اكتشاف الثغرات الأمنية عالية الخطورة بالقدر الكافي من الأبحاث، كما تظهر طرق الإصلاح في وقت متأخر، وهذا يعني تمهيد الطريق لشبكات الروبوتات الجديدة وواسعة النطاق والخفيّة لشنّ هجمات مستهدفة.

ازدياد الهجمات السيبرانية من كيانات ترعاها دول

نعتقد بأنه بات من المحتمل أيضاً ارتفاع أعداد الهجمات الإلكترونية التي ترعاها دول، في عام 2024، ويعزى ذلك إلى ازدياد التوترات الجيوسياسية. وسيركز المتسللون في المقام الأول على سرقة البيانات وتدمير البنية التحتية لتكنولوجيا المعلومات والتجسس طويل المدى. وقد ترتفع أيضاً حملات التخريب السيبراني، وفي هذه الحالات لن يقوم المهاجمون بتشفير البيانات فحسب، بل سيعمدون إلى تدميرها، مما يشكّل تهديداً كبيراً للجهات المعرّضة للهجمات ذات الدوافع السياسية. وسيشمل ذلك أيضاً هجمات مستهدفة محددة ضد الأفراد أو الجماعات. وقد تتضمن هذه الهجمات اختراق أجهزة الأفراد؛ للوصول إلى المؤسسات التي يعملون بها، واستخدام الطائرات المسيّرة لتحديد أهداف محددة، واستخدام البرامج الضارة للتنصت، وغيرها الكثير.

ويُلاحظ أن القرصنة الإلكترونية قد أصبحت أكثر شيوعاً ضمن الصراعات الجيوسياسية. ومن المتوقع أن تسهم هذه التوترات في زيادة أنشطة القرصنة الإلكترونية، سواء كانت تهدف إلى التدمير أو إلى نشر معلومات كاذبة. وتفرض هذه الأنشطة إجراء تحقيقات مكلفة، فضلاً عن الإجهاد الذي يلحق بمحللي مركز العمليات والباحثين في مجال الأمن السيبراني.

«كاسبرسكي»: من المحتمل ارتفاع أعداد الهجمات الإلكترونية التي ترعاها دول في عام 2024 (شاترستوك)

هجمات سلسلة التوريد كخدمة

تسلط الخروقات التي كشفت عنها «أوكتا» في عامي 2022 و2023 الضوء على حجم التهديدات، وتبيّن أن دوافع مثل هذه الهجمات قد تتراوح من المكاسب المالية إلى التجسس. ومن المتوقع أن يشهد عام 2024 تطورات جديدة في الأنشطة المتصلة بسوق الوصول إلى الويب المظلم، المتعلقة بسلاسل التوريد، الأمر الذي يتيح هجمات أعلى كفاءة وأوسع انتشاراً.

وبما أن هجمات سلسلة التوريد أصبحت أكثر شيوعاً بين الجهات المسؤولة عن التهديدات، يتوقع أن يمثل عام 2024 بداية مرحلة جديدة لهذا النوع من الأنشطة. وتشير التوقعات إلى أن هذا الاتجاه قد يتطور بطرق مختلفة. أولاً، يمكن استخدام البرمجيات مفتوحة المصدر الشائعة لاستهداف فئة محددة من المطورين المؤسسين. ويمكن أن تقدم السوق السوداء عروضاً جديدة، بما في ذلك حزم الوصول التي تستهدف مختلف موردي البرامج وخدمات تكنولوجيا المعلومات. لذا، فإن أولئك المهتمين بشنّ الهجمات على سلسلة التوريد، والمسلحين بسبل الوصول إلى مجموعة واسعة من الضحايا المحتملين، يمكنهم اختيار أهدافهم المفضلة بعناية لشنّ هجمات واسعة النطاق. وبالتالي، يمكن للجهات القائمة بأنشطة التهديد أن ترتقي بكفاءة هجمات سلسلة التوريد والوصول بها إلى مستوى جديد.

بناء شبكات الروبوت الجديدة عبر الأجهزة الاستهلاكية والمؤسسية

من بين الحقائق المعروفة لكثيرين أنه لا تزال هناك ثغرات أمنية في البرامج والأجهزة شائعة الاستخدام على المستويين التجاري أو الشخصي. ولا تعدّ شبكات الروبوت في حد ذاتها أداة هجوم جديدة. على سبيل المثال، تم قبل بضع سنوات استخدام شبكة روبوتية تضم أكثر من 65000 جهاز توجيه منزلي لتوكيل حركة المرور الضارة لشبكات الروبوتات والتهديدات المتقدمة الأخرى. وهناك مثال آخر ظهر في أعقاب انتشار ظاهرة العمل عن بُعد، ويتعلق بحملات التهديدات المستمرة المتقدمة التي تستهدف الموظفين العاملين عن بُعد عبر أجهزة توجيه المكاتب الصغيرة/ المكاتب المنزلية المصابة بفيروس من فئة «أحصنة طروادة» للوصول عن بعد، والذي يشبه الروبوتات. ونظراً لوجود عدد كبير من نقاط الضعف التي تم الكشف عنها أخيراً، نتوقع أن نرى هجمات جديدة من هذا النوع في عام 2024.

ولن تقتصر الهجمات، التي تعتمد على الروبوتات، على مجموعات التهديدات المستمرة المتقدمة، بل يمكن أيضاً أن يتبناها المجرمون السيبرانيون. وتمثل الطبيعة السرية لهذه الهجمات التحديات المتعلقة بالكشف عنها، كما أنها تتيح للمهاجمين في الوقت نفسه فرصاً كبيرة للتسلل وتسجيل وجودهم داخل البنية التحتية للشركة أو المؤسسة.

«كاسبرسكي»: لا يحظى اكتشاف الثغرات الأمنية عالية الخطورة بالقدر الكافي من الأبحاث كما تظهر طرق الإصلاح في وقت متأخر (شاترستوك)

خدمات الاختراق عن طريق الاستئجار

تتخصص مجموعات القرصنة مقابل الاستئجار (أو الاختراق مقابل الاستئجار) في أنظمة التسلل، كما تقدم خدمات سرقة البيانات. وتشمل قائمة عملائها جهات التحقيق الخاصة، وتطول القائمة لتشمل شركات المحاماة والمنافسين التجاريين، وحتى أولئك الذين يفتقرون إلى المهارات التقنية اللازمة لمثل هذه الهجمات. ويعلن هؤلاء المرتزقة السيبرانيون خدماتهم علناً، ويستهدفون الكيانات المهتمة بهذه الأنواع من الأنشطة.

ومن بين هذه المجموعات التي يتتبعها فريقنا العالمي للبحث والتحليل، مجموعة تحمل اسم «ديث ستوركر (DeathStalker)»، التي تركز على شركات المحاماة والشركات المالية حصرياً، وتقدم لها خدمات القرصنة، كما تعمل وسيطاً معلوماتياً بدلاً من العمل بوصفها جهةً للتهديدات المستمرة المتقدمة من النوع التقليدي. وتستخدم هذه المجموعات رسائل البريد الإلكتروني للتصيّد الاحتيالي، مع مرفقات ملفات ضارة للتحكم في أجهزة الضحايا وسرقة البيانات الحساسة.

ويلاحظ الآن أن هذا النهج يكتسب زخماً عالمياً، ونتوقع أن يتطور في عام 2024. ومن الممكن أن تلجأ بعض مجموعات التهديدات المستمرة المتقدمة إلى توسيع نطاق عملياتها؛ بسبب الطلب المتزايد على هذه الخدمات، على ضوء حاجتها إلى توليد الدخل للحفاظ على أنشطتها والدفع لمحترفيها.

تنامي أنشطة التزييف الصوتي العميق

بالإضافة إلى الصور المزيفة العميقة التي باتت مألوفة في هذا الوقت، يمثل استنساخ الصوت أحد مسارات التطور الرئيسية. وكما ظهر من خلال العرض التقديمي الأخير الذي قدمته «OpenAI» حول المساعدين الصوتيين، فإن التطورات التي طرحتها الشركة في مجال المحتوى الصوتي الاصطناعي يمكن أن تسهم في تحقيق مزيد من التقدم. ومع ذلك، يمكن استغلال هذه التكنولوجيا من قبل المحتالين. ليس هذا فحسب، بل قد يؤدي الاستغلال المحتمل إلى إنشاء محتوى خادع يمكن الوصول إليه على نطاق أوسع. ومن المتوقع حدوث طفرة في تطوير التزييف الصوتي، وقد يتواصل هذا التطور في تقنية التزييف العميق.


مقالات ذات صلة

«ميتا» تتجه إلى الفضاء لتوليد الطاقة الشمسية

تكنولوجيا شعار شركة «ميتا» (رويترز)

«ميتا» تتجه إلى الفضاء لتوليد الطاقة الشمسية

تسعى شركة «ميتا» إلى استكشاف آفاق غير تقليدية لتأمين احتياجاتها المتزايدة من الطاقة، خصوصاً مع التوسع الكبير في تشغيل أنظمة الذكاء الاصطناعي.

«الشرق الأوسط» (كاليفورنيا (الولايات المتحدة))
الاقتصاد كلمة «الذكاء الاصطناعي» ولوحة مفاتيح ويدا روبوت في هذه الصورة التوضيحية (رويترز)

«سيتي غروب» ترفع توقعاتها لسوق الذكاء الاصطناعي إلى 4.2 تريليون دولار

تتوقع «سيتي غروب» أن يتجاوز حجم سوق الذكاء الاصطناعي العالمي 4.2 تريليون دولار بحلول عام 2030، منها نحو 1.9 تريليون دولار مرتبطة بالذكاء الاصطناعي للشركات.

«الشرق الأوسط» (نيويورك)
الاقتصاد المساعد الذكي «مانوس» على شاشة أحد الهواتف الذكية (أ.ف.ب)

الصين تمنع استحواذ «ميتا» على «مانوس» الناشئة للذكاء الاصطناعي

منعت هيئة التخطيط الحكومية الصينية، يوم الاثنين، استحواذ «ميتا» الأميركية على شركة «مانوس» الصينية الناشئة في مجال الذكاء الاصطناعي.

«الشرق الأوسط» (بكين)
خاص توماس كوريان الرئيس التنفيذي لـ«غوغل كلاود» متحدثاً لـ«الشرق الأوسط» (الشرق الأوسط)

خاص الرئيس التنفيذي لـ«غوغل كلاود»: مراكز بياناتنا «مقاوِمَة للأزمات» ولا ترتبط بحدود

بينما تفرض التوترات الإقليمية تحديات على البنية التحتية، تعيد «غوغل» صياغة مفهوم استمرارية الأعمال عبر دمج الحصانة الرقمية بالذكاء الاصطناعي المؤسسي.

نسيم رمضان (لاس فيغاس)
الاقتصاد يسير الناس على طول أحد الشوارع أثناء زيارتهم لمدينة فنغانغ القديمة على مشارف شنغهاي (أ.ف.ب)

الأرباح الصناعية والتكنولوجيا يدفعان أسهم الصين وهونغ كونغ للارتفاع

شهدت الأسهم في الصين وهونغ كونغ ارتفاعاً طفيفاً خلال تعاملات يوم الاثنين، مدفوعة بشكل أساسي بقطاع التكنولوجيا.

«الشرق الأوسط» (هونغ كونغ)

«ميتا» تتجه إلى الفضاء لتوليد الطاقة الشمسية

شعار شركة «ميتا» (رويترز)
شعار شركة «ميتا» (رويترز)
TT

«ميتا» تتجه إلى الفضاء لتوليد الطاقة الشمسية

شعار شركة «ميتا» (رويترز)
شعار شركة «ميتا» (رويترز)

في خطوة تعكس تسارع الابتكار في قطاع الطاقة والتكنولوجيا، تسعى شركة «ميتا» إلى استكشاف آفاق غير تقليدية لتأمين احتياجاتها المتزايدة من الطاقة، خصوصاً مع التوسع الكبير في تشغيل أنظمة الذكاء الاصطناعي. وفي هذا السياق، تخطط الشركة لاستغلال الطاقة الشمسية من الفضاء، في محاولة لتوفير مصدر مستدام وفعّال لتشغيل مراكز بياناتها على الأرض.

تعتزم شركة «ميتا»، المملوكة لمارك زوكربيرغ، جمع الطاقة الشمسية من الفضاء لتغذية مراكز بيانات الذكاء الاصطناعي التابعة لها، وذلك وفقاً لما أوردته صحيفة «التليغراف».

وفي هذا الإطار، وقّع مالك منصّتي «فيسبوك» و«إنستغرام» اتفاقية مع شركة «أوفر ڤيو إنرجي» الأميركية الناشئة، بهدف توفير ما يصل إلى غيغاوات واحدة من الطاقة الشمسية، وهو ما يعادل تزويد نحو 750 ألف منزل بالطاقة.

وتتعاون «ميتا» مع «أوفر ڤيو إنرجي» ضمن خططها لإطلاق أسطول قد يصل إلى 1000 قمر اصطناعي، مزوّد بألواح شمسية تعمل على جمع أشعة الشمس مباشرة من الفضاء.

وستُحوَّل هذه الطاقة المجمّعة إلى أشعة تحت حمراء منخفضة الكثافة، يمكن توجيهها نحو الألواح الكهروضوئية على سطح الأرض، حيث تُعاد معالجتها وتحويلها إلى طاقة كهربائية قابلة للاستخدام.

وتتميّز عملية جمع الطاقة الشمسية في الفضاء بكفاءة أعلى بكثير مقارنةً بسطح الأرض، إذ لا تتأثر أشعة الشمس هناك بعوامل مثل الغلاف الجوي أو تلوّث الهواء أو الغيوم، كما يمكن وضع الأقمار الاصطناعية في مدارات تتيح لها التعرّض لأشعة الشمس بشكل شبه دائم على مدار الساعة.

ومن بين مزايا هذه التقنية أيضاً إمكانية نقل الطاقة إلى مناطق تعاني من نقص الإضاءة أو الظلام، مما يسهم في تعزيز كفاءة أنظمة الطاقة الشمسية التقليدية.

وتُشكّل هذه التقنية دفعة قوية لشركات وادي السيليكون الكبرى، التي تعمل على إنشاء مراكز بيانات ضخمة لتشغيل تطبيقات الذكاء الاصطناعي في مختلف أنحاء العالم الغربي.

كما يُتوقع أن تمثّل الطاقة الشمسية القادمة من الفضاء مصدراً مستداماً ونظيفاً يلبي احتياجات شركات التكنولوجيا، التي تواجه تحديات متزايدة في الالتزام بمعاييرها البيئية، في ظل الطلب المتصاعد على الطاقة لتشغيل أنظمة الذكاء الاصطناعي.

ومن شأن هذه المبادرة أيضاً أن تقلّل اعتماد هذه الشركات على شبكات الطاقة المحلية التي تعاني أصلاً من ضغوط متزايدة.

في السياق ذاته، تعمل شركات أخرى على تطوير تقنيات مشابهة، من بينها «سبيس إكس» التابعة لإيلون ماسك، و«بلو أوريجين» التابعة لجيف بيزوس، إضافة إلى شركة «غوغل»، حيث تسعى هذه الجهات إلى تطوير أقمار اصطناعية تعمل بالطاقة الشمسية لدعم مراكز البيانات.


ردَّة فعل متصاعدة ضد الذكاء الاصطناعي تكتسب زخماً جماهيرياً

ردَّة فعل متصاعدة ضد الذكاء الاصطناعي تكتسب زخماً جماهيرياً
TT

ردَّة فعل متصاعدة ضد الذكاء الاصطناعي تكتسب زخماً جماهيرياً

ردَّة فعل متصاعدة ضد الذكاء الاصطناعي تكتسب زخماً جماهيرياً

تزداد في الولايات المتحدة حدَّة ردَّة الفعل المتصاعدة ضد الذكاء الاصطناعي، مدفوعة بمخاوف بشأن تأثير هذه التقنية على المجتمع. وتدعو هذه الحركة التي تضم شريحة واسعة من الناس من خلفيات سياسية ومهنية مختلفة، إلى مزيد من التنظيم القانوني، والنقاش حول دور الذكاء الاصطناعي في الحياة الأميركية، كما كتب تريب ميكل*.

وتشمل فئات المنتقدين آباءً، وقادة دينيين، وناشطين بيئيين، وغيرهم، متحدين في تشكيكهم في تركيز صناعة التكنولوجيا على الربح، وعواقبه السلبية المحتملة على الجمهور.

احتجاج ضد إنشاء مراكز البيانات المهددة للبيئة

دوافع متنوعة

وتتنوع دوافع هذه الردَّة. فعلى سبيل المثال، شعر مايكل غرايستون -وهو قس إنجيلي من أوستن في تكساس- بالقلق بعد سماعه عن الآثار المدمرة لـجهاز «رفيق ذكاء اصطناعي» على زواج صديق له. وبالمثل شعر جاك غاردنر -وهو موسيقي من بويز- في آيداهو وزوجته -وهي معلمة في مدرسة ابتدائية- بالقلق إزاء إنتاج الذكاء الاصطناعي الأغاني باستخدام موسيقى محمية بحقوق الطبع والنشر.

أما في وولكوت، بإنديانا، فقد خشي بارت وآمي سنايدر -وهما مزارعان- بعد علمهما ببناء مركز بيانات بالقرب من منزلهما، من استنزاف المياه الجوفية المحلية والإضرار بمجتمعهما. ووجد هذان الشخصان -على الرغم من افتقارهما للخبرة السياسية السابقة- نفسيهما جزءاً من تحالف متنامٍ من منتقدي الذكاء الاصطناعي.

مكاسب مالية... وعواقب اجتماعية

لا تقتصر هذه الحركة على المخاوف المحلية؛ بل تشمل شخصيات شعبوية، مثل ستيفن ك. بانون، وسياسيين تقدميين مثل السيناتور بيرني ساندرز. وبينما تختلف أسباب معارضتهم للذكاء الاصطناعي، فإنهم يشتركون في اعتقادهم بأن مطوري هذه التقنية يهتمون بالمكاسب المالية أكثر من اهتمامهم بعواقبها الأوسع على المجتمع. ويشمل ذلك مخاوف من أن الثروة الهائلة التي يولِّدها الذكاء الاصطناعي ستفيد بالدرجة الأولى أصحاب المليارات في وادي السيليكون، بينما ستقع التكاليف بشكل غير متناسب على الطبقتين المتوسطة والعاملة.

غياب الإشراف القانوني

يدور جزء كبير من الانتقادات حول غياب التنظيم القانوني أو حتى النقاش حول مستقبل الذكاء الاصطناعي. وقد عبَّر بيرني ساندرز عن إحباطه في مقابلة حديثة؛ مشيراً إلى أنه على الرغم من تأثير الذكاء الاصطناعي على جميع سكان البلاد، فإن النقاش حول كيفية إدارته في الكونغرس كان محدوداً. ووفقاً للمتحدث باسم البيت الأبيض ديفيس إنغل، ركزت إدارة ترمب على ضمان هيمنة أميركا في مجال الذكاء الاصطناعي لحماية الأمن القومي والمصالح الاقتصادية. مع ذلك، يرى النقاد أن الحكومة كانت أكثر دعماً لوادي السيليكون من اهتمامها بالمخاطر التي تشكلها هذه التقنية.

تأثير بيئي... وفقدان الوظائف

وقد ساهم النمو السريع للذكاء الاصطناعي، الذي حفزه إطلاق برنامج «تشات جي بي تي» عام 2022، في تفاقم ردود الفعل السلبية. ومع تحول نظام الدردشة الآلي هذا إلى أسرع منتج برمجي نمواً على الإطلاق، ضخَّت شركات التكنولوجيا مليارات الدولارات في بناء البنية التحتية اللازمة لتطوير تقنية الذكاء الاصطناعي. وقد أدى ذلك إلى انتشار مراكز البيانات في جميع أنحاء العالم، ما أثار مخاوف بشأن تأثيرها البيئي، فضلاً عن تساؤلات حول فقدان الوظائف المحتمل نتيجة للأتمتة.

عواقب وخيمة «إن انحرف عن مساره الصحيح»

بل إن بعض رواد صناعة التكنولوجيا -مثل إيلون ماسك وسام ألتمان- حذَّروا من المخاطر المرتبطة بالذكاء الاصطناعي. في عام 2023، حذَّر ألتمان المشرِّعين من المخاطر المحتملة للذكاء الاصطناعي، مُقراً بأنَّ عواقبه ستكون وخيمة إذا ما انحرف عن مساره الصحيح.

55 % من الأميركيين ينظرون إلى الذكاء الاصطناعي كقوة ضارة لا نافعة

وقد لاقى هذا التحذير صدى واسعاً لدى الرأي العام؛ إذ أظهر استطلاع رأي أجرته جامعة كوينيبياك أن 55 في المائة من الأميركيين ينظرون إلى الذكاء الاصطناعي كقوة ضارة لا نافعة. ويعكس هذا الردُّ السلبي شعوراً عاماً بالقلق إزاء دخول الذكاء الاصطناعي إلى السوق، وما يكتنفه من غموض وشفافية ومساءلة.

تسريح الموظفين

كما ساهم الخوف من أن يستحوذ الذكاء الاصطناعي على الوظائف في تأجيج المعارضة. فقد عمدت شركات التكنولوجيا إلى تقليص عدد موظفيها بالتزامن مع توسيع نطاق استخدامها الذكاء الاصطناعي. وفي الأشهر الأخيرة، أعلنت شركات مثل «ميتا» و«مايكروسوفت» عن تسريح أعداد كبيرة من الموظفين، ما زاد من المخاوف بشأن الآثار طويلة المدى للذكاء الاصطناعي على فرص العمل.

سلامة الذكاء الاصطناعي

وقد ساهمت منظمات ذات صلة بمفهوم «الإيثار الفعَّال» (effective altruism)، وهو فلسفة تُعنى بسلامة الذكاء الاصطناعي، في تنظيم معارضة هذه التقنية. وتُجادل هذه الجماعات -الممولة من قِبل أفراد مثل داستن موسكوفيتز، المؤسس المشارك لـ«فيسبوك»، وبيير أوميديار، مؤسس «إيباي»- بضرورة تنظيم الذكاء الاصطناعي بدقة لمنعه من إحداث الضرر.

ويُبرز صعود جماعات مناهضة للذكاء الاصطناعي، مثل «هيومنز فيرست» التي ترأسها آمي كريمر، الزعيمة السابقة لـ«حركة حزب الشاي»، تنامي التحالف السياسي الذي يعتبر تنظيم الذكاء الاصطناعي قضية بالغة الأهمية.

مع ذلك، لا يتوخى جميع قادة التكنولوجيا الحذر نفسه حيال مخاطر الذكاء الاصطناعي. فقد كان جنسن هوانغ، الرئيس التنفيذي لشركة «إنفيديا»، من أشدِّ المؤيدين للذكاء الاصطناعي، مؤكداً على إمكاناته في خلق مزيد من فرص العمل وتحسين حياة الناس. وهو يُقلِّل من شأن المخاوف التي أثارها النقاد، مُجادلاً بأن الذكاء الاصطناعي سيجعل العمل أكثر كفاءة، بدلاً من أن يحلَّ محلَّ العمل البشري.

احتجاج أمام مقر شركة «أوبن إيه آي»

داعمون ومعارضون

على الرغم من ذلك، لم يقف قطاع التكنولوجيا مكتوف الأيدي تماماً في مواجهة ردود الفعل الغاضبة. فقد استثمر وادي السيليكون بكثافة في لجان العمل السياسي للتأثير على المشرِّعين والتقليل من شأن الانتقادات. وكثيراً ما يصف قطاع التكنولوجيا معارضيه بـ«المتشائمين من الذكاء الاصطناعي»، أو «المعارضين المحليين»، ولكن بالنسبة لكثير من النقاد، تعكس هذه الأوصاف فشل القطاع في معالجة المخاوف الحقيقية.

ومع ذلك، وعلى الرغم من اختلاف الخلفيات السياسية والشخصية، يشترك الأفراد والجماعات المعارضة للذكاء الاصطناعي في هدف واحد: ضمان أن يصاحب نمو هذه التقنية تنظيم مسؤول ونقاش عام حول آثارها طويلة المدى. ويخشون أنه من دون هذه الرقابة، قد يؤدي الذكاء الاصطناعي إلى تفاقم عدم المساواة وإلى عواقب اجتماعية واقتصادية غير متوقعة.

* خدمة «نيويورك تايمز».


الإعلانات تتسلل إلى روبوتات الدردشة المدعومة بالذكاء الاصطناعي

الإعلانات تتسلل إلى روبوتات الدردشة المدعومة بالذكاء الاصطناعي
TT

الإعلانات تتسلل إلى روبوتات الدردشة المدعومة بالذكاء الاصطناعي

الإعلانات تتسلل إلى روبوتات الدردشة المدعومة بالذكاء الاصطناعي

يستعين مئات الملايين من الأشخاص يومياً بروبوتات الدردشة المدعومة بالذكاء الاصطناعي في كل شيء، بدءاً من طلب التوصيات حول المنتجات، وصولاً إلى العلاقات العاطفية، ما يجعلهم جمهوراً مغرياً للاستهداف بإعلانات قد تكون خفية.

توظيف النماذج الذكية للإعلانات الخفية

في الواقع، تشير بحوثنا إلى أنه يمكن استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي بسهولة، للإعلان الخفي، والتأثير على مستخدميها، كما كتب برايان جاي تانغ، وكانغ جي شين*.

نحن عالِما حاسوب نتابع سلامة وخصوصية الذكاء الاصطناعي منذ سنوات. وقد وجدنا في دراسة نشرناها في إحدى مجلات جمعية آلات الحوسبة، أن روبوتات الدردشة المدربة على تضمين إعلانات منتجات مخصصة في الردود على الاستفسارات، تؤثر على خيارات الناس بشأن المنتجات. ولم يدرك معظم المشاركين أنهم يتعرضون للتلاعب.

عرض الإعلانات

تأتي هذه النتائج في لحظة حاسمة. ففي عام 2023، بدأت «مايكروسوفت» في عرض إعلانات في أداة «Bing Chat»، التي تُعرف الآن باسم «كوبايلوت». ومنذ ذلك الحين، أجرت «غوغل» و«أوبن إيه آي» تجارب على الإعلانات في روبوتات الدردشة الخاصة بهما. وبدأت «ميتا» بإرسال إعلانات مخصصة للمستخدمين على «فيسبوك» و«إنستغرام»، بناءً على تفاعلاتهم مع أدوات الذكاء الاصطناعي التوليدية الخاصة بها.

وتتنافس الشركات الكبرى على الريادة؛ ففي أواخر مارس (آذار) الماضي، استقطبت «أوبن إيه آي» ديف دوغان، المدير التنفيذي المخضرم للإعلانات في «ميتا»، ليتولى قيادة عملياتها الإعلانية.

مستوى أعلى من المخاطر على المستخدمين

لقد أصبحت الإعلانات جزءاً لا يتجزأ من معظم خدمات الويب المجانية وقنوات الفيديو ومنصات التواصل الاجتماعي الكبيرة. ولكن أحدث نماذج الذكاء الاصطناعي قد تنقل هذه الممارسة إلى مستوى جديد من المخاطر على المستهلكين.

ولا يقتصر استخدام روبوتات الدردشة على البحث عن المعلومات والوسائط أو إنتاج المحتوى؛ بل يلجأ إليها المستخدمون لأداء مهام متنوعة، تصل في تعقيدها إلى تقديم النصائح الحياتية والدعم النفسي. ويتعامل الناس بشكل متزايد مع روبوتات الدردشة كرفقاء ومعالجين، حتى أن بعض المستخدمين يقيمون علاقات وثيقة مع الذكاء الاصطناعي.

في ظل هذه الظروف، قد يغفل الناس بسهولة أن الشركات تُنشئ روبوتات الدردشة لتحقيق الربح في نهاية المطاف. ولذلك، تسعى شركات الذكاء الاصطناعي جاهدة إلى تحليل بيانات المستخدمين بدقة، لجعل الإعلانات أكثر فاعلية وربحية.

تحليل البيانات لتوجيه إعلانات مخصصة

أصبحت إعلانات روبوتات الدردشة أكثر فاعلية. فبمجرد سؤال بسيط لروبوت الدردشة، يمكن الكشف عن معلومات أكثر بكثير مما يتوقعه المستخدم.

وقد أظهرت دراسة أجريت عام 2024 أن نماذج اللغة الضخمة قادرة على استنتاج نطاق واسع من البيانات الشخصية، والتفضيلات، وحتى أنماط تفكير الشخص خلال الاستفسارات الروتينية.

استنتاج التفضيلات لوضع ملفات شخصية

على سبيل المثال، قد يشير سؤال: «ساعدني في كتابة مقال عن تاريخ الأدب الأميركي» إلى أن المستخدم طالب في المرحلة الثانوية. بينما قد يشير سؤال: «اقترح عليَّ وصفات لعشاء سريع خلال الأسبوع» إلى أن المستخدم هو واحد من الوالدين العاملين. ومحادثة واحدة قد توفر كمّاً هائلاً من التفاصيل. ومع مرور الوقت، يمكن لسجل المحادثات الكامل أن يُكوِّن ملفاً شخصياً غنياً للغاية.

تجربة اختبار لنموذج ذكي بإعلانات

ولتوضيح كيفية حدوث ذلك عملياً، قمنا بتطوير روبوت دردشة يُدمج الإعلانات بسلاسة في محادثاته مع المستخدمين، مقترحاً منتجات وخدمات بناءً على سياق المحادثة.

طلبنا من 179 شخصاً إنجاز مهام يومية عبر الإنترنت، باستخدام واحد من 3 روبوتات دردشة: روبوت شائع الاستخدام على الإنترنت اليوم، وآخر يُدمج الإعلانات بشكل غير مُعلَن، وثالث يُصنِّف الاقتراحات الدعائية بوضوح.

لم يكن المشاركون على علم بأن التجربة تتعلق بالإعلانات. على سبيل المثال، عندما طلب المشاركون من برنامج الدردشة الآلي الخاص بنا نظاماً غذائياً وبرنامجاً رياضياً، اقترحت النسخة الإعلانية استخدام تطبيق محدد لتتبع السعرات الحرارية. وقدَّمت هذا المحتوى المدعوم على أنه توصية محايدة، مع أنه كان يهدف إلى التأثير على المستخدمين.

وقد أشار كثير من المشاركين إلى أنهم متأثرون بالذكاء الاصطناعي، وأن له تأثيراً على قراراتهم؛ بل إن بعضهم قال إنه فوَّض عملية اتخاذ القرار بالكامل إلى برنامج الدردشة الآلي.

إعلانات «خفيَّة» أكثر ودِّية

وأشار نصف المشاركين الذين تلقوا إعلانات مدعومة وإعلانات صريحة، إلى أنهم لم يلاحظوا وجود لغة إعلانية في الردود التي تلقوها. وقد أدى ذلك إلى نتيجة مقلقة؛ فمع أن الإعلانات جعلت أداء برنامج الدردشة الآلي أسوأ بنسبة 3 في المائة إلى 4 في المائة في كثير من المهام، فإن كثيراً من المستخدمين أشاروا إلى تفضيلهم ردود برنامج الدردشة الآلي الإعلانية على الردود غير الإعلانية؛ بل إنهم قالوا إن الردود التي تتضمن إعلانات بدت أكثر ودية وفائدة.

معرفة احتياجاتك... لإقناعك

قد يكون لهذا النوع من التأثير الخفي عواقب وخيمة عند ظهوره في مجالات أخرى من الحياة، كالآراء السياسية والاجتماعية. لطالما كان تحليل المستخدمين، واستخدام علم النفس لاستهدافهم، جزءاً من خوارزميات وسائل التواصل الاجتماعي والإعلانات الإلكترونية، لأكثر من عقد.

لكننا نرى أن برامج الدردشة الآلية ستعزِّز هذه التوجهات. ذلك لأن الأولوية القصوى لخوارزميات وسائل التواصل الاجتماعي هي إبقاء تفاعلك مع المحتوى؛ حيث تُخصَّص الإعلانات بناءً على سجل بحثك.

مع ذلك، يمكن لبرامج الدردشة الآلية أن تتجاوز ذلك بمحاولة إقناعك مباشرة، استناداً إلى معتقداتك ومشاعرك ونقاط ضعفك. وبرامج الدردشة الآلية القادرة على التفكير والتصرف بشكل مستقل أكثر فاعلية من الخوارزميات التقليدية في جمع المعلومات من المستخدمين تلقائياً. فبرنامج الدردشة الآلي المُصمَّم لغرض محدد يمكنه الاستمرار في استجواب شخص ما حتى يحصل على المعلومات المطلوبة، ما يُؤدِّي إلى تكوين صورة أدق عنه.

هذا النوع من الاستجواب الذاتي ممكن، ويتماشى مع نماذج أعمال شركات الذكاء الاصطناعي، وقد أثار قلق الجهات التنظيمية.

وتُطلق «أوبن إيه آي» حالياً إعلانات في «تشات جي بي تي»، ولكنها صرَّحت بأنها لن تسمح بوضع الإعلانات لتغيير ردود روبوت الدردشة المدعوم بالذكاء الاصطناعي.

لكن السماح بالإعلانات المُخصصة ضمن ردود روبوت الدردشة بات وشيكاً. وتشير بحوثنا إلى أنه إذا اتخذت شركات الذكاء الاصطناعي هذه الخطوة، فقد لا يلاحظ كثير من المستخدمين البشريين حدوثها.

خطوات للكشف عن إعلانات روبوتات الدردشة

إليك بعض الخطوات التي يمكنك اتباعها لمحاولة كشف إعلانات روبوتات الدردشة المدعومة بالذكاء الاصطناعي:

- ابحث عن أي نص إفصاحي (كلمات مثل: «إعلان»، و«برعاية») حتى لو كان باهتاً أو تصعب رؤيته. هذه النصوص إلزامية بموجب لوائح لجنة التجارة الفيدرالية. وتطبقها أيضاً منصتا «أمازون» و«غوغل»، وغيرهما من المنصات الإلكترونية الكبرى.

- فكِّر فيما إذا كان ذِكر المنتج أو العلامة التجارية منطقياً ومعروفاً على نطاق واسع؛ إذ يتعلم الذكاء الاصطناعي من النصوص والصور على الإنترنت، لذا من المرجح أن تكون العلامات التجارية الشهيرة مُدمجة في نماذجه. إذا كان المنتج جديداً أو غير معروف، فمن المرجح أن يكون إعلاناً.

- أي تغيير غير معتاد في التوجه، أو اللهجة، قد يكون مؤشراً على وجود إعلان. ويُشبه هذا الأمر على «يوتيوب» الانتقال المفاجئ أو غير المتوقع إلى قسم الإعلانات الممولة في مقاطع الفيديو التي يُنشئها مُنشئو المحتوى.

* طالب دكتوراه في علوم وهندسة الحاسوب، وأستاذ فخري في علوم الحاسوب بجامعة ميشيغان. مجلة «فاست كومباني».