الذكاء الاصطناعي في العمل المصرفي… هل يتحول من أداة مساعدة إلى بنية أساسية؟

«ساس»: لا قيمة للتنبؤ إذا لم يكن قابلاً للإثبات

ينتقل الذكاء الاصطناعي في القطاع المصرفي من مرحلة التجارب إلى التشغيل واسع النطاق ليصبح جزءاً من البنية الأساسية لاتخاذ القرارات الحساسة (شاترستوك)
ينتقل الذكاء الاصطناعي في القطاع المصرفي من مرحلة التجارب إلى التشغيل واسع النطاق ليصبح جزءاً من البنية الأساسية لاتخاذ القرارات الحساسة (شاترستوك)
TT

الذكاء الاصطناعي في العمل المصرفي… هل يتحول من أداة مساعدة إلى بنية أساسية؟

ينتقل الذكاء الاصطناعي في القطاع المصرفي من مرحلة التجارب إلى التشغيل واسع النطاق ليصبح جزءاً من البنية الأساسية لاتخاذ القرارات الحساسة (شاترستوك)
ينتقل الذكاء الاصطناعي في القطاع المصرفي من مرحلة التجارب إلى التشغيل واسع النطاق ليصبح جزءاً من البنية الأساسية لاتخاذ القرارات الحساسة (شاترستوك)

لم يعد الذكاء الاصطناعي تجربة جانبية في القطاع المصرفي، ولا مشروعاً استكشافياً في مختبرات الابتكار. ما يحدث اليوم هو انتقال فعلي إلى مرحلة التشغيل واسع النطاق، حيث تُدار قرارات حساسة عبر أنظمة آلية، وتُقاس الثقة رقمياً، وتُعاد صياغة البنية الأساسية للبنوك على أساس البيانات، والخوارزميات. لم يعد السؤال محصوراً بقدرة الذكاء الاصطناعي على تغيير العمل المصرفي، بل بات يتعلق بمدى استعداد البنوك لتكلفة هذا التغيير، وتعقيداته.

تشير تقديرات شركة «غارتنر» إلى أن الإنفاق على البرمجيات في منطقة الشرق الأوسط وشمال أفريقيا سينمو بنسبة 13.9 في المائة ليصل إلى 20.4 مليار دولار في 2026، مدفوعاً بتسارع تبني تقنيات الذكاء الاصطناعي المتقدم. وعلى المستوى العالمي، تتوقع الشركة أن يُوجَّه 75 في المائة من الإنفاق على البرمجيات بحلول عام 2028 إلى حلول تتضمن قدرات الجيل الجديد من الذكاء الاصطناعي. هذه الأرقام تعكس تحولاً هيكلياً لا يمكن عزله عن القطاع المصرفي الذي بات في قلب هذا التسارع.

الثقة تتحول إلى معيار أداء

مع توسع استخدام الذكاء الاصطناعي في تقييم الجدارة الائتمانية، وكشف الاحتيال، وخدمة العملاء، أصبحت الأنظمة أسرع، وأكثر دقة، لكنها أيضاً أقل شفافية. التحدي الأكبر يتعلق بكيفية إدارة البنوك على إبراز قرارات تتخذها خوارزميات خلال أجزاء من الثانية.

يرى أليكس كوياتكوفسكي، مدير الخدمات المالية العالمية في «ساس»، أن عام 2026 يمثل نقطة تحول في هذا الجانب. ويوضح أن «الثقة لم تعد وعداً ضمنياً، بل أصبحت معيار أداء. على البنوك الانتقال من الذكاء القائم على النماذج إلى الذكاء القائم على الأدلة، حيث يصبح كل قرار قابلاً للتفسير، والتحقق». هذه المقاربة تعكس تحولاً في مفهوم الذكاء نفسه، وهو أنه لا قيمة للتنبؤ إذا لم يكن قابلاً للإثبات.

صعود الذكاء الاصطناعي الوكيل والأنظمة شبه المستقلة يعيد تشكيل العمليات المصرفية لكنه يولد مخاطر جديدة تتعلق بالاحتيال والتجارة الآلية (شاترستوك)

الذكاء الاصطناعي الوكيل في قلب العمليات

أحد أبرز ملامح المرحلة المقبلة هو الانتقال من أدوات تحليلية إلى أنظمة شبه مستقلة، أو ما يُعرف بالذكاء الاصطناعي الوكيل. هذه الأنظمة لا تكتفي بتقديم توصيات، بل تدير عمليات كاملة، من معالجة طلبات العملاء، إلى تنظيم سير العمل، واتخاذ قرارات تشغيلية.

بحسب بيانات شركة «شركة الأبحاث الدولية» (IDC)، من المتوقع أن يتجاوز إنفاق قطاع الخدمات المالية على الذكاء الاصطناعي 67 مليار دولار بحلول عام 2028، مع تركيز متزايد على التطبيقات الإنتاجية المرتبطة بالقرارات، والعمليات. بحسب ديانا روثفوس مديرة استراتيجية الحلول العالمية لإدارة المخاطر، والاحتيال، والامتثال في «ساس»: «القطاع تجاوز مرحلة إثبات المفهوم». وتوضح روثفوس كذلك أن «القطاع تجاوز مرحلة إثبات المفهوم». وتضيف: «البنوك التي ستحقق ميزة تنافسية هي تلك التي تحول الذكاء الاصطناعي إلى بنية صناعية، حيث تصبح الحوكمة جزءاً من القيمة، لا عبئاً تنظيمياً».

التجارة الآلية ومخاطر «الشراء غير المقصود»

مع توسع الأنظمة الذاتية، بدأت البنوك تواجه سيناريوهات جديدة لم تكن في الحسبان. من بينها نزاعات ناتجة عن عمليات شراء نفذتها أنظمة ذكية دون إدراك كامل من المستخدم. هذه الظاهرة تفتح باباً جديداً لمخاطر الاحتيال. آدم نيبرغ المدير الأول للتسويق المصرفي العالمي في «ساس» يشدد على أن البنوك باتت مطالبة بالتحقق ليس فقط من هوية الأفراد، بل من هوية الأنظمة الذكية نفسها. ويضيف أن «أطراً مثل الرموز المميزة للأنظمة، والتوقيعات السلوكية ستصبح ضرورية لحماية العملاء، ومنع إساءة استخدام الذكاء الاصطناعي».

تتحول الثقة من مفهوم افتراضي إلى معيار أداء قابل للقياس مع تزايد الحاجة إلى قرارات خوارزمية قابلة للتفسير والتحقق (شاترستوك)

تلوث البيانات وظهور «الخزائن الرقمية»

تواجه البنوك أزمة جديدة تتعلق بسلامة البيانات. فالبيانات الاصطناعية رغم فائدتها في تدريب النماذج، قد تتسلل إلى قواعد البيانات الأساسية، وتدخل تحيزات يصعب اكتشافها.

يحذر إيان هولمز، مدير حلول مكافحة الاحتيال المؤسسي في «ساس»، من أن «الذكاء الاصطناعي التوليدي قادر على إدخال أخطاء واقعية على نطاق واسع، ما يجعل اكتشاف البيانات الملوثة أكثر صعوبة».

ولهذا، بدأت بعض البنوك بإنشاء «خزائن بيانات» رقمية محمية تفرض ضوابط صارمة على تفاعل النماذج الذكية مع البيانات الحساسة.

في المقابل، يفتح الذكاء الاصطناعي آفاقاً جديدة أمام استغلال البيانات غير المهيكلة، التي تشكل أكثر من 80 في المائة من بيانات المؤسسات، وتنمو بمعدل يتراوح بين 50 و60 في المائة سنوياً. توضح تيريزا روبرتس، المديرة العالمية لنمذجة المخاطر في «ساس» أن وكلاء المعرفة المدعومين بالنماذج اللغوية الضخمة باتوا قادرين على تحويل نصوص وصور كانت مهملة سابقاً إلى رؤى قابلة للتنفيذ، ما يسرّع اتخاذ القرار، ويحوّل إدارة المخاطر من نهج تفاعلي إلى استباقي.

الاحتيال العاطفي

من أخطر التحديات الناشئة ما يُعرف بالاحتيال العاطفي المدعوم بالذكاء الاصطناعي. فالمحتالون باتوا يستخدمون نماذج لغوية لمحاكاة التفاعل الإنساني على نطاق واسع. يعد ستو برادلي، نائب الرئيس الأول لحلول إدارة المخاطر في «ساس» أن «الحد الفاصل بين التواصل الحقيقي والإغواء المصطنع يتلاشى» ما يفرض على البنوك لعب دور «حاجز الحماية العاطفية» عبر تحليل السلوك، والكشف المبكر عن أنماط الاستغلال. كما تشهد تقنيات مكافحة الجرائم المالية تحولاً جذرياً مع تراجع فعالية الأنظمة القائمة على القواعد. وفي هذا السياق ترى بيث هيرون رئيسة حلول الامتثال المصرفي في «ساس» أن «الانتقال إلى تحليلات فورية وقابلة للتفسير لم يعد خياراً، بل ضرورة تنظيمية، وتنافسية».

خلاصة المشهد

في 2026، يرى الخبراء أن القطاع المصرفي سيدخل مرحلة لا يمكن فيها الفصل بين الذكاء الاصطناعي، والثقة، والحوكمة. النجاح لن يكون لمن يملك النموذج الأقوى فقط، بل لمن يستطيع تحويل الذكاء إلى قرارات قابلة للتفسير، وبيانات موثوقة، وأنظمة تحمي العملاء بقدر ما تحمي الأرباح.


مقالات ذات صلة

باول يودِّع رئاسة «الفيدرالي» متمسكاً بمقعد المحافظ

الاقتصاد رئيس مجلس «الاحتياطي الفيدرالي» جيروم باول (رويترز)

باول يودِّع رئاسة «الفيدرالي» متمسكاً بمقعد المحافظ

يستعد جيروم باول غداً (الأربعاء)، لاعتلاء منصة المؤتمر الصحافي في «الاحتياطي الفيدرالي» للمرة الأخيرة بصفته رئيساً في لحظة تاريخية.

«الشرق الأوسط» (واشنطن)
الاقتصاد شعار «الشركة السعودية لإعادة التمويل العقاري» (موقع الشركة الإلكتروني)

«السعودية لإعادة التمويل العقاري» توقّع اتفاقية شراء محفظة تمويل بـ800 مليون دولار

وقّعت «الشركة السعودية لإعادة التمويل العقاري»، إحدى شركات صندوق الاستثمارات العامة، اتفاقية شراء محفظة تمويل عقاري سكني بقيمة 3 مليارات ريال (800 مليون دولار).

«الشرق الأوسط» (الرياض)
الاقتصاد أوراق نقدية من اليوان  والروبل وسط أعلام الصين وروسيا (رويترز)

لتأمين السيولة… المركزي الروسي يفرض احتياطيات إلزامية باليوان

دعت محافظة البنك المركزي الروسي، إلفيرا نابيولينا، يوم الثلاثاء، إلى إلزام البنوك التجارية بالاحتفاظ باحتياطيات من اليوان.

«الشرق الأوسط» (موسكو )
الاقتصاد مبنى «البنك المركزي الأوروبي» في فرنكفورت بألمانيا (رويترز)

«المركزي الأوروبي»: ضغوط الطاقة ترفع توقعات التضخم وتهدد باستدامة موجة الغلاء

أظهر مسحٌ رئيسي من «البنك المركزي الأوروبي» أن المستهلكين في منطقة اليورو رفعوا توقعاتهم للتضخم بشكلٍ ملحوظ خلال مارس (آذار) الماضي.

«الشرق الأوسط» (فرنكفورت (ألمانيا))
الاقتصاد مستثمران يتابعان أسعار الأسهم على شاشة «تداول» السعودية (رويترز)

ارتفاع أسواق الخليج رغم الحذر من التوترات الجيوسياسية

ارتفعت معظم أسواق الأسهم في منطقة الخليج خلال التداولات المبكرة، الثلاثاء، مدعومة بإعلانات أرباح الشركات، في ظل استمرار التوترات الجيوسياسية.

«الشرق الأوسط» (الرياض)

«ميتا» تتجه إلى الفضاء لتوليد الطاقة الشمسية

شعار شركة «ميتا» (رويترز)
شعار شركة «ميتا» (رويترز)
TT

«ميتا» تتجه إلى الفضاء لتوليد الطاقة الشمسية

شعار شركة «ميتا» (رويترز)
شعار شركة «ميتا» (رويترز)

في خطوة تعكس تسارع الابتكار في قطاع الطاقة والتكنولوجيا، تسعى شركة «ميتا» إلى استكشاف آفاق غير تقليدية لتأمين احتياجاتها المتزايدة من الطاقة، خصوصاً مع التوسع الكبير في تشغيل أنظمة الذكاء الاصطناعي. وفي هذا السياق، تخطط الشركة لاستغلال الطاقة الشمسية من الفضاء، في محاولة لتوفير مصدر مستدام وفعّال لتشغيل مراكز بياناتها على الأرض.

تعتزم شركة «ميتا»، المملوكة لمارك زوكربيرغ، جمع الطاقة الشمسية من الفضاء لتغذية مراكز بيانات الذكاء الاصطناعي التابعة لها، وذلك وفقاً لما أوردته صحيفة «التليغراف».

وفي هذا الإطار، وقّع مالك منصّتي «فيسبوك» و«إنستغرام» اتفاقية مع شركة «أوفر ڤيو إنرجي» الأميركية الناشئة، بهدف توفير ما يصل إلى غيغاوات واحدة من الطاقة الشمسية، وهو ما يعادل تزويد نحو 750 ألف منزل بالطاقة.

وتتعاون «ميتا» مع «أوفر ڤيو إنرجي» ضمن خططها لإطلاق أسطول قد يصل إلى 1000 قمر اصطناعي، مزوّد بألواح شمسية تعمل على جمع أشعة الشمس مباشرة من الفضاء.

وستُحوَّل هذه الطاقة المجمّعة إلى أشعة تحت حمراء منخفضة الكثافة، يمكن توجيهها نحو الألواح الكهروضوئية على سطح الأرض، حيث تُعاد معالجتها وتحويلها إلى طاقة كهربائية قابلة للاستخدام.

وتتميّز عملية جمع الطاقة الشمسية في الفضاء بكفاءة أعلى بكثير مقارنةً بسطح الأرض، إذ لا تتأثر أشعة الشمس هناك بعوامل مثل الغلاف الجوي أو تلوّث الهواء أو الغيوم، كما يمكن وضع الأقمار الاصطناعية في مدارات تتيح لها التعرّض لأشعة الشمس بشكل شبه دائم على مدار الساعة.

ومن بين مزايا هذه التقنية أيضاً إمكانية نقل الطاقة إلى مناطق تعاني من نقص الإضاءة أو الظلام، مما يسهم في تعزيز كفاءة أنظمة الطاقة الشمسية التقليدية.

وتُشكّل هذه التقنية دفعة قوية لشركات وادي السيليكون الكبرى، التي تعمل على إنشاء مراكز بيانات ضخمة لتشغيل تطبيقات الذكاء الاصطناعي في مختلف أنحاء العالم الغربي.

كما يُتوقع أن تمثّل الطاقة الشمسية القادمة من الفضاء مصدراً مستداماً ونظيفاً يلبي احتياجات شركات التكنولوجيا، التي تواجه تحديات متزايدة في الالتزام بمعاييرها البيئية، في ظل الطلب المتصاعد على الطاقة لتشغيل أنظمة الذكاء الاصطناعي.

ومن شأن هذه المبادرة أيضاً أن تقلّل اعتماد هذه الشركات على شبكات الطاقة المحلية التي تعاني أصلاً من ضغوط متزايدة.

في السياق ذاته، تعمل شركات أخرى على تطوير تقنيات مشابهة، من بينها «سبيس إكس» التابعة لإيلون ماسك، و«بلو أوريجين» التابعة لجيف بيزوس، إضافة إلى شركة «غوغل»، حيث تسعى هذه الجهات إلى تطوير أقمار اصطناعية تعمل بالطاقة الشمسية لدعم مراكز البيانات.


ردَّة فعل متصاعدة ضد الذكاء الاصطناعي تكتسب زخماً جماهيرياً

ردَّة فعل متصاعدة ضد الذكاء الاصطناعي تكتسب زخماً جماهيرياً
TT

ردَّة فعل متصاعدة ضد الذكاء الاصطناعي تكتسب زخماً جماهيرياً

ردَّة فعل متصاعدة ضد الذكاء الاصطناعي تكتسب زخماً جماهيرياً

تزداد في الولايات المتحدة حدَّة ردَّة الفعل المتصاعدة ضد الذكاء الاصطناعي، مدفوعة بمخاوف بشأن تأثير هذه التقنية على المجتمع. وتدعو هذه الحركة التي تضم شريحة واسعة من الناس من خلفيات سياسية ومهنية مختلفة، إلى مزيد من التنظيم القانوني، والنقاش حول دور الذكاء الاصطناعي في الحياة الأميركية، كما كتب تريب ميكل*.

وتشمل فئات المنتقدين آباءً، وقادة دينيين، وناشطين بيئيين، وغيرهم، متحدين في تشكيكهم في تركيز صناعة التكنولوجيا على الربح، وعواقبه السلبية المحتملة على الجمهور.

احتجاج ضد إنشاء مراكز البيانات المهددة للبيئة

دوافع متنوعة

وتتنوع دوافع هذه الردَّة. فعلى سبيل المثال، شعر مايكل غرايستون -وهو قس إنجيلي من أوستن في تكساس- بالقلق بعد سماعه عن الآثار المدمرة لـجهاز «رفيق ذكاء اصطناعي» على زواج صديق له. وبالمثل شعر جاك غاردنر -وهو موسيقي من بويز- في آيداهو وزوجته -وهي معلمة في مدرسة ابتدائية- بالقلق إزاء إنتاج الذكاء الاصطناعي الأغاني باستخدام موسيقى محمية بحقوق الطبع والنشر.

أما في وولكوت، بإنديانا، فقد خشي بارت وآمي سنايدر -وهما مزارعان- بعد علمهما ببناء مركز بيانات بالقرب من منزلهما، من استنزاف المياه الجوفية المحلية والإضرار بمجتمعهما. ووجد هذان الشخصان -على الرغم من افتقارهما للخبرة السياسية السابقة- نفسيهما جزءاً من تحالف متنامٍ من منتقدي الذكاء الاصطناعي.

مكاسب مالية... وعواقب اجتماعية

لا تقتصر هذه الحركة على المخاوف المحلية؛ بل تشمل شخصيات شعبوية، مثل ستيفن ك. بانون، وسياسيين تقدميين مثل السيناتور بيرني ساندرز. وبينما تختلف أسباب معارضتهم للذكاء الاصطناعي، فإنهم يشتركون في اعتقادهم بأن مطوري هذه التقنية يهتمون بالمكاسب المالية أكثر من اهتمامهم بعواقبها الأوسع على المجتمع. ويشمل ذلك مخاوف من أن الثروة الهائلة التي يولِّدها الذكاء الاصطناعي ستفيد بالدرجة الأولى أصحاب المليارات في وادي السيليكون، بينما ستقع التكاليف بشكل غير متناسب على الطبقتين المتوسطة والعاملة.

غياب الإشراف القانوني

يدور جزء كبير من الانتقادات حول غياب التنظيم القانوني أو حتى النقاش حول مستقبل الذكاء الاصطناعي. وقد عبَّر بيرني ساندرز عن إحباطه في مقابلة حديثة؛ مشيراً إلى أنه على الرغم من تأثير الذكاء الاصطناعي على جميع سكان البلاد، فإن النقاش حول كيفية إدارته في الكونغرس كان محدوداً. ووفقاً للمتحدث باسم البيت الأبيض ديفيس إنغل، ركزت إدارة ترمب على ضمان هيمنة أميركا في مجال الذكاء الاصطناعي لحماية الأمن القومي والمصالح الاقتصادية. مع ذلك، يرى النقاد أن الحكومة كانت أكثر دعماً لوادي السيليكون من اهتمامها بالمخاطر التي تشكلها هذه التقنية.

تأثير بيئي... وفقدان الوظائف

وقد ساهم النمو السريع للذكاء الاصطناعي، الذي حفزه إطلاق برنامج «تشات جي بي تي» عام 2022، في تفاقم ردود الفعل السلبية. ومع تحول نظام الدردشة الآلي هذا إلى أسرع منتج برمجي نمواً على الإطلاق، ضخَّت شركات التكنولوجيا مليارات الدولارات في بناء البنية التحتية اللازمة لتطوير تقنية الذكاء الاصطناعي. وقد أدى ذلك إلى انتشار مراكز البيانات في جميع أنحاء العالم، ما أثار مخاوف بشأن تأثيرها البيئي، فضلاً عن تساؤلات حول فقدان الوظائف المحتمل نتيجة للأتمتة.

عواقب وخيمة «إن انحرف عن مساره الصحيح»

بل إن بعض رواد صناعة التكنولوجيا -مثل إيلون ماسك وسام ألتمان- حذَّروا من المخاطر المرتبطة بالذكاء الاصطناعي. في عام 2023، حذَّر ألتمان المشرِّعين من المخاطر المحتملة للذكاء الاصطناعي، مُقراً بأنَّ عواقبه ستكون وخيمة إذا ما انحرف عن مساره الصحيح.

55 % من الأميركيين ينظرون إلى الذكاء الاصطناعي كقوة ضارة لا نافعة

وقد لاقى هذا التحذير صدى واسعاً لدى الرأي العام؛ إذ أظهر استطلاع رأي أجرته جامعة كوينيبياك أن 55 في المائة من الأميركيين ينظرون إلى الذكاء الاصطناعي كقوة ضارة لا نافعة. ويعكس هذا الردُّ السلبي شعوراً عاماً بالقلق إزاء دخول الذكاء الاصطناعي إلى السوق، وما يكتنفه من غموض وشفافية ومساءلة.

تسريح الموظفين

كما ساهم الخوف من أن يستحوذ الذكاء الاصطناعي على الوظائف في تأجيج المعارضة. فقد عمدت شركات التكنولوجيا إلى تقليص عدد موظفيها بالتزامن مع توسيع نطاق استخدامها الذكاء الاصطناعي. وفي الأشهر الأخيرة، أعلنت شركات مثل «ميتا» و«مايكروسوفت» عن تسريح أعداد كبيرة من الموظفين، ما زاد من المخاوف بشأن الآثار طويلة المدى للذكاء الاصطناعي على فرص العمل.

سلامة الذكاء الاصطناعي

وقد ساهمت منظمات ذات صلة بمفهوم «الإيثار الفعَّال» (effective altruism)، وهو فلسفة تُعنى بسلامة الذكاء الاصطناعي، في تنظيم معارضة هذه التقنية. وتُجادل هذه الجماعات -الممولة من قِبل أفراد مثل داستن موسكوفيتز، المؤسس المشارك لـ«فيسبوك»، وبيير أوميديار، مؤسس «إيباي»- بضرورة تنظيم الذكاء الاصطناعي بدقة لمنعه من إحداث الضرر.

ويُبرز صعود جماعات مناهضة للذكاء الاصطناعي، مثل «هيومنز فيرست» التي ترأسها آمي كريمر، الزعيمة السابقة لـ«حركة حزب الشاي»، تنامي التحالف السياسي الذي يعتبر تنظيم الذكاء الاصطناعي قضية بالغة الأهمية.

مع ذلك، لا يتوخى جميع قادة التكنولوجيا الحذر نفسه حيال مخاطر الذكاء الاصطناعي. فقد كان جنسن هوانغ، الرئيس التنفيذي لشركة «إنفيديا»، من أشدِّ المؤيدين للذكاء الاصطناعي، مؤكداً على إمكاناته في خلق مزيد من فرص العمل وتحسين حياة الناس. وهو يُقلِّل من شأن المخاوف التي أثارها النقاد، مُجادلاً بأن الذكاء الاصطناعي سيجعل العمل أكثر كفاءة، بدلاً من أن يحلَّ محلَّ العمل البشري.

احتجاج أمام مقر شركة «أوبن إيه آي»

داعمون ومعارضون

على الرغم من ذلك، لم يقف قطاع التكنولوجيا مكتوف الأيدي تماماً في مواجهة ردود الفعل الغاضبة. فقد استثمر وادي السيليكون بكثافة في لجان العمل السياسي للتأثير على المشرِّعين والتقليل من شأن الانتقادات. وكثيراً ما يصف قطاع التكنولوجيا معارضيه بـ«المتشائمين من الذكاء الاصطناعي»، أو «المعارضين المحليين»، ولكن بالنسبة لكثير من النقاد، تعكس هذه الأوصاف فشل القطاع في معالجة المخاوف الحقيقية.

ومع ذلك، وعلى الرغم من اختلاف الخلفيات السياسية والشخصية، يشترك الأفراد والجماعات المعارضة للذكاء الاصطناعي في هدف واحد: ضمان أن يصاحب نمو هذه التقنية تنظيم مسؤول ونقاش عام حول آثارها طويلة المدى. ويخشون أنه من دون هذه الرقابة، قد يؤدي الذكاء الاصطناعي إلى تفاقم عدم المساواة وإلى عواقب اجتماعية واقتصادية غير متوقعة.

* خدمة «نيويورك تايمز».


الإعلانات تتسلل إلى روبوتات الدردشة المدعومة بالذكاء الاصطناعي

الإعلانات تتسلل إلى روبوتات الدردشة المدعومة بالذكاء الاصطناعي
TT

الإعلانات تتسلل إلى روبوتات الدردشة المدعومة بالذكاء الاصطناعي

الإعلانات تتسلل إلى روبوتات الدردشة المدعومة بالذكاء الاصطناعي

يستعين مئات الملايين من الأشخاص يومياً بروبوتات الدردشة المدعومة بالذكاء الاصطناعي في كل شيء، بدءاً من طلب التوصيات حول المنتجات، وصولاً إلى العلاقات العاطفية، ما يجعلهم جمهوراً مغرياً للاستهداف بإعلانات قد تكون خفية.

توظيف النماذج الذكية للإعلانات الخفية

في الواقع، تشير بحوثنا إلى أنه يمكن استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي بسهولة، للإعلان الخفي، والتأثير على مستخدميها، كما كتب برايان جاي تانغ، وكانغ جي شين*.

نحن عالِما حاسوب نتابع سلامة وخصوصية الذكاء الاصطناعي منذ سنوات. وقد وجدنا في دراسة نشرناها في إحدى مجلات جمعية آلات الحوسبة، أن روبوتات الدردشة المدربة على تضمين إعلانات منتجات مخصصة في الردود على الاستفسارات، تؤثر على خيارات الناس بشأن المنتجات. ولم يدرك معظم المشاركين أنهم يتعرضون للتلاعب.

عرض الإعلانات

تأتي هذه النتائج في لحظة حاسمة. ففي عام 2023، بدأت «مايكروسوفت» في عرض إعلانات في أداة «Bing Chat»، التي تُعرف الآن باسم «كوبايلوت». ومنذ ذلك الحين، أجرت «غوغل» و«أوبن إيه آي» تجارب على الإعلانات في روبوتات الدردشة الخاصة بهما. وبدأت «ميتا» بإرسال إعلانات مخصصة للمستخدمين على «فيسبوك» و«إنستغرام»، بناءً على تفاعلاتهم مع أدوات الذكاء الاصطناعي التوليدية الخاصة بها.

وتتنافس الشركات الكبرى على الريادة؛ ففي أواخر مارس (آذار) الماضي، استقطبت «أوبن إيه آي» ديف دوغان، المدير التنفيذي المخضرم للإعلانات في «ميتا»، ليتولى قيادة عملياتها الإعلانية.

مستوى أعلى من المخاطر على المستخدمين

لقد أصبحت الإعلانات جزءاً لا يتجزأ من معظم خدمات الويب المجانية وقنوات الفيديو ومنصات التواصل الاجتماعي الكبيرة. ولكن أحدث نماذج الذكاء الاصطناعي قد تنقل هذه الممارسة إلى مستوى جديد من المخاطر على المستهلكين.

ولا يقتصر استخدام روبوتات الدردشة على البحث عن المعلومات والوسائط أو إنتاج المحتوى؛ بل يلجأ إليها المستخدمون لأداء مهام متنوعة، تصل في تعقيدها إلى تقديم النصائح الحياتية والدعم النفسي. ويتعامل الناس بشكل متزايد مع روبوتات الدردشة كرفقاء ومعالجين، حتى أن بعض المستخدمين يقيمون علاقات وثيقة مع الذكاء الاصطناعي.

في ظل هذه الظروف، قد يغفل الناس بسهولة أن الشركات تُنشئ روبوتات الدردشة لتحقيق الربح في نهاية المطاف. ولذلك، تسعى شركات الذكاء الاصطناعي جاهدة إلى تحليل بيانات المستخدمين بدقة، لجعل الإعلانات أكثر فاعلية وربحية.

تحليل البيانات لتوجيه إعلانات مخصصة

أصبحت إعلانات روبوتات الدردشة أكثر فاعلية. فبمجرد سؤال بسيط لروبوت الدردشة، يمكن الكشف عن معلومات أكثر بكثير مما يتوقعه المستخدم.

وقد أظهرت دراسة أجريت عام 2024 أن نماذج اللغة الضخمة قادرة على استنتاج نطاق واسع من البيانات الشخصية، والتفضيلات، وحتى أنماط تفكير الشخص خلال الاستفسارات الروتينية.

استنتاج التفضيلات لوضع ملفات شخصية

على سبيل المثال، قد يشير سؤال: «ساعدني في كتابة مقال عن تاريخ الأدب الأميركي» إلى أن المستخدم طالب في المرحلة الثانوية. بينما قد يشير سؤال: «اقترح عليَّ وصفات لعشاء سريع خلال الأسبوع» إلى أن المستخدم هو واحد من الوالدين العاملين. ومحادثة واحدة قد توفر كمّاً هائلاً من التفاصيل. ومع مرور الوقت، يمكن لسجل المحادثات الكامل أن يُكوِّن ملفاً شخصياً غنياً للغاية.

تجربة اختبار لنموذج ذكي بإعلانات

ولتوضيح كيفية حدوث ذلك عملياً، قمنا بتطوير روبوت دردشة يُدمج الإعلانات بسلاسة في محادثاته مع المستخدمين، مقترحاً منتجات وخدمات بناءً على سياق المحادثة.

طلبنا من 179 شخصاً إنجاز مهام يومية عبر الإنترنت، باستخدام واحد من 3 روبوتات دردشة: روبوت شائع الاستخدام على الإنترنت اليوم، وآخر يُدمج الإعلانات بشكل غير مُعلَن، وثالث يُصنِّف الاقتراحات الدعائية بوضوح.

لم يكن المشاركون على علم بأن التجربة تتعلق بالإعلانات. على سبيل المثال، عندما طلب المشاركون من برنامج الدردشة الآلي الخاص بنا نظاماً غذائياً وبرنامجاً رياضياً، اقترحت النسخة الإعلانية استخدام تطبيق محدد لتتبع السعرات الحرارية. وقدَّمت هذا المحتوى المدعوم على أنه توصية محايدة، مع أنه كان يهدف إلى التأثير على المستخدمين.

وقد أشار كثير من المشاركين إلى أنهم متأثرون بالذكاء الاصطناعي، وأن له تأثيراً على قراراتهم؛ بل إن بعضهم قال إنه فوَّض عملية اتخاذ القرار بالكامل إلى برنامج الدردشة الآلي.

إعلانات «خفيَّة» أكثر ودِّية

وأشار نصف المشاركين الذين تلقوا إعلانات مدعومة وإعلانات صريحة، إلى أنهم لم يلاحظوا وجود لغة إعلانية في الردود التي تلقوها. وقد أدى ذلك إلى نتيجة مقلقة؛ فمع أن الإعلانات جعلت أداء برنامج الدردشة الآلي أسوأ بنسبة 3 في المائة إلى 4 في المائة في كثير من المهام، فإن كثيراً من المستخدمين أشاروا إلى تفضيلهم ردود برنامج الدردشة الآلي الإعلانية على الردود غير الإعلانية؛ بل إنهم قالوا إن الردود التي تتضمن إعلانات بدت أكثر ودية وفائدة.

معرفة احتياجاتك... لإقناعك

قد يكون لهذا النوع من التأثير الخفي عواقب وخيمة عند ظهوره في مجالات أخرى من الحياة، كالآراء السياسية والاجتماعية. لطالما كان تحليل المستخدمين، واستخدام علم النفس لاستهدافهم، جزءاً من خوارزميات وسائل التواصل الاجتماعي والإعلانات الإلكترونية، لأكثر من عقد.

لكننا نرى أن برامج الدردشة الآلية ستعزِّز هذه التوجهات. ذلك لأن الأولوية القصوى لخوارزميات وسائل التواصل الاجتماعي هي إبقاء تفاعلك مع المحتوى؛ حيث تُخصَّص الإعلانات بناءً على سجل بحثك.

مع ذلك، يمكن لبرامج الدردشة الآلية أن تتجاوز ذلك بمحاولة إقناعك مباشرة، استناداً إلى معتقداتك ومشاعرك ونقاط ضعفك. وبرامج الدردشة الآلية القادرة على التفكير والتصرف بشكل مستقل أكثر فاعلية من الخوارزميات التقليدية في جمع المعلومات من المستخدمين تلقائياً. فبرنامج الدردشة الآلي المُصمَّم لغرض محدد يمكنه الاستمرار في استجواب شخص ما حتى يحصل على المعلومات المطلوبة، ما يُؤدِّي إلى تكوين صورة أدق عنه.

هذا النوع من الاستجواب الذاتي ممكن، ويتماشى مع نماذج أعمال شركات الذكاء الاصطناعي، وقد أثار قلق الجهات التنظيمية.

وتُطلق «أوبن إيه آي» حالياً إعلانات في «تشات جي بي تي»، ولكنها صرَّحت بأنها لن تسمح بوضع الإعلانات لتغيير ردود روبوت الدردشة المدعوم بالذكاء الاصطناعي.

لكن السماح بالإعلانات المُخصصة ضمن ردود روبوت الدردشة بات وشيكاً. وتشير بحوثنا إلى أنه إذا اتخذت شركات الذكاء الاصطناعي هذه الخطوة، فقد لا يلاحظ كثير من المستخدمين البشريين حدوثها.

خطوات للكشف عن إعلانات روبوتات الدردشة

إليك بعض الخطوات التي يمكنك اتباعها لمحاولة كشف إعلانات روبوتات الدردشة المدعومة بالذكاء الاصطناعي:

- ابحث عن أي نص إفصاحي (كلمات مثل: «إعلان»، و«برعاية») حتى لو كان باهتاً أو تصعب رؤيته. هذه النصوص إلزامية بموجب لوائح لجنة التجارة الفيدرالية. وتطبقها أيضاً منصتا «أمازون» و«غوغل»، وغيرهما من المنصات الإلكترونية الكبرى.

- فكِّر فيما إذا كان ذِكر المنتج أو العلامة التجارية منطقياً ومعروفاً على نطاق واسع؛ إذ يتعلم الذكاء الاصطناعي من النصوص والصور على الإنترنت، لذا من المرجح أن تكون العلامات التجارية الشهيرة مُدمجة في نماذجه. إذا كان المنتج جديداً أو غير معروف، فمن المرجح أن يكون إعلاناً.

- أي تغيير غير معتاد في التوجه، أو اللهجة، قد يكون مؤشراً على وجود إعلان. ويُشبه هذا الأمر على «يوتيوب» الانتقال المفاجئ أو غير المتوقع إلى قسم الإعلانات الممولة في مقاطع الفيديو التي يُنشئها مُنشئو المحتوى.

* طالب دكتوراه في علوم وهندسة الحاسوب، وأستاذ فخري في علوم الحاسوب بجامعة ميشيغان. مجلة «فاست كومباني».