«بيم آيز»... محرك بحث عن الوجوه للجميع وبدقة «مقلقة»

مجموعة الحقوق الأوروبية الرقمية تصفه بأنه «برنامج مصمم للتجسس»

«بيم آيز»... محرك بحث عن الوجوه للجميع وبدقة «مقلقة»
TT

«بيم آيز»... محرك بحث عن الوجوه للجميع وبدقة «مقلقة»

«بيم آيز»... محرك بحث عن الوجوه للجميع وبدقة «مقلقة»

«بيم آيز» خدمة مدفوعة تبحث في شبكة الإنترنت عن صور لأحدهم... حتى لو كان الشخص لا يحبها أو لا يعرف بوجودها. وعن خدمته، يقول مالكها: «نحن فقط مزودون لهذه الأداة».
يقدم موقع «بيم آيز» PimEyes، مقابل 29.99 دولار في الشهر، للمستخدمين قوة خارقة وخطيرة من عالم الخيال العلمي: القدرة على البحث عن وجه، والعثور على صور مزعجة ربما كانت لتبقى آمنة لولا دخوله إلى الكومة الرقمية الهائلة الموزعة في أرجاء شبكة الإنترنت.
- صور الوجوه
يتطلب البحث بواسطة هذا الموقع بضع ثوانٍ. إذ يحمل المستخدم صورة وجه وينقر على مربع يوافق فيه على شروط الخدمة، ومن ثم يحصل على مجموعة من صور الوجوه الشبيهة بالوجه الذي حمله، مع روابط تشير إلى مواقع ظهور الوجوه على الشبكة. وقد استخدمت صحيفة نيويورك تايمز موقع «بيم آيز» للبحث عن صور 12 من صحافييها بعد الحصول على موافقتهم بهدف اختباره.
نجح الموقع في العثور على صور كل واحد منهم والبعض منها لم يرها الصحافيون من قبل، حتى أنه وجد أولئك الذين كانوا يرتدون نظارة شمسية أو قناعا، أو كانت وجوههم شائحة عن الكاميرا في الصورة التي استخدمت للبحث.
وجد «بيم آيز» مثلاً صورة لصحافية وهي ترقص في مناسبة في معرض للفنون قبل عشر سنوات، وأخرى تبكي فيها بعد تلقي عرض زواج، وصورة لم تحبها ولكن مصورها اختارها للترويج لصفحته على موقع «يلب Yelp». ووجد موقع البحث أيضاً صورة لأحد الصحافيين في شبابه بين الجموع في مهرجان كوتشيلا عام 2011، وظهر مراسل أجنبي في صور كثيرة من حفلات زفاف واحتفالات صاخبة بالإضافة إلى صورة بخلفية غير واضحة التقطها له أحدهم في مطار يوناني عام 2019. وأيضاً، كشفت صور البحث الحياة السابقة لصحافي في فرقة موسيقية، والملاذ المفضل لآخر في أحد المخيمات الصيفية.
وعلى عكس «كلير فيو إي.آي.»، أداة التعرف على الوجه المتوفرة لقوات إنفاذ القانون حصراً، لا يقدم عمل «بيم آيز» نتائج من مواقع التواصل الاجتماعي. جاءت بعض نتائج «بيم آيز» المفاجئة من مقالات إخبارية وصفحات تصوير الأعراس ومواقع تقييم ومدونات ومواقع إباحية، وكان معظمها مطابقاً لوجوه الصحافيين المشاركين. وجاء معظم الصور النسائية الخاطئة من المواقع الإباحية ما أثار بعض البلبلة والقلق من فكرة نسب الصور لهن (ولكنها لم تكن كذلك).
- رصد الأشخاص
في هذا السياق، قال مسؤول تنفيذي تقني طلب عدم الكشف عن هويته إنه يستخدم «بيم آيز» بشكل منتظم لتحديد هوية الأشخاص الذين يضايقونه على تويتر ويستعملون صورهم الحقيقية في حساباتهم وليس أسماءهم الحقيقية. وكشف مستخدم آخر، طلب أيضاً عدم الكشف عن هويته، أنه يستخدم الأداة لتحديد الهوية الحقيقية لممثلات الأفلام الإباحية، وللبحث عن صور واضحة لأصدقائه على فيسبوك.
وصرح الأكاديمي جيورجي غوبرونايدز (34 عاماً)، مالك «بيم آيز»، أن الاعتداءات السيبرانية الروسية على بلده الأم، جورجيا، أشعلت اهتمامه بالتقنية المتقدمة. وقال إنه يعتقد أن «بيم آيز» يمكن أن يستخدم للخير ومساعدة الناس على مراقبة سمعتهم الإلكترونية. وقد منحت هذه الأداة مثلاً الصحافية التي لم تحب صورتها التي استخدمها المصور فرصةً لتطلب منه إزالتها عن صفحته على «يلب».
ويلفت غوبرونايدز إلى أنه يفترض بالمستخدمين الاستعانة بموقعه للبحث عن وجوههم فقط أو عن وجوه أشخاص حصلوا على موافقتهم، مضيفاً إلى أنه يعول على أن يتصرف الناس «بشكل أخلاقي» لحماية قدرة التقنية على الحفاظ على الخصوصية من التآكل على المدى الطويل.
ولا يتضمن «بيم آيز» أي ضوابط تمنع المستخدم من البحث عن وجه أحد غيره، فضلاً عن أنه يقترح على المستخدم دفع رسوم لمنع الصور المزعجة من ملاحقته للأبد. ولذلك وصفت إيلا جاكوبووسكا، مستشارة السياسات في مجموعة «الحقوق الأوروبية الرقمية» المعنية بحماية الخصوصية، هذه الأداة «ببرنامج صمم للتجسس مهما قال صانعوه».
- وسيلة ابتزاز
قبل بضعة أشهر، جربت مهندسة الكومبيوتر شير سكارليت موقع «بيم آيز» لأول مرة، فاصطدمت بفصل من حياتها حاولت جاهدةً أن تنساه. ففي عام 2005، كانت شير فتاةً مفلسة في التاسعة عشرة من عمرها، وفكرت بالعمل بالمحتوى الإباحي، وسافرت إلى نيويورك لتجربة أداء حيث تعرضت للكثير من الإهانة والإساءة، ما دفعها للعدول عن الفكرة.
ولكن «بيم آيز» حفر عميقاً واستخرج هذه الصدمة التي مضى عليها عقود من الزمن مع روابط توضح مكان توفر الصور المزعجة على الشبكة. جمعت نتائج الموقع هذه الصور المزعجة مع بعض من الصور الحديثة لسكارليت التي تعمل اليوم في الدفاع عن حقوق العمال وتصدرت التغطية الإعلامية لثورة عمالية مؤثرة قادتها في شركة آبل.
تعليقاً على تجربتها للموقع، قالت سكارليت إنها «لم تكن تملك أدنى فكرة أن هذه الصور متوفرة على شبكة الإنترنت حتى استخدمت هذه الأداة».
شعرت المهندسة بالقلق من رد فعل الناس على هذه الصور، فسارعت إلى البحث عن طريقة لإزالتها عن الإنترنت، وشاركت هذه التجربة في مقابلة مع موقع «ميديوم» وشبكة سي. إن. إن. عندما نقرت على إحدى الصور المحرجة على «بيم آيز»، ظهرت أمامها لائحة خيارات تعرض رابطاً للصورة ورابطاً للموقع الذي ظهرت فيه مع خيار «استبعاد من النتائج العامة» على الموقع.
ولكنها اكتشفت أن خيار الاستبعاد متوفر فقط للمشتركين بخطط «بروتكت» التي تتراوح كلفتها بين 89.99 و299.99 دولار في الشهر. ووصفت سكارليت الأمر «بالابتزاز» لا سيما وأنها اضطرت في النهاية للاشتراك بأغلى خطة للحصول على ما تريده. إلا أن يورجي غوبرونايدز رفض هذا التوصيف وشدد على وجود أداة مجانية لحذف النتائج من مؤشر «بيم آيز» ولكنها لا تحصل على التسويق الكافي على الموقع. وعمد المالك إلى إبراز إيصال يثبت أن الموقع أعاد مبلغ 299.99 دولار للسيدة سكارليت ثمن الخطة التي اشتركت بها الشهر الفائت. وكشف غوبرونايدز أن «بيم آيز» يضم مئات آلاف المشتركين وأن معظم زواره من الولايات المتحدة وأوروبا. يجني الموقع معظم أرباحه من مشتركي خدمة «بروتكت» التي تقدم مساعدة من فريق الدعم في الموقع لإزالة الصور عن مواقع خارجية.
- إزالة البيانات
يقدم «بيم آيز» خيار «سحب» مجاني أيضاً يتيح للأشخاص إزالة البيانات التي تخصهم عن الموقع ومنها صور البحث عن وجوههم. وبهدف السحب، حملت سكارليت صورة لها من أيام المراهقة، مع مسح ضوئي لبطاقة هويتها الرسمية، وحصلت في بداية أبريل (نيسان) الماضي على تأكيد قبول طلب السحب.
وورد في الرسالة الإلكترونية التي تلقتها من الشركة أن «النتائج المحتملة التي تضم صوراً وبيانات لوجهك أزيلت عن موقعنا». ولكن عندما أجرت صحيفة التايمز بحثاً على موقع «بيم آيز» عن وجه السيدة سكارليت بموافقتها بعد شهر من الرد الذي تلقته، وجدت أكثر من 100 نتيجة ومنها الصور المزعجة.
وصف غوبرونايدز هذا الأمر بالـ«مؤسف» واعتبر أن طلب السحب لم يحجب وجه السيدة عن عمليات البحث. ولكنه في المقابل، حجب نتائج البحث لأي صور تحتوي على وجوه «شديدة الشبه» لها، ما يعني أنه على الأشخاص تسجيل السحب بشكل متكرر وباستخدام عدة صور لأنفسهم إذا كانوا يأملون البقاء خارج أبحاث «بيم آيز».
- خدمة «نيويورك تايمز»


مقالات ذات صلة

دراسة: الرموز التعبيرية في المحادثات تربك فهم الذكاء الاصطناعي

تكنولوجيا الوجوه التعبيرية النصية البسيطة قد تُسبب التباساً دلالياً لدى نماذج اللغة الكبيرة ما يؤدي إلى فهم خاطئ لنية المستخدم (شاترستوك)

دراسة: الرموز التعبيرية في المحادثات تربك فهم الذكاء الاصطناعي

دراسة علمية تكشف عن أن الرموز التعبيرية النصية قد تُربك نماذج الذكاء الاصطناعي مسببة أخطاء صامتة تؤثر على دقة الفهم والقرارات الآلية.

نسيم رمضان (لندن)
تكنولوجيا أظهر النموذج الأولي تطابقاً في البصمة بنسبة تفوق 98 % ما يضمن توثيقاً مستقراً وموثوقاً (شاترستوك)

تقنية توثيق بشرائح ذات بصمة مشتركة من دون خوادم خارجية

باحثو «MIT» يطوّرون تقنية تمكّن شريحتين من توثيق بعضهما ببصمة سيليكون مشتركة دون تخزين مفاتيح خارجية لتعزيز الأمان والكفاءة.

نسيم رمضان (لندن)
تكنولوجيا الفرق عالية الأداء تتفوق بفضل الاستثمار المنهجي في الذكاء الاصطناعي والشراكات والتخطيط البيعي (رويترز)

«سيلزفورس»: 9 من كل 10 فرق مبيعات تتجه إلى وكلاء الذكاء الاصطناعي

تقرير «سيلزفورس» يكشف تسارع تبنّي وكلاء الذكاء الاصطناعي في المبيعات، لرفع الإنتاجية، وتحسين البيانات، ودعم نماذج تسعير مرنة لتحقيق النمو.

نسيم رمضان (لندن)
تكنولوجيا تطبيقات ذكاء اصطناعي متخصصة للتعامل مع البريد الإلكتروني

كيف تتحول الفوضى الرقمية إلى أداة إنتاجية متقدمة؟

في عصرنا الرقمي، تحول البريد الإلكتروني من وسيلة للتواصل إلى عبء يومي ثقيل. وبالنسبة للكثيرين،

خلدون غسان سعيد (جدة)
تكنولوجيا توليفة مناسبة الثمن لتوصيل "آيبود" بكابل منج قبل 15 عاما بجهاز كومبيوتر بمنافذ "يو اس بي" صغيرة

كيف تتعامل مع العشرات من الأجهزة القديمة؟

أطاحت الجوالات الذكية بمشغلات الموسيقى الرقمية والكاميرات وألقتها جانباً بشكل كبير. ومع ذلك، لا يزال كثير من الناس يحتفظون بتلك الاجهزة مخبأة في مكان ما.

جيه دي بيرسدورفر (نيويورك)

«باتريوت»: درع صاروخية أميركية قادرة على تتبّع 100 هدف في آن واحد

جندي أمام منظومة الدفاع الجوي «باتريوت» خلال تدريب عسكري على أنظمة الصواريخ داخل مطار في وارسو ببولندا يوم 7 فبراير 2023 (رويترز)
جندي أمام منظومة الدفاع الجوي «باتريوت» خلال تدريب عسكري على أنظمة الصواريخ داخل مطار في وارسو ببولندا يوم 7 فبراير 2023 (رويترز)
TT

«باتريوت»: درع صاروخية أميركية قادرة على تتبّع 100 هدف في آن واحد

جندي أمام منظومة الدفاع الجوي «باتريوت» خلال تدريب عسكري على أنظمة الصواريخ داخل مطار في وارسو ببولندا يوم 7 فبراير 2023 (رويترز)
جندي أمام منظومة الدفاع الجوي «باتريوت» خلال تدريب عسكري على أنظمة الصواريخ داخل مطار في وارسو ببولندا يوم 7 فبراير 2023 (رويترز)

تُعدّ منظومة «باتريوت» من أبرز أنظمة الدفاع الجوي بعيدة المدى في العالم. طوّرت المنظومة في الولايات المتحدة شركتا «رايثيون تكنولوجيز (Raytheon Technologies)» و«لوكهيد مارتن (Lockheed Martin)»، وهي في الخدمة منذ عقود لتصبح نظاماً قتالياً مُجرَّباً في ميادين الحرب، وقادراً على مواجهة طيف واسع من التهديدات؛ من الطائرات المتقدمة إلى الصواريخ الباليستية التكتيكية وصواريخ «كروز» والطائرات المسيّرة.

العمل في كل الظروف الجوية

تتميز منظومة «باتريوت» بقدرتها على العمل في جميع الظروف الجوية وعلى مختلف الارتفاعات، مع مدى اشتباك يصل إلى نحو 70 كيلومتراً وارتفاع اعتراض يتجاوز 24 كيلومتراً. يتكوّن الصاروخ القياسي من هيكل بطول 5.2 متر وقطر 40 سنتيمتراً، مزوّد بـ4 أجنحة «دلتا» قطرها 85 سنتيمتراً، ويحمل رأساً حربياً شديد الانفجار بوزن يبلغ نحو 90 كيلوغراماً، يفجَّر عبر صمام عند الاقتراب من الهدف، وفق موقع «آرمي تكنولوجي (تكنولوجيا الجيش)» المختص.

استُخدمت المنظومة في حروب عدة، منها حرب العراق عام 2003، حيث اعترضت صواريخ أرض - أرض معادية.

قدرات عالية

تعتمد «باتريوت» على رادار متطور قادر على الكشف عن حتى 100 هدف وتتبعها معاً في آن واحد، وتوجيه ما يصل إلى 9 صواريخ بالتوازي. ويصل مدى الرادار إلى نحو 100 كيلومتر، مع قدرات مقاومة للتشويش الإلكتروني. وتُدار عمليات الاشتباك عبر محطة تحكم، وهي المحطة المأهولة الوحيدة في وحدة الإطلاق، ويعمل فيها 3 مشغلين باستخدام واجهات رقمية حديثة.

من الناحية التقنية، يستخدم صاروخ «باتريوت» نظام توجيه يُعرف بـ«التتبع عبر الصاروخ»، حيث يُرسل الرادار الأرضي بيانات الهدف إلى الصاروخ في المرحلة المتوسطة، ثم يعيد الصاروخ إرسال بياناته إلى محطة التحكم لإجراء التصحيحات النهائية. وتتيح هذه الآلية دقة عالية في إصابة الأهداف.

أُطلق صاروخ من منظومة «باتريوت» خلال مناورة على البحر الأسود في كونستانتا برومانيا يوم 15 نوفمبر 2023 (رويترز)

تطوير دائم

شهدت المنظومة تحديثات رئيسية عدة، أبرزها تطوير صاروخ «جام تي (GEM-T)»، وهو نسخة مطوّرة من صاروخ «باك2 (PAC-2)»، زُوّد بصمام تفجير جديد ومذبذب منخفض الضجيج زاد من حساسية الباحث الراداري تجاه الأهداف ذات البصمة الرادارية المنخفضة. وقد جرى تحديث أكثر من ألف صاروخ إلى هذا المعيار لمصلحة الجيش الأميركي وحلفائه، فيما أبرمت دول أوروبية عقوداً ضخمة ضمن مبادرة «الدرع الأوروبية للسماء» لتعزيز قدراتها الدفاعية في ظل الحرب الروسية - الأوكرانية.

أما النسخة الأحدث والأعلى تطوراً من «باتريوت» فهي «باك3 (PAC-3)»، التي تعتمد مبدأ «الضربة المباشرة»، حيث يُدمَّر الهدف بالطاقة الحركية الناتجة عن الاصطدام المباشر دون الحاجة إلى رأس متفجر تقليدي. يتميز صاروخ «باك3» بقدرته على تحميل 16 صاروخاً في منصة إطلاق واحدة مقارنة بـ4 فقط من طراز «باك2». دخل هذا الطراز الإنتاج المحدود أواخر التسعينات، واستخدم ميدانياً في العراق عام 2003.

لاحقاً، جرى تطوير نسخة «باك3 إم إس إيه (PAC-3 MSE)»، المزودة بمحرك صاروخي أقوى وزعانف أكبر لزيادة المدى والقدرة على المناورة ضد أهداف أسرع وأعلى تعقيداً. أُعلن عن الجاهزة التشغيلية الأولية لهذه النسخة عام 2016، ودخلت مرحلة الإنتاج الكامل في 2017. كما دُمجت مع «نظام القيادة والسيطرة المتكامل للدفاع الجوي والصاروخي (IBCS)»؛ مما عزز قدرتها على العمل ضمن شبكة دفاعية متعددة الطبقات.

جنود أميركيون يقفون بجوار بطارية صواريخ «باتريوت» في ليتوانيا عام 2017 (أ.ب)

انتشار واسع

تنتشر منظومة «باتريوت» اليوم في 17 دولة، من بينها ألمانيا واليابان وكوريا الجنوبية وبولندا ورومانيا والسويد وإسبانيا. وقد وقّعت دول عدة عقوداً بمليارات الدولارات لتحديث أو شراء وحدات إطلاق جديدة.

تعكس هذه العقود الضخمة مكانة «باتريوت» بوصفها أحد أعمدة الدفاع الجوي الغربي، لا سيما في ظل تصاعد التهديدات الصاروخية والطائرات المسيّرة منخفضة التكلفة. كما أن استمرار عمليات التطوير؛ سواء أكان عبر تحسين الرادارات بتقنية حديثة أم تطوير باحثات الجيل الجديد، يشير إلى أن المنظومة ستبقى لاعباً محورياً في ميدان الدفاع الجوي لعقود مقبلة، وفق موقع «آرمي تكنولوجي».


شركة بريطانية ناشئة تتحرّك لمنافسة «ستارلينك» بدعم أميركي

«ستارلينك» تعتمد على شبكة من الأقمار الاصطناعية في مدار أرضي منخفض ما يتيح اتصالاً سريعاً وكموناً منخفضاً في أصعب البيئات
«ستارلينك» تعتمد على شبكة من الأقمار الاصطناعية في مدار أرضي منخفض ما يتيح اتصالاً سريعاً وكموناً منخفضاً في أصعب البيئات
TT

شركة بريطانية ناشئة تتحرّك لمنافسة «ستارلينك» بدعم أميركي

«ستارلينك» تعتمد على شبكة من الأقمار الاصطناعية في مدار أرضي منخفض ما يتيح اتصالاً سريعاً وكموناً منخفضاً في أصعب البيئات
«ستارلينك» تعتمد على شبكة من الأقمار الاصطناعية في مدار أرضي منخفض ما يتيح اتصالاً سريعاً وكموناً منخفضاً في أصعب البيئات

تستعد شركة ناشئة مقرّها أكسفورد، وتحظى بدعم من وكالة الاستخبارات المركزية الأميركية، لإنتاج مئات الأقمار الاصطناعية سنوياً، في خطوة طموحة تهدف إلى تقديم بديل بريطاني لخدمة «ستارلينك» التابعة لرجل الأعمال إيلون ماسك. وفقاً لصحيفة «تلغراف».

وأعلنت شركة «OpenCosmos» البريطانية، المتخصصة في تصنيع الأقمار الاصطناعية، عن خطط لإطلاق شبكة مدارية جديدة تحمل اسم «ConnectedCosmos»، مؤكدةً أن المشروع يهدف إلى الحدّ من «الاعتماد الأوروبي المفرط على الكوكبات العملاقة العابرة للقارات».

وقال مؤسس الشركة ورئيسها التنفيذي، رافيل جوردا سيكيير، إن الشركة تقترب سريعاً من بلوغ طاقة إنتاجية مرتفعة في مصانعها، بما في ذلك منشأتها الرئيسية في هاروِل قرب أكسفورد، تمكّنها من تصنيع نحو 200 قمر اصطناعي سنوياً.

وأضاف: «لدينا حالياً القدرة على إنتاج ما يصل إلى 150 قمراً سنوياً، وسنقترب قريباً من 200. وفي منشأة هاروِل تحديداً أصبح متوسط قدرتنا تصنيع قمر اصطناعي واحد كل ثلاثة أيام»، في إشارة تعكس تسارع وتيرة التوسّع الصناعي لدى الشركة.

وأوضح سيكيير أن «OpenCosmos» تسعى إلى تقديم بديل سيادي موثوق للحكومات الأوروبية وشركات الاتصالات، التي وجدت نفسها خلال السنوات الماضية مضطرةً إلى الاعتماد على «ستارلينك» في الاتصالات الحيوية، خصوصاً في البيئات الحسّاسة.

وتُستخدم «ستارلينك»، التي تضم آلاف الأقمار الاصطناعية الصغيرة في المدار الأرضي المنخفض، على نطاق واسع لدعم العمليات في أوكرانيا عبر توفير الاتصال للقوات في الخطوط الأمامية وللهيئات الحكومية. غير أن عدداً من المسؤولين الأوروبيين أبدوا حذراً متزايداً حيال الاعتماد المفرط على الخدمة، في ظل ما يصفونه بالطبيعة المتقلّبة لماسك.

في هذا السياق، قال سيكيير: «من المهم جداً ألا نعتمد على أنظمة يتخذ قراراتها فرد واحد على الجانب الآخر من الأطلسي»، مضيفاً بنبرة تؤكد البعد السيادي للمشروع: «نريد أن نكون حلاً موثوقاً للغاية، للمملكة المتحدة وأوروبا، وكذلك للدول التي ترغب في الشراكة والتعاون من دون الاضطرار إلى الاعتماد على الولايات المتحدة أو الصين».

أحد أجهزة «ستارلينك» (رويترز)

وكانت أوروبا قد درست إنشاء شبكتها السيادية الخاصة من الأقمار الاصطناعية، المعروفة باسم «Iris²»، غير أن المشروع يُتوقّع أن يكلّف مليارات اليوروات، ولن يكون جاهزاً قبل عام 2030، ما يفتح نافذة زمنية أمام مبادرات تجارية أسرع حركة.

وفي يناير (كانون الثاني) الماضي، حصلت «OpenCosmos» على حقوق طيف ترددي مهم للأقمار منخفضة المدار من الجهات التنظيمية في ليختنشتاين، وهو تطوّر قد يمنحها موقعاً تنافسياً متقدّماً في مواجهة شركة «سبيس إكس» التابعة لماسك. وتخوّل الرخصة الشركة إطلاق ما يصل إلى 288 قمراً اصطناعياً ضمن شبكتها بحلول عام 2028.


دراسة: الرموز التعبيرية في المحادثات تربك فهم الذكاء الاصطناعي

الوجوه التعبيرية النصية البسيطة قد تُسبب التباساً دلالياً لدى نماذج اللغة الكبيرة ما يؤدي إلى فهم خاطئ لنية المستخدم (شاترستوك)
الوجوه التعبيرية النصية البسيطة قد تُسبب التباساً دلالياً لدى نماذج اللغة الكبيرة ما يؤدي إلى فهم خاطئ لنية المستخدم (شاترستوك)
TT

دراسة: الرموز التعبيرية في المحادثات تربك فهم الذكاء الاصطناعي

الوجوه التعبيرية النصية البسيطة قد تُسبب التباساً دلالياً لدى نماذج اللغة الكبيرة ما يؤدي إلى فهم خاطئ لنية المستخدم (شاترستوك)
الوجوه التعبيرية النصية البسيطة قد تُسبب التباساً دلالياً لدى نماذج اللغة الكبيرة ما يؤدي إلى فهم خاطئ لنية المستخدم (شاترستوك)

تتركز أغلب النقاشات المرتبطة بالذكاء الاصطناعي التوليدي حول مخاطر كبرى؛ كالتحيز والهلوسة وإساءة الاستخدام أو القرارات الآلية غير القابلة للتفسير. لكن دراسة بحثية جديدة تلفت الانتباه إلى مصدر مختلف تماماً للمخاطر المحتملة. إنها الرموز الصغيرة التي نستخدمها يومياً من دون تفكير مثل الوجوه التعبيرية النصية (emoticons).

الدراسة، المنشورة على منصة «arXiv» تكشف عن أن نماذج اللغة الكبيرة قد تُسيء فهم هذه الرموز البسيطة بطرق تؤدي إلى أخطاء وظيفية صامتة، لا تظهر على شكل أعطال واضحة، بل في مخرجات تبدو صحيحة شكلياً لكنها لا تعكس نية المستخدم الحقيقية.

رموز مألوفة... ومعانٍ ملتبسة

على عكس الرموز التعبيرية الحديثة (emoji) التي تمثل وحدات مرئية موحدة، تعتمد الوجوه التعبيرية النصية مثل «: -)» أو «: P» على تسلسل أحرف «ASCII». ورغم بساطتها ، تحمل هذه الرموز معاني سياقية دقيقة، تختلف باختلاف الثقافة أو سياق الاستخدام. المشكلة، بحسب الباحثين، أن نماذج اللغة لا تتعامل دائماً مع هذه الرموز باعتبارها إشارات دلالية، بل قد تفسرها أحياناً كجزء من الشيفرة البرمجية أو كنص حرفي بلا معنى عاطفي.

هذا الالتباس الدلالي قد يبدو تفصيلاً صغيراً، لكنه يصبح أكثر خطورة عندما تُستخدم نماذج الذكاء الاصطناعي في مهام حساسة، مثل توليد الشيفرات البرمجية أو تحليل التعليمات أو تشغيل وكلاء آليين يتخذون قرارات تلقائية.

يمتد تأثير هذا الالتباس إلى الأنظمة المعتمدة على «الوكلاء الأذكياء» ما قد يضخّم الخطأ عبر سلاسل قرارات آلية متتابعة (شاترستوك)

قياس المشكلة بشكل منهجي

لفهم حجم هذه الظاهرة، طوّر فريق البحث إطاراً آلياً لاختبار تأثير الوجوه التعبيرية النصية على أداء النماذج. واعتمدوا على مجموعة بيانات تضم 3.757 حالة اختبار، ركزت في الغالب على سيناريوهات برمجية متعددة اللغات، حيث قد يؤدي سوء الفهم إلى أخطاء دقيقة ولكن مؤثرة.

حقائق

38 %

هو معدل تجاوز الخطأ الذي سجلته الاختبارات عند وجود رموز تعبيرية نصية رغم بساطة هذه الإشارات وشيوع استخدامها اليومي.

الفشل الصامت

النتيجة الأكثر إثارة للقلق في الدراسة ليست نسبة الخطأ بحد ذاتها، بل طبيعة هذه الأخطاء. فقد وجد الباحثون أن أكثر من 90 في المائة من حالات الإخفاق كانت «فشلاً صامتاً»؛ أي أن النموذج أنتج مخرجات تبدو صحيحة من حيث البنية أو الصياغة، لكنها تنفذ منطقاً مختلفاً عمّا قصده المستخدم.

في البرمجة، على سبيل المثال، قد يؤدي ذلك إلى شيفرة تعمل دون أخطاء، لكنها تنفذ وظيفة غير متوقعة. هذا النوع من الأخطاء يصعب اكتشافه؛ لأنه لا يولد تحذيرات مباشرة، وقد لا يظهر إلا بعد فترة طويلة، أو في ظروف تشغيل محددة.

تجاوز النماذج نفسها

لم تتوقف الدراسة عند اختبار النماذج اللغوية بشكل مباشر، بل امتدت إلى أنظمة قائمة على «الوكلاء» (agent - based frameworks) التي تعتمد على هذه النماذج كعقل مركزي لاتخاذ القرار. ووجد الباحثون أن الالتباس الدلالي ينتقل بسهولة إلى هذه الأنظمة المركبة، ما يعني أن الخطأ لا يبقى محصوراً في إجابة واحدة، بل قد يتضخم عبر سلسلة من القرارات الآلية. هذا الاكتشاف مهم في ظل التوجه المتسارع نحو استخدام وكلاء ذكيين لإدارة مهام معقدة، من أتمتة البرمجيات إلى تشغيل سلاسل عمل كاملة دون تدخل بشري مباشر.

لماذا تفشل الحلول الحالية؟

قد يبدو الحل بديهياً، وهو تعليم النموذج تجاهل الوجوه التعبيرية، أو إضافة تعليمات صريحة في المطالبات (prompts). لكن الدراسة تشير إلى أن هذه المعالجات السطحية ليست كافية. فحتى مع تعليمات إضافية، استمرت النماذج في الوقوع في الالتباس نفسه، ما يدل على أن المشكلة أعمق من مجرد «سوء صياغة» في الطلب.

يرجّح الباحثون أن جذور المشكلة تعود إلى بيانات التدريب نفسها، حيث لا يتم تمثيل الوجوه التعبيرية النصية بشكل متسق، أو يتم التعامل معها أحياناً على أنها ضوضاء لغوية. كما أن البنية الداخلية للنماذج قد لا تميز بوضوح بين الرمز بوصفه إشارة عاطفية أو عنصراً نحوياً أو جزءاً من شيفرة.

الدراسة: جذور المشكلة تعود إلى بيانات التدريب وبنية النماذج نفسها ما يستدعي اختبارات أمان أدق وتحسين تمثيل الإشارات اللغوية الصغيرة (أدوبي)

سلامة الذكاء الاصطناعي

تكشف هذه الدراسة عن جانب مهم من التحديات التي تواجه نشر نماذج الذكاء الاصطناعي في البيئات الواقعية. فالمخاطر لا تنشأ فقط من القرارات الكبرى أو المدخلات الخبيثة، بل قد تأتي من تفاصيل صغيرة ومألوفة ويومية. وفي سياق سلامة الذكاء الاصطناعي، يسلط البحث الضوء على الحاجة إلى اختبارات أكثر دقة، لا تكتفي بتقييم صحة الإجابة من حيث المضمون العام، بل تدرس مدى تطابقها مع نية المستخدم. كما يطرح تساؤلات حول مدى جاهزية هذه النماذج للتعامل مع اللغة كما تُستخدم فعلياً، لا كما تُكتب في الأمثلة المثالية.

الخطوة التالية

لا تقدم الدراسة حلولاً نهائية، لكنها ترسم خريطة واضحة للمشكلة، وتدعو إلى مزيد من البحث في كيفية تمثيل الرموز غير التقليدية داخل النماذج اللغوية. وقد يكون ذلك عبر تحسين بيانات التدريب أو تطوير آليات تفسير دلالي أدق أو دمج اختبارات أمان جديدة تركز على «الإشارات الصغيرة».

تهدف الدراسة إلى القول إن في عصر الذكاء الاصطناعي، لا توجد تفاصيل صغيرة حقاً. حتى رمز ابتسامة بسيط قد يحمل مخاطر أكبر مما نتخيل، إذا أسيء فهمه داخل عقل آلي يعتمد عليه البشر في قرارات متزايدة الحساسية.