تقنيات مطورة لتحليل المشاعر الإنسانية «غير المحكيّة» في الإنترنت

أجهزتكم ستعرف عنكم أكثر مما تعرفون عن أنفسكم

تقنيات مطورة لتحليل المشاعر الإنسانية «غير المحكيّة» في الإنترنت
TT

تقنيات مطورة لتحليل المشاعر الإنسانية «غير المحكيّة» في الإنترنت

تقنيات مطورة لتحليل المشاعر الإنسانية «غير المحكيّة» في الإنترنت

لمعرفة المزيد عن التقنية القادرة على قراءة العواطف البشرية، شاهدوا الحلقة الأولى من مدوّنة «شود ذيس إكزيست؟» الصوتية التي تناقش تأثير التقنيات الناشئة على الإنسانية.
عندما نجلس مقابل شخص آخر على طاولة في أحد المقاهي ونسأله عن يومه، غالباً ما يردّ بجواب مهذّب مثل: «لا بأس». ولكن عندما يكذب هذا الشخص، يمكننا معرفة ذلك من تعبيره ونبرة صوته وتشنجاته وتقلّص عضلاته، لأنّ غالبية أحاديثنا ليست لغويّة.
يقرأ الناس المعاني الضمنية - الأدلّة غير المحكيّة - لمعرفة الحقيقة ويغوصون في عمق ما يقوله الآخرون ليفهموا معناه. واليوم، مع إجراء الكثير من الأحاديث عبر النصوص الإلكترونية، بات الكثير من الرسائل التي تحمل نصوصاً ضمنية، تبوح بمعلومات أقلّ من أي وقت مضى.
تسعى رنا القليوبي، الشريكة المؤسسة لشركة «أفيكتيفا» Affectiva المتخصصة في تعليم تحليل المشاعر sentiment analysis للآلات، لتحسين الأدوات التي نستخدمها واستعادة عظمة تبادل الأحاديث مجدداً. وفي مقابلة لها مع موقع «كوارتز»، قالت رنا القليوبي إنّ «قسماً كبيراً من التواصل (93 في المائة منه) يضيع في الفضاء الإلكتروني.
ويعاني الناس اليوم من «العمى العاطفي»، ولهذا السبب، بتنا نرى تعاطفاً أقلّ حول العالم. ومن وجهة نظرها، فإن الحلّ لا يكون في التوقف عن استعمال التقنية التي تجرّدنا من إنسانيتنا، بل بتصميم أدوات تفهم البشر حقّاً.
- تقنية رصد العواطف
تبتكر شركة القليوبي أدوات للإبحار في المسافة القائمة بين اللغة والمعنى.
وتقنياً، تعمل رنا القليوبي وزملاؤها على جمع قاعدة بيانات لتعابير الوجه من حول العالم للحصول على صورة شاملة للتواصل البشري. حتى اليوم، جمع الفريق 7.7 مليون وجه من 87 بلداً، مع خمسة ملايين إطار وجهي. والفكرة هنا هي إثبات أنّ قدرة الآلات على قراءة النصوص الضمنية التي نكتبها، ستمكّنها من تلبية حاجاتنا بشكل أفضل وفي أوضاع مختلفة.
> رصد تجاوب التلاميذ في الصفوف الإلكترونية. لنتحدّث عن التعليم الإلكتروني مثلاً. تخيّلوا أنّكم تحضرون صفاً ما عبر الإنترنت وشعرتم بالضياع خلاله. عندها، سيفهم الكومبيوتر ضياعكم عبر الكاميرا من عبوسكم ونظرتكم المحتارة، وسيعمد إلى تنبيه النظام بشكل يدفع المادّة التي تدرسونها إلى التجاوب معكم حسب حاجتكم بإعطائكم مزيداً من الأمثلة أو مسائل أقلّ صعوبة للحلّ؛ حتى أنّه قد يغيّر المواضيع لتفادي الإحباط، تماماً كما قد يفعل أي أستاذ في غرفة صفّ عبر تغيير النشاطات أو التكتيكات بما يتناسب مع شكل استجابة الطلاب للمادّة.
في حال استطاعت الآلات قراءة النصّ الضّمني، إذن ستنجح في تلبية حاجاتنا بشكل أفضل وفي حالات كثيرة.
> تحليل حالات التوحد. بدأ استخدام عمل القليوبي حقّاً وفي مجالات مهمّة. يساعد التحليل الآلي للأحاسيس الأشخاص المصابين بالتوحد الذين يواجهون صعوبات في تحليل المعنى الضمني العاطفي في المحادثات، على فهم الحديث بشكل أفضل من خلال تفسير بيانات الطرف الآخر وتزويدهم بمعنى كلامه.
يمكن لجهاز يشبه النظارة، أن يرسل إشارة لمرتديه عندما يفوّت أدلّة مهمّة غير محكية وذلك كي لا يعتمد على الكلام فحسب في الحكم على موقف معيّن.
- مشاعر مستخدمي الإنترنت
> مشاعر المشاركين في ندوات الإنترنت. تستخدم رنا القليوبي أداتها الخاصة أيضاً في قياس مستوى تلقّي المستمعين خلال الندوات عبر الإنترنت. وعادة، يعجز المحاضر عن تبيان ما إذا كان المستمعون يركزون فيما يقوله عند التواصل مع مجموعة عبر الشبكة.
ولكن مع المساعدة التقنية، سيتمكّن من الإحساس بمدى انخراط الجمهور بمحاضرته، وبالتالي، سينجح في إيصال رسالته بفعالية أكبر. وأضافت رنا القليوبي قائلة إنّ عرض معلومات على شاشة المتحدّث تطلعه على مستويات مشاركة المتلقّين وفقاً لتعابيرهم، سيساعده في تقديم محاضرة أفضل.
استخدم المعلنون هذه الأداة أيضاً لاختبار ردود الجمهور على حملة إعلانية محتملة. في الوقت الذي كان فيه المتفرجون يشاهدون الإعلان، كانت تقنية «أفيكتيفا» تعمل على تحليل تعابير وجوههم. وهكذا، يحصل المروّجون على لمحة أفضل عن النجاح المحتمل لإعلانهم من خلال تحديد عدد إجابات المشاهدين غير المحكية في الوقت الحقيقي.
> تعابير ونظرات سائقي السيارات. تحدّثت رنا القليوبي أيضاً عن إمكانية تجهيز السيارات بتقنية لمراقبة نظر السائق وتعابير وجهه، كما تفعل «كيا» مع سياراتها اليوم. عندها، ستتمكّن السيارة من تنبيه السائق عندما يتشتّت انتباهه عن الطريق. كما ستصبح قادرة على تفادي الحوادث قبل حصولها وببساطة عبر التركيز على الحالة الذهنية للسائق وتنبيهه عندما يتشتت انتباهه أو يشعر بالدوار.
وترى القليوبي أن مجالات استخدام تقنيتها لا تعدّ ولا تحصى. ولكن مع استمرار عملها عليها، وتحسّن ترجمة هذه التقنية للمعلومات غير المحكية التي تتضمنها المحادثات، زاد تساؤل الباحثة حول أهمية الأحاديث التي تجريها في حياتها الخاصة، وتفكيرها بعدد المرّات التي اكتفت فيها بالكلمات الصادرة عن الأشخاص، وبأنّها لو تنبّهت لضعف قدرة اللغة على الإقناع، لفهمت أنّ ما كانوا يقولونه وما عنوه فعلاً هما أمران مختلفان.
- أخلاقيات التقنية
لا شكّ أن هناك احتمالات لا تنتهي، لتوظيف التقنية العاطفية في استخدامات خطرة أيضاً، ففي حال وقوعها في أيادٍ غير مسؤولة، يمكن استعمال هذه الأداة التي تقرأ وتحلّل المشاعر البشرية لأغراض التمييز والتلاعب ولاستغلال البيانات الخاصة بمشاعرنا.
> استخدامات شريرة. كانت القليوبي وزملاؤها قد تعهدوا بعد السماح باستخدام أداتهم لأغراض الأمن والمراقبة. وتجدر الإشارة إلى أن الفريق المبتكر أثبت وفاءه بعهده بعد رفض عروض مربحة لتوقيع اتفاقيات ترخيص على حساب مبادئ أفراده. وكشفت القليوبي أن شركة «أفيكتيفا» ترفض عروضاً أسبوعية لمستثمرين مهتمين بتطوير تقنية ذات أهداف بوليسية.
لا تخفي خبيرة «التقنية العاطفية» أي أسرار وتريد للجميع أن يعي المخاطر التي قد تخفيها أداتها، لأنها تعتقد أننا بحاجة للتفكير حول كيفية تطوير هذه الأدوات واستخدامها، وما قد تعنيه للمستقبل. وتعبّر رنا القليوبي بثقة عن أنّ هذه ليست إلّا البداية بالنسبة لأداتها التي ستؤثر حتماً على جميع الناس عندما تصبح مدمجة في كثير من الأجهزة التي نستخدمها.
إنّ أخلاقيات العمل التقني لا تعني المطورين فحسب، بل جميع من ينتهي به الأمر باستخدام منتجات لا يفهم آثارها أيضاً.
> الشفافية للحصول على كنز من البيانات. قبل كلّ شيء، تشدّد القليوبي على أهمية فهم المستخدمين وموافقتهم على إعطاء بيانات عن وجوههم عند استخدام أداة مشابهة. كما يتوجب على الشركات إظهار شفافية تامّة حول ما إذا كانت تجمع المعلومات ولأي أهداف، خاصة أن المعلومات التي تقدّم اليوم بشكل محصور يمكن أن تستغلّ علناً في المستقبل.
وعلى سبيل المثال، لا تعمل السيارات التي تستخدم أداة «أفيكتيفا» اليوم على تسجيل بيانات الوجه. في المقابل، قد يتيح تسجيلها لشركات التأمين استخدام تسجيلات تعابير الوجه للتأكد من مصداقية الحادث، أو يقدّم مساعدة فعالة للشرطة في تحقيقاتها. ويحب تذكر أن استخدامات البيانات تتكاثر وتتعدد، ولكنّها ليست جميعها لأهداف الخير.
- جمع وجوه كل العالم... تحليل الابتسامة والعبوس ورصد نبرة السخرية
> إزالة عيوب التقنية. تعتبر الاختزالية (اختزال كل الأمور والجوانب إلى حالة مبسطة) أحد العيوب الأخرى التي قد تشوب تقنية التحليل العاطفي. إذ يفترض بأداة قادرة على تمييز الاختلافات أن «تتعرّف» إلى جميع أنواع الوجوه في جميع الأماكن ومن بين عدد لا يعدّ ولا يحصى من الناس، لإعطاء المعنى الصحيح.
لكننا نرى في المقابل، أن الخوارزميات المبنية على مجموعة محدّدة من البيانات، تكون منحازة وقادرة على التعرّف على الوجوه التي رأتها بشكل متكرّر فقط، مما قد يؤدي إلى إعطاء الآلة لمعلومات خاطئة أو ظالمة.
ولكنّ تدريب الآلة على قراءة على جميع أنواع الوجوه يتطلّب جمع الكثير من البيانات من كثير من الأشخاص والثقافات، ويعني أيضاً فهم مجموعة كبيرة من التعابير وفي أماكن مختلفة.
> الابتسام والعبوس تعبيران عالميان. تتحكّم الثقافة بالتعابير التي تظهر على وجوهنا إلى حدّ ما. وترى القليوبي وزملاؤها أنّ الابتسام والعبوس هما تعبيران عالميان، ولكن التأثيرات الثقافية تزيد أو تلغي بعضاً من حدتهما. فقد توصّل الفريق مثلاً إلى أنّ الأميركيين اللاتينيين أكثر تعبيراً من الآسيويين من الشرق، وأن النساء حول العالم يبتسمن عامة أكثر من الرجال.
> السخرية - نبرة يصعُب رصدها. تحدّثت القليوبي أيضاً عما أسمته «الكأس المقدّسة» في مجالها وهي الخوارزمية المسؤولة عن رصد السخرية. فرغم اعتبارها نوعاً باهتاً من الطرافة، تستخدم السخرية نبرة تتعمّد إقناع الطرف الآخر بالرسالة المعاكسة، وهو نوع معقّد جداً من الرسائل.
يمكن القول إنّ السخرية هي نوع من الغمز الصوتي، وعندما تنجح أداة معينة في فهم هذا الوضع التواصلي المبطّن المصحوب غالباً بغمز حقيقي، سيعتبر هذا الأمر بمثابة الانتصار لتقنية التعلّم الآلي. ولكن لم يتضح حتى اليوم كيف ستنجح الآلة في فهم هذا التعبير وتوضيح فهمها له.
أدخلت شركة «أفكتيفا» منذ عامين نبرة الصوت في عمل أداتها، ولكن القليوبي لم تحدّد الوقت الذي يتطلبه الوصول إلى «الكأس المقدّسة». ولكنها تصف هذه الأداة بالجيدة، وترى أنّها تقنية تحلّل النبرة والتعابير بشكل دقيق في جميع الثقافات والشخصيات، ولكنّها لا تزال في منتصف طريقها نحو النجاح التام.

- « كوارتز»، خدمات «تريبون ميديا»


مقالات ذات صلة

بحث جديد: حذف محادثاتك مع الذكاء الاصطناعي لا يزيل آثارها دائماً من الهاتف

تكنولوجيا تكشف الدراسة أن حذف محادثة مع مساعد ذكاء اصطناعي لا يعني بالضرورة إزالة جميع آثارها من ذاكرة الهاتف (أدوبي)

بحث جديد: حذف محادثاتك مع الذكاء الاصطناعي لا يزيل آثارها دائماً من الهاتف

تكشف دراسة أن بعض محادثات الذكاء الاصطناعي المحذوفة قد تترك بيانات في ذاكرة هواتف «أندرويد» يمكن استعادتها بأدوات جنائية.

نسيم رمضان (لندن)
تكنولوجيا يحصل «iPhone Duo» على دعم «Apple Pencil USB-C» وميزة «Edge Light» لتحسين مكالمات الفيديو (د.ب.أ)

ماذا يحمل تحديث «iOS 27.2» من مزايا جديدة لهواتف «آيفون»؟

يضيف «iOS 27.2» قدرات أوسع لـ«سيري» و«فايس تايم»، ومزايا جديدة لـ«iPhone Duo» إلى جانب تحسينات أمنية وتحديثات للتطبيقات.

نسيم رمضان (لندن)
تكنولوجيا يبدأ الحد الأدنى للأهلية من 500 مشترك ضمن برنامج شركاء «يوتيوب» (الشركة)

«يوتيوب» تتيح لصناع المحتوى في السعودية تحقيق عمولات من مشتريات المشاهدين

البرنامج ينطلق بالشراكة مع «أمازون» ويتيح ربط المنتجات بالفيديوهات و«شورتس» والبث المباشر.

نسيم رمضان (لندن)
الاقتصاد لوحة تعريفية لشركة «المعمر لأنظمة المعلومات» في مدينة الرياض (موقع الشركة الإلكتروني)

«المعمر» توقع عقداً مع «سدايا» بقيمة 35.96 مليون دولار

وقّعت شركة المعمر لأنظمة المعلومات «إم آي إس» عقداً إطارياً مع الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا)، بقيمة 134.84 مليون ريال.

«الشرق الأوسط» (الرياض)
خاص قد ينحرف وكيل الذكاء الاصطناعي بسبب طبيعة النموذج الاحتمالية أو نتيجة تلاعب خارجي بالمدخلات التي يعتمد عليها (شاترستوك)

خاص «كاسبرسكي»: يجب معاملة وكلاء الذكاء الاصطناعي كـ«متعاقدين خارجيين» وبقدرات محدودة

تحذر «كاسبرسكي» من مخاطر منح وكلاء الذكاء الاصطناعي وصولاً واسعاً للأنظمة داعية إلى العزل والمراقبة وإبقاء الإنسان داخل القرار.

نسيم رمضان (بالي (إندونيسيا))

أميركا والصين: تكتلات الذكاء الاصطناعي تتنافس لكسب دول العالم

زوار يتجولون في أجنحة المعرض المخصصة للذكاء الاصطناعي بمعرض الصين الدولي لسلاسل التوريد في بكين - في يونيو 2026 (أ.ب)
زوار يتجولون في أجنحة المعرض المخصصة للذكاء الاصطناعي بمعرض الصين الدولي لسلاسل التوريد في بكين - في يونيو 2026 (أ.ب)
TT

أميركا والصين: تكتلات الذكاء الاصطناعي تتنافس لكسب دول العالم

زوار يتجولون في أجنحة المعرض المخصصة للذكاء الاصطناعي بمعرض الصين الدولي لسلاسل التوريد في بكين - في يونيو 2026 (أ.ب)
زوار يتجولون في أجنحة المعرض المخصصة للذكاء الاصطناعي بمعرض الصين الدولي لسلاسل التوريد في بكين - في يونيو 2026 (أ.ب)

مع تشكيل القوتين الرائدتين في مجال الذكاء الاصطناعي الولايات المتحدة والصين تكتلاتهما الخاصة، تسعى الدول الأخرى جاهدةً للاستفادة من نقاط قوة كلا التكتلين وتجنب الخسارة. ويرى الخبراء أن الفرصة المتاحة للدول للاختيار بحرية بين هاتين القوتين العظميين في مجال الذكاء الاصطناعي قد تتقلص، ما سيجبرها في مرحلة ما على الاختيار بين تكتل «باكس سيليكا» بقيادة الولايات المتحدة و«منظمة التعاون العالمي للذكاء الاصطناعي» التي تقودها الصين.

كازاخستان... مع القوتين العظميين

وقد يضع ذلك العديد من الدول في مأزق: هل تختار استخدام أحدث رقائق الذكاء الاصطناعي والتقنيات الأميركية، أم تنضم إلى أنظمة الذكاء الاصطناعي الصينية مفتوحة المصدر والأكثر فاعلية من حيث التكلفة؟

وتُعدّ كازاخستان، الدولة الواقعة في آسيا الوسطى التي يبلغ عدد سكانها نحو 21 مليون نسمة، مثالاً نادراً لدولة سعت إلى سدّ هذه الفجوة. إذ وبعد ثلاثة أسابيع فقط من زيارة وزير الذكاء الاصطناعي الكازاخستاني جاسلان مادييف إلى واشنطن في يونيو (حزيران) الماضي للانضمام إلى المجموعة الأميركية العاملة على تعزيز سلاسل توريد الذكاء الاصطناعي، توجّه إلى شنغهاي لحضور حفل توقيع جعل كازاخستان عضواً مؤسساً في مبادرة الصين لتشكيل أجندة الذكاء الاصطناعي العالمية.

يعني الانضمام إلى مبادرة «باكس سيليكا» مزيداً من الشراكات التكنولوجية، وفرص عمل في مجال التصنيع عالي التقنية، واحتلال مكانة في سلاسل توريد الذكاء الاصطناعي العالمية. وفي الوقت نفسه، وبصفتها جزءاً من منظمة التعاون العالمي للذكاء الاصطناعي الصينية، إلى جانب 28 دولة أخرى من الدول المؤسسة، بما في ذلك باكستان وروسيا، تأمل كازاخستان أيضاً في أن يكون لها دور في وضع معايير الذكاء الاصطناعي الإقليمية والعالمية.

ونقلت «وكالة أسوشييتد بريس» عن دانا ماساليموفا، الدبلوماسية الكازاخستانية السابقة والباحثة المستقلة والزميلة في مركز كاثرين دبليو وشيلبي كولوم ديفيس للدراسات الروسية والأوراسية بجامعة هارفارد: «الجميع يتخذون إجراءات احترازية».

الاستفادة من الاستثمارات الأميركية... والصينية

وتأمل كازاخستان في الاستفادة من أفضل ما في كلتا الكتلتين، ومن الاستثمارات الأميركية والصينية... لكنها في «وضع حرج للغاية»، بحسب ماساليموفا.

* التعاون مع أميركا

تمتلك كازاخستان موارد معدنية حيوية غنية ضرورية لتطوير الذكاء الاصطناعي، كما تتمتع بكهرباء رخيصة لتشغيل مراكز البيانات، التي أصبحت محفوفة بالمخاطر السياسية في الولايات المتحدة. وفي وقت سابق من هذا العام، وقّعت حكومة كازاخستان اتفاقية استثمارية بقيمة تصل إلى 10 مليارات دولار مع شركة إنفيديا لإنشاء «وادي مراكز البيانات» في البلاد.

* التعاون مع الصين

في الوقت نفسه، تستثمر المزيد من الشركات الصينية في كازاخستان. ويقول مسؤولون محليون إن الاستثمار الأجنبي المباشر الصيني في كازاخستان بلغ مستوى قياسياً قدره 2.8 مليار دولار أميركي في عام 2025. وقد التقى الرئيس الصيني شي جينبينغ الرئيس الكازاخستاني قاسم جومارت توكاييف في يوليو (تموز) الماضي لبحث سبل توسيع التعاون في إطار مبادرة الحزام والطريق الصينية لبناء البنية التحتية العالمية.

واشنطن وبكين تعززان نفوذهما التكنولوجي

تستغل كل من الصين والولايات المتحدة إمكانية الوصول إلى الذكاء الاصطناعي لتعزيز نفوذهما العالمي. وأصر الرئيس دونالد ترمب الشهر الماضي على أن «الفائز هو من يفوز في مجال الذكاء الاصطناعي». وقد وجه مسؤولون أميركيون وشركات متخصصة في الذكاء الاصطناعي، اتهامات إلى الصين بـ«استخلاص» القدرات على نطاق واسع من النماذج الأميركية الرائدة. إلا أن بكين رفضت هذه الادعاءات، مؤكدةً أن الولايات المتحدة تسعى إلى احتكار الذكاء الاصطناعي، بينما تحاول تقييد وصول الصين إلى بعض أحدث رقائق الذكاء الاصطناعي وآلات تصنيعها في العالم.

«باكس سيليكا» تستهدف الصين ضمنياً

وأشارت واشنطن إلى أن «باكس سيليكا»، التي تستهدف الصين ضمنياً، مخصصة فقط لمن تثق بهم. وقالت وزارة الخارجية الأميركية، مستخدمةً المصطلح الجديد الذي فضّلته إدارة ترمب للذكاء الاصطناعي: «لا يمكن الوثوق بالدول كشركاء في (باكس سيليكا) بينما تنخرط فعلياً في مبادرات تُروّج لرؤية منافسة للذكاء الخارق».

شمولية منظمة التعاون في مجال الذكاء الاصطناعي

من جانبها، تُشيد بكين بانفتاح وشمولية منظمتها العالمية للتعاون في مجال الذكاء الاصطناعي. وقالت السفارة الصينية في واشنطن في بيان: «باعتبارهما دولتين رائدتين في مجال الذكاء الاصطناعي، ينبغي للصين والولايات المتحدة الاستفادة من نقاط قوتهما في هذا المجال بدلاً من التنافس فيما بينهما. لا ينبغي أن يكون الذكاء الاصطناعي حكراً على الدول الكبرى».

ويُشير كايل تشان، الباحث في مركز جون إل. ثورنتون الصيني التابع لمعهد بروكينغز، إلى اختلاف الرسائل التي تتبناها القوتان الرئيسيتان في مجال الذكاء الاصطناعي، ويعود ذلك في الغالب إلى حاجة بكين إلى استمالة دول ثالثة في مسعاها لبناء تحالف بديل، بينما تمتلك واشنطن بالفعل شبكة قوية من الحلفاء.

إندونيسيا وسنغافورة في موقف حرج

يُعزز هذا الوضع قوة ما وصفه تشان بـ«الدول المتأرجحة»، فقد تجد إندونيسيا وسنغافورة نفسيهما أيضاً عالقتين بين الصين والولايات المتحدة.

ومثل كازاخستان، تمتلك إندونيسيا موارد حيوية للذكاء الاصطناعي وتقنيات أخرى، كالنيكل والنحاس. وتسعى إندونيسيا أيضاً إلى الاستفادة القصوى من قوتي الذكاء الاصطناعي، بعد انضمامها إلى منظمة التعاون العالمي للذكاء الاصطناعي الصينية.

وصرحت ماري بانغستو، نائبة رئيس المجلس الاقتصادي الوطني الإندونيسي، للصحافيين في فعالية نظمتها كلية إدارة الأعمال بجامعة هونغ كونغ، بأن إندونيسيا ترغب في الاستفادة من كلتيهما. وأضافت: «ينبغي أن نكون قادرين على المشاركة في كلتيهما، وأن نختار النظام الأنسب».

وتستثمر شركات الذكاء الاصطناعي الأميركية في دول أخرى مثل سنغافورة، حيث تُنشئ شركة أنثروبيك أحدث مكاتبها في آسيا. وتقول المدينة -الدولة إنها تدرس أيضاً الانضمام إلى منظمة الذكاء الاصطناعي الصينية.

السعودية... تعاون مع أميركا والصين

وفي المملكة العربية السعودية، كشفت شركة «هيوماين» Humain الناشئة في مجال الذكاء الاصطناعي في سبتمبر (أيلول) عن منصة مبنية على نموذج مفتوح المصدر من شركة صينية متخصصة في الذكاء الاصطناعي. كما أبرمت المملكة اتفاقية مع شركة إنفيديا لتوسيع نطاق الحوسبة القائمة على الذكاء الاصطناعي باستخدام رقائقها المتطورة.

فرنسا... طريق خاص

تسعى فرنسا، إحدى أكثر الدول طموحاً في تطوير الذكاء الاصطناعي بعد الولايات المتحدة والصين، إلى شق طريقها الخاص من خلال شركتها الناشئة «ميسترال»، التي يتفوق نموذجها الجديد الذي أُطلق هذا الشهر، على بعض النماذج الصينية المتقدمة.

اليابان مع أميركا... ومع التطبيقات الصينية غير الخطرة

وترتبط اليابان ارتباطاً وثيقاً بالولايات المتحدة في القضايا الاستراتيجية والأمنية، بما في ذلك أشباه الموصلات المتقدمة، والذكاء الاصطناعي الموثوق، والمعايير. لكنها لن ترفض نماذج الذكاء الاصطناعي الصينية الأقل تكلفة في «التطبيقات الأقل مخاطرة»، كما صرّح تاكاهيرو تسوتشيا، الأستاذ بجامعة كيوتو للدراسات الأجنبية.


دراسة جديدة: «الدخيل الجديد»...الذكاء الاصطناعي يُهدد المؤسسات بخسائر سنوية عالية وتسريب بيانات حساسة

تحذيرات من تحول الذكاء الاصطناعي والنظم المستقلة إلى ثغرات داخلية
تحذيرات من تحول الذكاء الاصطناعي والنظم المستقلة إلى ثغرات داخلية
TT

دراسة جديدة: «الدخيل الجديد»...الذكاء الاصطناعي يُهدد المؤسسات بخسائر سنوية عالية وتسريب بيانات حساسة

تحذيرات من تحول الذكاء الاصطناعي والنظم المستقلة إلى ثغرات داخلية
تحذيرات من تحول الذكاء الاصطناعي والنظم المستقلة إلى ثغرات داخلية

لم تعد التهديدات السيبرانية التي تواجه المؤسسات تقتصر على الهجمات الخارجية، بل باتت المخاطر الناشئة من داخل بيئات العمل تشكل تحدياً متزايداً لأمن المعلومات واستمرارية الأعمال.

حادثة احتيال خطيرة في بنك إيطالي

وفي حادثة تعكس الخطورة الفائقة لهذا التحول، كشفت السلطات القضائية في ميلانو قبل شهر عن تعرض أحد البنوك الإيطالية البارزة لاحتيال سيبراني ضخم أسفر عن خسارة 108 ملايين دولار. واعتمد المهاجمون في الاختراق على أدوات الذكاء الاصطناعي لاختراق قنوات التراسل الرقمية وإجراء مكالمات هاتفية بصوت مزيف وتقديم أنفسهم على أنهم موظفون تنفيذيون معروفون في البنك وفي شركة المحاماة التي يعمل البنك معها، متسببين بتنفيذ تحويلات مالية ضخمة وصلت إلى 93 مليون يورو تحت غطاء من الموثوقية الزائفة.

وتُظهر هذه الحادثة أن التهديدات المدعومة بالذكاء الاصطناعي لم تعد تقتصر على التصيّد البسيط، بل امتدت لتشمل استغلال الصلاحيات الموثوقة ومحاكاة الأنماط السلوكية للمسؤولين داخل البيئات المغلقة. ومع التطور السريع لهذه الأدوات، أصبحت المؤسسات تُواجه تحدياً غير مسبوق يتعلق بكيفية التمييز بين المعاملات الرسمية وتلك المدارة عبر أدوات ووكلاء ذكاء اصطناعي خبيثة.

دراسة عن «الدخيل الجديد»

وفي هذا السياق، كشفت شركة «تريليكس» Trellix المتخصصة بمجال الأمن السيبراني وحلول الحماية المدعومة بالذكاء الاصطناعي عن تقرير بعنوان «عقل رئيس أمن المعلومات: الدخيل الجديد» Mind of the CISO: The New Insider يسلط الضوء على تأثير الذكاء الاصطناعي والنظم المستقلة في تشكيل المخاطر الداخلية والتبعات الناجمة عن إساءة استخدام صلاحيات الوصول الموثوقة ومدى انعكاس ذلك على دور رؤساء أمن المعلومات.

منهجية الدراسة

كلفت الشركة وكالة أبحاث مستقلة بإجراء استطلاع شمل 600 من رؤساء أمن المعلومات أو كبار المسؤولين الأمنيين عبر الشرق الأوسط والأميركيتين وأوروبا ومنطقة آسيا والمحيط الهادئ، خلال شهري أغسطس (آب) وسبتمبر (أيلول) 2026. وشملت عينة الشرق الأوسط 40 مشاركاً من المملكة العربية السعودية و40 مشاركاً من دولة الإمارات العربية المتحدة. واستند احتساب متوسط التكاليف إلى إجابات المشاركين الذين تعرضت مؤسساتهم لحوادث أمنية داخلية خلال الاثني عشر شهراً السابقة وقدموا بيانات حول التكاليف المرتبطة بها.

أما النتائج المشار إليها على مستوى الشرق الأوسط، فتجمع بيانات المشاركين من السعودية والإمارات.

تكاليف الحوادث الأمنية: خسائر مالية وتأثيرات تشغيلية وعلى السمعة

وأظهرت نتائج الدراسة أن متوسط تكلفة الحوادث الأمنية المرتبطة بالتهديدات الداخلية في المؤسسات في المملكة العربية السعودية بلغ 1.95 مليون دولار أميركي خلال الاثني عشر شهراً الماضية. ورغم ضخامة هذا المبلغ، لكنه يمثل جانباً واحداً فقط من الأضرار؛ إذ أظهرت الدراسة أن 63 في المائة من المؤسسات التي شهدت حوادث داخلية تعرضت لفقدان أو تسريب بيانات حساسة، في حين عانت 43 في المائة منها من تعطل العمليات التشغيلية، وأفادت 45 في المائة بتضرر سمعتها وفقدان ثقة العملاء. وتؤكد هذه الأرقام أن الحادثة الأمنية الواحدة كفيلة بتهديد البيانات وتعطيل الخدمات وإلحاق الضرر بالعلاقات التجارية الرئيسية للمؤسسة.

مسببات التهديدات: من الإهمال البشري إلى «سرعة الآلة»

وتتنوع المسببات وراء هذه الأضرار، إذ شكلت الأخطاء غير المقصودة أو الإهمال من قبل الموظفين والمستخدمين الموثوقين نسبة 47 في المائة من الحوادث الداخلية، بينما تسببت الهجمات المتعمدة من العنصر البشري في 31 في المائة منها. واللافت للأمر أن العمليات التي تنفذها نظم الذكاء الاصطناعي والنظم المستقلة باتت تتسبب وحدها بـ20 في المائة (حادثة من بين كل خمس حوادث) من الإخفاقات الأمنية الداخلية. ومع توسع الاعتماد على هذه النظم وتصرفها بنطاق صلاحيات موثوقة وبسرعة فائقة (سرعة الآلة)، فإن الأخطاء أو الاستخدام الخاطئ قد ينتشر قبل أن تتمكن فرق الأمن من التدخل. وتُحذّر الشركة من أن غياب الحوكمة الصارمة وآليات الاستجابة السريعة سيفاقم الخسائر المالية للمؤسسات مستقبلاً.

ويؤكد رئيس أمن المعلومات في الشركة أنه مع عمل وكلاء الذكاء الاصطناعي داخل البيئات الموثوقة للمؤسسات وبسرعات فائقة، فستكون المؤسسات الأكثر قدرة على الصمود هي تلك التي تُخضع هذه النظم للحوكمة باعتبارها هويات تتمتع بصلاحيات وصول عالية المستوى، بالتوازي مع تطوير مراكز عمليات أمنية ذاتية القيادة Agentic SOC مدعومة بوكلاء الذكاء الاصطناعي، قادرة على الاستجابة للتهديدات بالسرعة نفسها التي تتطور بها، بدلاً من الاعتماد على إجراءات العمل البشرية التقليدية.

ضغوط على رؤساء أمن المعلومات وفجوة في إدراك مجالس الإدارة

ويضيف الدور المتنامي للنظم المستقلة عبئاً جديداً على كاهل رؤساء أمن المعلومات إلى جانب المخاطر البشرية التقليدية. ففي المملكة العربية السعودية، أجمع 100في المائة من رؤساء أمن المعلومات الذين شملهم الاستطلاع على أن مسؤوليتهم تجاه إدارة المخاطر الداخلية قد ارتفعت خلال العام الماضي، بينما أعرب 70في المائة منهم عن قلقهم من التبعات والمسؤولية الشخصية في حال وقوع حادث أمني داخلي. وفي المقابل، أشار 80 في المائة منهم إلى أن الإدارات العليا وأعضاء مجالس الإدارة يفتقرون إلى الفهم الواضح لطبيعة المخاطر الداخلية وآثارها المحتملة، مما يضع رؤساء أمن المعلومات تحت ضغط لتفسير نطاق واسع من الأنشطة الموثوقة وبيان تبعاتها التجارية لإدارات قد لا تستوعب المشهد بكامله بعد.

مسار المواجهة الذكية

ومن جانب آخر، تُبرز النتائج الفرص المتاحة أمام رؤساء أمن المعلومات لتعزيز منظومتهم الأمنية، إذ أقر 80 في المائة من مسؤولي الأمن السيبراني في المملكة بعدم وجود رؤية واضحة لكيفية استخدام الموظفين لأدوات الذكاء الاصطناعي، كما أفاد 80 في المائة بأن مؤسساتهم غير مستعدة تماماً لإدارة المخاطر المرتبطة بهذه الأدوات والنظم المستقلة. ومن شأن تحسين مستوى الرؤية الشاملة وتحديد ملكية «الهويات غير البشرية» أن يمنح القادة الأمنيين ركيزة أوضح لتحديد المخاطر واتخاذ القرارات في الوقت المناسب.

ولكن الرؤية الشاملة لا تكتمل قيمتها إلا إذا اقترنت بالاستجابة السريعة، حيث تستغرق المؤسسات في المملكة ما متوسطه 5.1 ساعة لاكتشاف الحادث الداخلي، و8.4 ساعة أخرى للاستجابة له، أي ما يعادل 13.5 ساعة إجمالاً. وتؤكد هذه الفجوة الزمنية الحاجة الماسة للتحقيق في الأنشطة المشبوهة ضمن سياقها الصحيح واحتوائها بسرعة، لا سيما عندما تتصرف النظم المستقلة بسرعات فائقة.

وأكدت الشركة أنها تلمس اهتماماً متزايداً بفهم آلية عمل نظم الذكاء الاصطناعي الموثوقة وكيفية التعامل مع التهديدات قبل تحولها إلى خسائر تؤثر على الأعمال. وتحتاج فرق الأمن السيبراني اليوم إلى الاستفادة من بياناتها الأمنية والاستجابة بسرعة أكبر. وبالنسبة لرؤساء أمن المعلومات، يتطلب ذلك القدرة على تتبع أنشطة المستخدمين ووكلاء الذكاء الاصطناعي وتحليلها ضمن سياقها الصحيح واحتواء أي نشاط ضار قبل اتساع نطاق تأثيره.

ويمكن الرد على تنامي الهجمات المدعومة بالذكاء الاصطناعي باستخدام الذكاء الاصطناعي، وذلك من خلال حل Trellix Wise for Private Cloud الذي يُعدّ محركاً أساسياً مدعوماً بالذكاء الاصطناعي لمراكز العمليات الأمنية الذاتية يتم نشره داخل البيئة الخاصة بالشركات. وصُمم هذا الحل لتقليص الفجوة بين اكتشاف التهديدات والاستجابة لها عبر تحقيقات أسرع، مع إبقاء البيانات الأمنية تحت السيطرة الكاملة للمؤسسة.


بحث جديد: حذف محادثاتك مع الذكاء الاصطناعي لا يزيل آثارها دائماً من الهاتف

تكشف الدراسة أن حذف محادثة مع مساعد ذكاء اصطناعي لا يعني بالضرورة إزالة جميع آثارها من ذاكرة الهاتف (أدوبي)
تكشف الدراسة أن حذف محادثة مع مساعد ذكاء اصطناعي لا يعني بالضرورة إزالة جميع آثارها من ذاكرة الهاتف (أدوبي)
TT

بحث جديد: حذف محادثاتك مع الذكاء الاصطناعي لا يزيل آثارها دائماً من الهاتف

تكشف الدراسة أن حذف محادثة مع مساعد ذكاء اصطناعي لا يعني بالضرورة إزالة جميع آثارها من ذاكرة الهاتف (أدوبي)
تكشف الدراسة أن حذف محادثة مع مساعد ذكاء اصطناعي لا يعني بالضرورة إزالة جميع آثارها من ذاكرة الهاتف (أدوبي)

طوّر باحثون في معهد جورجيا للتكنولوجيا أداة جنائية رقمية قادرة على استعادة أجزاء من محادثات محذوفة من مساعدين يعملون محلياً على هواتف «أندرويد»، ثم إعادة استخدام المعلومات المسترجعة لبناء جلسة تفاعلية جديدة. ويعد الخبراء أن حذف محادثة مع مساعد يعمل بالذكاء الاصطناعي على الهاتف قد لا يؤدي إلى إزالة جميع آثارها من الجهاز.

الأداة التي تحمل اسم (أوريسا) «ORISA» تستهدف المساعدين الذين يشغّلون نماذج لغوية كبيرة مباشرة على الهاتف، بدلاً من الاعتماد بالكامل على خدمات سحابية خارجية. وفي هذه الحالات، يمكن أن تبقى أجزاء من المحادثة في الذاكرة العاملة للجهاز لبعض الوقت حتى بعد حذفها من واجهة التطبيق.

استعادة ما تبقى في الذاكرة

تعتمد «ORISA» على تقنيات تحليل الذاكرة للبحث عن أجزاء من البيانات التي لم تُمحَ فعلياً بعد انتهاء الجلسة أو حذفها. ويشير الباحثون إلى أن حذف المحادثة لا يضمن بالضرورة إزالة كل نسخة مؤقتة من محتواها فوراً، خصوصاً إذا كانت بعض البيانات لا تزال موجودة في ذاكرة التشغيل.

وفي أحد الاختبارات، أنشأ الفريق مساعداً افتراضياً باسم «Project Note Keeper» باستخدام تطبيق «ChatterUI» على «أندرويد»، ثم زوّده بمائة معلومة وهمية عن مشروع قبل حذف المحادثة.

وعندما حاول الباحثون لاحقاً استعادة الجلسة باستخدام «ORISA»، تمكنت النسخة المعاد بناؤها من استرجاع 26 معلومة من تلك البيانات. وفي المقابل، كانت الجلسة الأصلية قبل حذفها قادرة على الوصول إلى 14 معلومة فقط، لأن بقية المعلومات خرجت من نطاق الذاكرة النشطة للنموذج. وتوضح هذه النتيجة أن بعض المعلومات قد تظل موجودة في ذاكرة الجهاز حتى بعد أن يتوقف النموذج نفسه عن استخدامها بصورة نشطة في أثناء المحادثة.

أظهرت الاختبارات أن بعض المعلومات قد تبقى في ذاكرة الجهاز حتى بعد أن يتوقف النموذج نفسه عن استخدامها (أدوبي)

اختبارات عبر تطبيقات ونماذج مختلفة

اختبر الباحثون الأداة على عشرة تطبيقات تعمل بنظام «أندرويد» وثلاثة نماذج للذكاء الاصطناعي، ضمن 60 إعداداً اختبارياً مختلفاً. وفي هذه الاختبارات، تمكنت الأداة من استعادة معلومات من المحادثات عندما ظلت أجزاء منها موجودة في ذاكرة الهاتف. ولا تعني النتائج أن كل محادثة محذوفة يمكن استعادتها بالكامل. فالباحثون يشيرون إلى أن عملية الاسترجاع تصبح أكثر صعوبة كلما استمر استخدام الهاتف، لأن الأنشطة الجديدة قد تكتب فوق البيانات القديمة الموجودة في الذاكرة. كما تركز الدراسة على مساعدين محليين يعملون على أجهزة «أندرويد»، ولا تقدم دليلاً على أن المحادثات المحذوفة من خدمات الذكاء الاصطناعي السحابية يمكن استعادتها بالطريقة نفسها.

قيمة للتحقيقات الرقمية

يرى الباحثون أن الأداة يمكن أن تمنح المحققين الرقميين وسيلة إضافية لمعرفة نوع المعلومات التي شاركها مستخدم مع مساعد ذكاء اصطناعي، وكذلك طبيعة المساعدة أو الإجابات التي تلقاها منه.

وقال كين شو، الباحث الرئيسي في الدراسة، إن هذه التقنية يمكن أن تساعد في تحديد المعلومات التي قدمها المستخدم إلى المساعد وما تلقاه في المقابل، حتى في الحالات التي لم تعد فيها المحادثة ظاهرة داخل التطبيق. غير أن القدرة نفسها تثير تساؤلات تتعلق بالخصوصية، خصوصاً مع تزايد استخدام نماذج الذكاء الاصطناعي التي تعمل مباشرة على الهواتف بهدف إبقاء البيانات بعيداً عن الخوادم السحابية.

حدود الأداة

لا تعمل «ORISA» كأداة استرجاع عادية متاحة للمستخدمين، بل كأداة جنائية تتطلب الوصول إلى بيانات ذاكرة الجهاز وتخزينه. كما يعتمد نجاحها على ما إذا كانت البيانات المطلوبة لا تزال موجودة ولم يتم استبدال بيانات جديدة بها.

وقد أُنجز البحث داخل مختبر الابتكار في الأدلة الجنائية السيبرانية في معهد جورجيا للتكنولوجيا، بمشاركة باحثين من مجالي الأمن السيبراني والهندسة الكهربائية والحاسوبية.