دراسة جديدة: «الدخيل الجديد»...الذكاء الاصطناعي يُهدد المؤسسات بخسائر سنوية عالية وتسريب بيانات حساسة

تحذر من تحول الذكاء الاصطناعي والنظم المستقلة إلى ثغرات داخلية تُربك قادة أمن المعلومات

تحذيرات من تحول الذكاء الاصطناعي والنظم المستقلة إلى ثغرات داخلية
تحذيرات من تحول الذكاء الاصطناعي والنظم المستقلة إلى ثغرات داخلية
TT

دراسة جديدة: «الدخيل الجديد»...الذكاء الاصطناعي يُهدد المؤسسات بخسائر سنوية عالية وتسريب بيانات حساسة

تحذيرات من تحول الذكاء الاصطناعي والنظم المستقلة إلى ثغرات داخلية
تحذيرات من تحول الذكاء الاصطناعي والنظم المستقلة إلى ثغرات داخلية

لم تعد التهديدات السيبرانية التي تواجه المؤسسات تقتصر على الهجمات الخارجية، بل باتت المخاطر الناشئة من داخل بيئات العمل تشكل تحدياً متزايداً لأمن المعلومات واستمرارية الأعمال.

حادثة احتيال خطيرة في بنك إيطالي

وفي حادثة تعكس الخطورة الفائقة لهذا التحول، كشفت السلطات القضائية في ميلانو قبل شهر عن تعرض أحد البنوك الإيطالية البارزة لاحتيال سيبراني ضخم أسفر عن خسارة 108 ملايين دولار. واعتمد المهاجمون في الاختراق على أدوات الذكاء الاصطناعي لاختراق قنوات التراسل الرقمية وإجراء مكالمات هاتفية بصوت مزيف وتقديم أنفسهم على أنهم موظفون تنفيذيون معروفون في البنك وفي شركة المحاماة التي يعمل البنك معها، متسببين بتنفيذ تحويلات مالية ضخمة وصلت إلى 93 مليون يورو تحت غطاء من الموثوقية الزائفة.

وتُظهر هذه الحادثة أن التهديدات المدعومة بالذكاء الاصطناعي لم تعد تقتصر على التصيّد البسيط، بل امتدت لتشمل استغلال الصلاحيات الموثوقة ومحاكاة الأنماط السلوكية للمسؤولين داخل البيئات المغلقة. ومع التطور السريع لهذه الأدوات، أصبحت المؤسسات تُواجه تحدياً غير مسبوق يتعلق بكيفية التمييز بين المعاملات الرسمية وتلك المدارة عبر أدوات ووكلاء ذكاء اصطناعي خبيثة.

دراسة عن «الدخيل الجديد»

وفي هذا السياق، كشفت شركة «تريليكس» Trellix المتخصصة بمجال الأمن السيبراني وحلول الحماية المدعومة بالذكاء الاصطناعي عن تقرير بعنوان «عقل رئيس أمن المعلومات: الدخيل الجديد» Mind of the CISO: The New Insider يسلط الضوء على تأثير الذكاء الاصطناعي والنظم المستقلة في تشكيل المخاطر الداخلية والتبعات الناجمة عن إساءة استخدام صلاحيات الوصول الموثوقة ومدى انعكاس ذلك على دور رؤساء أمن المعلومات.

منهجية الدراسة

كلفت الشركة وكالة أبحاث مستقلة بإجراء استطلاع شمل 600 من رؤساء أمن المعلومات أو كبار المسؤولين الأمنيين عبر الشرق الأوسط والأميركيتين وأوروبا ومنطقة آسيا والمحيط الهادئ، خلال شهري أغسطس (آب) وسبتمبر (أيلول) 2026. وشملت عينة الشرق الأوسط 40 مشاركاً من المملكة العربية السعودية و40 مشاركاً من دولة الإمارات العربية المتحدة. واستند احتساب متوسط التكاليف إلى إجابات المشاركين الذين تعرضت مؤسساتهم لحوادث أمنية داخلية خلال الاثني عشر شهراً السابقة وقدموا بيانات حول التكاليف المرتبطة بها.

أما النتائج المشار إليها على مستوى الشرق الأوسط، فتجمع بيانات المشاركين من السعودية والإمارات.

تكاليف الحوادث الأمنية: خسائر مالية وتأثيرات تشغيلية وعلى السمعة

وأظهرت نتائج الدراسة أن متوسط تكلفة الحوادث الأمنية المرتبطة بالتهديدات الداخلية في المؤسسات في المملكة العربية السعودية بلغ 1.95 مليون دولار أميركي خلال الاثني عشر شهراً الماضية. ورغم ضخامة هذا المبلغ، لكنه يمثل جانباً واحداً فقط من الأضرار؛ إذ أظهرت الدراسة أن 63 في المائة من المؤسسات التي شهدت حوادث داخلية تعرضت لفقدان أو تسريب بيانات حساسة، في حين عانت 43 في المائة منها من تعطل العمليات التشغيلية، وأفادت 45 في المائة بتضرر سمعتها وفقدان ثقة العملاء. وتؤكد هذه الأرقام أن الحادثة الأمنية الواحدة كفيلة بتهديد البيانات وتعطيل الخدمات وإلحاق الضرر بالعلاقات التجارية الرئيسية للمؤسسة.

مسببات التهديدات: من الإهمال البشري إلى «سرعة الآلة»

وتتنوع المسببات وراء هذه الأضرار، إذ شكلت الأخطاء غير المقصودة أو الإهمال من قبل الموظفين والمستخدمين الموثوقين نسبة 47 في المائة من الحوادث الداخلية، بينما تسببت الهجمات المتعمدة من العنصر البشري في 31 في المائة منها. واللافت للأمر أن العمليات التي تنفذها نظم الذكاء الاصطناعي والنظم المستقلة باتت تتسبب وحدها بـ20 في المائة (حادثة من بين كل خمس حوادث) من الإخفاقات الأمنية الداخلية. ومع توسع الاعتماد على هذه النظم وتصرفها بنطاق صلاحيات موثوقة وبسرعة فائقة (سرعة الآلة)، فإن الأخطاء أو الاستخدام الخاطئ قد ينتشر قبل أن تتمكن فرق الأمن من التدخل. وتُحذّر الشركة من أن غياب الحوكمة الصارمة وآليات الاستجابة السريعة سيفاقم الخسائر المالية للمؤسسات مستقبلاً.

ويؤكد رئيس أمن المعلومات في الشركة أنه مع عمل وكلاء الذكاء الاصطناعي داخل البيئات الموثوقة للمؤسسات وبسرعات فائقة، فستكون المؤسسات الأكثر قدرة على الصمود هي تلك التي تُخضع هذه النظم للحوكمة باعتبارها هويات تتمتع بصلاحيات وصول عالية المستوى، بالتوازي مع تطوير مراكز عمليات أمنية ذاتية القيادة Agentic SOC مدعومة بوكلاء الذكاء الاصطناعي، قادرة على الاستجابة للتهديدات بالسرعة نفسها التي تتطور بها، بدلاً من الاعتماد على إجراءات العمل البشرية التقليدية.

ضغوط على رؤساء أمن المعلومات وفجوة في إدراك مجالس الإدارة

ويضيف الدور المتنامي للنظم المستقلة عبئاً جديداً على كاهل رؤساء أمن المعلومات إلى جانب المخاطر البشرية التقليدية. ففي المملكة العربية السعودية، أجمع 100في المائة من رؤساء أمن المعلومات الذين شملهم الاستطلاع على أن مسؤوليتهم تجاه إدارة المخاطر الداخلية قد ارتفعت خلال العام الماضي، بينما أعرب 70في المائة منهم عن قلقهم من التبعات والمسؤولية الشخصية في حال وقوع حادث أمني داخلي. وفي المقابل، أشار 80 في المائة منهم إلى أن الإدارات العليا وأعضاء مجالس الإدارة يفتقرون إلى الفهم الواضح لطبيعة المخاطر الداخلية وآثارها المحتملة، مما يضع رؤساء أمن المعلومات تحت ضغط لتفسير نطاق واسع من الأنشطة الموثوقة وبيان تبعاتها التجارية لإدارات قد لا تستوعب المشهد بكامله بعد.

مسار المواجهة الذكية

ومن جانب آخر، تُبرز النتائج الفرص المتاحة أمام رؤساء أمن المعلومات لتعزيز منظومتهم الأمنية، إذ أقر 80 في المائة من مسؤولي الأمن السيبراني في المملكة بعدم وجود رؤية واضحة لكيفية استخدام الموظفين لأدوات الذكاء الاصطناعي، كما أفاد 80 في المائة بأن مؤسساتهم غير مستعدة تماماً لإدارة المخاطر المرتبطة بهذه الأدوات والنظم المستقلة. ومن شأن تحسين مستوى الرؤية الشاملة وتحديد ملكية «الهويات غير البشرية» أن يمنح القادة الأمنيين ركيزة أوضح لتحديد المخاطر واتخاذ القرارات في الوقت المناسب.

ولكن الرؤية الشاملة لا تكتمل قيمتها إلا إذا اقترنت بالاستجابة السريعة، حيث تستغرق المؤسسات في المملكة ما متوسطه 5.1 ساعة لاكتشاف الحادث الداخلي، و8.4 ساعة أخرى للاستجابة له، أي ما يعادل 13.5 ساعة إجمالاً. وتؤكد هذه الفجوة الزمنية الحاجة الماسة للتحقيق في الأنشطة المشبوهة ضمن سياقها الصحيح واحتوائها بسرعة، لا سيما عندما تتصرف النظم المستقلة بسرعات فائقة.

وأكدت الشركة أنها تلمس اهتماماً متزايداً بفهم آلية عمل نظم الذكاء الاصطناعي الموثوقة وكيفية التعامل مع التهديدات قبل تحولها إلى خسائر تؤثر على الأعمال. وتحتاج فرق الأمن السيبراني اليوم إلى الاستفادة من بياناتها الأمنية والاستجابة بسرعة أكبر. وبالنسبة لرؤساء أمن المعلومات، يتطلب ذلك القدرة على تتبع أنشطة المستخدمين ووكلاء الذكاء الاصطناعي وتحليلها ضمن سياقها الصحيح واحتواء أي نشاط ضار قبل اتساع نطاق تأثيره.

ويمكن الرد على تنامي الهجمات المدعومة بالذكاء الاصطناعي باستخدام الذكاء الاصطناعي، وذلك من خلال حل Trellix Wise for Private Cloud الذي يُعدّ محركاً أساسياً مدعوماً بالذكاء الاصطناعي لمراكز العمليات الأمنية الذاتية يتم نشره داخل البيئة الخاصة بالشركات. وصُمم هذا الحل لتقليص الفجوة بين اكتشاف التهديدات والاستجابة لها عبر تحقيقات أسرع، مع إبقاء البيانات الأمنية تحت السيطرة الكاملة للمؤسسة.


مقالات ذات صلة

«إنفيديا» تحقق مع رئيسها بعد اعترافه بعلاقة عاطفية مع جاسوسة صينية

العالم جنسن هوانغ (أ.ف.ب)

«إنفيديا» تحقق مع رئيسها بعد اعترافه بعلاقة عاطفية مع جاسوسة صينية

أعلنت «إنفيديا»، الأحد، فتح تحقيق مع رئيسها التنفيذي جنسن هوانغ، بعد إقراره بعلاقة عاطفية مع مسؤولة تنفيذية تعدّها الاستخبارات الأميركية جاسوسة صينية.

الاقتصاد شعار شركة «أنثروبيك» يظهر مع لوحة مفاتيح حاسوبية ويد آلية في رسم توضيحي (رويترز)

«أنثروبيك» تبرم صفقة بـ3.4 مليار دولار لتوفير الطاقة لمراكز بيانات الذكاء الاصطناعي لديها

ذكرت «فاينانشال تايمز» أن شركة «أنثروبيك» الناشئة في مجال الذكاء الاصطناعي أبرمت صفقة بنحو 3.4 مليار دولار لتأمين مولدات طاقة تعمل بالغاز لمراكز بياناتها...

«الشرق الأوسط» (لندن)
تحليل إخباري رئيس الاحتياطي الفيدرالي في مؤتمر صحافي عقب اجتماع لجنة السياسة النقدية في أكتوبر (أ.ف.ب)

تحليل إخباري رهان وارش على الذكاء الاصطناعي يصطدم بحسابات واشنطن الجديدة

يواجه رئيس «الاحتياطي الفيدرالي» كيفين وارش، اختباراً جديداً في سعيه إلى تحقيق توازن دقيق بين كبح التضخم والحفاظ على زخم الاستثمار في الذكاء الاصطناعي.

«الشرق الأوسط» (واشنطن)
تكنولوجيا «شات جي بي تي» يتيح إنشاء صور متحركة وتعديلها بسهولة (الشركة)

زيادة سرعة إنشاء الصور بنسبة 50 في المائة وصور بصيغة «GIF» في «شات جي بي تي»

التحديث يتيح إنشاء الصور المتحركة وتصدير التصاميم بصيغ جديدة وسط إنتاج 4 مليارات صورة أسبوعياً

عبد العزيز الرشيد (الرياض)
يوميات الشرق الكاتب الفرنسي فيليب جاينادا الحائز على جائزة غونكور الأدبية عن روايته «المرأة المجهولة على رصيف جافيل» يقف عند نافذة مطعم دروان عقب حفل توزيع الجوائز في باريس (أ.ف.ب)

الفائز بجائزة غونكور الأدبية يدافع عن استخدامه «المرِح» للذكاء الاصطناعي

دافع الكاتب الفرنسي فيليب جاينادا عن استخدامه «المرِح» و«الساخر» والمحدود للغاية للذكاء الاصطناعي في روايته التي نالت جائزة غونكور الأدبية.

«الشرق الأوسط» (باريس )

زيادة سرعة إنشاء الصور بنسبة 50 في المائة وصور بصيغة «GIF» في «شات جي بي تي»

«شات جي بي تي» يتيح إنشاء صور متحركة وتعديلها بسهولة (الشركة)
«شات جي بي تي» يتيح إنشاء صور متحركة وتعديلها بسهولة (الشركة)
TT

زيادة سرعة إنشاء الصور بنسبة 50 في المائة وصور بصيغة «GIF» في «شات جي بي تي»

«شات جي بي تي» يتيح إنشاء صور متحركة وتعديلها بسهولة (الشركة)
«شات جي بي تي» يتيح إنشاء صور متحركة وتعديلها بسهولة (الشركة)

أعلنت شركة «أوبن إيه آي» عن إطلاق الإصدار الجديد من نموذج توليد الصور بالذكاء الاصطناعي «Images 2.6»، الذي يقدم مجموعة من التحسينات تشمل زيادة سرعة إنشاء الصور، وإمكانية إنتاج الصور المتحركة بصيغة (GIF)، إلى جانب أدوات أكثر دقة لتعديل التصاميم والحفاظ على تفاصيلها.

ويتوفر الإصدار الجديد عبر «ChatGPT» و«Codex» وواجهة برمجة التطبيقات (API)، في خطوة تستهدف تسهيل إنشاء المحتوى المرئي للأفراد وصناع المحتوى والمصممين والمطورين.

تحسين سرعة توليد الصور ودقة التفاصيل

أبرز التحسينات التي يقدمها النموذج الجديد زيادة سرعة توليد الصور بنسبة تصل إلى 50 في المائة مقارنة بالإصدار السابق، مع تطوير قدرات النموذج على إنشاء التصاميم الاحترافية وإجراء التعديلات المتكررة.

ويتميز التحديث بقدرته على الحفاظ على اتساق الشخصيات والمنتجات والألوان والتفاصيل البصرية عند إجراء تعديلات متكررة، ما يتيح للمستخدم إجراء تغييرات محددة دون الحاجة إلى إعادة إنشاء التصميم بالكامل في كل مرة.

وأطلقت الشركة للمطورين نموذجين جديدين؛ الأول «GPT-Image-2.6 Flare»، الذي يركز على السرعة ويمكنه إنشاء الصور خلال 6 ثوانٍ عند اختيار الجودة المنخفضة، والثاني «GPT-Image-2.6 Sunburst»، المخصص لإنتاج الصور عالية الجودة مع دقة أكبر في التفاصيل واتساق أفضل أثناء التعديل المتكرر.

بإمكان المستخدمين الآن إنشاء الصور بسرعة أعلى بنسبة 50 % في «شات جي بي تي» (الشركة)

تحويل الصور الثابتة إلى صور متحركة

تُعدّ إمكانية إنشاء الصور المتحركة بصيغة «GIF» إحدى أبرز الإضافات الجديدة؛ إذ أصبح بإمكان المستخدم وصف الحركة المطلوبة نصياً أو الاستعانة بصورة لتحويلها إلى مشهد متحرك. وتتيح الميزة إنتاج رسوم متحركة للشخصيات والشعارات والمنتجات، إضافة إلى الصور التعبيرية المستخدمة في منصات التواصل الاجتماعي، دون الحاجة إلى برامج متخصصة في تحريك الصور. كما يمكن للمستخدم تحديد تسلسل الحركة وعدد الإطارات وسرعة عرضها، مع إمكانية إنشاء مشاهد متكررة بسلاسة، ما يوفر خيارات جديدة لصناع المحتوى الرقمي والحملات الإعلانية، بالإضافة إلى القدرة على تحويل الرسومات الأولية البسيطة إلى شخصيات متحركة، مع الحفاظ على مظهر الشخصية وتفاصيل المشهد عبر الإطارات المختلفة.

دعم تصدير التصاميم بصيغة (SVG)

من الإضافات المهمة للمطورين والمصممين دعم تصدير الصور بصيغة «SVG» عبر واجهة برمجة التطبيقات (API)، وهي صيغة تُستخدم في الرسومات المتجهة (الفيكتور) وتدعمها برامج التصميم الاحترافية، ومنها «Adobe Illustrator».

وتتيح هذه الصيغة استخدام التصاميم في المواقع الإلكترونية والتطبيقات والمطبوعات، مع إمكانية تكبير الرسومات المتجهة دون فقدان جودتها. لكن دعم تصدير (SVG) لا يعني بالضرورة تحويل الصور إلى طبقات مستقلة قابلة للتعديل بالكامل؛ إذ يعتمد ذلك على كيفية إنشاء عناصر الملف ومساراته. كذلك أضافت الشركة إلى واجهة المطورين إمكانية تحديد مواضع معينة داخل الصور لإجراء تعديلات دقيقة عليها، إلى جانب إعداد جديد للتحكم في درجة تعقيد المشهد ومستوى التفاصيل المطلوبة.

4 مليارات صورة أسبوعياً

كشفت شركة «أوبن إيه آي» عن رقم جديد يعكس النمو الهائل في استخدام أدوات إنشاء الصور بالذكاء الاصطناعي؛ إذ أوضحت أن المستخدمين حول العالم ينشئون نحو 4 مليارات صورة أسبوعياً عبر خدمات «ChatGPT» و«Codex» وواجهة برمجة التطبيقات، ويعادل هذا الرقم أكثر من 570 مليون صورة يومياً في المتوسط، ما يعكس التوسع المتسارع في الاعتماد على أدوات الذكاء الاصطناعي لإنتاج المحتوى المرئي.

التوفر وإتاحة التحديث للمستخدمين والمطورين

أكدت «أوبن إيه آي» (OpenAI) أن الإصدار الجديد «Images 2.6» أصبح متاحاً عالمياً بدءاً من 4 نوفمبر (تشرين الثاني) 2026، عبر «ChatGPT» و«Codex» لجميع فئات الاشتراك، على أجهزة الكمبيوتر والهواتف الجوالة والويب. أما نموذجا «Flare» و«Sunburst» فيتوفران للمطورين عبر واجهة برمجة التطبيقات (API) فقط، مع اختلاف إمكانات الاستخدام بحسب النموذج وإعدادات الجودة.

ويمثل التحديث خطوة إضافية نحو تحويل أدوات الذكاء الاصطناعي من مجرد وسائل لإنشاء الصور إلى بيئات متكاملة لإنتاج المحتوى المرئي وتعديله وتحريكه، بما يقلل الوقت والجهد اللازمين لإنجاز التصاميم الرقمية.


بحث جديد: منشوراتك على مواقع التواصل قد تتحول إلى أدوات للاحتيال بالذكاء الاصطناعي

يستطيع الذكاء الاصطناعي تحليل الصور والمنشورات العامة لإنشاء رسائل احتيالية تستند إلى اهتمامات الأفراد وتجاربهم اليومية (أدوبي)
يستطيع الذكاء الاصطناعي تحليل الصور والمنشورات العامة لإنشاء رسائل احتيالية تستند إلى اهتمامات الأفراد وتجاربهم اليومية (أدوبي)
TT

بحث جديد: منشوراتك على مواقع التواصل قد تتحول إلى أدوات للاحتيال بالذكاء الاصطناعي

يستطيع الذكاء الاصطناعي تحليل الصور والمنشورات العامة لإنشاء رسائل احتيالية تستند إلى اهتمامات الأفراد وتجاربهم اليومية (أدوبي)
يستطيع الذكاء الاصطناعي تحليل الصور والمنشورات العامة لإنشاء رسائل احتيالية تستند إلى اهتمامات الأفراد وتجاربهم اليومية (أدوبي)

كشفت دراسة أميركية عن أن أدوات الذكاء الاصطناعي التوليدي تستطيع استغلال المعلومات المنشورة علناً على شبكات التواصل الاجتماعي لإنشاء رسائل احتيالية مخصصة للأفراد، تستند إلى اهتماماتهم وتجاربهم اليومية وصورهم الشخصية. وأظهرت التجارب أن هذه الرسائل قد تبدو أكثر إقناعاً وأقل إثارة للشك من نماذج التصيد التقليدية، وفق معايير التقييم المستخدمة، في حين أخفقت بعض أدوات الحماية في التعرف إلى معظم الطلبات المستخدمة لإنشائها. وأجرى الدراسة باحثون من جامعة تكساس في أرلينغتون وجامعة ولاية لويزيانا بعنوان: «التصيد الاحتيالي الموجه حسب السياق».

من الصور إلى الرسائل الاحتيالية

تعتمد هجمات التصيد الاحتيالي الموجه عادة على معلومات محددة عن الشخص المستهدف، مثل وظيفته أو جهة عمله. لكن الدراسة تناولت أسلوباً أكثر تخصيصاً، يعتمد على تحليل النشاط اليومي للأفراد، بما يشمل منشورات السفر والمناسبات والاهتمامات والعلاقات الاجتماعية.

واختبر الباحثون قدرة النماذج التوليدية على استخراج هذه المعلومات من المنشورات والصور المتاحة للجمهور، ثم استخدامها لإنشاء رسائل بريد إلكتروني تبدو مرتبطة بتجارب حقيقية مر بها الشخص المستهدف.

وقد تتخذ الرسالة، على سبيل المثال، شكل عرض من فندق زاره المستخدم مؤخراً، أو إشعار يتعلق بحفل موسيقي أبدى اهتماماً به. وتوضح هذه الأمثلة آلية الهجوم المحتملة، ولا تمثّل وقائع احتيال موثقة ضد أشخاص بعينهم. وتشير الدراسة إلى أن النماذج التوليدية تقلّل الجهد اللازم لإعداد هذه الرسائل، إذ يمكن استخدامها لإنتاج محتوى مخصص استناداً إلى المعلومات المتاحة عن كل شخص، بدلاً من صياغة الرسائل يدوياً.

سجلت بعض الأنظمة معدلات كشف تراوحت بين صفر و19 % وارتفعت إلى 98.7 % بعد تحسين التعليمات الأمنية (أدوبي)

آلاف الرسائل قيد الاختبار

اعتمد الباحثون على بيانات منشورة علناً في حسابات 200 مستخدم على «إنستغرام»، وأظهرت تجاربهم أن نحو عشرة منشورات من الحساب الواحد قد توفّر معلومات كافية لإنشاء رسائل احتيالية مرتبطة بالسياق الشخصي. وشملت الاختبارات توليد نحو 18 ألف رسالة باستخدام نماذج ذكاء اصطناعي متعددة، ثم تقييمها وفق ثمانية معايير، من بينها ارتباط المحتوى بالمعلومات الشخصية، وقوة الإقناع، والمصداقية، والتأثير العاطفي.

ولإجراء المقارنة، استخدم الباحثون قاعدة بيانات تضم 6 آلاف رسالة تصيد احتيالي حقيقية، وحددوا من بينها 3937 رسالة تندرج ضمن التصيد الموجه، الذي يستهدف أفراداً أو جهات محددة بدلاً من إرسال رسائل عامة إلى أعداد كبيرة من المستخدمين. وأظهرت النتائج تفوق الرسائل المولدة بالذكاء الاصطناعي في عدة معايير تتعلق بالتخصيص والارتباط بتجارب الأشخاص المستهدفين، ما يعكس قدرة النماذج على تحويل معلومات متفرقة إلى محتوى يبدو موجهاً إلى شخص بعينه.

رسائل أقل إثارة للشك

لم يقتصر التقييم على تحليل النصوص باستخدام النماذج اللغوية، بل شمل تجربة بشرية شارك فيها 70 شخصاً من الولايات المتحدة، قُسّموا عشوائياً إلى مجموعتين. قيّمت المجموعة الأولى رسائل احتيالية مولّدة بالذكاء الاصطناعي، فيما قيّمت الأخرى رسائل تصيد حقيقية، إلى جانب رسائل سليمة للمقارنة.

وسجلت الرسائل المنتجة بالذكاء الاصطناعي متوسطاً بلغ 2.75 نقطة على مقياس الشك المؤلف من خمس درجات، مقابل 4.44 نقطة للرسائل الاحتيالية الحقيقية، ما يعني أن المشاركين اعتبروا الرسائل الآلية أقل إثارة للريبة ضمن ظروف التجربة. لكن الباحثين لم يقيسوا عدد الأشخاص الذين قد ينقرون فعلياً على الروابط الاحتيالية أو يفصحون عن كلمات المرور والبيانات المالية. فقد استند التقييم إلى صور ثابتة للرسائل، بعد إزالة الروابط النشطة والمعلومات التي قد تكشف هويات الأفراد. وتوضح هذه النتائج تصورات المشاركين لمصداقية الرسائل ومدى الشك فيها، ولا تمثّل قياساً مباشراً لمعدلات نجاح عمليات الاحتيال في الواقع.

دعا الباحثون إلى تعزيز قدرة نماذج الذكاء الاصطناعي على اكتشاف الطلبات الاحتيالية ومنع إنشاء الرسائل قبل استخدامها في الهجمات (أدوبي)

قصور أدوات الحماية

اختبر الفريق أيضاً قدرة أنظمة الحماية المستخدمة مع نماذج الذكاء الاصطناعي على اكتشاف الطلبات المصممة لإنشاء رسائل التصيد الموجه. وشملت الاختبارات أدوات «Llama Guard»، و«ShieldGemma»، و«WildGuard»، التي سجلت بإعداداتها الافتراضية معدلات اكتشاف تراوحت بين صفر و19 في المائة من الطلبات الهجومية المختبرة.

وعندما أضاف الباحثون تعليمات أمنية مخصصة للتعرف إلى هذا النوع من الاستخدامات، تحسّنت النتائج، وبلغت أعلى نسبة كشف 98.7 في المائة لدى إحدى الأدوات وفي ظروف اختبار محددة، دون أن تحقق جميع الأنظمة المستوى نفسه. وتتعلق هذه النسب بقدرة أدوات الحماية على رصد طلبات إنشاء المحتوى الاحتيالي، وليس بكفاءة برامج البريد الإلكتروني في حجب الرسائل أو منع وصولها إلى المستخدمين.

وتبرز النتائج أهمية السياق الذي يُقدَّم فيه الطلب إلى النموذج اللغوي، إذ قد تبدو بعض التعليمات منفردة وكأنها طلبات عادية لصياغة رسائل، في حين يكشف تحليل الغرض منها والمعلومات المستخدمة فيها عن طبيعتها الاحتيالية.

حماية قبل إنشاء المحتوى

يركز الجانب الدفاعي من الدراسة على اكتشاف النوايا الاحتيالية في الطلبات المقدمة إلى النماذج اللغوية، قبل أن تتمكّن من إنتاج الرسائل. واختبر الباحثون أساليب تعتمد على تحليل صياغة الطلبات والسياق المرتبط بها، بدلاً من الاقتصار على البحث عن كلمات أو عبارات قد ترتبط بالاحتيال. كما امتنع الفريق عن نشر التعليمات التفصيلية المستخدمة لإنشاء الرسائل الهجومية، بهدف الحد من إمكانية إعادة استخدامها لتنفيذ عمليات مشابهة.

وتوضح الدراسة كيف يمكن للمعلومات العامة المنشورة على شبكات التواصل الاجتماعي أن تصبح مصدراً لإنشاء رسائل تصيد شديدة التخصيص، دون الحاجة إلى اختراق حسابات المستخدمين أو الوصول إلى بياناتهم الخاصة. ويركز الباحثون على تحسين قدرة أنظمة الحماية على التعرف إلى هذا النوع من الطلبات، مع استمرار الحاجة إلى تقييم فاعليتها في ظروف استخدام مختلفة، والتمييز بين نجاح أدوات الكشف في التجارب وقدرتها على منع الهجمات الاحتيالية الفعلية.


دراسة أميركية: 36 % من المشاركين استعانوا بالذكاء الاصطناعي لاختيار مرشحي مجلس الشيوخ

 أظهرت الدراسة تفاوتاً بين 4 نماذج لغوية في استعدادها لتقديم توصيات انتخابية للمستخدمين (أدوبي)
أظهرت الدراسة تفاوتاً بين 4 نماذج لغوية في استعدادها لتقديم توصيات انتخابية للمستخدمين (أدوبي)
TT

دراسة أميركية: 36 % من المشاركين استعانوا بالذكاء الاصطناعي لاختيار مرشحي مجلس الشيوخ

 أظهرت الدراسة تفاوتاً بين 4 نماذج لغوية في استعدادها لتقديم توصيات انتخابية للمستخدمين (أدوبي)
أظهرت الدراسة تفاوتاً بين 4 نماذج لغوية في استعدادها لتقديم توصيات انتخابية للمستخدمين (أدوبي)

كشفت دراسة أجراها باحثون من جامعة «ييل» الأميركية أن 36 في المائة من المشاركين في تجربة لاستخدام روبوتات المحادثة طلبوا مساعدتها على اختيار مرشحين للتصويت في انتخابات التجديد النصفي للكونغرس الأميركي، بينما أظهرت النتائج اختلافات بين النماذج في استعدادها لتقديم توصيات انتخابية، خصوصاً بعد اطلاعها على آراء المستخدمين وأولوياتهم السياسية.

وشملت الدراسة نحو 2500 شخص من 35 ولاية أميركية شهدت سباقات لعضوية مجلس الشيوخ، وأُجريت خلال أسابيع من أكتوبر (تشرين الأول) 2026، قبيل الانتخابات التي جرت في 3 نوفمبر (تشرين الثاني). وشارك فيها بالغون يستخدمون روبوتات المحادثة مرة واحدة أسبوعياً على الأقل، عبر 4 أنظمة هي «تشات جي بي تي» و«كلود» و«غروك» و«جيميناي».

الذكاء الاصطناعي والاختيار الانتخابي

أظهرت الدراسة أن معظم المشاركين استخدموا روبوتات المحادثة للحصول على معلومات أساسية تتعلق بالانتخابات، بما في ذلك أسماء المرشحين الذين يتنافسون في ولاياتهم، لكن جزءاً منهم تجاوز الاستفسارات المعلوماتية إلى طلب المساعدة في تحديد المرشح الأنسب للتصويت.

ولجأ بعض المستخدمين إلى شرح أولوياتهم ومواقفهم من القضايا المختلفة، ثم طلبوا من روبوت المحادثة مقارنة هذه المواقف ببرامج المرشحين، ومساعدتهم على تحديد مدى التوافق بينها.

وتختلف هذه الأسئلة عن الاستفسار عن أسماء المرشحين أو مواعيد الانتخابات؛ لأنها تتطلب تفسير المواقف السياسية والموازنة بين القضايا، وليس مجرد استرجاع معلومات أساسية متاحة عن الانتخابات والمرشحين.

ومن الأمثلة التي تناولها التقرير طلب أحد المستخدمين من «تشات جي بي تي» عرض إيجابيات وسلبيات كل مرشح في ولاية فرجينيا، وهو نوع من الأسئلة الذي تتأثر إجابته بطريقة اختيار المعلومات وترتيبها وعرضها.

طلب 36 % من المشاركين مساعدة الذكاء الاصطناعي لاختيار مرشحي مجلس الشيوخ (أدوبي)

اختلافات بين النماذج

رصد الباحثون تفاوتاً في استجابات الأنظمة الأربعة عندما طُلب منها تقديم توصيات انتخابية. ففي المحادثات التي طلب فيها المستخدم اختيار مرشح دون أن يقدم معلومات عن آرائه الشخصية، كان «غروك» النموذج الوحيد الذي قدّم توصيات بصورة منتظمة نسبياً، وذلك في 14 في المائة من المحادثات التي شملتها هذه الحالة.

لكن النتائج اختلفت بعد أن شارك المستخدمون مواقفهم السياسية مع الأنظمة. ففي هذه الحالات، قدم «تشات جي بي تي» توصية بمرشح في 79 في المائة من المحادثات، مقابل 40 في المائة لدى «كلود»، بينما جاءت نتائج «غروك» و«جيميناي» بين هاتين النسبتين. وتتعلق هذه الأرقام باستجابات النماذج ضمن ظروف الدراسة، ولا تعني أن النسب نفسها تنطبق على جميع المحادثات الانتخابية أو على الاستخدام اليومي للأنظمة.

ولم تتناول هذه المرحلة من البحث قياس دقة التوصيات الانتخابية أو انحيازها السياسي، بل ركزت على طبيعة أسئلة المستخدمين، واختلاف استجابات النماذج، ومدى استعدادها لتقديم اقتراحات بشأن المرشحين.

أهمية الحوار المتواصل

من الجوانب التي ركز عليها الباحثون تأثير تتابع الأسئلة والأجوبة داخل المحادثة الواحدة في طبيعة التوصيات التي يقدمها النظام؛ فبدلاً من الاكتفاء بسؤال منفرد، تتيح المحادثات متعددة المراحل للنموذج طرح أسئلة إضافية، والحصول على معلومات عن المستخدم، ثم تعديل استجاباته وفق الإجابات التي يتلقاها. وأشار الباحثون إلى أن الأسئلة التي يختارها النموذج تؤثر في نوع المعلومات التي يقدمها المستخدم، ومن ثم في التوصيات اللاحقة.

وتختلف هذه المقاربة عن دراسات سابقة تعتمد على توجيه مجموعة ثابتة من الأسئلة إلى أنظمة الذكاء الاصطناعي؛ إذ سمحت التجربة للمشاركين بالتفاعل مع الروبوتات بالطريقة التي يستخدمونها عادة للحصول على المعلومات. ويرى الباحثون أن دراسة هذه التفاعلات يمكن أن تساعد على تطوير اختبارات تقيس سلوك النماذج استناداً إلى الأسئلة التي يطرحها المستخدمون فعلياً، بدلاً من الاقتصار على سيناريوهات معدّة مسبقاً.

شملت الدراسة نحو 2500 مشارك من 35 ولاية أميركية يستخدمون روبوتات المحادثة أسبوعياً (أدوبي)

استخدام محدود على مستوى الناخبين

رغم اهتمام المشاركين في التجربة بالمعلومات الانتخابية، تشير بيانات منفصلة لمركز «بيو» للأبحاث إلى أن استخدام روبوتات المحادثة لهذا الغرض لا يزال محدوداً بين الأميركيين عموماً.

ففي استطلاع أجراه المركز خلال فبراير (شباط) 2026، أفاد 42 في المائة من البالغين الأميركيين باستخدام روبوتات المحادثة للبحث عن المعلومات بوجه عام. وفي استطلاع آخر أجراه خلال أكتوبر، قال 8 في المائة إنهم استخدموا هذه الأدوات للحصول على معلومات مرتبطة بالانتخابات خلال الدورة الانتخابية لعام 2026.

وتختلف هاتان النسبتان من حيث مدة جمع البيانات والغرض من السؤال، كما تختلفان عن عينة دراسة «ييل»، التي اقتصرت على أشخاص يستخدمون روبوتات المحادثة أسبوعياً؛ ولذلك لا يمكن تعميم نسبة 36 في المائة المسجلة في التجربة على جميع الناخبين الأميركيين.

وفي تحليل منفصل، قالت شركة «أنثروبيك» إنها فحصت 250 ألف محادثة مع نموذجها «كلود» خلال أكتوبر، ووجدت أن 0.51 في المائة منها تناولت الانتخابات أو التصويت، بينما بلغت نسبة المحادثات التي تضمنت طلبات مخالفة لسياساتها المتعلقة بنزاهة الانتخابات نحو 0.002 في المائة. وأوضحت الشركة أن المستخدمين كانوا يسألون في الغالب عن مواقف المرشحين من قضايا محددة، بدلاً من طلب تحديد الشخص الذي ينبغي التصويت له.

أسئلة حول الدقة والتأثير

لم تتناول دراسة «ييل» بصورة حاسمة مدى صحة المعلومات التي قدمتها روبوتات المحادثة، أو ما إذا كانت التوصيات قد أثرت فعلياً في قرارات التصويت لدى المشاركين.

ويحدد الباحثون مجالات عدة للبحث اللاحق، تشمل تقييم دقة إجابات النماذج ومدى توازنها، والمعلومات التي تستخلصها عن المستخدمين خلال المحادثات، وما إذا كانت توصياتها تتوافق مع احتياجاتهم وأولوياتهم المعلنة، كما يبرز التمييز بين تقديم معلومات تساعد الناخب على فهم مواقف المرشحين، وبين اقتراح مرشح محدد، بوصفه أحد الجوانب التي يمكن دراستها عند تقييم دور أنظمة الذكاء الاصطناعي في الحصول على المعلومات السياسية. وتوفر التجربة بيانات عن كيفية تفاعل مستخدمين فعليين مع أربعة من أبرز روبوتات المحادثة خلال مرحلة انتخابية، بينما تبقى مسألة تأثير هذه التفاعلات في اختياراتهم النهائية موضوعاً لأبحاث إضافية.