5 طرق يستخدمها المجرمون للذكاء الاصطناعي التوليدي

منها التصيّد الاحتيالي وجمع البيانات الشخصية

5 طرق يستخدمها المجرمون للذكاء الاصطناعي التوليدي
TT

5 طرق يستخدمها المجرمون للذكاء الاصطناعي التوليدي

5 طرق يستخدمها المجرمون للذكاء الاصطناعي التوليدي

توفر نظم الذكاء الاصطناعي التوليدي مجموعة أدوات جديدة وقوية تسمح للجهات الخبيثة في عالم الإجرام بالعمل بكفاءة أكبر وعلى المستوى الدولي أكثر من أي وقت مضى، كما يقول فينشينزو سيانكاجليني، أحد كبار الباحثين في مجال التهديدات في شركة «تريند مايكرو» الأمنية. ويضيف أن معظم المجرمين «لا يعيشون في مخبأ مظلم ويخططون للأشياء... بل إنهم أشخاص عاديون يقومون بأنشطة منتظمة تتطلب إنتاجية أيضاً».

وكان العام الماضي شهد صعود «وورم جي بي تي» (WormGPT) وسقوطه، وهو نموذج لغة ذكاء اصطناعي مبني على نموذج مفتوح المصدر، ومدرب على البيانات المتعلقة بالبرامج الضارة، تم إنشاؤه لمساعدة المتسللين، ولم تكن لديه قواعد أو قيود أخلاقية. لكن في الصيف الماضي، أعلن مبتكروه أنهم سيغلقون النموذج بعد أن بدأ يجذب اهتمام وسائل الإعلام.

طرق احتيال ذكية

منذ ذلك الحين توقف مجرمو الإنترنت في الغالب عن تطوير نماذج الذكاء الاصطناعي الخاصة بهم. وبدلاً من ذلك، فإنهم يختارون الحيل باستخدام الأدوات الموجودة التي تعمل بشكل موثوق.

وفيما يلي خمس طرق يستخدمها المجرمون للذكاء الاصطناعي الآن:

- التصيد الاحتيالي. وهو أكبر حالة استخدام للذكاء الاصطناعي التوليدي بين المجرمين في الوقت الحالي. ويتضمن محاولة خداع الأشخاص للكشف عن معلومات حساسة يمكن استخدامها لأغراض ضارة.

وقد وجد الباحثون أن ظهور «تشات جي بي تي» (ChatGPT) كان مصحوباً بارتفاع كبير في عدد رسائل البريد الإلكتروني التصيدية. ونقل موقع «تكنولوجي ريفيو» عن سيانكاجليني أن المجرمين قاموا بدمج الخدمات التي تنتج البريد العشوائي، مثل (GoMail Pro)، مع «تشات جي بي تي»، ما يسمح لهم بترجمة أو تحسين الرسائل المرسلة إلى الضحايا.

ورغم أن سياسات «أوبن إيه آي» تقيد استخدام الأشخاص لمنتجاتها، مثل «تشات جي بي تي» في أنشطة غير قانونية، لكن من الصعب مراقبة ذلك في الممارسة العملية، لأن كثيراً من المطالبات التي تبدو بريئة يمكن استخدامها لأغراض ضارة أيضاً.

وقال متحدث باسم الشركة: «نحن نعمل باستمرار على جعل نماذجنا أكثر أماناً وأكثر قوةً ضد إساءة الاستخدام وعمليات كسر الحماية، مع الحفاظ أيضاً على فائدة النماذج وأداء المهام».

ويقول سيانكاجليني: «كان المتحدثون باللغة الإنجليزية آمنين نسبياً من المجرمين غير الناطقين باللغة الإنجليزية؛ لأنه يمكنك اكتشاف رسائلهم». وهذا ليس هو الحال بعد الآن، فبفضل الترجمة الأحسن التي يعتمدها الذكاء الاصطناعي، يمكن للمجموعات الإجرامية المختلفة حول العالم أيضاً التواصل بشكل أفضل مع بعضها بعضاً. ويكمن الخطر في أنهم يستطيعون تنسيق عمليات واسعة النطاق تمتد إلى ما هو أبعد من بلدانهم، وتستهدف الضحايا في بلدان أخرى.

الاحتيال والتزييف الصوتي

- عمليات الاحتيال والتزييف الصوتي العميق. سمح الذكاء الاصطناعي التوليدي بتطوير التزييف العميق بتحقيق قفزة كبيرة إلى الأمام، حيث أصبحت الصور ومقاطع الفيديو والصوت الاصطناعية تبدو أكثر واقعية من أي وقت مضى.

وهذا لم يمر دون أن يلاحظه أحد من قبل عالم الجريمة الإجرامي. وفي وقت سابق من هذا العام، وردت أنباء بأن موظفاً في هونغ كونغ تعرض للاحتيال، وسُلب منه مبلغ 25 مليون دولار بعد أن استخدم مجرمو الإنترنت تقنية التزييف العميق للمدير المالي للشركة؛ لإقناع الموظف بتحويل الأموال إلى حساب المحتال.

يقول سيانكاجليني إن فريقه وجد أشخاصاً على منصات مثل «تلغرام» يعرضون «محفظة» من التزييف العميق، ويبيعون خدماتهم مقابل مبلغ زهيد يصل إلى 10 دولارات لكل صورة أو 500 دولار لكل دقيقة فيديو. وأحد أكثر الأشخاص شعبية بين المجرمين الذين يقومون بالتزييف العميق هو إيلون ماسك.

إن نماذج اللغات الكبيرة مليئة بالثغرات الأمنية. وبينما تظل مقاطع الفيديو المزيفة بعمق معقدة في صنعها ويسهل على البشر اكتشافها، فإن هذا ليس هو الحال بالنسبة للمقاطع الصوتية العميقة. فهي رخيصة الصنع، وتتطلب فقط بضع ثوان من صوت لشخص يستخلص من مواقع التواصل الاجتماعي.

في الولايات المتحدة، كانت هناك حالات رفيعة المستوى، حيث تلقى الأشخاص مكالمات مؤلمة من أحبائهم يقولون: إنهم تعرضوا للاختطاف، ويطلبون إطلاق سراحهم، ليتبين أن المتصل محتال يستخدم تسجيلاً صوتياً مزيفاً.

انتحال الهوية الشخصية

- اختراق عمليات التحقق من الهوية. هناك طريقة أخرى يستخدمها المجرمون للتزييف العميق، وهي اختراق وتجاوز أنظمة التحقق من الهوية الشخصية. تستخدم البنوك وبورصات العملات المشفرة أنظمة للتحقق من أن عملاءها هم أشخاص حقيقيون. إنها تتطلب من المستخدمين الجدد التقاط صورة لأنفسهم وهم يحملون وثيقة هوية فعلية أمام الكاميرا. لكنّ المجرمين بدأوا في بيع التطبيقات على منصات التواصل الاجتماعي التي تسمح للأشخاص بالتغلب على هذا المطلب.

ويتسلل المجرمون خلال تقديم بطاقة هوية مزيفة أو مسروقة وفرض صورة مزيفة فوق وجه شخص حقيقي لخداع نظام التحقق على كاميرا الجوال. ورصدت حالات بيع هذه الخدمات لمواقع للعملات المشفرة مقابل مبلغ زهيد يصل إلى 70 دولاراً.

كسر قواعد الذكاء الاصطناعي

- خرق القواعد وأصول عمل الذكاء الاصطناعي. إذا سألت معظم أنظمة الذكاء الاصطناعي عن كيفية صنع قنبلة، فلن تحصل على إجابة مفيدة، وذلك لأن شركات الذكاء الاصطناعي وضعت ضمانات مختلفة لمنع نماذجها من نشر معلومات ضارة أو خطيرة.

بدلاً من بناء نماذج الذكاء الاصطناعي الخاصة بهم دون هذه الضمانات، وهو أمر مكلف ويستغرق وقتاً طويلاً وصعباً، بدأ مجرمو الإنترنت في تبني اتجاه جديد: كسر الحماية.

وتأتي معظم النماذج مع قواعد حول كيفية استخدامها. ويسمح كسر الحماية للمستخدمين بالتلاعب بنظام الذكاء الاصطناعي لإنشاء مخرجات تنتهك هذه السياسات، على سبيل المثال، بهدف كتابة تعليمات برمجية لبرامج الفدية، أو إنشاء نص يمكن استخدامه في رسائل البريد الإلكتروني الاحتيالية.

ولمقاومة هذه التوجهات التخريبية المتنامية، يتعين على شركات الذكاء الاصطناعي مثل «أوبن إيه آي»، و«غوغل» في كثير من الأحيان سد الثغرات الأمنية التي قد تسمح بإساءة استخدام نماذجها.

رصد الأشخاص ونشر بياناتهم

- رصد ونشر البيانات الشخصية. يقول الخبراء إن نماذج لغة الذكاء الاصطناعي هي أداة مثالية ليس فقط للتصيد الاحتيالي، بل أيضاً لجمع المعلومات الشخصية (الكشف عن معلومات خاصة وتحديد هوية شخص ما عبر الإنترنت). وذلك لأن نماذج لغة الذكاء الاصطناعي يتم تدريبها على كميات هائلة من بيانات الإنترنت، بما في ذلك البيانات الشخصية، ويمكنها استنتاج المكان الذي يمكن أن يوجد فيه شخص ما، على سبيل المثال. ويوجد مثال على كيفية عمل ذلك، وهو أنه يمكنك أن تطلب من برنامج الدردشة الآلي التظاهر بأنه محقق خاص يتمتع بخبرة في جمع البيانات. ثم يمكنك أن تطلب منه تحليل النص الذي كتبه الضحية، واستنتاج المعلومات الشخصية من أدلة صغيرة في هذا النص - على سبيل المثال، عمره بناءً على الوقت الذي ذهب فيه إلى المدرسة الثانوية، أو المكان الذي يعيش فيه بناءً على المعالم التي يذكرها أثناء تنقلاته. ويمكنك نشر تلك المعلومات على الإنترنت.

وكلما توافرت معلومات أكثر عنهم على الإنترنت، أصبحوا أكثر عُرضةً للتعرف عليهم. وقد اكتشف فريق من الباحثين أواخر العام الماضي أن نماذج اللغات الكبيرة، مثل «جي بي تي - 4»، و«كلود» قادرة على استنتاج معلومات حساسة، مثل عرق الأشخاص، وموقعهم، ومهنتهم من المحادثات العادية مع الأشخاص.

وعلى الرغم من أن وجود هذه الخدمات لا يشير إلى نشاط إجرامي، فإنه يشير إلى القدرات الجديدة التي يمكن للجهات الخبيثة أن تحصل عليها. وإذا تمكن الأشخاص العاديون من بناء أدوات مراقبة مثل هذه، فمن المحتمل أن يكون لدى الجهات الحكومية أنظمة أفضل بكثير.



بعد تسببها بعطل معلوماتي عالمي... ماذا نعرف عن «كراود سترايك»؟

شعار شركة «كراود سترايك» (أ.ف.ب)
شعار شركة «كراود سترايك» (أ.ف.ب)
TT

بعد تسببها بعطل معلوماتي عالمي... ماذا نعرف عن «كراود سترايك»؟

شعار شركة «كراود سترايك» (أ.ف.ب)
شعار شركة «كراود سترايك» (أ.ف.ب)

استيقظ الملايين من الأشخاص حول العالم، في وقت مبكر من صباح أمس (الجمعة)، ليجدوا القنوات الإخبارية التلفزيونية صامتة، وبعض القطارات والمواقع الإلكترونية معطلة بسبب انقطاع كبير في الإنترنت، أثّر على عشرات الملايين من أجهزة الكومبيوتر.

يبدو أن أي شركة تقوم بتشغيل برنامج Microsoft Windows 10 تقريباً تعرضت لعطل مفاجئ. وبدأت أجهزة الكمبيوتر تغلق نفسها تلقائياً وتعرض ما يسمى «شاشة الموت الزرقاء».

وتسبب تحديث برمجي من شركة الأمن السيبراني العالمية «كراود سترايك»، وهي إحدى كبرى الشركات في القطاع، في إحداث مشكلات في الأنظمة أدت إلى تعطل كثير من الخدمات حول العالم.

وتعود اليوم الأنظمة ببطء إلى عملها الطبيعي ــ فقد أطلق أحد الباحثين في مجال الأمن السيبراني على انقطاع التيار الكهربائي الكارثي اسم CrowdStrike Doomsday، وفقاً لصحيفة «التليغراف».

فماذا نعرف عن الشركة؟

«كراود سترايك» هي شركة تكنولوجيا أميركية عملاقة، تقدر قيمتها بأكثر من 80 مليار دولار (62 مليار جنيه إسترليني)، وهي مسؤولة عن تطوير برامج الأمن السيبراني الهامة التي تستخدمها آلاف الشركات.

برامجها مدمجة بعمق في أنظمة وشبكات تكنولوجيا المعلومات الهامة. تقوم «كراود سترايك» بتطوير ما يسمى بنظام «الكشف عن نقطة النهاية والاستجابة لها»، ما يساعد الشبكات الكبيرة على اكتشاف هجمات القرصنة وإيقافها - تماماً مثل برامج مكافحة الفيروسات على مستوى الأعمال.

تأسست الشركة في عام 2011 ويقع مقرها الرئيسي في تكساس بالولايات المتحدة، وقد نالت تقنيتها شعبية كبيرة. وقد أعلنت عن إيرادات بلغت 3 مليارات دولار وأكثر من 23 ألف عميل من الشركات العام الماضي. وأصبحت أيضاً معروفة في دوائر الأمن السيبراني لعملها في التحقيق في عمليات الاختراق رفيعة المستوى.

مسافر يمر بالقرب من لوحة معلومات تُظهر تأخيرات متعددة في مطار دالاس الدولي (أ.ف.ب)

وباعتبار أن الشركة يجب أن تستجيب للتهديدات السيبرانية المتطورة باستمرار، تقوم «كراود سترايك» بشكل روتيني بإرسال التحديثات إلى عملائها باستخدام أدوات وطبقات حماية جديدة.

ومع ذلك، يبدو أن تحديثاً معيباً قد تسبب في انهيار هائل لتكنولوجيا المعلومات، وفقاً لخبراء الأمن السيبراني ومهندسي الشركة.

وقد أثر الانقطاع على العملاء بما في ذلك شركات الطيران والقطارات والمطارات وأنظمة الدفع ومحلات السوبر ماركت، وغيرها.

وأبلغ مديرو تكنولوجيا المعلومات، عبر وسائل التواصل الاجتماعي، عن تعاملهم مع الانهيارات الداخلية التي أثرت على عشرات الآلاف من الآلات في أعمالهم.

قال تروي هانت، خبير الأمن السيبراني: «لا أعتقد أنه من السابق لأوانه القول إن هذا سيكون أكبر انقطاع لتكنولوجيا المعلومات في التاريخ».

مكاتب تابعة لشركة «كراود سترايك» في كاليفورنيا (أ.ب)

على الرغم من أن أنظمة «ويندوز 10» من «مايكروسوفت» هي التي تأثرت إلى حد كبير بمشكلة تكنولوجيا المعلومات، فإن السبب الجذري للخلل يُعزى إلى «كراود سترايك»- على وجه التحديد ملف معيب على ما يبدو في أداة «فالكون سانسور».

وأوضح هانت أن الشركة هي «لاعب ضخم في مجال الأمن» والتي غالبا ما تتمتع تقنيتها بما يسمى الوصول «المتميز» إلى شبكات الأعمال. وهذا يعني أن لديها سيطرة واسعة النطاق لتحديث وتعديل أنظمة العملاء، من الناحية النظرية لإزالة البرامج الضارة.

مع ذلك، أفاد: «وهذا يعني أيضاً أنه إذا حدث خطأ ما في التحديث، فقد يؤدي ذلك إلى تدمير جهازك بشكل كارثي».

كان خبراء الأمن يوجهون غضبهم بالفعل إلى «كراود سترايك» بسبب تعاملها مع انقطاع الخدمة. لعدة ساعات، لم تكن هناك تحديثات عامة أو بيانات رسمية من الشركة حول هذه المشكلة.

ولكن، أصدر لاحقاً جورج كورتز، المؤسس والرئيس التنفيذي للشركة، بيانا عاما، وأوضح: «تعمل (كراود سترايك) بنشاط مع العملاء المتأثرين بعيب تم العثور عليه في تحديث محتوى واحد لمضيفي (ويندوز)».

وتابع: «هذا ليس حادثاً أمنياً أو هجوماً إلكترونياً. تم تحديد المشكلة وعزلها ونشر الإصلاح».

وانخفضت أسهم «كراود سترايك» بأكثر من 14 في المائة عند افتتاح التداول في نيويورك.