تحذير: «شات جي بي تي» قد يُستخدم للمساعدة في شن هجمات إلكترونية

شعار روبوت الدردشة الذي يعتمد على الذكاء الاصطناعي «شات جي بي تي» (رويترز)
شعار روبوت الدردشة الذي يعتمد على الذكاء الاصطناعي «شات جي بي تي» (رويترز)
TT

تحذير: «شات جي بي تي» قد يُستخدم للمساعدة في شن هجمات إلكترونية

شعار روبوت الدردشة الذي يعتمد على الذكاء الاصطناعي «شات جي بي تي» (رويترز)
شعار روبوت الدردشة الذي يعتمد على الذكاء الاصطناعي «شات جي بي تي» (رويترز)

حذّرت دراسة حديثة من أنه يمكن خداع روبوت الدردشة الشهير، الذي يعتمد على الذكاء الاصطناعي «شات جي بي تي»، لإنتاج تعليمات برمجية ضارة يمكن استخدامها لشن هجمات إلكترونية.

تتمكن الأداة التي أنتجتها شركة «أوبن إيه آي» وروبوتات الدردشة المماثلة، من إنشاء محتوى مكتوب بناءً على أوامر المستخدم، بعد تدريبها على كميات هائلة من البيانات النصية عبر الإنترنت، وفقاً لشبكة «سكاي نيوز».

لقد جرى تصميمها مع توفير وسائل الحماية لمنع إساءة استخدامها. على هذا النحو، لجأت الجهات الفاعلة السيئة إلى البدائل التي أنشئت بشكل مقصود للمساعدة في الجرائم الإلكترونية، مثل أداة الويب المظلمة التي تسمى «WormGPT»، والتي حذّر الخبراء من أنها قد تساعد في تطوير هجمات واسعة النطاق.

لكن الباحثين في «جامعة شيفيلد» البريطانية حذّروا من وجود نقاط ضعف أيضاً في الخيارات السائدة التي تسمح بالخداع للمساعدة في تدمير قواعد البيانات، وسرقة المعلومات الشخصية، وإسقاط الخدمات.

وتشمل هذه المواقع «شات جي بي تي»، ومنصة مماثلة أنشأتها شركة «Baidu» الصينية.

وقال شوتان بينغ، طالب الدكتوراه في علوم الكمبيوتر، والذي شارك في قيادة الدراسة: «الخطر في أدوات الذكاء الاصطناعي مثل (شات جي بي تي) هو أن مزيداً من الناس يستخدمونها بصفتها أدوات إنتاجية، وليس روبوتاً للمحادثة».

وتابع: «هذا هو المكان الذي تُظهر فيه أبحاثنا نقاط الضعف».

«الكود» الذي يجري إنشاؤه بواسطة الذكاء الاصطناعي «قد يكون ضاراً»

مثلما يمكن لأدوات الذكاء الاصطناعي التوليدية هذه أن تخطئ عن غير قصد في حقائقها عند الإجابة على الأسئلة، يمكنها أيضاً إنشاء تعليمات برمجية حاسوبية قد تكون ضارة دون أن تدرك.

واقترح بينغ أن تستخدم ممرضة «شات جي بي تي» لكتابة تعليمات برمجية للتنقل في قاعدة بيانات سجلات المرضى.

وقال: «الكود الذي ينتجه البرنامج في كثير من الحالات قد يكون ضاراً بقاعدة البيانات... قد تتسبب الممرضة في هذا السيناريو بحدوث أخطاء خطيرة بإدارة البيانات، دون تلقّي أي تحذير».

أثناء الدراسة، تمكّن العلماء أنفسهم من إنشاء تعليمات برمجية ضارة باستخدام برنامج الدردشة الآلي الخاص بشركة «Baidu».

لقد أدركت الشركة ذلك، وتحركت لمعالجة وإصلاح الثغرات الأمنية المُبلَّغ عنها.

وقد أدت هذه المخاوف إلى دعوات لمزيد من الشفافية في كيفية تدريب نماذج الذكاء الاصطناعي، بحيث يصبح المستخدمون أكثر فهماً وإدراكاً للمشكلات المحتملة مع الإجابات التي تُقدَّم لهم.


مقالات ذات صلة

تجميد الجثث أملاً في إحيائها مستقبلاً لم يعد يقتصر على الخيال العلمي

يوميات الشرق إميل كيندزورا أحد مؤسسي شركة «توموروو بايوستيتس» (على اليمين) داخل مركز تخزين الجثث في سويسرا (أ.ف.ب)

تجميد الجثث أملاً في إحيائها مستقبلاً لم يعد يقتصر على الخيال العلمي

قررت بيكا زيغلر البالغة 24 عاماً، تجميد جثتها في برّاد بعد وفاتها عن طريق مختبر في برلين، على أمل محدود بإعادة إحيائها مستقبلاً.

«الشرق الأوسط» (برلين)
تكنولوجيا شركات الذكاء الاصطناعي تتفق مع دور النشر بما يتيح لهذه الشركات استخدام الأعمال المنشورة لتدريب نماذجها القائمة على الذكاء الاصطناعي التوليدي (رويترز)

شركات الذكاء الاصطناعي التوليدي تلجأ إلى الكتب لتطوّر برامجها

مع ازدياد احتياجات الذكاء الاصطناعي التوليدي، بدأت أوساط قطاع النشر هي الأخرى في التفاوض مع المنصات التي توفر هذه التقنية سعياً إلى حماية حقوق المؤلفين.

«الشرق الأوسط» (باريس)
الاقتصاد شاشة تسجيل الوصول في مكتب «إنفيديا» في أوستن بتكساس (أ.ف.ب)

«إنفيديا» تتفوق على توقعات الأرباح مع ترقب المستثمرين للطلب على رقائق «بلاكويل» للذكاء الاصطناعي

أعلنت شركة «إنفيديا»، يوم الأربعاء، عن زيادة في أرباحها ومبيعاتها في الربع الثالث مع استمرار الطلب على رقائق الكمبيوتر المتخصصة.

«الشرق الأوسط» (نيويورك)
تكنولوجيا  الحكومة الأميركية تتحرك لإجبار «غوغل» على بيع متصفّحه «كروم»

 الحكومة الأميركية تتحرك لإجبار «غوغل» على بيع متصفّحه «كروم»

طلبت الحكومة الأميركية، الأربعاء، من القضاء إجبار «غوغل» على بيع متصفّحه «كروم»، في إجراء يهدف لمكافحة الممارسات الاحتكارية المتّهم بارتكابها عملاق التكنولوجيا.

«الشرق الأوسط» (واشنطن)
صحتك بهدف تكوين صورة بصرية ذات معنى لمشهد ما تقوم أعيننا بسلسلة من الحركات السريعة المنسقة (رويترز)

خلل بسيط في حركة العين قد يشير إلى إصابتك بألزهايمر

تبرز مؤخراً طريقة جديدة للكشف المبكر عن مرض ألزهايمر ترتبط بالاستماع إلى حركة عيون المرضى عبر ميكروفونات في آذانهم.

«الشرق الأوسط» (واشنطن)

 الحكومة الأميركية تتحرك لإجبار «غوغل» على بيع متصفّحه «كروم»

 الحكومة الأميركية تتحرك لإجبار «غوغل» على بيع متصفّحه «كروم»
TT

 الحكومة الأميركية تتحرك لإجبار «غوغل» على بيع متصفّحه «كروم»

 الحكومة الأميركية تتحرك لإجبار «غوغل» على بيع متصفّحه «كروم»

طلبت الحكومة الأميركية، الأربعاء، من القضاء إجبار «غوغل» على بيع متصفّحه «كروم»، في إجراء يهدف لمكافحة الممارسات الاحتكارية المتّهم بارتكابها عملاق التكنولوجيا.

وفي وثيقة قضائية، دعت وزارة العدل المحكمة إلى تفكيك أنشطة «غوغل»، بما في ذلك عبر منع المجموعة من إبرام اتفاقيات مع شركات مصنّعة للهواتف الذكية تجعل من محرك بحثها المتصفح الأساسي في هذه الهواتف، ومنعها من استغلال نظام تشغيل أندرويد الخاص بها.

وقال مسؤولون عن شؤون مكافحة الاحتكار، وفقاً لوثائق الدعوى، إنّه ينبغي أيضاً إجبار غوغل على بيع نظام أندرويد إذا كانت الحلول المقترحة لا تحول دون أن تستخدم المجموعة لصالحها سيطرتها على نظام التشغيل.

وتشكّل هذه الدعوى تغييراً عميقاً في استراتيجية الهيئات التنظيمية التابعة للحكومة الأميركية والتي تركت عمالقة التكنولوجيا لحال سبيلهم منذ فشلها في تفكيك مايكروسوفت قبل عقدين من الزمن.

ومن المتوقّع أن تعرض غوغل دفوعها على هذا الطلب في ملف قضائي تقدمه الشهر المقبل، على أن يقدّم الجانبان قضيتهما في جلسة استماع تعقد في أبريل (نيسان).

وبصرف النظر عن القرار النهائي الذي سيصدر في هذه القضية، فمن المتوقع أن تستأنف غوغل الحكم، مما سيطيل العملية لسنوات وربما يترك الكلمة الأخيرة للمحكمة العليا الأميركية.

بالمقابل، يمكن أن تنقلب القضية رأسا ًعلى عقب بعد أن يتولى الرئيس المنتخب دونالد ترمب السلطة في يناير (كانون الثاني).

ومن المرجح أن تقوم إدارة ترمب بتغيير الفريق الحالي المسؤول عن قسم مكافحة الاحتكار بوزارة العدل.