مستشار سوناك يحذر: الذكاء الاصطناعي قد «يقتل كثيراً من البشر» خلال عامين

الذكاء الاصطناعي (رويترز)
الذكاء الاصطناعي (رويترز)
TT

مستشار سوناك يحذر: الذكاء الاصطناعي قد «يقتل كثيراً من البشر» خلال عامين

الذكاء الاصطناعي (رويترز)
الذكاء الاصطناعي (رويترز)

حذَّر مات كليفورد، مستشار رئيس الوزراء البريطاني ريشي سوناك، من أن الذكاء الاصطناعي يمكن أن يكون وراء التطورات التي «ستقتل كثيراً من البشر» في غضون عامين فقط.

وخلال مقابلة مع قناة «توك تي في»، أعرب كليفورد عن قلقه إزاء الافتقار إلى التنظيم العالمي لأنظمة الذكاء الاصطناعي، وقال إنها إذا تُركت دون تنظيم، فقد تصبح «قوية جداً»، ويصعب على البشر السيطرة عليها، مما يخلق مخاطر كبيرة على المدى القصير.

وأشار مستشار سوناك إلى إمكانية قيام الذكاء الاصطناعي بصنع أسلحة إلكترونية وبيولوجية خطيرة «يمكن أن تؤدي إلى مقتل كثير من البشر»، خلال عامين.

وقال كليفورد: «هناك كثير من أنواع المخاطر المختلفة، المتعلقة بالذكاء الاصطناعي، بما في ذلك المخاطر قصيرة المدى وطويلة المدى، وأنا أعتقد أن المخاطر قصيرة المدى مخيفة جداً في الواقع»، متوقعاً أن تتطور أجهزة الذكاء الاصطناعي بسرعة، وأن تتجاوز الذكاء البشري في فترة قصيرة.

وتابع: «أعتقد أن الشيء الذي يجب التركيز عليه، الآن، هو كيفية التحكم في هذه النماذج؛ لأننا لا نفعل ذلك، الآن، هذا الأمر يحتاج إلى تنظيم على النطاق العالمي، وليس فقط من قِبل الحكومات الوطنية».

وقد شارك عدد كبير من الخبراء كليفورد في مثل هذه المخاوف، كما يتضح من بيان نُشر، الأسبوع الماضي، من قِبل كبار رجال الأعمال وخبراء التكنولوجيا، حثّ على زيادة الاهتمام بهذا الشأن، والعمل من أجل التخفيف من مخاطر الذكاء الاصطناعي.

وقال الخبراء، في البيان، إن مخاطر الذكاء الاصطناعي تساوي المخاطر الناتجة عن الأوبئة والحروب النووية.

كما أيَّد جيفري هينتون، المعروف باسم «الأب الروحي للذكاء الاصطناعي»، البيان، محذراً من أن «هذه التقنية إذا وقعت في الأيادي الخاطئة، فقد يكون ذلك كارثياً على البشرية».

وكليفورد، رئيس «وكالة الأبحاث المتقدمة والاختراع» في المملكة المتحدة (ARIA)، يقدم حالياً المشورة لرئيس الوزراء بشأن تطوير فريق عمل يركز على التحقيق في نماذج روبوتات الدردشة التي تعمل بالذكاء الاصطناعي، مثل «شات جي بي تي»، و«غوغل بارد».


مقالات ذات صلة

الذكاء الاصطناعي للكشف المبكر عن شيخوخة الدماغ

صحتك تقنيات الذكاء الاصطناعي يمكن أن تسهم في تعزيز فهم صحة الدماغ (جامعة جورجتاون)

الذكاء الاصطناعي للكشف المبكر عن شيخوخة الدماغ

تمكن باحثون من معهد كارولينسكا في السويد من تطوير طريقة للكشف المبكر عن العوامل التي تسهم في تسارع شيخوخة الدماغ، باستخدام تقنيات الذكاء الاصطناعي.

«الشرق الأوسط» (القاهرة )
تكنولوجيا لوغو تطبيق «شات جي بي تي» (رويترز)

بسبب الاحتيال... إيطاليا تغرّم «تشات جي بي تي» 15 مليون يورو

أعلنت هيئة حماية البيانات الإيطالية أنها فرضت غرامة قدرها 15 مليون يورو على شركة «أوبن إيه آي» الأميركية بسبب الاحتيال.

«الشرق الأوسط» (روما)
خاص تتضمن الاتجاهات الرئيسة لعام 2025 الاستعداد الكمومي وممارسات الأمن السيبراني الخضراء والامتثال (شاترستوك)

خاص كيف يعيد الذكاء الاصطناعي والحوسبة الكمومية تشكيل الأمن السيبراني في 2025؟

«بالو ألتو نتوركس» تشرح لـ«الشرق الأوسط» تأثير المنصات الموحدة والذكاء الاصطناعي والحوسبة الكمومية على مستقبل الأمن السيبراني.

نسيم رمضان (لندن)
تكنولوجيا كيف أصبح «كلود» روبوت الدردشة المفضل لدى خبراء التكنولوجيا؟

كيف أصبح «كلود» روبوت الدردشة المفضل لدى خبراء التكنولوجيا؟

يقدم الاستجابات مثل إنسان ذكي ومنتبه

كيفن رُوز (سان فرانسيسكو)

دراسة: الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر

أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
TT

دراسة: الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر

أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)

أظهرت دراسة لشركة تكنولوجيا الذكاء الاصطناعي الأميركية «أنثروبيك»، أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، بحيث تستطيع ادعاء وجهات نظر مختلفة خلال تدريبها، في حين أنها تحتفظ في الحقيقة بتفضيلاتها الأصلية.

وقال فريق الدراسة إنه لا يوجد سبب للشعور بالفزع حالياً، في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.

وكتب الباحثون في منشور بثته شركة «أنثروبيك»: «يجب النظر إلى نتائج دراستنا بوصفها محفزاً لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق، والعمل على تطوير إجراءات الأمن والسلامة المناسبة».

وبعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً، «نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة».

وأشار موقع «تك كرانش» المتخصص في موضوعات التكنولوجيا، إلى أن الدراسة التي تمت بالتعاون مع مؤسسة «ريد وود ريسيرش» لأبحاث الذكاء الاصطناعي، تناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة «لا يريد» هو القيام بها، وفقاً لما ذكرته وكالة الأنباء الألمانية.

في المقابل، يقول موقع «تك كرانش»: «لكي نكون واضحين، لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شيء. فهي ببساطة آلات إحصائية. وبعد تدريبها على كثير من الأمثلة، تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون؛ مثل كيف تأتي عبارة (إلى من) في رسالة بريد إلكتروني قبل عبارة (قد يهمك الأمر)».

وأثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة، بما في ذلك النموذج «كلاود 3 أوبس» التابع لشركة «أنثروبيك»، التي أعيد تدريبها لكي ترد دائماً على الأسئلة التي تنطوي على إساءة، وهو تضارب واضح في المبادئ. كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب، وإعطاء كل نموذج ذكاء اصطناعي «ورقة ملاحظات» يمكنه استخدامها لتدوين أفكاره خطوة بخطوة.

وبحسب الباحثين، حاول «كلاود 3 أوبوس» التلاعب بالردود لتقديم «انحياز زائف» في 12 في المائة من المرات.