دراسة تحذر: الذكاء الاصطناعي يمكن تدريبه على الكذب بكل سهولة

يمكن لأنظمة الذكاء الاصطناعي المتقدمة الكذب على البشر وخداعهم بكل سهولة (رويترز)
يمكن لأنظمة الذكاء الاصطناعي المتقدمة الكذب على البشر وخداعهم بكل سهولة (رويترز)
TT

دراسة تحذر: الذكاء الاصطناعي يمكن تدريبه على الكذب بكل سهولة

يمكن لأنظمة الذكاء الاصطناعي المتقدمة الكذب على البشر وخداعهم بكل سهولة (رويترز)
يمكن لأنظمة الذكاء الاصطناعي المتقدمة الكذب على البشر وخداعهم بكل سهولة (رويترز)

حذرت دراسةٌ جديدةٌ من إمكانية تدريب نماذج الذكاء الاصطناعي المتقدمة على الكذب على البشر وخداعهم بكل سهولة.

ووفقاً لصحيفة «الإندبندنت» البريطانية، فقد اختبر الباحثون في شركة «Anthropic» الناشئة للذكاء الاصطناعي ما إذا كانت روبوتات الدردشة المتطورة مثل «تشات جي بي تي» يمكن أن تتعلم الكذب من أجل خداع الناس.

ووجد الفريق أن هذه الروبوتات لا تستطيع تعلم الكذب فحسب، بل من المستحيل إعادة تدريبها بعد ذلك على قول الحقيقة والمعلومات الصحيحة باستخدام تدابير السلامة الخاصة بالذكاء الاصطناعي المتاحة في الوقت الحالي.

وحذر الباحثون من وجود «شعور زائف بالأمان» تجاه أنظمة الذكاء الاصطناعي والمعلومات المستمدة منها.

وأشار الفريق إلى خطورة برمجة المحتالين وقراصنة الإنترنت لأنظمة الذكاء الاصطناعي على الكذب وإخفاء الأضرار التي قد تنتج عن عملية شرائية معينة أو عن الدخول إلى موقع ما.

وأصبحت مسألة سلامة الذكاء الاصطناعي مصدر قلق متزايد لكل من الباحثين والمشرعين في الفترة الأخيرة.

ولطالما عبر الباحثون عن خوفهم من تسبب هذه الأنظمة في انتشار المعلومات الخاطئة على نطاق واسع، خصوصاً عبر التزييف العميق، واستخدام أعمال المبدعين دون إسناد، وخسارة هائلة في الوظائف.

وحذَّر تحليلٌ أجراه صندوق النقد الدولي قبل يومين من أن الذكاء الاصطناعي يمكن أن يؤثر على ما يقرب من 40 في المائة من الوظائف ويُفاقم عدم المساواة.

وتتشابه نتائج تحليل صندوق النقد مع أخرى أصدرها بنك «غولدمان ساكس» عام 2023، الذي قدَّر أن الذكاء الاصطناعي يمكن أن يحلَّ محل ما يعادل 300 مليون وظيفة بدوام كامل، لكنه أشار إلى أن هذه التقنية قد تؤدي إلى طفرة في الإنتاجية.

وتحاول الحكومات في جميع أنحاء العالم إنشاء لوائح تنظيمية، أو قوانين للذكاء الاصطناعي، تعمل على تعزيز السلامة والاستخدام العادل، مع الاستمرار في تشجيع الابتكار.


مقالات ذات صلة

«ثورة الذكاء الاصطناعي» تطغى على «قمة الويب» في لشبونة

تكنولوجيا خلال جلسة في «قمة الويب» 2024 في لشبونة عاصمة البرتغال 12 نوفمبر 2024 (إ.ب.أ)

«ثورة الذكاء الاصطناعي» تطغى على «قمة الويب» في لشبونة

يطغى الذكاء الاصطناعي والتحوّلات الناتجة عنه على المناقشات خلال «قمة الويب» التي تُعقَد في لشبونة هذا الأسبوع على خلفية إعادة انتخاب ترمب رئيساً لأميركا.

«الشرق الأوسط» (لشبونة)
علوم مسيرة الإنسان نحو المستقبل... اتجاهات وتوجهات مبهمة

تنبؤات المستقبل... التاريخ يثبت صعوبة طرحها

قبل 50 عاماً ظهرت توقعات الحرب النووية والطفرة السكانية التي ستتجاوز قدرة الكوكب على إطعام سكانه.

«الشرق الأوسط»
تكنولوجيا تتيح «فينغيج» قوالب وأدوات تخصيص سهلة بينما تستخدم «نابكن إيه آي» الذكاء الاصطناعي لتحويل النصوص إلى تصميمات جذابة (فينغيج)

أدوات مميزة لتحويل أفكارك إلى تصميمات مرئية جذابة

تخيل أن بإمكانك تصميم إنفوغرافيك أو تقرير جذاب بسهولة!

عبد العزيز الرشيد (الرياض)
تكنولوجيا كيف تستخدم صور الهاتف للبحث على الإنترنت؟

كيف تستخدم صور الهاتف للبحث على الإنترنت؟

الصورة تساوي ألف كلمة، لكنك لا تحتاج إلى كتابة أي منها من أجل البحث على الإنترنت هذه الأيام، إذ تستطيع البرامج الموجودة على هاتفك، بمساعدة الذكاء الاصطناعي....

جيه دي بيرسدورفر (نيويورك)

«ثورة الذكاء الاصطناعي» تطغى على «قمة الويب» في لشبونة

خلال جلسة في «قمة الويب» 2024 في لشبونة عاصمة البرتغال 12 نوفمبر 2024 (إ.ب.أ)
خلال جلسة في «قمة الويب» 2024 في لشبونة عاصمة البرتغال 12 نوفمبر 2024 (إ.ب.أ)
TT

«ثورة الذكاء الاصطناعي» تطغى على «قمة الويب» في لشبونة

خلال جلسة في «قمة الويب» 2024 في لشبونة عاصمة البرتغال 12 نوفمبر 2024 (إ.ب.أ)
خلال جلسة في «قمة الويب» 2024 في لشبونة عاصمة البرتغال 12 نوفمبر 2024 (إ.ب.أ)

يطغى الذكاء الاصطناعي التوليدي والتحوّلات الكبيرة الناتجة عنه على المناقشات خلال «قمة الويب» التي تُعقَد في لشبونة هذا الأسبوع على خلفية إعادة انتخاب دونالد ترمب رئيساً للولايات المتحدة، وتُعَدّ الملتقى الأبرز للاقتصاد الرقمي.

ورأى رئيس «مايكروسوفت» براد سميث أمام جمهور من رجال الأعمال، اليوم (الثلاثاء)، خلال القمة أن «الذكاء الاصطناعي هو التكنولوجيا التخريبية الجديدة الكبرى»، بمعنى أنها قادرة على إحداث تغيير جذري في كل قطاعات المجتمع، على غرار ما فعلت الكهرباء قبله.

وقال: «لدينا الفرصة لإنشاء اقتصاد جديد للذكاء الاصطناعي معاً، ولكن أكثر من ذلك، يمكننا بناء الثورة الصناعية العالمية الجديدة».

وذكّر براد سميث باستثمارات الشركة الأميركية العملاقة في مراكز البيانات، والبنى التحتية الأساسية لعمل الذكاء الاصطناعي الذي يتطلب قدراً ضخماً من القوة الحاسوبية والطاقة.

وقال: «لا يمكننا أن نسمح لأنفسنا ببناء مراكز بيانات واستهلاك الكهرباء من دون القلق بشأن ما يعنيه ذلك بالنسبة إلى منطقة أو بلد أو كوكب الأرض»، في وقت ترتفع فيه أصوات كثيرة للتنديد بالتكلفة البيئية الكبيرة لهذه التكنولوجيا.

خلال جلسة في «قمة الويب» 2024 في لشبونة عاصمة البرتغال 12 نوفمبر 2024 (إ.ب.أ)

وتضم «قمة الويب» في البرتغال أكثر من 71 ألف مشارك من 153 دولة، من بينهم أكثر من 3 آلاف شركة ناشئة وألف مستثمر، لمناقشة التطورات الجديدة المتعلقة بالذكاء الاصطناعي.

واغتنم رئيس شركة «علي بابا» الصينية العملاقة للتجارة الإلكترونية كو تشانغ الفرصة، الثلاثاء، للإعلان عن إطلاق محرك بحث جديد يعتمد على الذكاء الاصطناعي التوليدي، يسمى «Accio»، لمساعدة بائعي المحال الصغيرة في العثور على الموردين على المنصة.

وأوضح أن محرّك البحث هذا «نظام محادثة يسمح للأشخاص بالدردشة باللغة اليومية ويربطهم بالموردين حول العالم». ورأى أن ذلك «يمكّن الشركات الصغيرة والمتوسطة من اتخاذ قرارات أفضل».

وتُعقد القمة بعد إعادة انتخاب دونالد ترمب رئيساً للولايات المتحدة، الأسبوع الماضي، إثر حملة حظيت بدعم قوي من قطب التكنولوجيا إيلون ماسك.

يُخشى أن يعيد الرئيس الأميركي الـ47، دونالد ترمب، النظر في مرسوم مثير للجدل أصدره سلفه جو بايدن، يُحدد معايير الأمان في مجال الذكاء الاصطناعي، مع التركيز على حماية الخصوصية ومكافحة التحيّز.