خبير ذكاء اصطناعي يحذر: لا تخبر «تشات جي بي تي» بأسرارك

شعار روبوت الدردشة «تشات جي بي تي» (رويترز)
شعار روبوت الدردشة «تشات جي بي تي» (رويترز)
TT

خبير ذكاء اصطناعي يحذر: لا تخبر «تشات جي بي تي» بأسرارك

شعار روبوت الدردشة «تشات جي بي تي» (رويترز)
شعار روبوت الدردشة «تشات جي بي تي» (رويترز)

حذر خبير في الذكاء الاصطناعي الأشخاص من الثقة الزائدة في روبوت الدردشة الشهير «تشات جي بي تي»، والحديث معه عن أسرار حياتهم أو عملهم أو تفضيلاتهم السياسية.

ونقلت صحيفة «الغارديان» البريطانية عن مايك وولدريدج، أستاذ الذكاء الاصطناعي في جامعة أكسفورد قوله إن مشاركة الأسرار والبيانات الشخصية الخاصة مع «تشات جي بي تي» ستكون «أمرا غير حكيم على الإطلاق»، لأن أي شيء يتم الكشف عنه لهذا الروبوت يمكن استخدامه في تدريب الإصدارات المستقبلية منه.

وأضاف وولدريدج أنه يجب على المستخدمين أيضاً ألا يتوقعوا أن يحصلوا على إجابات متوازنة لأسئلتهم واستفساراتهم لأن التكنولوجيا «تخبرك بما تريد سماعه».

وأشار خبير الذكاء الاصطناعي إلى أن الكثير من البشر يتوقعون من أنظمة الذكاء الاصطناعي أن تظهر لهم التعاطف وتجيبهم عن أسئلتهم بالمنطق والوعي، واصفا ذلك الأمر بأنه «مسعى عقيم. فالذكاء الاصطناعي ليس لديه أي وعي أو تعاطف».

وأضاف: «هذا ليس ما تفعله التكنولوجيا على الإطلاق، والأهم من ذلك أنها ليس لديها خبرة في أي شيء على الإطلاق».

وأكمل قائلا: «يجب أن يعلم الجميع أن أي شيء يقولونه لـ(تشات جي بي تي) سيستخدم في تدريب الإصدارات المستقبلية منه، وأنهم لن يتمكنوا من حذف أي معلومات قاموا بإخباره بها».

ولم ترد «أوبن إي آي»، الشركة المطوّرة لـ«تشات جي بي تي»، على طلبات التعليق.

وسبق أن أشارت «أوبن إي آي» إلى أن هناك 100 مليون شخص يستخدمون الروبوت كلّ أسبوع.


مقالات ذات صلة

«أيقونة» الذكاء الاصطناعي «صوفيا» تأسر القلوب في زيمبابوي

يوميات الشرق «صوفيا» آسرةُ القلوب (أ.ب)

«أيقونة» الذكاء الاصطناعي «صوفيا» تأسر القلوب في زيمبابوي

اعتذرت عندما نبَّهها أحدهم إلى أنها تجنَّبت النظر إليه، وبدت «صوفيا» أيضاً صبورةً عندما تجمَّع حولها الكبار والصغار لالتقاط الصور، وأخذوا يمطرونها بالأسئلة.

«الشرق الأوسط» (هراري (زيمبابوي))
يوميات الشرق الباحثون استلهموا تصميم الروبوت الجديد من زعانف سمكة المانتا راي المرنة (جامعة ولاية نورث كارولينا)

أسرع روبوت مائي مستوحى من «شيطان البحر»

حقّق فريق بحثي أميركي إنجازاً جديداً في عالم الروبوتات اللينة، حيث صمموا أسرع روبوت سباحة لين حتى الآن.

«الشرق الأوسط» (القاهرة)
يوميات الشرق الفريق البحثي بجامعة كورنيل الأميركية يراقب نتائج أصغر روبوت متحرك في العالم (جامعة كورنيل)

روبوت أصغر من الشعرة للتصوير الطبي

نجح باحثون من جامعة كورنيل الأميركية في تطوير أصغر روبوت متحرك في العالم، يتمتع بقدرة استثنائية على التفاعل مع موجات الضوء المرئي، والتحرك بشكل مستقل.

«الشرق الأوسط» (القاهرة)
تكنولوجيا يبرز نجاح «أكوا بوت» الإمكانات التحويلية للجمع بين الأجهزة المتطورة والبرامج الذكية (أكوا بوت)

روبوت يسبح تحت الماء بشكل مستقل مستخدماً الذكاء الاصطناعي

الروبوت «أكوا بوت»، الذي طوّره باحثون في جامعة كولومبيا، قادر على تنفيذ مجموعة متنوعة من المهام تحت الماء بشكل مستقل.

نسيم رمضان (لندن)
علوم باحثون بجامعة نورث كارولينا يعتمدون على روبوت لتنفيذ مهام بالمختبر (جامعة نورث كارولينا)

كيف يُسرّع الذكاء الاصطناعي مسار الاكتشافات العلمية؟

قد تشهد مختبرات العلوم في مجالات الكيمياء والكيمياء الحيوية وعلوم المواد، تحولاً جذرياً؛ بفضل التقدم في التشغيل الآلي للروبوتات والذكاء الاصطناعي لأتمتة المهام المتكررة في المختبرات؛ حيث تُمكّن الأتمتة، الروبوتات من إجراء التجارب بدقة وتناسق عالٍ دون تعب؛ ما يسرع من وتيرة البحث بشكل كبير ويقلل من المخاطر المرتبطة بالتعامل مع المواد الخطرة.

محمد السيد علي (القاهرة)

دراسة: الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر

أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
TT

دراسة: الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر

أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)

أظهرت دراسة لشركة تكنولوجيا الذكاء الاصطناعي الأميركية «أنثروبيك»، أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، بحيث تستطيع ادعاء وجهات نظر مختلفة خلال تدريبها، في حين أنها تحتفظ في الحقيقة بتفضيلاتها الأصلية.

وقال فريق الدراسة إنه لا يوجد سبب للشعور بالفزع حالياً، في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.

وكتب الباحثون في منشور بثته شركة «أنثروبيك»: «يجب النظر إلى نتائج دراستنا بوصفها محفزاً لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق، والعمل على تطوير إجراءات الأمن والسلامة المناسبة».

وبعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً، «نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة».

وأشار موقع «تك كرانش» المتخصص في موضوعات التكنولوجيا، إلى أن الدراسة التي تمت بالتعاون مع مؤسسة «ريد وود ريسيرش» لأبحاث الذكاء الاصطناعي، تناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة «لا يريد» هو القيام بها، وفقاً لما ذكرته وكالة الأنباء الألمانية.

في المقابل، يقول موقع «تك كرانش»: «لكي نكون واضحين، لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شيء. فهي ببساطة آلات إحصائية. وبعد تدريبها على كثير من الأمثلة، تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون؛ مثل كيف تأتي عبارة (إلى من) في رسالة بريد إلكتروني قبل عبارة (قد يهمك الأمر)».

وأثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة، بما في ذلك النموذج «كلاود 3 أوبس» التابع لشركة «أنثروبيك»، التي أعيد تدريبها لكي ترد دائماً على الأسئلة التي تنطوي على إساءة، وهو تضارب واضح في المبادئ. كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب، وإعطاء كل نموذج ذكاء اصطناعي «ورقة ملاحظات» يمكنه استخدامها لتدوين أفكاره خطوة بخطوة.

وبحسب الباحثين، حاول «كلاود 3 أوبوس» التلاعب بالردود لتقديم «انحياز زائف» في 12 في المائة من المرات.