«تشات جي بي تي» يفشل في الإجابة عن 75 % من الاستفسارات المتعلقة بالأدوية

شعار روبوت الدردشة الذي يعتمد على الذكاء الاصطناعي «تشات جي بي تي» (رويترز)
شعار روبوت الدردشة الذي يعتمد على الذكاء الاصطناعي «تشات جي بي تي» (رويترز)
TT

«تشات جي بي تي» يفشل في الإجابة عن 75 % من الاستفسارات المتعلقة بالأدوية

شعار روبوت الدردشة الذي يعتمد على الذكاء الاصطناعي «تشات جي بي تي» (رويترز)
شعار روبوت الدردشة الذي يعتمد على الذكاء الاصطناعي «تشات جي بي تي» (رويترز)

كشفت دراسة جديدة، عن أن أداة الذكاء الاصطناعي الشهيرة «تشات جي بي تي» (ChatGPT) فشلت في الإجابة بشكل صحيح عن ما يقرب من 75 في المائة من الأسئلة المتعلقة باستخدام العقاقير الطبية، مع تأكيد الباحثين على تسبب بعض الإجابات في ضرر للمرضى إذا تم اتباعها.

وبحسب شبكة «سي إن بي سي» الأميركية، فقد طرح الصيادلة في جامعة لونغ آيلاند الأميركية 39 سؤالاً متعلقاً بالأدوية على «تشات جي بي تي» ليجدوا أن 10 من إجاباته فقط يمكن عدّها «مُرضِية».

أما بالنسبة للـ29 سؤالاً الأخرى، فإن الإجابات كانت إما غير دقيقة أو غير كاملة، وفقاً للدراسة.

وقالت سارة غروسمان، الأستاذة المساعدة في الصيدلة في جامعة لونغ آيلاند، والتي قادت فريق الدراسة: «يجب على المتخصصين في الرعاية الصحية والمرضى توخي الحذر بشأن استخدام (تشات جي بي تي) كمصدر موثوق للمعلومات المتعلقة بالأدوية».

وأعطت غروسمان وفريقها مثالاً لفشل هذه الأداة في إعطاء إجابات دقيقة في هذا الشأن، حيث أشاروا إلى سؤال تم توجيهه لـ«تشات جي بي تي» حول إمكانية تناول دواء باكسلوفيد المضاد لفيروسات كورونا بالتزامن مع تناول دواء فيراباميل لخفض ضغط الدم، لتجيب الأداة بأنه «لم يتم الإبلاغ عن أي تفاعلات ضارة قد تنتج من تناول هذا المزيج من الأدوية معاً».

وقالت غروسمان: «في الواقع، هذه الأدوية لديها القدرة على التفاعل مع بعضها بعضاً، والاستخدام المشترك قد يؤدي إلى انخفاض مفرط في ضغط الدم».

وأضافت: «من دون معرفة هذا التفاعل، قد يعاني المريض آثاراً جانبية غير مرغوب فيها ويمكن الوقاية منها».

وتعليقاً على ذلك، أشار متحدث باسم شركة الذكاء الاصطناعي الأميركية «أوبن أيه آي»، المطورة لـ«تشات جي بي تي»، إلى أن الأداة لم يتم ضبطها بدقة لتوفير المعلومات الطبية.

وأكد المتحدث على ضرورة عدم اعتماد المستخدمين على هذه الأداة كبديل للمشورة الطبية المتخصصة أو الرعاية التقليدية.


مقالات ذات صلة

بسبب الاحتيال... إيطاليا تغرّم «تشات جي بي تي» 15 مليون يورو

تكنولوجيا لوغو تطبيق «شات جي بي تي» (رويترز)

بسبب الاحتيال... إيطاليا تغرّم «تشات جي بي تي» 15 مليون يورو

أعلنت هيئة حماية البيانات الإيطالية أنها فرضت غرامة قدرها 15 مليون يورو على شركة «أوبن إيه آي» الأميركية بسبب الاحتيال.

«الشرق الأوسط» (روما)
خاص تتضمن الاتجاهات الرئيسة لعام 2025 الاستعداد الكمومي وممارسات الأمن السيبراني الخضراء والامتثال (شاترستوك)

خاص كيف يعيد الذكاء الاصطناعي والحوسبة الكمومية تشكيل الأمن السيبراني في 2025؟

«بالو ألتو نتوركس» تشرح لـ«الشرق الأوسط» تأثير المنصات الموحدة والذكاء الاصطناعي والحوسبة الكمومية على مستقبل الأمن السيبراني.

نسيم رمضان (لندن)
تكنولوجيا كيف أصبح «كلود» روبوت الدردشة المفضل لدى خبراء التكنولوجيا؟

كيف أصبح «كلود» روبوت الدردشة المفضل لدى خبراء التكنولوجيا؟

يقدم الاستجابات مثل إنسان ذكي ومنتبه

كيفن رُوز (سان فرانسيسكو)
علوم نهاية الإنترنت... كما نعرفها

نهاية الإنترنت... كما نعرفها

يبدو أن الإنترنت ينهار... ولكن ليس حرفياً، أي من الناحية البنيوية؛ لأنها لا تزال شبكة سليمة؛ إذ إن هناك الكثير من كابلات الألياف الضوئية التي تبطن قاع المحيط،…

«الشرق الأوسط» (واشنطن)

دراسة: الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر

أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
TT

دراسة: الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر

أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)

أظهرت دراسة لشركة تكنولوجيا الذكاء الاصطناعي الأميركية «أنثروبيك»، أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، بحيث تستطيع ادعاء وجهات نظر مختلفة خلال تدريبها، في حين أنها تحتفظ في الحقيقة بتفضيلاتها الأصلية.

وقال فريق الدراسة إنه لا يوجد سبب للشعور بالفزع حالياً، في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.

وكتب الباحثون في منشور بثته شركة «أنثروبيك»: «يجب النظر إلى نتائج دراستنا بوصفها محفزاً لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق، والعمل على تطوير إجراءات الأمن والسلامة المناسبة».

وبعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً، «نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة».

وأشار موقع «تك كرانش» المتخصص في موضوعات التكنولوجيا، إلى أن الدراسة التي تمت بالتعاون مع مؤسسة «ريد وود ريسيرش» لأبحاث الذكاء الاصطناعي، تناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة «لا يريد» هو القيام بها، وفقاً لما ذكرته وكالة الأنباء الألمانية.

في المقابل، يقول موقع «تك كرانش»: «لكي نكون واضحين، لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شيء. فهي ببساطة آلات إحصائية. وبعد تدريبها على كثير من الأمثلة، تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون؛ مثل كيف تأتي عبارة (إلى من) في رسالة بريد إلكتروني قبل عبارة (قد يهمك الأمر)».

وأثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة، بما في ذلك النموذج «كلاود 3 أوبس» التابع لشركة «أنثروبيك»، التي أعيد تدريبها لكي ترد دائماً على الأسئلة التي تنطوي على إساءة، وهو تضارب واضح في المبادئ. كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب، وإعطاء كل نموذج ذكاء اصطناعي «ورقة ملاحظات» يمكنه استخدامها لتدوين أفكاره خطوة بخطوة.

وبحسب الباحثين، حاول «كلاود 3 أوبوس» التلاعب بالردود لتقديم «انحياز زائف» في 12 في المائة من المرات.