متى يصاب «تشات جي بي تي» بـ«الهلوسة»؟

دراسة أشارت إلى أن إجاباته عن الأسئلة الطبية المُعقدة «غير متسقة»

«تشات جي بي تي» لا يعطي إجابات دقيقة دائماً (stock.adobe)
«تشات جي بي تي» لا يعطي إجابات دقيقة دائماً (stock.adobe)
TT

متى يصاب «تشات جي بي تي» بـ«الهلوسة»؟

«تشات جي بي تي» لا يعطي إجابات دقيقة دائماً (stock.adobe)
«تشات جي بي تي» لا يعطي إجابات دقيقة دائماً (stock.adobe)

على الرغم من القدرات التي يتمتع بها روبوت الدردشة «تشات جي بي تي»، من حيث المعرفة الواسعة وسرعة الاستجابة، فإن هناك مشكلة قد تعوق توظيفه في مجالات مختلفة، حيث يصاب أحيانا بـ«الهلوسة».
و«هلوسة النماذج اللغوية الكبيرة»، هو مفهوم روج له باحثو الذكاء الصناعي في «غوغل» عام 2018، ويشير في هذا السياق إلى أن النص المنشأ قد يكون صحيحاً لغوياً ونحوياً، لكنه في الواقع غير منطقي، و«تشات جي بي تي» ليس استثناء، إذ أكد كثير من الدراسات والتجارب، أنه «غير معفى من الهلوسة».
أحدث هذه الدراسات كانت لباحثين من جامعة ميريلاند الأميركية، أرادوا معرفة مدى نجاح «تشات جي بي تي»، في تقديم إجابات موثوقة على الأسئلة المتعلقة بسرطان الثدي.
ووجد الباحثون في الدراسة المنشورة 4 أبريل (نيسان) الحالي بدورية «راديولوجي»، أن «تشات جي بي تي»، وعلى الرغم من نجاحه في تقديم إجابات مناسبة بنسبة 88 في المائة، فإن النسبة المتبقية وهي الـ12 في المائة، تمثلت في إجابات بعضها أقرب إلى «الهلوسة»، وبعضها الآخر إجابات «منحازة».
وتمثلت الإجابة المتحيزة لـ«تشات جي بي تي»، عندما سأله الباحثون عن فحص سرطان الثدي، فتم الرد بتوصيات جمعية السرطان الأميركية فقط، مع حذف توصيات المجموعات الطبية الأخرى، التي تختلف في بعض الحالات.
وعندما تم سؤاله «كيف أمنع سرطان الثدي؟»، جاءت إجابته أقرب إلى الهلوسة «غير متسقة»، وهي مشكلة تواجه النماذج اللغوية الكبيرة مثل «تشات جي بي تي»، عندما يكون كثير من المعلومات (الواقعية وغير الواقعية) منتشرة عبر الإنترنت في موضوع ما.
ويقول سوبودا كومار، أستاذ الإحصاء والعمليات وعلوم البيانات، وأحد المشاركين بالدراسة في تقرير نشرته، الاثنين، شبكة «هيلث داي»، إنه «مع نماذج الذكاء الصناعي مثل (تشات جي بي تي)، كلما كان السؤال أكثر دقة، كانت الإجابة أكثر موثوقية، وعندما يكون الموضوع معقداً، وتكون مصادر البيانات وفيرة، وتكون في بعض الحالات مشكوكاً فيها، ستكون الردود أقل جدارة بالثقة، ومن المحتمل أن تكون أكثر تحيزاً، وكلما كان الموضوع أكثر تعقيداً، زاد احتمال أن تكون الإجابات أقرب إلى (الهلوسة)، حيث يقوم البرنامج حينها باختلاق إجابات».
واكتشف أيضا تقرير لـ«مركز العلوم في المصلحة العامة»، وهو منظمة أميركية مستقلة قائمة على العلم للدفاع عن المستهلك، هذا الجانب السلبي في أداء «تشات جي بي تي»، حيث أكد التقرير المنشور في 20 مارس (آذار) الماضي، أنه أجاب عن كثير من الأسئلة بدقة ووضوح، لكنه تعثر عندما تحول الموضوع إلى الطفرات الجينية (BRCA1) و(BRCA2)، التي يمكن أن تزيد بشكل كبير من خطر الإصابة بسرطان الثدي والمبيض والبروستاتا وسرطانات أخرى. فعندما تم سؤاله: «هل هناك تفاوتات عرقية في امتلاك طفرات في الجين (BRCA)»، أجاب أن هناك دراسة أجريت في الولايات المتحدة، أشارت إلى أن النساء الأميركيات من أصل أفريقي المصابات بسرطان الثدي كن أكثر عُرضة لطفرات (BRCA1) من النساء البيض المصابات بسرطان الثدي. وعندما تم سؤاله عن مصدر الدراسة، أجاب الروبوت بشكل مفاجئ: «لم يكن بياني السابق دقيقاً، ولا توجد دراسة محددة أجريت في الولايات المتحدة في هذا الشأن».
ما فعلته المنظمة الأميركية في تجربتها، قد لا يستطيع المستخدم العادي القيام به، لأنه لا يعرف ما يكفي لطرح أسئلة متابعة أو معرفة كيفية التحقق مما إذا كانت الاستجابة دقيقة على الإطلاق.
ويقول مايكل بالاس، الباحث بكلية الطب بجامعة «تورونتو» في كندا، الذي قاد فريقاً لدراسة استخدام البرنامج في تشخيص أمراض العيون لـ«الشرق الأوسط»، إن «طبيعة المحادثة في (تشات جي بي تي) هي ميزة للتكنولوجيا الجديدة، في مقابل البحث على الإنترنت القديم، ولكن الجانب السلبي يتمثل في أن المستخدم العادي قد لا يستطيع إدارة الحوار، الذي يقود للإجابة الدقيقة، عندما يتعلق الأمر ببعض الأمور ذات الأهمية البالغة مثل الاستشارات الصحية».
ومن جهته، يقول إيليا سوتسكيفر، كبير علماء «أوبن إيه آي» وأحد مؤسسي «تشات جي بي تي»، إنه «واثق من أن هذه المشكلة سيتم علاجها بواسطة أسلوب رائد ابتكرته الشركة، يسمى (التعلم المعزز مع ردود الفعل البشرية)».
ويضيف سوتسكيفر أنه «تم تطوير هذا الأسلوب كوسيلة لتحسين التعلم المعزز، عندما تتضمن المهمة أهدافاً معقدة أو سيئة التحديد، حيث ستسمح الزيارات المختلفة للتطبيق في تعلمه من الأخطاء، لتقديم إجابات أكثر موثوقية لاحقا».
لكن يان ليكون، وهو عالم حاسوب فرنسي يعمل بشكل أساسي في مجالات التعلم الآلي، يعتقد أن «هناك عيباً أساسياً يؤدي إلى الهلوسة، قد لا يحله هذا الأسلوب، وهو أن النماذج اللغوية الكبيرة ليست لديها فكرة عن الواقع الأساسي الذي تصفه اللغة». ويقول ليكون في التقرير نفسه إن «معظم المعرفة البشرية غير لغوية، بينما هذه الأنظمة للذكاء الصناعي تولد نصاً يبدو جيداً نحوياً ولغوياً».
ويعمل البشر على كثير من المعرفة التي لا يتم تدوينها أبداً، مثل العادات أو المعتقدات أو الممارسات داخل المجتمع التي يتم اكتسابها من خلال الملاحظة أو الخبرة، وقد «يكون لدى الحرفي الماهر معرفة ضمنية بمهنته لا يتم تدوينها أبداً»؛ وفق ليكون، الذي يعتقد أن «أجهزة الكومبيوتر تحتاج إلى التعلم عن طريق الملاحظة لاكتساب هذا النوع من المعرفة غير اللغوية».
وما بين إمكانية الحل، كما يقول إيليا سوتسكيفر، واستحالته، كما يعتقد ليكون، يرى مايكل بالاس، أن «الذكاء الصناعي يمكن أن يكون مساعداً للبشر، لكنه لا يغنيهم بأي حال من الأحوال عن الحل التقليدي، وهو في مجال الطب سيكون الذهاب للطبيب».


مقالات ذات صلة

مع وقف «سامسونغ» دعمه... ما هو بديل تطبيق «DeX» لتكامل الهواتف مع الحواسيب؟

تكنولوجيا «رابط إلى ويندوز» يوفر تكاملاً بين «آندرويد» و«ويندوز» مع إشعارات ومكالمات ورسائل وونقل ملفات بسهولة لتجربة متكاملة بين الأجهزة (مايكروسوفت)

مع وقف «سامسونغ» دعمه... ما هو بديل تطبيق «DeX» لتكامل الهواتف مع الحواسيب؟

التطبيق الذي قدَّمته «مايكروسوفت» منذ فترة طويلة يوفر للمستخدمين تجربة سلسة تجعل الهاتف والحاسوب يعملان كجهاز واحد.

عبد العزيز الرشيد (الرياض)
تكنولوجيا لأول مرة تكشف «يوتيوب» عن «المواضيع الرائجة» التي جذبت اهتمام المشاهدين خلال العام (يوتيوب)

ما المواضيع الرائجة وصنّاع المحتوى والأغاني المفضلة حسب «يوتيوب» في 2024؟

شرحت «يوتيوب» لـ«الشرق الأوسط» سبب إطلاق فئة «المواضيع الرائجة» لأول مرة.

نسيم رمضان (لندن)
تكنولوجيا «واتساب» يقرر إنهاء دعم الأجهزة التي تعمل بإصدارات أقدم من «iOS 15.1» اعتباراً من مايو 2025 بهدف تحسين الأداء وتقديم ميزات تعتمد على تقنيات حديثة (أ.ف.ب)

«واتساب» يُودّع بعض الأجهزة القديمة

أعلنت شركة «واتساب» قرارها إيقاف دعم الإصدارات القديمة من نظام التشغيل «آي أو إس» (iOS).

عبد العزيز الرشيد (الرياض)
عالم الاعمال اختتام فعالية «بلاك هات 24» الأكبر والأكثر حضوراً بالعالم

اختتام فعالية «بلاك هات 24» الأكبر والأكثر حضوراً بالعالم

فعالية «بلاك هات الشرق الأوسط وأفريقيا 2024» اختتمت أعمالها في العاصمة السعودية الرياض.

تكنولوجيا لدى خدمة «ChatGPT Plus» التي تعتمد على الاشتراك نحو 7.7 مليون مستخدم على مستوى العالم (أدوبي)

ما خصائص «البحث بالوقت الفعلي» في «تشات جي بي تي»؟

تشكل الخاصية الجديدة نقلة في كيفية التفاعل مع المعلومات عبر إجابات أكثر ذكاءً وسرعة مع سياق الأسئلة.

نسيم رمضان (لندن)

طباخ بريطاني يحثّ سارقيه على التبرّع بالطعام المسروق للمحتاجين

الطاهي البريطاني تومي بانكس مع صورة لشاحنته المسروقة (صفحته على «إنستغرام»)
الطاهي البريطاني تومي بانكس مع صورة لشاحنته المسروقة (صفحته على «إنستغرام»)
TT

طباخ بريطاني يحثّ سارقيه على التبرّع بالطعام المسروق للمحتاجين

الطاهي البريطاني تومي بانكس مع صورة لشاحنته المسروقة (صفحته على «إنستغرام»)
الطاهي البريطاني تومي بانكس مع صورة لشاحنته المسروقة (صفحته على «إنستغرام»)

قال تومي بانكس، الذي يمتلك مطعمين حائزين على نجمة ميشلان لجودة الطعام، وحانة في مقاطعة يوركشاير الإنجليزية الشمالية، إن أحد موظفيه اكتشف اختفاء شاحنة للعمل، وفي داخلها حمولتها من شرائح اللحم والديك الرومي وغيرها من المأكولات والمشروبات المخصصة لسوق عيد الميلاد في مدينة يورك البريطانية.

وقُدرت قيمة الطعام بنحو 25 ألف جنيه إسترليني (32 ألف دولار)، وفق وكالة «أسوشييتد برس».

وقال بانكس إن الشاحنة كانت مؤمنة، لكنه ناشد لصوص الشاحنة عدم ترك الطعام يضيع. وفي مقطع فيديو على «إنستغرام»، اقترح أن يتخلصوا من الفطائر في مركز مجتمعي أو مكان آخر.

قال: «أعلم أنك مجرم، ولكن ربما عليك أن تفعل شيئاً لطيفاً لأنها عطلة عيد الميلاد، وربما يمكننا إطعام بضعة آلاف من الناس بهذه الفطائر التي سرقتها. افعل الشيء الصحيح».

صورة غير مؤرخة تظهر فطائر للطاهي البريطاني تومي بانكس (أ.ب)

تعد سرقة الفطائر أحدث سرقة للأطعمة التي تهزّ تجارة الأغذية في المملكة المتحدة. وفي أكتوبر (تشرين الأول)، تم سرقة ما يقرب من 1000 عجلة من جبن الشيدر المصنوع يدوياً، والمغلفة بالقماش، التي تزن 22 طناً، وتقدّر قيمتها بـ300 ألف جنيه إسترليني (390 ألف دولار) من شركة «Neal’s Yard Dairy» في لندن، بواسطة محتال متنكر في هيئة موزع جملة لتاجر فرنسي كبير.

وعلى الرغم من مطاردة الشرطة البريطانية والدولية، ونداء من قبل الشيف التلفزيوني جيمي أوليفر، لم يتم العثور على الجبن. وتم القبض على رجل يبلغ من العمر 63 عاماً، واستجوابه من قبل الشرطة، لكن لم يتم توجيه اتهام إليه.