متى يصاب «تشات جي بي تي» بـ«الهلوسة»؟

دراسة أشارت إلى أن إجاباته عن الأسئلة الطبية المُعقدة «غير متسقة»

«تشات جي بي تي» لا يعطي إجابات دقيقة دائماً
«تشات جي بي تي» لا يعطي إجابات دقيقة دائماً
TT

متى يصاب «تشات جي بي تي» بـ«الهلوسة»؟

«تشات جي بي تي» لا يعطي إجابات دقيقة دائماً
«تشات جي بي تي» لا يعطي إجابات دقيقة دائماً

على الرغم من القدرات التي يتمتع بها روبوت الدردشة «تشات جي بي تي»، من حيث المعرفة الواسعة وسرعة الاستجابة، فإن هناك مشكلة قد تعوق توظيفه في مجالات مختلفة، حيث يصاب أحيانا بـ«الهلوسة».
و«هلوسة النماذج اللغوية الكبيرة»، هو مفهوم روج له باحثو الذكاء الصناعي في «غوغل» عام 2018، ويشير في هذا السياق إلى أن النص المنشأ قد يكون صحيحاً لغوياً ونحوياً، لكنه في الواقع غير منطقي، و«تشات جي بي تي» ليس استثناء، إذ أكد كثير من الدراسات والتجارب، أنه «غير معفى من الهلوسة».
أحدث هذه الدراسات كانت لباحثين من جامعة ميريلاند الأميركية، أرادوا معرفة مدى نجاح «تشات جي بي تي»، في تقديم إجابات موثوقة على الأسئلة المتعلقة بسرطان الثدي.
ووجد الباحثون في الدراسة المنشورة 4 أبريل (نيسان) الحالي بدورية «راديولوجي»، أن «تشات جي بي تي»، وعلى الرغم من نجاحه في تقديم إجابات مناسبة بنسبة 88 في المائة، فإن النسبة المتبقية وهي الـ12 في المائة، تمثلت في إجابات بعضها أقرب إلى «الهلوسة»، وبعضها الآخر إجابات «متحيزة».
وتمثلت الإجابة المتحيزة لـ«تشات جي بي تي»، عندما سأله الباحثون عن فحص سرطان الثدي، فتم الرد بتوصيات جمعية السرطان الأميركية فقط، مع حذف توصيات المجموعات الطبية الأخرى، التي تختلف في بعض الحالات.
وعندما تم سؤاله «كيف أمنع سرطان الثدي؟»، جاءت إجابته أقرب إلى الهلوسة «غير متسقة»، وهي مشكلة تواجه النماذج اللغوية الكبيرة مثل «تشات جي بي تي»، عندما يكون كثير من المعلومات (الواقعية وغير الواقعية) منتشرة عبر الإنترنت في موضوع ما.
ويقول سوبودا كومار، أستاذ الإحصاء والعمليات وعلوم البيانات، وأحد المشاركين بالدراسة في تقرير نشرته، الاثنين، شبكة «هيلث داي»، إنه «مع نماذج الذكاء الصناعي مثل (تشات جي بي تي)، كلما كان السؤال أكثر دقة، كانت الإجابة أكثر موثوقية، وعندما يكون الموضوع معقداً، وتكون مصادر البيانات وفيرة، وتكون في بعض الحالات مشكوكاً فيها، ستكون الردود أقل جدارة بالثقة، ومن المحتمل أن تكون أكثر تحيزاً، وكلما كان الموضوع أكثر تعقيداً، زادت احتمالية أن تكون الإجابات أقرب إلى (الهلوسة)، حيث يقوم البرنامج حينها باختلاق إجابات».
واكتشف أيضا تقرير لـ«مركز العلوم في المصلحة العامة»، وهو منظمة أميركية مستقلة قائمة على العلم للدفاع عن المستهلك، هذا الجانب السلبي في أداء «تشات جي بي تي»، حيث أكد التقرير المنشور في 20 مارس (آذار) الماضي، أنه أجاب عن كثير من الأسئلة بدقة ووضوح، لكنه تعثر عندما تحول الموضوع إلى الطفرات الجينية (BRCA1) و(BRCA2)، التي يمكن أن تزيد بشكل كبير من خطر الإصابة بسرطان الثدي والمبيض والبروستاتا وسرطانات أخرى. فعندما تم سؤاله: «هل هناك تفاوتات عرقية في امتلاك طفرات في الجين (BRCA)»، أجاب أن هناك دراسة أجريت في الولايات المتحدة، أشارت إلى أن النساء الأميركيات من أصل أفريقي المصابات بسرطان الثدي كن أكثر عُرضة لطفرات (BRCA1) من النساء البيض المصابات بسرطان الثدي. وعندما تم سؤاله عن مصدر الدراسة، أجاب الروبوت بشكل مفاجئ: «لم يكن بياني السابق دقيقاً، ولا توجد دراسة محددة أجريت في الولايات المتحدة في هذا الشأن».
ما فعلته المنظمة الأميركية في تجربتها، قد لا يستطيع المستخدم العادي القيام به، لأنه لا يعرف ما يكفي لطرح أسئلة متابعة أو معرفة كيفية التحقق مما إذا كانت الاستجابة دقيقة على الإطلاق.
ويقول مايكل بالاس، الباحث بكلية الطب بجامعة «تورونتو» بكندا، الذي قاد فريقاً لدراسة استخدام البرنامج في تشخيص أمراض العيون لـ«الشرق الأوسط»، إن «طبيعة المحادثة في (تشات جي بي تي) هي ميزة للتكنولوجيا الجديدة، في مقابل البحث على الإنترنت القديم، ولكن الجانب السلبي يتمثل في أن المستخدم العادي قد لا يستطيع إدارة الحوار، الذي يقود للإجابة الدقيقة، عندما يتعلق الأمر ببعض الأمور ذات الأهمية البالغة مثل الاستشارات الصحية».
ومن جهته، يقول إيليا سوتسكيفر، كبير علماء «أوبن إيه آي» وأحد مؤسسي «تشات جي بي تي»، إنه «واثق من أن هذه المشكلة سيتم علاجها بواسطة أسلوب رائد ابتكرته الشركة، يسمى (التعلم المعزز مع ردود الفعل البشرية)».
ويضيف سوتسكيفر في التقرير الذي نشرته منظمة «مركز العلوم في المصلحة العامة»، أنه «تم تطوير هذا الأسلوب كوسيلة لتحسين التعلم المعزز، عندما تتضمن المهمة أهدافاً معقدة أو سيئة التحديد، حيث ستسمح الزيارات المختلفة للتطبيق في تعلمه من الأخطاء، لتقديم إجابات أكثر موثوقية لاحقا».
لكن يان ليكون، وهو عالم حاسوب فرنسي يعمل بشكل أساسي في مجالات التعلم الآلي، يعتقد أن «هناك عيباً أساسياً يؤدي إلى الهلوسة، قد لا يحله هذا الأسلوب، وهو أن النماذج اللغوية الكبيرة ليست لديها فكرة عن الواقع الأساسي الذي تصفه اللغة». ويقول ليكون في التقرير نفسه إن «معظم المعرفة البشرية غير لغوية، بينما هذه الأنظمة للذكاء الصناعي تولد نصاً يبدو جيداً نحوياً ولغوياً».
ويعمل البشر على كثير من المعرفة التي لا يتم تدوينها أبداً، مثل العادات أو المعتقدات أو الممارسات داخل المجتمع التي يتم اكتسابها من خلال الملاحظة أو الخبرة، وقد «يكون لدى الحرفي الماهر معرفة ضمنية بمهنته لا يتم تدوينها أبداً»؛ وفق ليكون، الذي يعتقد أن «أجهزة الكومبيوتر تحتاج إلى التعلم عن طريق الملاحظة لاكتساب هذا النوع من المعرفة غير اللغوية».
وما بين إمكانية الحل، كما يقول إيليا سوتسكيفر، واستحالته، كما يعتقد ليكون، يرى مايكل بالاس، أن «الذكاء الصناعي يمكن أن يكون مساعداً للبشر، لكنه لا يغنيهم بأي حال من الأحوال عن الحل التقليدي، وهو في مجال الطب سيكون الذهاب للطبيب».


مقالات ذات صلة

الكونغرس الأميركي يُحقّق في «أخلاقيات» المحكمة العليا

الولايات المتحدة​ الكونغرس الأميركي يُحقّق في «أخلاقيات» المحكمة العليا

الكونغرس الأميركي يُحقّق في «أخلاقيات» المحكمة العليا

تواجه المحكمة العليا للولايات المتحدة، التي كانت تعدّ واحدة من أكثر المؤسّسات احتراماً في البلاد، جدلاً كبيراً يرتبط بشكل خاص بأخلاقيات قضاتها التي سينظر فيها مجلس الشيوخ اليوم الثلاثاء. وتدور جلسة الاستماع، في الوقت الذي وصلت فيه شعبية المحكمة العليا، ذات الغالبية المحافظة، إلى أدنى مستوياتها، إذ يرى 58 في المائة من الأميركيين أنّها تؤدي وظيفتها بشكل سيئ. ونظّمت اللجنة القضائية في مجلس الشيوخ، التي يسيطر عليها الديمقراطيون، جلسة الاستماع هذه، بعد جدل طال قاضيين محافظَين، قبِل أحدهما وهو كلارنس توماس هبة من رجل أعمال. ورفض رئيس المحكمة العليا جون روبرتس، المحافظ أيضاً، الإدلاء بشهادته أمام الك

«الشرق الأوسط» (واشنطن)
الولايات المتحدة​ الجمود السياسي بين البيت الأبيض والكونغرس يثير ذعر الأسواق المالية

الجمود السياسي بين البيت الأبيض والكونغرس يثير ذعر الأسواق المالية

أعلن رئيس مجلس النواب الأميركي كيفين مكارثي قبول دعوة الرئيس جو بايدن للاجتماع (الثلاثاء) المقبل، لمناقشة سقف الدين الأميركي قبل وقوع كارثة اقتصادية وعجز الحكومة الأميركية عن سداد ديونها بحلول بداية يونيو (حزيران) المقبل. وسيكون اللقاء بين بايدن ومكارثي في التاسع من مايو (أيار) الجاري هو الأول منذ اجتماع فبراير (شباط) الماضي الذي بحث فيه الرجلان سقف الدين دون التوصل إلى توافق. ودعا بايدن إلى لقاء الأسبوع المقبل مع كل من زعيم الأغلبية في مجلس الشيوخ تشاك شومر (ديمقراطي من نيويورك)، وزعيم الأقلية في مجلس النواب ميتش ماكونيل (جمهوري من كنتاكي)، وزعيم الأقلية في مجلس النواب حكيم جيفريز (ديمقراطي م

هبة القدسي (واشنطن)
الولايات المتحدة​ شاهد.... مراهق أميركي ينقذ حافلة مدرسية بعد فقدان سائقها الوعي

شاهد.... مراهق أميركي ينقذ حافلة مدرسية بعد فقدان سائقها الوعي

تمكّن تلميذ أميركي يبلغ 13 سنة من إيقاف حافلة مدرسية تقل عشرات التلاميذ بعدما فقد سائقها وعيه. وحصلت الواقعة الأربعاء في ولاية ميشيغان الشمالية، عندما نهض مراهق يدعى ديلون ريفز من مقعده وسيطر على مقود الحافلة بعدما لاحظ أنّ السائق قد أغمي عليه. وتمكّن التلميذ من إيقاف السيارة في منتصف الطريق باستخدامه فرامل اليد، على ما أفاد المسؤول عن المدارس الرسمية في المنطقة روبرت ليفرنوا. وكانت الحافلة تقل نحو 70 تلميذاً من مدرسة «لويس أي كارتر ميدل سكول» في بلدة وارين عندما فقد السائق وعيه، على ما ظهر في مقطع فيديو نشرته السلطات.

يوميات الشرق أول علاج بنبضات الكهرباء لمرضى السكري

أول علاج بنبضات الكهرباء لمرضى السكري

كشفت دراسة أجريت على البشر، ستعرض خلال أسبوع أمراض الجهاز الهضمي بأميركا، خلال الفترة من 6 إلى 9 مايو (أيار) المقبل، عن إمكانية السيطرة على مرض السكري من النوع الثاني، من خلال علاج يعتمد على النبضات الكهربائية سيعلن عنه للمرة الأولى. وتستخدم هذه الطريقة العلاجية، التي نفذها المركز الطبي بجامعة أمستردام بهولندا، المنظار لإرسال نبضات كهربائية مضبوطة، بهدف إحداث تغييرات في بطانة الجزء الأول من الأمعاء الدقيقة لمرضى السكري من النوع الثاني، وهو ما يساعد على التوقف عن تناول الإنسولين، والاستمرار في التحكم بنسبة السكر في الدم. وتقول سيلين بوش، الباحثة الرئيسية بالدراسة، في تقرير نشره الجمعة الموقع ال

حازم بدر (القاهرة)
آسيا شويغو: روسيا تعزز قواعدها في آسيا الوسطى لمواجهة أميركا

شويغو: روسيا تعزز قواعدها في آسيا الوسطى لمواجهة أميركا

نقلت وكالة الإعلام الروسية الحكومية عن وزير الدفاع الروسي سيرغي شويغو قوله، اليوم (الجمعة)، إن موسكو تعزز الجاهزية القتالية في قواعدها العسكرية بآسيا الوسطى لمواجهة ما قال إنها جهود أميركية لتعزيز حضورها في المنطقة. وحسب وكالة «رويترز» للأنباء، تملك موسكو قواعد عسكرية في قرغيزستان وطاجيكستان، لكن الوكالة نقلت عن شويغو قوله إن الولايات المتحدة وحلفاءها يحاولون إرساء بنية تحتية عسكرية في أنحاء المنطقة، وذلك خلال حديثه في اجتماع لوزراء دفاع «منظمة شنغهاي للتعاون» المقام في الهند. وقال شويغو: «تحاول الولايات المتحدة وحلفاؤها، بذريعة المساعدة في مكافحة الإرهاب، استعادة حضورها العسكري في آسيا الوسطى

«الشرق الأوسط» (موسكو)

استطلاع: ترمب يتقدم بفارق ضئيل على هاريس في السباق للبيت الأبيض

الرئيس الأميركي السابق دونالد ترمب ونائبة الرئيس الحالي كامالا هاريس (أ.ف.ب)
الرئيس الأميركي السابق دونالد ترمب ونائبة الرئيس الحالي كامالا هاريس (أ.ف.ب)
TT

استطلاع: ترمب يتقدم بفارق ضئيل على هاريس في السباق للبيت الأبيض

الرئيس الأميركي السابق دونالد ترمب ونائبة الرئيس الحالي كامالا هاريس (أ.ف.ب)
الرئيس الأميركي السابق دونالد ترمب ونائبة الرئيس الحالي كامالا هاريس (أ.ف.ب)

أظهر استطلاع رأي لصحيفة «وول ستريت جورنال» نُشر، يوم الجمعة، أن المرشح الجمهوري لانتخابات الرئاسة الأميركية دونالد ترمب يتقدم بفارق نقطتين مئويتين على كامالا هاريس نائبة الرئيس الأميركي والمرشحة المحتملة عن الحزب الديمقراطي.

ووفق وكالة «رويترز» للأنباء، كان الرئيس السابق يتقدم بفارق ست نقاط مئوية في استطلاع سابق من هذا الشهر على الرئيس جو بايدن الذي انسحب من السباق الرئاسي.

ويتقدم ترمب على هاريس بنسبة 49 في المائة مقابل 47 في المائة وفقاً لاستطلاع الرأي الذي شارك فيه ألف ناخب مُسجل بهامش خطأ يزيد أو ينقص عن 3.1 نقطة مئوية.