متى يصاب «تشات جي بي تي» بـ«الهلوسة»؟

دراسة أشارت إلى أن إجاباته عن الأسئلة الطبية المُعقدة «غير متسقة»

«تشات جي بي تي» لا يعطي إجابات دقيقة دائماً (stock.adobe)
«تشات جي بي تي» لا يعطي إجابات دقيقة دائماً (stock.adobe)
TT

متى يصاب «تشات جي بي تي» بـ«الهلوسة»؟

«تشات جي بي تي» لا يعطي إجابات دقيقة دائماً (stock.adobe)
«تشات جي بي تي» لا يعطي إجابات دقيقة دائماً (stock.adobe)

على الرغم من القدرات التي يتمتع بها روبوت الدردشة «تشات جي بي تي»، من حيث المعرفة الواسعة وسرعة الاستجابة، فإن هناك مشكلة قد تعوق توظيفه في مجالات مختلفة، حيث يصاب أحيانا بـ«الهلوسة».
و«هلوسة النماذج اللغوية الكبيرة»، هو مفهوم روج له باحثو الذكاء الصناعي في «غوغل» عام 2018، ويشير في هذا السياق إلى أن النص المنشأ قد يكون صحيحاً لغوياً ونحوياً، لكنه في الواقع غير منطقي، و«تشات جي بي تي» ليس استثناء، إذ أكد كثير من الدراسات والتجارب، أنه «غير معفى من الهلوسة».
أحدث هذه الدراسات كانت لباحثين من جامعة ميريلاند الأميركية، أرادوا معرفة مدى نجاح «تشات جي بي تي»، في تقديم إجابات موثوقة على الأسئلة المتعلقة بسرطان الثدي.
ووجد الباحثون في الدراسة المنشورة 4 أبريل (نيسان) الحالي بدورية «راديولوجي»، أن «تشات جي بي تي»، وعلى الرغم من نجاحه في تقديم إجابات مناسبة بنسبة 88 في المائة، فإن النسبة المتبقية وهي الـ12 في المائة، تمثلت في إجابات بعضها أقرب إلى «الهلوسة»، وبعضها الآخر إجابات «منحازة».
وتمثلت الإجابة المتحيزة لـ«تشات جي بي تي»، عندما سأله الباحثون عن فحص سرطان الثدي، فتم الرد بتوصيات جمعية السرطان الأميركية فقط، مع حذف توصيات المجموعات الطبية الأخرى، التي تختلف في بعض الحالات.
وعندما تم سؤاله «كيف أمنع سرطان الثدي؟»، جاءت إجابته أقرب إلى الهلوسة «غير متسقة»، وهي مشكلة تواجه النماذج اللغوية الكبيرة مثل «تشات جي بي تي»، عندما يكون كثير من المعلومات (الواقعية وغير الواقعية) منتشرة عبر الإنترنت في موضوع ما.
ويقول سوبودا كومار، أستاذ الإحصاء والعمليات وعلوم البيانات، وأحد المشاركين بالدراسة في تقرير نشرته، الاثنين، شبكة «هيلث داي»، إنه «مع نماذج الذكاء الصناعي مثل (تشات جي بي تي)، كلما كان السؤال أكثر دقة، كانت الإجابة أكثر موثوقية، وعندما يكون الموضوع معقداً، وتكون مصادر البيانات وفيرة، وتكون في بعض الحالات مشكوكاً فيها، ستكون الردود أقل جدارة بالثقة، ومن المحتمل أن تكون أكثر تحيزاً، وكلما كان الموضوع أكثر تعقيداً، زاد احتمال أن تكون الإجابات أقرب إلى (الهلوسة)، حيث يقوم البرنامج حينها باختلاق إجابات».
واكتشف أيضا تقرير لـ«مركز العلوم في المصلحة العامة»، وهو منظمة أميركية مستقلة قائمة على العلم للدفاع عن المستهلك، هذا الجانب السلبي في أداء «تشات جي بي تي»، حيث أكد التقرير المنشور في 20 مارس (آذار) الماضي، أنه أجاب عن كثير من الأسئلة بدقة ووضوح، لكنه تعثر عندما تحول الموضوع إلى الطفرات الجينية (BRCA1) و(BRCA2)، التي يمكن أن تزيد بشكل كبير من خطر الإصابة بسرطان الثدي والمبيض والبروستاتا وسرطانات أخرى. فعندما تم سؤاله: «هل هناك تفاوتات عرقية في امتلاك طفرات في الجين (BRCA)»، أجاب أن هناك دراسة أجريت في الولايات المتحدة، أشارت إلى أن النساء الأميركيات من أصل أفريقي المصابات بسرطان الثدي كن أكثر عُرضة لطفرات (BRCA1) من النساء البيض المصابات بسرطان الثدي. وعندما تم سؤاله عن مصدر الدراسة، أجاب الروبوت بشكل مفاجئ: «لم يكن بياني السابق دقيقاً، ولا توجد دراسة محددة أجريت في الولايات المتحدة في هذا الشأن».
ما فعلته المنظمة الأميركية في تجربتها، قد لا يستطيع المستخدم العادي القيام به، لأنه لا يعرف ما يكفي لطرح أسئلة متابعة أو معرفة كيفية التحقق مما إذا كانت الاستجابة دقيقة على الإطلاق.
ويقول مايكل بالاس، الباحث بكلية الطب بجامعة «تورونتو» في كندا، الذي قاد فريقاً لدراسة استخدام البرنامج في تشخيص أمراض العيون لـ«الشرق الأوسط»، إن «طبيعة المحادثة في (تشات جي بي تي) هي ميزة للتكنولوجيا الجديدة، في مقابل البحث على الإنترنت القديم، ولكن الجانب السلبي يتمثل في أن المستخدم العادي قد لا يستطيع إدارة الحوار، الذي يقود للإجابة الدقيقة، عندما يتعلق الأمر ببعض الأمور ذات الأهمية البالغة مثل الاستشارات الصحية».
ومن جهته، يقول إيليا سوتسكيفر، كبير علماء «أوبن إيه آي» وأحد مؤسسي «تشات جي بي تي»، إنه «واثق من أن هذه المشكلة سيتم علاجها بواسطة أسلوب رائد ابتكرته الشركة، يسمى (التعلم المعزز مع ردود الفعل البشرية)».
ويضيف سوتسكيفر أنه «تم تطوير هذا الأسلوب كوسيلة لتحسين التعلم المعزز، عندما تتضمن المهمة أهدافاً معقدة أو سيئة التحديد، حيث ستسمح الزيارات المختلفة للتطبيق في تعلمه من الأخطاء، لتقديم إجابات أكثر موثوقية لاحقا».
لكن يان ليكون، وهو عالم حاسوب فرنسي يعمل بشكل أساسي في مجالات التعلم الآلي، يعتقد أن «هناك عيباً أساسياً يؤدي إلى الهلوسة، قد لا يحله هذا الأسلوب، وهو أن النماذج اللغوية الكبيرة ليست لديها فكرة عن الواقع الأساسي الذي تصفه اللغة». ويقول ليكون في التقرير نفسه إن «معظم المعرفة البشرية غير لغوية، بينما هذه الأنظمة للذكاء الصناعي تولد نصاً يبدو جيداً نحوياً ولغوياً».
ويعمل البشر على كثير من المعرفة التي لا يتم تدوينها أبداً، مثل العادات أو المعتقدات أو الممارسات داخل المجتمع التي يتم اكتسابها من خلال الملاحظة أو الخبرة، وقد «يكون لدى الحرفي الماهر معرفة ضمنية بمهنته لا يتم تدوينها أبداً»؛ وفق ليكون، الذي يعتقد أن «أجهزة الكومبيوتر تحتاج إلى التعلم عن طريق الملاحظة لاكتساب هذا النوع من المعرفة غير اللغوية».
وما بين إمكانية الحل، كما يقول إيليا سوتسكيفر، واستحالته، كما يعتقد ليكون، يرى مايكل بالاس، أن «الذكاء الصناعي يمكن أن يكون مساعداً للبشر، لكنه لا يغنيهم بأي حال من الأحوال عن الحل التقليدي، وهو في مجال الطب سيكون الذهاب للطبيب».


مقالات ذات صلة

رئيس «أبل» للمطورين الشباب في المنطقة: احتضنوا العملية... وابحثوا عن المتعة في الرحلة

تكنولوجيا تيم كوك في صورة جماعية مع طالبات أكاديمية «أبل» في العاصمة السعودية الرياض (الشرق الأوسط)

رئيس «أبل» للمطورين الشباب في المنطقة: احتضنوا العملية... وابحثوا عن المتعة في الرحلة

نصح تيم كوك، الرئيس التنفيذي لشركة «أبل»، مطوري التطبيقات في المنطقة باحتضان العملية بدلاً من التركيز على النتائج.

مساعد الزياني (دبي)
تكنولوجيا خوارزمية «تيك توك» تُحدث ثورة في تجربة المستخدم مقدمة محتوى مخصصاً بدقة عالية بفضل الذكاء الاصطناعي (أ.ف.ب)

خوارزمية «تيك توك» سر نجاح التطبيق وتحدياته المستقبلية

بينما تواجه «تيك توك» (TikTok) معركة قانونية مع الحكومة الأميركية، يظل العنصر الأبرز الذي ساهم في نجاح التطبيق عالمياً هو خوارزميته العبقرية. هذه الخوارزمية…

عبد العزيز الرشيد (الرياض)
خاص تم تحسين هذه النماذج لمحاكاة سيناريوهات المناخ مثل توقع مسارات الأعاصير مما يسهم في تعزيز الاستعداد للكوارث (شاترستوك)

خاص «آي بي إم» و«ناسا» تسخّران نماذج الذكاء الاصطناعي لمواجهة التحديات المناخية

«الشرق الأوسط» تزور مختبرات أبحاث «IBM» في زيوريخ وتطلع على أحدث نماذج الذكاء الاصطناعي لفهم ديناميكيات المناخ والتنبؤ به.

نسيم رمضان (زيوريخ)
خاص يمثل تحول الترميز الطبي في السعودية خطوة حاسمة نحو تحسين كفاءة النظام الصحي ودقته (شاترستوك)

خاص ما دور «الترميز الطبي» في تحقيق «رؤية 2030» لنظام صحي مستدام؟

من معالجة اللغة الطبيعية إلى التطبيب عن بُعد، يشكل «الترميز الطبي» عامل تغيير مهماً نحو قطاع طبي متطور ومستدام في السعودية.

نسيم رمضان (لندن)
خاص من خلال الاستثمارات الاستراتيجية والشراكات وتطوير البنية التحتية ترسم السعودية مساراً نحو أن تصبح قائداً عالمياً في التكنولوجيا (شاترستوك)

خاص كيف يحقق «الاستقلال في الذكاء الاصطناعي» رؤية السعودية للمستقبل؟

يُعد «استقلال الذكاء الاصطناعي» ركيزة أساسية في استراتيجية المملكة مستفيدة من قوتها الاقتصادية والمبادرات المستقبلية لتوطين إنتاج رقائق الذكاء الاصطناعي.

نسيم رمضان (لندن)

موسوعة لتوثيق أعمال سعيد العدوي مؤسس جماعة التجريبيين بمصر

أعمال سعيد العدوي اتسمت بالتجريد والأفكار الشعبية (الشرق الأوسط)
أعمال سعيد العدوي اتسمت بالتجريد والأفكار الشعبية (الشرق الأوسط)
TT

موسوعة لتوثيق أعمال سعيد العدوي مؤسس جماعة التجريبيين بمصر

أعمال سعيد العدوي اتسمت بالتجريد والأفكار الشعبية (الشرق الأوسط)
أعمال سعيد العدوي اتسمت بالتجريد والأفكار الشعبية (الشرق الأوسط)

تأتي موسوعة الفنان سعيد العدوي (1938-1973) لترصد مسيرة مؤسس جماعة التجريبيين المصريين وأحد أبرز فناني الحفر والجرافيك في النصف الثاني من القرن العشرين.

وتتضمن الموسوعة، حسب قول المشرف عليها والباحث في شؤون الحركة الفنية المصرية الدكتور حسام رشوان، المئات من أعمال العدوي ويومياته ومذكراته واسكتشاته، مدعومة بعدد كبير من الدراسات التي تم إعداد بعضها خصوصاً من أجل هذه الموسوعة، ومعها دراسات أخرى نشرها أصحابها في صحف ومجلات ومطبوعات خاصة بالفن في مصر والوطن العربي.

وقال لـ«الشرق الأوسط»: «إن مقدمة الدكتورة أمل نصر تتناول جميع المقالات، والزاوية التي نظر منها الناقد لأعمال العدوي موضع الدراسة، كما تقوم بقراءتها وتحليلها وبسط عناصرها أمام الباحثين ومحبي فنه».

موسوعة العدوي تضمنت اسكتشاته ورسوماته (الشرق الأوسط)

وتأتي موسوعة العدوي التي نشرتها مؤسسة «إيه آر جروب» التي يديرها الفنان أشرف رضا، في صورة مونوغراف جامع لكل أعماله، التي تعبق برائحة الماضي، وعالم الموشحات، وحلقات الذكر والمشعوذين، وعربات الكارو والحنطور، وتجمعات الموالد والأسواق والأضرحة، فضلاً عن لوحة «الجنازة» بعد رحيل عبد الناصر. وجمعت الموسوعة كل كراساته واسكتشاته بالكامل، ومذكراته الخاصة التي كتبها وتعتبر دراسات نفسية قام بكتابتها، وقد ساعدت هذه المذكرات النقاد والباحثين في فن العدوي على تناول أعماله بصورة مختلفة عن سابقيهم الذين تصدوا لفنه قبل ظهورها، وفق رشوان.

ولأعمال العدوي طابع خاص من الحروفيات والزخارف والرموز ابتكرها في إبداعاته وهي تخصه وحده، وتخرّج العدوي ضمن الدفعة الأولى في كلية الفنون الجميلة بالإسكندرية عام 1962، وأسس مع زميليه محمود عبد الله ومصطفى عبد المعطي جماعة التجريبيين. وتأتي الموسوعة باللغة العربية في قطع كبير بالألوان، تزيد على 600 صفحة، من تصميم وتجهيز وإنتاج طباعي «إيه آر جروب» للتصميم والطباعة والنشر.

الموسوعة ضمت العديد من الأعمال الفنية ودراسات عنها (الشرق الأوسط)

وتتضمن الموسوعة، وفق رشوان، دراستين جديدتين للدكتور مصطفى عيسى، ودراسة لكل من الدكتورة ريم حسن، وريم الرفاعي، والدكتورة أمل نصر، ودراسة للدكتورة ماري تيريز عبد المسيح باللغة الإنجليزية، وجميعها تم إعدادها خصوصاً للموسوعة، وهناك دراسات كانت موجودة بالفعل للدكتور أحمد مصطفى، وكان قد جهّزها للموسوعة لكن عندما أصدرت مجلة فنون عدداً خاصاً عن فن العدوي قام بنشرها ضمن الملف، وإلى جانب ذلك هناك بحث عن أعمال العدوي للراحلين الدكتور شاكر عبد الحميد والفنان عز الدين نجيب وأحمد فؤاد سليم ومعهم عدد كبير من النقاد والفنانين الذي اهتموا برائد التجريبيين المصري وأعماله.

والتحق سعيد العدوي بمدرسة الفنون بالإسكندرية سنة 1957، وقبلها بعام كان في كلية الفنون بالزمالك، وقضى خمس سنوات لدراسة الفن في عروس البحر المتوسط، أما الأعمال التي تتضمنها الموسوعة وتوثق لها فتغطي حتى عام 1973؛ تاريخ وفاته. وهناك عدد من رسوم الكاريكاتير كان قد رسمها وقت عمله بالصحافة، وهذه الأعمال اهتمت بها الموسوعة ولم تتجاهلها لأنها تكشف عن قدرات كبيرة للعدوي وسعيه للدخول في مجالات عديدة من الفنون التشكيلية، وفق كلام رشوان.

من أعمال العدوي (الشرق الأوسط)

ولفت إلى أن «تراث العدوي بكامله بات متاحاً من خلال الموسوعة للباحثين في فنه والمهتمين بأعماله وتاريخ الفن التشكيلي المصري، وقد توفر لدى كتّاب الموسوعة عدد مهول بالمئات من اللوحات الكراسات والاسكتشات، فأي ورقة كان يرسم عليها اعتبرناها وثيقة وعملاً فنياً تساعد في الكشف عن رؤية العدوي التشكيلية وعالمه الخَلَّاق».

ولا تعتمد الموسوعة فكرة التسلسل الزمني، لكنها توثق عبر المقالات كل الأعمال التي تناولتها، من هنا بنى رشوان رؤيته وهو يرسم الخطوط الرئيسية لفن العدوي على الدراسات البانورامية التي تشتغل بحرية كاملة على الأعمال دون التقيد بتاريخها.

وسبق أن أصدر الدكتور حسام رشوان، بالاشتراك مع الباحثة والناقدة الفرنسية فاليري هيس، موسوعة فنية عن رائد التصوير المصري محمود سعيد عن دار «سكيرا» الإيطالية عام 2017 بمناسبة مرور 120 عاماً على ميلاد محمود سعيد، وتضمنت الموسوعة في جزئها الأول أكثر من 500 لوحة و11 مقالاً ودراسة نقدية.