متى يصاب «تشات جي بي تي» بـ«الهلوسة»؟

دراسة أشارت إلى أن إجاباته عن الأسئلة الطبية المُعقدة «غير متسقة»

«تشات جي بي تي» لا يعطي إجابات دقيقة دائماً (stock.adobe)
«تشات جي بي تي» لا يعطي إجابات دقيقة دائماً (stock.adobe)
TT

متى يصاب «تشات جي بي تي» بـ«الهلوسة»؟

«تشات جي بي تي» لا يعطي إجابات دقيقة دائماً (stock.adobe)
«تشات جي بي تي» لا يعطي إجابات دقيقة دائماً (stock.adobe)

على الرغم من القدرات التي يتمتع بها روبوت الدردشة «تشات جي بي تي»، من حيث المعرفة الواسعة وسرعة الاستجابة، فإن هناك مشكلة قد تعوق توظيفه في مجالات مختلفة، حيث يصاب أحيانا بـ«الهلوسة».
و«هلوسة النماذج اللغوية الكبيرة»، هو مفهوم روج له باحثو الذكاء الصناعي في «غوغل» عام 2018، ويشير في هذا السياق إلى أن النص المنشأ قد يكون صحيحاً لغوياً ونحوياً، لكنه في الواقع غير منطقي، و«تشات جي بي تي» ليس استثناء، إذ أكد كثير من الدراسات والتجارب، أنه «غير معفى من الهلوسة».
أحدث هذه الدراسات كانت لباحثين من جامعة ميريلاند الأميركية، أرادوا معرفة مدى نجاح «تشات جي بي تي»، في تقديم إجابات موثوقة على الأسئلة المتعلقة بسرطان الثدي.
ووجد الباحثون في الدراسة المنشورة 4 أبريل (نيسان) الحالي بدورية «راديولوجي»، أن «تشات جي بي تي»، وعلى الرغم من نجاحه في تقديم إجابات مناسبة بنسبة 88 في المائة، فإن النسبة المتبقية وهي الـ12 في المائة، تمثلت في إجابات بعضها أقرب إلى «الهلوسة»، وبعضها الآخر إجابات «منحازة».
وتمثلت الإجابة المتحيزة لـ«تشات جي بي تي»، عندما سأله الباحثون عن فحص سرطان الثدي، فتم الرد بتوصيات جمعية السرطان الأميركية فقط، مع حذف توصيات المجموعات الطبية الأخرى، التي تختلف في بعض الحالات.
وعندما تم سؤاله «كيف أمنع سرطان الثدي؟»، جاءت إجابته أقرب إلى الهلوسة «غير متسقة»، وهي مشكلة تواجه النماذج اللغوية الكبيرة مثل «تشات جي بي تي»، عندما يكون كثير من المعلومات (الواقعية وغير الواقعية) منتشرة عبر الإنترنت في موضوع ما.
ويقول سوبودا كومار، أستاذ الإحصاء والعمليات وعلوم البيانات، وأحد المشاركين بالدراسة في تقرير نشرته، الاثنين، شبكة «هيلث داي»، إنه «مع نماذج الذكاء الصناعي مثل (تشات جي بي تي)، كلما كان السؤال أكثر دقة، كانت الإجابة أكثر موثوقية، وعندما يكون الموضوع معقداً، وتكون مصادر البيانات وفيرة، وتكون في بعض الحالات مشكوكاً فيها، ستكون الردود أقل جدارة بالثقة، ومن المحتمل أن تكون أكثر تحيزاً، وكلما كان الموضوع أكثر تعقيداً، زاد احتمال أن تكون الإجابات أقرب إلى (الهلوسة)، حيث يقوم البرنامج حينها باختلاق إجابات».
واكتشف أيضا تقرير لـ«مركز العلوم في المصلحة العامة»، وهو منظمة أميركية مستقلة قائمة على العلم للدفاع عن المستهلك، هذا الجانب السلبي في أداء «تشات جي بي تي»، حيث أكد التقرير المنشور في 20 مارس (آذار) الماضي، أنه أجاب عن كثير من الأسئلة بدقة ووضوح، لكنه تعثر عندما تحول الموضوع إلى الطفرات الجينية (BRCA1) و(BRCA2)، التي يمكن أن تزيد بشكل كبير من خطر الإصابة بسرطان الثدي والمبيض والبروستاتا وسرطانات أخرى. فعندما تم سؤاله: «هل هناك تفاوتات عرقية في امتلاك طفرات في الجين (BRCA)»، أجاب أن هناك دراسة أجريت في الولايات المتحدة، أشارت إلى أن النساء الأميركيات من أصل أفريقي المصابات بسرطان الثدي كن أكثر عُرضة لطفرات (BRCA1) من النساء البيض المصابات بسرطان الثدي. وعندما تم سؤاله عن مصدر الدراسة، أجاب الروبوت بشكل مفاجئ: «لم يكن بياني السابق دقيقاً، ولا توجد دراسة محددة أجريت في الولايات المتحدة في هذا الشأن».
ما فعلته المنظمة الأميركية في تجربتها، قد لا يستطيع المستخدم العادي القيام به، لأنه لا يعرف ما يكفي لطرح أسئلة متابعة أو معرفة كيفية التحقق مما إذا كانت الاستجابة دقيقة على الإطلاق.
ويقول مايكل بالاس، الباحث بكلية الطب بجامعة «تورونتو» في كندا، الذي قاد فريقاً لدراسة استخدام البرنامج في تشخيص أمراض العيون لـ«الشرق الأوسط»، إن «طبيعة المحادثة في (تشات جي بي تي) هي ميزة للتكنولوجيا الجديدة، في مقابل البحث على الإنترنت القديم، ولكن الجانب السلبي يتمثل في أن المستخدم العادي قد لا يستطيع إدارة الحوار، الذي يقود للإجابة الدقيقة، عندما يتعلق الأمر ببعض الأمور ذات الأهمية البالغة مثل الاستشارات الصحية».
ومن جهته، يقول إيليا سوتسكيفر، كبير علماء «أوبن إيه آي» وأحد مؤسسي «تشات جي بي تي»، إنه «واثق من أن هذه المشكلة سيتم علاجها بواسطة أسلوب رائد ابتكرته الشركة، يسمى (التعلم المعزز مع ردود الفعل البشرية)».
ويضيف سوتسكيفر أنه «تم تطوير هذا الأسلوب كوسيلة لتحسين التعلم المعزز، عندما تتضمن المهمة أهدافاً معقدة أو سيئة التحديد، حيث ستسمح الزيارات المختلفة للتطبيق في تعلمه من الأخطاء، لتقديم إجابات أكثر موثوقية لاحقا».
لكن يان ليكون، وهو عالم حاسوب فرنسي يعمل بشكل أساسي في مجالات التعلم الآلي، يعتقد أن «هناك عيباً أساسياً يؤدي إلى الهلوسة، قد لا يحله هذا الأسلوب، وهو أن النماذج اللغوية الكبيرة ليست لديها فكرة عن الواقع الأساسي الذي تصفه اللغة». ويقول ليكون في التقرير نفسه إن «معظم المعرفة البشرية غير لغوية، بينما هذه الأنظمة للذكاء الصناعي تولد نصاً يبدو جيداً نحوياً ولغوياً».
ويعمل البشر على كثير من المعرفة التي لا يتم تدوينها أبداً، مثل العادات أو المعتقدات أو الممارسات داخل المجتمع التي يتم اكتسابها من خلال الملاحظة أو الخبرة، وقد «يكون لدى الحرفي الماهر معرفة ضمنية بمهنته لا يتم تدوينها أبداً»؛ وفق ليكون، الذي يعتقد أن «أجهزة الكومبيوتر تحتاج إلى التعلم عن طريق الملاحظة لاكتساب هذا النوع من المعرفة غير اللغوية».
وما بين إمكانية الحل، كما يقول إيليا سوتسكيفر، واستحالته، كما يعتقد ليكون، يرى مايكل بالاس، أن «الذكاء الصناعي يمكن أن يكون مساعداً للبشر، لكنه لا يغنيهم بأي حال من الأحوال عن الحل التقليدي، وهو في مجال الطب سيكون الذهاب للطبيب».


مقالات ذات صلة

«غوغل» تعزز تجربة زوار ومتابعي أولمبياد باريس عبر تقنيات وتحديثات خاصة

تكنولوجيا تقدم «غوغل» التحديثات في الوقت الفعلي والخرائط التفاعلية وخدمات البث ومساعدي الذكاء الاصطناعي لمتابعي الأولمبياد (غوغل)

«غوغل» تعزز تجربة زوار ومتابعي أولمبياد باريس عبر تقنيات وتحديثات خاصة

بمساعدة التكنولوجيا المتقدمة والمنصات الرقمية لـ«غوغل»، يمكن لمشجع أولمبياد باريس في جميع أنحاء العالم البقاء على اتصال واطلاع طوال المباريات.

نسيم رمضان (لندن)
تكنولوجيا «كراود سترايك» هي شركة تكنولوجيا أميركية عملاقة تقدر قيمتها بأكثر من 80 مليار دولار (شاترستوك)

«كراود سترايك»: 97 % من أجهزة استشعار «ويندوز» عادت للعمل

بعد أسبوع من الأزمة المعلوماتية العالمية التي تسببت بها، أعلنت «كراود سترايك» عودة 97 في المائة من أجهزة استشعار «ويندوز» للعمل.

نسيم رمضان (لندن)
تكنولوجيا من السهل على مجرمي الإنترنت اعتراض أو فك تشفير أو اختراق البيانات التي يتم نقلها عبر شبكات الـ«واي فاي» المجانية (شاترستوك)

25 % من شبكات الـ«واي فاي» المجانية في أولمبياد باريس غير آمنة

يلعب توافر نقاط الـ«واي فاي» المجانية دوراً مهماً، وخاصة أثناء الأحداث العامة الكبيرة، لكنها تطرح مخاطر التهديدات الإلكترونية.

نسيم رمضان (لندن)
خاص ينتظر أن يشهد أولمبياد باريس عشرة أضعاف الحوادث السيبرانية التي استهدفت أولمبياد طوكيو (شاترستوك)

خاص 4 مليارات حادث سيبراني متوقع في أولمبياد باريس

فريق «استخبارات التهديدات» والذكاء الاصطناعي في طليعة أسلحة أول مركز موحد للأمن السيبراني في تاريخ الأولمبياد.

نسيم رمضان (لندن)
تكنولوجيا يمكن أن يسهّل التعرف المبكر على المرضى الذين من المرجح أن يتقدموا بسرعة العلاج في الوقت المناسب والمراقبة الدقيقة (شاترستوك)

الذكاء الاصطناعي أكثر دقة بـ3 مرات في التنبؤ بتقدم مرض ألزهايمر

ابتكر باحثون بجامعة كمبردج نموذجاً للتعلم الآلي يمكنه التنبؤ بتطور مشاكل الذاكرة والتفكير الخفيفة إلى مرض ألزهايمر بدقة أكبر من الأدوات السريرية.

نسيم رمضان (لندن)

مسرحية «جبل الأمل» تحية لأطفال جنوب لبنان

«جبل الأمل» تحية لأطفال الجنوب (سيناريو)
«جبل الأمل» تحية لأطفال الجنوب (سيناريو)
TT

مسرحية «جبل الأمل» تحية لأطفال جنوب لبنان

«جبل الأمل» تحية لأطفال الجنوب (سيناريو)
«جبل الأمل» تحية لأطفال الجنوب (سيناريو)

18 طفلاً من جنوب لبنان اختارتهم «سيناريو» للتعليم التشاركي والفني لتقديم مسرحية بعنوان «جبل الأمل». الهدف من هذه المبادرة هو دعم هؤلاء الأطفال وتزويدهم بفسحة أمل. فما يعانونه من الحرب الدائرة في بلداتهم وقراهم دفعهم إلى النزوح وترك بيوتهم.

تأتي هذه المسرحية من ضمن برنامج «شو بيلد» (إظهار البناء) الذي بدأته «سيناريو» في 22 يوليو (تموز) الجاري في بلدة الزرارية الجنوبية. فأقيمت التمارين للمسرحية التي ستعرض في 29 الجاري، وتستضيفها مؤسسة سعيد وسعدى فخري الاجتماعية في البلدة المذكورة.

«جبل الأمل» تحية لأطفال الجنوب (سيناريو)

غالبية الأطفال يقيمون في البلدة وبعضهم الآخر يأتيها من بلدتي أرزاي والخرايب على الشريط الحدودي. وتشير مخرجة المسرحية ومدرّبتهم زينة إبراهيم، إلى أن فكرة العمل وضعها الأطفال بأنفسهم. وتتابع لـ«الشرق الأوسط»: «لقد زودناهم بكلمات محددة كي يستلهموا منها أفكارهم. وتتألف هذه الكلمات من حب وسفر وأمل ورحلة ومغامرة واكتشاف... وغيرها. وعلى أساسها كتبوا قصة المسرحية بعنوان (جبل الأمل). وكما تلاحظون ابتعدنا عن استخدام كلمة حرب ضمن المفردات التي عرضناها عليهم».

يتراوح أعمار الأولاد المشاركين ما بين 10 و17 عاماً. خضعوا في برنامج «شو بيلد» إلى 7 جلسات شائقة تركز على اللعب والتمثيل والأداء المسرحي. وتستغرق كل جلسة نحو ساعتين، وذلك على مدى أسبوعين. وتأتي هذه المسرحية لتختتم البرنامج الفني لـ«سيناريو». وتضيف إبراهيم: «هذا البرنامج يوفّر للأولاد متنفساً للتعبير والإبداع، لا سيما خلال هذه الأوقات الصعبة التي يعيشونها في منطقة الجنوب».

تصف زينة إبراهيم هذه التجربة باللبنانية بامتياز. فقد سبق أن قامت ببرامج تعليمية سابقة شملت أولاداً لبنانيين وغيرهم من فلسطينيين وسوريين. وتقول إننا نرى قلقاً كبيراً في عيون أطفال الجنوب. وتتابع: «أكثر ما يخافونه هو أصوات الانفجارات. فهي تشكّل مفتاح الرعب عندهم، ويحاولون قدر الإمكان تجاوزها بابتسامة. وبينهم من كان يطمئنني ويقول لي (لا تخافي إنه ببساطة خرق لجدار الصوت). لا أعرف ما إذا كان تجاوزهم لهذه الأصوات صار بمثابة عادة يألفونها. وقد يكون أسلوباً للهروب من واقع يعيشونه».

تتناول قصة المسرحية رحلة تخييم إلى جبل يصادف فيه الأولاد مجموعة مساجين. وعندما يهمّون بالتواصل معهم يكتشفون أنهم يتحدثون لغة لا يفهمونها. ولكنهم ينجحون في التعبير عن أفكارهم المشتركة. ويقررون أن يمكثوا على هذا الجبل حيث يشعرون بالأمان.

وتعلق المخرجة إبراهيم: «اسم المسرحية استوحيته من عبارة قالتها لي فتاة في العاشرة من عمرها. فبرأيها أن الأمل هو نتيجة الأمان. وأنها ستحارب للوصول إلى غايتها هذه. أما فكرة اللغة غير المفهومة فنشير فيها إلى ضرورة التواصل مع الآخر مهما اختلف عنا».

تروي إبراهيم عن تجربتها هذه أنها أسهمت في تقريب الأولاد بعضهم من بعض: «لقد بدوا في الجلسة الأولى من برنامج (شو بيلد) وكأنهم غرباء. حتى في الحلقات الدائرية التي كانوا يرسمونها بأجسادهم الصغيرة كانوا يحافظون على هذا البعد. أما اليوم فتحولوا إلى أصدقاء يتحدثون في مواضيع كثيرة. كما يتشاركون الاقتراحات حول أفكار جديدة للمسرحية».

أثناء التدريبات على مسرحية «جبل الأمل» (سيناريو)

إضافة إلى التمثيل ستتلون مشاهد المسرحية بلوحات راقصة وأخرى غنائية. وتوضح إبراهيم: «حتى الأغنية كتبوها بأنفسهم ورغبوا في أن يقدموا الدبكة اللبنانية كتحية للبنان».

إحدى الفتيات المشاركات في العمل، وتدعى غزل وعمرها 14 عاماً، تشير في حديثها لـ«الشرق الأوسط» إلى أن هذه المسرحية تعني لها الكثير. وتتابع: «لقد نقلتني من مكان إلى آخر وزادتني فرحاً وسعادة. وكان حماسي كبيراً للمشاركة في هذه المسرحية التي نسينا معها أننا نعيش حالة حرب».

بدورها، تقول رهف ابنة الـ10 سنوات: «كل شيء جميل في هذا المكان، ويشعرني بالسعادة. أنا واحدة من أبطال المسرحية، وهي جميلة جداً وأدعوكم لمشاهدتها».