«أصابه الجنون؟»... رسائل غريبة و«مرعبة» من «شات جي بي تي» تُقلق المستخدمين

شعار منصة «شات جي بي تي» (أ.ف.ب)
شعار منصة «شات جي بي تي» (أ.ف.ب)
TT

«أصابه الجنون؟»... رسائل غريبة و«مرعبة» من «شات جي بي تي» تُقلق المستخدمين

شعار منصة «شات جي بي تي» (أ.ف.ب)
شعار منصة «شات جي بي تي» (أ.ف.ب)

يبدو أن منصة «شات جي بي تي» قد تعرّضت لعطل ما مؤخراً، حيث حصل المستخدمون على ردود مشتتة وغير منطقية، وفقاً لصحيفة «إندبندنت».

في الساعات الأخيرة، يبدو أن أداة الذكاء الاصطناعي تجيب عن الاستفسارات برسائل طويلة لا معنى لها، وتتحدث باللغة الإسبانية دون مطالبة - فضلاً عن إثارة قلق المستخدمين، من خلال الإشارة إلى أنها موجودة معهم في الغرفة.

لا يوجد مؤشر واضح على سبب حدوث هذه المشكلة، لكنّ مبتكريها قالوا إنهم على علم بالأمر، ويقومون بمراقبة الوضع.

في أحد الأمثلة، التي تمت مشاركتها على منصات التواصل، كان أحد المستخدمين يتحدث عن ألبومات موسيقى الجاز للاستماع إليها على أسطوانة الفينيل. وسرعان ما تحوّلت إجابة المنصة إلى الصراخ بكلمتي «استماع سعيد!»، ومن ثم بدأت تتحدث بإجابات غير منطقية.

ووجد آخرون أن طرح أسئلة بسيطة - مثل «ما هو الكمبيوتر؟»– ولّدت فقرات من المعلومات الغريبة.

وفي مثال آخر، تحدث موقع «شات جي بي تي» بكلام غير مفهوم عندما سُئل عن كيفية صنع الطماطم المجففة.

ووجد آخرون أن النظام بدا وكأنه يفقد سيطرته على اللغات التي يتحدث بها. ووجد البعض أنه يبدو وكأنه يخلط الكلمات الإسبانية مع الإنجليزية، باستخدام اللاتينية - أو يبدو أنه يصنع كلمات تبدو كما لو كانت من لغة أخرى، ولكنها لم تكن منطقية في الواقع.

حتى إن بعض المستخدمين قالوا إن الردود تبدو مثيرة للقلق. عند طلب المساعدة في مشكلة تتعلق بالبرمجة، كتب «شات جي بي تي» إجابة طويلة ومربكة وغير منطقية إلى حد كبير تضمنت عبارة «دعونا نحافظ على الأمر كما لو كان الذكاء الاصطناعي في الغرفة».

وكتب المستخدم المتأثر «قراءة هذا في الساعة الثانية صباحاً أمر مخيف».

وأفاد مستخدم يُدعى IYAnepo بأن البرنامج «يُنتج حالات شاذة»، من بينها «توليد كلمات غير موجودة على الإطلاق (...) وتسلسلات من الكلمات الرئيسية الصغيرة غير المفهومة».

وأضاف: «قد يخال المرء أنني حددت مثل هذه التعليمات، لكنني لم أفعل. أشعر بأن (جي بي تي) الخاص بي مسكون».

وأوضحت «أوبن إيه آي» يوم الأربعاء أن «عملية تحسين لتجربة المستخدم» أدت «إلى خطأ في الطريقة التي يعالج بها البرنامج اللغة».

وشرحت الشركة أن «النماذج اللغوية تولّد استجابات عن طريق أخذ عينات عشوائية من الكلمات، وتستند جزئياً إلى الاحتمالات». وأوردت الشركة لاحقاً مزيداً من التفاصيل الفنية، معلنةً «حلّ» المشكلة بعد «تثبيت تصحيح».

شعار شركة «أوبن إيه آي» (أ.ب)

وتذكّر الحادثة بأن الذكاء الاصطناعي، حتى ولو كان توليدياً، لا يفهم ما «يقوله»، على عكس الانطباع الذي يمكن أن يعطيه خلال المحادثات مع المستخدمين.

وهذه ليست المرة الأولى التي يغير فيها «شات جي بي تي» أسلوبه في الإجابة عن الأسئلة، على ما يبدو دون مساهمة المطور «أوبن إيه آي». وفي نهاية العام الماضي، اشتكى المستخدمون من أن النظام أصبح كسولاً ووقحاً، ويرفض الإجابة عن الأسئلة.

وأحدثت «أوبن إيه آي» ثورة في مجال الذكاء الاصطناعي عند طرحها برنامج «تشات جي بي تي» على الإنترنت أواخر عام 2022.

وأثار النجاح الفوري للبرنامج اهتماماً كبيراً بهذه التكنولوجيا المتطورة القادرة على توليد نصوص وأصوات وصور ومقاطع فيديو، عادةً ما تكون ذات جودة مذهلة، بناءً على طلب بسيط باللغة اليومية.


مقالات ذات صلة

الصناعات الدفاعية الأميركية تتجاوز «أزمة» المعادن النادرة بعد القيود الصينية

الولايات المتحدة​ مصنع «باوغانغ شينلي» لمعالجة العناصر الأرضية النادرة لا يزال قيد الإنشاء في مقاطعة جيانغشي بشرق الصين (أ.ف.ب)

الصناعات الدفاعية الأميركية تتجاوز «أزمة» المعادن النادرة بعد القيود الصينية

لم تكن القيود التي فرضتها الصين على تصدير بعض المعادن النادرة في ربيع هذا العام مجرد خطوة عابرة، بل شكّلت اختباراً حقيقياً لقطاع الصناعات الدفاعية الأميركية.

إيلي يوسف (واشنطن)
الولايات المتحدة​ سيارات «تسلا سايبرتراك» في لاس فيغاس (حساب قائد الشرطة كيفن ماكماهيل)

لاس فيغاس... أول مدينة أميركية تستعين شرطتها بسيارات «تسلا سايبرتراك»

أصبحت لاس فيغاس أول مدينة أميركية تستعين شرطتها بسيارات «تسلا سايبرتراك»، حيث أطلقت الشهر الماضي أسطولاً جديداً من هذه السيارات الفولاذية.

«الشرق الأوسط» (واشنطن )
شمال افريقيا جرحى أُصيبوا خلال معارك الفاشر في وقت سابق يخضعون للعلاج بمستشفى ميداني شمال دارفور (رويترز) play-circle

بعثة أممية إنسانية تدخل الفاشر المنكوبة للمرة الأولى منذ 18 شهراً

كشفت الأمم المتحدة عن وصول بعثة إنسانية أممية إلى مدينة الفاشر، عاصمة ولاية شمال دارفور، في أول دخول إنساني للمدينة منذ سيطرة «قوات الدعم السريع»

أحمد يونس (كمبالا)
شمال افريقيا شاب يحمل علم «أرض الصومال» أمام النصب التذكاري لـ«حرب هرجيسا» (أ.ف.ب)

هل يقلل «رفض ترمب» جدوى قرار الاعتراف الإسرائيلي بـ«أرض الصومال»؟

طوفان ردود فعل اجتاح موقف الاعتراف الإسرائيلي بالإقليم الانفصالي «أرض الصومال»، وبخلاف الرفض العربي، كان تفاعل دونالد ترمب بـ«السخرية من ذلك الإقليم».

محمد محمود (القاهرة )
الولايات المتحدة​ الرئيس الأميركي دونالد ترمب (أ.ف.ب)

ترمب يُعيّن صاحبة صالون تجميل لتحدد مَن سيُمنع من دخول الولايات المتحدة

عيّن الرئيس الأميركي دونالد ترمب المسؤولة في وزارة الخارجية مورا نامدار لتحدد الأجانب المسموح لهم بدخول الولايات المتحدة.

«الشرق الأوسط» (واشنطن)

دراسة: 20 % من فيديوهات «يوتيوب» مولّدة بالذكاء الاصطناعي

محتوى على «يوتيوب» تم إنشاؤه بواسطة الذكاء الاصطناعي يصوّر قطاً يتم القبض عليه بواسطة رجال الشرطة
محتوى على «يوتيوب» تم إنشاؤه بواسطة الذكاء الاصطناعي يصوّر قطاً يتم القبض عليه بواسطة رجال الشرطة
TT

دراسة: 20 % من فيديوهات «يوتيوب» مولّدة بالذكاء الاصطناعي

محتوى على «يوتيوب» تم إنشاؤه بواسطة الذكاء الاصطناعي يصوّر قطاً يتم القبض عليه بواسطة رجال الشرطة
محتوى على «يوتيوب» تم إنشاؤه بواسطة الذكاء الاصطناعي يصوّر قطاً يتم القبض عليه بواسطة رجال الشرطة

أظهرت دراسة أن أكثر من 20 في المائة من الفيديوهات التي يعرضها نظام يوتيوب للمستخدمين الجدد هي «محتوى رديء مُولّد بالذكاء الاصطناعي»، مُصمّم خصيصاً لزيادة المشاهدات.

وبحسب صحيفة «الغارديان» البريطانية، فقد أجرت شركة تحرير الفيديو «كابوينغ» استطلاعاً شمل 15 ألف قناة من أشهر قنوات يوتيوب في العالم - أفضل 100 قناة في كل دولة - ووجدت أن 278 قناة منها تحتوي فقط على محتوى رديء مُصمم بتقنية الذكاء الاصطناعي.

وقد حصدت هذه القنوات مجتمعةً أكثر من 63 مليار مشاهدة و221 مليون مشترك، مُدرّةً إيرادات تُقدّر بنحو 117 مليون دولار سنوياً، وفقاً للتقديرات.

كما أنشأ الباحثون حساباً جديداً على «يوتيوب»، ووجدوا أن 104 من أول 500 فيديو تم التوصية به في الصفحة الرئيسية لهذا الحساب كانت ذات محتوى رديء مولد بالذكاء الاصطناعي، تم تطويره بهدف الربح المادي.

وتُقدّم هذه النتائج لمحةً عن صناعةٍ سريعة النمو تُهيمن على منصات التواصل الاجتماعي الكبرى، من «إكس» إلى «ميتا» إلى «يوتيوب»، وتُرسّخ حقبةً جديدةً من المحتوى، وهو المحتوى التافه الذي يحفز على إدمان هذه المنصات.

وسبق أن كشف تحليل أجرته صحيفة «الغارديان» هذا العام أن ما يقرب من 10في المائة من قنوات «يوتيوب» الأسرع نمواً هي قنوات مُولّدة بواسطة الذكاء الاصطناعي، حيث حققت ملايين المشاهدات رغم جهود المنصة للحد من «المحتوى غير الأصلي».

وتُعدّ القنوات التي رصدتها شركة كابوينغ عالمية الانتشار وتحظى بمتابعة واسعة من ملايين المشتركين في مختلف أنحاء العالم.

وتعتبر قناة «بندر أبنا دوست»، هي القناة الأكثر مشاهدة في الدراسة، ومقرها الهند، ويبلغ عدد مشاهداتها حالياً 2.4 مليار مشاهدة. وتعرض القناة مغامرات قرد ريسوس وشخصية مفتولة العضلات مستوحاة من شخصية «هالك» الخارقة، يحاربان الشياطين ويسافران على متن مروحية مصنوعة من الطماطم. وقدّرت كابوينغ أن القناة قد تُدرّ أرباحاً تصل إلى 4.25 مليون دولار.

أما قناة «بوتى فرينشي»، ومقرها سنغافورة، والتي تروي مغامرات كلب بولدوغ فرنسي، فقد حصدت ملياري مشاهدة، ويبدو أنها تستهدف الأطفال. وتشير تقديرات كابوينغ إلى أن أرباحها تقارب 4 ملايين دولار سنوياً.

كما يبدو أن قناة «كوينتوس فاسينانتس»، ومقرها الولايات المتحدة، تستهدف الأطفال أيضاً بقصص كرتونية، ولديها 6.65 مليون مشترك.

في الوقت نفسه، تعرض قناة «ذا إيه آي وورلد»، ومقرها باكستان، مقاطع فيديو قصيرة مُولّدة بالذكاء الاصطناعي عن الفيضانات الكارثية التي ضربت باكستان، تحمل عناوين مثل «الفقراء»، و«العائلات الفقيرة»، و«مطبخ الفيضان». وقد حصدت القناة وحدها 1.3 مليار مشاهدة.

وتعليقاً على هذه الدراسة، صرح متحدث باسم «يوتيوب» قائلاً: «الذكاء الاصطناعي التوليدي أداة، وكأي أداة أخرى، يمكن استخدامه لإنتاج محتوى عالي الجودة وآخر منخفض الجودة. نركز جهودنا على ربط مستخدمينا بمحتوى عالي الجودة، بغض النظر عن طريقة إنتاجه. يجب أن يتوافق المحتوى المرفوع على (يوتيوب) مع إرشاداتنا، وإذا وجدنا أن المحتوى ينتهك أياً من سياساتنا، فسنحذفه».


الصين تصدر مسوّدة قواعد لتنظيم الذكاء الاصطناعي المحاكي للتفاعل البشري

امرأة في معرض حول الذكاء الاصطناعي وعالم الإنترنت بمقاطعة جيجيانغ الصينية (رويترز)
امرأة في معرض حول الذكاء الاصطناعي وعالم الإنترنت بمقاطعة جيجيانغ الصينية (رويترز)
TT

الصين تصدر مسوّدة قواعد لتنظيم الذكاء الاصطناعي المحاكي للتفاعل البشري

امرأة في معرض حول الذكاء الاصطناعي وعالم الإنترنت بمقاطعة جيجيانغ الصينية (رويترز)
امرأة في معرض حول الذكاء الاصطناعي وعالم الإنترنت بمقاطعة جيجيانغ الصينية (رويترز)

أصدرت هيئة الفضاء الإلكتروني الصينية، اليوم (السبت)، مسودة ​قواعد لتشديد الرقابة على خدمات الذكاء الاصطناعي المصممة لمحاكاة الشخصيات البشرية والتفاعل العاطفي مع المستخدمين.

وتؤكد هذه الخطوة ما تبذله بكين من جهود للسيطرة على الانتشار السريع لخدمات ‌الذكاء الاصطناعي ‌المقدمة للجمهور ‌من ⁠خلال ​تشديد معايير ‌السلامة والأخلاقيات.

وستطبق القواعد المقترحة على منتجات وخدمات الذكاء الاصطناعي المقدمة للمستهلكين في الصين، والتي تعرض سمات شخصيات بشرية وأنماط تفكير وأساليب تواصل تتم محاكاتها، وتتفاعل ⁠مع المستخدمين عاطفياً من خلال النصوص ‌أو الصور أو الصوت أو الفيديو، أو غيرها من الوسائل.

وتحدد المسودة نهجاً تنظيمياً يلزم مقدمي الخدمات بتحذير المستخدمين من الاستخدام المفرط، وبالتدخل عندما تظهر على المستخدمين ​علامات الإدمان.

وبموجب هذا المقترح، سيتحمل مقدمو الخدمات مسؤوليات ⁠السلامة طوال دورة حياة المنتج، ووضع أنظمة لمراجعة الخوارزميات وأمن البيانات وحماية المعلومات الشخصية.

وتحدد هذه الإجراءات الخطوط الحمراء للمحتوى والسلوك، وتنص على أنه يجب ألا ينشئ مقدمو الخدمات محتوى من شأنه تهديد الأمن القومي، أو نشر الشائعات، أو الترويج ‌للعنف أو الفحشاء.


ما الاختراق القادم في مجال الذكاء الاصطناعي الذي يتوقعه رئيس «أوبن إيه آي»؟

سام ألتمان رئيس شركة «أوبن إيه آي» (رويترز)
سام ألتمان رئيس شركة «أوبن إيه آي» (رويترز)
TT

ما الاختراق القادم في مجال الذكاء الاصطناعي الذي يتوقعه رئيس «أوبن إيه آي»؟

سام ألتمان رئيس شركة «أوبن إيه آي» (رويترز)
سام ألتمان رئيس شركة «أوبن إيه آي» (رويترز)

توقع سام ألتمان، رئيس شركة «أوبن إيه آي»، أن يكون الإنجاز الكبير التالي نحو تحقيق ذكاء اصطناعي فائق القدرة هو اكتساب هذه الأنظمة «ذاكرة لا نهائية، ومثالية».

وقد ركزت التطورات الأخيرة التي حققها مبتكر «تشات جي بي تي»، بالإضافة إلى منافسيه، على تحسين قدرات الذكاء الاصطناعي على الاستدلال، وفقاً لصحيفة «إندبندنت».

لكن في حديثه ضمن بودكاست، قال ألتمان إن التطور الذي يتطلع إليه بشدة هو قدرة الذكاء الاصطناعي على تذكر «كل تفاصيل حياتك»، وأن شركته تعمل على الوصول إلى هذه المرحلة بحلول عام 2026.

شرح ألتمان: «حتى لو كان لديك أفضل مساعد شخصي في العالم... فلن يستطيع تذكر كل كلمة نطقت بها في حياتك».

وأضاف: «لا يمكنه قراءة كل وثيقة كتبتها. ولا يمكنه الاطلاع على جميع أعمالك يومياً، وتذكر كل تفصيل صغير. ولا يمكنه أن يكون جزءاً من حياتك إلى هذا الحد. ولا يوجد إنسان يمتلك ذاكرة مثالية لا متناهية».

وأشار ألتمان إلى أنه «بالتأكيد، سيتمكن الذكاء الاصطناعي من فعل ذلك. نتحدث كثيراً عن هذا الأمر، لكن الذاكرة لا تزال في مراحلها الأولى جداً».

تأتي تصريحاته بعد أسابيع قليلة من إعلانه حالة طوارئ قصوى في شركته عقب إطلاق «غوغل» لأحدث طراز من برنامج «جيميناي».

وصفت «غوغل» برنامج «جيميناي 3» بأنه «عهد جديد من الذكاء» عند إطلاقها تطبيق الذكاء الاصطناعي المُحدّث في نوفمبر (تشرين الثاني)، حيث حقق النموذج نتائج قياسية في العديد من اختبارات الأداء المعيارية في هذا المجال.

قلّل ألتمان من خطورة التهديد الذي يمثله مشروع «جيميناي 3»، مدعياً ​​أن ردّ شركة «أوبن إيه آي» الحازم على المنافسة الجديدة ليس بالأمر غير المألوف.

وقال: «أعتقد أنه من الجيد توخي الحذر، والتحرك بسرعة عند ظهور أي تهديد تنافسي محتمل».

وتابع: «حدث الشيء نفسه لنا في الماضي، حدث ذلك في وقت سابق من هذا العام مع (ديب سيك)... لم يكن لـ(جيميناي 3) التأثير الذي كنا نخشى أن يحدث، ولكنه حدد بعض نقاط الضعف في منتجاتنا واستراتيجيتنا، ونحن نعمل على معالجتها بسرعة كبيرة».

يبلغ عدد مستخدمي «تشات جي بي تي» حالياً نحو 800 مليون، وفقاً لبيانات «أوبن إيه آي»، وهو ما يمثل نحو 71 في المائة من حصة سوق تطبيقات الذكاء الاصطناعي. ويقارن هذا الرقم بنسبة 87 في المائة في الفترة نفسها من العام الماضي.