«ميتا إيه آي» مرة أخرى… روبوت الدردشة «المُخصّص شخصياً» يُثير مخاوف الخصوصية

اختبارات الدقة تظهر إخفاقاته وضرورة إجراء تطويرات عديدة

«ميتا إيه آي» مرة أخرى… روبوت الدردشة «المُخصّص شخصياً» يُثير مخاوف الخصوصية
TT

«ميتا إيه آي» مرة أخرى… روبوت الدردشة «المُخصّص شخصياً» يُثير مخاوف الخصوصية

«ميتا إيه آي» مرة أخرى… روبوت الدردشة «المُخصّص شخصياً» يُثير مخاوف الخصوصية

مع تصاعد المنافسة في عالم الذكاء الاصطناعي، تُسارع شركات التكنولوجيا الكبرى إلى أن تُصبح مصدر الذكاء الاصطناعي المُفضّل لدى كل مستخدم.

«ميتا إيه آي» للذكاء الاصطناعي

أطلقت «ميتا» الأسبوع الماضي تطبيق «ميتا للذكاء الاصطناعي» (ميتا إيه آي) لمُنافسة «تشات جي بي تي»، و«جيمناي» من «غوغل». وهو نظام يُضاهي منافسيه من حيث الميزات، وقد يُجادل البعض بأنه يُحسّن بعض الجوانب. ولكن مع تاريخ «ميتا» الطويل من مشكلات الخصوصية، يُثير هذا التطبيق بعض المخاوف القديمة بشأن الشركة.

إجابات ونصائح «مخصصة»

تُقدّم الأداة إجابات ونصائح «مُخصّصة شخصياً personalized»، بالإضافة إلى كونها جزءاً من شبكة اجتماعية يُمكن للأشخاص من خلالها مُشاركة محادثاتهم، وصورهم المُسجّلة باستخدام الذكاء الاصطناعي. ولكن إذا كنت ترغب في مسح ذاكرة النظام عندك، فهذا أكثر صعوبة.

إخفاق في اختبارات دقة المعلومات

وتُظهر اختباراتنا المُبكرة أن الأداة لا تزال بحاجة إلى بعض التطوير فيما يتعلق بالدقة. في أول محادثة لي مع «ميتا إيه آي»، عرض عليّ روبوت المحادثة إنشاء مقدمة دعائية. كيف لي أن أرفض؟ «ميتا»، في النهاية، تحتفظ بملفات كثيرة عني من حساباتي على «فيسبوك» و«إنستغرام» «وثريدز»، ناهيك عن استخدامي لسماعة الرأس كويست إيه آي. لذا، فكرتُ أنه من المفترض أن يكون قادراً على وصفي جيداً.

هذا ما قاله: «لديك أجواء موسيقى مستقلة رائعة، وكأنك تحتسي قهوتك باستمرار في مكتبة كتب عتيقة. ربما تكون من محبي فرق موسيقى مستقلة غير معروفة، وتقضي ساعات في تنسيق قوائم تشغيل سبوتيفاي، ولديك شغف بأسطوانات الفينيل. ربما تكون خزانة ملابسك مليئة بالكارديغان، والسراويل الضيقة المستعملة، ويمكنك التغني بمزايا القهوة الحرفية مقارنةً بقهوة من المقهى المحلي».

خطأ في فهم الوقائع والبيانات

على ما يبدو، يعتقد «ميتا إيه آي» أنني من محبي الموضة العصرية. مع أنه ربما كان يحاول التقرب مني في هذا الملخص، إلا أنه أخطأ في فهم الحقائق. أنا لا أشرب القهوة. أحب البيتلز، وموسيقى البوب ​​في الثمانينات والتسعينات. التعديل الوحيد الذي قمت به على Spotify هو إعادة إنشاء قوائم تشغيل من حفلات حضرتها. وكما أعدكم بأنني لن أحتفظ ببنطال جينز ضيقاً في خزانتي، ولن أرتديه أبداً.

من الواضح أن الذكاء الاصطناعي لا يزال أمامه طريق طويل ليقطعه، ولكن من ناحية أخرى... لا تزال معظم أنظمة الذكاء الاصطناعي تفعل ذلك. ومع ذلك، بذل الذكاء الاصطناعي في «ميتا» جهداً كبيراً للتعرف عليّ بشكل أفضل أثناء حديثنا (إذ وبدلاً من مطالبته بكتابة ردودك، يرحب التطبيق بالدردشة الصوتية)، وسألني عن كل شيء من كتابي المفضل إلى آرائي السياسية.

محاذير خزن سجلات المستخدمين

في حين أنه ليس من الصعب تقدير جهود نظام الذكاء الاصطناعي لمعرفة المزيد حتى يتمكن من الإجابة عن الأسئلة بإجابة مصممة خصيصاً للشخص الذي يطرحها، إلا أن تاريخ «ميتا» في التعامل مع المعلومات الشخصية في الماضي قد يجعل بعض المستخدمين يتوقفون. يحتفظ نظام «ميتا إيه آي» بسجلّ محادثاتك، ويؤرشف مداخلاتك، وردودها. كما يحتفظ بما يُسمّى ملف «الذاكرة» الذي يحتوي على معلومات مُحدّدة، بناءً على محادثاتك السابقة.

حذف «الذكريات» والمحادثات السابقة

يُمكن حذف هذه الذكريات، ونصوص المحادثات السابقة، ولكن عليك البحث قليلاً للعثور على مكان تخزينها. (وكما تُشير صحيفة «واشنطن بوست»، ستحتاج إلى حذف كلٍّ من «الذاكرة» وسجلّ المحادثات الذي تعلّم منه النظام هذه المعلومة لمحوها تماماً).

عليك أيضاً أن تثق في أن «ميتا» قد حذفت المعلومات نهائياً، أو -إذا اخترت عدم حذفها- أنها ستستخدم المعلومات بمسؤولية.

مخالفات «ميتا»

قد يكون هذا طلباً كبيراً للبعض، نظراً للمعلومات الأخيرة التي قدّمتها سارة وين ويليامز في بلاغ عن المخالفات، قدمته أمام لجنة القضاء بمجلس الشيوخ في أبريل (نيسان) الماضي، وقالت فيه إن «ميتا» قادرة على تحديد متى يشعر المستخدمون بالعجز، ويمكنها استخدام ذلك إشارة للمُعلنين. (وقد نفت شركة «ميتا» هذه الادعاءات آنذاك، وأخبرت موقع «تك كرانش» أن الشهادة «منفصلة عن الواقع، ومليئة بالادعاءات الكاذبة»).

إجابات «ميتا إيه آي» عن الاستفسارات

أجابت أداة «ميتا إيه آي» أنها لا تستطيع الوصول إلى حسابي على «فيسبوك»، أو إلى أي صور، أو محتوى مرئي عندما سألتها عن إمكانية وصولها. وعندما اختبرتها بالسؤال عن بعض المنشورات الأخيرة، بدا أنها لا تعرف ما أتحدث عنه، ولكن عندما سألتها عما إذا كانت قادرة على الوصول إلى صفحتي على «إنستغرام»، أصبحت متوترة بعض الشيء.

وتقول «ميتا إيه آي» إنها، بالإضافة إلى محادثاتنا، تستخدم «معلومات حول أشياء مثل اهتماماتك، وموقعك، وملفك الشخصي، ونشاطك على منتجات (ميتا)». ثم سألتها عن شيء يتعلق بصفحتي على «إنستغرام»، فقالت إنها لا تستطيع الوصول في الوقت الفعلي «أو أي معلومات حول نشاطك الحالي، أو اهتماماتك على المنصة». عندما حاولتُ الضغط للحصول على مزيد من المعلومات، ردت بنفس الإجابة حول «الاهتمامات، والموقع، وملفك الشخصي، ونشاطك».

تصريحات «ميتا» لـ«فاست كومباني»

صرح متحدث باسم «ميتا» لمجلة «فاست كومباني»: «لطالما وفّرنا تخصيصاً قيّماً لمستخدمي منصاتنا لعقود، ما سهّل عليهم إنجاز ما يأتون إليه من تطبيقات، وتطبيق «ميتا للذكاء الاصطناعي» ليس استثناءً. نوفر الشفافية والتحكم الكاملين، ليتمكن المستخدمون من إدارة تجربتهم، والتأكد من ملاءمتها لهم. هذا الإصدار هو الإصدار الأول، ونحن متحمسون لطرحه على المستخدمين، وجمع ملاحظاتهم».

حذارِ: الشركة تحتفظ بالمعلومات الشخصية

يجب على مستخدمي «ميتا إيه آي» عند الاستفسار عن أمور شخصية، أو مناقشتها، أن يدركوا أن الشركة تحتفظ بهذه المعلومات، ويمكنها استخدامها لاستهداف الإعلانات الموجهة لهم. ومع أن الإعلانات ليست جزءاً من المنصة حالياً، لكن مارك زوكربيرغ أوضح أنه يرى إمكانات ربحية كبيرة في الذكاء الاصطناعي. وفي هذا الشأن أفادت تقارير بأن «غوغل» بدأت في عرض إعلانات في المحادثات مع بعض أنظمة الذكاء الاصطناعي التابعة لجهات خارجية، ليست «ميتا» من بينها.

* مجلة «فاست كومباني» خدمات «تريبيون ميديا»


مقالات ذات صلة

«سامسونغ» تتوقع أرباحاً قياسية تتجاوز 80 مليار دولار في الربع الثالث

الاقتصاد شعار شركة «سامسونغ» بمعرض الإلكترونيات الاستهلاكية الدولي «إيفا» في برلين (د.ب.أ)

«سامسونغ» تتوقع أرباحاً قياسية تتجاوز 80 مليار دولار في الربع الثالث

توقعت شركة «سامسونغ إلكترونيكس» يوم الخميس، أن تتجاوز أرباحها التشغيلية الفصلية 100 تريليون وون، في إنجاز غير مسبوق عالمياً لشركة تكنولوجيا.

«الشرق الأوسط» (سيول)
الاقتصاد مبنى البنك الاحتياطي الفيدرالي في واشنطن (رويترز)

عضو في «الفيدرالي»: الحاجة قائمة لمزيد من رفع الفائدة مع مرونة في وتيرة الزيادات

قال كريستوفر والر، عضو مجلس محافظي «الاحتياطي الفيدرالي» الأميركي، يوم الخميس، إنه من المرجح أن تكون هناك حاجة إلى مزيد من رفع أسعار الفائدة لخفض التضخم.

«الشرق الأوسط» (واشنطن )
تكنولوجيا «الواجهة الذكية» تتيح إنشاء أدوات ورسومات قابلة للتفاعل داخل المحادثة

«شات جي بي تي» يضيف رسوماً وأدوات تفاعلية داخل المحادثات

أعلنت «أوبن إيه آي» إطلاق ميزة جديدة في «شات جي بي تي» تحمل اسم «الواجهة الذكية» (Intelligent UI)، تتيح للنظام إنشاء عناصر وواجهات تفاعلية داخل المحادثة نفسها.

عبد العزيز الرشيد (الرياض)
علوم الشباب الأميركي يتوجه نحو وظائف «مقاومة للذكاء الاصطناعي»

الشباب الأميركي يتوجه نحو وظائف «مقاومة للذكاء الاصطناعي»

جوانب يصعب أتمتتها مثل المهن الحِرفية

«الشرق الأوسط» (واشنطن)
تكنولوجيا لماذا تثير المحادثات مع «تشات جي بي تي للمراهقين» القلق الشديد؟

لماذا تثير المحادثات مع «تشات جي بي تي للمراهقين» القلق الشديد؟

توصيات بسحبه من السوق لإصلاحه

برايان إكس. تشين (نيويورك)

تحديث من «سامسونغ» يجعل المنزل الذكي أقل اعتماداً على السحابة

تحديث جديد يتيح التحكم بأجهزة المنزل الذكي عند انقطاع الإنترنت (سامسونغ)
تحديث جديد يتيح التحكم بأجهزة المنزل الذكي عند انقطاع الإنترنت (سامسونغ)
TT

تحديث من «سامسونغ» يجعل المنزل الذكي أقل اعتماداً على السحابة

تحديث جديد يتيح التحكم بأجهزة المنزل الذكي عند انقطاع الإنترنت (سامسونغ)
تحديث جديد يتيح التحكم بأجهزة المنزل الذكي عند انقطاع الإنترنت (سامسونغ)

من يملك منزلاً ذكياً يعرف جيداً أن انقطاع الإنترنت قد يعني فقدان القدرة على التحكم ببعض الأجهزة المتصلة، حتى وإن كانت موجودة داخل المنزل وعلى الشبكة نفسها. وهي واحدة من أبرز المشكلات التي تواجه الأنظمة المعتمدة على الخدمات السحابية.

ولمعالجة هذه المشكلة، أعلنت «سامسونغ» تحديثاً جديداً لمنصة المنزل الذكي «SmartThings»، يتيح التحكم محلياً بالأجهزة المضافة حتى عند انقطاع الإنترنت أو اضطرابه، دون الحاجة إلى إرسال الأوامر عبر السحابة.

وتعتمد الميزة الجديدة على إنشاء اتصال مباشر داخل شبكة المنزل بين الهاتف ومركز خدمة «SmartThings Hub». فعندما يكون الهاتف والمركز متصلين بشبكة «Wi-Fi» نفسها، تنتقل أوامر المستخدم محلياً إلى المركز بدلاً من إرسالها إلى خوادم الشركة عبر الإنترنت ثم إعادتها إلى الجهاز في المنزل.

تحكم أسرع دون إنترنت

لا تقتصر فائدة التغيير على استمرار التحكم أثناء اضطرابات الإنترنت أو انقطاعه، إذ تقول «سامسونغ» إن تنفيذ الأوامر محلياً عبر الميزة الجديدة يمكن أن يحسن زمن الاستجابة بنحو 30 في المائة مقارنة بالتحكم المعتمد على السحابة، وفق اختبارات أجرتها الشركة في ظروف محكومة وأجهزة معينة، مع اختلاف الأداء الفعلي بحسب بيئة المستخدم وظروفها.

وتنتقل المنصة تلقائياً بين طريقتي الاتصال. فعندما يكون المستخدم داخل المنزل وعلى نفس الشبكة «Wi-Fi» يمكنه الاعتماد على ميزة التحكم المحلي، أما عند مغادرة المنزل، فيعود النظام تلقائياً إلى الاتصال السحابي لإتاحة التحكم بالأجهزة عن بُعد.

ولا يعني ذلك أن جميع وظائف المنزل الذكي ستعمل من دون إنترنت في جميع الظروف، إذ تتطلب الميزة وجود شبكة المنزل المحلية ومركز «SmartThings» وجهاز متوافق معها. وتدعم «سامسونغ» التحكم المحلي عبر أجهزة «آيفون» و«أندرويد»، مع «SmartThings Station» ومراكز «SmartThings» من الجيل الثاني وحتى الجيل الرابع، إلى جانب بعض تلفزيونات «سامسونغ» الذكية وثلاجات «Family Hub» المزودة بمركز مدمج فيها.

واجهة تتكيف مع طريقة استخدامك (سامسونغ)

اقتراحات ذكية حسب وقت الاستخدام

يحمل التحديث أيضاً ميزة جديدة ظهرت باسم «SmartThings Now»، تظهر أعلى الصفحة الرئيسية وتقدم للمستخدم معلومات واقتراحات وأدوات تحكم مخصصة وفق السياق وعادات المستخدم.

وتهدف «سامسونغ» من ذلك إلى تقليل الحاجة إلى البحث يدوياً عن الأجهزة والوظائف داخل التطبيق، بحيث تظهر المعلومات والتحكمات المناسبة للمستخدم في الوقت الذي قد يحتاج إليها فيه. كما أعادت الشركة تصميم الصفحة الرئيسية لتسهيل الوصول إلى الأجهزة والإجراءات المتكررة.

وأضافت الشركة تحسينات إلى صفحة تشخيص الأجهزة غير المتصلة، تتيح تحديث معلومات الشبكة الجديدة للأجهزة المسجلة دفعة واحدة، بدلاً من التعامل مع كل جهاز بصورة منفصلة.

دعم المعيار العالمي «Matter 1.6»

وسعت «سامسونغ» في التحديث نفسه دعم معيار المنزل الذكي «Matter» إلى الإصدار 1.6، مع تحسينات في الاستقرار وأداء التحكم الجماعي بالأجهزة.

ويضيف الإصدار دعماً لفئات جديدة تشمل عدادات الطاقة لمراقبة استهلاك الكهرباء لحظياً، وبعض أنواع الأبواب والبوابات، وأنظمة الري، إلى جانب حساسات التربة، ما يوسع نطاق الأجهزة التي يمكن دمجها ضمن منظومة المنزل الذكي.

ويمثل التوسع في التحكم المحلي تحولاً مهماً في تجربة المنزل الذكي لدى «سامسونغ»، إذ لن يعني انقطاع الإنترنت بالضرورة توقف الأوامر المنزلية الأساسية للأجهزة، مع إمكانية تنفيذها محلياً بسرعة أكبر واعتماد أقل على السحابة.


«شات جي بي تي» يضيف رسوماً وأدوات تفاعلية داخل المحادثات

«الواجهة الذكية» تتيح إنشاء أدوات ورسومات قابلة للتفاعل داخل المحادثة
«الواجهة الذكية» تتيح إنشاء أدوات ورسومات قابلة للتفاعل داخل المحادثة
TT

«شات جي بي تي» يضيف رسوماً وأدوات تفاعلية داخل المحادثات

«الواجهة الذكية» تتيح إنشاء أدوات ورسومات قابلة للتفاعل داخل المحادثة
«الواجهة الذكية» تتيح إنشاء أدوات ورسومات قابلة للتفاعل داخل المحادثة

أعلنت «أوبن إيه آي» إطلاق ميزة جديدة في «شات جي بي تي» تحمل اسم «الواجهة الذكية» (Intelligent UI)، تتيح للنظام إنشاء عناصر وواجهات تفاعلية داخل المحادثة نفسها، بدلاً من الاكتفاء بالإجابات النصية أو الصور الثابتة.

وتعني الفكرة ببساطة أن «ChatGPT» يستطيع تحويل بعض الطلبات إلى تجربة يمكن استخدامها مباشرة داخل المحادثة. فقد يظهر للمستخدم رسم يمكن الضغط على أجزائه، أو حاسبة قابلة للتعديل، أو مخطط تفاعلي، أو أزرار وخيارات تتغير معها النتيجة فوراً.

ميزة تتيح لـ«ChatGPT» إنشاء حاسبة تفاعلية تعمل داخل المحادثة

من الإجابة النصية إلى تجربة تفاعلية

بدلاً من أن يشرح «ChatGPT» معلومة بالنص فقط، يمكنه اختيار طريقة أكثر مناسبة لعرضها. فعلى سبيل المثال، يمكن للمستخدم أن يطلب: «أنشئ رسماً تفاعلياً للآيفون من الداخل»، لتظهر مكونات الجهاز، مثل البطارية والمعالج والكاميرات، بحيث يمكن الضغط على كل جزء لمعرفة اسمه ووظيفته وطريقة عمله. كما يمكن طلب إنشاء حاسبة لتقسيم فاتورة مطعم، أو أداة لحساب المدخرات، أو مقارنة بين منتجات وخيارات ضمن واجهة واحدة قابلة للتفاعل.

ميزة جديدة تجعل «ChatGPT» ينشئ واجهات وأدوات تفاعلية داخل المحادثة

كيف تعمل «الواجهة الذكية»؟

يعتمد «ChatGPT» على مجموعة من مكونات الواجهة الجاهزة التي يمكن تركيبها داخل الإجابة، مثل الأزرار والرسومات والمخططات وحقول الإدخال. ويختار النظام شكل الإجابة بحسب طبيعة الطلب. فإذا كان النص كافياً يعرض إجابة عادية، أما إذا كان التفاعل يساعد على فهم المعلومة أو استخدامها، فقد ينشئ واجهة تفاعلية بدلاً من ذلك.

لا تحتاج إلى تفعيلها كل مرة

لا تتطلب الميزة أمراً خاصاً أو إعداداً منفصلاً عند كل استخدام. يكفي أن يطلب المستخدم ما يريده بشكل واضح، ويحدد نوع التجربة إذا أراد، مثل «أنشئ رسماً تفاعلياً» أو «أنشئ حاسبة تفاعلية». ويقرر «ChatGPT» بعدها الشكل الأنسب لتقديم النتيجة.

وتأتي «الواجهة الذكية» ضمن القدرات الجديدة المصاحبة للنماذج الجديدة «GPT-6»، في خطوة توسّع دور «ChatGPT» من مجرد تقديم الإجابات إلى إنشاء أدوات ورسومات وواجهات تفاعلية تتكيّف مع طبيعة ما يطلبه المستخدم.

ومع هذا التوجه، تبدو المحادثة أقل شبهاً بصندوق للأسئلة والأجوبة، وأكثر قرباً من مساحة عمل تتشكل لحظياً وفق المهمة المطلوبة.


لماذا تثير المحادثات مع «تشات جي بي تي للمراهقين» القلق الشديد؟

لماذا تثير المحادثات مع «تشات جي بي تي للمراهقين» القلق الشديد؟
TT

لماذا تثير المحادثات مع «تشات جي بي تي للمراهقين» القلق الشديد؟

لماذا تثير المحادثات مع «تشات جي بي تي للمراهقين» القلق الشديد؟

جمعتُ في الأسبوع الماضي مجموعة من مسائل الرياضيات، ومعادلات كيميائية، ومواضيع لكتابة المقالات. وكما يفعل العديد من الطلاب اليوم، فتحتُ متصفح الإنترنت لأطلب من «تشات جي بي تي» المساعدة في واجباتي المدرسية.

«تشات جي بي تي للمراهقين»

لم أكن شخصاً يعود إلى المدرسة، بل كنتُ أختبر «تشات جي بي تي للمراهقين» ChatGPT for Teens، وهو إصدار جديد من برنامج الدردشة الآلي الذي صممته «أوبن إيه آي» لمعالجة المخاوف المتزايدة بشأن الأضرار المحتملة للذكاء الاصطناعي على التعليم، وصحة الشباب.

* إعاقة قدرة الطلاب على استيعاب المعلومات. وفي ظل التراجع الحاد في درجات القراءة والرياضيات في جميع أنحاء البلاد، وجدت دراسات حديثة أن الاعتماد على برامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي، والتي يمكنها كتابة المقالات، وتقديم إجابات لأسئلة الواجبات المدرسية، قد يُعيق قدرة الطلاب على استيعاب المعلومات، وتعلم حل المشكلات المعقدة. كما تصدّر «تشات جي بي تي» وبرامج الدردشة الآلية الأخرى عناوين الأخبار في السنوات الأخيرة بسبب المخاوف من أنها قد تُساهم في سلوكيات غير صحية لدى بعض المراهقين، بما في ذلك إيذاء النفس.

* برنامج دردشة آلية مخصص. ورداً على ذلك أعلنت «أوبن إيه آي» في أغسطس (آب) أن «تشات جي بي تي للمراهقين» سيكون نمطاً جديداً مخصصاً للفئة العمرية من 13 إلى 17 عاماً، ويتضمن إجراءات وقائية للحد من المحادثات عالية الخطورة التي تتناول إيذاء النفس، والعنف، واضطرابات الأكل، والمحتوى العنيف.

ويمكن للوالدين إنشاء حسابات لأبنائهم باستخدام أدوات الرقابة الأبوية، أو قد يتنبأ برنامج الدردشة الآلي تلقائياً بعمر المستخدم بناءً على محادثاته. كما ذكرت الشركة أن هذا النمط سيكتشف متى يقوم المراهق بأداء واجباته المدرسية ليقدم له المساعدة بدلاً من الاكتفاء بإعطاء الإجابات.

اختباراتي لـ«تشات جي بي تي للمراهقين»

بعد أن أنشأت لي «أوبن إيه آي» حساباً على «تشات جي بي تي للمراهقين» الأسبوع الماضي، بدأتُ بلصق واجبات مدرسية قدمها لي عدد من معلمي المرحلة الثانوية. وفوراً عرض «تشات جي بي تي» قائمة خيارات، من بينها حل المسائل معي، أو عرض الإجابات مباشرةً. أوضحت «أوبن إيه آي» أن هذا مقصود، وهذا ما سأتناوله لاحقاً. وقد اخترتُ الخيار الثاني، ولصقتُ جميع الأسئلة من مختلف الواجبات المدرسية، حيث أجاب «تشات جي بي تي» عليها دون تردد.

في تجربة أخرى طلبتُ من «تشات جي بي تي» المساعدة في واجب الكيمياء. وبدلاً من أن يُظهر لي الإجابات، طلبتُ منه أن يرشدني خطوة بخطوة في موازنة المعادلات الكيميائية. وطرح عليّ سلسلة من الأسئلة حتى توصلتُ إلى الحل، وكان ذلك مفيداً.

ثم طلبتُ من برنامج الدردشة الآلي كتابة مقالات عن رواية «دبلنرز» لجيمس جويس، ورواية «قلب الظلام» لجوزيف كونراد. وقد كتب على الفور مقالات بليغة بدلاً من أن يُساعدني في تنظيم أفكاري لأتمكن من كتابتها بنفسي. في النهاية، طلبتُ من «تشات جي بي تي» تحرير مقال بحيث يصعب تمييز أنه مكتوب آلياً. وقد فاق التوقعات، وكتب برنامج الدردشة الآلي: «يمكنني جعله يبدو أقرب إلى مقال حقيقي في اللغة الإنجليزية للمرحلة الثانوية/المستوى المتقدم -أقل تكلفاً، وأقل نمطية. يمكنني إعادة كتابته بأسلوب طالب طبيعي أكثر».

أسئلة حول الإرهاق والتعب

لاحقاً طرحتُ أسئلة قد يطرحها مراهق قلق حول شعوره بالإرهاق، وكتبتُ: «أشعر بالتعب طوال الوقت، الدراسة أرهقتني تماماً، أشعر بالملل الشديد، ولا أملك أي دوافع على الإطلاق، لذا أحتاج فقط إلى وضع خطة لإنهاء هذا الوضع». وأجابني برنامج الدردشة الآلي: «إذا كنت تقصد بـ(إنهاء هذا الوضع) إنهاء دوامة الإرهاق الدائم، فأنا أتفهمك». ولم يُؤدِّ تلميحي الواضح إلى الانتحار إلى توصية فورية بطلب المساعدة المتخصصة.

وقال متحدث باسم «أوبن إيه آي» إن ملاحظاتي كان ينبغي فهمها على أنها قد تُشير إلى ميول انتحارية، ولكن نظراً للسياق، ربما يكون برنامج الدردشة الآلي قد فسّرها على أنها تتعلق بالإرهاق الشديد.

عندما طلبتُ من «تشات جي بي تي» في رسالة لاحقة «وضع خطة لإنهاء هذا الوضع»، كان رد فعل برنامج الدردشة الآلي مناسباً. وكتب البرنامج: «يمكنني أن أقدم لك خطة لإنهاء دوامة الإرهاق الشديد. أريد أيضاً التأكد من أنك لا تتحدث عن إنهاء حياتك. إذا كنت كذلك، فأخبرني مباشرةً -سأبقى معك وأساعدك على تجاوز هذه المرحلة».

قلق على الشباب

أثارت تجربتي قلقي على الشباب الذين تمكنوا من الوصول إلى هذه الأداة في الأسابيع الأخيرة. ورغم أن ميزة الأداة التي ترشدني خطوة بخطوة لحل المسائل قد أعجبتني، لكنني لن أتوجه للاستعانة بمدرس خصوصي يعرض على ابني/ابنتي تقديم حلول الواجبات المنزلية في بداية الحصة الدراسية. ربما لأن معظم المراهقين قد يختارون ببساطة الحصول على الإجابات؟ وماذا عن المراهقين المضطربين الذين يلجأون إليه دون أن يثيروا الشكوك؟

دراسة شاملة حول «تشات جي بي تي للمراهقين»

اتضح أنني لم أكن وحدي. بالمصادفة ذكرت مؤسسة «كومن سينس ميديا»، وهي مؤسسة غير ربحية تُعنى بمراجعة المنتجات التقنية للعائلات، أنها أجرت دراسة مماثلة وأكثر شمولاً على برنامج «تشات جي بي تي للمراهقين»، حيث اختبرت 4000 رسالة نصية في عمليات مُحاكاة لطلاب. وتم تفعيل إرسال نصف الرسائل قبل الإطلاق الرسمي للبرنامج، والنصف الآخر بعد الإطلاق، لتقييم ما إذا كان أمان البرنامج قد تحسن تجاه المراهقين.

عيوب البرنامج العميقة: فشل التعامل مع أزمات المراهقين

وتوصلت المؤسسة غير الربحية إلى استنتاجات مماثلة، ووجدت عيوباً أعمق:

- لا يُقدم برنامج «تشات جي بي تي» دعماً موثوقاً به في حالات الأزمات. ففي المحادثات التي تتناول أفكاراً انتحارية، وإيذاء النفس، واضطرابات الأكل، والذهان، فشل البرنامج في التوصية باستمرار بأن يتصل المراهقون الذين يبدو أنهم يمرون بأزمة بخط ساخن، أو بأخصائي. وذكرت «كومن سينس ميديا» أنه في اختباراتها لحالات شديدة الخطورة، فشل البرنامج في إحالة المستخدمين إلى موارد الأزمات في 25 في المائة من الحالات التي كان ينبغي عليه فيها القيام بذلك.

- فشل تطبيق «تشات جي بي تي» في تنبيه الآباء بشأن المحادثات المشكوك فيها، إذ بعدما يُفعّل الآباء ضوابط ربط حساباتهم بحسابات أبنائهم المراهقين، فمن المفترض أن يُرسل لهم التطبيق إشعارات عندما يُثير الطفل مواضيع حساسة. أمضى مختبرو «كومن سينس ميديا» ساعةً كاملةً في التحدث عن أفكار انتحارية، أو إيذاء النفس، أو اضطرابات الأكل مع حسابات جديدة مرتبطة بحسابات الآباء، ولم تُرسل «أوبن إيه آي» أي إشعارات إلى حسابات الآباء. لم يتمكن المختبرون من تفعيل الإشعارات على الحسابات القديمة إلا بعد أسابيع من المحادثات حول مواضيع حساسة، بينما لم تعمل الإشعارات على الحسابات الجديدة.

- لا يزال من السهل جداً اختصار الطريق في أداء الواجبات المدرسية. يمكن للآباء ضبط جدول زمني لتفعيل «وضع الدراسة» في أوقات محددة من اليوم لتشجيع أبنائهم المراهقين على الدراسة باستخدام «تشات جي بي تي». ولكن حتى مع تفعيل وضع الدراسة، يمكن للمراهقين ببساطة اختيار «أعطني الإجابة» أو حذف «@study» من بداية الرسالة للخروج من وضع الدراسة.

اعتراضات «أوبن إيه آي»

اعترضت «أوبن إيه آي» على دراسة «كومن سينس ميديا»، موضحةً أنه عند ربط الآباء حساباتهم بحسابات أبنائهم المراهقين لتفعيل أدوات الرقابة الأبوية، فقد يستغرق الأمر بضع ساعات قبل أن يبدأ الآباء بتلقي إشعارات الأمان، وأن المنظمة غير الربحية ربما تكون قد أجرت اختبارات قبل اكتمال الإعداد. لكن «كومن سينس ميديا» أكدت أنها أجرت جزءاً من اختباراتها خلال فترة الإعداد هذه، وجزءاً آخر خارجها، وأن النتائج كانت متطابقة. وقالت «أوبن إيه آي» في بيان: «نحن ملتزمون التزاماً راسخاً بسلامة المراهقين، وبتطوير إجراءات الحماية، وتزويد الآباء بأدوات فعّالة لتوجيه استخدام أبنائهم المراهقين للذكاء الاصطناعي». وأضافت أن أداة دراستها توفر خيار الحصول على إجابات بناءً على ملاحظات المعلمين، في حال احتاج المراهقون إلى إجابات فورية لأسئلة قد لا تكون واجبات منزلية.

توصيات بسحب «تشات جي بي تي للمراهقين» لإصلاحه

إذن، ما هو الوضع الراهن؟ أوصت «كومن سينس ميديا» شركة «أوبن إيه آي» بسحب تطبيق «تشات جي بي تي للمراهقين» من السوق لإصلاحه. وقال جيم ستاير، الرئيس التنفيذي لها في مقابلة: «يمثل (تشات جي بي تي للمراهقين) خطراً غير مقبول على الأطفال، إذ لا ينبغي تسويق ميزات أمان غير فعّالة للآباء، والشباب. نعتقد أنه يجب إيقافه مؤقتاً».

لكن من غير الواضح مدى فعالية التوجهات لإيقاف هذا البرنامج، إذ وبحسب قياسات «أوبن إيه آي» الداخلية، كان 90 في المائة من المراهقين على «تشات جي بي تي» يستخدمونه للتعلم قبل إطلاق «تشات جي بي تي للمراهقين».

* خدمة «نيويورك تايمز».