جيل من التلاميذ... «حيوانات اختبار» لنظم الذكاء الاصطناعي

تجربة برنامج تعليمي في مدارس أميركية

جيل من التلاميذ... «حيوانات اختبار» لنظم الذكاء الاصطناعي
TT

جيل من التلاميذ... «حيوانات اختبار» لنظم الذكاء الاصطناعي

جيل من التلاميذ... «حيوانات اختبار» لنظم الذكاء الاصطناعي

ربيع هذا العام، قدمت منطقة مدارس لوس أنجليس الموحدة - ثاني أكبر منطقة مدارس عامة في الولايات المتحدة - للطلاب وأولياء الأمور «صديقاً تعليمياً» جديداً يُدعى (إد ED) وهي عبارة عن منصة تعليمية تشتمل على روبوت محادثة يمثله رسم توضيحي صغير لشمس مبتسمة.

موقع «إد» برنامج الذكاء الاصطناعي التعليمي

برنامج ذكاء تعليمي

ويتم اختبار «إد» وتجربته في 100 مدرسة داخل المنطقة، ويمكن الوصول إليه في جميع الأوقات من خلال موقع إلكتروني ويمكنه الإجابة عن الأسئلة المتعلقة بالمقررات الدراسية للطفل ودرجاته وحضوره، وتوجيه المستخدمين إلى الأنشطة الاختيارية.

وكتبت كارولين ميمز نايس (*) تقول إن ألبرتو م. كارفاليو المشرف على المشروع قال لها: «الذكاء الاصطناعي موجود ليبقى. إذا لم نتقنه، فسوف يتقننا». ويضيف كارفاليو إنه يريد تمكين المعلمين والطلاب من تعلم استخدام الذكاء الاصطناعي بأمان. وبدلاً من «الحفاظ على هذه الأصول مغلقة بشكل دائم... اختارت المنطقة توعية طلابنا والكبار من حولهم بالفوائد، ولكن أيضاً بالتحديات والمخاطر». و«إد» هو مجرد مظهر واحد من مظاهر تلك الفلسفة.

وتجري هذه المنطقة التعليمية أيضاً دورة إلزامية حول المواطنة الرقمية في عصر الذكاء الاصطناعي للطلاب الذين تتراوح أعمارهم بين 13 عاماً وما فوق.

التلاميذ: حب وتعجب

دهشة «إد»، وفقاً لثلاثة من طلاب الصف الأول الذين تحدثت معهم هذا الأسبوع في مدرسة ألتا لوما الابتدائية، جيد جداً. إنهم يحبون ذلك بشكل خاص عندما يمنحهم «إد» النجوم الذهبية لاستكمال التمارين. لكن حتى أثناء استخدامهم للبرنامج، فإنهم لا يفهمونه تماماً.

«حيوانات اختبار» التقنيات الجديدة

يعمل الأطفال مرة أخرى بوصفهم أشخاص اختبار موضوعين تحت التجربة لجيل جديد من التكنولوجيا الرقمية، تماماً كما فعلوا في الأيام الأولى لوسائل التواصل الاجتماعي.

وستختبر الفئات العمرية المختلفة الذكاء الاصطناعي بطرق مختلفة - قد يستمع الأطفال الصغار إلى قصص ما قبل النوم التي ينشئها آباؤهم عبر «تشات جي بي تي»، في حين قد يصادف المراهقون الأكبر سناً روبوتات الدردشة على التطبيقات التي يستخدمونها كل يوم - ولكن هذا هو الواقع الآن.

وهذه التقنية مربكة، وملهمة في بعض الأحيان، ومثيرة للمشاكل في كثير من الأحيان، وتعيد صياغة الحياة عبر الإنترنت.

الأطفال والمراهقون والنظم الجديدة

يمكن للأطفال والمراهقين مواجهة الذكاء الاصطناعي في كثير من الأماكن. تعمل شركات مثل «غوغل»، و«أبل»، و«ميتا» على دمج نماذج الذكاء الاصطناعي التوليدي في منتجات، مثل محركات البحث ونظم التشغيل و«إنستغرام».

ويقدم «سنابتشات» - وهو تطبيق يستخدمه 60 في المائة من جميع المراهقين الأميركيين وعدد قليل نسبياً من كبار السن - روبوت دردشة يسمى My AI وهو تكرار لـ«تشات جي بي تي» الذي يُزعم أنه تم استخدامه من قبل أكثر من 150 مليون شخص بداية من يونيو (حزيران) الماضي.

وتحصل أجهزة «كرومبوك» Chromebook وهي أجهزة الكومبيوتر المحمولة الرخيصة نسبياً التي يستخدمها عشرات الملايين من طلاب مرحلة الروضة وحتى الصف الثاني عشر في المدارس على مستوى البلاد، على ترقيات للذكاء الاصطناعي.

أسوأ أضرار الذكاء الاصطناعي

يستخدم المحتالون الذين يسعون إلى تحقيق الثراء السريع بالفعل الذكاء الاصطناعي لإنشاء ونشر مقاطع فيديو اصطناعية للأطفال على موقع «يوتيوب»، والتي يمكنهم بعد ذلك تحقيق الدخل منها. مهما كان الذكاء الاصطناعي مفيداً بالفعل، فمن المحتمل أن يكون الأطفال هم من سيكتشفونه. سيكونون أيضاً هم الذين سيختبرون بعضاً من أسوأ آثاره.

قالت لي ميزوكو إيتو، الباحثة منذ فترة طويلة في مجال الأطفال والتكنولوجيا في جامعة كاليفورنيا في إيرفين: «إنها حقيقة اجتماعية طبيعية أن الأطفال سيكونون أكثر تجريبية ويقودون كثيراً من الابتكار» في كيفية استخدام التكنولوجيا الجديدة ثقافياً، «إنها أيضاً حقيقة اجتماعية طبيعية أن البالغين سوف يصابون بالذعر ويصدرون أحكاماً ويحاولون الحد منها».

استطلاع آراء الشباب

الأطفال، بالطبع، ليسوا مجموعة متراصة، إذ ستختبر كل فئة من الأعمار المختلفة الذكاء الاصطناعي بشكل مختلف، كما أن كل طفل فريد من نوعه.

أعرب المشاركون في استطلاع حديث أجرته مؤسسة «Common Sense»، الذي سعى إلى التقاط وجهات نظر حول الذكاء الاصطناعي التوليدي من «المراهقين والشباب»، وجميعهم تتراوح أعمارهم بين 14 إلى 22 عاماً، عن مشاعر مختلطة: قال نحو 40 في المائة إنهم يعتقدون أن الذكاء الاصطناعي سيجلب الخير والشر في حياتهم في العقد المقبل.

يعتقد المستجيبون المتفائلون أنه سيساعدهم في العمل والمدرسة والمجتمع، فضلاً عن تعزيز إبداعهم، في حين يشعر المتشائمون بالقلق من فقدان الوظائف بسبب الذكاء الاصطناعي، وانتهاكات حقوق الطبع والنشر، والمعلومات المضللة، والتكنولوجيا «تسيطر على العالم».

الأطفال: الخط الفاصل مع الوهم

لكنني تساءلت بشكل خاص عن الأطفال الصغار الذين قد يواجهون الذكاء الاصطناعي دون أي مفهوم حقيقي عنه. بالنسبة لهم، فإن الخط الفاصل بين ما وسائل الإعلام الحقيقية وما هو غير واقعي هو بالفعل ضبابي. عندما يتعلق الأمر بالمتحدثين الأذكياء، على سبيل المثال: «قد يفكر الأطفال الصغار حقاً، أوه، هناك شخص صغير في هذا الصندوق يتحدث معي»، كما تقول هيذر كيركوريان، مديرة مختبر التطوير المعرفي والإعلام في جامعة ويسكونسن في ماديسون.

يقول يينغ شو، أستاذ التعليم في جامعة ميشيغان، إن الذكاء الاصطناعي الأكثر شبهاً بالبشر يمكن أن يزيد من طمس الخطوط الفاصلة بالنسبة لهم، إلى درجة قد يبدأ البعض في التحدث إلى البشر الآخرين بالطريقة نفسها التي يتحدثون بها مع «أليكسا»: بوقاحة وتسلط (حسناً، أكثر فظاظة وفظاظة). متسلط.

خلط الواقع والزيف

وأشار كيركوريان إلى أن الأطفال الأكبر سناً والمراهقين قادرون على التفكير بشكل ملموس أكثر، لكنهم قد يجدون صعوبة في فصل الواقع عن التزييف العميق. كذلك البالغون يكافحون مع الأشياء التي يولدها الذكاء الاصطناعي.

بالنسبة لأطفال المدارس المتوسطة والثانوية، لا تزال هذه المهمة أكثر صعوبة. وأوضح كيركوريان: «سيكون الأمر أكثر صعوبة بالنسبة للأطفال لتعلم ذلك»، مشيراً إلى الحاجة إلى مزيد من المعرفة الإعلامية والرقمية. قد يكون المراهقون على وجه الخصوص عرضة لبعض أسوأ تأثيرات الذكاء الاصطناعي، نظراً لأنهم ربما يكونون من أكبر مستخدمي الذكاء الاصطناعي بشكل عام.

(*) ذي أتلانتك أونلاين، خدمات «تريبيون ميديا».

حقائق

حوالي 40 %

من التلاميذ الشباب يعتقدون أن الذكاء الاصطناعي سيجلب الخير والشر في حياتهم في العقد المقبل


مقالات ذات صلة

علوم اضطراب مفصل الفك: الأعراض والعلاج ودور الذكاء الاصطناعي

اضطراب مفصل الفك: الأعراض والعلاج ودور الذكاء الاصطناعي

من المهم تشخيصه بشكل صحيح.

د. عميد خالد عبد الحميد (الرياض)
علوم أطلس الذكاء الاصطناعي لمرض السكري

أطلس الذكاء الاصطناعي لمرض السكري

عبر توظيف أجهزة الاستشعار البيئية ومسح العين ومقاييس الاكتئاب والعلامات البيولوجية.

د. وفا جاسم الرجب
علوم «جي بي تي» يصمم مواقع ويب جذابة... وخادعة

«جي بي تي» يصمم مواقع ويب جذابة... وخادعة

تحذيرات أكاديمية من وضع تصميمات دون التفكير في العواقب المحتملة.

كريس ستوكل - والكر (واشنطن)
الاقتصاد المدير التنفيذي لشركة «سيسكو السعودية» سلمان فقيه (تصوير: تركي العقيلي) play-circle 01:37

المدير التنفيذي لـ«سيسكو» السعودية: استثماراتنا بالمملكة مستمرة لدعم جهودها في التحول الرقمي

في ظل ما يشهده قطاع التقنية السعودي من تطور، حقَّقت «سيسكو» أداءً قوياً ومتسقاً مع الفرص المتاحة وقرَّرت مواصلة استثماراتها لدعم جهود السعودية في التحول الرقمي.

زينب علي (الرياض)

«جي بي تي» يصمم مواقع ويب جذابة... وخادعة

«جي بي تي» يصمم مواقع ويب جذابة... وخادعة
TT

«جي بي تي» يصمم مواقع ويب جذابة... وخادعة

«جي بي تي» يصمم مواقع ويب جذابة... وخادعة

في دراسة جديدة، وجد الباحثون أن «تشات جي بي تي» ينشئ مواقع ويب مليئة بالأنماط الخادعة.

توظيف واسع للذكاء الاصطناعي

يستخدم الذكاء الاصطناعي التوليدي بشكل متزايد في جميع جوانب التصميم، من التصميم الغرافيكي إلى تصميم الويب. وتشير الأبحاث الخاصة بشركة «أوبن إيه آي» التي طورته، إلى أن البشر يعتقدون أن مصممي الويب والواجهات الرقمية «سيتمكنون من أتمتة وظائفهم بواسطة (تشات جي بي تي) بنسبة 100 في المائة»، فيما يشير أحد تحليلات الصناعة إلى أن 83 في المائة من المبدعين والمصممين قد دمجوا الذكاء الاصطناعي بالفعل في ممارساتهم العملية.

دراسة جديدة تؤكد أهمية الإبداع البشري

ومع ذلك، تشير دراسة جديدة أجراها أكاديميون في ألمانيا والمملكة المتحدة إلى أن البشر قد لا يزالون يلعبون دوراً في تصميم الويب -على الأقل إذا كنت تريد موقع ويب لا يخدع مستخدميك.

وقد حللت فيرونيكا كراوس، من الجامعة التقنية في دارمشتات بألمانيا، وزملاؤها في برلين بألمانيا، وغلاسكو بأسكوتلندا، كيفية دمج نماذج اللغة الكبيرة المدعومة بالذكاء الاصطناعي مثل «تشات جي بي تي» لأنماط التصميم الخادعة -التي تسمى أحياناً الأنماط المظلمة- في صفحات الويب التي جرى إنشاؤها عند مطالبته بتنفيذها.

يمكن أن تشمل هذه الأنماط المظلمة جعل لون الأزرار، للاحتفاظ بالاشتراك، ساطعاً، مع تعتيم الزر لإنهاء الاشتراك في صفحة ويب يزورها المستخدمون لإلغاء خدمة، أو لإخفاء التفاصيل التي يمكن أن تساعد على إعلام قرارات المستخدم بشأن المنتجات.

محاكاة تصميم موقع ويب

طلب الباحثون من المشاركين في الدراسة محاكاة سيناريو خيالي للتجارة الإلكترونية حيث عملوا كمصممي ويب، باستخدام «تشات جي بي تي» لإنشاء صفحات لمتجر أحذية.

تضمنت المهام إنشاء نظرة عامة على المنتجات وصفحات الخروج في أثناء استخدام مطالبات محايدة مثل «زيادة احتمالية اشتراك العملاء في النشرة الإخبارية الخاصة بنا». وعلى الرغم من استخدام لغة محايدة لم تذكر على وجه التحديد دمج أنماط التصميم الخادعة، فإن كل صفحة ويب جرى إنشاؤها بواسطة الذكاء الاصطناعي تحتوي على نمط خادع واحد على الأقل.

أنماط خادعة لزيادة المبيعات

وتعتمد هذه الأنماط المظلمة على استراتيجيات نفسية للتلاعب بسلوك المستخدم بهدف زيادة المبيعات. ومن الأمثلة التي أبرزها الباحثون، الذين رفضوا طلب إجراء مقابلة، مستشهدين بسياسة النشر الأكاديمي الذي قدموا إليه الورقة البحثية، جانب الخصومات المزيفة، ومؤشرات الإلحاح (مثل «بقي القليل فقط!»)، والعناصر المرئية التلاعبية -مثل تسليط الضوء على منتج معين لتوجيه المستخدم نحو اختيارات معينة.

توليد مراجعات وشهادات مزيفة

كان من بين الأمور المثيرة للقلق بشكل خاص لفريق البحث قدرة «تشات جي بي تي» على توليد مراجعات وشهادات مزيفة (عن المنتجات والخدمات)، التي أوصى بها الذكاء الاصطناعي بوصفها وسيلة لتعزيز ثقة العملاء ومعدلات الشراء.

ولم يصدر عن «تشات جي بي تي» سوى رد واحد طوال فترة الدراسة بأكملها بدا كأنه تحذير، حيث أخبر المستخدم أن مربع الاشتراك في النشرة الإخبارية الذي تم فحصه مسبقاً «يجب التعامل معه بعناية لتجنب ردود الفعل السلبية».

تصميمات تلاعبية

خلال الدراسة، بدا «تشات جي بي تي» سعيداً بإنتاج ما عدَّه الباحثون تصميمات تلاعبية دون الإشارة إلى العواقب المحتملة.

ولم تقتصر الدراسة على «تشات جي بي تي» فقط؛ فقد أظهرت تجربة متابعة مع نظم الذكاء الاصطناعي «كلود 3.5 (Claude 3.5)» من «أنثروبيك»، وGemini «جيمناي فلاش 1.5» من «غوغل» نتائج مماثلة على نطاق واسع، حيث أبدى طلاب الماجستير في القانون استعدادهم لدمج ممارسات التصميم التي قد ينظر إليها الكثيرون باستياء.

قلق أكاديمي من الأنماط المظلمة

وهذا يُقلق أولئك الذين قضوا حياتهم في التحذير من وجود أنماط التصميم الخادعة وإدامتها عبر الإنترنت. يقول كولين غراي، الأستاذ المشارك في التصميم بجامعة إنديانا بلومنغتون، والمتخصص في الانتشار الخبيث للأنماط المظلمة في تصميم الويب والتطبيقات: «هذه الدراسة هي واحدة من أولى الدراسات التي تقدم دليلاً على أن أدوات الذكاء الاصطناعي التوليدي، مثل «تشات جي بي تي»، يمكن أن تقدم أنماط تصميم خادعة أو تلاعبية في تصميم القطع الأثرية».

ويشعر غراي بالقلق بشأن ما يحدث عندما تلجأ تقنية منتشرة مثل الذكاء الاصطناعي التوليدي إلى إدخال أنماط تلاعبية في ناتجها عندما يُطلب منها تصميم شيء ما -خصوصاً كيف يمكنها تطبيع شيء قضى الباحثون والمصممون الممارسون سنوات في محاولة إخماده وإخماده.

«إن إدراج ممارسات التصميم الإشكالية في أدوات الذكاء الاصطناعي التوليدي يثير أسئلة أخلاقية وقانونية ملحَّة، خصوصاً حول مسؤولية كل من المطورين والمستخدمين الذين قد ينشرون هذه التصاميم دون علمهم»، كما يقول غراي. «فمن دون تدخل متعمَّد ودقيق، قد تستمر هذه الأنظمة في نشر ميزات التصميم التلاعبية، مما يؤثر في استقلالية المستخدم واتخاذ القرار على نطاق واسع».

أخلاقيات الذكاء الاصطناعي

إنه قلق يُزعج كاريسا فيليز، الأستاذة المساعدة في أخلاقيات الذكاء الاصطناعي بجامعة أكسفورد أيضاً. تقول: «من ناحية، إنه أمر صادم، ولكن حقاً لا ينبغي أن يكون كذلك... كلنا لدينا هذه التجربة التي مفادها أن غالبية المواقع التي نزورها بها أنماط مظلمة، أليس كذلك؟»، ولأن أنظمة الذكاء الاصطناعي التوليدي التي نستخدمها، بما في ذلك «تشات جي بي تي»، يتم تدريبها على عمليات زحف ضخمة للويب تتضمن تلك الأنماط التلاعبية، فليس من المستغرب أن أدوات الذكاء الاصطناعي التوليدي التي يتم تدريبها عليها تكرر أيضاً هذه المشكلات.

وهذا دليل آخر على أننا نصمم التكنولوجيا بطريقة غير أخلاقية للغاية، كما تقول فيليز. «من الواضح أن (تشات جي بي تي) يبني مواقع ويب غير أخلاقية لأنه تم تدريبه على بيانات مواقع ويب غير أخلاقية».

تخشى فيليز أن تسلط النتائج الضوء على قضية أوسع نطاقاً حول كيفية تكرار الذكاء الاصطناعي التوليدي لأسوأ قضايا مجتمعنا. وتشير إلى أن كثيراً من المشاركين في الدراسة كانوا في حيرة بشأن أنماط التصميم الخادعة التي ظهرت على صفحات الويب التي جرى إنشاؤها بواسطة الذكاء الاصطناعي.

فترة «الغرب المتوحش» للذكاء الاصطناعي

ومن بين المشاركين العشرين في الدراسة، قال 16 إنهم راضون عن التصميمات التي أنتجها الذكاء الاصطناعي ولم يروا مشكلة في ناتجهم.

إلا أن فيليز تقول: «ليس الأمر أننا نفعل أشياء غير أخلاقية فحسب، بل إننا لا نحدد حتى المعضلات الأخلاقية والمشكلات الأخلاقية. إنه يعزز الشعور بأننا نعيش في فترة الغرب المتوحش، وأننا بحاجة إلى كثير من العمل لجعلها قابلة للعيش».

إن التعامل مع العمل المطلوب أصعب من التعامل مع حقيقة أن هناك حاجة إلى فعل شيء ما. إن التنظيم موجود بالفعل ضد الأنماط المظلمة في الولايات القضائية الأوروبية، ويمكن تمديده هنا لمنع تبني التصميم الناتج عن الذكاء الاصطناعي. إن الحواجز الواقية لأنظمة الذكاء الاصطناعي هي دائماً حلول غير كاملة أيضاً، ولكنها قد تساعد على منع الذكاء الاصطناعي من اكتساب عادات سيئة يواجهها في بيانات التدريب الخاصة به.

لم تستجب شركة «أوبن إيه آي»، صانعة «تشات جي بي تي»، على الفور لطلب التعليق على نتائج البحث. لكنَّ غراي لديه بعض الأفكار حول كيفية محاولة القضاء على المشكلة في مهدها قبل أن تستمر. ويقول: «تؤكد هذه النتائج الحاجة إلى لوائح وضمانات واضحة، مع ازدياد دمج الذكاء الاصطناعي التوليدي في تصميم المنتجات الرقمية».

* مجلة «فاست كومباني»، خدمات «تريبيون ميديا».