برنامج الدردشة الذكي «الصديق» لطلاب المدارس العامة... يسقط

حرمان نصف مليون تلميذ أميركي من خدماته بعد انهيار الشركة المطورة له

ألبرتو كارفاليو المشرف على مدارس لوس أنجليس يتحدث عن نظام الذكاء الاصطناعي «إد»
ألبرتو كارفاليو المشرف على مدارس لوس أنجليس يتحدث عن نظام الذكاء الاصطناعي «إد»
TT

برنامج الدردشة الذكي «الصديق» لطلاب المدارس العامة... يسقط

ألبرتو كارفاليو المشرف على مدارس لوس أنجليس يتحدث عن نظام الذكاء الاصطناعي «إد»
ألبرتو كارفاليو المشرف على مدارس لوس أنجليس يتحدث عن نظام الذكاء الاصطناعي «إد»

استأجرت مدارس لوس أنجليس شركة ناشئة لبناء نظام دردشة تعليمي بالذكاء الاصطناعي لأولياء الأمور والطلاب. وبعد بضعة أشهر، انهارت الشركة.

موقع برنامج «إد»

برنامج «سيغير التعليم»

في خطاب ألقاه في أبريل (نيسان)، قام ألبرتو كارفاليو، المشرف على مدارس لوس أنجليس، بالترويج لنظام الذكاء الاصطناعي برنامج الدردشة الآلي الذي قال إنه «سيغير التعليم».

كان من المفترض أن تكون المنصة المسماة «إد» Ed «صديقاً تعليمياً» لنصف مليون طالب في المدارس العامة في لوس أنجليس (انظر «الشرق الأوسط» 19 - 6 - 2024).

في الدردشات المكتوبة، كان «إد» يوجّه الطلاب نحو الموارد الأكاديمية وموارد الصحة العقلية، أو يخبر أولياء الأمور ما إذا كان أطفالهم قد حضروا الفصل في ذلك اليوم، ويقدم أحدث نتائج اختباراتهم. وسيكون «إد» أيضاً قادراً على اكتشاف المشاعر والاستجابة لها مثل العداء والسعادة والحزن.

وقد تحدث ألبرتو كارفاليو، مشرف المنطقة، عن «إد» بعبارات جريئة. وفي ذلك الخطاب للترويج للبرنامج، ووعد بأنه «سيعمل على إضفاء الطابع الديمقراطي» و«تحويل التعليم». ورداً على المشككين في الذكاء الاصطناعي، تساءل: «لماذا لا نسمح لهذا النهج التعليمي الترفيهي بجذب انتباههم (الطلاب) وجذب انتباههم، ويكون بمثابة الحافز لهم؟».

قالت إحدى الفتيات في الصف السابع التي اختبرت برنامج الدردشة الآلي - الذي تجسّده شمس مبتسمة متحركة -: «أعتقد أن (إد) يحبني»، كما قال السيد كارفاليو.

انهيار شركة الذكاء الاصطناعي

وافقت لوس أنجليس على دفع ما يصل إلى 6 ملايين دولار لشركة «أل هير» AllHere الناشئة لتطوير «إد» Ed، وهو جزء صغير من الميزانية السنوية للمنطقة البالغة 18 مليار دولار.

لكن بعد شهرين فقط من العرض الذي قدمه كارفاليو في أبريل أثناء مؤتمر تكنولوجي مبهر، تركت مؤسسة الشركة ورئيستها التنفيذية منصبها، ومنحت معظم موظفيها إجازة. ونشرت على موقعها على الإنترنت أن الإجازات كانت بسبب «وضعنا المالي الحالي».

مخاطر الاستثمار

وتقوم الشركات بتسويق نفسها بشكل كبير للمدارس، التي تنفق عشرات المليارات من الدولارات سنوياً على التكنولوجيا. لكن الانهيار المفاجئ لـ«أل هير» يوضح بعض مخاطر استثمار أموال دافعي الضرائب في الذكاء الاصطناعي، وهي تكنولوجيا ذات إمكانات هائلة، ولكن سجلها ضئيل، خاصة عندما يتعلق الأمر بالأطفال.

مشكلات خصوصية التلاميذ

هناك العديد من المشكلات المعقدة، بما في ذلك خصوصية بيانات الطلاب ودقة أي معلومات مقدمة عبر برامج الدردشة الآلية. و«إد» قد يتعارض أيضاً مع اهتمام متزايد آخر لقادة التعليم وأولياء الأمور، وهو تقليل الوقت الذي يقضيه الأطفال أمام الشاشات.

إلا أن بريت فوغان، المتحدث باسم منطقة المدارس في لوس أنجليس، ميّز بين الطلاب المشتتين «الذين يستهلكون أوقاتهم بالهواتف أثناء اليوم الدراسي» والطلاب الذين يستخدمون أجهزة الكومبيوتر المحمولة أو الأجهزة اللوحية للتفاعل مع منصة «إد» التي قال إنها «تهدف إلى توفير مسارات تعليمية فردية لمعالجة تعلم الطلاب».

الانتظار والترقب أفضل

وقالت ناتالي ميلمان، أستاذة تكنولوجيا التعليم في جامعة جورج واشنطن، إنها تنصح المدارس في كثير من الأحيان باتباع نهج «الانتظار والترقب» لشراء التكنولوجيا الجديدة. بينما وقالت إنها تستحق الاستخدام والاختبار، وحذّرت من أن المدارس «تتحدث بشكل غامض عن هذه الأداة المجيدة. ونحن في حاجة إلى التأكد من أننا ننتقد ما يمكن أن تفعله، واحتمالية الضرر والتضليل».

«الصديق التعليمي» كان تجريبياً

وكان من المفترض أن يكون «إد» «صديقاً تعليمياً» لنصف مليون طالب في المدارس العامة في لوس أنجليس. و قال أنتوني أغيلار، رئيس التعليم الخاص بالمنطقة، إنه على الرغم من انهيار «أل هير»، ظلت النسخة المبتورة من «إد» متاحة للعائلات في 100 مدرسة «ذات أولوية» بالمنطقة، والتي يعاني طلابها الصعوبات الأكاديمية والحضور.

لكن هذا البرنامج ليس برنامج دردشة تفاعلياً متطوراً. إنه موقع ويب يجمع المعلومات من العديد من التطبيقات الأخرى التي تستخدمها المنطقة لتتبع الواجبات والدرجات وخدمات الدعم. ويمكن للطلاب الذين يستخدمون الموقع أيضاً إكمال بعض الأنشطة التعليمية على المنصة، مثل المسائل الرياضية.

وقال السيد أغيلار إن برنامج «إد» الذي روّج له السيد كارفاليو تم اختباره مع الطلاب الذين تبلغ أعمارهم 14 عاماً فما فوق، ولكن تم إيقافه عن العمل لتحسين كيفية إجابته عن أسئلة المستخدم.

توقف تطوير النظام

وكان الهدف هو أن يكون برنامج الدردشة الآلي متاحاً في سبتمبر (أيلول) المقبل، وهو تحدٍ نظراً لأنه كان من المفترض أن توفر «أل هير» الدعم الفني المستمر والتدريب لموظفي المدرسة، وفقاً لعقدها المبرم مع المنطقة. وقالت المنطقة إنها تأمل أن يتم الاستحواذ على «أل هير» وأن يواصل المالك الجديد تقديم الخدمات.

واشتهرت الشركة بأنها تقدم رسائل نصية آلية من المدارس إلى العائلات. وقد ظهرت مؤسستها ورئيستها التنفيذية، جوانا سميث - غريفين، البالغة من العمر الآن 33 عاماً، في مجلة «فوربس» و«سي بي إس» وغيرهما من وسائل الإعلام، وقالت إنها باعتبارها معلمة سابقة كان طلابها غالباً ما يتغيبون، فقد أسست AllHere في عام 2016 للمساعدة في حل المشكلة. وبدا أن الرسائل النصية الآلية تواكب اللحظة التي بدأت فيها جائحة «كوفيد - 19»، وتحول التغيب المزمن عن العمل أزمة وطنية. وفي ربيع عام 2020، استحوذت شركة AllHere على التكنولوجيا التي طورها بيتر بيرغمان، الخبير الاقتصادي وخبير تكنولوجيا التعليم. وهي التي مكّنت المدارس من إرسال «دفعات» إلى أولياء الأمور عبر رسائل نصية حول الحضور والواجبات المفقودة والدرجات، وغيرها من القضايا.

وقالت الشركة حينها إنها ستوفر الذكاء الاصطناعي للمدارس مع إبقاء «الإنسان في الحلقة»؛ ما يعني أن المشرفين البشريين سيشرفون على الذكاء الاصطناعي لضمان السلامة والأمن - وهو اقتراح يحتمل أن يكون مكلفاً ويتطلب عمالة كثيفة.

عقبات التكنولوجيا المدرسية شائعة

وقال ستيفن أغيلار، أستاذ التعليم في جامعة جنوب كاليفورنيا الذي عمل سابقاً مطوراً للبرمجيات التعليمية - وهو ليس على صلة قرابة بالسيد أغيلار من مدارس لوس أنجليس - إن فشل جهود التكنولوجيا المدرسية الطموحة «مشكلة شائعة إلى حد ما»، بما في ذلك بعض المشروعات التي لم يتم تسليمها. وأضاف: «المناطق (التعليمية) لديها الكثير من الاحتياجات المعقدة والكثير من المخاوف المتعلقة بالسلامة». «لكن المشرفين عليها غالباً ما يفتقرون إلى الخبرة الفنية اللازمة لفحص ما يشترونه».

وليست هذه هي المرة الأولى التي تقوم فيها لوس أنجليس بـرهان كبير على تكنولوجيا التعليم، مع عوائد مشكوك فيها. فابتداءً من عام 2013، وتحت إشراف مشرف سابق، أنفقت المنطقة عشرات الملايين من الدولارات لشراء أجهزة «آيباد» محملة مسبقاً بمواد المنهج الدراسي، لكن الجهود شابتها مخاوف أمنية وحوادث فنية.

* ساهمت في الموضوع أيضاً سوزان سي بيتشي - خدمة «نيويورك تايمز»


مقالات ذات صلة

إطلاق مبادرة لتمكين الذكاء الاصطناعي في 100 شركة صغيرة ومتوسطة بالسعودية

الاقتصاد جانب من حضور ملتقى «بيبان 24» في العاصمة السعودية الرياض (واس)

إطلاق مبادرة لتمكين الذكاء الاصطناعي في 100 شركة صغيرة ومتوسطة بالسعودية

أطلقت الهيئة العامة للمنشآت الصغيرة والمتوسطة السعودية و«غوغل» مبادرة «SMB Lab»، بهدف تسريع تبني الذكاء الاصطناعي في الشركات الصغيرة والمتوسطة.

«الشرق الأوسط» (الرياض)
الاقتصاد جانب من اجتماع المجموعة التشاورية الإقليمية لمنطقة الشرق الأوسط وشمال أفريقيا بالرياض (ساما)

المجموعة التشاورية الإقليمية التابعة لمجلس الاستقرار المالي تجتمع في الرياض

انعقد اجتماع المجموعة التشاورية الإقليمية لمنطقة الشرق الأوسط وشمال أفريقيا، التابعة لمجلس الاستقرار المالي، في العاصمة السعودية الرياض.

«الشرق الأوسط» (الرياض)
تكنولوجيا أصبحت ثقة نحو 3 أرباع المستهلكين (72%) بالشركات أقل مقارنة بعام 2023 (أدوبي)

65 % من العملاء يشعرون بأن الشركات تتعامل مع بياناتهم باستهتار وتهوّر

تظهر دراسة جديدة لشركة «سايلزفورس» تراجع الثقة بالشركات لدى 72 في المائة من العملاء حول العالم.

نسيم رمضان (لندن)
يوميات الشرق براعم الذكاء الاصطناعي تفتحت في وادي الرافدين

براعم الذكاء الاصطناعي تفتحت في وادي الرافدين

لطالما كانت منطقتنا في طليعة التطورات العلمية والفكرية على مر العصور، إذ كانت بلاد ما بين النهرين، التي غالباً ما يُشار إليها باسم «مهد الحضارة»، مركزاً لأقدم…

د. عميد خالد عبد الحميد (لوس أنجليس)
تكنولوجيا بحسب الدراسة أظهرت نماذج الذكاء الاصطناعي أنها لا تتعلم بالفعل الحقائق الكامنة عن العالم (أدوبي)

دراسة جديدة: نماذج الذكاء الاصطناعي اللغوية تفتقر لفهم حقيقي للعالم

تشير دراسة حديثة إلى أن نماذج اللغة الكبيرة تفتقر إلى فهم حقيقي للعالم، إذ تتفوق في مهام ثابتة، لكنها تتعثر مع تغييرات بسيطة، ما يثير تساؤلات حول جدواها.

نسيم رمضان (لندن)

التهويل والهراء... وراء الحملات الدعائية للذكاء الاصطناعي

التهويل والهراء... وراء الحملات الدعائية للذكاء الاصطناعي
TT

التهويل والهراء... وراء الحملات الدعائية للذكاء الاصطناعي

التهويل والهراء... وراء الحملات الدعائية للذكاء الاصطناعي

لم تظهر هناك أبداً تقنية مصحوبة بهذا الهراء، مثل الذكاء الاصطناعي.

هراء مواكب للذكاء الاصطناعي

لماذا؟ الذكاء الاصطناعي هو تقدم هائل، ومُحول يحدث مرة واحدة في حياة عدة أجيال، ويحمل وعداً كبيراً للأعمال والمجتمع: كما كتب إريك جيه سيديل(*). وفي الوقت نفسه، يتمتع اقتصادنا الرأسمالي الحديث بمهارة فريدة في تحويل مثل هذه القفزات إلى دولارات، لا إلى قيمة، ضع في اعتبارك، بل إلى الدولارات الباردة.

بدايات الهراء: «علاج المستنقعات للكلى»

حتى قبل أن يصبح الذكاء الاصطناعي رائجاً، كان الهراء منتشراً في العالم دائماً. ففي سبعينات القرن التاسع عشر، ابتكر الدكتور سيلفستر أندرال كيلمر، طبيب العلاج بالمثل، Homeopathy، ما سماه «علاج جذور المستنقعات للكلى»، Swamp Root Kidney Cure، الذي تم تسويقه على أنه علاج شامل وشافٍ لمعظم الأمراض بكل أنواعها، مدَّعياً أن العلاج يمكن أن يحوِّل الأشخاص الضعفاء إلى أقوياء مرة أخرى.

الحقيقة هي أن المعلومات الكاذبة والمختلقة ليست شيئاً يمكننا القضاء عليه تماماً لأنها متوطنة في الحالة البشرية. وسواء كان الأمر يتعلق بعدم الرضا أبداً، أو الثقة المفرطة، أو العيش في ثقافة تشهد المبالغة في كل شيء، فإننا مبرمجون على الاستهلاك، وخلق الهراء بطريقة لا يمكن وقفها تقريباً.

الهراء... السمة البارزة في ثقافتنا

وكما ذكر الفيلسوف هاري فرانكفورت في كتابه الأكثر مبيعاً «عن الهراء»، On Bullshit، فإن «إحدى السمات البارزة لثقافتنا هي وجود كثير من الهراء».

هناك كثير منه لدرجة أننا نميل إلى قبوله على أنه واقعنا المقدّر. وبينما يكون الأفراد غالباً عُرضة للادعاءات الكاذبة في الحياة الخاصة، فإن عالم الأعمال يغرق أيضاً في بحر من الضوضاء التي لا قيمة لها.

تزويق الحقيقة

كيف يحدد الباحثون (نعم... العلماء يبحثون أيضا في الهراء!) الهراء؟ ليس كما قد تتوقع. وبدلاً من الكذب المتعمد، يشير الهراء من الناحية الفنية إلى التصريحات التي لا ترتبط بالواقع ببساطة. قد تكون هذه التصريحات صحيحة بالفعل، ولكن نظراً لأنها هراء، فلا توجد طريقة واضحة لمعرفة ذلك.

إن مقدمي الهراء هم الأشخاص الذين يحاولون رسم صورة معينة تناسب اهتماماتهم، دون النظر إلى ما إذا كان المحتوى صحيحاً أم زائفاً.

تسويق مؤسسي

هذا يقودنا إلى التسويق المؤسسي، خصوصاً في مجال الذكاء الاصطناعي. وهدف معظم برامج التسويق هو دعم سلوك الشراء، وإظهار النيات الحسنة العامة تجاه الشركة... وليس نشر معلومات دقيقة ومفصلة حول كيفية عمل المنتج أو الخدمة أو النتائج التي يحققها.

الآن، هناك لوائح تحكم الحقيقة في الإعلان، لكن الواقع هو أنه من السهل للغاية تقديم ادعاءات صحيحة جزئياً أو إلى حد ما.

أود أن أزعم أنه في أفضل الأحوال، فإن الهدف العام للتسويق هو تقديم أفضل النتائج الممكنة التي يمكنك تحقيقها باستخدام منتج بدلاً من النتيجة الحقيقية المتوقعة.

الحقيقة والضجيج مع الذكاء الاصطناعي

معلومات ناقصة: نظراً إلى التعقيد الفني للحلول المقدمة من نظم الذكاء الاصطناعي، لا توجد طريقة يمكن من خلالها لإعلان قصير أن ينقل معلومات كافية للمشتري المحتمل لتقييم الحل.

لسوء الحظ، غالباً ما لا تتمكن المناقشات والعروض التقديمية الأكثر تفصيلاً من شرح كيفية عمل أداة الذكاء الاصطناعي، خصوصاً بالنظر إلى أن كثيراً من علماء البيانات أنفسهم قد لا يفهمون تماماً كيف يتم إنشاء نتيجة ولّدها الذكاء الاصطناعي.

عود كاذبة وأضرار: قد يؤدي الخداع بالوعود الكاذبة والهراء في مجال الذكاء الاصطناعي إلى عواقب وخيمة تتراوح من الفشل في عالم الأعمال إلى الضرر المجتمعي واسع النطاق.

على سبيل المثال، يؤدي الاعتقاد بأن الذكاء الاصطناعي أكثر قدرة مما هو عليه بالفعل إلى اتخاذ قرارات سيئة في مجالات بالغة الأهمية مثل الرعاية الصحية والتمويل والمسائل القانونية. أو قد تؤدي المبالغة في تقدير الذكاء الاصطناعي في القوى العاملة إلى فقدان الوظائف في الصناعات حيث لا تزال المهارات البشرية ضرورية.

لكن الخبر السار هو أنك لست بحاجة إلى أن تصبح مهندس بيانات لتتعلم كيفية تقييم الذكاء الاصطناعي والأدوات المعقدة الأخرى. ما عليك سوى طرح الأسئلة الصحيحة. من المغري أن نتظاهر بأننا نفهم التكنولوجيا المعقدة حتى نتمكن من تجنب الكشف عن جهلنا، ولكن النهج الأفضل هو انتحال شخصية عالم واستجواب ادعاءات التسويق بدقة.

ادعاءات وتساؤلات حول الذكاء الاصطناعي

دعونا نُلقِ نظرة على بعض البيانات التسويقية النموذجية والأسئلة التي قد تطرحها:

ادعاء: «الذكاء الاصطناعي الخاص بنا يجعل التشخيصات الطبية أسرع وأكثر دقة من الأطباء».

تساؤلات:

- كيف تقاس السرعة والدقة؟ هل الطريقة التي تقاس بها الدقة دقيقة بالفعل؟

- هل يعمل الذكاء الاصطناعي في جميع الحالات ولأنواع المرضى، أم فقط مع مجموعات فرعية معينة؟ هل هو دقيق في الحالات النادرة كما هو في الحالات الشائعة؟ هل يعمل بشكل جيد، على سبيل المثال، مع النساء مثل الرجال، والأمريكيين من أصل أفريقي مثل القوقازيين (الأصل الأبيض)؟

- ما مقدار البيانات التي يستند إليها هذا الادعاء؟ إذا تم استخدام عينة صغيرة من البيانات، فلن تكون النتائج بالضرورة موثوقة للغاية.

ادعاء: «نحن نساعدك على توظيف الأشخاص بنسبة 20 في المائة أسرع من الطرق التقليدية.»

تساؤلات:

- ما الطرق «التقليدية» المحددة التي تقارن بها؟

- ما التكلفة لتحقيق هذه السرعة؟

- هل تؤدي هذه التقنية إلى تحيزٍ ضد الفئات المحمّية (على سبيل المثال، الأمريكيون من أصل أفريقي والنساء)؟

- هل يؤدي المرشحون الذين جرى تعيينهم بالفعل الوظيفة بشكل جيد أو أفضل من العملية السابقة؟ إذ إن مجرد إضافة السرعة إلى عملية اختيار رديئة لن يساعد كثيراً على تحسين أداء المنظمة.

ادعاء: «يساعدك برنامج المحادثة الآلي الخاص بنا على حل مشكلات العملاء بشكل أسرع وأسهل».

تساؤلات:

- أسرع من ماذا؟ إلى أي مدى؟

- أسهل لمن؟ شركتك أم العميل؟

- ما المشكلات التي يواجهها برنامج المحادثة الآلي؟ هل يؤدي هذا إلى زيادة إحباط العملاء؟

غالباً ما تجد أنه إذا لم يكن لدى البائع إجابة واضحة لأحد هذه الأسئلة، فإن الإجابة الفعلية لا تدعم الادعاء.

الطريقة العلمية لمحاربة الهراء

يكمن الحل لمكافحة المعلومات الكاذبة والهراء في الذكاء الاصطناعي والحياة بشكل عام، في التفكير مثل العلماء. الطريقة العلمية نفسها هي من أعظم النتاجات الفكرية في التاريخ، ولها تطبيق واضح في المعركة ضد الهراء.

في عام 1996، كتب العالم العظيم الراحل كارل ساغان، عن مدى أهمية وضرورة أن يفهم عامة الناس كيفية التفكير مثل العلماء وتقييم الادعاءات بشكل نقدي، حتى نتمكن من مكافحة انتشار المعلومات المضللة.

وبعد مرور 30 ​​عاماً على ما كتبه، لم يكن هذا الأمر أكثر أهمية من أي وقت مضى.

* اختصاصي بعلم النفس التنظيمي الصناعي والذكاء الاصطناعي - مجلة «فاست كومباني» - خدمات «تريبيون ميديا».