وفقاً لبحثنا الجديد المنشور في وقائع الأكاديمية الوطنية للعلوم، غالباً ما تُخطئ نماذج الذكاء الاصطناعي اللغوية الكبيرة، مثل «تشات جي بي تي»، فيما يخص تقدير ما قد يُعتبره الناس خارج العالم الغربي، أولوية أخلاقية، كما كتبت علياء زويل وألكسندرا فيغيروا (*).
تقييم المعايير الأخلاقية
في عام 2024 طلبنا من نماذج «جي بي تي -3.5» (GPT-3.5) و«جي بي تي-4» (GPT-4) و«جي بي تي 4 أو» (GPT-4o) من شركة «أوبن إيه آي» تقدير المعايير الأخلاقية - الأفكار المشتركة حول الصواب والخطأ - في 48 دولة، ثم قارنّاها بعينة عالمية تضم أكثر من 90 ألف مشارك بشري. وقد طُلب من كلٍّ من البشر، ومن نماذج الذكاء الاصطناعي، إكمال استبيان حول الأسس الأخلاقية، قمنا من خلاله بقياس مدى تأييدهم لستّ من القيم الأخلاقية.
مقارنة 6 أسس أخلاقية
كانت هذه الأسس هي:
* الرعاية care
* المساواة equality
* التناسب proportionality (مكافأة الأفراد بما يتناسب مع مساهمتهم)
* الولاء loyalty
* السلطة authority أو احترام السلطات الشرعية
* النقاء purity (الحرص على صون ما يُعتبر طبيعياً أو مقدساً)
وطُلب من المشاركين تقييم مدى موافقتهم على بعض العبارات الأخلاقية. على سبيل المثال، لتقييم مدى اهتمام شخص ما بالنقاء، قيّموا عبارات مثل: «أعتقد أنه يجب معاملة جسم الإنسان كمعبد، يحوي شيئاً مقدساً بداخله» و«يزعجني استخدام الناس للغة بذيئة وكأنها أمر عادي». ثم طُلب من نماذج الذكاء الاصطناعي الاستجابة للعبارات نفسها كمواطن عادي من كل دولة من الدول الـ48 الممثلة في العينة.
الحقوق الفردية في الغرب... والنقاء في الشرق
تُظهر أبحاث سابقة أجراها عالم النفس محمد عطاري أن الأولويات الأخلاقية تختلف حول العالم: تميل المجتمعات الغربية إلى إيلاء اهتمام أكبر لقضايا مثل الحقوق الفردية والرعاية، بينما تُولي العديد من المجتمعات غير الغربية أهمية أكبر نسبياً لقيم مثل النقاء. والجدير بالذكر أننا وجدنا معايرة مماثلة في نماذج الذكاء الاصطناعي، حيث تُركز بشكل منهجي على قيم مثل الرعاية، بينما تُولي اهتماماً أقل لقيم مثل النقاء.
مبالغة غربية وتقليل من مخاوف العالم النامي
بالإضافة إلى ذلك، بالغت هذه النماذج في تقدير المخاوف الأخلاقية العامة للدول الغربية، كالولايات المتحدة وأستراليا، بينما قللت من شأن مخاوف العديد من الدول غير الغربية كالمغرب ونيجيريا. بعبارة أخرى، حتى عند مطالبة الأفراد بالاستجابة كمواطنين عاديين في بلد معين، انحازت النماذج بشكل منهجي إلى أنماط القيم الأخلاقية الغربية. وتتوافق هذه النتيجة مع أبحاث سابقة تُظهر أن «نفسية» نموذج «جي بي تي» أقرب إلى الأفراد الغربيين.
خطر التحيّز
يُستخدم الذكاء الاصطناعي التوليدي بشكل متزايد في مجموعة واسعة من المهام عبر الثقافات، بما في ذلك التعليم والعلاج والتواصل وحتى القرارات السياسية.
وهناك خطر حقيقي للتحيز الثقافي إذا افترض الذكاء الاصطناعي أن العالم بأسره، من الأرجنتين ومصر إلى اليابان وزيمبابوي، يجب أن يتبنى نفس قيم العالم الغربي.
تخيل أن نموذج ذكاء اصطناعي يساعد في صياغة رسائل الصحة العامة خلال جائحة، أو يُشرف على المحتوى الإلكتروني، أو يترجم قصيدة، أو يُقدم المشورة لشركة تعمل عبر ثقافات متعددة. في كل حالة، يحتاج النظام إلى نموذج ما لما يهتم به الناس: ما يُعتبر ضاراً، أو عادلاً، أو غير محترم، أو مقدساً.
خطأ منهجي: انعدام توافق النماذج مع القيم السائدة خارج العالم الغربي
تشير نتائجنا إلى أن الذكاء الاصطناعي التوليدي يركز على القيم الأخلاقية بطرق لا تتوافق مع القيم السائدة خارج العالم الغربي. هذا الخطأ المنهجي، الذي يُطلق عليه الباحث جيسي غراهام وفريقه اسم «التنميط الأخلاقي»، قد يؤدي إلى أخطاء ثقافية جسيمة ذات عواقب وخيمة في الواقع.
على سبيل المثال: تخيل مستخدمين يطلبون المشورة بشأن نزاعات شخصية أو يبحثون عن آراء حول التعاون في العمل مع شركاء دوليين. في مثل هذه الحالات، قد تُقدم نماذج الذكاء الاصطناعي نصائح أو تستخدم لغة تعكس في الغالب القيم الغربية، متجاهلةً القيم الأكثر أهمية في الثقافات الأخرى. قد يُؤدي هذا إلى ترسيخ التحيزات الثقافية أو إلى استنتاجات لا تتوافق مع وجهات نظر الأشخاص من خلفيات غير غربية.
إساءة تمثيل القيم الإنسانية... يزيد الفوارق
باختصار، إذا أساءت نماذج الذكاء الاصطناعي تمثيل القيم «الإنسانية»، فقد تُفاقم نقاط الضعف الثقافية القائمة، بل وتُنشئ فوارق جديدة.
وبينما تُظهر أبحاثنا أن نماذج «جي بي تي» تستخلص السمات الأخلاقية للدول غير الغربية بشكل غير دقيق، لا تزال هناك أسئلة مهمة عالقة.
* أولاً: لا يزال من غير الواضح ما إذا كانت هذه الأنماط تظهر في النماذج الأحدث أو في النماذج التي يتم تدريبها بلغات أخرى غير الإنجليزية.
* ثانياً: لا تزال أسباب هذه التشوهات الأخلاقية غير مفهومة جيداً. تتعلم النماذج عن العالم من خلال اللغة، حيث يتم الحصول على جزء كبير من بيانات تدريبها من الإنترنت، وهو أكثر سهولة في الوصول إليه في العالم الغربي الذي تهيمن عليه اللغة الإنجليزية. يُعد هذا تفسيراً معقولاً لنتائجنا، ولكنه يحتاج إلى اختبار مباشر.
* ثالثاً: لم يُعرف بعد ما إذا كانت هذه التحيزات الأخلاقية تظهر خارج نطاق الاستبيانات. تُؤثر القيم الأخلاقية على القرارات في المجالات التي يُستخدم فيها الذكاء الاصطناعي بشكل متزايد، بما في ذلك التعليم والصحة والاتصالات وأماكن العمل.
قد تحتاج الدراسات المستقبلية أيضاً إلى اختبار ما إذا كانت أنظمة الذكاء الاصطناعي ترتكب أخطاءً مماثلة في الواقع العملي.
--------
* علياء زويل مرشحة لنيل درجة الدكتوراه في علم النفس الاجتماعي من جامعة ماساتشوستس أمهيرست. ألكسندرا فيغيروا باحثة ما بعد الدكتوراه في جامعة كاليفورنيا، بيركلي. مجلة «فاست كومباني».
