الذكاء الاصطناعي يشكل تهديداً وشيكاً للنساء في المجتمعات المحافظة

توليد صور فضائحية مزيفة للفتيات والسيدات يثير القلق

الذكاء الاصطناعي يشكل تهديداً وشيكاً للنساء في المجتمعات المحافظة
TT

الذكاء الاصطناعي يشكل تهديداً وشيكاً للنساء في المجتمعات المحافظة

الذكاء الاصطناعي يشكل تهديداً وشيكاً للنساء في المجتمعات المحافظة

في العصر الرقمي، حيث تعمل التطورات التكنولوجية على إعادة تشكيل واقعنا بسرعة، يمثل ظهور الصور الفاضحة التي يولدها الذكاء الاصطناعي تحدياً جديداً ومثيراً للقلق، وخاصة في مناطق مثل الهند وباكستان. وتواجه هذه البلدان، حيث حقوق المرأة في حالة محفوفة بالمخاطر بالفعل، أزمة محتملة مع تزايد قدرة الذكاء الاصطناعي على إنشاء محتوى واقعي بشكل مقنع، مما يؤدي إلى آثار ضارة.

توليد صور فاضحة مزيفة للمغنية تايلور سويفت أثار جدلاً قوياً حول الأطر القانونية لعمل الذكاء الاصطناعي

صور مزيفة لنساء شهيرات

وتوضح الحوادث الأخيرة، مثل الانتشار المذهل لصور ملفقة لنساء شهيرات مثل تايلور سويفت ونجوم بوليوود راشميكا ماندانا، وكاترينا كايف، وكاجول، وسارة تيندولكار، مدى خطورة هذا التهديد الناشئ.

وقد يؤدي هذا الاتجاه إلى تفاقم التحديات المجتمعية القائمة التي تواجهها النساء بشكل كبير، مما يؤثر على عملهن وتعليمهن وصحتهن العقلية وسلامتهن الشخصية.

إن الديناميكيات الثقافية والاجتماعية في الهند وباكستان، المتجذرة بعمق في التقاليد التي تعطي قيمة هائلة للشرف والسمعة، تجعل هذه المجتمعات معرضة بشكل خاص للتأثيرات الضارة الناجمة عن المحتوى الناتج عن الذكاء الاصطناعي. كما أن احتمال استخدام هذه التكنولوجيا بشكل ضار لتشويه سمعة المرأة يشكل تهديداً فريداً وحديثاً لكرامتها ومكانتها.

وفي هذه المجتمعات الأبوية، تتنقل النساء بالفعل عبر شبكة معقدة من التوقعات والقيود الاجتماعية. ويضيف الخوف وإمكانية استهدافهن بمحتوى فاضح ينتجه الذكاء الاصطناعي طبقةً جديدةً من الضعف، مما قد يزيد من تقليص مشاركة المرأة في الحياة العامة والمهنية.

التزييف وإثناء النساء عن العمل

وفي الهند، يشكل تراجع مشاركة المرأة في القوى العاملة اتجاهاً مثيراً للقلق. إذ تضاءلت مشاركة المرأة في القوى العاملة إلى نحو 25 في المائة في عام 2022، بعد أن وصلت ذروتها ومن ذروة بنسبة 35 في المائة في عام 2004. وفي باكستان، يبدو الوضع أسوأ، حيث بلغت مشاركة المرأة في القوى العاملة 20 في المائة فقط. ولا تعكس هذه الأرقام التحيزات عميقة الجذور بين الجنسين والحواجز الاجتماعية والاقتصادية فحسب، بل تسلط الضوء أيضاً على التحديات الكبيرة التي تواجهها المرأة في تحقيق الاستقلال الاقتصادي والنمو المهني.

* المحتوى المزيف يؤثر على عمل النساء وتعليمهن وصحتهن العقلية وسلامتهن الشخصية *

ومن الممكن أن يؤدي ظهور المحتوى الصريح الناتج عن الذكاء الاصطناعي إلى إثناء النساء عن البحث عن عمل أو التعليم بسبب ارتفاع خطر الإضرار بالسمعة، وبالتالي تفاقم الفجوة القائمة بين الجنسين في المشاركة الاقتصادية.

آثار التزييف على الصحة العقلية

إن الآثار المترتبة على الصحة العقلية الناجمة عن سوء استخدام الذكاء الاصطناعي كبيرة، ولا يمكن التغاضي عنها. في الهند، تعد النساء بالفعل أكثر عرضة لمشكلات الصحة العقلية، حيث تنتشر أعراض الاكتئاب والقلق بين النساء بنسبة 2-3 مرات أكثر من الرجال. وينعكس هذا الوضع في باكستان، حيث العبء على الصحة العقلية بين النساء أعلى بشكل ملحوظ. ووفقاً لمنظمة الصحة العالمية، تواجه باكستان نقصاً حاداً في موارد الصحة العقلية، وهو ما يتضح من الإحصائيات المذهلة التي تشير إلى أن لديها 0.19 طبيب نفسي فقط لكل 100 ألف نسمة.

يمكن أن تؤدي الصدمة والتوتر الناجم عن الانتشار المحتمل للمحتوى الصريح الناتج عن الذكاء الاصطناعي إلى تفاقم مشكلات الصحة العقلية هذه، مما يؤدي إلى زيادة حالات الضيق النفسي بين الفئة السكانية الضعيفة بالفعل. ويشكل خطر تزايد العنف، بما في ذلك جرائم الشرف، فيما يتعلق بالنشر المحتمل للصور التي ينشئها الذكاء الاصطناعي، مصدر قلق كبير في هذه المجتمعات.

جرائم ضد المرأة

وقد أبلغ المكتب الوطني لسجلات الجرائم في الهند عن أكثر من 445256 حالة جرائم ضد المرأة في عام 2022، أي ما يعادل تقديم ما يقرب من 51 تقريراً أولياً في المتوسط كل ساعة. وفي باكستان، يبدو الوضع مثيراً للقلق بالقدر نفسه، حيث تم الإبلاغ عن أكثر من 63367 جريمة على أساس الجنس في العام نفسه.

ويشمل ذلك حوادث مروعة لجرائم الشرف، حيث وقعت 1025 امرأة ضحية لهذه الجريمة. ويضيف سوء استخدام الذكاء الاصطناعي في إنشاء ونشر صور فاضحة، بعداً محفوفاً بالمخاطر للتهديدات القائمة التي تواجهها النساء في هذه المجتمعات، حيث تخضع السمعة والشرف لحراسة مشددة ومحمية بشدة.

إن الضرر المحتمل الذي قد يلحق بالسمعة من الصور التي ينشئها الذكاء الاصطناعي، حتى لو ثبت لاحقاً أنها كاذبة، يمكن أن تكون له آثار خطيرة وطويلة الأمد على حياة المرأة. وفي المجتمعات حيث الشرف متجذر بعمق في النسيج الاجتماعي، فإن الانتشار السريع لمثل هذا المحتوى يمكن أن يسبب ضرراً لا يمكن إصلاحه لمكانة المرأة الاجتماعية وحياتها الشخصية. إن التحدي المتمثل في استعادة سمعة المرء وشرفه في أعقاب مثل هذه الحوادث أمر هائل، خاصة في ضوء الانتشار السريع للمعلومات المضللة مقارنة بالنشر البطيء للتراجعات أو التوضيحات.

أطر قانونية ضعيفة

وتزداد معالجة التحديات التي يفرضها المحتوى الناتج عن الذكاء الاصطناعي في الهند وباكستان تعقيداً بسبب الأطر القانونية غير الكافية والحواجز المجتمعية.

وتكافح قوانين مثل قانون تكنولوجيا المعلومات الهندي وقانون منع الجرائم الإلكترونية الباكستاني من أجل مواكبة التقدم السريع في تكنولوجيا الذكاء الاصطناعي. علاوة على ذلك، فإن الوصمة المجتمعية المرتبطة بضحايا الاعتداء الرقمي غالباً ما تثبطهم عن السعي للحصول على أي وسيلة قانونية متاحة لهم.

وفي باكستان، 72 في المائة من النساء لا يعرفن كيفية الإبلاغ عن العنف عبر الإنترنت، و45 في المائة يعتقدن أنه من المحرج الإبلاغ عن التحرش ويفترضن أن الدولة لن تكون قادرة على حماية حقوقهن. وفي الهند، تعكس الزيادة في الشكاوى المجهولة بشأن الجرائم الإلكترونية ضد النساء والأطفال في الهند - من 17460 في عام 2020 إلى 56102 في عام 2022 - الصعوبات التي تواجهها النساء في السعي إلى العدالة والحاجة إلى هياكل قانونية واجتماعية أكثر دعماً.

الذكاء الاصطناعي وتمكين المرأة

على الرغم من التحديات الكبيرة التي يفرضها سوء الاستخدام المحتمل للمحتوى الناتج عن الذكاء الاصطناعي، فمن المهم أن ندرك أن التكنولوجيا في حد ذاتها ليست ضارة بطبيعتها.

يمكن أن يكون الذكاء الاصطناعي أداة قوية لتمكين المرأة، وتزويدها بقدرة أفضل على الوصول إلى المعلومات والخدمات وسبل جديدة للتعليم والمشاركة الاقتصادية. ومن الممكن أن يلعب تطوير تطبيقات الذكاء الاصطناعي التي تراعي الفوارق بين الجنسين وإنشاء مساحات أكثر أماناً على الإنترنت دوراً حاسماً في حماية حقوق المرأة وكرامتها.

تتطلب مكافحة المخاطر المرتبطة بالمحتوى الناتج عن الذكاء الاصطناعي بشكل فعال استراتيجية شاملة ومتعددة الأوجه. ويعد تحديث الأطر القانونية، وتعزيز التدريب على إنفاذ القانون، وزيادة الوعي العام خطوات أساسية في هذا الاتجاه.

يجب أن تتطور أنظمة إنفاذ القانون التقليدية لتوفير الدعم الفعال للنساء اللاتي يواجهن التهديدات الرقمية، وضمان الوصول إلى العدالة والموارد اللازمة للتعافي.

في الختام، بينما نتعامل مع تعقيدات العصر الرقمي، من الضروري أن تتماشى التطورات في تكنولوجيا الذكاء الاصطناعي مع قيم الإنصاف والعدالة.

إن قدرة الذكاء الاصطناعي على تعميق الفجوة بين الجنسين في الهند وباكستان هي تذكير صارخ بالحاجة إلى اليقظة واتخاذ التدابير الاستباقية. إن ضمان ألا يأتي التقدم التكنولوجي على حساب حقوق المرأة وسلامتها مسؤولية جماعية. وبينما نواصل استكشاف الإمكانات الهائلة للذكاء الاصطناعي، دعونا نلتزم باستخدام هذه الأداة القوية لتعزيز عالم أكثر إنصافاً وأماناً لجميع النساء.

* «ذا دبلومات»، خدمات «تريبيون ميديا».

اقرأ أيضاً


مقالات ذات صلة

يوميات الشرق ظهور أدوات الذكاء الاصطناعي التوليدية سمح بإنتاج تقييمات مزيفة للمنتجات والصفحات الموجودة على الإنترنت (رويترز)

كيف تكتشف التقييمات المزيفة للمنتجات على الإنترنت؟

تقول جماعات مراقبة وباحثون إن ظهور أدوات الذكاء الاصطناعي التوليدية سمح بإنتاج تقييمات مزيفة للمنتجات والصفحات الموجودة على الإنترنت ومنصات التواصل.

«الشرق الأوسط» (لندن)
علوم تصميمات لأشكال انتشار البروتين المولدة بالذكاء الاصطناعي

كيف يساعد الذكاء الاصطناعي المهلوس على تحقيق اختراقات علمية كبيرة؟

الانفجارات الإبداعية متجذرة في الحقائق الصارمة للطبيعة والعلم وليس في ضبابية الإنترنت المعروفة بتحيزاتها وأكاذيبها.

ويليام جيه برود (نيويورك)
تكنولوجيا بدائل متنوعة لـ«تشات جي بي تي»

بدائل متنوعة لـ«تشات جي بي تي»

روبوتات دردشة أخرى لها مواطن قوة ونقاط ضعف قد تلبي احتياجاتك بشكل أفضل.

«الشرق الأوسط» (لندن)
يوميات الشرق أداة «ميتا» هي برنامج للدردشة الآلية يعمل بتقنية الذكاء الاصطناعي (رويترز)

«الذكاء الاصطناعي» في مرمى انتقادات بعد «أخطاء دينية»

ارتكبت أداة الذكاء الاصطناعي «ميتا آي» (Meta AI) خطأً فادحاً بعد اختبارات في نصوص دينية.

محمد السيد علي (القاهرة)

الذكاء الاصطناعي... من مكافحة «الهلوسة» إلى تصميم «الوكلاء»

الذكاء الاصطناعي... من مكافحة «الهلوسة» إلى تصميم «الوكلاء»
TT

الذكاء الاصطناعي... من مكافحة «الهلوسة» إلى تصميم «الوكلاء»

الذكاء الاصطناعي... من مكافحة «الهلوسة» إلى تصميم «الوكلاء»

كتب جون ليكاتو(*) الباحث في مجالات تقاطع الذكاء الاصطناعي ومعالجة اللغة الطبيعية والمنطق البشري، يقول: «بصفتي مدير (مختبر تطوير المنطق البشري والآلي/ Advancing Human and Machine Reasoning lab)، في جامعة جنوب فلوريدا، فإني أقوم بتقديم هذه الأبحاث إلى الجهات الأخرى لتوفير أدوات لمسح ورصد الثغرات في تلك النماذج اللغوية».

تطورات نماذج الذكاء الاصطناعي

ويضيف: «من وجهة نظري، فقد لاحظت تطورات كبيرة في مجال نماذج لغة الذكاء الاصطناعي في عام 2024، سواء في ميدان البحث أو الصناعة. وربما من أكثر هذه التطورات إثارة كانت قدرات نماذج اللغة الصغرى، ودعم معالجة هلوسة الذكاء الاصطناعي، وأطر تطوير وكلاء الذكاء الاصطناعي».

قدرات الذكاء الاصطناعي الصغير

في قلب منتجات الذكاء الاصطناعي التوليدي المتاحة تجارياً مثل «تشات جي بي تي (ChatGPT)» توجد نماذج لغة كبيرة (LLMs)، التي يتم تدريبها على كميات هائلة من النصوص، وتنتج لغةً مقنعةً شبيهةً بالإنسان.

ويقاس حجم هذه النماذج عموماً بـ«معاملات (parameters)»، وهي القيم العددية التي يستمدها النموذج من بيانات التدريب الخاصة به.

* النماذج الكبرى

تحتوي النماذج التي تنتجها شركات الذكاء الاصطناعي الكبرى على مئات المليارات من المعاملات. وتقوم المنظمات التي لديها أكبر قدر من الموارد الحسابية بتجربة وتدريب نماذج لغة أكبر وأقوى بشكل متزايد. وتنتج هذه النماذج قدرات جديدة لنماذج اللغة الكبرى، ومعايير، ومجموعات تدريب، وحيل تدريب أو تحفيز.

* النماذج الصغرى

هناك تفاعل متكرر بين نماذج اللغة الكبرى ونماذج اللغة الصغرى، الذي يبدو أنه تسارع في عام 2024. وتُستخدم الكبرى لإنشاء نماذج لغوية صغرى - في نطاق 3 مليارات معامل أو أقل - التي يمكن تشغيلها على إعدادات كومبيوتر، وتتطلب طاقة وذاكرة أقل للتدريب، ويمكن ضبطها بدقة باستخدام بيانات أقل.

* إصدارات النماذج الصغرى

ليس من المستغرب إذن أن يصدر المطورون مجموعة من نماذج اللغة الأصغر حجماً والقوية - على الرغم من أن تعريف الصغير يتغير باستمرار مثل إصدارات «Phi-3»، ثم «Phi-4» من «مايكروسوفت»، و«Llama-3.2 1B»، ثم «3B»، وكذلك «Qwen2-VL-2B»... وهي ليست سوى أمثلة قليلة.

مهام محددة

يمكن تخصيص نماذج اللغة الصغرى هذه لمهام أكثر تحديداً، مثل تلخيص مجموعة من التعليقات بسرعة أو التحقق من صحة النص مقابل مرجع محدد. ويمكنها العمل مع «أبناء عمومتها» الأكبر حجماً لإنتاج أنظمة هجينة قوية بشكل متزايد.

التضليل والهلوسة

* تضليل وتزييف

يمكن أن يكون الوصول المتزايد إلى نماذج اللغة عالية القدرة الكبرى والصغرى نعمة مختلطة؛ إذ يمكن أن تمنح نماذج اللغة المستخدمين الضارين القدرة على إنشاء منشورات على وسائل التواصل الاجتماعي، والتأثير بشكل مخادع في الرأي العام.

وكان على شركة «أوبن إيه آي» المنتجة لـ«تشات جي بي تي» التدخل لتعطيل أكثر من 20 عملية وشبكة خادعة حاولت استخدام نماذجها في حملات انتخابية خادعة، حيث تم إنشاء مقاطع فيديو وصور ساخرة مزيفة ومشاركتها بمساعدة أدوات الذكاء الاصطناعي.

* «روبوتات» مشاغبة ومهلوسة

بدأت «غوغل» بتضمين على الذكاء الاصطناعي في نتائج البحث الخاصة بها، ما أسفر عن بعض النتائج التي كانت خاطئة بشكل مضحك وواضح؛ مثل الغراء في البيتزا الخاصة بك. ومع ذلك، ربما كانت النتائج الأخرى خاطئة بشكل خطير، مثل عندما اقترحت خلط مواد التنظيف للتبييض والتعقيم مع الخل لتنظيف الملابس.

وفي حادثة أخرى، قال روبوت محادثة يقدم المشورة بشأن قوانين ولوائح مدينة نيويورك بشكل غير صحيح إنه «من المسموح قانونياً لصاحب العمل طرد عامل يشكو من التحرش الجنسي، أو امرأة لا تكشف عن الحمل، أو رجل يرفض قص ضفائره».

«تخفيف» الهلوسة

إن نماذج اللغة الكبرى، كما يتم تصميمها بشكل شائع، معرَّضة للهلوسة. وهذا يعني أنها يمكن أن تذكر أشياء كاذبة أو مضللة، غالباً بلغة واثقة. على الرغم من أنني وآخرين ندق الطبول باستمرار حول هذا الأمر، فإن عام 2024 لا يزال يشهد محاولة كثير من المنظمات تعلّم المخاطر الناجمة عن هلوسة الذكاء الاصطناعي.

ولحسن الحظ، شهد عام 2024 أيضاً طرقاً جديدة للتخفيف من هلوسات الذكاء الاصطناعي والتعايش معها؛ إذ تعمل الشركات والباحثون على تطوير أدوات للتأكد من أن أنظمة الذكاء الاصطناعي تتبع القواعد المحددة قبل تقديمها للنتائج، فضلاً عن البيئات لتقييمها.

ولكن على الرغم من أن الباحثين يجدون باستمرار طرقاً للحد من الهلوسة، فإن الأبحاث في عام 2024 أظهرت بشكل مقنع أن هلوسات الذكاء الاصطناعي ستظل موجودة دائماً في شكل ما.

الوكلاء: الموجة الثالثة للذكاء الاصطناعي

لا تزال نماذج اللغة الكبرى، خصوصاً تلك التي تعمل بإصدارات مختلفة من بنية نظام المحول المصمم في داخلها، تقود أهم التطورات في مجال الذكاء الاصطناعي.

على سبيل المثال، يستخدم المطورون نماذج اللغة الكبرى ليس فقط لإنشاء روبوتات الدردشة، ولكن أيضاً لتكون بمثابة أساس لوكلاء الذكاء الاصطناعي. برز مصطلح «الذكاء الاصطناعي الوكيل» في عام 2024، حتى إن بعض الخبراء أطلقوا عليه «الموجة الثالثة من الذكاء الاصطناعي».

* ما هو الوكيل الذكي؟

لفهم ما هو وكيل الذكاء الاصطناعي، فكر في روبوت الدردشة الموسع بطريقتين:

- أولاً، امنحه إمكانية الوصول إلى الأدوات التي توفر القدرة على اتخاذ الإجراءات. قد تكون هذه القدرة على الاستعلام من محرك بحث خارجي، أو حجز رحلة، أو استخدام الآلة الحاسبة.

- ثانياً، امنحه استقلالية متزايدة، أو القدرة على اتخاذ مزيد من القرارات بمفرده.

على سبيل المثال، قد يكون روبوت الدردشة للسفر قادراً على إجراء بحث عن الرحلات بناءً على المعلومات التي تقدمها له، ولكن قد يخطط وكيل السفر المجهز بأدوات، لمسار الرحلة بالكامل، بما في ذلك تنفيذ الحجوزات، وإضافة الأحداث المهمة والفعاليات في أثناء السفرة، إلى التقويم الخاص بك.

إصدارات الوكلاء

في عام 2024، ظهرت أطر عمل جديدة لتطوير وكلاء الذكاء الاصطناعي. على سبيل المثال لا الحصر، تم إصدار أو تحسين «LangGraph»، و«CrewAI»، و«PhiData»، و«AutoGen/Magentic-One» في عام 2024.

بدأت الشركات للتو في تبني وكلاء الذكاء الاصطناعي. وبدأت أطر العمل لتصميم وكلاء الذكاء الاصطناعي جديدة تتطور بسرعة. ولكن ومع ذلك، لا تزال مخاطر الأمن والخصوصية والهلوسة تشكَّل مصدر قلق.

* توقعات المستقبل

ويتوقَّع محللو السوق العالمية أن تخطط 82 في المائة من المنظمات التي شملتها الاستطلاعات لاستخدام الوكلاء في غضون بين 1 و3 سنوات، ومن المرجح أن تتبنى 25 في المائة من جميع الشركات، التي تستخدم الذكاء الاصطناعي التوليدي حالياً، وكلاء الذكاء الاصطناعي في عام 2025.

* أستاذ مشارك في علوم الكومبيوتر بجامعة جنوب فلوريدا.

مجلة «فاست كومباني» - خدمات «تريبيون ميديا».

حقائق

82 %

من المنظمات التي شملتها الاستطلاعات لاستخدام الوكلاء في غضون بين 1 و3 سنوات