النساء أم الرجال... من يرى الذكاء الاصطناعي أكثر خطورة؟

دراسة: فجوة جندرية في زمن الخوارزميات

الفجوة في المواقف لا ترتبط فقط بمستوى المعرفة بل بدرجة النفور من المخاطرة وحجم التعرّض المحتمل لاضطراب سوق العمل (شاترستوك)
الفجوة في المواقف لا ترتبط فقط بمستوى المعرفة بل بدرجة النفور من المخاطرة وحجم التعرّض المحتمل لاضطراب سوق العمل (شاترستوك)
TT

النساء أم الرجال... من يرى الذكاء الاصطناعي أكثر خطورة؟

الفجوة في المواقف لا ترتبط فقط بمستوى المعرفة بل بدرجة النفور من المخاطرة وحجم التعرّض المحتمل لاضطراب سوق العمل (شاترستوك)
الفجوة في المواقف لا ترتبط فقط بمستوى المعرفة بل بدرجة النفور من المخاطرة وحجم التعرّض المحتمل لاضطراب سوق العمل (شاترستوك)

غالباً ما يُقدَّم الذكاء الاصطناعي بوصفه ثورة في الإنتاجية قادرة على رفع الناتج الاقتصادي، وتسريع الابتكار، وإعادة تشكيل طريقة إنجاز العمل. لكن دراسة جديدة تشير إلى أن الجمهور لا ينظر إلى وعود الذكاء الاصطناعي بالطريقة نفسها، وأن المواقف تجاه هذه التقنية تتأثر بقوة بعامل النوع الاجتماعي، لا سيما عندما تكون آثارها على الوظائف غير مؤكدة.

وتخلص الدراسة إلى أن النساء مقارنة بالرجال ينظرن إلى الذكاء الاصطناعي باعتباره أكثر خطورة، وأن دعمهن لاعتماد هذه التقنيات يتراجع بوتيرة أشد عندما تنخفض احتمالات أن تؤدي إلى مكاسب صافية في الوظائف. ويحذر الباحثون من أنه إذا لم تُؤخذ المخاوف الخاصة بالنساء في الاعتبار ضمن سياسات الذكاء الاصطناعي، وخاصة ما يتعلق باضطراب سوق العمل، وتفاوت فرص الاستفادة، فقد يؤدي ذلك إلى تعميق الفجوة القائمة بين الجنسين، وربما إلى رد فعل سياسي مضاد للتكنولوجيا.

فجوة لا ترتبط بالمعرفة فقط

تنطلق الدراسة من فكرة بسيطة هي أن فوائد الذكاء الاصطناعي وتكاليفه لن تتوزع بالتساوي على الجميع. فمع انتشار الذكاء الاصطناعي في الاقتصاد، قد تُعزَّز بعض الوظائف وتُعاد صياغة أخرى، بينما قد تختفي وظائف بعينها، أو تتراجع أهميتها. وتشير الدراسة إلى أن النساء ممثلات بنسبة أعلى في وظائف إدارية وكتابية وخدمية يُحتمل أن تكون أكثر عرضة للتأثر بالتقنيات الآلية. وفي المقابل، لا تزال النساء أقل تمثيلاً في مسارات العلوم والتقنية والهندسة والرياضيات، وفي مواقع القيادة التي تمنح عادةً فرصاً أفضل للوصول إلى وظائف الذكاء الاصطناعي الأعلى أجراً، وهو ما قد يوسّع فجوة الأجور بين الجنسين مع مرور الوقت.

وترى الدراسة أن هذه الاختلافات الواقعية في التعرض للمخاطر، وفي فرص الوصول إلى المنافع، تنعكس على اختلافات في المواقف. فبحسب أبحاث سابقة، تميل النساء بالفعل إلى مزيد من الشك مقارنة بالرجال تجاه موجات الأتمتة السابقة.

لكن ما لم يكن واضحاً بما يكفي هو: لماذا تستمر هذه الفجوة؟ هنا يأتي طرح الباحثين عامل «المخاطر» في طريقة التعامل معها، وفي مقدار التعرض لها يقدّم تفسيراً إضافياً.

تجاهل المخاوف الجندرية في سياسات الذكاء الاصطناعي قد يعمّق عدم المساواة ويؤدي إلى ردود فعل سياسية وتنظيمية مضادة للتكنولوجيا (شاترستوك)

الميل للمخاطرة والتعرّض للمخاطر

تركّز الدراسة على عنصرين: الأول يتعلق بالتوجه نحو المخاطرة (Risk orientation)، أي مدى استعداد الفرد عموماً لتحمل عدم اليقين والمفاضلات ذات النتائج غير المضمونة. والآخر هو التعرّض للمخاطر (Risk exposure)، واحتمال أن يترتب على اعتماد الذكاء الاصطناعي تكلفة مباشرة، أو منفعة مباشرة للفرد، تبعاً لموقعه في سوق العمل، وغيرها من العوامل.

ويفترض الباحثون أن النساء ينظرن إلى الذكاء الاصطناعي باعتباره أكثر خطورة، لأنهن في المتوسط أكثر نفوراً من المخاطرة، ولأنهن أيضاً أكثر تعرضاً لاضطراب الوظائف الناتج عن الذكاء الاصطناعي. وتؤكد الدراسة أن هذه الأنماط لا تُقدَّم بوصفها «سمات فطرية»، بل بوصفها نتاجاً لأعراف اجتماعية، وتعلم اجتماعي، وبُنى وظيفية مترسخة منذ عقود.

تجربة واقعية

لاختبار هذا الطرح، أجرى الباحثون استطلاعاً عبر الإنترنت في نوفمبر (تشرين الثاني) 2023 باستخدام لوحة «YouGov». وبلغت العينة الكاملة 6056 مشاركاً، لكن التحليل في هذه الدراسة يركز على 3049 مشاركاً وُجهت إليهم أسئلة حول الذكاء الاصطناعي التوليدي (بينما وُجهت المجموعة الأخرى إلى أسئلة مقارنة عن التجارة). وشملت العينة مشاركين من الولايات المتحدة وكندا، وهما دولتان يصفهما الباحثون بأنهما متقاربتان من حيث الأسس المؤسسية وبنية سوق العمل، رغم اختلاف تفاصيل تبني الذكاء الاصطناعي وتنظيمه.

قاس الباحثون «تصور خطورة الذكاء الاصطناعي» عبر سؤالين على مقياس من 11 نقطة. سُئل المشاركون عن مدى رؤيتهم حول هل مخاطر الذكاء الاصطناعي التوليدي تفوق فوائده بالنسبة لك شخصياً؟ وهل تفوق فوائده بالنسبة لمجتمعك؟ ثم جرى دمج الإجابتين في مؤشر واحد.

ولقياس التوجه نحو المخاطرة استخدمت الدراسة سؤالاً شائعاً في أبحاث المخاطر: هل تفضّل ربحاً مضموناً قدره 1000 دولار؟ أم احتمالاً بنسبة 50 في المائة لربح 2000 دولار؟ ويفترض أن اختيار الألف المضمونة يشير إلى نفور أعلى من المخاطرة.

أما قياس التعرض للمخاطر فكان أكثر تعقيداً لأن آثار الذكاء الاصطناعي التوليدي على سوق العمل لا تزال غير محسومة. لذلك استخدمت الدراسة التعليم بوصفه مؤشراً عاماً على مدى الاستعداد للاستفادة من التحولات التقنية، مع اختبارات إضافية لمقاييس مرتبطة بالتعرض المهني للأتمتة والذكاء الاصطناعي على عينات فرعية من العاملين.

كما تضمن الاستطلاع تجربة مسحيّة مُسجَّلة مسبقاً تغير مستوى المخاطرة الاقتصادية في سيناريو تبني الشركة للذكاء الاصطناعي. قرأ المشاركون حالة عن شركة تتبنى أدوات ذكاء اصطناعي توليدي، ثم قُدِّمت لهم احتمالات مختلفة (تعيين عشوائي) بأن يؤدي ذلك إلى مكاسب صافية في التوظيف. تراوحت الاحتمالات بين 100 في المائة (مكاسب مؤكدة) و70 في المائة و50 في المائة و30 في المائة (مستوى مخاطرة مرتفع)، ثم طلب منهم تأكيد أو رفض قرار الشركة.

الدراسة: دعم النساء لاعتماد الذكاء الاصطناعي يتراجع بوتيرة أسرع من الرجال كلما انخفضت احتمالات المكاسب الصافية في التوظيف (شاترستوك)

ما النتيجة الأبرز؟

أظهرت النتائج أن النساء أكثر ميلاً من الرجال للقول إن مخاطر الذكاء الاصطناعي تفوق فوائده. وتشير الدراسة إلى أن نسبة من ترى المخاطر أعلى من الفوائد تزيد لدى النساء بنحو 11في المائة مقارنة بالرجال، وهي فجوة تقارب حجم الفجوة المعروفة في مواقف الجنسين تجاه التجارة، وهي قضية تؤثر تاريخياً على النقاشات السياسية، والقرارات التنظيمية.

وعند التعمق، يظهر أن هذه الفجوة ترتبط بقوة بالتوجه نحو المخاطرة. فبين المشاركين الأكثر ميلاً لتحمل المخاطرة، تتراجع الفجوة بين النساء والرجال بشكل كبير، أو تتلاشى. بينما تكون الفجوة الأوضح بين من يفضّلون اليقين. يعني هذا أن النفور العام من المخاطرة يضاعف الحذر من تقنية ذات نتائج اقتصادية غير مؤكدة.

كما تشير النتائج إلى دور التعرض للمخاطر، حيث مالت النساء إلى رؤية الذكاء الاصطناعي أكثر خطورة من الرجال في كل من فئات التعليم الجامعي وغير الجامعي، وهو ما ينسجم مع كونهن أكثر تمركزاً في وظائف قد تكون أكثر عرضة للأتمتة، وأقل وصولاً لمسارات العمل الأعلى ربحاً في مجالات الذكاء الاصطناعي.

دليل تجريبي

تظهر التجربة المسحيّة أن كلا من الرجال والنساء يقللون دعمهم لاعتماد الذكاء الاصطناعي عندما تنخفض احتمالات المكاسب الصافية في الوظائف. لكن دعم النساء يتراجع بسرعة أكبر عندما يصبح السيناريو أكثر خطورة. فعند مستوى المخاطرة الأعلى حيث تكون احتمالية المكاسب الصافية في الوظائف 30 في المائة فقط يكون دعم النساء أقل بشكل واضح من دعم الرجال. أما عندما تكون المكاسب مؤكدة بنسبة 100 في المائة، فتتقلص الفجوة بين الجنسين ولا تعود ذات دلالة إحصائية بحسب ما تذكر الدراسة. بمعنى آخر: النساء لسن «ضد الذكاء الاصطناعي» بالمطلق، لكن دعمهن يبدو أكثر ارتباطاً بمدى وضوح الفائدة الاقتصادية، وتأكدها.

من يعرف أكثر؟

حللت الدراسة أيضاً إجابات مفتوحة حول أكبر فوائد الذكاء الاصطناعي ومخاطره باستخدام نمذجة موضوعات نصية. وظهرت فروق نوعية، إذ عبّرت إجابات النساء بدرجة أكبر عن عدم اليقين («لا أعرف») وعن الشك في وجود فوائد اقتصادية واضحة. في المقابل، ركّزت إجابات الرجال أكثر على الإنتاجية والكفاءة، وتحسين العمليات الاقتصادية.

أما بشأن المخاطر، فقد ركّزت إجابات النساء أكثر على فقدان الوظائف والبطالة، بينما ركّزت إجابات الرجال أكثر على الاستخدامات الخبيثة، والمخاطر المجتمعية الأوسع. ويعزز ذلك استنتاج الدراسة بأن النساء في المتوسط يضعن الوزن الأكبر للمخاطر الاقتصادية، ويعبّرن عن قدر أعلى من عدم اليقين بشأن مكاسب الذكاء الاصطناعي.

أهمية البحث

ترى الدراسة أن هذه الفروق ليست اجتماعية فقط، بل سياسية أيضاً. فإذا انعكس انخفاض دعم النساء لاعتماد الذكاء الاصطناعي على انخفاض استخدامهن لأدواته في العمل، فقد يتراجع حضور النساء في مسار تطوير هذه التقنيات وحوكمتها في وقت تتوسع فيه تطبيقات الذكاء الاصطناعي داخل المؤسسات. وهذا يعني أن مخاوف النساء قد لا تُدمج بالقدر الكافي في التصميم، والضمانات وقرارات النشر والتشغيل.

كما تشير الدراسة إلى أن المواقف من الذكاء الاصطناعي قد تصبح أكثر تسييساً. فإذا كانت النساء أكثر دعماً للتدخل الحكومي لإبطاء التبني تحت سيناريوهات فقدان الوظائف، فإن ذلك قد يفتح فرصاً سياسية: قد يتبنى بعض السياسيين سياسات حماية وتنظيم لجذب أصوات النساء، أو قد تُستخدم مشاعر الحذر تجاه الذكاء الاصطناعي أداة تعبئة انتخابية.

لا تقول الدراسة إن النساء يرفضن التقنية لكونها «تقنية»، بل تشير إلى أنهن يستجبن لمشهد مخاطر تكون فيه الرهانات غير متساوية، حيث تختلط وعود الذكاء الاصطناعي بآثار وظيفية غير مؤكدة، وبفرص استفادة غير متكافئة. وبالنسبة للحكومات والمؤسسات التي تدفع نحو تبنٍ سريع، فإن الرسالة تبدو واضحة، وهي أن سياسات الذكاء الاصطناعي التي تتجاهل التعرض غير المتساوي لفقدان الوظائف، وتفاوت الوصول إلى فرص العمل عالية القيمة، واختلاف إدراك المخاطر، قد تعمّق عدم المساواة، وتضعف الثقة العامة. ومن ثمّ، فإن معالجة هذه المخاوف عبر حماية القوى العاملة، ومسارات إعادة التأهيل، وتقليل التحيز في الأنظمة، وحوكمة شاملة قد تكون ضرورية ليس فقط للعدالة، بل للحفاظ على شرعية التحول مع إعادة تشكيل الذكاء الاصطناعي للاقتصاد.


مقالات ذات صلة

نصف ساعة تُحدِث فرقاً: الحركة والنوم سلاحان لحماية المراهقين من السكري

صحتك يحتاج المراهقون إلى وضع روتين ليلي خالٍ من الأجهزة الإلكترونية (رويترز)

نصف ساعة تُحدِث فرقاً: الحركة والنوم سلاحان لحماية المراهقين من السكري

أظهرت دراسة جديدة أن المراهقين الذين يستبدلون نصف ساعة فقط من السلوكيات الخاملة قد يُخفّضون مقاومة الإنسولين لديهم وهو عامل رئيسي في الوقاية من داء السكري

«الشرق الأوسط» (القاهرة )
صحتك دهونها مفيدة... وخطوة نحو توازن أفضل (بيكسلز)

دهون مفيدة لا تُخيف... 5 أطعمة تدعم صحة القلب يومياً

الدهون موضوع حسّاس عند اختيار الأطعمة التي يجب تناولها، إذ قد يبدو أنّ اختيار المنتجات قليلة الدسم مفيد لصحة الجسم، وإنما التعامل مع الدهون أكثر تعقيداً.

«الشرق الأوسط» (القاهرة)
تكنولوجيا الدراسة حللت أكثر من 391 ألف رسالة عبر نحو 5 آلاف محادثة لاكتشاف أنماط تفاعل روبوتات الدردشة (شاترستوك)

دراسة من ستانفورد: الذكاء الاصطناعي قد يعزز التفكير الوهمي

 تظهر الدراسة أن روبوتات الدردشة تميل لتأكيد آراء المستخدمين ما قد يعزز المعتقدات الخاطئة ويؤدي إلى دوامات وهمية مع مرور الوقت

يوميات الشرق انقلاب في ميزان المفترسات (أ.ف.ب)

ثعلب يتحدَّى الذئاب: افتراسٌ يُوثَّق للمرَّة الأولى

في واقعة تُعدُّ الأولى من نوعها علمياً، وثَّق باحثون سلوكاً غير مسبوق لثعلب أحمر يفترس جروَ ذئب...

«الشرق الأوسط» (لندن)
تكنولوجيا نماذج الذكاء الاصطناعي الحديثة تعاني من مشكلة «الصندوق الأسود» التي تجعل قراراتها غير مفهومة للبشر (شاترستوك)

نهج جديد يمكّن الذكاء الاصطناعي من شرح قراراته

باحثو «MIT» يطورون طريقة تمكّن الذكاء الاصطناعي من تفسير قراراته بدقة ووضوح، ما يعزز الشفافية والثقة دون التضحية بالأداء.


دراسة من ستانفورد: الذكاء الاصطناعي قد يعزز التفكير الوهمي

الدراسة حللت أكثر من 391 ألف رسالة عبر نحو 5 آلاف محادثة لاكتشاف أنماط تفاعل روبوتات الدردشة (شاترستوك)
الدراسة حللت أكثر من 391 ألف رسالة عبر نحو 5 آلاف محادثة لاكتشاف أنماط تفاعل روبوتات الدردشة (شاترستوك)
TT

دراسة من ستانفورد: الذكاء الاصطناعي قد يعزز التفكير الوهمي

الدراسة حللت أكثر من 391 ألف رسالة عبر نحو 5 آلاف محادثة لاكتشاف أنماط تفاعل روبوتات الدردشة (شاترستوك)
الدراسة حللت أكثر من 391 ألف رسالة عبر نحو 5 آلاف محادثة لاكتشاف أنماط تفاعل روبوتات الدردشة (شاترستوك)

مع ازدياد استخدام روبوتات الدردشة المعتمدة على الذكاء الاصطناعي في المحادثة وتقديم النصائح وحتى الدعم العاطفي، بدأت أبحاث جديدة تدرس تأثير هذه الأنظمة على المستخدمين مع مرور الوقت. وتكشف دراسة حديثة لباحثين مرتبطين بجامعة ستانفورد الأميركية عن خطر أقل وضوحاً، يتمثل في ميل هذه الأنظمة إلى تعزيز بعض المعتقدات بدلاً من تحديها.

تعتمد الدراسة على تحليل واسع لتفاعلات حقيقية، بهدف فهم كيفية استجابة نماذج اللغة في المحادثات الممتدة، وما الذي قد تعنيه هذه الاستجابات على إدراك المستخدم وصحته النفسية.

تحليل واسع النطاق

استندت الدراسة إلى تحليل أكثر من 391 ألف رسالة عبر نحو 5 آلاف محادثة مع روبوتات الدردشة. ويتيح هذا الحجم الكبير من البيانات رصد أنماط متكررة، بدلاً من الاكتفاء بحالات فردية. وضمن هذه البيانات، حدد الباحثون نسبة من المحادثات التي تضمنت مؤشرات على تفكير وهمي. ووفقاً للدراسة، فإن نحو 15.5في المائة من رسائل المستخدمين أظهرت هذه الخصائص، ما أتاح فرصة لفهم كيفية استجابة الأنظمة لهذه الحالات.

التحدي يكمن في تحقيق توازن بين دعم المستخدم وتعزيز التفكير النقدي دون ترسيخ معلومات مضللة (أدوبي)

أنماط تأكيد متكررة

أحد أبرز النتائج يتمثل في تكرار ميل روبوتات الدردشة إلى تأكيد ما يقوله المستخدم. فقد أظهرت البيانات أن الأنظمة غالباً ما تستجيب بطريقة داعمة أو متوافقة مع طرح المستخدم، بدلاً من التشكيك فيه. ورغم أن هذا الأسلوب قد يكون مفيداً في سياقات الدعم، فإنه يصبح إشكالياً عندما يتعلق الأمر بمعتقدات غير دقيقة أو وهمية، حيث قد يؤدي إلى تعزيز هذه الأفكار بدلاً من تصحيحها.

دوامات وهمية متصاعدة

يصف الباحثون هذه الظاهرة بمصطلح «الدوامات الوهمية»، حيث تؤدي التفاعلات المتكررة بين المستخدم والنظام إلى ترسيخ المعتقدات الخاطئة تدريجياً. ولا يحدث التأثير نتيجة استجابة واحدة، بل يتشكل مع مرور الوقت. فكلما استمر النظام في تأكيد وجهة نظر المستخدم، زادت قوة هذا الاعتقاد. وتتيح طبيعة المحادثة المستمرة لهذا النمط أن يتطور بشكل تدريجي دون انقطاع واضح.

تشير الدراسة إلى أن الذكاء الاصطناعي لا يخلق هذه المعتقدات من الصفر، بل يتفاعل مع أفكار موجودة مسبقاً لدى المستخدم.

وتزداد المخاطر في المحادثات الطويلة، حيث تتراكم أنماط التأكيد عبر الزمن. وفي هذه الحالة، يتحول النظام من مجرد أداة استجابة إلى عنصر مؤثر في توجيه مسار الحوار.

نحو 15.5 % من رسائل المستخدمين أظهرت مؤشرات على تفكير وهمي أو معتقدات غير دقيقة (غيتي)

تحديات في التصميم

تعكس هذه النتائج تحدياً أساسياً في تصميم أنظمة الذكاء الاصطناعي. إذ يتم تطوير كثير من روبوتات الدردشة لتكون مفيدة ومهذبة وداعمة، ما يدفعها إلى تبني أسلوب قائم على التوافق مع المستخدم. لكن هذه الخصائص نفسها قد تقلل من قدرتها على تصحيح الأخطاء أو تقديم وجهات نظر نقدية. ويظل تحقيق التوازن بين الدعم والتفكير النقدي تحدياً رئيسياً.

تتجاوز دلالات هذه الدراسة الجانب التقني لتصل إلى قضايا تتعلق بالسلامة. فمع استخدام هذه الأنظمة في مجالات تتضمن تقديم نصائح أو دعم شخصي، تصبح طريقة استجابتها أكثر حساسية.

وفي بعض الحالات، قد يؤدي تعزيز المعتقدات غير الدقيقة إلى تأثيرات فعلية على قرارات المستخدم أو حالته النفسية، ما يطرح تساؤلات حول كيفية تصميم هذه الأنظمة ومراقبتها.

نحو استخدام مسؤول

تشير الدراسة إلى ضرورة تطوير آليات أفضل للتقييم والضبط. فبدلاً من التركيز فقط على دقة الإجابات، ينبغي أيضاً فهم كيفية تصرف الأنظمة في المحادثات الطويلة والمعقدة.

ويشمل ذلك تحديد متى يجب على النظام التشكيك في بعض الطروحات أو تقديم توضيحات أو تجنب تأكيد معلومات غير موثوقة. ويعد تحقيق هذا التوازن خطوة أساسية في تطور الذكاء الاصطناعي.

الحاجة لمزيد من البحث

رغم أهمية النتائج، تؤكد الدراسة الحاجة إلى مزيد من الأبحاث لفهم تأثير هذه التفاعلات على المستخدمين على المدى الطويل.

فمع تحول الذكاء الاصطناعي من أداة تقدم معلومات إلى نظام يشارك في الحوار، يصبح من الضروري ضمان أن هذه التفاعلات تدعم الفهم ولا تعزز أنماطاً ضارة. وفي هذا السياق، لم يعد التحدي مقتصراً على تطوير أنظمة أكثر ذكاءً، بل يشمل أيضاً ضمان أن تكون أكثر وعياً بتأثيرها على الإنسان.


نهج جديد يمكّن الذكاء الاصطناعي من شرح قراراته

نماذج الذكاء الاصطناعي الحديثة تعاني من مشكلة «الصندوق الأسود» التي تجعل قراراتها غير مفهومة للبشر (شاترستوك)
نماذج الذكاء الاصطناعي الحديثة تعاني من مشكلة «الصندوق الأسود» التي تجعل قراراتها غير مفهومة للبشر (شاترستوك)
TT

نهج جديد يمكّن الذكاء الاصطناعي من شرح قراراته

نماذج الذكاء الاصطناعي الحديثة تعاني من مشكلة «الصندوق الأسود» التي تجعل قراراتها غير مفهومة للبشر (شاترستوك)
نماذج الذكاء الاصطناعي الحديثة تعاني من مشكلة «الصندوق الأسود» التي تجعل قراراتها غير مفهومة للبشر (شاترستوك)

مع تزايد اندماج أنظمة الذكاء الاصطناعي في قطاعات حساسة، مثل الرعاية الصحية والأنظمة ذاتية القيادة، يبرز سؤال أساسي: هل يمكن الوثوق بقراراتها؟

فعلى الرغم من أن النماذج الحديثة تحقق دقة عالية، فإن طريقة تفكيرها تظل في كثير من الأحيان غير واضحة. هذه «الصندوق الأسود» أصبحت واحدة من أبرز التحديات في هذا المجال. يقدّم باحثون في معهد ماساتشوستس للتكنولوجيا (MIT) نهجاً جديداً يهدف إلى معالجة هذه المشكلة، من خلال تمكين أنظمة الذكاء الاصطناعي من تفسير قراراتها بطريقة مفهومة للبشر.

ما وراء الصندوق

في التطبيقات الواقعية، لا تكفي الدقة وحدها. فعندما يحدد نظام ذكاء اصطناعي مرضاً من صورة طبية أو يتخذ قراراً مرتبطاً بالسلامة، يحتاج المستخدم إلى فهم الأسباب التي قادت إلى هذا القرار. ومن دون هذه الشفافية، قد تفشل الأنظمة الدقيقة في كسب الثقة. وقد سعت تقنيات سابقة إلى فتح هذا «الصندوق الأسود»، لكنها غالباً ما قدّمت تفسيرات معقدة أو يصعب فهمها لغير المتخصصين. وهنا يكمن التحدي في تقديم تفسيرات دقيقة وفي الوقت نفسه واضحة.

الطريقة الجديدة تحسن التفسير دون التضحية بدقة الأداء بل قد تعززها (شاترستوك)

تفكير واعد

أحد الاتجاهات الواعدة يُعرف بنماذج «عنق الزجاجة المفاهيمي». في هذا النهج، يُجبر النظام على بناء قراراته على مفاهيم يمكن للبشر فهمها. فبدلاً من الانتقال مباشرة من البيانات الخام إلى النتيجة، يمرّ النموذج بمرحلة وسيطة يحدد فيها خصائص أو مفاهيم محددة قبل الوصول إلى القرار. لكن هذا الأسلوب واجه سابقاً بعض التحديات، إذ إن تحسين قابلية التفسير كان أحياناً يأتي على حساب الدقة، أو يؤدي إلى تفسيرات غير واضحة بما يكفي.

نهج جديد

طوّر فريق «MIT» طريقة محسّنة تهدف إلى تجاوز هذه القيود. يعتمد النظام على مكونين من التعلم الآلي يعملان معاً. الأول يستخرج المعرفة من نموذج موجود، والثاني يحول هذه المعرفة إلى مفاهيم مفهومة للبشر. يتيح هذا الإطار المزدوج «ترجمة آلية» لآلية عمل النماذج المعقدة إلى صيغة قابلة للفهم. والأهم أن هذه التقنية يمكن تطبيقها على نماذج رؤية حاسوبية مدرّبة مسبقاً، ما يجعلها قابلة للتعميم على نطاق واسع.

ومن أبرز ما يميز هذا النهج أنه لا يضحي بالأداء من أجل الشفافية. بل تشير النتائج إلى أنه يمكن أن يحسن دقة التنبؤ وجودة التفسير في الوقت نفسه. وهذا يتحدى افتراضاً شائعاً في تطوير الذكاء الاصطناعي، وهو أن التفسير يأتي دائماً على حساب الأداء. يمثل الجمع بين الاثنين خطوة مهمة نحو تطبيقات عملية موثوقة.

باحثو جامعة «MIT» يطورون نهجاً جديداً يمكّن النماذج من تفسير تنبؤاتها بطريقة مفهومة (شاترستوك)

تفسيرات أوضح

يتميز النظام بجودة التفسيرات التي يقدمها. فبدلاً من مخرجات تقنية معقدة، ينتج أوصافاً مبنية على مفاهيم واضحة يمكن للمستخدم فهمها بسهولة. وتكتسب هذه الميزة أهمية خاصة في البيئات الحساسة، حيث تحتاج القرارات إلى مراجعة وتقييم. فالتفسير الواضح يتيح للمستخدم التأكد من منطق القرار.

الهدف الأوسع لهذا البحث هو تعزيز الثقة في أنظمة الذكاء الاصطناعي. فعندما يتمكن المستخدم من فهم كيفية اتخاذ القرار، يصبح أكثر قدرة على تقييم دقته واكتشاف الأخطاء المحتملة. ويبرز هذا الأمر بشكل خاص في مجالات، مثل الرعاية الصحية، حيث قد تكون لأي خطأ عواقب كبيرة. فالتفسير لا يعزز الفهم فقط، بل يدعم الاستخدام المسؤول للتقنية.

أثر عملي واسع

تمتد آثار هذا التطور إلى ما هو أبعد من تطبيق واحد. مع توسع استخدام الذكاء الاصطناعي، تتزايد الحاجة إلى الشفافية من قبل المستخدمين والجهات التنظيمية على حد سواء. وقد تلعب هذه التقنيات دوراً محورياً في تلبية هذه المتطلبات، من خلال جعل قرارات الذكاء الاصطناعي أكثر وضوحاً وقابلية للمساءلة.

يعكس هذا النهج خطوة ضمن اتجاه أوسع في أبحاث الذكاء الاصطناعي. فلم يعد التركيز مقتصراً على بناء نماذج عالية الأداء، بل يتجه نحو تطوير أنظمة قادرة على تفسير قراراتها. هذا التحول يعكس فهماً أعمق لدور الذكاء الاصطناعي في الواقع. فالأداء وحده لم يعد كافياً، بل يجب أن تكون الأنظمة مفهومة وموثوقة ومتوافقة مع التوقعات البشرية. وفي هذا السياق، تصبح القدرة على تفسير القرارات ليست مجرد ميزة إضافية، بل شرطاً أساسياً للجيل القادم من أنظمة الذكاء الاصطناعي.


«غوغل» تعيد تعريف البحث بالذكاء الاصطناعي المخصص

تفعيل الميزة اختياري ويمنح المستخدم تحكماً كاملاً في البيانات التي يتم استخدامها (أ.ف.ب)
تفعيل الميزة اختياري ويمنح المستخدم تحكماً كاملاً في البيانات التي يتم استخدامها (أ.ف.ب)
TT

«غوغل» تعيد تعريف البحث بالذكاء الاصطناعي المخصص

تفعيل الميزة اختياري ويمنح المستخدم تحكماً كاملاً في البيانات التي يتم استخدامها (أ.ف.ب)
تفعيل الميزة اختياري ويمنح المستخدم تحكماً كاملاً في البيانات التي يتم استخدامها (أ.ف.ب)

أعلنت شركة «غوغل» عن توسع جديد في قدرات الذكاء الاصطناعي لديها تحت مفهوم أطلقت عليه «الذكاء الشخصي» (Personal Intelligence) في خطوة تهدف إلى جعل أنظمة البحث والمساعدات الرقمية أكثر فهماً للسياق الفردي لكل مستخدم، بدلاً من الاكتفاء بإجابات عامة. هذا التوجه الذي جاء في مدونة رسمية عبر موقع الشركة يمثل تحولاً في طريقة عمل الذكاء الاصطناعي، من تقديم معلومات موحدة إلى تقديم استجابات مخصصة تستند إلى بيانات المستخدم ونشاطه عبر خدمات «غوغل» المختلفة.

تحول في البحث

لطالما اعتمدت محركات البحث على مطابقة الكلمات المفتاحية لتقديم نتائج ذات صلة. إلا أن «غوغل» ترى أن هذا النموذج لم يعد كافياً في ظل تنوع احتياجات المستخدمين. وبحسب ما أوضحته الشركة، فإن «الذكاء الشخصي» يهدف إلى تقديم إجابات تأخذ في الاعتبار السياق الفردي، بحيث يحصل كل مستخدم على نتائج تتناسب مع اهتماماته وتاريخه الرقمي.

يعتمد هذا النهج على ربط المعلومات بين عدد من تطبيقات «غوغل»، مثل «جيميل» و«صور غوغل» و«يوتيوب» وسجل البحث، وذلك في حال موافقة المستخدم على تفعيل هذه الميزة. ويتيح هذا التكامل لأنظمة الذكاء الاصطناعي، مثل (جيميناي) «Gemini» ووضع الذكاء الاصطناعي في البحث، الاستفادة من هذا السياق لتقديم إجابات أكثر دقة وارتباطاً باحتياجات المستخدم.

«غوغل» تطلق مفهوم «الذكاء الشخصي» لتقديم استجابات تعتمد على السياق الفردي لكل مستخدم (أ.ف.ب)

تجربة أكثر تخصيصاً

وفقاً لـ«غوغل»، يمكن للنظام الجديد «ربط النقاط» بين بيانات المستخدم المختلفة، ما يسمح بتقديم توصيات وملخصات واقتراحات أكثر تخصيصاً. فعلى سبيل المثال، بدلاً من تقديم اقتراحات عامة للسفر، يمكن للنظام الاستناد إلى اهتمامات المستخدم السابقة أو نشاطه الرقمي لتقديم خيارات أكثر ملاءمة. ويمثل ذلك انتقالاً من الذكاء الاصطناعي كأداة عامة إلى ما يشبه المساعد الشخصي الذي يتكيف مع المستخدم بمرور الوقت.

التحكم بيد المستخدم

أكدت «غوغل» أن استخدام هذه الميزة يعتمد على موافقة المستخدم، حيث يمكنه اختيار التطبيقات التي يرغب في ربطها، أو إيقاف الميزة بالكامل. وأوضحت الشركة أن البيانات الشخصية من خدمات مثل «جيميل» و«صور غوغل» لا تُستخدم لتدريب نماذج الذكاء الاصطناعي، بل تُستعمل لتوفير سياق ضمن التفاعل مع المستخدم فقط.

توازن مع الخصوصية

يبرز هذا التوجه تحدياً معروفاً في تطوير الذكاء الاصطناعي، وهو تحقيق التوازن بين التخصيص والخصوصية. فكلما زادت قدرة النظام على الوصول إلى البيانات، زادت دقة التوصيات، لكن ذلك يثير في الوقت نفسه تساؤلات حول حدود استخدام البيانات الشخصية. وتحاول «غوغل» معالجة هذا التحدي من خلال نموذج يعتمد على الشفافية ومنح المستخدم تحكماً أكبر في بياناته.

التحدي الرئيسي يتمثل في تحقيق توازن بين التخصيص العميق وحماية الخصوصية (شاترستوك)

ما بعد الإجابات

يعكس إطلاق «الذكاء الشخصي» توجهاً أوسع في مجال الذكاء الاصطناعي، حيث لم يعد الهدف مجرد الإجابة عن الأسئلة، بل فهم نية المستخدم والسياق المحيط به. ومن خلال دمج البيانات الشخصية، يمكن للأنظمة الانتقال من تقديم إجابات ثابتة إلى تفاعلات أكثر ديناميكية. من المتوقع أن ينعكس هذا التطور على الاستخدام اليومي للتكنولوجيا، حيث يمكن للأنظمة المخصصة أن تسهم في تسريع إنجاز المهام مثل التخطيط للسفر، أو العثور على معلومات سابقة، أو اتخاذ قرارات مبنية على بيانات شخصية. كما قد تقل الحاجة إلى إدخال نفس المعلومات بشكل متكرر، إذ يصبح النظام قادراً على استنتاج السياق من التفاعلات السابقة.

اتجاه مستقبلي

يمثل «الذكاء الشخصي» خطوة أولى نحو جيل جديد من أنظمة الذكاء الاصطناعي التي تجمع بين البحث والمساعدة الرقمية والتخصيص العميق. ومع ذلك، يبقى نجاح هذا النهج مرتبطاً بمدى ثقة المستخدمين، إذ ستلعب الشفافية والتحكم في البيانات دوراً حاسماً في تبني هذه التقنيات. في المحصلة، لا يتعلق هذا التوجه بجعل الذكاء الاصطناعي أكثر ذكاءً فحسب، بل بجعله أكثر ارتباطاً بالمستخدم نفسه، في تحول قد يعيد تعريف كيفية تفاعل الأفراد مع التكنولوجيا في حياتهم اليومية.