ما هي طبيعة الذكاء الاصطناعي التي لا يمكن السيطرة عليها؟

تنتفي حالياً قدرات التحكم فيه

ما هي طبيعة الذكاء الاصطناعي التي لا يمكن السيطرة عليها؟
TT
20

ما هي طبيعة الذكاء الاصطناعي التي لا يمكن السيطرة عليها؟

ما هي طبيعة الذكاء الاصطناعي التي لا يمكن السيطرة عليها؟

في مراجعة شاملة تلقي الضوء على مجال الذكاء الاصطناعي الناشئ، يرفع د. رومان فـ. يامبولسكي، الخبير الرائد في أمن الذكاء الاصطناعي بجامعة لويزفيل الأميركية، الصوت مشكّكاً بقدرة البشرية على السيطرة على هذه التقنية.

الذكاء الاصطناعي يهيكل المجتمعات

في كتابه المقبل «الذكاء الاصطناعي: غير القابل للشرح والتنبؤ والسيطرة»، يغوص الخبير في أشكال إعادة هيكلة الذكاء الاصطناعي لمجتمعاتنا والتي لن تكون دائماً للأفضل. وتوصلت تحقيقاته في الأدب العلمي المحيط بالذكاء الاصطناعي إلى خلاصة صاعقة: لا يوجد حالياً دليلٌ يرجّح إمكانية السيطرة على الذكاء الاصطناعي.

يشير بحث الدكتور يامبولسكي إلى خطرٍ وجودي محتمل تمثله هذه التقنية، ويقول: «نحن نواجه حدثاً قادراً على التسبّب بكارثة وجودية». يسلّط هذا التحذير الصارخ الضوء على سيفٍ ذي حدّين لتطوّر الذكاء الاصطناعي: الوعد بالازدهار غير المسبوق، يقابله خطر الانقراض.

طرائق الذكاء لا يمكن فهمها

يرى الخبير استهانة هائلة في تحدّي السيطرة على الذكاء الاصطناعي؛ إذ على الرغم من مكاسبه المحتملة، فإن قدرة الذكاء الاصطناعي على التعلّم، والتكيّف، والتصرّف بشكلّ شبه مستقلّ في الأوضاع المستجدّة، تضعنا أمام عددٍ لا يُعدّ ولا يُحصى من المشاكل المرتبطة بالسلامة. يكمن أصل هذه المسألة في طبيعة أنظمة الذكاء الاصطناعي التي تُشبه «الصندوق الأسود»، حيث تُتخذ القرارات بطرائق لا يستطيع البشر فهمها أو توقّعها تلقائياً.

في عالم الذكاء الخارق، تتضاءل القدرة على الحفاظ على السيطرة في ظلّ تصاعد استقلالية الذكاء الاصطناعي. ويحاجج الدكتور يامبولسكي بأنّ العناصر الأقلّ ذكاءً، كالبشر، لا يستطيعون السيطرة إلى الأبد على العناصر الأكثر ذكاءً، كالذكاء الاصطناعي، شارحاً أنّ المسألة هنا ليس تحدياً تقنياً، بل وضعاً مستحيلاً نظراً لطبيعة الذكاء الخارق.

اصطفاف أم معادة للقيم الإنسانية؟

علاوةً على ذلك، تضعنا المطالبة بذكاء اصطناعي منحاز للأخلاق والقيم أمام مفارقة. فبينما يُرى اصطفاف الذكاء الاصطناعي إلى جانب القيم الإنسانية بوصفه وسيلة لضمان السلامة، لا تزال هذه التقنية تحمل في طيّاتها الكثير من الانحياز الذي لا يفضي دوماً إلى نتائج أخلاقية أو إيجابية حتى ولو كان مناصراً للبشر.

يدعم يامبولسكي مقاربة متوازنة لتطوير الذكاء الاصطناعي، يُصار فيها إلى قياس المكاسب المحتملة مقابل المخاطر.

الذكاء الاصطناعي يَعِد بالازدهار غير المسبوق يقابله خطر الانقراض

تصميم لمراعاة الفهم البشري

ويقترح الخبير أن يُعمد إلى تصميم أنظمة ذكاء اصطناعي تراعي قابلية التعديل، والشفافية، والفهم البشري. ويدعو أيضاً إلى المزيد من الجهود والتمويل للأبحاث التي تدرس أمن الذكاء الاصطناعي، مشيراً إلى أنّ الذكاء الاصطناعي الآمن بالكامل ليس قابلاً للتحقيق، ولكن إجراء تحسينات وازنة قد يساعد في تقليل المخاطر.

تتسم نتائج أبحاث الدكتور يامبولسكي بالعمق، وتحثّ على إعادة تقييم مسيرة تطوير الذكاء الاصطناعي. فمن دون الضوابط المناسبة، يضع دمج الذكاء الاصطناعي في مجالات حساسة كالعناية الصحية، والموارد المالية، والأمن، البشرية أمام مخاطر كبيرة على المستويين الأخلاقي والأمني. يكمن التحدّي الأكبر في إيجاد طريقة لتسخير مكاسب الذكاء الاصطناعي وضمان انحيازه للقيم الإنسانية والسيطرة عليه، هذه المهمّة التي يشدّد الخبير على أهميتها العظيمة لمستقبل البشرية.

مع استمرار تطوّر الذكاء الاصطناعي، سيبقى الجدل حول سلامته، والسيطرة عليه، وتبعاته الأخلاقية في مقدّمة الخطابين العلمي والشعبي. وحسب موقع «سبايس وور» الإلكتروني، فإن الدكتور يامبولسكي يسلط الضوء على الحاجة الملحّة لجهود عالمية متضافرة تواجه المخاطر المحتملة للذكاء الاصطناعي غير الخاضع للسيطرة.

طريق المستقبل غامض، ولكنّ الدعوة إلى التحرّك واضحة: السير في طريق تطوير الذكاء الاصطناعي بحذر وحكمة، والتزام عميق بحماية مستقبل البشرية.


مقالات ذات صلة

بين تهديدها للعمالة وفوائدها الاقتصادية... الروبوتات تقتحم مجالات أوسع في حياتنا اليومية

تكنولوجيا روبوت يصافح أحد حضور معرض لاس فيغاس للتكنولوجيا (أ.ب)

بين تهديدها للعمالة وفوائدها الاقتصادية... الروبوتات تقتحم مجالات أوسع في حياتنا اليومية

كانت الروبوتات تقتصر إلى حد كبير حتى الآن على القطاع الصناعي، لكنها اليوم تهمّ بدخول حياة الناس، حسب المشاركين في معرض لاس فيغاس للتكنولوجيا.

«الشرق الأوسط» (نيويورك)
الاقتصاد شعارات شركات تكنولوجيا ووسائل التواصل الاجتماعي تظهر من خلال عدسة مكبرة (رويترز)

ألمانيا تطالب أوروبا بزيادة الضرائب على شركات التكنولوجيا الأميركية

قال وزير الاقتصاد الألماني روبرت هابيك إنه حال نشوب نزاع بشأن الرسوم الجمركية مع الولايات المتحدة تحت حكم الرئيس دونالد ترمب، سيتعين على أوروبا الرد «بقوة».

«الشرق الأوسط» (برلين)
تكنولوجيا تتناول دراسة جامعة إلينوي ثلاث تقنيات ناشئة يمكن أن تُحدث تحولاً في صناعة الأغذية (أدوبي)

ثورة في تجفيف الأغذية باستخدام الذكاء الاصطناعي والمستشعرات البصرية

تركّز الدراسة على ثلاثة أنظمة استشعار بصرية لتحسين جودة الأغذية المجففة.

نسيم رمضان (لندن)
تكنولوجيا من غير المتوقع ظهور التحديث التالي لأجهزة «Surface Pro» و«JSurface Laptop» الموجهة للمستهلكين قبل نهاية العام (أدوبي)

«مايكروسوفت» تستعد لإعلان مهم لسلسلة «Surface» نهاية يناير

تم الكشف عن هذه الأخبار من خلال حساب «سيرفس» (Surface) الرسمي على «لينكد إن».

نسيم رمضان (لندن)
تكنولوجيا استقطبت دورة هذا العام أكثر من 100 ألف مشارك وشركة عارضة في مدينة لاس فيغاس (CES)

اختتام معرض «CES» بابتكارات تعكس توجه مستقبل التكنولوجيا الاستهلاكية

في لاس فيغاس كمبيوترات قابلة للطي، وشاشات فائقة السطوع، وساعات اللياقة الذكية وأجهزة للعرض المنزلي وغيرها.

نسيم رمضان (لندن)

5 اتجاهات في الذكاء الاصطناعي وعلوم البيانات لعام 2025

5 اتجاهات في الذكاء الاصطناعي وعلوم البيانات لعام 2025
TT
20

5 اتجاهات في الذكاء الاصطناعي وعلوم البيانات لعام 2025

5 اتجاهات في الذكاء الاصطناعي وعلوم البيانات لعام 2025

من «الذكاء الاصطناعي الوكيل»... إلى البيانات غير المنظَّمة، تستحق اتجاهات الذكاء الاصطناعي لعام 2025 هذه اهتماماً وثيقاً من القادة.

اتجاهات عام 2025

ظل الذكاء الاصطناعي وعلوم البيانات على رأس الأخبار في عام 2024. وتكشف مجلة «سلاون مانيجمنت ريفيو» الصادرة عن «معهد ماساتشوستش للتكنولوجية (MIT Sloan Management Review)» في كمبردج بالولايات المتحدة عن 5 اتجاهات كبيرة في الذكاء الاصطناعي وعلوم البيانات لعام 2025:

- الآفاق الواعدة والتهويل حول «الذكاء الاصطناعي الوكيل».

- الاندفاع لقياس النتائج من تجارب الذكاء الاصطناعي التوليدية.

- رؤية ناشئة حول تعنيه حقا الثقافة المعتمدة على البيانات.

- التركيز المتجدد على البيانات غير المنظمة.

- الصراع المستمر حول الجهات التنفيذية التي ستشرف على الذكاء الاصطناعي.

تقرير حديث

وفي تقرير جديد بعنوان: «5 اتجاهات في الذكاء الاصطناعي وعلوم البيانات لعام 2025»، ضمن جزء من سلسلة «أعمال الذكاء الاصطناعي AI in Action))»، قام توماس إتش دافنبورت، أستاذ تكنولوجيا المعلومات والإدارة المتميز في كلية بابسون، وراندي بين مستشار منظمات «فورتشن 1000» في مجال البيانات وقيادة الذكاء الاصطناعي، بدمج أحدث أبحاث الذكاء الاصطناعي، جنباً إلى جنب مع «استطلاع معيار القيادة التنفيذية للذكاء الاصطناعي والبيانات لعام 2025»، وهو استطلاع سنوي للبيانات والتحليلات والمديرين التنفيذيين للذكاء الاصطناعي أجرته شركة «راندي بين» التعليمية، بالإضافة إلى استطلاعات «دافنبورت» حول الذكاء الاصطناعي التوليدي والبيانات، وهياكل القيادة التكنولوجية، وأخيراً الذكاء الاصطناعي الوكيل، لتجميع تنبؤاتهم بشأن اتجاهات الذكاء الاصطناعي.

مشاكل القادة مع الوعود والتهويل

وبشأن «الذكاء الاصطناعي الوكيل»، فسيتعامل القادة بصعوبة مع كل من الوعود والدعاية حول الذكاء الاصطناعي الوكيل، وهو نوع الذكاء الاصطناعي الذي يقوم بالمهام بشكل مستقل.

ويعتقد معظم المسؤولين التنفيذيين في مجال التكنولوجيا أن برامج الذكاء الاصطناعي المستقلة والتعاونية هذه ستستند في المقام الأول إلى روبوتات الذكاء الاصطناعي التوليدية المركزة التي ستؤدي مهام محددة. ويقول دافنبورت: «ستكون هناك (وفي بعض الحالات، بالفعل) روبوتات الذكاء الاصطناعي التوليدية التي ستنفذ أوامر الأشخاص في مهام إنشاء محتوى محددة، لكن الأمر سيتطلب أكثر من واحدة من أدوات الذكاء الاصطناعي الوكيلة هذه للقيام بشيء مهم، مثل إجراء حجز سفر أو إجراء معاملة مصرفية».

قياس نتائج ما يقدمه الذكاء الاصطناعي

لقد حان الوقت لقياس النتائج من تجارب الذكاء الاصطناعي التوليدي. هناك عدد قليل جداً من الشركات التي تقيس مكاسب الإنتاجية بعناية أو تكتشف ما يفعله العاملون المحررون في مجال المعرفة بوقتهم أثناء التحرير. ويعلق دافنبورت: «للأسف، إذا كانت الشركات سترى وتستفيد حقاً من الذكاء التوليدي، فسوف تحتاج إلى القياس والتجربة لمعرفة الفوائد».

التحديات الثقافية وطرق إدارة التغيير

لقد ظهرت حقيقة الثقافة القائمة على البيانات؛ إذ قال 92 في المائة من المشاركين في الاستطلاع إنهم يشعرون بأن التحديات الثقافية وإدارة التغيير هما الحاجز الأساسي أمام التحول إلى البيانات والذكاء الاصطناعي. وهذا يشير إلى أن أي تقنية بمفردها غير كافية. ويقول راندي بين: «لا يزال من الجيد أن يشعر قادة البيانات والذكاء الاصطناعي بأن منظماتهم قد تحسنت في هذا الصدد على مدى الماضي البعيد، لكن توقُّعنا على المدى الطويل أن الذكاء الاصطناعي التوليدي وحده لا يكفي لتحويل المنظمات والثقافات إلى منظمات وثقافات مسيّرة بالبيانات».

أهمية البيانات غير المنظمة

البيانات غير المنظمة مهمة مرة أخرى. لقد جعل الذكاء الاصطناعي التوليدي البيانات غير المنظمة مهمة مرة أخرى. لا يزال الحصول على البيانات غير المنظمة في شكلها الصحيح عملاً يتطلب الكثير من البشر. يقول دافنبورت: «في مرحلة ما، ربما نتمكن من تحميل أطنان من مستنداتنا الداخلية إلى الذكاء التوليدي، لكن من غير المرجَّح أن يكون عام 2025 هو ذلك الوقت. حتى عندما يكون ذلك ممكناً، ستظل هناك حاجة إلى قدر كبير من التنظيم البشري للبيانات».

مسؤولية إدارة الذكاء الاصطناعي

مَن الذي يجب أن يدير البيانات والذكاء الاصطناعي؟ هنا نتوقع استمرار الصراع. تستمر هذه الأدوار في التطور وتستمر المنظمات في النضال مع تفويضاتها ومسؤولياتها، وهياكل التقارير.

يؤكد راندي بين أن منصبَ ودورَ كبيرِ مسؤولي البيانات والذكاء الاصطناعي يجب أن يكون منصباً ودوراً تجارياً يقدم تقاريره إلى قيادة الأعمال. ويتفق دافنبورت على أن قادة التكنولوجيا بحاجة إلى التركيز بشكل أكبر على القيمة التجارية. لكنه يُفضل أن يرى وجود «قادة التكنولوجيا الفائقة» للاطلاع على التقارير التي ترفع من جميع الجهات التقنية (الأدنى).

أياً كانت الإجابة الصحيحة؛ فمن الواضح أن المنظمات يجب أن تقوم ببعض التدخلات وتجعل أولئك الذين يقودون البيانات محترمين مثل البيانات نفسها.