ما هي طبيعة الذكاء الاصطناعي التي لا يمكن السيطرة عليها؟

تنتفي حالياً قدرات التحكم فيه

ما هي طبيعة الذكاء الاصطناعي التي لا يمكن السيطرة عليها؟
TT

ما هي طبيعة الذكاء الاصطناعي التي لا يمكن السيطرة عليها؟

ما هي طبيعة الذكاء الاصطناعي التي لا يمكن السيطرة عليها؟

في مراجعة شاملة تلقي الضوء على مجال الذكاء الاصطناعي الناشئ، يرفع د. رومان فـ. يامبولسكي، الخبير الرائد في أمن الذكاء الاصطناعي بجامعة لويزفيل الأميركية، الصوت مشكّكاً بقدرة البشرية على السيطرة على هذه التقنية.

الذكاء الاصطناعي يهيكل المجتمعات

في كتابه المقبل «الذكاء الاصطناعي: غير القابل للشرح والتنبؤ والسيطرة»، يغوص الخبير في أشكال إعادة هيكلة الذكاء الاصطناعي لمجتمعاتنا والتي لن تكون دائماً للأفضل. وتوصلت تحقيقاته في الأدب العلمي المحيط بالذكاء الاصطناعي إلى خلاصة صاعقة: لا يوجد حالياً دليلٌ يرجّح إمكانية السيطرة على الذكاء الاصطناعي.

يشير بحث الدكتور يامبولسكي إلى خطرٍ وجودي محتمل تمثله هذه التقنية، ويقول: «نحن نواجه حدثاً قادراً على التسبّب بكارثة وجودية». يسلّط هذا التحذير الصارخ الضوء على سيفٍ ذي حدّين لتطوّر الذكاء الاصطناعي: الوعد بالازدهار غير المسبوق، يقابله خطر الانقراض.

طرائق الذكاء لا يمكن فهمها

يرى الخبير استهانة هائلة في تحدّي السيطرة على الذكاء الاصطناعي؛ إذ على الرغم من مكاسبه المحتملة، فإن قدرة الذكاء الاصطناعي على التعلّم، والتكيّف، والتصرّف بشكلّ شبه مستقلّ في الأوضاع المستجدّة، تضعنا أمام عددٍ لا يُعدّ ولا يُحصى من المشاكل المرتبطة بالسلامة. يكمن أصل هذه المسألة في طبيعة أنظمة الذكاء الاصطناعي التي تُشبه «الصندوق الأسود»، حيث تُتخذ القرارات بطرائق لا يستطيع البشر فهمها أو توقّعها تلقائياً.

في عالم الذكاء الخارق، تتضاءل القدرة على الحفاظ على السيطرة في ظلّ تصاعد استقلالية الذكاء الاصطناعي. ويحاجج الدكتور يامبولسكي بأنّ العناصر الأقلّ ذكاءً، كالبشر، لا يستطيعون السيطرة إلى الأبد على العناصر الأكثر ذكاءً، كالذكاء الاصطناعي، شارحاً أنّ المسألة هنا ليس تحدياً تقنياً، بل وضعاً مستحيلاً نظراً لطبيعة الذكاء الخارق.

اصطفاف أم معادة للقيم الإنسانية؟

علاوةً على ذلك، تضعنا المطالبة بذكاء اصطناعي منحاز للأخلاق والقيم أمام مفارقة. فبينما يُرى اصطفاف الذكاء الاصطناعي إلى جانب القيم الإنسانية بوصفه وسيلة لضمان السلامة، لا تزال هذه التقنية تحمل في طيّاتها الكثير من الانحياز الذي لا يفضي دوماً إلى نتائج أخلاقية أو إيجابية حتى ولو كان مناصراً للبشر.

يدعم يامبولسكي مقاربة متوازنة لتطوير الذكاء الاصطناعي، يُصار فيها إلى قياس المكاسب المحتملة مقابل المخاطر.

الذكاء الاصطناعي يَعِد بالازدهار غير المسبوق يقابله خطر الانقراض

تصميم لمراعاة الفهم البشري

ويقترح الخبير أن يُعمد إلى تصميم أنظمة ذكاء اصطناعي تراعي قابلية التعديل، والشفافية، والفهم البشري. ويدعو أيضاً إلى المزيد من الجهود والتمويل للأبحاث التي تدرس أمن الذكاء الاصطناعي، مشيراً إلى أنّ الذكاء الاصطناعي الآمن بالكامل ليس قابلاً للتحقيق، ولكن إجراء تحسينات وازنة قد يساعد في تقليل المخاطر.

تتسم نتائج أبحاث الدكتور يامبولسكي بالعمق، وتحثّ على إعادة تقييم مسيرة تطوير الذكاء الاصطناعي. فمن دون الضوابط المناسبة، يضع دمج الذكاء الاصطناعي في مجالات حساسة كالعناية الصحية، والموارد المالية، والأمن، البشرية أمام مخاطر كبيرة على المستويين الأخلاقي والأمني. يكمن التحدّي الأكبر في إيجاد طريقة لتسخير مكاسب الذكاء الاصطناعي وضمان انحيازه للقيم الإنسانية والسيطرة عليه، هذه المهمّة التي يشدّد الخبير على أهميتها العظيمة لمستقبل البشرية.

مع استمرار تطوّر الذكاء الاصطناعي، سيبقى الجدل حول سلامته، والسيطرة عليه، وتبعاته الأخلاقية في مقدّمة الخطابين العلمي والشعبي. وحسب موقع «سبايس وور» الإلكتروني، فإن الدكتور يامبولسكي يسلط الضوء على الحاجة الملحّة لجهود عالمية متضافرة تواجه المخاطر المحتملة للذكاء الاصطناعي غير الخاضع للسيطرة.

طريق المستقبل غامض، ولكنّ الدعوة إلى التحرّك واضحة: السير في طريق تطوير الذكاء الاصطناعي بحذر وحكمة، والتزام عميق بحماية مستقبل البشرية.


مقالات ذات صلة

جهاز لتحفيز الأعصاب يفتح آفاقاً لعلاج انقطاع التنفس أثناء النوم

صحتك لا يستطيع بعضنا النوم أحياناً رغم شعورنا بالتعب والإرهاق الشديدين (رويترز)

جهاز لتحفيز الأعصاب يفتح آفاقاً لعلاج انقطاع التنفس أثناء النوم

صُمم جهاز طبي مبتكر يُعرف باسم « Genio» يهدف إلى تحفيز الأعصاب في اللسان لتحسين التنفس أثناء النوم.

«الشرق الأوسط» (لندن)
تكنولوجيا صورة ملتقطة 12 مايو 2023 في الولايات المتحدة تظهر شعار «غوغل» على أحد المباني في المقر الرئيسي للشركة (د.ب.أ)

«غوغل» تطلق نظام «أندرويد إكس آر» المصمم لتعزيز تجارب الواقع المختلط

عرضت شركة «غوغل»، الخميس، تطوّراتها في تكنولوجيا الواقع المختلط، مع إطلاقها نظام تشغيل جديداً لنظارات وخِوَذ الواقعَيْن الافتراضي والمعزَّز.

«الشرق الأوسط» (سان فرنسيسكو)
تكنولوجيا فازت لعبة «أسترو بوت» بجائزة أفضل لعبة فيديو لعام 2024  «Game Awards 2024» المُقامة في لوس أنجليس (متداولة)

«أسترو بوت» تفوز بجائزة «أفضل لعبة فيديو» لعام 2024

فازت «أسترو بوت»، وهي لعبة تكرّم أشهر الأبطال في أجهزة سوني، بجائزة أفضل لعبة فيديو لعام 2024 المُقامة في لوس أنجليس الأميركية.

«الشرق الأوسط» (لوس أنجليس)
الولايات المتحدة​ شعار «ميتا» خلال مؤتمر في مومباي بالهند 20 سبتمبر 2023 (رويترز)

شركة «ميتا» تتبرع بمليون دولار لصندوق تنصيب ترمب

أبلغ متحدث باسم شركة «ميتا بلاتفورمز» وكالة «رويترز» للأنباء أن شركة «ميتا» تبرعت بمليون دولار لصندوق تنصيب الرئيس الأميركي المنتخب دونالد ترمب.

«الشرق الأوسط» (واشنطن)
الاقتصاد بوتين يزور معرضًا في «رحلة الذكاء الاصطناعي» بسابيربنك في موسكو 11 ديسمبر 2024 (رويترز)

روسيا تعتزم تحسين تصنيفها العالمي في الذكاء الاصطناعي بحلول 2030

قال ألكسندر فيدياخين، نائب الرئيس التنفيذي لأكبر بنك مقرض في روسيا، «سبيربنك»، إن البلاد قادرة على تحسين موقعها في تصنيفات الذكاء الاصطناعي العالمية بحلول 2030.

«الشرق الأوسط» (موسكو)

«مرايا» الذكاء الاصطناعي تعكس دواخلها «مع كل التحيزات»

«بوابة السحاب» مرآة تعكس الحياة وتشوهاتها
«بوابة السحاب» مرآة تعكس الحياة وتشوهاتها
TT

«مرايا» الذكاء الاصطناعي تعكس دواخلها «مع كل التحيزات»

«بوابة السحاب» مرآة تعكس الحياة وتشوهاتها
«بوابة السحاب» مرآة تعكس الحياة وتشوهاتها

قبل بضع سنوات، وجدت شانون فالور نفسها أمام تمثال «بوابة السحاب (Cloud Gate)»، الضخم المُصمَّم على شكل قطرة زئبقية من تصميم أنيش كابور، في حديقة الألفية في شيكاغو. وبينما كانت تحدق في سطحه اللامع المرآتي، لاحظت شيئاً، كما كتب أليكس باستيرناك (*).

وتتذكر قائلة: «كنت أرى كيف أنه لا يعكس أشكال الأفراد فحسب، بل والحشود الكبيرة، وحتى الهياكل البشرية الأكبر مثل أفق شيكاغو... ولكن أيضاً كانت هذه الهياكل مشوَّهة؛ بعضها مُكبَّر، وبعضها الآخر منكمش أو ملتوٍ».

الفيلسوفة البريطانية شانون فالور

تشويهات التعلم الآلي

بالنسبة لفالور، أستاذة الفلسفة في جامعة أدنبره، كان هذا يذكِّرنا بالتعلم الآلي، «الذي يعكس الأنماط الموجودة في بياناتنا، ولكن بطرق ليست محايدة أو موضوعية أبداً»، كما تقول. أصبحت الاستعارة جزءاً شائعاً من محاضراتها، ومع ظهور نماذج اللغة الكبيرة (والأدوات الكثيرة للذكاء الاصطناعي التي تعمل بها)، اكتسبت مزيداً من القوة.

مرايا الذكاء الاصطناعي مثل البشر

تبدو «مرايا» الذكاء الاصطناعي مثلنا كثيراً؛ لأنها تعكس مدخلاتها وبيانات التدريب، مع كل التحيزات والخصائص التي يستلزمها ذلك. وبينما قد تنقل القياسات الأخرى للذكاء الاصطناعي شعوراً بالذكاء الحي، فإن «المرآة» تعبير أكثر ملاءمة، كما تقول فالور: «الذكاء الاصطناعي ليس واعياً، بل مجرد سطح مسطح خامل، يأسرنا بأوهامه المرحة بالعمق».

غلاف كتاب «مرايا الذكاء الاصطناعي»

النرجسية تبحث عن صورتها

كتابها الأخير «مرآة الذكاء الاصطناعي (The AI Mirror)»، هو نقد حاد وذكي يحطِّم عدداً من الأوهام السائدة التي لدينا حول الآلات «الذكية». يوجه بعض الاهتمام الثمين إلينا نحن البشر. في الحكايات عن لقاءاتنا المبكرة مع برامج الدردشة الآلية، تسمع أصداء نرجس، الصياد في الأساطير اليونانية الذي وقع في حب الوجه الجميل الذي رآه عندما نظر في بركة من الماء، معتقداً بأنه شخص آخر. تقول فالور، مثله، «إن إنسانيتنا مُعرَّضة للتضحية من أجل هذا الانعكاس».

تقول الفيلسوفة إنها ليست ضد الذكاء الاصطناعي، لكي نكون واضحين. وسواء بشكل فردي، أو بصفتها المديرة المشارِكة لمنظمة «BRAID»، غير الربحية في جميع أنحاء المملكة المتحدة المكرسة لدمج التكنولوجيا والعلوم الإنسانية، قدَّمت فالور المشورة لشركات وادي السيليكون بشأن الذكاء الاصطناعي المسؤول.

نماذج «مسؤولة» ومختبرة

وهي ترى بعض القيمة في «نماذج الذكاء الاصطناعي المستهدفة بشكل ضيق والآمنة والمختبرة جيداً والمبررة أخلاقياً وبيئياً» لمعالجة المشكلات الصحية والبيئية الصعبة. ولكن بينما كانت تراقب صعود الخوارزميات، من وسائل التواصل الاجتماعي إلى رفاق الذكاء الاصطناعي، تعترف بأن ارتباطها بالتكنولوجيا كان مؤخراً «أشبه بالوجود في علاقة تحوَّلت ببطء إلى علاقة سيئة. أنك لا تملك خيار الانفصال».

فضائل وقيم إنسانية

بالنسبة لفالور، إحدى الطرق للتنقل وإرشاد علاقاتنا المتزايدة عدم اليقين بالتكنولوجيا الرقمية، هي الاستفادة من فضائلنا وقيمنا، مثل العدالة والحكمة العملية. وتشير إلى أن الفضيلة لا تتعلق بمَن نحن، بل بما نفعله، وهذا جزء من «صراع» صنع الذات، بينما نختبر العالم، في علاقة مع أشخاص آخرين. من ناحية أخرى، قد تعكس أنظمة الذكاء الاصطناعي صورة للسلوك أو القيم البشرية، ولكن كما كتبت في كتابها، فإنها «لا تعرف عن التجربة الحية للتفكير والشعور أكثر مما تعرف مرايا غرف نومنا آلامنا وأوجاعنا الداخلية».

الخوارزميات والعنصرية وعدم المساواة

في الوقت نفسه تعمل الخوارزميات المدربة على البيانات التاريخية، بهدوء، على تقييد مستقبلنا بالتفكير نفسه الذي ترك العالم «مليئاً بالعنصرية والفقر، وعدم المساواة، والتمييز، وكارثة المناخ».

«كيف سنتعامل مع تلك المشكلات الناشئة التي ليست لها سابقة؟»، تتساءل فالور، وتشير: «مرايانا الرقمية الجديدة تشير إلى الوراء».

الاعتماد على السمات البشرية المفيدة

مع اعتمادنا بشكل أكبر على الآلات، وتحسينها وفقاً لمعايير معينة مثل الكفاءة والربح، تخشى فالور أننا نخاطر بإضعاف عضلاتنا الأخلاقية أيضاً، وفقدان المسار للقيم التي تجعل الحياة تستحق العناء.

مع اكتشافنا لما يمكن أن يفعله الذكاء الاصطناعي، سنحتاج إلى التركيز على الاستفادة من السمات البشرية الفريدة أيضاً، مثل التفكير القائم على السياق والحكم الأخلاقي، وعلى تنمية قدراتنا البشرية المتميزة. كما تعلمون. وهي تقول: «لسنا بحاجة إلى هزيمة الذكاء الاصطناعي. نحن بحاجة إلى عدم هزيمة أنفسنا».

* مجلة «فاست كومباني» - خدمات «تريبيون ميديا»

اقرأ أيضاً