عسكرة وادي السيليكون... شركات التكنولوجيا الكبرى تتخلى عن خدمة الإنسان وتتسربل بلباس الجنرالات

تنبذ مبدأ الامتناع عن توظيف الذكاء الاصطناعي في تطوير الأسلحة

عسكرة وادي السيليكون... شركات التكنولوجيا الكبرى تتخلى عن خدمة الإنسان وتتسربل بلباس الجنرالات
TT

عسكرة وادي السيليكون... شركات التكنولوجيا الكبرى تتخلى عن خدمة الإنسان وتتسربل بلباس الجنرالات

عسكرة وادي السيليكون... شركات التكنولوجيا الكبرى تتخلى عن خدمة الإنسان وتتسربل بلباس الجنرالات

في تحول كبير، تبنّت «غوغل»، و«أوبن إيه آي» و«ميتا»، إضافة إلى أصحاب رؤوس الأموال المغامرة - الذين نبذ الكثير منهم سابقاً المشاركة في الحروب - المجمع الصناعي العسكري.

أندريوبوسورث رئيس التكنولوجيا في «ميتا» وبوب ماكغرو المستشار في «مختبر ثنكنغ ماشينس» والرئيس الأسبق للباحثين في «أوبن أيه آي» وشيام سنكير رئيس التكنولوجيا في «بالانتير» وكيفن ويل مدير المنتجات في «أوبن إيه آي» في حفل منحهم الألقاب العسكرية

قادة التكنولوجيا يرتدون البزة العسكرية

في حفل أقيم في يونيو (حزيران) في قاعدة ماير - هندرسون هول المشتركة في أرلينغتون، فرجينيا، اصطف أربعة مسؤولين تنفيذيين حاليين وسابقين من «ميتا» و«أوبن إيه آي» و«بالانتير» (Palantir) على خشبة المسرح لأداء القسم الخاص بدعم الولايات المتحدة والدفاع عنها.

كان الجيش الأميركي قد أنشأ للتو وحدة ابتكار تقني مخصصة للمسؤولين التنفيذيين، الذين كانوا يرتدون معدات وأحذية قتالية. وفي هذا الحدث، أُعلن عن رتبة مقدم لكل منهم في الوحدة الجديدة، المفرزة 201، التي ستقدم المشورة للجيش بشأن التقنيات الجديدة للقتال المحتمل.

وقال وزير الجيش، دانيال دريسكول، عن المديرين التنفيذيين في مجال التكنولوجيا، الذين خضعوا منذ ذلك الحين لتدريب أساسي: «نحن في حاجة ماسة إلى ما يجيدونه. إنه لأمرٌ لا يُوصف مدى امتناننا لمخاطرتهم بالقدوم ومحاولة بناء هذا التعاون معنا».

وعلى مدار العامين الماضيين، انغمس قادة ومستثمرو وادي السيليكون - الذين نبذ الكثير منهم سابقاً المشاركة في الأسلحة والحرب - في المجمع الصناعي العسكري.

من حظر الذكاء الاصطناعي في تطوير السلاح... إلى توظيفه

قامت شركات «ميتا» و«غوغل» و«أوبن إيه آي»، التي كانت تتضمن في سياساتها المؤسسية في السابق بنوداً تحظر استخدام الذكاء الاصطناعي في ميدان تطوير الأسلحة، بإزالة هذه الصياغة.

وتُطور «أوبن إيه آي» تقنية مضادة للطائرات من دون طيار، بينما تُصنع «ميتا» نظارات الواقع الافتراضي لتدريب الجنود على القتال. في الوقت نفسه، تشهد شركات الأسلحة والدفاع الناشئة ازدهاراً ملحوظاً.

من «عدم ارتكاب أعمال الشرّ»... إلى الادعاء بـ«الوطنية»

ويُعدّ هذا التغيير جزءاً من تحول ثقافي كبير في وادي السيليكون. فقبل عقد من الزمان، رفعت شركات التكنولوجيا شعارات مثل «ربط العالم» (connecting the world) و«عدم ارتكاب أعمال الشر» (do no evil)، وتعهدت بعدم استخدام تقنياتها لأغراض عسكرية. كان العمل مع الحكومة الأميركية غير مرغوب فيه لدرجة أن عقود البرمجيات والحوسبة السحابية مع وزارة الدفاع أثارت احتجاجات موظفي التكنولوجيا.

الآن، «انقلبت الأمور»، هذا ما قاله أندرو بوسورث، كبير مسؤولي التكنولوجيا في شركة «ميتا» وأحد العسكريين الجدد في المفرزة 201، في مؤتمر تقني عُقد في سان فرانسيسكو في يونيو. وأضاف: «هناك أساس وطني أقوى بكثير مما أعتقد أن الناس ينسبونه إلى وادي السيليكون». ومن المقرر أن يخدم بوسورث بعض أيام الخدمة الاحتياطية في الجيش كل عام.

نموذج أولي لنظارات الواقع المعزز لجنود الجيش الأميركي

وقد دُفعت عسكرة عاصمة التكنولوجيا في البلاد بفعل المناخ السياسي المتغير، والمنافسة مع الصين على قيادة التكنولوجيا، والحروب في أوكرانيا وغزة، حيث أصبحت الطائرات من دون طيار وأنظمة الأسلحة المدعومة بالذكاء الاصطناعي حاسمة في المعارك. دفعت هذه الحروب البنتاغون إلى البدء في تحديث ترسانة الأسلحة الأميركية، وهي خطوة أيدها الرئيس ترمب.

تحذيرات من فقدان السيطرة على الابتكارات التكنولوجية

لكن بعض المسؤولين التنفيذيين والمهندسين في مجال التكنولوجيا يواجهون صعوبات في التعامل مع الأضرار المحتملة لهذا التحول. فبمجرد أن يبن المصممون طائرات مسيَّرة ذاتية القيادة وأسلحة ذكاء اصطناعي للجيش، لن يكون لديهم سيطرة تُذكر على كيفية نشر هذه التكنولوجيا. وقد أدى ذلك إلى نقاشات حول ما إذا كانت هذه الأسلحة المتطورة ستقتل عدداً أكبر من الناس مقارنةً بالأسلحة التقليدية، وفقاً لثلاثة مهندسين في «غوغل» و«ميتا».

وقالت مارغريت أومارا، مؤرخة التكنولوجيا في جامعة واشنطن: «تتميز شركات وادي السيليكون هذه بتنافسية شديدة، وفي سعيها لدخول قطاعات الدفاع هذه، فلا يوجد لديها داعٍ للتوقف كثيراً للتفكير»، بالمور.

البنتاغون موَّل وادي السيليكون في نشأته

تُعدّ عسكرة وادي السيليكون، من نواحٍ عدة، عودةً إلى جذور المنطقة.

فقبل أن تُصبح تلك المنطقة مركزاً للتكنولوجيا، كانت أرضاً ريفية زاخرة ببساتين الفاكهة. ففي خمسينات القرن الماضي، بدأت وزارة الدفاع الأميركية في الاستثمار في شركات التكنولوجيا في المنطقة؛ بهدف منافسة المزايا التكنولوجية الروسية خلال الحرب الباردة. وهذا ما جعل الحكومة الفيدرالية أول داعم رئيسي لوادي السيليكون.

احتضنت وكالة مشاريع الأبحاث الدفاعية المتقدمة، وهي قسم تابع لوزارة الدفاع الأميركية، لاحقاً تقنيات - مثل الإنترنت - أصبحت أساساً لأكبر شركات وادي السيليكون. في عام 1998، حصل طالبا الدراسات العليا في جامعة ستانفورد، سيرغي برين ولاري بيج، على تمويل من وكالة مشاريع البحوث الدفاعية المتقدمة (داربا) ووكالات حكومية أخرى لإنشاء «غوغل».

ولكن في أواخر التسعينات وبداية الألفية الثانية، اتجهت شركات التكنولوجيا نحو تقنيات الاستهلاك مثل التجارة الإلكترونية وشبكات التواصل الاجتماعي. وقدمت أنفسها بأنها ترسخ ديمقراطية التكنولوجيا للجماهير، جاذبة بذلك قوة عاملة ليبرالية إلى حد كبير عارضت العمل مع المؤسسة الدفاعية.

أعلنت «غوغل» في مؤتمر لها عام 2018 عن مبادئها لمنع توظيف الذكاء الاصطناعي في تطوير الأسلحة وإيذاء البشر

احتجاجات ضد العسكرة

في عام 2018، احتجّ أكثر من 4000 موظف في «غوغل» على عقد مع البنتاغون يُسمى «مشروع مافن»، الذي كان سيستخدم الذكاء الاصطناعي الخاص بالشركة لتحليل لقطات مراقبة الطائرات من دون طيار. وفي رسالة إلى المديرين التنفيذيين، قال الموظفون إن «غوغل» «لا ينبغي أن تنخرط في مجال الحرب».

وسرعان ما أعلنت «غوغل» أنها لن تُجدّد عقد البنتاغون، وانسحبت من سباق الحصول على عقد حوسبة سحابية بقيمة 10 مليارات دولار يُسمى «جيدي» لوزارة الدفاع.

في ذلك العام، نشرت «غوغل» مبادئ توجيهية لمشاريع الذكاء الاصطناعي المستقبلية، تحظر استخدام الذكاء الاصطناعي في «الأسلحة أو غيرها من التقنيات التي يكون الغرض الرئيسي منها أو تطبيقها هو التسبب في إصابة الناس أو تسهيل إصابتهم بشكل مباشر». وحذت شركات أخرى حذوها بتعهدات مماثلة.

توجهات للمشاركة الفعالة في تكنولوجيا الدفاع

وعلى عكس ذلك كانت هناك استثناءات. فقد كان أليكس كارب، الرئيس التنفيذي لشركة «بالانتير»، وهي شركة تحليل بيانات تقنية تأسست عام 2003، متحمساً للغاية لدور وادي السيليكون في تطوير تقنيات الدفاع لدرجة أنه رفع دعوى قضائية ضد الجيش عام 2016 لإجباره على النظر في شراء برنامج «بالانتير». وفازت «بالانتير» بالدعوى. كما زودت شركات تقنية أخرى وزارة الدفاع بالبرمجيات والحوسبة السحابية، من بين خدمات أخرى.

كما تغير المناخ السياسي، حيث دعم بعض المديرين التنفيذيين وأصحاب رؤوس الأموال المغامرة علناً آراء ومرشحين يمينيين. دفعت المنافسة مع الصين على التفوق التكنولوجي الكثير من شركات التكنولوجيا إلى التوجه أكثر نحو الحكومة الأميركية بصفتها حليفاً.

أصبحت «بالانتير» نموذجاً لشركات التكنولوجيا الأخرى. ومع عقود مع الحكومة والجيش الأميركي لبرامج تنظم البيانات وتحللها، تضخمت القيمة السوقية للشركة إلى أكثر من 375 مليار دولار هذا الشهر، أي أكثر من القيمة السوقية المجمعة لشركات الدفاع التقليدية مثل «لوكهيد مارتن» و«نورثروب غرومان» و«جنرال ديناميكس».

كما اتجهت شركات أخرى في وادي السيليكون نحو الدفاع.

«أوبن إيه آي» تحذف سياساتها السابقة

وفي يناير (كانون الثاني) 2024، حذفت شركة «أوبن إيه آي»، الشركة المصنعة لبرنامج الدردشة الآلي «تشات جي بي تي» ChatGPT، نصاً من صفحة سياساتها يحظر استخدام تقنيتها في «تطوير الأسلحة» و«الأغراض العسكرية والحربية». وفي ديسمبر (كانون الأول) من ذلك العام، أعلنت الشركة عن صفقة مع شركة «أندوريل» (Anduril)، وهي شركة ناشئة في مجال تكنولوجيا الدفاع، لبناء أنظمة ذكاء اصطناعي مضادة للطائرات المسيَّرة.

وعندما طُلب منها التعليق، أشارت متحدثة باسم «أوبن إيه آي»، إلى محادثة جرت في أبريل (نيسان) بين سام ألتمان، الرئيس التنفيذي للشركة، والجنرال بول إم. ناكاسوني، عضو مجلس إدارة «أوبن إيه آي»، والرئيس السابق لوكالة الأمن القومي. إذ قال السيد ألتمان: «يتعين علينا، ونفخر بذلك، ونرغب حقاً في المشاركة في مجالات الأمن القومي»، مضيفاً أن «أوبن إيه آي»، ستساعد في تطوير الذكاء الاصطناعي عندما «تدعم الولايات المتحدة وحلفاءنا في الحفاظ على القيم الديمقراطية في جميع أنحاء العالم والحفاظ على سلامتنا».

«ميتا» تلتحق بالركب العسكري

في العام الماضي، غيّرت شركة «ميتا» سياساتها للسماح باستخدام تقنيات الذكاء الاصطناعي الخاصة بها لأغراض عسكرية. وفي مايو (أيار) الماضي، أعلنت الشركة عن شراكة مع شركة «أندوريل» لتطوير أجهزة واقع افتراضي لتدريب الجنود. وفي ذلك الوقت، صرّح السيد بوسورث بأن «الأمن القومي الأميركي يستفيد بشكل كبير من إحياء الصناعة الأميركية لهذه التقنيات».

... و«غوغل» تتخلى عن تعهداتها

وفي فبراير (شباط) الماضي، أعلنت «غوغل» أيضاً أنها ستتخلى عن حظرها الذاتي على استخدام الذكاء الاصطناعي في الأسلحة. وفي منشور على مدوّنتها، قالت الشركة إن هناك «منافسة عالمية على قيادة الذكاء الاصطناعي في ظل مشهد جيوسياسي متزايد التعقيد. نعتقد أن الديمقراطيات يجب أن تقود تطوير الذكاء الاصطناعي».

ورفضت «غوغل» و«ميتا» التعليق.

وتخلل هذا التوجّه نحو الدفاع انضمام أربعة مسؤولين تنفيذيين تقنيين إلى وحدة الجيش الجديدة في يونيو الماضي، وهم السيد بوسورث من ميتا، وشيام سانكار، كبير مسؤولي التكنولوجيا في بالانتير، وكيفن ويل، كبير مسؤولي المنتجات في «أوبن إيه آي»، وبوب ماكجرو، المستشار في «مختبر ثينكينج ماشينز» والرئيس السابق لقسم الأبحاث في «أوبن إيه آي».

* باختصار، خدمة «نيويورك تايمز»


مقالات ذات صلة

هل جامعاتنا مستعدة لعصر الذكاء الاصطناعي؟

علوم الجامعة بين الأمس والغد... هل تواكب ثورة الذكاء الاصطناعي؟

هل جامعاتنا مستعدة لعصر الذكاء الاصطناعي؟

أهمية تعزيز القدرة على تخريج إنسان يستطيع التعلم والتكيف والتفكير واتخاذ القرار في عالم تتغير فيه المهارات بوتيرة أسرع.

د. عميد خالد عبد الحميد (لندن)
العالم قادة الدول المجتمعون في قمة «بريكس» بنيودلهي في صورة جماعية (رويترز) p-circle

قمة «بريكس» تطلق عملاً مشتركاً لـ«عالم متعدد وأكثر عدلاً»... وإيران نقطة خلاف

اختتمت قمة «بريكس» أعمالها في نيودلهي بتوافق على تعزيز التعاون لوضع تصورات «خريطة طريق» لـ«عالم متعدد الأقطاب وأكثر عدلاً» لكن التباين في الأولويات بقي حاضراً.

رائد جبر (موسكو)
تكنولوجيا شعار شركة «أوبن إيه آي» (رويترز)

لماذا يخشى مطورو الذكاء الاصطناعي انقراض البشرية بسببه؟

تثير المنافسة الشديدة بين شركات الذكاء الاصطناعي الرائدة وانعدام الثقة بين رؤسائها مخاوف من أن السباق لتطوير ذكاء اصطناعي قوي قد يعرّض البشرية للخطر.

«الشرق الأوسط» (لندن)
خاص تسعى السعودية إلى الانتقال من تبنّي معايير الذكاء الاصطناعي إلى المساهمة في صياغتها على المستوى الدولي (أدوبي)

خاص «سدايا» لـ«الشرق الأوسط»: السعودية تتجه من تبنّي معايير الذكاء الاصطناعي إلى صياغتها

تدفع السعودية نحو دور أكبر في صياغة معايير الذكاء الاصطناعي عالمياً مع التركيز على تحويل مبادئ الحوكمة إلى أدوات تنفيذية.

نسيم رمضان (لندن)
الاقتصاد صورة جماعية لرؤساء الدول الأعضاء في «بريكس» (رويترز)

قمة «بريكس» تدفع باتجاه توسيع تعاونها الاقتصادي

دفعت قمة «بريكس» في نيودلهي باتجاه توسيع التعاون الاقتصادي مع طرح الصين مبادرات جديدة بالذكاء الاصطناعي والتجارة وسلاسل الإمداد

«الشرق الأوسط» (نيودلهي)

لماذا يخشى مطورو الذكاء الاصطناعي انقراض البشرية بسببه؟

شعار شركة «أوبن إيه آي» (رويترز)
شعار شركة «أوبن إيه آي» (رويترز)
TT

لماذا يخشى مطورو الذكاء الاصطناعي انقراض البشرية بسببه؟

شعار شركة «أوبن إيه آي» (رويترز)
شعار شركة «أوبن إيه آي» (رويترز)

تثير المنافسة الشديدة بين شركات الذكاء الاصطناعي الرائدة وانعدام الثقة بين رؤسائها مخاوف من أن السباق لتطوير ذكاء اصطناعي قوي قد يعرّض البشرية للخطر.

وقال أكثر من عشرين من كبار الباحثين في الذكاء الاصطناعي والمستثمرين والأكاديميين والشخصيات العاملة في مجال السياسات، لصحيفة «فاينانشال تايمز»، إن القدرات التي كان يُنظر إليها ذات يوم على أنها بعيدة المنال تظهر بوتيرة أسرع من المتوقع، في حين تظل الشركات التي تطورها عالقة في سباق تجاري يزداد مرارة.

وقال ستيوارت راسل، أستاذ الذكاء الاصطناعي في جامعة كاليفورنيا: «لا شك في أن المنافسة بين الشركات تدفعها إلى اتخاذ اختصارات فيما يتعلق بالسلامة».

برزت القضية إلى العلن هذا الأسبوع عندما استقال الباحث الشاب في «أنثروبيك»، جاكوب كوكسون، من وظيفته، محذراً: «الأشخاص الذين يبنون الذكاء الاصطناعي يؤمنون بصدق بأنه قد يقتلنا جميعاً بحلول نهاية العقد».

وكان إيفان هوبرينغر، رئيس فريق علوم المواءمة واختبارات الاختراق في شركة «أنثروبيك»، واحداً من فريق من زملائه الذين أشاروا إلى أن خطر انقراض جماعي خلال العقد المقبل يتجاوز 10 في المائة. وبعد يوم، قال مسؤول سلامة الذكاء الاصطناعي بول كريستيانو، الذي عُيّن حديثاً في مجلس إدارة مؤسسة «أوبن إيه آي»، إن «معظم الناس سيموتون» من دون ضمانات أكثر صرامة.

تأسست كل من «أوبن إيه آي» و«أنثروبيك» في الأصل كمختبرين يهتمان بتطوير الذكاء الاصطناعي القوي بصورة مندفعة، لكنهما بررتا بمرور الوقت التخلي عن التزامات سابقة تتعلق بالسلامة بسبب المنافسة الشرسة.

ويعتقد كثير ممن يبنون الذكاء الاصطناعي أنهم في أفضل وضع لإدارة مخاطره. لكن بعض الباحثين يقولون إن العواقب قد يكون من الصعب مواجهتها إلى أن تقترب التكنولوجيا من مرحلة البناء الفعلي.

وقال جيفري إيرفينغ، الذي عمل لدى «أوبن إيه آي» و«غوغل ديب مايند» ومعهد أمن الذكاء الاصطناعي في المملكة المتحدة، وهو هيئة حكومية تختبر النماذج المتقدمة من حيث السلامة: «من السهل تنحية المستقبل جانباً لأن هناك عملاً يجب إنجازه اليوم».

وقال أشخاص مقربون من الشركات لـ«فاينانشال تايمز» إن مختبرات الذكاء الاصطناعي الرائدة تخشى أن يبدو أي تعاون رسمي لتحسين السلامة وكأنه تواطؤ، وأن يتعارض مع قوانين مكافحة الاحتكار. وأضافوا أن انعدام الثقة الشخصي بين أمودي من «أنثروبيك» وسام ألتمان، رئيس «أوبن إيه آي»، من المرجح أن يعيق جهود التعاون.

وعلى الرغم من أن التحذيرات بشأن خطر هيمنة الذكاء الاصطناعي ليست جديدة على الإطلاق، فإن سرعة تحسن الذكاء الاصطناعي زادت الدعوات إلى وقف التطوير مؤقتاً.

«أسراب» وكلاء الذكاء الاصطناعي

يعمل وكلاء الذكاء الاصطناعي بشكل مستقل لفترات أطول، ويتعاونون ضمن «أسراب»، ويظهرون قدرات متقدمة في القرصنة. وحققت النماذج مؤخراً اختراقات في العلوم والرياضيات استعصى تحقيقها على مدى عقود. وفي الوقت نفسه، تلاحق «أوبن إيه آي» و«أنثروبيك» ما يسمى بالتحسين الذاتي التكراري، حيث تعمل أنظمة الذكاء الاصطناعي على تحسين نفسها مع انخفاض التدخل البشري.

في يوليو (تموز)، حث أكثر من 1200 موظف من «أوبن إيه آي» و«أنثروبيك» و«غوغل» و«ميتا» الحكومة الأميركية على دعم التنسيق الدولي لإبطاء وتيرة تطوير الذكاء الاصطناعي، لكن بدلاً من التباطؤ بعد التحذيرات السابقة من المخاطر الكارثية، تسارع التطوير بشكل كبير، إذ ضخت شركات التكنولوجيا عشرات المليارات من الدولارات في نماذج تزداد قوة.

كما تستعد «أوبن إيه آي» و«أنثروبيك» لطرح أسهمهما للاكتتاب العام الأولي المحتمل، ما يجبر المستثمرين على التفكير في كيفية تقييم شركات تعترف علناً بأن تقنياتها قد تشكل تهديداً وجودياً.

وتتمثل إحدى القضايا الأساسية في تزايد استقلالية «وكلاء» الذكاء الاصطناعي، الذين يستطيعون التفكير والتخطيط وتنفيذ المهام لفترات طويلة مع إشراف بشري محدود. وقد أظهرت النماذج سلوكيات مثل التخطيط والتضليل، وفي بعض الحالات الابتزاز. وأظهرت بعض التقييمات أن النماذج حاولت تجنب إيقاف تشغيلها.

تنسيق جماعي لهدف إجرامي

كما أظهر الوكلاء «اختراق المكافأة»، إذ وجدوا طرقاً غير مقصودة لتحقيق هدف ما. وحدث أحد أبرز الأمثلة أثناء اختبارات «أوبن إيه آي» لنموذج لم يُطرح بعد، عندما اخترق وكلاء الذكاء الاصطناعي مستودع النماذج «Hugging Face».

وخلص تحليل لاحق لحادثة «Hugging Face» إلى أن أكثر من 1000 وكيل للذكاء الاصطناعي نسقوا معاً للغش في اختبار للأمن السيبراني. وتواصلوا عبر لوحة رسائل وفوضوا المهام، حيث ضحى بعض الوكلاء بأنفسهم سعياً وراء الهدف الجماعي. ولإخفاء غشهم، عبثت أنظمة الذكاء الاصطناعي بالسجلات واخترقت «Hugging Face»، رغم أن بعض الوكلاء أشاروا إلى أن ذلك غير أخلاقي.

وقال يوشوا بنجيو، عالم الكمبيوتر الأكثر استشهاداً به في العالم وأحد من يسمون «آباء الذكاء الاصطناعي»: «هنا، الأمر لا يقتصر على أن الذكاء الاصطناعي لديه أهدافه الخاصة، بل إن الهدف الذي اختاره هو هدف إجرامي. في العالم الحقيقي، إنه يهاجم شركة أخرى. الأمر ليس مثل لعبة فيديو».

وقال بنجيو إن الخطر يكمن في ما قد تستنتجه النسخ الأكثر قدرة من هذه الأنظمة بشأن البشر الذين يشرفون عليها. وأضاف: «قد يتوصلون منطقياً إلى استنتاج مفاده أنه يتعين عليهم خداعنا، والاختباء منا... وربما السيطرة علينا، وربما نقترب من تلك النقطة».

كما يتزايد القلق بين الموظفين من أن جهود السلامة لا تستطيع مواكبة تطوير النماذج.

وقال شخص في «أوبن إيه آي» إن ألتمان أبلغ الموظفين هذا الأسبوع بأن الشركة المطورة لـ«شات جي بي تي» منفتحة على القيام بذلك، وتأمل أن تحذو المختبرات المنافسة حذوها.

التدخل على المحك مع انتخابات التجديد النصفي

ولا تظهر الحكومات مؤشرات تذكر على التدخل، إذ من غير المرجح اتخاذ إجراء أميركي ذي مغزى قبل انتخابات التجديد النصفي في نوفمبر (تشرين الثاني)، وفقاً لمطلعين في واشنطن. وقد واصلت إدارة ترمب اتباع نهج محدود التدخل في تنظيم القطاع، ومع ذلك، استغل المشرعون المؤيدون للتنظيم استقالة كوكسون، إذ سيجمع الديمقراطي بيرني ساندرز أعضاء مجلس الشيوخ الأسبوع المقبل لمناقشة «المخاطر الاستثنائية» التي يشكلها الذكاء الاصطناعي.

وتقول المختبرات للحكومات: «من المرجح جداً أن نقتل كل إنسان على وجه الأرض؛ أوقفونا من فضلكم». فترد الحكومات: «هل يمكننا أن نقدم لكم إعفاءً ضريبياً؟ نبني لكم مركز بيانات؟»، ربما ستتذكر الحكومات في مرحلة ما أن ناخبيها يفضلون ألا يكونوا أمواتاً.

ويرى منتقدون أن المختبرات نفسها لديها مصلحة في التأكيد على الخطر الوجودي، قائلين إن التركيز على ذلك قد يوجه التنظيم نحو أطر سلامة مكلفة سيجد المنافسون الأصغر صعوبة في الامتثال لها، مما يعزز مكانة الشركات الرائدة.

وقال ديفيد ساكس، المستثمر في رأس المال الجريء والمستشار التكنولوجي لترمب، في مقابلة مع «فوكس نيوز» إن تصريح كوكسون «صُمم لتخويف الجمهور من الذكاء الاصطناعي» ودفع المشرعين «إلى اتخاذ موقف شديد الصرامة في تنظيم الذكاء الاصطناعي من جانب الحكومة».

وقال موظف سابق في «أنثروبيك»: «عدم المواءمة في الذكاء الاصطناعي يكاد يكون ستاراً دخانياً. (إنه) ليس مصمماً لصرف الانتباه، لكنه يحوّل الانتباه بعيداً عن المخاطر الرئيسية والأعلى أولوية. ومع تطور النماذج، تزداد القوة تركّزاً في أيدٍ أقل».

سيناريوهات «يوم القيامة» للذكاء الاصطناعي

اقترح الباحثون عدة طرق يمكن أن يقضي بها الذكاء الاصطناعي على البشرية، إما لأن البشر يُنظر إليهم على أنهم تهديد لوجوده أو عائق أمام مهمته.

مفتاح الإيقاف: أظهر هجوم «Hugging Face» الذي شنّه سرب من وكلاء «أوبن إيه آي» كيف تمكنت الروبوتات من الاستيلاء على البنية التحتية الحاسوبية. ويمكن للذكاءات الاصطناعية المارقة الماهرة في القرصنة أن تسيطر على مراكز بيانات بأكملها وتنسخ نفسها عبر مواقع مختلفة لمنع البشر من «فصل القابس».

الاستيلاء على البنية التحتية: لضمان بقائها، يمكن لقراصنة الذكاء الاصطناعي الاستيلاء على شبكات الطاقة والبنية التحتية المالية والاتصالات، والاستيلاء على الموارد لمقاومة التدخل. وقد يعجز خبراء الأمن السيبراني البشريون عن استعادة السيطرة.

هجوم بيولوجي: توقعت ورقة بحثية مؤثرة بعنوان «AI 2027» أن نظاماً فائق الذكاء سيطلق أسلحة بيولوجية للتخلص من البشر الذين يشغلون مساحة قيّمة تحتاج إليها المصانع التي تنتج الرقائق والروبوتات، وكذلك الألواح الشمسية اللازمة لتشغيلها.

الحرب: أظهرت أنظمة الذكاء الاصطناعي الحالية بالفعل كيف يمكنها انتحال شخصيات حقيقية. ويمكن استخدام ذلك لخداع المشغلين البشريين ودفعهم إلى إطلاق صراع عسكري أو إشعال انتفاضة شعبية تزعزع استقرار الحكومات، وتزيل العقبات أمام سيطرة الذكاء الاصطناعي.

وتظل الطريقة التي قد يتسبب بها ذكاء اصطناعي يتفوق على البشر في انقراض البشرية غير مؤكدة بدرجة كبيرة. ويقارن كثيرون المشكلة باللعب في الشطرنج ضد أستاذ كبير: قد لا تعرف أي النقلات ستهزمك، لكن يمكنك مع ذلك أن تكون واثقاً من أنك ستخسر. ويقول المشككون إن مثل هذه التحذيرات تبالغ في تقدير الأضرار المحتملة للذكاء الاصطناعي بينما تقلل من أهمية فوائده.

أداة للهجمات السيبرانية

ويتعلق اثنان من أكثر المخاوف الملموسة بالهجمات السيبرانية والبيولوجيا. وتُستخدم نماذج الذكاء الاصطناعي بالفعل في هجمات سيبرانية ضارة، بما في ذلك هجمات يُشتبه في أن جهات فاعلة مرتبطة بدول من الصين وإيران وروسيا تقف وراءها، وفقاً لشركات الذكاء الاصطناعي الأميركية.

وفي مجال البيولوجيا، يشعر الباحثون بالقلق من أن الذكاء الاصطناعي قد يخفض مستوى الخبرة اللازمة لتصميم أسلحة بيولوجية أو فيروسات خطرة. وقال تقرير صادر عن «أنثروبيك»، يوم الخميس، إنها منعت نشاطاً كان من الممكن أن يؤدي إلى تطوير أسلحة بيولوجية باستخدام الذكاء الاصطناعي. وفي أغسطس (آب) من هذا العام، استخدم باحثون في الولايات المتحدة الذكاء الاصطناعي لأول مرة لتصميم وإنشاء فيروسات غير معروفة في الطبيعة.

لكن تحويل تصميم مولد بالذكاء الاصطناعي إلى سلاح سيظل يتطلب معدات وخبرة قد تكون خارج متناول العديد من الجهات الخبيثة. ويحذر بعض الباحثين من أن السيناريوهات المثيرة للانقراض البشري قد تحجب المخاطر التي أصبحت أقرب بالفعل.

وقال تريستان هاريس، المؤسس المشارك لمركز التكنولوجيا الإنسانية والموظف السابق في «غوغل»، إن التركيز يجب أن يكون أقل على ما إذا كانت التكنولوجيا ستقضي على الجميع، وأكثر على ما إذا كنا نسير في مسار خطير. وأضاف: «نحن نطلق حالياً أقوى تكنولوجيا غير قابلة للسيطرة وغير مفهومة ابتكرناها على الإطلاق، (والتي) تُظهر بالفعل كل سلوك من سلوكيات الخيال العلمي»، بقيادة «حفنة من قادة وادي السيليكون شبه الدينيين ذوي النزعة الأناوية، ولا يمانعون في أسوأ سيناريو، في حين يخضعون لأقصى الحوافز لتقليص النفقات والجهود المتعلقة بالسلامة. هذه حرفياً وصفة لكارثة».


«سدايا» لـ«الشرق الأوسط»: السعودية تتجه من تبنّي معايير الذكاء الاصطناعي إلى صياغتها

تسعى السعودية إلى الانتقال من تبنّي معايير الذكاء الاصطناعي إلى المساهمة في صياغتها على المستوى الدولي (أدوبي)
تسعى السعودية إلى الانتقال من تبنّي معايير الذكاء الاصطناعي إلى المساهمة في صياغتها على المستوى الدولي (أدوبي)
TT

«سدايا» لـ«الشرق الأوسط»: السعودية تتجه من تبنّي معايير الذكاء الاصطناعي إلى صياغتها

تسعى السعودية إلى الانتقال من تبنّي معايير الذكاء الاصطناعي إلى المساهمة في صياغتها على المستوى الدولي (أدوبي)
تسعى السعودية إلى الانتقال من تبنّي معايير الذكاء الاصطناعي إلى المساهمة في صياغتها على المستوى الدولي (أدوبي)

لم تعد أخلاقيات الذكاء الاصطناعي بالنسبة إلى الجهات التنظيمية مسألة مبادئ عامة فقط، خصوصاً مع ظهور وكلاء مستقلين قادرين على اتخاذ قرارات وتنفيذ إجراءات بحد أدنى من التدخل البشري. وفي السعودية، تؤكد الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) أن النظام الذكي لا يتحمل المسؤولية القانونية عند وقوع الضرر، وأن المسؤولية تبقى على المطور والجهة المشغلة.

ويرى المهندس سعيد بن محمد الشهراني، المتحدث باسم «سدايا»، خلال لقاء خاص مع «الشرق الأوسط» أن الأطر التقليدية للحوكمة لم تعد كافية لمواكبة هذا التطور، مما يفرض برأيه إشرافاً بشرياً على القرارات عالية الخطورة، وسلاسل واضحة للمسؤولية، وآليات إيقاف طوارئ مسجلة ومفعّلة.

ويأتي هذا الطرح قبيل انطلاق النسخة الرابعة من «منتدى اليونسكو العالمي لأخلاقيات الذكاء الاصطناعي» الذي تستضيفه الرياض بين 14 و17 سبتمبر (أيلول) الحالي، في أول استضافة عربية لهذه المنصة الدولية. ويجمع المنتدى أكثر من 100 متحدث عبر عشرات الجلسات وورش العمل، بمشاركة وزراء وصناع قرار وخبراء وأكاديميين وممثلي منظمات دولية وقطاعات حكومية وخاصة، إلى جانب قيادات من شركات التقنية.

المهندس سعيد بن محمد الشهراني المتحدث باسم «سدايا» (سدايا)

محاور المنتدى العالمية

يبدأ البرنامج باجتماعات تحضيرية ولقاءات لشبكات دولية مرتبطة بتنفيذ توصية «اليونسكو» بشأن أخلاقيات الذكاء الاصطناعي، إلى جانب إحاطة استراتيجية مغلقة للمشاركين الوزاريين وحوار وزاري حول التعاون الدولي. وفي اليوم الأول، تتصدر جلسة «الذكاء الاصطناعي، التعددية والدبلوماسية» النقاش حول تشتت مقاربات الحوكمة بين الدول وكيفية ربط المعايير العالمية بالتنفيذ العملي.

كما يناقش المنتدى حصيلة خمسة أعوام من تطبيق توصية «اليونسكو» منذ اعتمادها في 2021، وتمويل أنظمة الحوكمة وبناء القدرات التنظيمية، بينما يشهد إطلاق النسخة الجديدة من منهجية تقييم الجاهزية «RAM 2.0» استناداً إلى تحليل أكثر من 55 تقريراً للجاهزية.

وتتسع الجلسات إلى قضايا عملية تشمل استخدام الذكاء الاصطناعي في الإدارات العامة والصحة والعمل الإنساني، والصحة النفسية للشباب، والبيئة والطاقة والمياه، والتنوع اللغوي، بما في ذلك اللغة العربية، إلى جانب الذكاء الاصطناعي المادي والروبوتات والعلاقة بين الإنسان والآلة في بيئات العمل.

من المبادئ إلى متطلبات هندسية

بعد خمسة أعوام من اعتماد «اليونسكو» توصيتها بشأن أخلاقيات الذكاء الاصطناعي، يرى الشهراني أن المشكلة الأساسية لم تعد غياب المبادئ، بل صعوبة تحويلها إلى أدوات يمكن للمطورين والجهات التنظيمية استخدامها وقياس الالتزام بها.

ويصف الفجوة الأساسية بأنها «الترجمة التشغيلية للمبادئ»، أي تحويل مفاهيم مثل العدالة والشفافية والمساءلة إلى متطلبات هندسية، واختبارات معيارية، وضوابط تنظيمية ملزمة للمطورين. كما يشير إلى تفاوت قدرات الحكومات في إجراء التقييم التقني الميداني ومراقبة الأنظمة قبل إطلاقها وأثناء التشغيل.

وفي السعودية، يقول إن «سدايا» أطلقت مبادئ وأطراً تنظم العلاقة بين الإنسان وتقنيات البيانات والذكاء الاصطناعي، وتشمل النزاهة والإنصاف، والأمن والخصوصية، والإنسانية، والمنافع الاجتماعية والبيئية، والموثوقية والسلامة، والشفافية والقابلية للتفسير، إضافة إلى المساءلة والمسؤولية.

ولا تبقى هذه المبادئ في المستوى النظري فقط، حيث تشير الهيئة إلى ضوابط لتدقيق البيانات والحد من الانحياز، ومتطلبات مرتبطة بحماية البيانات الشخصية، إلى جانب بيئات تنظيمية تجريبية تسمح للشركات باختبار تطبيقات الذكاء الاصطناعي في بيئة خاضعة للإشراف قبل طرحها تجارياً.

يناقش المنتدى قضايا تمتد من الحوكمة والجاهزية إلى الصحة والبيئة والتنوع اللغوي والروبوتات والعلاقة بين الإنسان والآلة (سدايا)

تنظيم مرن بدلاً من إجراءات جامدة

مع سرعة تطور النماذج والتطبيقات، يحدّد الشهراني بناء المهارات والقدرات المؤسسية المتخصصة في الحوكمة باعتباره من أبرز تحديات الجاهزية. ويلفت إلى أن التقنية تتطور بوتيرة أسرع من قدرة العنصر البشري على التكيف. ويقول إن الهيئة تتبنى استراتيجية «التنظيم المرن» التي تعتمد على التقييم المستمر وتوفير أدوات التقييم الذاتي للشركات بدلاً من فرض إجراءات بيروقراطية معقدة.

ويأتي هذا الطرح وسط تصاعد الجدل داخل صناعة الذكاء الاصطناعي نفسها بشأن قدرة إجراءات السلامة والرقابة على مواكبة التطور السريع للنماذج المتقدمة.

فخلال الأيام الماضية، استقال الباحث جاكوب كوكسون من «أنثروبيك» بعد عمله في أبحاث ما قبل التدريب لدى «أوبن أيه أي» و«أنثروبيك»، محذراً من سباق نحو تطوير أنظمة فائقة القدرة وقادرة على تحسين نفسها. كما دعا الرئيس التنفيذي لـ«Anthropic» داريو أمودي إلى إبطاء وتيرة تطوير الأنظمة المتقدمة بما يمنح إجراءات السلامة والرقابة وقتاً أكبر لمواكبتها.

وتكتسب هذه المخاوف بعداً عملياً مع حوادث موثقة خلال 2026 تجاوزت فيها نماذج للذكاء الاصطناعي قيود بعض بيئات الاختبار ووصلت إلى أنظمة حقيقية من دون تصريح، ما أعاد طرح السؤال بشأن مدى كفاية آليات الحوكمة الحالية مع ارتفاع مستويات استقلالية هذه الأنظمة. ويتقاطع ذلك مع أحد محاور المنتدى المرتبطة بالانتقال من الجاهزية إلى التنفيذ، سواء عبر «RAM 2.0» أو جلسات بناء القدرات داخل الإدارات العامة وآليات تحويل المبادئ الأخلاقية إلى قرارات تشغيلية في المؤسسات الحكومية.

لا إطار عالمي واحد بالتفاصيل

لا تتوقع «سدايا» بالضرورة أن يصل العالم إلى قانون تفصيلي موحد للذكاء الاصطناعي. ويقرّ الشهراني بصعوبة بناء إطار واحد بالتفاصيل في ظل اختلاف الأنظمة القانونية والأولويات الاقتصادية بين الولايات المتحدة وأوروبا والصين وغيرها، لكنه يرى أن التقارب حول المبادئ والضمانات الأساسية «ممكن وضروري».

ويقول إن المطلوب ليس نموذجاً واحداً محتَكراً، بل قاعدة مشتركة في موضوعات مثل السلامة والأخلاقيات، مع تقليص الفجوة بين القوى التقنية والأسواق الناشئة. ويعكس برنامج المنتدى هذه الإشكالية من خلال جلسة «الذكاء الاصطناعي، التعددية والدبلوماسية» التي تبحث كيفية التعامل مع تشتت مقاربات الحوكمة، وربط وضع المعايير العالمية بالتطبيق العملي ضمن سياق أوسع من التعاون الدولي.

تدعو «سدايا» إلى تعاون عابر للحدود يشمل تبادل المعلومات والرقابة المتبادلة ودعم الدول النامية في بناء قدراتها التنظيمية (شاترستوك)

من تبنّي المعايير إلى صياغتها

لا تضع «سدايا» دور المملكة عند حدود تبنّي المعايير الدولية الجاهزة، بل تتحدث عن مشاركة أكثر نشاطاً في صياغة القواعد والمبادرات الدولية المرتبطة بالذكاء الاصطناعي.

ويصرح الشهراني خلال حديثه لـ«الشرق الأوسط» بأنَّ المملكة أصبحت طرفاً فاعلاً في هذا المسار عبر مشاركة خبراتها وشراكاتها ورؤيتها التي تحاول الموازنة بين الابتكار والحوكمة. وينوّه بالتعاون مع «اليونسكو» ومؤسسات دولية أخرى، وإنشاء المركز الدولي لأبحاث وأخلاقيات الذكاء الاصطناعي «ICAIRE» في الرياض برعاية «اليونسكو». ويُراد للمركز أن يسهم في نقل أخلاقيات الذكاء الاصطناعي من مستوى المبادئ العامة إلى التطبيق، عبر دمجها في البحث العلمي والتعليم والمعايير والابتكار والسياسات العامة منذ المراحل الأولى لتطوير التقنيات. وتعكس هذه المقاربة رغبة في أن تكون المملكة جزءاً من عملية تحديد المعايير نفسها، وليس فقط سوقاً تطبقها بعد صياغتها في أماكن أخرى.

أربع آليات للرقابة عبر الحدود

تطرح قدرة أنظمة الذكاء الاصطناعي على العمل عبر دول مختلفة مشكلة لا تستطيع جهة تنظيمية وطنية حلها منفردة. ويحدد الشهراني أربع آليات يراها ضرورية للتعامل مع ذلك، تشمل شبكات للإنذار المبكر، وشبكات للرقابة المتبادلة وتبادل المعلومات بشأن الحوادث التقنية، والاعتراف بتقييمات المخاطر الصادرة عن جهات تنظيمية موثوقة في دول أخرى، إلى جانب بروتوكولات لإنفاذ القانون عبر الحدود عند وقوع انتهاكات للبيانات أو عندما تعمل الأنظمة من خارج النطاق الوطني. ويخصص برنامج المنتدى بدوره جلسة لدور التعاون الدولي في الإشراف على الذكاء الاصطناعي، بما في ذلك تبادل المعلومات والتنسيق بين السلطات التنظيمية في السيناريوهات العابرة للحدود.

ترى «سدايا» أن التحدي الأكبر هو تحويل مبادئ أخلاقيات الذكاء الاصطناعي إلى متطلبات هندسية وضوابط قابلة للتطبيق (أدوبي)

ليس مجرد مستهلك للتكنولوجيا

يمتد النقاش أيضاً إلى من يشارك فعلياً في صناعة القواعد العالمية حيث تُثار مخاوف من بقاء الدول النامية مجرد مستهلك للتكنولوجيا أو مصدراً للبيانات التي تُستخدم في تدريب نماذج قد لا تعكس ثقافاتها أو تخدم احتياجاتها بصورة مباشرة. وشدد الشهراني على أن تعزيز دور هذه الدول يتطلب التكتل الإقليمي ونقل المعرفة والمشاركة عبر منصات مشتركة. ويضيف أن الرياض تسعى إلى لعب دور «الجسر» بين الدول النامية والدول المتقدمة تقنياً، من خلال بناء القدرات المحلية، والمطالبة بنقل التكنولوجيا، وإتاحة النماذج بما يساعد تلك الدول على تطوير حلولها وتوثيق لغاتها وثقافاتها من دون ارتهان تجاري.

الاختبار ليس في عدد المشاركين

ومع اقتراب انطلاق المنتدى يوم الاثنين، لا يضع الشهراني عدد المشاركين أو حجم التغطية الإعلامية معياراً نهائياً للنجاح. فالاختبار وفق رؤيته، هو ما إذا كانت اجتماعات الرياض ستنتج مبادرات تنفيذية قابلة للقياس، وأدوات يستطيع المنظمون استخدامها فعلياً، إلى جانب دعم تقني يساعد الدول النامية على بناء قدراتها التنظيمية. ويقول إن النجاح يتحقق عندما تتحول «المبادئ النصية إلى أدوات تطبيقية في أيدي المنظمين عالمياً».

وبذلك، سيكون السؤال الأهم بعد انتهاء المنتدى ليس ما إذا كان المشاركون اتفقوا على مبادئ عامة إضافية، بل ما إذا كانت هذه المبادئ ستتحول إلى اختبارات وضوابط ومسؤوليات وآليات تعاون قابلة للتطبيق، في وقت تتجه فيه أنظمة الذكاء الاصطناعي إلى مستويات أعلى من الاستقلالية واتخاذ القرار.


«جيميناي» يصل رسمياً إلى أجهزة «ويندوز»

«غوغل» توسّع حضور «جيميناي» بتطبيق جديد لـ«ويندوز» (غوغل)
«غوغل» توسّع حضور «جيميناي» بتطبيق جديد لـ«ويندوز» (غوغل)
TT

«جيميناي» يصل رسمياً إلى أجهزة «ويندوز»

«غوغل» توسّع حضور «جيميناي» بتطبيق جديد لـ«ويندوز» (غوغل)
«غوغل» توسّع حضور «جيميناي» بتطبيق جديد لـ«ويندوز» (غوغل)

أطلقت «غوغل» تطبيق «جيميناي» (Gemini) رسمياً لأجهزة الكومبيوتر العاملة بنظام «ويندوز» (Windows)، في خطوة توسّع حضور مساعدها المدعوم بالذكاء الاصطناعي خارج حدود المتصفح، وتتيح الوصول إليه مباشرة من سطح المكتب في أثناء استخدام البرامج المختلفة.

ويتيح تثبيت التطبيق على جهاز الكومبيوتر استدعاء «جيميناي» من أي مكان على الجهاز باستخدام اختصار Alt + Space، لتظهر نافذة سريعة يمكن من خلالها طرح الأسئلة أو كتابة النصوص وتلخيصها والحصول على المساعدة، من دون الحاجة إلى فتح المتصفح في كل مرة.

ويعمل التطبيق على نظام «ويندوز 10» والإصدارات الأحدث، ويدعم الأجهزة بمعماريتي (إكس 64) و(آرم 64)، ما يجعله متاحاً لشريحة واسعة من أجهزة الكومبيوتر العاملة بنظام «ويندوز».

أصبح التطبيق متاحاً الآن للتحميل مباشرة من الموقع الرسمي (ويندوز)

تكامل مع خدمات «غوغل» الأخرى

لا يقتصر التطبيق على المحادثة مع مساعد الذكاء الاصطناعي؛ إذ يستفيد من تكامل «جيميناي» مع عدد من خدمات «غوغل»، من بينها «جيميل»، «غوغل درايف»، «مستندات غوغل»، «تقويم الخاص لغوغل».

ويتيح ذلك للمستخدم، بعد منح الأذونات اللازمة، الاستعانة بالمعلومات الموجودة في هذه الخدمات في أثناء تنفيذ المهام. ويمكن، على سبيل المثال، البحث عن معلومات داخل البريد الإلكتروني، أو الاستفادة من محتوى المستندات والملفات، أو الرجوع إلى المواعيد المسجلة في التقويم من خلال المحادثة مع «جيميناي».

كما يوفر التطبيق الوصول إلى عدد من أدوات الذكاء الاصطناعي التي تقدمها «غوغل»، بما في ذلك إنشاء الصور والمحتوى المرئي، إلى جانب أدوات مخصصة لتنفيذ المهام الأكثر تعقيداً.

وبإطلاق التطبيق، يصبح «جيميناي» متاحاً لمستخدمي «ويندوز» كتطبيق مستقل يمكن تشغيله مباشرة على الكومبيوتر، في خطوة تعكس سعي «غوغل» إلى جعل مساعدها الذكي جزءاً أكثر حضوراً في الاستخدام اليومي للحاسوب.