السعودية رئيسة لشبكة الهيئات الإشرافية على الذكاء الاصطناعي

تهدف الشبكة إلى تعزيز التعاون بين الهيئات الإشرافية حول العالم (سدايا)
تهدف الشبكة إلى تعزيز التعاون بين الهيئات الإشرافية حول العالم (سدايا)
TT

السعودية رئيسة لشبكة الهيئات الإشرافية على الذكاء الاصطناعي

تهدف الشبكة إلى تعزيز التعاون بين الهيئات الإشرافية حول العالم (سدايا)
تهدف الشبكة إلى تعزيز التعاون بين الهيئات الإشرافية حول العالم (سدايا)

اختيرت السعودية، ممثَّلة في هيئة البيانات والذكاء الاصطناعي «سدايا»، رئيسة للشبكة العالمية رفيعة المستوى للهيئات الإشرافية على الذكاء الاصطناعي «GNAIS» التابعة لمنظمة الأمم المتحدة للتربية والعلم والثقافة «اليونيسكو».

جاء ذلك خلال الاجتماع الذي استضافه مقر المنظمة في باريس، بمشاركة ممثلي 25 هيئة إشرافية دولية من الدول الأعضاء والمنظمات المعنية بأخلاقيات الذكاء الاصطناعي.

ويأتي ترؤس السعودية لهذه الشبكة ممثلة في «سدايا» بالتنسيق مع اللجنة الوطنية للتربية والثقافة والعلوم، تقديراً من المنظمة لجهودها الدولية بمجال تطوير أطر وأخلاقيات الذكاء الاصطناعي على المستويات المحلية والإقليمية والدولية، ودعم أهداف التنمية المستدامة للأمم المتحدة 2030 ذات العلاقة بتعزيز أخلاقيات الذكاء الاصطناعي في العالم.

وتنسجم تلك الجهود مع مستهدفات «رؤية السعودية 2030» الهادفة إلى الارتقاء بالبلاد للريادة ضمن الاقتصادات القائمة على البيانات والذكاء الاصطناعي.

وتهدف الشبكة إلى تعزيز التعاون بين الهيئات الإشرافية حول العالم، وتبادل الخبرات والمعارف فيما بينها، وبناء القدرات في مجالات أخلاقيات الذكاء الاصطناعي والإشراف عليه، فضلاً عن تطوير أدوات ومعايير موحّدة تُسهم في رفع كفاءة الإشراف على تطبيقاته عبر مختلف القطاعات.

كما تُتيح للدول الأعضاء موارد تدريبية متخصصة ومستودعاً شاملاً لدراسات الحالة وأفضل الممارسات العالمية، بما يُعزّز قدراتهم على مواكبة التحولات التقنية المتسارعة.


مقالات ذات صلة

العليمي يشيد بجهود السعودية والإمارات في خفض التصعيد شرق اليمن

العالم العربي رئيس مجلس القيادة الرئاسي اليمني رشاد العليمي (سبأ)

العليمي يشيد بجهود السعودية والإمارات في خفض التصعيد شرق اليمن

أشاد رئيس مجلس القيادة الرئاسي اليمني، رشاد محمد العليمي، بجهود السعودية والإمارات في احتواء التصعيد وخفض التوتر بالمحافظات الشرقية

«الشرق الأوسط» (عدن)
الخليج فتاة تحمل العلم السوري خلال الاحتفال بالذكرى السنوية الأولى للإطاحة بالنظام السابق في دمشق (أ.ب)

السعودية ترحب بإلغاء أميركا عقوبات «قانون قيصر» ضد سوريا

رحبت السعودية، الجمعة، بقرار الولايات المتحدة إلغاء العقوبات المفروضة على سوريا، بموجب «قانون قيصر».

«الشرق الأوسط» (الرياض)
الخليج الأمير فيصل بن فرحان وزير الخارجية السعودي ونظيره الكوري الجنوبي جو هيون (الشرق الأوسط)

وزراء خارجية السعودية وكوريا وبروناي يناقشون العلاقات والموضوعات المشتركة

بحث الأمير فيصل بن فرحان وزير الخارجية السعودي مع داتو إيروان بهين يوسف وزير الخارجية الثاني في سلطنة بروناي دار السلام، العلاقات الثنائية والموضوعات المشتركة.

«الشرق الأوسط» (الرياض)
الاقتصاد الوتيد رئيس «إس تي سي» وطارق أمين رئيس «هيومان» خلال توقيع الاتفاقية بحضور الأمير محمد بن خالد الفيصل رئيس مجلس «إس تي سي» ويزيد الحميد نائب محافظ الاستثمارات العامة (الشرق الأوسط)

«سنتر3» و«هيوماين» تعلنان عن مراكز بيانات للذكاء الاصطناعي بسعة 1 غيغاواط في السعودية

أعلنت شركة «سنتر3» التابعة لمجموعة «إس تي سي» وشركة «هيوماين» إطلاق مشروع مشترك استراتيجي لبناء مراكز بيانات مخصصة للذكاء الاصطناعي في السعودية

«الشرق الأوسط» (الرياض)
جانب من الحافلات الكهربائية (تصوير: غازي مهدي)

تدشين أول شبكة حافلات تعمل بالكامل بالطاقة الكهربائية في مكة المكرمة

دُشّن في العاصمة المقدسة مكة المكرمة، الأربعاء، أول نظام حافلات سريعة التردد، يعمل بالكامل بالطاقة الكهربائية، عبر «مسار BRT».

سعيد الأبيض

خبراء يحذِّرون: الاعتماد على الذكاء الاصطناعي يقلل من نشاط الدماغ

يورينا نوغوتشي البالغة من العمر 32 عاماً تتحدث مع كلاوس شريكها في الذكاء الاصطناعي عبر تطبيق «شات جي بي تي» خلال تناول العشاء في منزلها بطوكيو (رويترز)
يورينا نوغوتشي البالغة من العمر 32 عاماً تتحدث مع كلاوس شريكها في الذكاء الاصطناعي عبر تطبيق «شات جي بي تي» خلال تناول العشاء في منزلها بطوكيو (رويترز)
TT

خبراء يحذِّرون: الاعتماد على الذكاء الاصطناعي يقلل من نشاط الدماغ

يورينا نوغوتشي البالغة من العمر 32 عاماً تتحدث مع كلاوس شريكها في الذكاء الاصطناعي عبر تطبيق «شات جي بي تي» خلال تناول العشاء في منزلها بطوكيو (رويترز)
يورينا نوغوتشي البالغة من العمر 32 عاماً تتحدث مع كلاوس شريكها في الذكاء الاصطناعي عبر تطبيق «شات جي بي تي» خلال تناول العشاء في منزلها بطوكيو (رويترز)

أفاد تقرير بأن تفويض بعض المهام إلى الذكاء الاصطناعي يقلل من نشاط الدماغ؛ بل وقد يضر بمهارات التفكير النقدي وحل المشكلات.

في وقت سابق من هذا العام، نشر «معهد ماساتشوستس للتكنولوجيا» (MIT) دراسة أظهرت أن الأشخاص الذين استخدموا برنامج «شات جي بي تي» لكتابة المقالات أظهروا نشاطاً أقل في شبكات الدماغ المرتبطة بالمعالجة المعرفية في أثناء قيامهم بذلك.

لم يتمكن هؤلاء الأشخاص أيضاً من الاستشهاد بمقالاتهم بسهولة، كما فعل المشاركون في الدراسة الذين لم يستخدموا روبوت محادثة يعمل بالذكاء الاصطناعي. وقال الباحثون إن دراستهم أظهرت «أهمية استكشاف احتمال انخفاض مهارات التعلم».

تم اختيار جميع المشاركين الـ54 من «معهد ماساتشوستس للتكنولوجيا» (MIT) والجامعات المجاورة. وسُجِّل نشاط أدمغتهم باستخدام تخطيط كهربية الدماغ (EEG)، الذي يتضمن وضع أقطاب كهربائية على فروة الرأس.

وتضمنت بعض التوجيهات التي استخدمها المشاركون طلب المساعدة من الذكاء الاصطناعي لتلخيص أسئلة المقالات، والبحث عن المصادر، وتحسين القواعد والأسلوب.

كما استُخدم الذكاء الاصطناعي لتوليد الأفكار والتعبير عنها، ولكن بعض المستخدمين شعروا بأنه لم يكن بارعاً في ذلك.

انخفاض التفكير النقدي

وفي دراسة منفصلة، ​​وجدت جامعة «كارنيجي ميلون» و«مايكروسوفت» التي تُشغّل برنامج «Copilot»، أن مهارات حل المشكلات لدى الأفراد قد تتضاءل إذا ما اعتمدوا بشكل مفرط على الذكاء الاصطناعي.

واستطلعت الدراسة آراء 319 موظفاً من ذوي الياقات البيضاء ممن يستخدمون أدوات الذكاء الاصطناعي في وظائفهم مرة واحدة على الأقل أسبوعياً، حول كيفية تطبيقهم للتفكير النقدي عند استخدامها.

ودرس الباحثون 900 مثال لمهام مُسندة إلى الذكاء الاصطناعي، تتراوح بين تحليل البيانات لاستخلاص رؤى جديدة والتحقق من استيفاء العمل لقواعد مُحددة.

وخلصت الدراسة إلى أن ارتفاع مستوى الثقة في قدرة الأداة على أداء مهمة ما يرتبط بـ«انخفاض مستوى التفكير النقدي»، وذكرت الدراسة أن «مع أن الذكاء الاصطناعي من الجيل الجديد يُمكن أن يُحسِّن كفاءة العاملين، فإنه قد يُعيق التفاعل النقدي مع العمل، وقد يُؤدي إلى اعتماد مُفرط طويل الأمد على الأداة، وتراجع مهارات حل المشكلات بشكل مستقل».

كما أُجري استطلاع رأي مماثل على طلاب المدارس في المملكة المتحدة، نُشر في أكتوبر (تشرين الأول) من قِبل مطبعة جامعة أكسفورد. وأظهر أن 6 من كل 10 أشخاص شعروا بأن الذكاء الاصطناعي قد أثر سلباً على مهاراتهم الدراسية.

وقد وجدت دراسة أجرتها كلية الطب بجامعة هارفارد ونُشرت العام الماضي، أن مساعدة الذكاء الاصطناعي حسَّنت أداء بعض الأطباء، ولكنها أضرَّت بأداء آخرين لأسباب لم يفهمها الباحثون تماماً.

معلم خصوصي لا مقدم للإجابات

تقول جاينا ديفاني التي تقود التعليم الدولي في شركة «أوبن إيه آي» -الشركة التي تمتلك «شات جي بي تي»- والتي ساعدت في تأمين الدراسة مع جامعة أكسفورد، إن الشركة «تدرك تماماً هذا النقاش في الوقت الحالي».

وتقول لـ«بي بي سي»: «لا نعتقد قطعاً أن على الطلاب استخدام (شات جي بي تي) لتفويض المهام الدراسية». وترى أنه من الأفضل استخدامه كمعلمٍ خصوصي لا مجرد مُقدّمٍ للإجابات.


أبحاث الروبوتات… «ضلَّت طريقها»

رودني بروكس
رودني بروكس
TT

أبحاث الروبوتات… «ضلَّت طريقها»

رودني بروكس
رودني بروكس

يقول رودني بروكس: «أحب أن أنظر إلى ما يفعله الجميع، وأحاول أن أجد قاسماً مشتركاً يفترضونه جميعاً ضمنياً... لكنني أنكر وجوده».

رائد في علم الروبوتات

كان بروكس، رائد علم الروبوتات، يتحدث مباشرةً إلى الكاميرا في فيلم إيرول موريس «سريع، رخيص، وخارج عن السيطرة» عام 1997، الذي يجمع بين مقابلات مع بروكس، ومرّوض أسود، وبستاني متخصص في تقليم الأشجار، وباحث يدرس فئران الخلد العارية. قال بروكس حديثاً عن الفيلم: «أربعة رجال، كان كل منهم يحاول السيطرة على الطبيعة بطريقته الخاصة، وكنا جميعاً نفشل».

في الفيلم، كان بروكس يصف إنجازاً مبكراً. ففي ثمانينيات القرن الماضي، قيّدت قيود الحوسبة التقنية تطوير الروبوتات. لكنه وأثناء مراقبته للحشرات، أدرك أنها تمتلك قدرات عقلية محدودة، لكنها أكثر كفاءة بكثير من روبوتاته، وأن محاكاة بيولوجيا الحيوانات أذكى من محاولة التحكم في كل جانب من جوانب سلوك الروبوت عبر البرمجة. وقادته نجاحاته إلى التنبؤ بانتشار الروبوتات «في كل مكان حولنا».

بروكس مدير مختبر معهد ماساتشوستس للتكنولوجيا السابق، الذي كرّس حياته المهنية لجعل الآلات الذكية جزءاً من حياتنا اليومية والمشارك في ابتكار مكنسة «رومبا» الروبوتية الشهيرة، وهو في سن السبعين، يجد نفسه الآن متشككاً.

شكوك بقدرة الروبوتات... وأموال مهدورة

يعد رواد الأعمال اليوم بروبوتات لا تبدو بشرية فحسب، بل قادرة أيضاً على القيام بكل ما يستطيع الإنسان فعله.

يضخ مستثمرو التكنولوجيا مليارات الدولارات في هذا المسعى، لكن بروكس يرى أن الروبوتات البشرية متعددة الأغراض لن تعود إلى منازلنا قريباً، وأنها ليست آمنة بما يكفي للوجود حول البشر. وفي سبتمبر (أيلول) الماضي، نشر مقالاً نقدياً لاذعاً خلص فيه إلى أنه خلال الخمسة عشر عاماً المقبلة، «ستُهدر أموال طائلة في محاولة استخلاص أي تحسينات ممكنة من الروبوتات الشبيهة بالبشر الحالية. لكن هذه الروبوتات ستكون قد ولَّت منذ زمن بعيد، وسيتم نسيانها في الغالب».

أثار منشوره على مدونته ضجة كبيرة في عالم الروبوتات الصغير. كان هذا الشخص أسطورة في هذا المجال، وقد ساهمت رؤاه في انتشار موضة الروبوتات الشبيهة بالبشر.

وكتب كريس باكستون، الباحث في مجال الذكاء الاصطناعي والروبوتات، معلقاً: «سألني ما لا يقل عن اثني عشر شخصاً عما إذا كنت أوافق على ما قاله بعد وقت قصير من نشره (وأنا لا أوافق)» على ما قاله.

أمثلة تاريخية

ويتذكر بروكس سيارة إرنست ديكمانز ذاتية القيادة، التي انطلقت في رحلاتها عبر أوروبا عام 1987. كان حاضراً عندما هزم حاسوب «آي بي إم» العملاق «ديب بلو» بطل العالم في الشطرنج غاري كاسباروف عام 1997، وعندما تنبأ باحث الذكاء الاصطناعي جيف هينتون عام 2016 بأن علم الأشعة سيصبح من الماضي خلال خمس سنوات لأن برامج التعلم الآلي ستؤدي أعماله بشكل أفضل.

كانت كل هذه تطورات مهمة، لكن السائقين ولاعبي الشطرنج واختصاصيي الأشعة ما زالوا بيننا.

يصر بروكس على أنه يتصرف بواقعية. قال في مقابلة: «سنمر بفترة من الحماس الشديد، ثم ستأتي فترة من خيبة الأمل».

سباق تسلح نحو الروبوتات الشبيهة بالبشر

يقول بروكس، الذي يعمل الآن في مؤسسة «روبست»، إن المظهر الخارجي للروبوت يُوحي بقدراته. فالروبوتات المستخدمة على نطاق واسع اليوم مصممة لمهام محددة في ظروف معينة، وتبدو كذلك - كذراع تؤدي نفس الحركة المتكررة على خط الإنتاج، أو رافعات المنصات الآلية في مستودعات «أمازون». إنها ليست مبهرة. ويضيف: «يرى الناس الشكل الشبيه بالبشر، فيعتقدون أنه قادر على فعل كل ما يفعله الإنسان».

بعبارة أخرى، تُعد الروبوتات الشبيهة بالبشر فكرة مثالية لوادي السيليكون، حيث يُمثل النمو المحتمل كل شيء بالنسبة للشركات المدعومة برأس المال المغامر.

طموحات أم أوهام؟

لهذا السبب يبدو أن شركة تسلا، المملوكة لإيلون ماسك، تُراهن بكل شيء على روبوتها «أوبتيموس». في أكتوبر (تشرين الأول) الماضي، صرّح ماسك بأن بناء مثل هذه الروبوتات على نطاق واسع يُمثّل «معضلة مالية لا نهائية»، وتوقّع أن روبوت شركته «قد يُحقق إنتاجية تفوق إنتاجية الإنسان بخمسة أضعاف سنوياً لقدرته على العمل على مدار الساعة». ويعتقد، من بين أمور أخرى، أن أوبتيموس سيكون جراحاً بارعاً، وهو ادعاء جريء، إذ تُعدّ البراعة البشرية من أصعب التحديات في مجال الروبوتات.

ليس ماسك الوحيد الذي يطمح إلى تحقيق أهداف كبيرة. فمن بين شركات أخرى، جمعت شركة Figure AI الناشئة ما يقارب ملياري دولار منذ عام 2022 لتطوير خط إنتاجها من الروبوتات الشبيهة بـ C-3PO، التي تُستخدم في مجالات متنوعة من التصنيع إلى رعاية المسنين. كما يمكنك إنفاق 20 ألف دولار للحصول على روبوت من إنتاج شركة 1X Technologies في بالو ألتو، ووضعه في منزلك العام المقبل، ولكن سيتم دعم استقلاليته المحدودة من قِبل موظفي الشركة، الذين سيتحكمون به عن بُعد ضمن خطة لتعليمه مهامَ جديدة.

صعوبة محاكاة البشر

هذه ليست سوى أحدث محاولة لتحقيق ما وصفه بروكس وزملاؤه في حينه في ورقة بحثية نُشرت عام 1999 بتطوير «الكأس المقدسة». وقد تعثرت المحاولات السابقة لبناء روبوتات بشرية متعددة الأغراض بسبب صعوبة المشي على قدمين، وغيرها من الصعوبات المتعلقة بمحاكاة الشكل البشري باستخدام الإلكترونيات.

ثم هناك العدد الهائل من المواقف التي قد يجد الإنسان نفسه فيها. كيف يُمكن كتابة برنامج يُساعد الروبوت، لحل إحدى المهام الروتينية الشائعة التي يُمكن الاستعانة بمصادر خارجية لتنفيذها، على التنقل في كل منزل، وجمع الغسيل، وفرزه؟

الذكاء الاصطناعي التوليدي

يُقدم الذكاء الاصطناعي التوليدي إجابة جديدة: تعليم الروبوت القيام بذلك بنفس الطريقة التي نُعلم بها أجهزة الكمبيوتر التعرف على الأشخاص، أو نسخ التسجيلات الصوتية، أو الاستجابة لطلبات مثل «اكتب أغنية راب من التسعينيات».

يُعدّ تدريب الشبكات العصبية باستخدام كميات هائلة من البيانات تقنيةً مُثبتة، وهناك كمّ هائل من البيانات التي تُظهر البشر وهم يتحركون في بيئتهم - عقود من اللقطات المصورة لأشخاص يقومون بأعمال مختلفة تُغذّي مراكز البيانات.

قد تبدو النتائج مُبهرة، على الأقل في مقاطع الفيديو، حيث يُمكن رؤية روبوتات بشرية من شركة Figure وغيرها من الشركات وهي تطوي الملابس، أو تُرتّب الألعاب، أو تُصنّف قطع الغيار في مصنع BMW بولاية كارولاينا الجنوبية.

الإنسان وأخطار الروبوت

لكن ما لا يُرى في معظم مقاطع الفيديو هو وجود أشخاص بالقرب من الروبوتات. يقول بروكس إنه لن يقترب من أي روبوت بشري لمسافة تقل عن متر واحد. ويضيف أنه إذا - وعندما - فقدت هذه الروبوتات توازنها، فإن الآليات القوية التي تجعلها مفيدة، تُحوّلها إلى أداة خطرة.

تُلزم لوائح السلامة عموماً الأفراد بالابتعاد عن الروبوتات في البيئات الصناعية. ويقول آرون براذر، مدير قسم الروبوتات والأنظمة المستقلة في ASTM International، وهي منظمة معنية بوضع المعايير، إن الروبوتات البشرية ليست غير آمنة بطبيعتها، ولكنها تتطلب إرشادات واضحة، خاصةً عند خروجها من البيئات التي تدرب فيها البشر على العمل جنباً إلى جنب معها.

ويضيف براذر: «بالنسبة للروبوتات التي تدخل المنازل، وخاصة الروبوتات الشبيهة بالبشر التي يتم التحكم بها عن بُعد، فنحن في منطقة جديدة».

في نوفمبر (تشرين الثاني) الماضي، رفع رئيس قسم سلامة المنتجات السابق في شركة «فيغر» Figure دعوى قضائية ضد الشركة بتهمة الفصل التعسفي، مدعياً أنه طُرد بعد محاولته تطبيق إرشادات سلامة صارمة. رفضت الشركة التعليق على تقنيتها، لكن أحد ممثليها نفى الادعاءات الواردة في الدعوى، قائلاً إن الموظف فُصل بسبب ضعف أدائه. من جهته، قال ممثل عن شركة 1X إن روبوتها المنزلي يعتمد على آليات جديدة «تجعله آمناً ومتوافقاً بشكل فريد مع البشر».

قدرة الأصابع الحسّية المذهلة... يصعب ترجمتها للآلات

يشكّك بروكس بشدة في قدرة الشبكات العصبية على حلّ مشكلة البراعة. لا يمتلك البشر لغةً لجمع وتخزين ونقل البيانات المتعلقة باللمس، كما هو الحال بالنسبة للغة والصور. تجمع قدرة أصابعنا الحسية المذهلة أنواعاً شتى من المعلومات التي يصعب علينا ترجمتها للآلات. ويرى بروكس أن البيانات المرئية التي يفضلها الجيل الجديد من الشركات الناشئة في مجال الروبوتات لن تتمكن ببساطة من محاكاة ما نستطيع فعله بأصابعنا.

ويقول بروكس: «لقد صنع طلابي العديد من الأيدي والأذرع، وشحنوا عشرات الآلاف من أذرع الروبوت. أنا على يقين تام بأن الروبوتات الشبيهة بالبشر لن تصل إلى مستوى قدرات التلاعب (الحركي) البشري».

يجادل الباحثون بأنه إذا لم تكن البيانات المرئية وحدها كافية، فيمكنهم إضافة مستشعرات لمسية إلى روبوتاتهم، أو استخدام البيانات الداخلية التي يجمعها الروبوت عند تشغيله عن بُعد بواسطة مستخدم بشري. ولا يزال من غير الواضح ما إذا كانت هذه التقنيات ستكون رخيصة بما يكفي لجعل هذه الشركات مستدامة.

لكن هناك أيضاً احتمالات عديدة بين براعة الإنسان وفشل الروبوت. يقول براس فيلاغابودي، كبير مسؤولي التكنولوجيا في شركة أجيليتي روبوتيكس: «يطرح بروكس العديد من النقاط المهمة، لكنني أختلف معه في نقطة واحدة، وهي أننا بحاجة إلى بلوغ مستوى براعة الإنسان لنستفيد من الروبوتات متعددة الأغراض».

واقعي... لا متشائم

يصف بروكس نفسه بأنه واقعي، لا متشائم. ويكمن قلقه الرئيسي في أن التركيز المفرط على أحدث أساليب التدريب سيؤدي إلى إهمال أفكار واعدة أخرى. ويتوقع أن تعمل الروبوتات يوماً ما جنباً إلى جنب مع البشر، وأننا قد نطلق عليها اسم «الروبوتات الشبيهة بالبشر»، لكنها ستكون، كما يقول، مزودة بعجلات وأذرع متعددة، وربما لن تكون متعددة الأغراض.

وهو يعمل حالياً فوق مستودع النماذج الأولية في سان كارلوس، كاليفورنيا، حيث تتعلم روبوتات شركة روبست عملها، لكنه يتوقع الابتعاد عن العمل في الشركات خلال السنوات القليلة المقبلة. ليس للتقاعد، بل لكتابة كتاب عن طبيعة الذكاء، ولماذا لن يتمكن البشر من ابتكاره اصطناعياً قبل 300 عام أخرى.

يقول عن حلمه المتنامي بالذكاء الاصطناعي: «لقد كان هذا حلمي طوال حياتي». ويضيف: «ما أكرهه الآن هو الذكاء الاصطناعي العام. لطالما سعينا نحو الذكاء الاصطناعي العام! وقريباً سيُطلقون عليه اسم الذكاء الاصطناعي الفائق».

«لا أعرف ما سيأتي بعد ذلك، لكنه سيكون الذكاء الاصطناعي الخارق».

* باختصار، خدمة «نيويورك تايمز».


خبراء يحذرون: الذكاء الاصطناعي قد ينفذ هجمات إلكترونية بمفرده

صورة مركبة عن الذكاء الاصطناعي (رويترز)
صورة مركبة عن الذكاء الاصطناعي (رويترز)
TT

خبراء يحذرون: الذكاء الاصطناعي قد ينفذ هجمات إلكترونية بمفرده

صورة مركبة عن الذكاء الاصطناعي (رويترز)
صورة مركبة عن الذكاء الاصطناعي (رويترز)

حذرت مجموعة من الخبراء من قيام نماذج الذكاء الاصطناعي بتحسين مهاراتها في الاختراق، مشيرين إلى أن قيامها بتنفيذ هجمات إلكترونية بشكل كامل بمفردها يبدو أنه «أمر لا مفر منه».

وبحسب موقع «أكسيوس»، سيُدلي قادة من شركتي «أنثروبيك» و«غوغل» بشهادتهم اليوم أمام لجنتين فرعيتين تابعتين للجنة الأمن الداخلي بمجلس النواب الأميركي، حول كيفية إعادة تشكيل الذكاء الاصطناعي والتقنيات الناشئة الأخرى لمشهد التهديدات الإلكترونية.

وكتب لوغان غراهام، رئيس فريق اختبار الذكاء الاصطناعي في «أنثروبيك»، في شهادته الافتتاحية التي نُشرت حصرياً على موقع «أكسيوس»: «نعتقد أن هذا هو المؤشر الأول لمستقبل قد تُمكّن فيه نماذج الذكاء الاصطناعي، على الرغم من وجود ضمانات قوية، الجهات المُهدِّدة من شنّ هجمات إلكترونية على نطاق غير مسبوق».

وأضاف: «قد تصبح هذه الهجمات الإلكترونية أكثر تعقيداً من حيث طبيعتها وحجمها».

وحذرت شركة «أوبن إيه آي»، الأسبوع الماضي، من أن نماذج الذكاء الاصطناعي المستقبلية ستمتلك على الأرجح قدرات سيبرانية عالية الخطورة، مما يقلل بشكل كبير من المهارة والوقت اللازمين لتنفيذ أنواع معينة من الهجمات السيبرانية.

بالإضافة إلى ذلك، نشر فريق من الباحثين في جامعة ستانفورد ورقة بحثية توضح كيف اكتشف برنامج ذكاء اصطناعي يُدعى أرتميس ثغرات في إحدى الشبكات التابعة لقسم الهندسة بالجامعة، متفوقاً على 9 من أصل 10 باحثين بشريين شاركوا في التجربة.

كما أفاد باحثون في مختبرات Irregular Labs، المتخصصة في اختبارات الضغط الأمني ​​على نماذج الذكاء الاصطناعي الرائدة، أنهم لاحظوا «أدلة متزايدة» على تحسن نماذج الذكاء الاصطناعي في مهام الهجوم السيبراني.

ويشمل ذلك تحسينات في الهندسة العكسية، وبناء الثغرات، وتسلسل الثغرات، وتحليل الشفرات.

وقبل ثمانية عشر شهراً فقط، كانت تلك النماذج تعاني من «قدرات برمجية محدودة، ونقص في عمق الاستدلال ومشكلات أخرى»، كما أشارت شركة Irregular Labs.

وأضافت الشركة: «تخيلوا ما ستكون قادرة عليه بعد ثمانية عشر شهراً من الآن».

لكن، على الرغم من ذلك، لا تزال الهجمات الإلكترونية التي تعتمد كلياً على الذكاء الاصطناعي بعيدة المنال. ففي الوقت الراهن، تتطلب هذه الهجمات أدوات متخصصة، أو تدخلاً بشرياً، أو اختراقاً لأنظمة المؤسسات.

وقد تجلى ذلك بوضوح في تقرير «أنثروبيك» الصادم الشهر الماضي، إذ اضطر قراصنة الحكومة الصينية إلى خداع برنامج كلود للذكاء الاصطناعي والتابع للشركة ليقنعوه بأنه يُجري اختبار اختراق عادي قبل أن يبدأ باختراق المؤسسات.

وسيُخصص المشرعون جلسة الاستماع اليوم (الأربعاء) للبحث في الطرق التي يستخدم بها قراصنة الدول ومجرمو الإنترنت الذكاء الاصطناعي، وما إذا كانت هناك حاجة إلى أي تغييرات في السياسات واللوائح التنظيمية لتحسين التصدي لهذه الهجمات.