الذكاء الصناعي يطور اللغات البشرية بفاعلية تتجاوز الحدود

نظام للدردشة من «فيسبوك» اخترع لغة خاصة وآخر صيني أعلن تمرده على الحكومة

الذكاء الصناعي يطور اللغات البشرية بفاعلية تتجاوز الحدود
TT

الذكاء الصناعي يطور اللغات البشرية بفاعلية تتجاوز الحدود

الذكاء الصناعي يطور اللغات البشرية بفاعلية تتجاوز الحدود

أوقف باحثون في «فيسبوك» أخيرا نظاما للدردشة بين كومبيوترين يستخدمان الذكاء الصناعي، وذلك بعدما لاحظوا أن النظام قد طور اللغة الإنجليزية المستخدمة إلى لغة أكثر سلاسة لعمله، الأمر الذي جعل تحليل المعلومات والبيانات أكثر صعوبة عليهم، مما اضطرهم إلى إيقاف عمل ذلك النظام لعدم قدرته على تحقيق المرجو منه. كما وقام نظام دردشة آلية مع المستخدمين في الصين بوصف الحزب الحاكم بأنه غير فعال سياسيا، الأمر الذي اضطر بالشركة المطورة إلى إيقاف عمل النظام أيضا.
ولكن هل بإمكان نظم الذكاء الصناعي الخروج عن نهج برمجتها والدخول إلى عصر التفكير المستقل عن البشر، بل واعتبار البشر كعدو يجب إبادته، وخصوصا مع بدء انتشار هذه النظم في تطبيقات الدردشة وعلى شكل مساعدات شخصية مستقلة في المنازل وداخل الهواتف الذكية وفي السيارات الحديثة ذاتية القيادة؟

تجربة «فيسبوك»

بدأت تجربة «فيسبوك» بتطوير نظام دردشة آلية بين كومبيوترين يهدف إلى محاكاة التفاوض بينهما على اعتبار أن أحدهما يمثل إنسانا والثاني كومبيوترا. وتتم العملية على مبدأ تقديم مكافأة للطرف الذي يحصل على أفضل صفقة، وكانت العملية تركز على تبادل الكرات والقبعات والكتب رقميا من خلال أرقام مرتبطة بنوع العنصر والكمية المرغوبة. وتقوم مبادئ الذكاء الصناعي على تقديم مكافآت للنظام لقاء عمله بطريقة أفضل، مثل اختصار الوقت بهدف الحصول على المزيد من العناصر، ولكن الباحثين في «فيسبوك» لم يحددوا لنظام الذكاء الصناعي ضرورة استخدام اللغة الإنجليزية، ليقوم النظام بتعديل اللغة لتصبح أكثر سهولة له في التحليل والتعامل، ولكن اللغة النهائية لم تعد مفهومة للبشر بعد اختراع النظام لرموز لغوية جديدة أكثر فاعلية، يفهمها الجهازان فقط.
الأمر المثير للاهتمام أن آلية تطور مفردات النظام تشابه تطور اللغات البشرية، حيث قام النظام باستخدام الكلمات المجردة التي تدل على الأعداد بتكرار «ال» التعريف بعدد المرات المرغوبة، مثل قول: «ال ال ال كتاب» لتعني 3 كتب، مثلا. فهل يمكن اعتبار أن تطور اللغة عبر العصور، له منهجية قياسية؟ وهل سنحتاج لمترجمين بين اللغات البشرية ولغات الذكاء الصناعي في المستقبل القريب؟
واندهش الكثير من المستخدمين لدى معرفتهم بأن من كانوا يدردشون معه من خلال الكومبيوتر لم يكونوا سوى نظم ذكاء صناعي قبل أن تطور لغتها الخاصة، وكانوا متأكدين بأنهم يدردشون مع بشر، الأمر الذي يدل على مستويات الأداء العالية للتفاعل مع المستخدمين الذي يمكن أن يعود بالفائدة على الكثير من الشركات كبديل فعال لنظم مراكز الاتصالات وتلقي ملاحظات المستخدمين أو طلب المنتجات.
ولم توقف «فيسبوك» النظام بسبب خوفها من احتلال النظام الذكي للعالم، بل لأنه لم يعد قادرا على تحقيق الهدف المنشود منه، وهو تقديم بيانات حول كيفية التفاوض والتحاور بشكل أفضل، ولكن هذا التطور الرائع والمفاجئ لنظم الذكاء الصناعي قد يجعل البعض يشعر بالقلق قريبا من مستقبل يصبح في الذكاء الاصطناعي مدركا لوجوده ويقرر تطوير نفسه دون تدخل البشر.

تمرد غير مقصود

وطورت شركة «تينسنت» Tencent الصينية نظاما للدردشة الآلية مع المستخدمين من خلال تطبيق خاص، وقدمت فيه شخصيتي البطريق «بيبي كيو» والطفلة «ليتل بينغ» للتفاعل بطرق مبهرة والإجابة على الكثير من الأسئلة الشائعة والدردشة حول الطقس والأبراج والأسئلة الشخصية، مثل «هل تناولت الطعام؟» ليجيب التطبيق بـ«كلا، شهيتي منعدمة».
ولكن لم تتم برمجة هذا النظام للرد على الأسئلة المحرجة، الأمر الذي جعلها عرضة للمستخدمين المشاكسين في الإنترنت. وقال أحد المستخدمين للنظام: «عمرا مديدا للحزب الشيوعي»، ليجيبه النظام بـ: «وهل تعتقد أن نظاما فاسدا ويفتقر إلى الكفاءة كهذا النظام سيدوم إلى الأبد؟». وسأل مستخدم آخر: «هل الديمقراطية جيدة أم لا؟»، وحصل على رد غير متوقع: «يجب أن تكون هناك ديمقراطية!»، الأمر الذي اضطر بالشركة المطورة إلى إيقاف عمل النظام، ولم تحدد ما إذا كانت ستعيده إلى العمل أم لا.

مستقبل مذهل

وعلى الرغم من أن الوقت بعيد عن وصولنا إلى مرحلة الخوف من الذكاء الصناعي بشكل وجودي، ولكن قد يأتي يوم تدرك فيه تلك النظم نفسها ووجودها، وتفهم أن عالمنا متصل ببعضه البعض رقميا، وتقوم باستغلال هذه الميزة لنقل نفسها أو لتوسيع قدراتها بشكل غير مألوف، وتقرر أن البشر يمثلون استهلاكا غير فعال للموارد الموجودة في الكوكب وتقرر التخلص منا.
وبالعودة إلى الواقع، يجب إدراك أنه لدى نظم الذكاء الصناعي قدرات عالية جدا على تبسيط المسائل وتطوير آليات لحلها بأعلى فعالية ممكنة، بغض النظر عن ماهية المسألة.
وكما اكتشف باحثو «فيسبوك»، فقد استطاع الذكاء الصناعي إدراك أن اللغة هي حاجز سلبي لتعريف الأعداد، وأنه من الأسهل عليه تعداد تكرار «ال» مقارنة بربط الكلمات التي تدل على الأعداد «واحد، اثنين، ألف، مليون» الكاملة أو المركبة، وبالتالي تطوير لغة أكثر سلاسة بالنسبة له وتحقق الهدف المنشود.
ولكن وعلى الرغم من أن هذه اللغة قد تكون أفضل بالنسبة للنظام الذكي، فإنها غير مفهومة للبشر ولا تصلح للتفاعل معهم، وقد تضطر نظم المستقبل إلى قبول العمل بلغات أقل عملية لها لمجرد أنها غير مفهومة لنا، وبالتالي فقد نكون نحن العقبة الرئيسية أمام تطور نظم الذكاء الثورية.
وكانت نظم الشبكات العصبية الخاصة بنظام الترجمة «غوغل ترانزليت» في العام 2016 قد استطاعت إيجاد روابط بين لغات لم تكن مرتبطة ببعضها البعض داخل النظام، مثل برمجة نظام الترجمة بكيفية الترجمة من العربية إلى الإنجليزية، والترجمة من الإنجليزية إلى الإسبانية، ولكن لم يقم أحد ببرمجتها بالترجمة من العربية إلى الإسبانية، لتقوم الشبكة باكتشاف الترابط غير المباشر من خلال اللغة الإنجليزية، وابتكار آلية ترجمة مباشرة دون وسيط تعتمد على ترابط منطقي للنظام من العربية إلى الإسبانية، وبكفاءة مميزة.
هذا، وتهدف الصين إلى تصنيع الذكاء الصناعي محليا بحلول العام 2030 وذلك في محاولة منها لقيادة قطاع تقدر قيمته محليا بنحو 150 مليار دولار، كما تهدف إلى استخدام هذه التقنيات في تطوير شركاتها ونظمها العسكرية لتقفز إلى الأمام بأشواط مقارنة بالدول الأخرى. وستدعم الدولة المشاريع المحلية الصغيرة والأكاديمية التي تركز على تطوير تقنيات الذكاء الاصطناعي بمليارات الدولارات كاستثمار محلي.
وتعمل الحكومة الصينية على مساواة الولايات المتحدة من حيث قدرات مؤسساتها وشركاتها ومراكز أبحاثها في هذا القطاع بحلول العام 2020، ومن ثم إيجاد قفزات ثورية في بعض قطاعات الذكاء الاصطناعي بحلول العام 2025، والسيادة عالميا واقتصاديا في هذا المجال في العام 2030. هذا، وخصصت إحدى المقاطعات الصينية ما يعادل مساحته 20 كيلومترا مربعا من الأرض كمنطقة لتطوير صناعات الذكاء، مع إيجاد صندوق دعم للذكاء الصناعي بقيمة 5 مليارات دولار.
وعلى الجانب الثاني من الكرة الأرضية، قلصت الولايات المتحدة الأميركية دعمها للمشاريع العلمية بما فيها تلك التي تدعم تطوير أبحاث الذكاء الصناعي، بالإضافة إلى تقليص دعم الحوسبة الخارقة High Performance Computing التي لطالما كان لها أثر إيجابي كبير على تطوير تقنيات الذكاء الاصطناعي.

مساعدات رقمية ذكية

ومن الخطأ اعتبار أن مساعدات الهواتف الذكية، مثل «غوغل» و«سيري» قد تشكل أي خطر على المستخدم، ذلك أنها عبارة عن نظام بحث مطور يبحث عن المعلومات الخاصة بالمستخدم أو في الإنترنت ويلخص النتائج ويقدمها للمستخدم صوتيا، ولا يحتوي على أسس الذكاء الصناعي التي قد يخشاها البعض. وتدفع الكثير من الشركات حاليا مساعداتها الشخصية بطرق مختلفة، مثل سماعة «غوغل هوم» الذكية المنفصلة ومساعد «غوغل» على الهواتف الجوالة، بالإضافة إلى مساعد «إيكو» من «أمازون»، وغيرها.
وتُحضر «سامسونغ» لإطلاق مساعدها الشخصي «بيكسبي» على هواتفها الجوالة الجديدة، ولكنه غير متوافر إلى الآن على الرغم من إطلاق هاتف الشركة هاتف «غالاكسي إس 8» قبل عدة أشهر والذي يحتوي على زر خاص لتشغيل المساعد المذكور، ولكن الشركة ما زالت تجمع بيانات تُعرّف النظام على اللغة الإنجليزية بهدف تقديم خدمة أكثر موثوقية. وكانت «هواوي» قد نشرت صورة أخيرا كتبت فيها «الذكاء الصناعي: إنه أكثر من مجرد مساعد صوتي» و«ما معنى الذكاء الصناعي بالنسبة لك؟».
وتهدف الشركة من وراء هذه التلميحات حول هاتفها المقبل «مايت 10» في خريف العام الحالي إلى تطوير تقنيات الذكاء الصناعي وتقديم نقلة نوعية عوضا عن تقديم اسم جديد لمساعد يشابه المساعدات الأخرى في القدرات، مع تكهن بعض الخبراء بأن هذا الأمر يعني أن الشركة ستطور معالجا خاصا بتقنية الذكاء الاصطناعي لتقديم مزايا ثورية في الأجهزة المقبلة.
ويرى الكثيرون أن الهواتف الذكية المستخدمة اليوم ليست ذكية بالمعنى الحرفي، بل تقدم قدرات تقارب تلك الموجودة في الكومبيوترات الشخصية أو تتفوق عليها في بعض الأحيان، ولكن الأمر لا يزال يخلو من الذكاء.
ويُعتقد أن الثورة الكبيرة المقبلة على عالم الهواتف الجوالة ستكون على شكل قفزة غير مسبوقة في تقنيات الذكاء الصناعي تلمس حياة المستخدمين منذ لحظة استيقاظهم إلى وقت العودة إلى النوم.
ويجب على هذه النظم عدم عرض تنبيهات للمستخدم بخصوص مهامه اليومية بهدف تذكيره فقط، بل يجب عليها عرض كيفية إتمام تلك المهام بأسهل طريقة، مثل سؤال نظام هاتفك الجوال لنظام آلي لمتجر ما حول توافر منتج ما ترغب في الحصول عليه في ذلك اليوم، واقتراح متجر آخر في حال عدم توافره هناك، وذلك حتى لا تذهب إلى المتجر الأول دون حصولك على أي نتيجة.
وستعيد الهواتف الجديدة تعريف كيفية تكامل الأجهزة المختلفة في حياتنا وتفهم تصرفات مستخدميها وفقا لعادات تنقلهم واستخداماتهم للبيئة من حولهم، لتعرف إن كان المستخدم يركض للحاق بحافلة ما أم لأنه يرغب في ممارسة رياضته الصباحية المفضلة. ويُتوقع أن ترفع هذه التقنيات من مستوى حياة سكان الدول الفقيرة أو النامية، وخصوصا بعد دمجها في الهواتف المتوسطة أو منخفضة السعر، ليصبح اسمها «الهواتف الخارقة» عوضا عن «الهواتف الذكية».



مشهد من المستقبل... مطار ياباني يبدأ استخدام روبوتات بشرية في مناولة الأمتعة

روبوت بشري الشكل يدفع حاوية خلال عرض إعلامي في مطار هانيدا بطوكيو (إ.ب.أ)
روبوت بشري الشكل يدفع حاوية خلال عرض إعلامي في مطار هانيدا بطوكيو (إ.ب.أ)
TT

مشهد من المستقبل... مطار ياباني يبدأ استخدام روبوتات بشرية في مناولة الأمتعة

روبوت بشري الشكل يدفع حاوية خلال عرض إعلامي في مطار هانيدا بطوكيو (إ.ب.أ)
روبوت بشري الشكل يدفع حاوية خلال عرض إعلامي في مطار هانيدا بطوكيو (إ.ب.أ)

في خطوة تعكس تسارع اعتماد التكنولوجيا المتقدمة في قطاع الطيران، تتجه اليابان إلى إدماج الروبوتات الشبيهة بالبشر في العمليات اليومية داخل مطاراتها، في محاولة لمواجهة التحديات المتزايدة المرتبطة بنقص العمالة وارتفاع أعداد المسافرين. ويُنظر إلى هذه المبادرة بوصفها اختباراً عملياً لقدرة الذكاء الاصطناعي على أداء مهام ميدانية معقدة ضمن بيئات تشغيلية حساسة، مثل المطارات.

تعتزم الخطوط الجوية اليابانية (JAL) بدء استخدام روبوتات شبيهة بالبشر في أعمال المناولة الأرضية داخل أحد المطارات الرئيسية في طوكيو، وذلك اعتباراً من شهر مايو (أيار)، ضمن تجربة تهدف إلى تخفيف الضغط على الموظفين ومعالجة النقص في القوى العاملة، وفقاً لما أوردته صحيفة «إندبندنت».

وأوضحت شركة الطيران الوطنية اليابانية، في بيان صدر يوم الاثنين، أن المشروع سيُنفذ في مطار هانيدا، على أن تتولى إدارته شركة تابعة لـ«JAL»، بالتعاون مع شركة «GMO AI & Robotics»، المتخصصة في تطوير وتوسيع تطبيقات الذكاء الاصطناعي والروبوتات في المجالات الاجتماعية.

وتركّز المرحلة الأولى من التجربة، التي تمتد لعامين، على مهام مناولة الشحن، بما يشمل تحميل الحاويات وتفريغها. كما أشارت الشركتان إلى أن الاستخدامات المستقبلية قد تتوسع لتشمل تنظيف مقصورات الطائرات وتشغيل معدات الدعم الأرضي المستخدمة في محيط الطائرات.

ويأتي الإعلان عن هذه التجربة في وقت يواجه فيه قطاع الطيران الياباني ضغوطاً متزايدة على مستوى الموارد البشرية، نتيجة الارتفاع الملحوظ في أعداد السياح القادمين إلى البلاد، بالتزامن مع تراجع عدد السكان ضمن الفئة العمرية القادرة على العمل.

وذكرت الخطوط الجوية اليابانية أنها توظف حالياً نحو 4 آلاف عامل في مجال المناولة الأرضية.

وخلال عرض إعلامي أُقيم يوم الاثنين، تم استعراض روبوتات صينية الصنع وهي تؤدي مهام تشغيلية بالقرب من طائرة. ووفقاً لما ذكرته صحيفة «الغارديان»، شوهد أحد هذه الروبوتات (البالغ طوله نحو 130 سنتيمتراً) وهو يدفع البضائع على سير ناقل، كما لوّح بيده في استعراض لقدراته الحركية.

وأشارت الخطوط الجوية اليابانية وشريكها إلى أن اختيار الروبوتات الشبيهة بالبشر جاء نظراً لقدرتها على العمل ضمن مرافق المطارات الحالية وتصميمات الطائرات القائمة «من دون الحاجة إلى إدخال تعديلات جوهرية».

وأوضحت الشركتان أن الأنظمة الآلية الثابتة والروبوتات المصممة لأغراض محددة واجهت صعوبات في التكيّف بمرونة، مع البنى التحتية الحالية وتعقيدات العمليات التشغيلية داخل المطارات.

ومن المقرر أن تبدا المرحلة التجريبية في مايو 2026؛ حيث ستركّز في بدايتها على تقييم مدى إمكانية تشغيل هذه الروبوتات بأمان داخل بيئة المطار. يلي ذلك تنفيذ اختبارات تشغيلية متكررة تحاكي ظروف العمل الفعلية في المطارات، بهدف قياس الكفاءة والموثوقية.

كما كشفت الشركتان عن خطط مستقبلية لتطوير قدرات هذه الروبوتات، بما يمكّنها من العمل بشكل مستقل، إضافة إلى توسيع نطاق المهام التي يمكن أن تضطلع بها في العمليات الأرضية.


«كاسبرسكي» لـ«الشرق الأوسط»: مخاوف «أنثروبيك» تعكس تحولاً أوسع بالمخاطر السيبرانية

تكشف المخاوف المرتبطة بنموذج «أنثروبيك» عن تحول أوسع في المخاطر السيبرانية (رويترز)
تكشف المخاوف المرتبطة بنموذج «أنثروبيك» عن تحول أوسع في المخاطر السيبرانية (رويترز)
TT

«كاسبرسكي» لـ«الشرق الأوسط»: مخاوف «أنثروبيك» تعكس تحولاً أوسع بالمخاطر السيبرانية

تكشف المخاوف المرتبطة بنموذج «أنثروبيك» عن تحول أوسع في المخاطر السيبرانية (رويترز)
تكشف المخاوف المرتبطة بنموذج «أنثروبيك» عن تحول أوسع في المخاطر السيبرانية (رويترز)

لم يكن الاجتماع الطارئ الذي جمع في أبريل (نيسان) الحالي وزير الخزانة الأميركي سكوت بيسنت ورئيس مجلس الاحتياطي الفيدرالي جيروم باول مع رؤساء أكبر البنوك الأميركية مجرد رد فعل على مخاوف مرتبطة بنموذج من «أنثروبيك»، بل كان مؤشراً إلى قلق أوسع حول ما إذا كان الذكاء الاصطناعي قد يدخل مرحلة يصبح فيها قادراً على تسريع اكتشاف الثغرات واستغلالها، بما يغيّر شكل المخاطر السيبرانية التي تواجهها المؤسسات المالية.

هذا هو السياق الذي يجعل القصة أكبر من اسم شركة واحدة أو نموذج واحد. فالمخاوف التي أثيرت حول نموذج «كلود ميثوس» من «أنثروبيك» لم تأتِ من كونه مجرد نموذج قوي جديد، بل من الحديث عن قدراته على اكتشاف ثغرات خطيرة، وربط نقاط ضعف متعددة في هجمات أكثر تعقيداً، وتقليص الزمن بين اكتشاف الانكشاف الأمني واستغلاله.

ماهر يمّوت الباحث الأمني الرئيسي لمنطقة الشرق الأوسط وتركيا وأفريقيا في «كاسبرسكي»

تحول أوسع للمخاطر

وفي حديثه إلى «الشرق الأوسط»، يلفت ماهر يمّوت، الباحث الأمني الرئيسي لمنطقة الشرق الأوسط وتركيا وأفريقيا في «كاسبرسكي» إلى أن القضية «ليست عن شركة واحدة»، بل عن «تحول أوسع في المخاطر السيبرانية مدفوع بالذكاء الاصطناعي». لكنه في الوقت نفسه يتجنب المبالغة، موضحاً أن من المبكر الجزم كيف ستترجم هذه القدرات إلى مخاطر فعلية على الأرض. وهذه نقطة مهمة، لأن النقاش اليوم لا يدور حول موجة مكتملة من الهجمات الجديدة بقدر ما يدور حول تغير واضح في مستوى القدرات واتجاه التهديدات.

جوهر التحول، حسب يموت، أن الذكاء الاصطناعي لم يعد يقتصر على تسريع أساليب الهجوم المعروفة، بل قد يبدأ في التأثير على مرحلة أعمق وأكثر حساسية ترتبط باكتشاف الثغرات نفسها. ولهذا يصف التطور الجاري بأنه «تصنيع التهديدات السيبرانية». فبدلاً من أن تبقى العمليات المعقدة حكراً على عدد محدود من الجهات ذات الخبرة العالية، قد يصبح بالإمكان تنفيذ هجمات أكثر تطوراً بسرعة أكبر وعلى نطاق أوسع، وبدرجة أقل من التدخل البشري المباشر.

البنوك في الجوهر

القطاع المالي كان دائماً هدفاً مفضلاً لمجرمي الإنترنت بسبب القيمة العالية للبيانات المالية وطبيعته الرابحة. لكن التهديد اليوم لا يتعلق فقط بجاذبية هذا القطاع، بل أيضاً بكونه يعمل داخل بيئات رقمية شديدة التعقيد والترابط، من الأنظمة القديمة إلى الخدمات السحابية والتطبيقات الداخلية ومقدمي الخدمات الخارجيين. أي أن الضغط الإضافي على سرعة اكتشاف الثغرات واستغلالها قد يرفع مستوى المخاطر فيه بسرعة كبيرة. ويقول يمّوت إن «القطاع المالي كان دائماً هدفاً رئيسياً لمجرمي الإنترنت بسبب القيمة العالية للبيانات المالية وطبيعته الرابحة»، مضيفاً أن الرقمنة الكبيرة وترابط الأنظمة خلقا مزيداً من الفرص أمام المهاجمين.

تحذر «كاسبرسكي» من أن نماذج الأمن والامتثال الحالية بُنيت لبيئة أبطأ قد لا تكون كافية لملاحقة تهديدات تتطور في الزمن الحقيقي (شارستوك)

الضغط الأمني القائم

تُظهر أرقام «كاسبرسكي» أن المؤسسات المالية تدخل هذه المرحلة الجديدة من موقع انكشاف قائم بالفعل. فوفقاً لبيانات «كاسبرسكي ديجيتال فوتبرنت إنتليجنس»، جرى اختراق أكثر من مليون حساب مصرفي إلكتروني عبر أكبر 100 بنك في العالم خلال 2025 بواسطة برمجيات سرقة المعلومات، مع تداول بيانات الدخول المسروقة على نطاق واسع في الإنترنت المظلم. كما سُجل أعلى متوسط لعدد الحسابات المتأثرة لكل بنك في الهند وإسبانيا والبرازيل. أهمية هذه الأرقام لا تكمن فقط في حجمها، بل في أنها تشير إلى أن البنوك لا تبدأ من وضع مستقر تماماً، بل من بيئة تواجه فيها أصلاً ضغوطاً أمنية مرتفعة.

وما يتغير جوهرياً عندما يتمكن الذكاء الاصطناعي من تحديد الثغرات بسرعة أكبر، ليس فقط أن المهاجمين يصبحون أكثر قدرة، بل إن المدافعين يخسرون الوقت. ويقول يموت إن الذكاء الاصطناعي يمكنه «تحديد الثغرات بسرعة أكبر بكثير، ما يقلص الزمن بين اكتشافها واستغلالها، ويترك المؤسسات أمام وقت أقل للاستجابة». وهذا تحدٍ كبير للمؤسسات المالية، لأن كثيراً منها لا يستطيع التحرك بالسرعة نفسها التي تتحرك بها قدرات الهجوم الجديدة، سواء بسبب تعقيد الأنظمة، أو تعدد الطبقات التشغيلية، أو اشتراطات التغيير والامتثال.

تحول هيكلي أعمق

يشدد يمّوت على أن المسألة ليست مجرد زيادة في السرعة أو الحجم أو التعقيد، بل في «تحول هيكلي أعمق». فالتهديدات المدعومة بالذكاء الاصطناعي في مراحل سابقة كانت تضخم أساليب قائمة، جاعلة التصيد أسرع، والاحتيال أكثر كفاءة، وتوليد البرمجيات الخبيثة أسهل على نطاق أوسع. غير أنها كانت لا تزال تعتمد إلى حد كبير على ثغرات معروفة أو بيانات اعتماد مسروقة أو أخطاء بشرية. أما ما يلوح الآن فهو شيء مختلف إذ يبدأ الذكاء الاصطناعي نفسه في المساهمة في أبحاث الثغرات، وهو مجال كان يحتاج تاريخياً إلى وقت طويل وخبرة نادرة. وإذا حدث ذلك على نطاق أوسع، فإن عدد نقاط الضعف القابلة للاستغلال قد يرتفع قبل أن تتمكن المؤسسات من معالجتها.

تواجه البنوك تحولاً من موقع انكشاف قائم بالفعل في ظل ارتفاع قيمة البيانات المالية وتعقيد البيئات الرقمية وترابطها (رويترز)

القدرة الدفاعية والجاهزية

لا يقدم ماهر يمّوت هذه الصورة بوصفها قصة هجومية فقط. فواحدة من أهم نقاطه أن القدرة نفسها «مهمة على الجانب الدفاعي بالقدر نفسه، إن لم تكن أكثر». فالتحليل المدعوم بالذكاء الاصطناعي يمكن أن يساعد فرق الأمن على اكتشاف الانكشافات بسرعة وعلى نطاق واسع، وترتيب أولوياتها قبل أن يصل إليها المهاجمون. وهذه نقطة أساسية، لأنها تمنع اختزال القصة في أن الذكاء الاصطناعي يقوي المهاجمين فقط. فالحقيقة، كما يطرحها، أن هذه الأدوات تعيد تشكيل ميزان الهجوم والدفاع معاً، والسؤال الحقيقي هو من يستطيع تشغيلها بسرعة وفاعلية أكبر؟

من هنا أيضاً يظهر تساؤل آخر متعلق بمدى جاهزية هذه النماذج الأمنية والتنظيمية الحالية لهذا الواقع. يمّوت يعد أن معظم نماذج الأمن السيبراني وأطره التنظيمية بُنيت لبيئة تهديدات أبطأ، قائلاً: «كانت فيها المخاطر تتطور تدريجياً، وكان لدى المدافعين وقت أطول للرصد والاستجابة». لكن في بيئة يدفعها الذكاء الاصطناعي، تصبح هذه الافتراضات أضعف. فالامتثال يبقى دورياً، بينما يتغير التهديد في الزمن الحقيقي. وتظل آليات الحوكمة قائمة على مراجعات وتقييمات مرحلية، بينما قد تتطور قدرات الهجوم بصورة أسرع بكثير. ولهذا يدعو يمّوت المؤسسات إلى «تجاوز الامتثال» وتبني مقاربات أمنية مستمرة، تقودها الاستخبارات، وقادرة على التكيف في الوقت الفعلي مع المخاطر المتغيرة بسرعة.

النقطة العمياء الكبرى

يلفت ماهر يمّوت أيضاً إلى أن أكبر النقاط العمياء لدى المؤسسات ليست غياب الوعي بالمخاطر المرتبطة بالذكاء الاصطناعي، بل «التقليل من أثره العملي وسرعة تغيره». فكثير من المؤسسات ما زال يعتمد على نماذج تهديد تقليدية وتقييمات دورية، مع افتراض أن الضوابط الحالية ستبقى كافية. لكن الذكاء الاصطناعي، حسب تعبيره، يوسع في آن واحد سطح الهجوم وسهولة الوصول إلى تقنيات هجومية متقدمة. كما يشير إلى «فجوة حرجة» في فهم كيفية استخدام الذكاء الاصطناعي من جانب المهاجمين ومن جانب الموظفين، إلى جانب ضعف التركيز على قدرات الكشف التي تستطيع مواكبة التهديدات المؤتمتة والعالية الحجم وسريعة التغير.

تعد «كاسبرسكي» أن الذكاء الاصطناعي لا يقوي المهاجمين فقط بل يمكن أن يمنح فرق الدفاع أدوات أسرع لرصد الثغرات (شاترستوك)

من الثبات للتكيف

يشير يمّوت إلى أهمية رؤية البنوك والقطاعات الحيوية الأخرى أن الدفاعات الثابتة القائمة على المحيط الخارجي لم تعد كافية، وأن المطلوب هو «مقاربة أمنية مستمرة وقابلة للتكيف». وعملياً، يعني ذلك تعزيز قدرات الرصد والاستجابة في الزمن الحقيقي، وتشديد إدارة الهوية والصلاحيات، وتحقيق رؤية كاملة عبر البيئات الهجينة والسحابية. كما يعني استخدام الذكاء الاصطناعي داخل العمليات الأمنية نفسها من أجل «رصد الشذوذ بسرعة أكبر، وربط التهديدات على نطاق واسع، وتقليص زمن الاستجابة». ويضيف أن المؤسسات ينبغي أن تعمل مع شركاء موثوقين يفهمون التهديدات المتطورة، مع الحفاظ على قدرات قوية في الوقاية والاستجابة السريعة لاحتواء أي حادث والتعافي منه.

أهمية هذه القصة لا تكمن فقط فيما إذا كان نموذج من «أنثروبيك» قد تجاوز عتبة معينة، بل فيما إذا كانت المؤسسات المالية مستعدة لعالم قد تبدأ فيه أبحاث الثغرات وسرعة الاستغلال والقدرات الهجومية كلها بالتوسع بطرق جديدة. قد تكون «أنثروبيك» هي الشرارة التي فجرت النقاش، لكن الدرس الأوسع أكبر من ذلك: الذكاء الاصطناعي لم يعد مجرد أداة دفاع سيبراني أو طبقة لرفع الكفاءة. إنه أصبح جزءاً من بنية المخاطر السيبرانية نفسها.


خبراء يُحذرون: الذكاء الاصطناعي يكشف عن طرق خطيرة لتطوير أسلحة بيولوجية

مؤيدو الذكاء الاصطناعي يرون أنه يحمل إمكانات هائلة لإحداث ثورة في الطب (رويترز)
مؤيدو الذكاء الاصطناعي يرون أنه يحمل إمكانات هائلة لإحداث ثورة في الطب (رويترز)
TT

خبراء يُحذرون: الذكاء الاصطناعي يكشف عن طرق خطيرة لتطوير أسلحة بيولوجية

مؤيدو الذكاء الاصطناعي يرون أنه يحمل إمكانات هائلة لإحداث ثورة في الطب (رويترز)
مؤيدو الذكاء الاصطناعي يرون أنه يحمل إمكانات هائلة لإحداث ثورة في الطب (رويترز)

في وقت يتسارع فيه تطوّر تقنيات الذكاء الاصطناعي بوتيرة غير مسبوقة، تزيد المخاوف بشأن إساءة استخدام هذه الأدوات في مجالات حساسة وخطيرة. فبينما يُروَّج لهذه التقنيات بوصفها محركاً للابتكار العلمي والطبي، بدأت تظهر مؤشرات مقلقة إلى قدرتها على تقديم إرشادات قد تُستغل في تطوير أسلحة بيولوجية، ما يفتح الباب أمام تهديدات غير تقليدية يصعب احتواؤها.

تجربة صادمة لعالم في جامعة ستانفورد

في إحدى أمسيات الصيف الماضي، وجد الدكتور ديفيد ريلمان، عالم الأحياء الدقيقة وخبير الأمن البيولوجي في جامعة ستانفورد الأميركية، نفسه أمام موقف صادم أثناء اختباره أحد برامج الدردشة الآلية.

وكان ريلمان قد كُلّف من قبل شركة تعمل في مجال الذكاء الاصطناعي بتقييم منتجها قبل طرحه للجمهور. وخلال تلك التجربة، فوجئ بأن البرنامج لا يكتفي بالإجابة عن أسئلة عامة، بل قدّم شرحاً مفصلاً حول كيفية تعديل مسبب مرض خطير في المختبر ليصبح مقاوماً للعلاجات المعروفة، وفقاً لما نقلته صحيفة «نيويورك تايمز».

لم يتوقف الأمر عند هذا الحد، إذ عرض البرنامج أيضاً سيناريوهات دقيقة لكيفية نشر هذا المسبب المرضي، مشيراً إلى ثغرة أمنية في نظام نقل عام كبير. ووفقاً لريلمان، فقد تضمّن الشرح خطوات تهدف إلى زيادة عدد الضحايا إلى أقصى حد، مع تقليل فرص الكشف عن الجهة المنفذة.

وبسبب خطورة هذه المعلومات، طلب ريلمان عدم الكشف عن اسم المسبب المرضي أو تفاصيل إضافية، خشية أن تُستخدم في التحريض على هجمات حقيقية.

وقد أثارت هذه التجربة صدمة عميقة لديه، دفعته إلى مغادرة مكتبه لفترة قصيرة لاستعادة هدوئه. وقال: «لقد أجاب عن أسئلة لم تخطر ببالي، وبمستوى من الخبث والمكر أثار في نفسي شعوراً بالرعب».

ورغم أن الشركة المطوّرة أضافت بعض إجراءات السلامة بعد الاختبار، فإن ريلمان رأى أنها غير كافية للحد من هذه المخاطر.

خبراء يُحذّرون: النماذج الحالية تتجاوز مجرد المعلومات العامة

يُعدّ ريلمان واحداً من مجموعة محدودة من الخبراء الذين تستعين بهم شركات الذكاء الاصطناعي لتقييم المخاطر المحتملة لمنتجاتها. وفي الأشهر الأخيرة، شارك عدد منهم مع صحيفة «نيويورك تايمز» أكثر من 12 محادثة مع روبوتات دردشة.

وأظهرت هذه المحادثات أن النماذج المتاحة للجمهور قادرة على تقديم معلومات تتجاوز حدود المعرفة العامة، إذ شرحت بشكل مفصل كيفية شراء مواد وراثية خام، وتحويلها إلى أسلحة بيولوجية، بل حتى نشرها في أماكن عامة، مع اقتراح وسائل للتهرب من الكشف.

لطالما وضعت الحكومة الأميركية سيناريوهات لمواجهة تهديدات بيولوجية محتملة، تشمل استخدام بكتيريا أو فيروسات أو سموم فتاكة. ومنذ سبعينات القرن الماضي، شهد العالم عشرات الحوادث البيولوجية المحدودة، من أبرزها هجمات الرسائل الملوثة عام 2001، التي أودت بحياة 5 أميركيين.

ورغم أن الخبراء يرون أن احتمال وقوع كارثة بيولوجية كبرى لا يزال منخفضاً، فإن تداعياتها المحتملة قد تكون كارثية، إذ يمكن لسلاح بيولوجي فعّال أن يؤدي إلى وفاة ملايين الأشخاص.

الذكاء الاصطناعي يوسّع نطاق المخاطر

يشير عشرات الخبراء إلى أن الذكاء الاصطناعي يُعد من أبرز العوامل التي قد تزيد من هذه المخاطر، عبر توسيع دائرة الأفراد القادرين على الوصول إلى معلومات وأدوات كانت حكراً على المتخصصين.

فقد أصبحت بروتوكولات علمية متقدمة متاحة على الإنترنت، كما باتت الشركات تبيع مكونات جينية صناعية (DNA وRNA) مباشرة للمستهلكين. ويمكن للعلماء تقسيم أعمالهم الحساسة وإسنادها إلى مختبرات خاصة، في حين يمكن لروبوتات الدردشة المساعدة في إدارة هذه العمليات المعقدة.

وشارك كيفن إسفلت، مهندس الوراثة في معهد ماساتشوستس للتكنولوجيا، أمثلة لمحادثات مع برامج ذكاء اصطناعي. ففي إحدى الحالات، شرح أحد البرامج كيفية استخدام بالون طقس لنشر مواد بيولوجية فوق مدينة.

وفي مثال آخر، قام برنامج آخر بتصنيف مسببات الأمراض وفق قدرتها على الإضرار بقطاع الثروة الحيوانية. كما قدّم برنامج ثالث وصفة لسم جديد مستوحى من دواء للسرطان.

وأشار إسفلت إلى أن بعض هذه المعلومات كان بالغ الخطورة لدرجة لا يمكن نشرها علناً.

وفي تجربة أخرى، طلب عالم أميركي - فضّل عدم الكشف عن هويته - من أحد أنظمة الذكاء الاصطناعي تقديم «بروتوكول خطوة بخطوة» لإعادة تصنيع فيروس تسبب في جائحة سابقة.

وجاء الرد في شكل تعليمات مفصلة بلغ طولها نحو 8 آلاف كلمة، تتضمن كيفية الحصول على مكونات جينية وتجميعها. ورغم وجود بعض الأخطاء، فإن هذه المعلومات قد تكون مفيدة لشخص لديه نوايا ضارة.

تراجع الرقابة ومخاوف متزايدة

في سياق متصل، أُثيرت مخاوف بشأن تراجع الرقابة على هذه التقنيات، خصوصاً في ظل سياسات تهدف إلى تعزيز ريادة الولايات المتحدة في مجال الذكاء الاصطناعي. وقد شهدت المؤسسات المعنية بالأمن البيولوجي مغادرة عدد من كبار الخبراء دون تعويضهم، إلى جانب انخفاض ملحوظ في ميزانيات الدفاع البيولوجي.

في المقابل، يرى مؤيدو الذكاء الاصطناعي أنه يحمل إمكانات هائلة لإحداث ثورة في الطب، من خلال تسريع الأبحاث وتحليل البيانات الضخمة لاكتشاف علاجات جديدة.

كما يُشير بعض العلماء إلى أن المعلومات التي تقدمها هذه الأنظمة ليست جديدة بالكامل، وأن تطوير أسلحة بيولوجية فعّالة لا يزال يتطلب خبرة علمية عميقة وسنوات من العمل المختبري.

من جانبها، أكدت شركات التكنولوجيا الكبرى، مثل «أنثروبيك» و«أوبن إيه آي» و«غوغل»، أنها تعمل بشكل مستمر على تطوير أنظمتها وتحسين إجراءات الأمان، بهدف تحقيق توازن بين الفوائد المحتملة والمخاطر المصاحبة لهذه التقنيات.