5 نصائح للحصول على إجابات أفضل من الذكاء الاصطناعي

اختبارات أمناء المكتبات تحذر من نقاط الضعف فيه

5 نصائح للحصول على إجابات أفضل من الذكاء الاصطناعي
TT

5 نصائح للحصول على إجابات أفضل من الذكاء الاصطناعي

5 نصائح للحصول على إجابات أفضل من الذكاء الاصطناعي

هل تريد إجراء بحث أفضل عبر الإنترنت؟ استخدم الذكاء الاصطناعي بوصف أنه أمين مكتبة.

في الآونة الراهنة، أخذت مكتبات عامة عديدة وجامعات توظف «أمناء مكتبات للذكاء الاصطناعي»، لمعاونة الناس على استخدام أحدث التقنيات للبحث.

وبمشاهدة أمناء المكتبات وهم يعملون، فإن من الواضح أنهم يتعاملون مع الذكاء الاصطناعي بنفس الشك الصحي الذي قد يوجهه أي مشترٍ إلى حديث بائع سيارات مستعملة. وأمين المكتبة شخص يمكن الثقة به، والأهم أنه شخص يحقق، ويدقق. ويقول تريفور واتكنز، أمين مكتبة في جامعة جورج ميسون: «الإشباع الفوري للمعلومات، والذي أعرّفه بأنه الحاجة إلى قبول المعلومات من دون تدقيقها بصورة صارمة... أمر خطير».

ويقول جيفري أ. فاولر في «واشنطن بوست» إنه لجأ إلى مساعدة ثلاثة من أمناء المكتبات المحترفين في تقييم أدوات البحث بالذكاء الاصطناعي، من «تشات جي بي تي 5» ChatGPT 5 إلى برنامج «غوغل» للذكاء الاصطناعي Google’s AI، من خلال طرح مجموعة من الأسئلة الصعبة على الأدوات الذكية.

اختبارات لأفضل أنواع الذكاء الاصطناعي

وكان هدفنا العثور على نوع الذكاء الاصطناعي الذي يمكن أن يوفر علينا الوقت، وفي نفس الوقت لا يقدم إجابات خاطئة. وفيما يلي خمسة دروس عملية من اختباراتنا، ومحادثاتنا.

1. ابدأ بـ«نمط الذكاء الاصطناعي» في «غوغل» Google’s AI Mode -وليس «ملخصات الذكاء الاصطناعي» Google’s AI Overviews.

الفائز الذي اختاره أمناء المكتبات في اختبار البحث بالذكاء الاصطناعي ليس المحطة الأولى لمعظم الناس للبحث عبر الإنترنت. لكنه يجب أن يكون كذلك.

إن «نمط الذكاء الاصطناعي-AI Mode» هو نسخة هجينة من «غوغل» مع روبوت دردشة. يمكنك الوصول إليه بالنقر على الزر في الزاوية العلوية اليسرى من نتائج البحث.

تغلّب «نمط الذكاء الاصطناعي» على جميع أدوات الذكاء الاصطناعي التي اختبرناها (بما في ذلك «تشات جي بي تي 5») -وتفوق بصورة خاصة على «ملخصات (غوغل) بالذكاء الاصطناعي-Google’s AI Overviews»، التي تظهر افتراضياً في أعلى معظم نتائج البحث.

لماذا يُعد «نمط الذكاء الاصطناعي» أفضل؟ تقول «غوغل» إنها تستخدم «استدلال» الذكاء الاصطناعي لتحديد المواضيع الفرعية للبحث فيها، ثم تُجري عمليات بحث متعددة -ربما العشرات والعشرات- في نفس الوقت. وعلى عكس «ملخصات الذكاء الاصطناعي»، فإنه يمتلك أيضاً القدرة على الوصول إلى تحديثات تقنية أحدث لنموذج الذكاء الاصطناعي الخاص بـ«غوغل»، مما يساعده على تحليل وتلخيص ما يجده.

لا تزال هناك الكثير من الأسئلة التي تواجه «نمط الذكاء الاصطناعي» صعوبة في الإجابة عنها. ولكنه مفيد بصفة خاصة في البحث الذي يُشبه العثور على إبرة في كومة قش، حيث تكون قدرته على البحث السريع على نطاق واسع هي الأكثر فائدة.

2. كن محدداً جداً، وللغاية. أغلب أدوات الذكاء الاصطناعي ليست «ذكية» بما يكفي بعد لطرح أسئلة متابعة رئيسة. ويقول واتكنز إنها «واحدة من الأشياء الكثيرة التي تُميّز أمناء المكتبات عن جميع أدوات الذكاء الاصطناعي التوليدي». ولكن مع الذكاء الاصطناعي «الأمر متروك لك، بصفتك المستخدم، لإعادة صياغة سؤالك، وتوفير المزيد من السياق عند الحاجة».

يقول كريس ماركمان، أمين المكتبة لدى مكتبة مدينة بالو ألتو، إن قيام أمناء المكتبات بذلك يهدف إلى التعمق فيما تريد أن تسأله بالضبط، ولكن ربما لم تتمكن من صياغته بالكامل بعد. ويضيف: «في تسع حالات من أصل عشر، ما تبحث عنه يتجاوز السؤال الأولي بطبقتين، أو ربما ثلاث طبقات». ويستطرد قائلاً: «عندما أطرح أمراً، أحاول دمج عملية التفكير تلك في السؤال الأولي، مع الحفاظ على أكبر قدر ممكن من الإيجاز».

قد تُفيد إضافة أمثلة إلى سؤالك، وكذلك تحديد الفترة الزمنية للمصادر المحتملة. تقول شارزلي رودريغيز، أمينة مكتبة في جامعة ولاية سان خوسيه: «أحياناً نتكاسل للغاية عن تذكر منح نموذج الذكاء الاصطناعي دوراً، أو توفير سياق، أو قيود».

تقترح السيدة رودريغيز أنه يمكنك أيضاً أن تطلب من الذكاء الاصطناعي أن ينتقد نفسه، أو يعرض أمثلة متعددة، باستخدام عبارات مثل «ناقش وجهة النظر المعاكسة»، أو «حدد نقاط الضعف في تفكيرك»، أو «اذكر ما قد يكون مفقوداً»، أو «ما التحيزات التي قد تكون موجودة هنا».

محاذير ضعف الأدوات الذكية

3. احذر من نقاط الضعف في الذكاء الاصطناعي. في اختبارنا أظهرت جميع أدوات الذكاء الاصطناعي نقاط ضعف يجب أن تأخذها في اعتبارك. وشملت هذه النقاط الأسئلة المتعلقة بما يلي:

• الأحداث الأخيرة: عملية إنشاء نموذج ذكاء اصطناعي تستغرق وقتاً طويلاً، لذا فإن معرفته المضمنة داخله تكون مجمدة في وقت معين. على سبيل المثال، من دون البحث على الويب، لا يعرف «تشات جي بي تي 5» أي شيء بعد 30 سبتمبر (أيلول) 2024. إذا كنت بحاجة إلى السؤال عن شيء أكثر حداثة، تأكد من توجيه الذكاء الاصطناعي صراحة بالبحث عن معلومات محدثة.

• العناصر المرئية: لا يزال الذكاء الاصطناعي أفضل بكثير في التعامل مع النصوص عنه مع الصور، ويمكن أن يصاب بالارتباك الشديد عندما تطلب منه الإجابة عن أسئلة تتضمن تحليل الصور.

• المصادر المتخصصة: بسبب اتفاقيات النشر، قد يكون وصول الذكاء الاصطناعي إلى المحتوى الأكاديمي والإخباري وغيره من المحتوى الإعلامي محدوداً. تقول السيدة رودريغيز: «غالبية الأبحاث العلمية لا تزال غير (مفتوحة)، أو قابلة للعثور عليها، أو الوصول إليها، حتى على محركات البحث». وهذا يعني أنه بالنسبة لبعض الأسئلة قد يكون من الأفضل حقاً أن تسأل أمين مكتبة بشرياً لديه إمكانية الوصول إلى قواعد البيانات، والمصادر المدفوعة.

4. تحقق من مراجع (استشهادات) الإجابات (بجدية). في اختباراتنا كانت أدوات الذكاء الاصطناعي أحياناً تقدم إجابة كاملة مع روابط للمصادر. لكن قد يتضح أن الإجابة لا تزال خاطئة في النهاية. تقول السيدة رودريغيز: «من السهل للغاية الوقوع في هذا الفخ عندما تبدو الإجابات جازمة، وموثوقاً بها للغاية». لذا، سوف تظل بحاجة إلى النقر على المصادر للوقوف على ما تقوله. أو حتى إذا ما كانت حقيقية.

وإذا كان الرابط يؤكد الإجابة من الذكاء الاصطناعي، فهل يمكنك حقاً الوثوق بالمصدر الذي خرجت منه؟ تقول السيدة رودريغيز: «انقر للوصول إلى المصادر، وتحقق من المؤلف، وانظر إلى الجهة التي تقف وراءها، ودوّن تاريخ النشر». تواجه أدوات الذكاء الاصطناعي صعوبة في الحكم على موثوقية المصادر، لذا يمكنها أن تُظهر مدونات، أو أخباراً ذات جودة منخفضة، أو محتوى غير مهم لتحسين محركات البحث «SEO» بدلاً من المصادر الموثوقة التي خضعت لمراجعة الأقران.

إحدى علامات الخطر هي عندما يستمد الذكاء الاصطناعي إجابته من منصة الرسائل المجتمعية «ريديت-Reddit»، أو شبكة اجتماعية مثل «إكس» (تويتر سابقاً). ربما لا يوجد خطأ في آراء الناس، لكن هذه آراء، وليست حقائق.

5. اطرح نفس السؤال مرتين (أو ثلاث مرات). إذا كان لديك وقت إضافي، فافتح بضع علامات تبويب إضافية في المتصفح، واطرح نفس السؤال على أدوات ذكاء اصطناعي مختلفة. قد تفاجأ بمدى اختلاف الإجابات -أو يسعدك الأمر عندما لا تختلف.

يقول ماركمان إنك ستكون في وضع أفضل بكثير إذا كان لديك على الأقل بعض المعرفة بالموضوع الذي تستكشفه عندما تحاول معرفة ما إذا كان يمكنك الوثوق بإجابة الذكاء الاصطناعي من عدمه. ويضيف: «لا تحتاج إلى معرفة كل شيء عن موضوع ما، ولكن يجب أن تعرف ما يكفي لتكتشف الخطأ، وتتجاوزه، بدلاً من المضي في مطاردات مضيعة للوقت مع المعلومات الخاطئة».

وعندما يساورك الشك «اطلب المساعدة من أمناء المكتبات»، كما يقول واتكنز... «تقدم العديد من المكتبات العامة وبعض المكتبات الأكاديمية خدمة تسمى المرجع الافتراضي، حيث يمكن للمستخدمين طرح أسئلة على محترفي المكتبات (وليس روبوتات الدردشة) عبر الإنترنت».


مقالات ذات صلة

«كاسبرسكي» لـ«الشرق الأوسط»: مخاوف «أنثروبيك» تعكس تحولاً أوسع بالمخاطر السيبرانية

خاص تكشف المخاوف المرتبطة بنموذج «أنثروبيك» عن تحول أوسع في المخاطر السيبرانية (رويترز)

«كاسبرسكي» لـ«الشرق الأوسط»: مخاوف «أنثروبيك» تعكس تحولاً أوسع بالمخاطر السيبرانية

تكشف مخاوف «أنثروبيك» تحولاً أوسع حول إعادة الذكاء الاصطناعي تشكيل المخاطر السيبرانية على البنوك ما يوسع الهجوم والدفاع معاً بسرعة

نسيم رمضان (لندن)
تكنولوجيا مؤيدو الذكاء الاصطناعي يرون أنه يحمل إمكانات هائلة لإحداث ثورة في الطب (رويترز)

خبراء يُحذرون: الذكاء الاصطناعي يكشف عن طرق خطيرة لتطوير أسلحة بيولوجية

في وقت يتسارع فيه تطوّر تقنيات الذكاء الاصطناعي بوتيرة غير مسبوقة، تزيد المخاوف بشأن إساءة استخدام هذه الأدوات في مجالات حساسة وخطيرة.

«الشرق الأوسط» (واشنطن)
الولايات المتحدة​ الصورة التي نشرها ترمب على منصة «تروث سوشيال»

«انتهى زمن الرجل اللطيف»... ترمب يهدد إيران بصورة مُولّدة بالذكاء الاصطناعي

وجّه الرئيس الأميركي رسالة تحذيرية إلى إيران عبر منصة «تروث سوشيال»، مرفقة بصورة مولّدة بالذكاء الاصطناعي يظهر فيها وهو يحمل سلاحاً وخلفه انفجارات.

«الشرق الأوسط» (واشنطن)
تكنولوجيا معالج "غرافيتون5"

«ميتا» توقع اتفاقية مع «أمازون ويب سيرفيسز» لتشغيل الذكاء الاصطناعي الوكيل

لتطوير جيل جديد من الأدوات الذكية والخدمات المبتكرة للمستخدمين

خلدون غسان سعيد (جدة)
تكنولوجيا برنامج ذكاء اصطناعي... يتنبأ بترقيتك المقبلة

برنامج ذكاء اصطناعي... يتنبأ بترقيتك المقبلة

يرصد الموظفين ذوي الإمكانات العالية قبل إشغال المنصب بثلاث إلى خمس سنوات

«الشرق الأوسط» (واشنطن)

«كاسبرسكي» لـ«الشرق الأوسط»: مخاوف «أنثروبيك» تعكس تحولاً أوسع بالمخاطر السيبرانية

تكشف المخاوف المرتبطة بنموذج «أنثروبيك» عن تحول أوسع في المخاطر السيبرانية (رويترز)
تكشف المخاوف المرتبطة بنموذج «أنثروبيك» عن تحول أوسع في المخاطر السيبرانية (رويترز)
TT

«كاسبرسكي» لـ«الشرق الأوسط»: مخاوف «أنثروبيك» تعكس تحولاً أوسع بالمخاطر السيبرانية

تكشف المخاوف المرتبطة بنموذج «أنثروبيك» عن تحول أوسع في المخاطر السيبرانية (رويترز)
تكشف المخاوف المرتبطة بنموذج «أنثروبيك» عن تحول أوسع في المخاطر السيبرانية (رويترز)

لم يكن الاجتماع الطارئ الذي جمع في أبريل (نيسان) الحالي وزير الخزانة الأميركي سكوت بيسنت ورئيس مجلس الاحتياطي الفيدرالي جيروم باول مع رؤساء أكبر البنوك الأميركية مجرد رد فعل على مخاوف مرتبطة بنموذج من «أنثروبيك»، بل كان مؤشراً إلى قلق أوسع حول ما إذا كان الذكاء الاصطناعي قد يدخل مرحلة يصبح فيها قادراً على تسريع اكتشاف الثغرات واستغلالها، بما يغيّر شكل المخاطر السيبرانية التي تواجهها المؤسسات المالية.

هذا هو السياق الذي يجعل القصة أكبر من اسم شركة واحدة أو نموذج واحد. فالمخاوف التي أثيرت حول نموذج «كلود ميثوس» من «أنثروبيك» لم تأتِ من كونه مجرد نموذج قوي جديد، بل من الحديث عن قدراته على اكتشاف ثغرات خطيرة، وربط نقاط ضعف متعددة في هجمات أكثر تعقيداً، وتقليص الزمن بين اكتشاف الانكشاف الأمني واستغلاله.

ماهر يمّوت الباحث الأمني الرئيسي لمنطقة الشرق الأوسط وتركيا وأفريقيا في «كاسبرسكي»

تحول أوسع للمخاطر

وفي حديثه إلى «الشرق الأوسط»، يلفت ماهر يمّوت، الباحث الأمني الرئيسي لمنطقة الشرق الأوسط وتركيا وأفريقيا في «كاسبرسكي» إلى أن القضية «ليست عن شركة واحدة»، بل عن «تحول أوسع في المخاطر السيبرانية مدفوع بالذكاء الاصطناعي». لكنه في الوقت نفسه يتجنب المبالغة، موضحاً أن من المبكر الجزم كيف ستترجم هذه القدرات إلى مخاطر فعلية على الأرض. وهذه نقطة مهمة، لأن النقاش اليوم لا يدور حول موجة مكتملة من الهجمات الجديدة بقدر ما يدور حول تغير واضح في مستوى القدرات واتجاه التهديدات.

جوهر التحول، حسب يموت، أن الذكاء الاصطناعي لم يعد يقتصر على تسريع أساليب الهجوم المعروفة، بل قد يبدأ في التأثير على مرحلة أعمق وأكثر حساسية ترتبط باكتشاف الثغرات نفسها. ولهذا يصف التطور الجاري بأنه «تصنيع التهديدات السيبرانية». فبدلاً من أن تبقى العمليات المعقدة حكراً على عدد محدود من الجهات ذات الخبرة العالية، قد يصبح بالإمكان تنفيذ هجمات أكثر تطوراً بسرعة أكبر وعلى نطاق أوسع، وبدرجة أقل من التدخل البشري المباشر.

البنوك في الجوهر

القطاع المالي كان دائماً هدفاً مفضلاً لمجرمي الإنترنت بسبب القيمة العالية للبيانات المالية وطبيعته الرابحة. لكن التهديد اليوم لا يتعلق فقط بجاذبية هذا القطاع، بل أيضاً بكونه يعمل داخل بيئات رقمية شديدة التعقيد والترابط، من الأنظمة القديمة إلى الخدمات السحابية والتطبيقات الداخلية ومقدمي الخدمات الخارجيين. أي أن الضغط الإضافي على سرعة اكتشاف الثغرات واستغلالها قد يرفع مستوى المخاطر فيه بسرعة كبيرة. ويقول يمّوت إن «القطاع المالي كان دائماً هدفاً رئيسياً لمجرمي الإنترنت بسبب القيمة العالية للبيانات المالية وطبيعته الرابحة»، مضيفاً أن الرقمنة الكبيرة وترابط الأنظمة خلقا مزيداً من الفرص أمام المهاجمين.

تحذر «كاسبرسكي» من أن نماذج الأمن والامتثال الحالية بُنيت لبيئة أبطأ قد لا تكون كافية لملاحقة تهديدات تتطور في الزمن الحقيقي (شارستوك)

الضغط الأمني القائم

تُظهر أرقام «كاسبرسكي» أن المؤسسات المالية تدخل هذه المرحلة الجديدة من موقع انكشاف قائم بالفعل. فوفقاً لبيانات «كاسبرسكي ديجيتال فوتبرنت إنتليجنس»، جرى اختراق أكثر من مليون حساب مصرفي إلكتروني عبر أكبر 100 بنك في العالم خلال 2025 بواسطة برمجيات سرقة المعلومات، مع تداول بيانات الدخول المسروقة على نطاق واسع في الإنترنت المظلم. كما سُجل أعلى متوسط لعدد الحسابات المتأثرة لكل بنك في الهند وإسبانيا والبرازيل. أهمية هذه الأرقام لا تكمن فقط في حجمها، بل في أنها تشير إلى أن البنوك لا تبدأ من وضع مستقر تماماً، بل من بيئة تواجه فيها أصلاً ضغوطاً أمنية مرتفعة.

وما يتغير جوهرياً عندما يتمكن الذكاء الاصطناعي من تحديد الثغرات بسرعة أكبر، ليس فقط أن المهاجمين يصبحون أكثر قدرة، بل إن المدافعين يخسرون الوقت. ويقول يموت إن الذكاء الاصطناعي يمكنه «تحديد الثغرات بسرعة أكبر بكثير، ما يقلص الزمن بين اكتشافها واستغلالها، ويترك المؤسسات أمام وقت أقل للاستجابة». وهذا تحدٍ كبير للمؤسسات المالية، لأن كثيراً منها لا يستطيع التحرك بالسرعة نفسها التي تتحرك بها قدرات الهجوم الجديدة، سواء بسبب تعقيد الأنظمة، أو تعدد الطبقات التشغيلية، أو اشتراطات التغيير والامتثال.

تحول هيكلي أعمق

يشدد يمّوت على أن المسألة ليست مجرد زيادة في السرعة أو الحجم أو التعقيد، بل في «تحول هيكلي أعمق». فالتهديدات المدعومة بالذكاء الاصطناعي في مراحل سابقة كانت تضخم أساليب قائمة، جاعلة التصيد أسرع، والاحتيال أكثر كفاءة، وتوليد البرمجيات الخبيثة أسهل على نطاق أوسع. غير أنها كانت لا تزال تعتمد إلى حد كبير على ثغرات معروفة أو بيانات اعتماد مسروقة أو أخطاء بشرية. أما ما يلوح الآن فهو شيء مختلف إذ يبدأ الذكاء الاصطناعي نفسه في المساهمة في أبحاث الثغرات، وهو مجال كان يحتاج تاريخياً إلى وقت طويل وخبرة نادرة. وإذا حدث ذلك على نطاق أوسع، فإن عدد نقاط الضعف القابلة للاستغلال قد يرتفع قبل أن تتمكن المؤسسات من معالجتها.

تواجه البنوك تحولاً من موقع انكشاف قائم بالفعل في ظل ارتفاع قيمة البيانات المالية وتعقيد البيئات الرقمية وترابطها (رويترز)

القدرة الدفاعية والجاهزية

لا يقدم ماهر يمّوت هذه الصورة بوصفها قصة هجومية فقط. فواحدة من أهم نقاطه أن القدرة نفسها «مهمة على الجانب الدفاعي بالقدر نفسه، إن لم تكن أكثر». فالتحليل المدعوم بالذكاء الاصطناعي يمكن أن يساعد فرق الأمن على اكتشاف الانكشافات بسرعة وعلى نطاق واسع، وترتيب أولوياتها قبل أن يصل إليها المهاجمون. وهذه نقطة أساسية، لأنها تمنع اختزال القصة في أن الذكاء الاصطناعي يقوي المهاجمين فقط. فالحقيقة، كما يطرحها، أن هذه الأدوات تعيد تشكيل ميزان الهجوم والدفاع معاً، والسؤال الحقيقي هو من يستطيع تشغيلها بسرعة وفاعلية أكبر؟

من هنا أيضاً يظهر تساؤل آخر متعلق بمدى جاهزية هذه النماذج الأمنية والتنظيمية الحالية لهذا الواقع. يمّوت يعد أن معظم نماذج الأمن السيبراني وأطره التنظيمية بُنيت لبيئة تهديدات أبطأ، قائلاً: «كانت فيها المخاطر تتطور تدريجياً، وكان لدى المدافعين وقت أطول للرصد والاستجابة». لكن في بيئة يدفعها الذكاء الاصطناعي، تصبح هذه الافتراضات أضعف. فالامتثال يبقى دورياً، بينما يتغير التهديد في الزمن الحقيقي. وتظل آليات الحوكمة قائمة على مراجعات وتقييمات مرحلية، بينما قد تتطور قدرات الهجوم بصورة أسرع بكثير. ولهذا يدعو يمّوت المؤسسات إلى «تجاوز الامتثال» وتبني مقاربات أمنية مستمرة، تقودها الاستخبارات، وقادرة على التكيف في الوقت الفعلي مع المخاطر المتغيرة بسرعة.

النقطة العمياء الكبرى

يلفت ماهر يمّوت أيضاً إلى أن أكبر النقاط العمياء لدى المؤسسات ليست غياب الوعي بالمخاطر المرتبطة بالذكاء الاصطناعي، بل «التقليل من أثره العملي وسرعة تغيره». فكثير من المؤسسات ما زال يعتمد على نماذج تهديد تقليدية وتقييمات دورية، مع افتراض أن الضوابط الحالية ستبقى كافية. لكن الذكاء الاصطناعي، حسب تعبيره، يوسع في آن واحد سطح الهجوم وسهولة الوصول إلى تقنيات هجومية متقدمة. كما يشير إلى «فجوة حرجة» في فهم كيفية استخدام الذكاء الاصطناعي من جانب المهاجمين ومن جانب الموظفين، إلى جانب ضعف التركيز على قدرات الكشف التي تستطيع مواكبة التهديدات المؤتمتة والعالية الحجم وسريعة التغير.

تعد «كاسبرسكي» أن الذكاء الاصطناعي لا يقوي المهاجمين فقط بل يمكن أن يمنح فرق الدفاع أدوات أسرع لرصد الثغرات (شاترستوك)

من الثبات للتكيف

يشير يمّوت إلى أهمية رؤية البنوك والقطاعات الحيوية الأخرى أن الدفاعات الثابتة القائمة على المحيط الخارجي لم تعد كافية، وأن المطلوب هو «مقاربة أمنية مستمرة وقابلة للتكيف». وعملياً، يعني ذلك تعزيز قدرات الرصد والاستجابة في الزمن الحقيقي، وتشديد إدارة الهوية والصلاحيات، وتحقيق رؤية كاملة عبر البيئات الهجينة والسحابية. كما يعني استخدام الذكاء الاصطناعي داخل العمليات الأمنية نفسها من أجل «رصد الشذوذ بسرعة أكبر، وربط التهديدات على نطاق واسع، وتقليص زمن الاستجابة». ويضيف أن المؤسسات ينبغي أن تعمل مع شركاء موثوقين يفهمون التهديدات المتطورة، مع الحفاظ على قدرات قوية في الوقاية والاستجابة السريعة لاحتواء أي حادث والتعافي منه.

أهمية هذه القصة لا تكمن فقط فيما إذا كان نموذج من «أنثروبيك» قد تجاوز عتبة معينة، بل فيما إذا كانت المؤسسات المالية مستعدة لعالم قد تبدأ فيه أبحاث الثغرات وسرعة الاستغلال والقدرات الهجومية كلها بالتوسع بطرق جديدة. قد تكون «أنثروبيك» هي الشرارة التي فجرت النقاش، لكن الدرس الأوسع أكبر من ذلك: الذكاء الاصطناعي لم يعد مجرد أداة دفاع سيبراني أو طبقة لرفع الكفاءة. إنه أصبح جزءاً من بنية المخاطر السيبرانية نفسها.


خبراء يُحذرون: الذكاء الاصطناعي يكشف عن طرق خطيرة لتطوير أسلحة بيولوجية

مؤيدو الذكاء الاصطناعي يرون أنه يحمل إمكانات هائلة لإحداث ثورة في الطب (رويترز)
مؤيدو الذكاء الاصطناعي يرون أنه يحمل إمكانات هائلة لإحداث ثورة في الطب (رويترز)
TT

خبراء يُحذرون: الذكاء الاصطناعي يكشف عن طرق خطيرة لتطوير أسلحة بيولوجية

مؤيدو الذكاء الاصطناعي يرون أنه يحمل إمكانات هائلة لإحداث ثورة في الطب (رويترز)
مؤيدو الذكاء الاصطناعي يرون أنه يحمل إمكانات هائلة لإحداث ثورة في الطب (رويترز)

في وقت يتسارع فيه تطوّر تقنيات الذكاء الاصطناعي بوتيرة غير مسبوقة، تزيد المخاوف بشأن إساءة استخدام هذه الأدوات في مجالات حساسة وخطيرة. فبينما يُروَّج لهذه التقنيات بوصفها محركاً للابتكار العلمي والطبي، بدأت تظهر مؤشرات مقلقة إلى قدرتها على تقديم إرشادات قد تُستغل في تطوير أسلحة بيولوجية، ما يفتح الباب أمام تهديدات غير تقليدية يصعب احتواؤها.

تجربة صادمة لعالم في جامعة ستانفورد

في إحدى أمسيات الصيف الماضي، وجد الدكتور ديفيد ريلمان، عالم الأحياء الدقيقة وخبير الأمن البيولوجي في جامعة ستانفورد الأميركية، نفسه أمام موقف صادم أثناء اختباره أحد برامج الدردشة الآلية.

وكان ريلمان قد كُلّف من قبل شركة تعمل في مجال الذكاء الاصطناعي بتقييم منتجها قبل طرحه للجمهور. وخلال تلك التجربة، فوجئ بأن البرنامج لا يكتفي بالإجابة عن أسئلة عامة، بل قدّم شرحاً مفصلاً حول كيفية تعديل مسبب مرض خطير في المختبر ليصبح مقاوماً للعلاجات المعروفة، وفقاً لما نقلته صحيفة «نيويورك تايمز».

لم يتوقف الأمر عند هذا الحد، إذ عرض البرنامج أيضاً سيناريوهات دقيقة لكيفية نشر هذا المسبب المرضي، مشيراً إلى ثغرة أمنية في نظام نقل عام كبير. ووفقاً لريلمان، فقد تضمّن الشرح خطوات تهدف إلى زيادة عدد الضحايا إلى أقصى حد، مع تقليل فرص الكشف عن الجهة المنفذة.

وبسبب خطورة هذه المعلومات، طلب ريلمان عدم الكشف عن اسم المسبب المرضي أو تفاصيل إضافية، خشية أن تُستخدم في التحريض على هجمات حقيقية.

وقد أثارت هذه التجربة صدمة عميقة لديه، دفعته إلى مغادرة مكتبه لفترة قصيرة لاستعادة هدوئه. وقال: «لقد أجاب عن أسئلة لم تخطر ببالي، وبمستوى من الخبث والمكر أثار في نفسي شعوراً بالرعب».

ورغم أن الشركة المطوّرة أضافت بعض إجراءات السلامة بعد الاختبار، فإن ريلمان رأى أنها غير كافية للحد من هذه المخاطر.

خبراء يُحذّرون: النماذج الحالية تتجاوز مجرد المعلومات العامة

يُعدّ ريلمان واحداً من مجموعة محدودة من الخبراء الذين تستعين بهم شركات الذكاء الاصطناعي لتقييم المخاطر المحتملة لمنتجاتها. وفي الأشهر الأخيرة، شارك عدد منهم مع صحيفة «نيويورك تايمز» أكثر من 12 محادثة مع روبوتات دردشة.

وأظهرت هذه المحادثات أن النماذج المتاحة للجمهور قادرة على تقديم معلومات تتجاوز حدود المعرفة العامة، إذ شرحت بشكل مفصل كيفية شراء مواد وراثية خام، وتحويلها إلى أسلحة بيولوجية، بل حتى نشرها في أماكن عامة، مع اقتراح وسائل للتهرب من الكشف.

لطالما وضعت الحكومة الأميركية سيناريوهات لمواجهة تهديدات بيولوجية محتملة، تشمل استخدام بكتيريا أو فيروسات أو سموم فتاكة. ومنذ سبعينات القرن الماضي، شهد العالم عشرات الحوادث البيولوجية المحدودة، من أبرزها هجمات الرسائل الملوثة عام 2001، التي أودت بحياة 5 أميركيين.

ورغم أن الخبراء يرون أن احتمال وقوع كارثة بيولوجية كبرى لا يزال منخفضاً، فإن تداعياتها المحتملة قد تكون كارثية، إذ يمكن لسلاح بيولوجي فعّال أن يؤدي إلى وفاة ملايين الأشخاص.

الذكاء الاصطناعي يوسّع نطاق المخاطر

يشير عشرات الخبراء إلى أن الذكاء الاصطناعي يُعد من أبرز العوامل التي قد تزيد من هذه المخاطر، عبر توسيع دائرة الأفراد القادرين على الوصول إلى معلومات وأدوات كانت حكراً على المتخصصين.

فقد أصبحت بروتوكولات علمية متقدمة متاحة على الإنترنت، كما باتت الشركات تبيع مكونات جينية صناعية (DNA وRNA) مباشرة للمستهلكين. ويمكن للعلماء تقسيم أعمالهم الحساسة وإسنادها إلى مختبرات خاصة، في حين يمكن لروبوتات الدردشة المساعدة في إدارة هذه العمليات المعقدة.

وشارك كيفن إسفلت، مهندس الوراثة في معهد ماساتشوستس للتكنولوجيا، أمثلة لمحادثات مع برامج ذكاء اصطناعي. ففي إحدى الحالات، شرح أحد البرامج كيفية استخدام بالون طقس لنشر مواد بيولوجية فوق مدينة.

وفي مثال آخر، قام برنامج آخر بتصنيف مسببات الأمراض وفق قدرتها على الإضرار بقطاع الثروة الحيوانية. كما قدّم برنامج ثالث وصفة لسم جديد مستوحى من دواء للسرطان.

وأشار إسفلت إلى أن بعض هذه المعلومات كان بالغ الخطورة لدرجة لا يمكن نشرها علناً.

وفي تجربة أخرى، طلب عالم أميركي - فضّل عدم الكشف عن هويته - من أحد أنظمة الذكاء الاصطناعي تقديم «بروتوكول خطوة بخطوة» لإعادة تصنيع فيروس تسبب في جائحة سابقة.

وجاء الرد في شكل تعليمات مفصلة بلغ طولها نحو 8 آلاف كلمة، تتضمن كيفية الحصول على مكونات جينية وتجميعها. ورغم وجود بعض الأخطاء، فإن هذه المعلومات قد تكون مفيدة لشخص لديه نوايا ضارة.

تراجع الرقابة ومخاوف متزايدة

في سياق متصل، أُثيرت مخاوف بشأن تراجع الرقابة على هذه التقنيات، خصوصاً في ظل سياسات تهدف إلى تعزيز ريادة الولايات المتحدة في مجال الذكاء الاصطناعي. وقد شهدت المؤسسات المعنية بالأمن البيولوجي مغادرة عدد من كبار الخبراء دون تعويضهم، إلى جانب انخفاض ملحوظ في ميزانيات الدفاع البيولوجي.

في المقابل، يرى مؤيدو الذكاء الاصطناعي أنه يحمل إمكانات هائلة لإحداث ثورة في الطب، من خلال تسريع الأبحاث وتحليل البيانات الضخمة لاكتشاف علاجات جديدة.

كما يُشير بعض العلماء إلى أن المعلومات التي تقدمها هذه الأنظمة ليست جديدة بالكامل، وأن تطوير أسلحة بيولوجية فعّالة لا يزال يتطلب خبرة علمية عميقة وسنوات من العمل المختبري.

من جانبها، أكدت شركات التكنولوجيا الكبرى، مثل «أنثروبيك» و«أوبن إيه آي» و«غوغل»، أنها تعمل بشكل مستمر على تطوير أنظمتها وتحسين إجراءات الأمان، بهدف تحقيق توازن بين الفوائد المحتملة والمخاطر المصاحبة لهذه التقنيات.


«ميتا» توقع اتفاقية مع «أمازون ويب سيرفيسز» لتشغيل الذكاء الاصطناعي الوكيل عبر عشرات الملايين من المعالجات فائقة الأداء

معالج "غرافيتون5"
معالج "غرافيتون5"
TT

«ميتا» توقع اتفاقية مع «أمازون ويب سيرفيسز» لتشغيل الذكاء الاصطناعي الوكيل عبر عشرات الملايين من المعالجات فائقة الأداء

معالج "غرافيتون5"
معالج "غرافيتون5"

تعمل شركة «ميتا» على تطوير جيل جديد من تقنيات الذكاء الاصطناعي وتطوير تجارب غير مسبوقة للمستخدمين. ولتحقيق ذلك، تحتاج الشركة إلى جيل جديد من المعالجات، الأمر الذي توفره «أمازون ويب سيرفيسز (AWS)»، حيث تم توقيع اتفاقية بين الشركتين لاستخدام عشرات الملايين من معالجات «غرافيتون (AWS Graviton)»، ما يعكس تحولاً جوهرياً في كيفية بناء البنية التحتية للذكاء الاصطناعي.

معالج «غرافيتون 5»

وفي السابق، كانت «وحدات معالجة الرسومات (GPU)» أساسية لتدريب النماذج الضخمة، ولكن تطور «الذكاء الاصطناعي الوكيل (Agentic AI)» (وحدات برمجية مستقلة قادرة على التفكير والتخطيط وإنجاز المهام المعقدة وكأنها مستخدم يجلس أمام الكومبيوتر) يعني وجود حاجة متزايدة إلى طلب هائل على أحمال العمل التي تحتاج لموارد «معالجة مركزية (CPU)» مكثفة، مثل توليد النصوص البرمجية والبحث وتنسيق المهام متعددة الخطوات. وتم تصميم معالج «غرافيتون5» (Graviton5) خصيصاً لهذه المهام، ما يمنح «ميتا» قدرات الحوسبة اللازمة لتشغيلها بكفاءة وموثوقية.

معالجة أسرع للبيانات

ويتميز المعالج الجديد بتقديم 192 نواة وذاكرة تخزين مؤقتة أكبر بخمس مرات مقارنة بالجيل السابق، ما يخفض من زمن استجابة النوى بنسبة تصل إلى 33 في المائة، مما يعني معالجة أسرع للبيانات بنطاق ترددي أكبر، وهما شرطان أساسيان لنظم الذكاء الاصطناعي التي تتطلب تنفيذ مهام مستمرة ومتعددة الخطوات. وتم تصنيع المعالج بدقة 3 نانومتر للحصول على معالج بحجم أقل وكفاءة أعلى، ما ينجم عنه بنية تحتية بأداء أعلى بنسبة تصل إلى 25 في المائة مقارنة بالجيل السابق، مع الحفاظ على كفاءة فائقة باستهلاك الطاقة للحد من الأثر البيئي.

أعلى مستويات الأداء والأمان

كما صُممت المعالجات على نظام «إيه دبليو إس نايترو (AWS Nitro)» الذي يستخدم دارات إلكترونية وبرمجية مخصصة لتحقيق أعلى مستويات الأداء والتوافر والأمان. ويسمح هذا النظام بالوصول المباشر للعتاد الإلكتروني، مع توفير تقنيات متقدمة، مثل: «Elastic Network Adapter ENA» و«Amazon Elastic Block Store EBS»، لتشغيل البيئة الافتراضية الخاصة دون أي تأثير على الأداء.

كما يدعم المعالج تقنية «Elastic Fabric Adapter EFA» التي تتيح اتصالاً منخفض التأخير وعالي السعة بين البيئات الافتراضية المتعددة، وهو أمر بالغ الأهمية لتشغيل أعباء عمل الذكاء الاصطناعي الوكيل لدى «ميتا»، الذي يتطلب توزيع مهام واسعة النطاق على مجموعة متعددة من معالجات تعمل بتنسيق تام نحو تحقيق هدف واحد للمستخدم.