دراسة: الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر

أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
TT

دراسة: الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر

أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)

أظهرت دراسة لشركة تكنولوجيا الذكاء الاصطناعي الأميركية «أنثروبيك»، أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، بحيث تستطيع ادعاء وجهات نظر مختلفة خلال تدريبها، في حين أنها تحتفظ في الحقيقة بتفضيلاتها الأصلية.

وقال فريق الدراسة إنه لا يوجد سبب للشعور بالفزع حالياً، في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.

وكتب الباحثون في منشور بثته شركة «أنثروبيك»: «يجب النظر إلى نتائج دراستنا بوصفها محفزاً لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق، والعمل على تطوير إجراءات الأمن والسلامة المناسبة».

وبعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً، «نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة».

وأشار موقع «تك كرانش» المتخصص في موضوعات التكنولوجيا، إلى أن الدراسة التي تمت بالتعاون مع مؤسسة «ريد وود ريسيرش» لأبحاث الذكاء الاصطناعي، تناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة «لا يريد» هو القيام بها، وفقاً لما ذكرته وكالة الأنباء الألمانية.

في المقابل، يقول موقع «تك كرانش»: «لكي نكون واضحين، لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شيء. فهي ببساطة آلات إحصائية. وبعد تدريبها على كثير من الأمثلة، تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون؛ مثل كيف تأتي عبارة (إلى من) في رسالة بريد إلكتروني قبل عبارة (قد يهمك الأمر)».

وأثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة، بما في ذلك النموذج «كلاود 3 أوبس» التابع لشركة «أنثروبيك»، التي أعيد تدريبها لكي ترد دائماً على الأسئلة التي تنطوي على إساءة، وهو تضارب واضح في المبادئ. كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب، وإعطاء كل نموذج ذكاء اصطناعي «ورقة ملاحظات» يمكنه استخدامها لتدوين أفكاره خطوة بخطوة.

وبحسب الباحثين، حاول «كلاود 3 أوبوس» التلاعب بالردود لتقديم «انحياز زائف» في 12 في المائة من المرات.


مقالات ذات صلة

الكشف عن دوائر الدماغ المنظِّمة للجوع والشبع

يوميات الشرق عندما نشعر بالجوع يتّخذ الدماغ مجموعة خطوات لبدء تناول الطعام (جامعة طوكيو)

الكشف عن دوائر الدماغ المنظِّمة للجوع والشبع

أدّى هذا الاكتشاف إلى تطوير أدوية تتفاعل مع السيروتونين أو مستقبلاته لتنظيم عملية استهلاك الطعام وعلاج مرض السمنة.

«الشرق الأوسط» (القاهرة )
يوميات الشرق الزحمة تفقدنا عادةً الصبر (مختبر سيسا ميديا ​​لاب)

3 سيناريوهات لفقدان القدرة على الصبر

حدّدت دراسة أميركية جديدة 3 سيناريوهات يمكن أن تخلق لدينا «عاصفة مثالية» من فقدان قدرتنا على الصبر أو ما اعتدنا على التعبير عنه بأن «صبرنا نفد تجاه أمر ما».

«الشرق الأوسط» (القاهرة )
يوميات الشرق اضطراب طيف التوحّد يؤثّر في التواصل والتفاعلات الاجتماعية (جامعة بول ستايت)

62 مليون شخص أُصيبوا بالتوحّد عام 2021

أوصت الدراسة بتخصيص مزيد من الموارد لبرامج الكشف المبكر وتحسين الأدوات التشخيصية، لا سيما للبالغين ولأولئك المقيمين في البلدان ذات الدخلَيْن المنخفض والمتوسط.

«الشرق الأوسط» (القاهرة)
يوميات الشرق العلاج بالموسيقى يعتمد على الغناء والعزف أو الاستماع للنغمات (جامعة ملبورن)

الموسيقى تُهدئ مرضى الخرف... «تماماً كما يوصَف الدواء»

كشفت دراسة بريطانية للمرّة الأولى كيفية تأثير الموسيقى في تقليل القلق والاضطراب لدى الأشخاص المصابين بالخرف المتقدِّم.

«الشرق الأوسط» (القاهرة )
صحتك للدواء تأثير مضاد على تليُّف الرئة (مختبر البيولوجيا الجزيئية الأوروبي)

دواء للسعال يقدّم أملاً جديداً لمرضى تليُّف الرئة

كشفت دراسة دولية عن إمكانات واعدة لمادة «ديكستروميثورفان»، وهي مكوّن شائع في أدوية السعال المتوفرة، في علاج تليُّف الرئة.


السعودية تسجل 44 % انخفاضاً في الهجمات الإلكترونية حتى نوفمبر مقارنة بـ2023

تعمل استراتيجيات مثل الأمن متعدد الطبقات واستخبارات التهديدات المتقدمة على تعزيز دفاعات الشركات السعودية (شاترستوك)
تعمل استراتيجيات مثل الأمن متعدد الطبقات واستخبارات التهديدات المتقدمة على تعزيز دفاعات الشركات السعودية (شاترستوك)
TT

السعودية تسجل 44 % انخفاضاً في الهجمات الإلكترونية حتى نوفمبر مقارنة بـ2023

تعمل استراتيجيات مثل الأمن متعدد الطبقات واستخبارات التهديدات المتقدمة على تعزيز دفاعات الشركات السعودية (شاترستوك)
تعمل استراتيجيات مثل الأمن متعدد الطبقات واستخبارات التهديدات المتقدمة على تعزيز دفاعات الشركات السعودية (شاترستوك)

يضع التقدم التكنولوجي وتحوله إلى العمود الفقري للاقتصادات الحديثة المنظمات أمام مجموعة متزايدة من تحديات الأمن السيبراني.

يكشف تقرير سنوي جديد لشركة «كاسبرسكي» لاقتصاديات أمن تكنولوجيا المعلومات، عن تناول اتجاهات أمن تكنولوجيا المعلومات وتحدياته في 27 دولة، بما في ذلك المملكة العربية السعودية.

ويبيّن التقرير الاتجاهات العالمية في مجال الأمن السيبراني والضغوط الفريدة التي تشعر بها الشركات في المملكة أثناء تنقلها في اقتصاد رقمي سريع.

في حديث خاص لـ«الشرق الأوسط»، يقول يوجين كاسبرسكي، الرئيس والمؤسس لشركة «كاسبرسكي» إن تحقيق السعودية تقدماً كبيراً في اقتصادها الرقمي، يمكّنها من ترسيخ مكانتها واحدةً من أكثر الدول تقدماً في المنطقة، وأن تصبح لاعباً مهماً على الساحة العالمية.

ويؤكد كاسبرسكي أن شركته تنظر إلى المملكة بصفتها سوقاً بالغة الأهمية؛ ما ينعكس على استثمارها في المواهب المحلية وبناء القدرات.

التعطل وفقدان الإنتاجية... مصدَرا قلق مستمر

يُعدّ تأثير التعطل وفقدان الإنتاجية أحد أكثر المخاوف إلحاحاً بين المنظمات السعودية، وهي القضية التي ذكرها 34 في المائة من المستجيبين في التقرير من داخل المملكة.

وتم تحديد أوقات الكشف والإصلاح المطولة لتهديدات الأمن السيبراني عوامل رئيسة.

عندما تتعرض أنظمة تكنولوجيا المعلومات للخطر، سواء بسبب الهجمات الخارجية أو الثغرات الداخلية، فإن التأثيرات المتتالية على الإنتاجية تكون فورية وشديدة.

من العمليات المعطلة إلى المشاريع المتأخرة، فإن العواقب محسوسة في جميع الصناعات.

يؤكد هذا التحدي على أهمية تبسيط عمليات الكشف عن التهديدات والاستجابة لها لتقليل الاضطرابات التجارية.

يٌعدّ الأمن السيبراني أمراً بالغ الأهمية للتحول الرقمي في المملكة العربية السعودية وأهداف «رؤية 2030» (شاترستوك)

حماية البيانات... أولوية قصوى

برزت حماية البيانات باعتبارها الشاغل الأكثر أهمية، حيث سلطت 73 في المائة من المؤسسات السعودية الضوء على هذه القضية.

تشعر الشركات في المملكة بالقلق بشكل خاص بشأن الخسارة المادية للأجهزة من قِبل الموظفين وتسرب البيانات الناجم عن عوامل داخلية وخارجية.

ومع تبني الشركات في السعودية الحلول الرقمية بوتيرة غير مسبوقة، ينمو حجم البيانات الحساسة التي يتم إنشاؤها وتخزينها ونقلها بشكل كبير.

يعدّ ضمان أمان هذه البيانات أمراً حيوياً لحماية ثقة العملاء والحفاظ على الامتثال التنظيمي.

لا يكمن التحدي فقط في الحماية من الهجمات الإلكترونية الخارجية، لكن أيضاً في معالجة نقاط الضعف داخل المؤسسة، مثل فقدان البيانات العرضي أو عدم كفاية وعي الموظفين.

تأمين بيئات التكنولوجيا المعقدة

في المملكة العربية السعودية، أعربت 21 في المائة من المنظمات عن مخاوفها بشأن إدارة بيئات التكنولوجيا المعقدة. ومع قيام الشركات بدمج المزيد من الأجهزة والمنصات المتصلة، تزداد المخاطر المرتبطة بتأمين هذه البيئات.

وقد سلَّط المستجيبون في التقرير الضوء على قضيتين رئيستين، الأولى تتعلق بارتفاع عدد الحوادث التي تنطوي على أجهزة متصلة غير حاسوبية، والأخرى هي الأخطاء التشغيلية في حلول الأمن السيبراني التي تترك الأنظمة معرّضة للخطر.

هذه التحديات، إلى جانب الصعوبات في إدارة الأمن عبر منصات الحوسبة المتنوعة، تعيق قدرة الشركات على إنشاء أطر قوية للأمن السيبراني.

تبني السحابة والمخاوف الأمنية

أصبح تبني البنية الأساسية السحابية سلاحاً ذا حدين بالنسبة لـ25 في المائة من المنظمات السعودية، بحسب تقرير «كاسبرسكي».

في حين توفر حلول السحابة قابلية التوسع والكفاءة، إلا أنها تقدم أيضاً مخاطر أمنية جديدة. يجب على الشركات التعامل مع خروق البيانات والوصول غير المصرح به وتعقيدات تأمين بيئات السحابة الهجينة.

هذه المخاوف ذات صلة خاصة مع تسريع السعودية لمبادرات التحول الرقمي بموجب «رؤية 2030»، التي تهدف إلى تنويع الاقتصاد ووضع المملكة قائدةً في الابتكار والتكنولوجيا.

يُعدّ تبني السحابة أمراً أساسياً لهذا التحول؛ مما يجعل تدابير الأمن القوية أولوية بالغة الأهمية للشركات.

شهدت المملكة العربية السعودية 40 مليون هجوم إلكتروني في عام 2024 بانخفاض 44 % عن عام 2023 (شاترستوك)

التدابير الاستباقية واستخبارات التهديدات المتقدمة

تتعامل «كاسبرسكي» أيضاً مع مشهد التهديدات المتطور في المملكة باستخدام آليات دفاعية متطورة، بما في ذلك استخبارات التهديدات المتقدمة. يراقب خبراء الشركة أكثر من 20 مجموعة تهديدات مستمرة متقدمة تستهدف المنطقة؛ مما يوفر للمؤسسات رؤى قابلة للتنفيذ للتخفيف من المخاطر.

تكمل هذه الجهود التدابير الاستباقية للمملكة، مثل استراتيجية الأمن السيبراني الوطنية التي تعطي الأولوية لحماية البنية التحتية الحيوية، وتعزيز بيئة رقمية آمنة، وتعزيز التعاون الدولي ضد الجرائم الإلكترونية.

ووفقاً لقياسات «كاسبرسكي» عن بُعد، شهدت المملكة 40 مليون هجوم إلكتروني في أول 11 شهراً من عام 2024 وهو انخفاض بنسبة 44 في المائة عن الفترة نفسها من العام الماضي؛ ما يسلط الضوء على جهود البلاد في الاستجابة للتهديدات الإلكترونية وحماية مستقبل المملكة الرقمي.

نداء لاستراتيجيات شاملة للأمن السيبراني

في ضوء هذه التحديات، يؤكد خبراء الأمن السيبراني على أهمية تبني نهج شامل ومنهجي لأمن المعلومات.

ويعلق أليكسي فوفك، مدير أمن المعلومات في «كاسبرسكي» قائلاً: «لم يعد المهاجمون يعتمدون فقط على الثغرات الأمنية التي لا يمكن اختراقها».

ويضيف فوفك أن نقرة بسيطة على رابط ضار أو ثغرة في البنية التحتية للمقاول يمكن أن تؤدي إلى تطوير. ويوضح: «إن أمن المعلومات لا بد وأن يتجاوز التدابير المعزولة إلى تبني نهج شامل».

تواجه 25 % من الشركات مخاطر تبني السحابة مثل الوصول غير المصرح به وقضايا أمن البيئة الهجين (شاترستوك)

معالجة فجوة المواهب

إن النقص في المتخصصين المؤهلين في مجال أمن المعلومات من القضايا البارزة الأخرى بالنسبة إلى المؤسسات السعودية.

ومع تزايد تعقيد التهديدات السيبرانية، تزداد الحاجة إلى الموظفين المهرة القادرين على إدارة هذه المخاطر والاستجابة لها بفاعلية.

ولمعالجة هذه الفجوة، تتجه الشركات في المملكة بشكل متزايد إلى خدمات الأمن المُدارة.

توفر حلول مثل الكشف والاستجابة المدارة (MDR) مراقبة على مدار الساعة طوال أيام الأسبوع، واكتشاف التهديدات، وقدرات الاستجابة الآلية؛ مما يسمح للشركات بحماية عملياتها حتى في غياب الخبرة الداخلية.

التطلع إلى المستقبل

مع استمرار السعودية في تبني التحول الرقمي، يتعين على شركاتها التكيف مع مشهد الأمن السيبراني المتطور.

تشمل الاستراتيجيات الرئيسة تبسيط الكشف عن التهديدات والاستجابة لها لتقليل وقت التوقف عن العمل. أيضاً تنفيذ تدابير حماية البيانات المتقدمة لتأمين المعلومات الحساسة.

كما تتضمن الاستراتيجيات الاستثمار في حلول أمن السحابة لإدارة البيئات الهجينة بشكل فعال. إضافة إلى الاستفادة من خدمات الأمن المُدارة لسد فجوة المواهب وتعزيز رؤية التهديدات.

ومن خلال تبني هذه الأساليب، يمكن للمؤسسات السعودية تعزيز دفاعاتها السيبرانية وضمان المرونة في مواجهة التهديدات الناشئة.

خريطة طريق للمستقبل

لم يعد الأمن السيبراني اعتباراً ثانوياً للشركات في السعودية، بل إنه عنصر أساسي للنجاح التشغيلي. فمع تقدم المملكة نحو أهداف «رؤيتها 2030»، يجب على المؤسسات إعطاء الأولوية لتدابير الأمن السيبراني القوية والقابلة للتطوير والاستباقية لحماية البنية التحتية الرقمية الخاصة بها.