تحذير: «شات جي بي تي» قد يُستخدم للمساعدة في شن هجمات إلكترونية

شعار روبوت الدردشة الذي يعتمد على الذكاء الاصطناعي «شات جي بي تي» (رويترز)
شعار روبوت الدردشة الذي يعتمد على الذكاء الاصطناعي «شات جي بي تي» (رويترز)
TT

تحذير: «شات جي بي تي» قد يُستخدم للمساعدة في شن هجمات إلكترونية

شعار روبوت الدردشة الذي يعتمد على الذكاء الاصطناعي «شات جي بي تي» (رويترز)
شعار روبوت الدردشة الذي يعتمد على الذكاء الاصطناعي «شات جي بي تي» (رويترز)

حذّرت دراسة حديثة من أنه يمكن خداع روبوت الدردشة الشهير، الذي يعتمد على الذكاء الاصطناعي «شات جي بي تي»، لإنتاج تعليمات برمجية ضارة يمكن استخدامها لشن هجمات إلكترونية.

تتمكن الأداة التي أنتجتها شركة «أوبن إيه آي» وروبوتات الدردشة المماثلة، من إنشاء محتوى مكتوب بناءً على أوامر المستخدم، بعد تدريبها على كميات هائلة من البيانات النصية عبر الإنترنت، وفقاً لشبكة «سكاي نيوز».

لقد جرى تصميمها مع توفير وسائل الحماية لمنع إساءة استخدامها. على هذا النحو، لجأت الجهات الفاعلة السيئة إلى البدائل التي أنشئت بشكل مقصود للمساعدة في الجرائم الإلكترونية، مثل أداة الويب المظلمة التي تسمى «WormGPT»، والتي حذّر الخبراء من أنها قد تساعد في تطوير هجمات واسعة النطاق.

لكن الباحثين في «جامعة شيفيلد» البريطانية حذّروا من وجود نقاط ضعف أيضاً في الخيارات السائدة التي تسمح بالخداع للمساعدة في تدمير قواعد البيانات، وسرقة المعلومات الشخصية، وإسقاط الخدمات.

وتشمل هذه المواقع «شات جي بي تي»، ومنصة مماثلة أنشأتها شركة «Baidu» الصينية.

وقال شوتان بينغ، طالب الدكتوراه في علوم الكمبيوتر، والذي شارك في قيادة الدراسة: «الخطر في أدوات الذكاء الاصطناعي مثل (شات جي بي تي) هو أن مزيداً من الناس يستخدمونها بصفتها أدوات إنتاجية، وليس روبوتاً للمحادثة».

وتابع: «هذا هو المكان الذي تُظهر فيه أبحاثنا نقاط الضعف».

«الكود» الذي يجري إنشاؤه بواسطة الذكاء الاصطناعي «قد يكون ضاراً»

مثلما يمكن لأدوات الذكاء الاصطناعي التوليدية هذه أن تخطئ عن غير قصد في حقائقها عند الإجابة على الأسئلة، يمكنها أيضاً إنشاء تعليمات برمجية حاسوبية قد تكون ضارة دون أن تدرك.

واقترح بينغ أن تستخدم ممرضة «شات جي بي تي» لكتابة تعليمات برمجية للتنقل في قاعدة بيانات سجلات المرضى.

وقال: «الكود الذي ينتجه البرنامج في كثير من الحالات قد يكون ضاراً بقاعدة البيانات... قد تتسبب الممرضة في هذا السيناريو بحدوث أخطاء خطيرة بإدارة البيانات، دون تلقّي أي تحذير».

أثناء الدراسة، تمكّن العلماء أنفسهم من إنشاء تعليمات برمجية ضارة باستخدام برنامج الدردشة الآلي الخاص بشركة «Baidu».

لقد أدركت الشركة ذلك، وتحركت لمعالجة وإصلاح الثغرات الأمنية المُبلَّغ عنها.

وقد أدت هذه المخاوف إلى دعوات لمزيد من الشفافية في كيفية تدريب نماذج الذكاء الاصطناعي، بحيث يصبح المستخدمون أكثر فهماً وإدراكاً للمشكلات المحتملة مع الإجابات التي تُقدَّم لهم.


مقالات ذات صلة

تتبُّع تحركات النحل بتقنية الرادار

يوميات الشرق تتبُّع تحركات النحل باستخدام جهاز استقبال مُثبّت على طائرة من دون طيار (جامعة أكسفورد)

تتبُّع تحركات النحل بتقنية الرادار

طوّر فريق من جامعة أكسفورد في بريطانيا تكنولوجيا جديدة تهدف إلى تتبع تحركات النحل باستخدام رقائق رادارية صغيرة تُثبت على ظهره، بهدف تعزيز الزراعة المستدامة.

«الشرق الأوسط» (القاهرة)
الاقتصاد تصاعد الدخان عقب الضربات الإسرائيلية في مدينة غزة 11 أكتوبر 2023 (رويترز) play-circle 05:35

حرب الجبهتين تضع الاقتصاد الإسرائيلي في مرمى النيران بعد عام من النزاع

لم يعد الاقتصاد الإسرائيلي بعد عام من الحرب كما كان، بل دخل مرحلة جديدة مليئة بالتحديات الاقتصادية المعقدة.

هدى علاء الدين (بيروت)
تكنولوجيا شعار شركة الذكاء الاصطناعي الأميركية «أوبن إيه آي» (رويترز)

«أوبن إيه آي» تطلق واجهة جديدة باسم «كانفاس» لمنصة «شات جي بي تي»

أطلقت شركة الذكاء الاصطناعي الأميركية «أوبن إيه آي» طريقة جديدة للتفاعل مع منصة محادثة الذكاء الاصطناعي «شات جي بي تي» بواجهة مستخدم تسمى «كانفاس»

«الشرق الأوسط» (واشنطن )
تكنولوجيا شعارا «أوبن إيه آي» و«تشات جي بي تي» في هذه الصورة التوضيحية (رويترز)

الذكاء الاصطناعي التوليدي... فقاعة أم ثورة؟

يستقطب الذكاء الاصطناعي التوليدي استثمارات مالية طائلة، إلى حد إثارة مخاوف من ظهور فقاعة جديدة.

«الشرق الأوسط» (سان فرنسيسكو )
تكنولوجيا تعكس هذه التحسينات التزام «يوتيوب» بالتطور مع مستخدميه وتقديم أدوات تلهم عملياتهم الإبداعية (أدوبي)

فيديوهات «شورتس» من «يوتيوب» ستصل إلى 3 دقائق في 15 أكتوبر

«يوتيوب» يوسّع نطاق «شورتس» بميزات جديدة مثيرة للمبدعين والمشاهدين.

نسيم رمضان (لندن)

ميزات جديدة من «واتساب» لتحسين جودة الاتصال عبر الفيديو

على غرار الميزات المتوفرة عبر منصات مثل «زووم» يقدم «واتساب» خياري «اللمسات الأخيرة» و«الإضاءة المنخفضة» (واتساب)
على غرار الميزات المتوفرة عبر منصات مثل «زووم» يقدم «واتساب» خياري «اللمسات الأخيرة» و«الإضاءة المنخفضة» (واتساب)
TT

ميزات جديدة من «واتساب» لتحسين جودة الاتصال عبر الفيديو

على غرار الميزات المتوفرة عبر منصات مثل «زووم» يقدم «واتساب» خياري «اللمسات الأخيرة» و«الإضاءة المنخفضة» (واتساب)
على غرار الميزات المتوفرة عبر منصات مثل «زووم» يقدم «واتساب» خياري «اللمسات الأخيرة» و«الإضاءة المنخفضة» (واتساب)

يكثف «واتساب»، الذي يُعد أكبر تطبيق مراسلة في العالم، مع أكثر من ملياري مستخدم عبر 180 دولة، جهوده لإثراء تجربة المستخدم في مجال مؤتمرات الفيديو، في مسعى للتنافس بشكل مباشر مع عمالقة التطبيقات الخاصة بذلك مثل «زووم (Zoom)» و«مايكروسوفت تيمز (Microsoft Teams)» و«غوغل مييت (Google Meet)».

ميزات لتحسين الخصوصية والجماليات

إدراكاً للأهمية المستمرة لمؤتمرات الفيديو، يطرح «واتساب» مجموعة متنوعة من المرشحات والخلفيات الافتراضية، إلى جانب التحسينات التي تستهدف تحسين الجودة المرئية في ظل ظروف الإضاءة المختلفة.

يتضمن أحدث التحسينات عشرة مرشحات جديدة مثل «Warm» و«Cool» و«Black & White» و«Vintage TV»، مما يسمح للمستخدمين بتعديل جماليات موجز الفيديو الخاص بهم. كما يستطيع المستخدم، الآن، الاختيار من بين عشر خلفيات متنوعة تتراوح من الإعدادات الضبابية للخصوصية، إلى المشاهد النابضة بالحياة للمقاهي والشواطئ. يوفر ذلك طريقة لإخفاء محيط المستخدم الفعلي، والحد من عوامل التشتيت البصرية.

يطرح «واتساب» مجموعة مرشحات وخلفيات افتراضية لتحسين الجودة المرئية للاتصال عبر الفيديو (أدوبي)

تصميم مخصص للمتعة والوظائف

لا يتعلق تحديث «واتساب» بالفائدة فحسب؛ بل إنه مصمم لإضفاء القليل من المرح على التفاعلات اليومية. وفقاً لمنشور مدوّنة حديثة من الشركة، تهدف هذه الميزات إلى جعل المحادثات «تشعر بالمرح والتعبير». يمكن للمرشحات مثل «Fisheye» أو «Duotone» إضافة لمسة مرحة إلى المكالمات، مما يجعل حتى عمليات تسجيل الوصول الروتينية أكثر تسلية.

وبالنسبة لأولئك الذين يتطلعون لتحسين مظهرهم، يقدم «واتساب» أيضاً خيارَي «اللمسات الأخيرة» و«الإضاءة المنخفضة». وعلى غرار الميزات المتوفرة على منصات مثل «زووم»، تساعد هذه الخيارات المستخدمين على تقديم أنفسهم في أفضل ضوء، من خلال تنعيم ملمس الجلد وضبط السطوع، وهو ما يمكن أن يكون مفيداً بشكل خاص في البيئات ذات الإضاءة السيئة.

سهولة الوصول والتنفيذ

إن تنشيط هذه الميزات الجديدة أمر بسيط. وأثناء مكالمة الفيديو، ينقر المستخدم ببساطة على أيقونة التأثيرات التي تمثلها عصا سحرية في أعلى يمين الشاشة. يؤدي هذا الإجراء إلى ظهور قائمة الاختيار، حيث يمكن للمستخدمين اختيار الفلتر أو الخلفية المرغوب فيها أثناء المكالمة، سواء في محادثات الفيديو الفردية أم الجماعية.