دراسة تحذر: الذكاء الاصطناعي يمكن تدريبه على الكذب بكل سهولة

يمكن لأنظمة الذكاء الاصطناعي المتقدمة الكذب على البشر وخداعهم بكل سهولة (رويترز)
يمكن لأنظمة الذكاء الاصطناعي المتقدمة الكذب على البشر وخداعهم بكل سهولة (رويترز)
TT

دراسة تحذر: الذكاء الاصطناعي يمكن تدريبه على الكذب بكل سهولة

يمكن لأنظمة الذكاء الاصطناعي المتقدمة الكذب على البشر وخداعهم بكل سهولة (رويترز)
يمكن لأنظمة الذكاء الاصطناعي المتقدمة الكذب على البشر وخداعهم بكل سهولة (رويترز)

حذرت دراسةٌ جديدةٌ من إمكانية تدريب نماذج الذكاء الاصطناعي المتقدمة على الكذب على البشر وخداعهم بكل سهولة.

ووفقاً لصحيفة «الإندبندنت» البريطانية، فقد اختبر الباحثون في شركة «Anthropic» الناشئة للذكاء الاصطناعي ما إذا كانت روبوتات الدردشة المتطورة مثل «تشات جي بي تي» يمكن أن تتعلم الكذب من أجل خداع الناس.

ووجد الفريق أن هذه الروبوتات لا تستطيع تعلم الكذب فحسب، بل من المستحيل إعادة تدريبها بعد ذلك على قول الحقيقة والمعلومات الصحيحة باستخدام تدابير السلامة الخاصة بالذكاء الاصطناعي المتاحة في الوقت الحالي.

وحذر الباحثون من وجود «شعور زائف بالأمان» تجاه أنظمة الذكاء الاصطناعي والمعلومات المستمدة منها.

وأشار الفريق إلى خطورة برمجة المحتالين وقراصنة الإنترنت لأنظمة الذكاء الاصطناعي على الكذب وإخفاء الأضرار التي قد تنتج عن عملية شرائية معينة أو عن الدخول إلى موقع ما.

وأصبحت مسألة سلامة الذكاء الاصطناعي مصدر قلق متزايد لكل من الباحثين والمشرعين في الفترة الأخيرة.

ولطالما عبر الباحثون عن خوفهم من تسبب هذه الأنظمة في انتشار المعلومات الخاطئة على نطاق واسع، خصوصاً عبر التزييف العميق، واستخدام أعمال المبدعين دون إسناد، وخسارة هائلة في الوظائف.

وحذَّر تحليلٌ أجراه صندوق النقد الدولي قبل يومين من أن الذكاء الاصطناعي يمكن أن يؤثر على ما يقرب من 40 في المائة من الوظائف ويُفاقم عدم المساواة.

وتتشابه نتائج تحليل صندوق النقد مع أخرى أصدرها بنك «غولدمان ساكس» عام 2023، الذي قدَّر أن الذكاء الاصطناعي يمكن أن يحلَّ محل ما يعادل 300 مليون وظيفة بدوام كامل، لكنه أشار إلى أن هذه التقنية قد تؤدي إلى طفرة في الإنتاجية.

وتحاول الحكومات في جميع أنحاء العالم إنشاء لوائح تنظيمية، أو قوانين للذكاء الاصطناعي، تعمل على تعزيز السلامة والاستخدام العادل، مع الاستمرار في تشجيع الابتكار.


مقالات ذات صلة

قمّة «جي 7» مرآة تعكس بوضوح المشهد السياسي الغربي المضطرب

تحليل إخباري البابا يحضر جلسة مع قادة المجموعة حول الذكاء الاصصناعي (أ.ف.ب)

قمّة «جي 7» مرآة تعكس بوضوح المشهد السياسي الغربي المضطرب

هشاشة الأوضاع السياسية التي يعاني منها معظم القادة الحاضرين لم تكن حائلاً دون اتخاذ قرارات هامة خلال قمتهم.

شوقي الريّس (فازانو (إيطاليا) )
علوم رصد آلاف الثغرات في برامج الذكاء الاصطناعي الشائعة

رصد آلاف الثغرات في برامج الذكاء الاصطناعي الشائعة

ضرورة وضع معايير السلامة للذكاء الاصطناعي.

تايلور لورينز (واشنطن)
الاقتصاد أشخاص يجربون منتجات «آيفون» بمتجر «أبل ستور» في بكين (رويترز)

«أبل» تعود إلى عرش الشركات الأعلى قيمة عالمياً

استعادت شركة «أبل» مجدداً لقب أغلى شركة في العالم، يوم الأربعاء، متخطية «مايكروسوفت»، وذلك بفضل تقدم صانعة هواتف «آيفون» في مجال الذكاء الاصطناعي.

«الشرق الأوسط» (كاليفورنيا )
الاقتصاد شرائح الذاكرة المحمولة من صنع شركة تصنيع الرقائق «إس كيه هاينكس» الكورية (رويترز)

عمالقة الذكاء الاصطناعي في كوريا الجنوبية يتحدون لمواجهة «أنفيديا»

أعلنت شركة «إس كيه تيليكوم» أن شركتي تطوير الرقائق الذكية للذكاء الاصطناعي الكوريتين الجنوبيتين «ريبليونز إنك» و«سابيون كوريا» تسعيان للاندماج.

«الشرق الأوسط» (سيول)

نصائح لحماية خصوصيتك في ظل انتشار الذكاء الاصطناعي

كثير من الخبراء لديهم مخاوف بشأن الذكاء الاصطناعي (رويترز)
كثير من الخبراء لديهم مخاوف بشأن الذكاء الاصطناعي (رويترز)
TT

نصائح لحماية خصوصيتك في ظل انتشار الذكاء الاصطناعي

كثير من الخبراء لديهم مخاوف بشأن الذكاء الاصطناعي (رويترز)
كثير من الخبراء لديهم مخاوف بشأن الذكاء الاصطناعي (رويترز)

أصبح الذكاء الاصطناعي والأجهزة الذكية يشغلان جانباً كبيراً من حياتنا بشكل زائد.

وعلى الرغم من اعتقاد كثير من الخبراء والمحللين أن هذا التطور التكنولوجي قد يسهم في نفع المجتمع، وتسهيل كثير من الأمور على الأشخاص والشركات، فإن البعض الآخر لديه عدة مخاوف بشأنه وبشأن انتهاكه لخصوصية الأفراد.

وأعلنت شركة «أبل» قبل أيام إضافة عدد كبير من ميزات الذكاء الاصطناعي في جوالاتها، والتي قال إيلون ماسك إنها يمكن أن تتسبب في «انتهاك أمني غير مقبول».

وفي الشهر الماضي، أثارت شركة «مايكروسوفت» مخاوف أمنية أيضاً عندما أعلنت عن ميزة من شأنها أخذ لقطات شاشة (screenshots) لأجهزة الكومبيوتر المحمولة الخاصة بالمستخدمين كل بضع ثوانٍ.

وفي هذا السياق، قالت فوني غاموت، المسؤولة عن منطقة أوروبا والشرق الأوسط وأفريقيا في شركة الأمن السيبراني «مكافي» لشبكة «سكاي نيوز» البريطانية: «التكنولوجيا في حد ذاتها رائعة، ونحن بحاجة إليها بوصفها جزءاً من التطور الطبيعي بحياتنا. لكن كيفية استخدام التكنولوجيا هي الشيء الذي يجب أن يثير قلقنا».

وأضافت أن «الذكاء الاصطناعي هو مجرد أداة يستخدمها الأشخاص السيئون للقيام بعمليات احتيال أو جمع بيانات خاصة بالأشخاص».

وقدمت غاموت وعدد من الخبراء العاملين في مجال الذكاء الاصطناعي الآخرين عدة نصائح يمكن اتخاذها لحماية بيانات الأشخاص وخصوصيتهم في ظل انتشار الذكاء الاصطناعي والجوالات الذكية.

وهذه النصائح هي:

تحقق من إعدادات جوالك

تقول غاموت: «انتقل إلى إعدادات جوالك، وانقر على (الميكروفون)، وشاهد جميع التطبيقات التي تستخدم الميكروفون. لماذا يحتاج تطبيق الخرائط إلى ميكروفون؟ أنت لست بحاجة إلى ذلك».

وأضافت: «ثلاث ثوانٍ فقط من تسجيل صوتك بالميكروفون كافية لاستنساخ صوتك من قبل المحتالين».

وتابعت: «اذهب إلى كل التطبيقات التي لديها إذن لاستخدام الكاميرا والميكروفون والملفات الموجودة على جوالك وموقعك، وتأكد من أنك تشارك بياناتك فقط مع التطبيقات التي تحتاج لهذه البيانات».

قراءة الشروط والأحكام

أكد كونور ماكافري من شركة «سيكيوريتي ساينسيز ليميتد»، وهي شركة لأمن بيانات الذكاء الاصطناعي على ضرورة قراءة شروط وأحكام المواقع المختلفة أثناء تصفح الإنترنت.

وأضاف: «المثال الأكثر شيوعاً هو شروط وأحكام ملفات تعريف الارتباط، حيث يجب أن تقرأها جيداً لفهم ماهية البيانات التي سيجمعها الموقع عنك، وماذا سيفعل بها».

أصبح الذكاء الاصطناعي يشغل جانباً كبيراً من حياتنا (رويترز)

هل تحتاج إلى إعطاء هذه المعلومات عن نفسك؟

تقول غاموت: «تجمع الشركات البيانات لبيعها في الأغلب. هذا هو الشيء الوحيد الذي يهتمون به، لذلك ينبغي عليك التفكير في المعلومات التي تحتاج إلى جعلها متاحة لموقع أو شركة ما بالفعل. إذا كان الموقع خاصاً بالبيع والشراء، فمن المنطقي أن تسجل عنوانك به، ولكن في سيناريوهات أخرى، قد لا يكون ذلك ذا صلة».

وتابعت: «اسأل نفسك دائماً: هل من المنطقي أن أترك بريدي الإلكتروني وعنواني وعمري ورقم جواز سفري بهذا الموقع؟ عليك أن تكون حذراً للغاية مع مثل هذه الأمور».

هل الأمر يستحق الإفصاح عن بياناتك؟

الشيء الكبير الأخير الذي ينبغي عليك التفكير به هو ما إذا كان استخدامك لموقع أو تطبيق بعينه يستحق منح شخص ما إمكانية الوصول إلى بياناتك وجوالك.

وقال ماكافري: «كن واعياً بأن بياناتك هي شيء عالي القيمة جداً. وكثيراً ما تتاجر بها المنظمات».

وأشار ماكافري على وجه التحديد إلى التطبيقات المجانية مثل الألعاب. فعلى الرغم من أنك لا تدفع مقابل التطبيقات بالمال، فمن المحتمل أنك تدفع بمعلوماتك الشخصية.

وأكمل قائلاً: «لا أقوم بتنزيل تطبيقات الألعاب المجانية؛ لأنني أعلم أنها تقوم فقط بسحب جميع بياناتي من جوالي وإعادة بيعها».

وتابع: «يمكن أن تكون هذه الألعاب ممتعة. لكن الأمر يتعلق بما إذا كانت خمس دقائق من المتعة تستحق بيع تاريخ ميلادي أو أي معلومات أخرى عني».