دراسة تحذر: الذكاء الاصطناعي يمكن تدريبه على الكذب بكل سهولة

يمكن لأنظمة الذكاء الاصطناعي المتقدمة الكذب على البشر وخداعهم بكل سهولة (رويترز)
يمكن لأنظمة الذكاء الاصطناعي المتقدمة الكذب على البشر وخداعهم بكل سهولة (رويترز)
TT

دراسة تحذر: الذكاء الاصطناعي يمكن تدريبه على الكذب بكل سهولة

يمكن لأنظمة الذكاء الاصطناعي المتقدمة الكذب على البشر وخداعهم بكل سهولة (رويترز)
يمكن لأنظمة الذكاء الاصطناعي المتقدمة الكذب على البشر وخداعهم بكل سهولة (رويترز)

حذرت دراسةٌ جديدةٌ من إمكانية تدريب نماذج الذكاء الاصطناعي المتقدمة على الكذب على البشر وخداعهم بكل سهولة.

ووفقاً لصحيفة «الإندبندنت» البريطانية، فقد اختبر الباحثون في شركة «Anthropic» الناشئة للذكاء الاصطناعي ما إذا كانت روبوتات الدردشة المتطورة مثل «تشات جي بي تي» يمكن أن تتعلم الكذب من أجل خداع الناس.

ووجد الفريق أن هذه الروبوتات لا تستطيع تعلم الكذب فحسب، بل من المستحيل إعادة تدريبها بعد ذلك على قول الحقيقة والمعلومات الصحيحة باستخدام تدابير السلامة الخاصة بالذكاء الاصطناعي المتاحة في الوقت الحالي.

وحذر الباحثون من وجود «شعور زائف بالأمان» تجاه أنظمة الذكاء الاصطناعي والمعلومات المستمدة منها.

وأشار الفريق إلى خطورة برمجة المحتالين وقراصنة الإنترنت لأنظمة الذكاء الاصطناعي على الكذب وإخفاء الأضرار التي قد تنتج عن عملية شرائية معينة أو عن الدخول إلى موقع ما.

وأصبحت مسألة سلامة الذكاء الاصطناعي مصدر قلق متزايد لكل من الباحثين والمشرعين في الفترة الأخيرة.

ولطالما عبر الباحثون عن خوفهم من تسبب هذه الأنظمة في انتشار المعلومات الخاطئة على نطاق واسع، خصوصاً عبر التزييف العميق، واستخدام أعمال المبدعين دون إسناد، وخسارة هائلة في الوظائف.

وحذَّر تحليلٌ أجراه صندوق النقد الدولي قبل يومين من أن الذكاء الاصطناعي يمكن أن يؤثر على ما يقرب من 40 في المائة من الوظائف ويُفاقم عدم المساواة.

وتتشابه نتائج تحليل صندوق النقد مع أخرى أصدرها بنك «غولدمان ساكس» عام 2023، الذي قدَّر أن الذكاء الاصطناعي يمكن أن يحلَّ محل ما يعادل 300 مليون وظيفة بدوام كامل، لكنه أشار إلى أن هذه التقنية قد تؤدي إلى طفرة في الإنتاجية.

وتحاول الحكومات في جميع أنحاء العالم إنشاء لوائح تنظيمية، أو قوانين للذكاء الاصطناعي، تعمل على تعزيز السلامة والاستخدام العادل، مع الاستمرار في تشجيع الابتكار.


مقالات ذات صلة

المدير التنفيذي لـ«سيسكو» السعودية: استثماراتنا بالمملكة مستمرة لدعم جهودها في التحول الرقمي

الاقتصاد المدير التنفيذي لشركة «سيسكو السعودية» سلمان فقيه (تصوير: تركي العقيلي) play-circle 01:37

المدير التنفيذي لـ«سيسكو» السعودية: استثماراتنا بالمملكة مستمرة لدعم جهودها في التحول الرقمي

في ظل ما يشهده قطاع التقنية السعودي من تطور، حقَّقت «سيسكو» أداءً قوياً ومتسقاً مع الفرص المتاحة وقرَّرت مواصلة استثماراتها لدعم جهود السعودية في التحول الرقمي.

زينب علي (الرياض)
تكنولوجيا شركات الذكاء الاصطناعي تتفق مع دور النشر بما يتيح لهذه الشركات استخدام الأعمال المنشورة لتدريب نماذجها القائمة على الذكاء الاصطناعي التوليدي (رويترز)

شركات الذكاء الاصطناعي التوليدي تلجأ إلى الكتب لتطوّر برامجها

مع ازدياد احتياجات الذكاء الاصطناعي التوليدي، بدأت أوساط قطاع النشر هي الأخرى في التفاوض مع المنصات التي توفر هذه التقنية سعياً إلى حماية حقوق المؤلفين.

«الشرق الأوسط» (باريس)
الاقتصاد بورصة نيويورك للأوراق المالية (وكالة حماية البيئة)

هيمنة الأسهم الأميركية تزداد قوة مع فوز ترمب

تواصل الأسهم الأميركية تعزيز تفوقها على منافسيها العالميين، ويعتقد العديد من المستثمرين أن هذه الهيمنة قد تزداد إذا تمكن دونالد ترمب من تنفيذ برنامجه.

«الشرق الأوسط» (نيويورك)
تكنولوجيا يستعرض مؤتمر «مايكروسوفت إغنايت 2024» أبرز تقنيات الذكاء الاصطناعي المقبلة

مؤتمر «مايكروسوفت إغنايت 2024» يكشف عن أبرز نزعات الذكاء الاصطناعي المقبلة

إطلاق أكبر مشروع للأمن الرقمي بتاريخ البشرية لمواجهة أكثر من 7000 هجمة في الثانية.

خلدون غسان سعيد (جدة)
الاقتصاد علم شركة «إنفيديا» على الحرم الجامعي في سانتا كلارا بكاليفورنيا (إ.ب.أ)

بالأرقام... كيف أصبحت «إنفيديا» الشركة الأكثر قيمة في العالم؟

حققت «إنفيديا» مرة أخرى نتائج ربع سنوية تجاوزت توقعات «وول ستريت».

«الشرق الأوسط» (نيويورك)

شركة «سناب» تفتتح مكتباً جديداً لها في السعودية وتطلق «مجلس سناب لصناع المحتوى»

جمانا الراشد الرئيس التنفيذي للمجموعة السعودية للأبحاث والإعلام تختبر تقنيات «سناب» للواقع المعزز
جمانا الراشد الرئيس التنفيذي للمجموعة السعودية للأبحاث والإعلام تختبر تقنيات «سناب» للواقع المعزز
TT

شركة «سناب» تفتتح مكتباً جديداً لها في السعودية وتطلق «مجلس سناب لصناع المحتوى»

جمانا الراشد الرئيس التنفيذي للمجموعة السعودية للأبحاث والإعلام تختبر تقنيات «سناب» للواقع المعزز
جمانا الراشد الرئيس التنفيذي للمجموعة السعودية للأبحاث والإعلام تختبر تقنيات «سناب» للواقع المعزز

افتتحت شركة «سناب» (Snap) المطورة لتطبيق «سناب شات» (Snapchat) مكتباً لها في المملكة العربية السعودية، بحضور إيفان سبيغل، الشريك المؤسس والرئيس التنفيذي للشركة، ووزير الاتصالات وتقنية المعلومات المهندس عبد الله بن عامر السواحه، ووزير الاستثمار المهندس خالد بن عبد العزيز الفالح.

«مجلس سناب لصناع المحتوى»

كما كشفت عن إطلاقها «مجلس سناب لصناع المحتوى» في حي «جاكس» بمدينة الدرعية، بهدف دعم المستخدمين في المملكة وتقديم المساندة الفاعلة لمجتمع حيوي من صناع المحتوى المبدعين، والارتقاء بالشراكات الاستراتيجية مع الجهات الحكومية والعلامات التجارية، وتوفير فرص الاستثمار في الاقتصاد الرقمي للمملكة.

وزير الاتصالات وتقنية المعلومات المهندس عبد الله بن عامر السواحه

منصة مهمة للتواصل الرقمي في السعودية

كما سيسهم إنشاء المقر الجديد للشركة في دعم الشراكة المستمرة بينها وبين وزارة الثقافة، من خلال تطوير مهارات المواهب المحلية وإلهام الحركة الثقافية المزدهرة في المملكة. وتُعد منصة «سناب شات» الوجهة الأولى للتواصل الرقمي في المملكة، حيث تضم 25 مليون مستخدم نشط شهرياً، 90 في المائة منهم من الفئة العمرية بين 13 و34 عاماً، ويتم تشغيل التطبيق من قبل المستخدمين نحو 50 مرة يومياً في المتوسط.

شعار «سناب»

جمانا الراشد تدير الجلسة الحوارية

وتضمن حفل الافتتاح جلسة حوارية للمدعوين أدارتها جمانا الراشد، الرئيس التنفيذي للمجموعة السعودية للأبحاث والإعلام، مع إيفان سبيغل، تم التطرق فيها إلى كثير من جوانب مسيرة الشركة من بداياتها الأولى إلى تقنياتها المتقدمة. وأكد عبد الله بن عبد الحميد الحمادي، المدير العام لشركة «سناب» في السعودية، أن المملكة واحدة من الأسواق الأكثر ديناميكية، وأن افتتاح المكتب يعزز تجربة المجتمع الكبير من المستخدمين ويدعم المبدعين وكثيراً من الجهات الأخرى الذين يحققون نجاحات بمستويات ملحوظة على المنصة. ومع تضاعف عدد نجوم «سناب» في السعودية خلال السنوات الثلاث الماضية، سيكون مجلس «سناب» لصناع المحتوى الأبرز من نوعه في الشرق الأوسط ومُمَكّناً لطاقات الإبداع والابتكار في السعودية.

وزير الاستثمار المهندس خالد بن عبد العزيز الفالح

تعزيز المنظومة الرقمية في السعودية

وأشار حسين فريجة، نائب رئيس «سناب» في منطقة الشرق الأوسط وشمال أفريقيا، إلى أن توسع العمليات في المملكة أكثر من مجرد حضور رمزي، حيث تعدّه الشركة التزاماً أعمق بتعزيز المنظومة الرقمية في السعودية، ودعماً لاقتصاد المبدعين فيها وتمكيناً للنشاطات الابتكارية ودعماً لصناع المحتوى المؤثرين، وهي مرحلة مهمة في مسيرة رحلة الشركة، بما يتماشى مع أجندة التحول الرقمي الطموح للمملكة.