​ باحثون يحذرون: نماذج الذكاء الاصطناعي «تهلوس» وتختلق الإجابات

نماذج الذكاء الاصطناعي يمكن أن تختلق إجابات عن الأسئلة التي لا تعرف حلها (رويترز)
نماذج الذكاء الاصطناعي يمكن أن تختلق إجابات عن الأسئلة التي لا تعرف حلها (رويترز)
TT

​ باحثون يحذرون: نماذج الذكاء الاصطناعي «تهلوس» وتختلق الإجابات

نماذج الذكاء الاصطناعي يمكن أن تختلق إجابات عن الأسئلة التي لا تعرف حلها (رويترز)
نماذج الذكاء الاصطناعي يمكن أن تختلق إجابات عن الأسئلة التي لا تعرف حلها (رويترز)

حذرت مجموعة من الباحثين من أن نماذج الذكاء الاصطناعي يمكن أن «تهلوس» وتختلق إجابات عن الأسئلة التي لا تعرف حلها، مشيرين إلى أنهم ابتكروا طريقة يمكن بها رصد هذه المشكلة التي قد تسبب كوارث خطيرة، إذا ارتبطت الأسئلة بالمجالات العلمية والطبية.

وبحسب صحيفة «إندبندنت» البريطانية، فقد طور الباحثون التابعون لجامعة أكسفورد نموذجاً إحصائياً يمكنه تحديد متى من المحتمل أن تختلق روبوتات الدردشة التي تعمل بالذكاء الاصطناعي إجابات غير صحيحة عن أسئلة ما.

وأشار الفريق إلى أن نموذجهم يعتمد على الوقت الذي يقوم فيه روبوت الدردشة بالإجابة عن السؤال الموجَّه إليه، حيث يمكن للنموذج المبتكر، عن طريق حساب هذا الوقت، معرفة ما إذا كان روبوت الدردشة متأكداً من الإجابة أو قام بتأليفها واختلاقها.

وقال مؤلف الدراسة الدكتور سيباستيان فاركوهار: «إن نماذج الذكاء الاصطناعي قادرة على خداعنا عن طريق طرح إجابات تبدو مؤكدة، ويصعب الكشف عن أنها مختلَقة».

وأضاف: «مع الأساليب السابقة، لم يكن من الممكن معرفة الفرق بين النموذج الذي يكون غير متأكد بشأن إجابته، وذلك الذي يعطي إجابات صحيحة على الأسئلة الموجهة إليه. لكن طريقتنا الجديدة يمكنها رصد هذا الأمر».

وقال الباحثون في دراستهم التي نُشِرت في مجلة «الطبيعة»: «إن هلوسة نماذج الذكاء الاصطناعي التوليدي مصدر قلق رئيس، حيث إن الطبيعة المتقدمة للتكنولوجيا وقدرتها على المحادثة تعنيان أنها قادرة على تمرير معلومات مختلقة وغير صحيحة على أنها حقيقة فقط، من أجل الرد على الاستفسارات والأسئلة».

كثير من الخبراء لديهم مخاوف بشأن الذكاء الاصطناعي (رويترز)

ودعا الفريق إلى اتخاذ إجراءات قوية لمكافحة هلوسة الذكاء الاصطناعي، على وجه الخصوص عندما يتعلق الأمر بالاستفسارات الطبية أو القانونية.

والشهر الماضي، اتخذت شركة «غوغل» خطوات لتطوير محرك البحث الجديد «إيه آي أوفرفيوز» AI Overviews، المدعوم بالذكاء الاصطناعي التوليدي، بعد أن أبلغ مستخدمون عن إجابات غريبة أو أخرى تنطوي على خطورة محتملة.

ونشر أحد المدونين منشوراً بيَّن من خلاله أنه لدى السؤال حول عدد الرؤساء المسلمين في تاريخ الولايات المتحدة، رد AI Overviews بأن باراك أوباما «يعتبره البعض أول رئيس مسلم».

وتعليقاً على هذا المثال، أوضحت ناطقة باسم «غوغل» أن هذه النتيجة «انتهكت سياساتنا وعمدنا إلى إزالتها».

ونشر مستخدم آخر عبر حسابه المسمى «بيكسلباتس» PixelButts على منصة «إكس»، لقطة شاشة تعرض إجابة محرك البحث على سؤال بشأن طريقة تتيح «عدم التصاق الجبن بالبيتزا».

وبالإضافة إلى خلط الجبن مع الصلصة، اقترح محرك البحث التابع لـ«غوغل» إضافة غراء «غير سامّ» إلى الجبن.

وفي شهر يناير (كانون الثاني) الماضي، حذرت دراسة من إمكانية تدريب نماذج الذكاء الاصطناعي المتقدمة على الكذب على البشر وخداعهم بكل سهولة.

واختبر فريق الدراسة التابع لشركة «Anthropic» الناشئة للذكاء الاصطناعي ما إذا كانت روبوتات الدردشة المتطورة مثل «تشات جي بي تي» يمكن أن تتعلم الكذب من أجل خداع الناس.

ووجد الفريق أن هذه الروبوتات لا تستطيع تعلم الكذب فحسب، بل من المستحيل إعادة تدريبها بعد ذلك على قول الحقيقة والمعلومات الصحيحة باستخدام تدابير السلامة الخاصة بالذكاء الاصطناعي المتاحة في الوقت الحالي.

وحذر الباحثون من وجود «شعور زائف بالأمان» تجاه أنظمة الذكاء الاصطناعي والمعلومات المستمدة منها.

وأشار الفريق إلى خطورة برمجة المحتالين وقراصنة الإنترنت لأنظمة الذكاء الاصطناعي على الكذب وإخفاء الأضرار التي قد تنتج عن عملية شرائية معينة أو عن الدخول إلى موقع ما.


مقالات ذات صلة

«سدايا» أول جهة تنال اعتماد «آيزو 42001» عالمياً

تكنولوجيا الاعتماد العالمي يؤكد نجاح مساعي «سدايا» في جوانب عدة تتعلق بأنظمة الذكاء الاصطناعي (الشرق الأوسط)

«سدايا» أول جهة تنال اعتماد «آيزو 42001» عالمياً

حصلت الهيئة السعودية للبيانات والذكاء الاصطناعي «سدايا» على اعتماد منظمة الآيزو العالمية «ISO 42001:2023» لعام 2024 بصفتها أول جهة عالمية.

«الشرق الأوسط» (الرياض)
علوم «الرفاق الرومانسيون» المدعومون بالذكاء الاصطناعي يزدادون شعبية

«الرفاق الرومانسيون» المدعومون بالذكاء الاصطناعي يزدادون شعبية

الواقعية والقدرة على التكيف والسلاسة التفاعلية تتيح للبرامج الذكية ضبط استجاباتها؛ لتتناسب مع اهتمامات المستخدمين.

«الشرق الأوسط» (واشنطن)
صحتك الإمكانات الواعدة للذكاء الاصطناعي في مجال صحة النساء

الإمكانات الواعدة للذكاء الاصطناعي في مجال صحة النساء

تعدّ قراءة صورة الثدي الشعاعية بمثابة اختبار لتمييز الظلال المتداخلة.

مورين سالامون (كمبردج - ولاية ماساشوستس الأميركية)
الاقتصاد رقائق إلكترونية من صناعة شركة «هاينكس» الكورية الجنوبية (رويترز)

هل تقود كوريا الموجة الجديدة للذكاء الاصطناعي؟

تتزايد رهانات صناديق التحوط على موجة جديدة من الطلب على رقائق الذكاء الاصطناعي بقيادة الشركات الكورية الجنوبية.

«الشرق الأوسط» (سيول)
تكنولوجيا الذكاء الاصطناعي قادر على إنتاج نكات تتفوق على تلك التي يصنعها البشر (رويترز)

دراسة:الذكاء الاصطناعي ينتج نكاتاً أفضل من تلك التي يؤلفها البشر

وجدت دراسة أميركية جديدة أن الذكاء الاصطناعي قادر على إنتاج نكات تتفوق على تلك التي يصنعها البشر.

«الشرق الأوسط» (نيويورك)

«يوتيوب» يوفر الآن التعليق الصوتي الاصطناعي على فيديوهات «شورتس»

تعد تحديثات «يوتيوب» جزءاً من اتجاه أوسع لمنصات الفيديو التي تتبنى ميزات مماثلة للحفاظ على قدرتها التنافسية وجذب المستخدمين (شاترستوك)
تعد تحديثات «يوتيوب» جزءاً من اتجاه أوسع لمنصات الفيديو التي تتبنى ميزات مماثلة للحفاظ على قدرتها التنافسية وجذب المستخدمين (شاترستوك)
TT

«يوتيوب» يوفر الآن التعليق الصوتي الاصطناعي على فيديوهات «شورتس»

تعد تحديثات «يوتيوب» جزءاً من اتجاه أوسع لمنصات الفيديو التي تتبنى ميزات مماثلة للحفاظ على قدرتها التنافسية وجذب المستخدمين (شاترستوك)
تعد تحديثات «يوتيوب» جزءاً من اتجاه أوسع لمنصات الفيديو التي تتبنى ميزات مماثلة للحفاظ على قدرتها التنافسية وجذب المستخدمين (شاترستوك)

تُحدّث منصات التواصل الاجتماعي ميزاتها باستمرار لتظل قادرة على المنافسة وتعزيز تجربة المستخدم. ومؤخراً كشف موقع «يوتيوب» عن سلسلة من الميزات الجديدة لمنصة الفيديوهات القصيرة «شورتس» (Shorts) الخاصة به؛ ربما بهدف مواكبة منافسيه مثل «تيك توك». وأطلق «يوتيوب» هذه التحديثات لجعل إنشاء مقاطع الفيديو القصيرة ومشاركتها أكثر جاذبية وسهولة في الاستخدام.

تحويل النص كلاماً

واحدة من أبرز الإضافات هي ميزة تحويل النص كلاماً بالفيديو. يتيح ذلك لمنشئي المحتوى إضافة تعليق صوتي اصطناعي إلى مقاطع الفيديو الخاصة بهم، على غرار الأصوات الآلية التي تُسمع غالباً على «تيك توك».

عملية دمج هذه الميزة واضحة ومباشرة، فبعد إنشاء النص، يمكن النقر على أيقونة «إضافة صوت» الموجودة في الزاوية العلوية اليسرى من الشاشة وتحديد الصوت الذي تريده. حالياً، يقدم «يوتيوب» أربعة خيارات صوتية، بينما يتميز «تيك توك» بمجموعة أكثر شمولاً.

يمكن الآن إضافة النصوص على فيديوهات «شورتس» القصيرة باستخدام خطوط وألوان قابلة للتخصيص (شاترستوك)

التسميات التوضيحية التلقائية

يقدم «يوتيوب» أيضاً تسميات توضيحية يتم إنشاؤها تلقائياً والتي تمكن إضافتها مباشرة إلى مقطع الفيديو. وهذا يلغي الحاجة إلى استخدام تطبيقات الطرف الثالث مثل تطبيق «كاب كت» (CapCut). وعلى غرار ميزة إضافة نص بشكل يدوي على مقاطع «شورتس»، يمكن تخصيص هذه النصوص بخطوط وألوان مختلفة؛ مما يسمح لمنشئي المحتوى بالحفاظ على أسلوبهم الفريد.

تأثيرات «ماين كرافت»

لإضافة لمسة ممتعة وإبداعية، طرح موقع «يوتيوب» تأثيرات جديدة تحمل طابع «ماين كرافت» (Minecraft). يتضمن ذلك خلفية شاشة خضراء مستوحاة من اللعبة الشهيرة ولعبة صغيرة تسمى «ماين كرافت رش» (Minecraft Rush). من المؤكد أن هذه الإضافات ستجذب مجتمعاً كبيراً من عشاق لعبة «ماين كراف» على «يوتيوب».

يقدم «يوتيوب» ميزات جديدة للفيديوهات القصيرة كإضافة تعليقات صوتية اصطناعية مشابهة لـ«تيك توك» (شاترستوك)

مواكبة المنافسة

يعدّ تقديم هذه الميزات الجديدة جزءاً من اتجاه أوسع لمنصات الفيديو التي تتبنى وظائف مماثلة لجذب المستخدمين. كثيراً ما يدمج «يوتيوب» ميزات «تيك توك» الشائعة، مثل معاينات الفيديو المباشر في خلاصة «شورتس» (Shorts) لتحسين نظامه الأساسي. وفي الوقت نفسه، يواصل «تيك توك» توسيع حدود طول الفيديو للحفاظ على تفاعل المستخدمين. يأمل «يوتيوب» أن تعزز هذه الاستراتيجية الفيديوهات القصيرة بميزات تشبه «تيك توك». وسيستفيد الكثير من منشئي المحتوى من هذه التحديثات، ويجدون طرقاً جديدة لجذب جماهيرهم وتطوير قنواتهم.

وستساعد سهولة إضافة سرد تحويل النص إلى كلام والتسميات التوضيحية التي يتم إنشاؤها تلقائياً منشئي المحتوى على إنتاج المحتوى بشكل أكثر كفاءة وسهولة في الوصول إليه.