«أوبن إيه آي» قلقة من تبعات «الأنسنة» الكبيرة لمساعدها الصوتي

التفاعلات الآلية تشكّل خطراً على العلاقات البشرية

شعار  شركة «أوبن إيه آي» (رويترز)
شعار شركة «أوبن إيه آي» (رويترز)
TT

«أوبن إيه آي» قلقة من تبعات «الأنسنة» الكبيرة لمساعدها الصوتي

شعار  شركة «أوبن إيه آي» (رويترز)
شعار شركة «أوبن إيه آي» (رويترز)

تبدي شركة «أوبن إيه آي» المطورة لنموذج «تشات جي بي تي» قلقها من إمكان أن تتسبب الواقعية الكبيرة في الصوت المرفق ببرنامجها للذكاء الاصطناعي في تعلّق المستخدمين بالتفاعلات الآلية على حساب العلاقات البشرية.

وأشارت الشركة التي تتخذ مقراً في سان فرانسيسكو، إلى أن الدردشة مع الذكاء الاصطناعي كما قد يفعل المرء مع شخص آخر قد تدفع بالمستخدمين إلى أن يضعوا ثقة في غير محلها بالبرامج الآلية، كما أن الجودة العالية للصوت المدمج بنسخة «جي بي تي- 4 أو» (GPT-4o) من «تشات جي بي تي» قد تفاقم هذا التأثير.

وقالت «أوبن إيه آي» في تقرير عن العمل الأمني الذي تقوم به على نسخة ChatGPT-4o من برنامج الذكاء الاصطناعي الخاص بها، إن تقنيات التشبيه بالإنسان Anthropomorphization «تتضمن إسناد سلوكيات وخصائص خاصة بالبشر إلى كيانات غير بشرية، مثل نماذج الذكاء الاصطناعي». وحذّرت من أن «هذا الخطر قد يزداد بسبب القدرات الصوتية لـGPT-4o، والتي تسهّل المزيد من التفاعلات الشبيهة بالإنسان مع البرنامج» الآلي.

وقالت شركة «أوبن إيه آي» إنها لاحظت أن المستخدمين يتحدثون إلى الذكاء الاصطناعي بطرق تشير إلى روابط مشتركة، مثل التذمر بصوت عالٍ أمام البرنامج الآلي.

ولفتت إلى أن هذه الحالات تبدو حميدة، ولكن يجب درسها لمعرفة كيفية تطورها على مدى فترات أطول من الزمن.

وتكهنت «أوبن إيه آي» بأن التفاعل الاجتماعي مع الذكاء الاصطناعي قد يجعل المستخدمين أقل مهارة أو ميلاً للتواصل مع البشر.

وأشار التقرير إلى أن «التفاعل الموسّع مع البرنامج قد يؤثر على المعايير الاجتماعية»، مضيفاً «على سبيل المثال، نماذجنا تتعامل بتواضع مع المستخدمين وهذا يسمح لهم بالمقاطعة وأخذ الدور في الكلام في أي وقت، وهذا يتعارض مع آداب الحديث في التفاعلات البشرية، في حين أنه متوقع مع الذكاء الاصطناعي».

وبحسب «أوبن إيه آي»، فإن قدرة الذكاء الاصطناعي على تذكّر التفاصيل أثناء المحادثة وإنجاز المهام قد تجعل الناس يعتمدون بشكل مفرط على التكنولوجيا، وفق ما نقلته وكالة الصحافة الفرنسية.

الرئيس التنفيذي لشركة «أوبن إيه آي» سام ألتمان (د.ب.أ)

البديل؟

قال ألون يامين، المؤسس المشارك والرئيس التنفيذي لمنصة «كوبي ليكس» المتخصصة في رصد عمليات السرقة الأدبية بواسطة الذكاء الاصطناعي، إن «المخاوف الأخيرة التي شاركتها أوبن إيه آي حول الاعتماد المحتمل على الخدمة الصوتية في تشات جي بي تي تشير إلى ما بدأ الكثيرون بالفعل طرحه: هل حان الوقت للتوقف والتفكير في كيفية تأثير هذه التكنولوجيا على التفاعل البشري والعلاقات؟».

وشدد على ضرورة ألا يكون الذكاء الاصطناعي أبداً أن بديلاً للتفاعل البشري الفعلي.

وقالت «أوبن إيه آي» إنها ستختبر بشكل أكبر كيف يمكن لقدرات الصوت في الذكاء الاصطناعي أن تجعل الناس مرتبطين عاطفياً بالبرنامج الآلي.

وقد تمكنت الفرق التي اختبرت القدرات الصوتية في نسخة ChatGPT-4o، أيضاً من دفعها إلى تكرار معلومات كاذبة وإنتاج نظريات مؤامرة، ما أثار مخاوف من إمكان أن يُحمل الذكاء الاصطناعي إلى القيام بذلك بصورة تلقائية.

جدير بالذطر أن شركة «أوبن إيه آي» اعتذرت للممثلة سكارليت جوهانسون في يونيو (حزيران) لاستخدام البرنامج صوتاً يشبه صوتها في أحدث روبوت دردشة، مما سلّط الضوء على التجاوزات المحتملة لتقنية استنساخ الصوت.

وعلى الرغم من أن شركة «أوبن إيه آي» نفت أن يكون الصوت الذي استخدمته لجوهانسون، فإن استخدام الرئيس التنفيذي للشركة سام ألتمان عبارة «هير» Her للإشارة إلى النموذج الجديد عبر وسائل التواصل الاجتماعي زاد الشكوك في هذا المجال.

فقد أدت جوهانسون صوت شخصية من الذكاء الاصطناعي في فيلم Her، والذي قال ألتمان سابقاً إنه فيلمه المفضل عن التكنولوجيا.

ويؤدي خواكين فينيكس في الفيلم الصادر عام 2013 دور رجل يقع في حب مساعدة بالذكاء الاصطناعي تدعى سامانثا.


مقالات ذات صلة

نموذج جديد للذكاء الاصطناعي التوليدي قادر على «التفكير»

تكنولوجيا شعار «أوبن إيه آي» في هذه الصورة الملتقطة في 3 فبراير 2023 (رويترز)

نموذج جديد للذكاء الاصطناعي التوليدي قادر على «التفكير»

أطلقت شركة «أوبن إيه آي»، الخميس، نموذج الذكاء الاصطناعي التوليدي الجديد «o1» القادر على التفكير والإجابة عن أسئلة أكثر تعقيداً، خصوصاً في مجال الرياضيات.

«الشرق الأوسط» (سان فرنسيسكو)
تكنولوجيا تتصاعد أهمية العيادات الرقمية كواحدة من أحدث التطورات في تقديم الخدمات الصحية (شاترستوك)

«بوبا» للتأمين: استشارات الفيديو من أكثر الخدمات الصحية طلباً في السعودية

تقنيات مبتكرة في الرعاية الصحية الرقمية والتطبيب عن بُعد تبرز في مؤتمر «فنتك 24»

نسيم رمضان (لندن)
الاقتصاد جانب من حضور إحدى جلسات قمة الذكاء الاصطناعي بالرياض (الشرق الأوسط) play-circle 01:08

«أوليفر وايمان»: استثمارات ضخمة للسعودية في البنية التحتية للذكاء الاصطناعي التوليدي

السعودية تستثمر بشكل ضخم في الذكاء الاصطناعي لتحسين البنية التحتية وزيادة الناتج المحلي، وتطوير المهارات البشرية.

عبير حمدي (الرياض)
تكنولوجيا بدا إطلاق «هواوي» لهاتفها ثلاثي الطيات بمثابة تحدٍّ مباشر لـ«أبل» قبيل حدثها السنوي الكبير (الشرق الأوسط)

من سرق الأضواء أكثر... «أبل آيفون 16» أم «هواوي Mate XT»؟

«آيفون 16» من «أبل» يقف في تحدٍّ واضح أمام الهاتف الأول في العالم ثلاثي الطيات من «هواوي».

نسيم رمضان (لندن)
تكنولوجيا دمار ناتج عن زلزال في كاليفورنيا (أرشيف - رويترز)

هل ينجح الذكاء الاصطناعي في توقّع الزلازل؟

لسنوات عديدة، كانت فكرة القدرة على توقّع الزلزال أمراً مستبعداً؛ فهل ينجح الذكاء الاصطناعي في هذا الأمر؟

«الشرق الأوسط» (لندن)

«أوبن إيه آي» أطلقت نموذجاً جديداً للذكاء الاصطناعي التوليدي قادراً على «التفكير»

شعار «أوبن إيه آي» في هذه الصورة الملتقطة في 3 فبراير 2023 (رويترز)
شعار «أوبن إيه آي» في هذه الصورة الملتقطة في 3 فبراير 2023 (رويترز)
TT

«أوبن إيه آي» أطلقت نموذجاً جديداً للذكاء الاصطناعي التوليدي قادراً على «التفكير»

شعار «أوبن إيه آي» في هذه الصورة الملتقطة في 3 فبراير 2023 (رويترز)
شعار «أوبن إيه آي» في هذه الصورة الملتقطة في 3 فبراير 2023 (رويترز)

أطلقت شركة «أوبن إيه آي»، الخميس، نموذج الذكاء الاصطناعي التوليدي الجديد «o1» القادر على التفكير والإجابة عن أسئلة أكثر تعقيداً، خصوصاً في مجال الرياضيات، وتأمل مبتكرة «تشات جي بي تي» من خلاله الحدّ من احتمالات الهلوسة التي تصيب أحياناً هذا النوع من البرامج.

وأكدت «أوبن إيه آي» في بيان نُشر عبر الإنترنت أن «(o1) يُفكّر قبل إعطاء الإجابة». ويُشكّل إطلاق هذا النموذج خطوة جديدة للشركة نحو تحقيق هدفها المتمثل في تطوير الذكاء الاصطناعي «العام»، أي الذكاء الاصطناعي المُشابه لذكاء البشر، وفق «وكالة الصحافة الفرنسية».

وتوجّه رئيس «أوبن إيه آي»، سام ألتمان، عبر منصة «إكس» بالتهنئة إلى فرق عمل شركته على هذا «النموذج الجديد: الذكاء الاصطناعي القادر على التفكير بطريقة معقدة وعامة».

لكنّه أقرّ بأن هذه التكنولوجيا «لا تزال غير كاملة، ولا تزال محدودة، وتبدو أكثر إبهاراً عند استخدامها للمرة الأولى مما تبدو بعد استخدامها لمزيد من الوقت».

ووفّرت الشركة الإصدار التجريبي من «o1» بداية من الخميس، الذي سيكون متاحاً في مرحلة أولى لمن يستخدمون «تشات جي بي تي»، لقاء رسم مدفوع.

وأجرت «وكالة الصحافة الفرنسية» اختباراً لنموذج «o1» بطرح أسئلة منطقية بسيطة عليه، فحقق النتائج نفسها التي حققها «GPT-4o»، لكنه استغرق مزيداً من الوقت، وأعطى تفاصيل أكثر عن إجاباته، بدلاً من أن يولّدها على الفور تقريباً.

وثمة فارق آخر يتمثل في عدم قدرة النموذج الجديد في الوقت الراهن على معالجة أو إنشاء محتوى آخر غير النصوص.

استثمارات

ويأتي إطلاق «o1» في وقت تسعى شركة «أوبن إيه آي» إلى جمع اكتتابات ترفع قيمتها إلى نحو 150 مليار دولار، ما يجعلها واحدة من أغلى الشركات غير المدرجة في البورصة في العالم، وفقاً لوسائل إعلام أميركية.

وتشمل قائمة المستثمرين المكتتبين مجموعة «مايكروسوفت» وشركة «إنفيديا» العملاقة لتصنيع الرقائق. كذلك تداولت وسائل الإعلام أسماء جهات أخرى مثل مجموعة «أبل» التي تستخدم أصلاً تكنولوجيا الشركة الناشئة في نظامها الجديد للذكاء الاصطناعي التوليدي، وشركة الأسهم الخاصة «ثرايف كابيتال»، وشركة «إم جي إكس» للاستثمار التكنولوجي التي أسّسها مجلس الذكاء الاصطناعي والتكنولوجيا المتقدِّمة في دولة الإمارات العربية المتحدة.

وأدى طرح «أوبن إيه آي» برنامج «تشات جي بي تي» في نهاية عام 2022 إلى إطلاق تسابق في سيليكون فالي على ابتكار برامج الذكاء الاصطناعي التوليدي الذي يستطيع إنتاج المحتوى بناءً على استعلام بسيط باللغة اليومية.

ومذّاك، تتنافس كل المجموعات التكنولوجية الكبرى، من «مايكروسوفت» إلى «غوغل» و«ميتا» (مالكة «فيسبوك» و«إنستغرام»)، على توفير الأدوات التي تهدف إلى مساعدة البشر في مهام الحياة اليومية، من كتابة الرسائل إلى التعليم والإبداع الفني.

لكنّ أدوات المساعدة هذه، القائمة على الذكاء الاصطناعي، لا تعدو كونها مجرّد آلات تتنبأ بشكل مقنع جدّاً بتسلسلات الكلمات أو بترتيب وحدات البكسل، ولكن من دون تفكير، وبالتالي من دون فهم الجمل أو الصور التي تولّدها.

من هنا، يلاحظ أحياناً أن هذه النماذج التي يتم تدريبها بواسطة كمّ ضخم من البيانات المأخوذة من الإنترنت، قد تهلوس من خلال اختراع وقائع ومعلومات غير دقيقة، وقد تجد صعوبة في حل مسائل رياضية بسيطة.

تصحيح الأخطاء

وأفادت «أوبن إيه آي» بأنها جرّبت نموذجها الجديد في مجال حل المسائل الرياضية أو إنتاج سطور من التعليمات البرمجية، مؤكدة أن «(o1) ينافس أداء الخبراء البشريين في عدد كبير من الاختبارات المعيارية التي تتطلب قدرة قوية على التفكير».

وأضافت أن «o1» حلّ «من بين أفضل 500 تلميذ» في مسابقة رياضيات للمدارس الثانوية الأميركية.

وشرحت «أوبن إيه آي» أن «(o1) يستخدم سلسلة من الأفكار، كما يفعل الإنسان الذي يمكنه التفكير وقتاً طويلاً، قبل الإجابة عن سؤال صعب».

وأوضحت أنه «يتعلّم التعرّف على أخطائه وتصحيحها، ويتعلّم تقسيم الخطوات الصعبة إلى خطوات أبسط، ويتعلم تجربة نهج مختلف عندما لا ينجح النهج الأولي».

ومع أن النموذج الجديد «يهلوس أقل» من سَلفه، «لا يمكن القول إن الهلوسة حُلَّت»، وفق الباحث في «أوبن إيه آي»، جيري تووريك، الذي أجرى موقع «ذي فيردج» المتخصص في التكنولوجيا مقابلة معه. وثمة مشكلة أخرى في النماذج الحالية وهي أنها أشبه بصناديق سوداء للمستخدمين.

وشددت الشركة الناشئة على أن النموذج الجديد يُمثّل تحسناً من حيث الأمان والتوافق مع القيم الإنسانية، لأن تفكيره أصبح «قابلاً للقراءة»، ويطبق قواعد الأمان بشكل أفضل.