ممنوع الإساءة إلى «كلود»... «أنثروبيك» تضع حدوداً لقسوة المستخدمين
تقول «أنثروبيك» إن مسألة امتلاك نماذج الذكاء الاصطناعي شكلاً من أشكال الوعي ما زالت غير محسومة (رويترز)
أعلنت شركة «أنثروبيك»، الخميس، أنها ستمنع مستخدميها من ممارسة أي «سلوك مسيء أو قاسٍ بصورة مستمرة ومن دون مبرر» تجاه برنامجها للذكاء الاصطناعي «كلود»، وفق ما نقلته «وكالة الصحافة الفرنسية».
وسيُطبّق القرار اعتبارا من 12 نوفمبر (تشرين الثاني)، وستُعنى به الحالات القصوى «التي يتعامل فيها المستخدمون بقسوة متكررة مع النماذج من دون غاية واضحة»، وفق ما كتبت الشركة في تحديث سياسة استخدام أدواتها.
وأضافت أن القرار لن يشمل الإزعاج العادي، أو الاختلاف في الرأي، أو كتابة قصص خيالية عنيفة أو قاتمة، أو كذلك إجراء اختبارات وأبحاث على النماذج.
وربطت الشركة الأميركية هذا القرار بميزة أطلقتها في أغسطس (آب) 2025، تتيح لـ«كلود» إنهاء محادثة من تلقاء نفسه مع المستخدم الذي يمارس الإساءة بشكل مستمر. وقالت الشركة آنذاك إنّ هذه الميزة هي نتيجة لـ«أبحاثها الاستكشافية بشأن السلامة النفسية التي يُحتمل أن تكون أنظمة الذكاء الاصطناعي تتمتع بها».
وتُثير «أنثروبيك» جدلاً واسعاً لأنها تتطرق بشكل واضح إلى إمكانية امتلاك نماذجها شكلاً من أشكال الوعي.
وفي فبراير (شباط) الماضي، قال رئيسها التنفيذي داريو أمودي، في بودكاست لصحيفة «نيويورك تايمز» الأميركية: «لا نعلم إن كانت النماذج تتمتع بالوعي»، معرباً في الوقت نفسه عن انفتاحه على هذه الفكرة.
أسدلت العاصمة البريطانية لندن الستار على أعمال قمة «أسبوع القادة الرياضي» (Leaders Week London) التي احتضنها ملعب «ستامفورد بريدج» العريق.
كوثر وكيل (لندن)
مقياس جديد يساعد أنظمة الذكاء الاصطناعي على «فهم المفاجأة»https://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/5327682-%D9%85%D9%82%D9%8A%D8%A7%D8%B3-%D8%AC%D8%AF%D9%8A%D8%AF-%D9%8A%D8%B3%D8%A7%D8%B9%D8%AF-%D8%A3%D9%86%D8%B8%D9%85%D8%A9-%D8%A7%D9%84%D8%B0%D9%83%D8%A7%D8%A1-%D8%A7%D9%84%D8%A7%D8%B5%D8%B7%D9%86%D8%A7%D8%B9%D9%8A-%D8%B9%D9%84%D9%89-%D9%81%D9%87%D9%85-%D8%A7%D9%84%D9%85%D9%81%D8%A7%D8%AC%D8%A3%D8%A9
يمكن للمقياس أن يدفع الأنظمة الذاتية إلى تعديل طريقة التعلم أو إعادة تقييم خطتها عند ظهور معلومات مهمة (أدوبي)
TT
TT
مقياس جديد يساعد أنظمة الذكاء الاصطناعي على «فهم المفاجأة»
يمكن للمقياس أن يدفع الأنظمة الذاتية إلى تعديل طريقة التعلم أو إعادة تقييم خطتها عند ظهور معلومات مهمة (أدوبي)
طوّر باحثون في معهد جورجيا للتكنولوجيا إطاراً جديداً يهدف إلى مساعدة الأنظمة الذاتية ووكلاء الذكاء الاصطناعي على التمييز بين حدث نادر لا يستدعي تغيير السلوك، وموقف جديد يكشف أن فهم النظام للبيئة لم يعد كافياً ويحتاج إلى مراجعة.
الإطار الذي يحمل اسم Mutual Information Surprise» (MIS)»، الذي نُشر في دورية «INFORMS Journal on Data Science»، يقترح إعادة تعريف «المفاجأة» لدى الأنظمة الذاتية باعتبارها مؤشراً على حدوث تقدم أو تغير معرفي، بدلاً من التعامل معها فقط كحدث غير متوقع أو شاذ.
لماذا لا تكفي الندرة وحدها؟
تستخدم بعض الأساليب الحالية مقاييس مثل «مفاجأة شانون» (Shannon Surprise) التي تركز بصورة أساسية على مدى ندرة الحدث، بينما تقيس «مفاجأة بايزيان» (Bayesian Surprise) مقدار التغير الذي تحدثه الملاحظة الجديدة في معتقدات النظام أو تقديراته السابقة.
ويرى الباحثون أن كلا النهجين يمكن أن يفشل في التقاط اللحظة التي تستحق فعلاً أن يتوقف عندها النظام ويعيد تقييم ما يفعله. فعلى سبيل المثال، قد يكون ظهور نوع محدد من السيارات في موقف قريب حدثاً نادراً إحصائياً، لكنه لا يحمل بالضرورة معنى مهماً. وفي المقابل، إذا كان طالب يحقق نتائج مرتفعة باستمرار ثم أخفق فجأة في اختبار، فإن هذا التغير قد يكون أكثر دلالة رغم أنه لا ينسجم دائماً مع طريقة القياس التقليدية.
أظهرت الاختبارات تحسناً في الاستجابة للتغيرات والاستقرار ودقة التنبؤ مقارنة ببعض الأساليب التقليدية (أدوبي)
«مفاجأة» مرتبطة باكتساب المعرفة
يعتمد الإطار الجديد على مفهوم «المعلومات المتبادلة»، وهو مقياس يستخدم لقياس مقدار المعلومات المشتركة بين متغيرات مختلفة. وبدلاً من السؤال فقط عما إذا كان الحدث نادراً، يحاول النظام قياس ما إذا كانت الملاحظة الجديدة تغيّر فعلياً مقدار ما يعرفه عن العلاقة بين المدخلات والنتائج.
ويقول الباحثون إن هذا التحول يسمح للنظام برصد التقدم المعرفي، أي اللحظة التي تكشف فيها البيانات الجديدة شيئاً مهماً لم يكن النموذج يفهمه من قبل. ولهذا يقدم الفريق «المفاجأة» هنا كإشارة إلى أن النظام قد يحتاج إلى تعديل طريقة التعلم أو اتخاذ القرار.
من القياس إلى تغيير السلوك
لم يقتصر العمل على تعريف المقياس الجديد، إذ طوّر الفريق أيضاً سلسلة اختبارات إحصائية لرصد التغيرات المهمة في المعلومات المتبادلة، إلى جانب سياسة استجابة تحمل اسم «MISRP».
هذه السياسة يمكنها تعديل طريقة أخذ العينات أو تقسيم عملية التعلم إلى مسارات مختلفة عندما يرصد النظام تغيراً يستحق التعامل معه. وبذلك لا تصبح «المفاجأة» مجرد تنبيه، بل إشارة يمكن أن تؤثر مباشرة في سلوك النظام وطريقة جمعه للمعلومات.
يعتمد الإطار على قياس التغير في المعلومات المتبادلة بدلاً من الاكتفاء بدرجة ندرة الحدث أو عدم توقعه (أدوبي)
اختبارات عديدة
اختبر الباحثون النهج على بيئات اصطناعية، إضافة إلى مهمة تتعلق بتقدير خريطة تلوث تتغير ديناميكياً. ووفق نتائج الدراسة، تفوقت الاستراتيجيات التي استخدمت سياسة الاستجابة الجديدة على الأساليب التقليدية القائمة على مقاييس المفاجأة الأخرى من حيث الاستقرار وسرعة الاستجابة ودقة التنبؤ.
ولا تعني هذه النتائج أن النظام أصبح «يشعر» بالمفاجأة بالمعنى البشري، بل إن الباحثين يستخدمون المصطلح لوصف آلية حسابية تحدد متى أصبحت المعلومة الجديدة ذات أهمية كافية لتبرير تغيير السلوك.
تطبيقات محتملة
يرى الفريق أن هذا النوع من القياس يمكن أن يكون مفيداً في أنظمة متعددة، مثل وكيل ذكاء اصطناعي يواجه سؤالاً لا تتوافق معه معرفته الحالية، أو روبوت يصادف موقفاً لم يتدرب عليه، أو مصنع ذاتي التشغيل يتعرض لاضطراب غير مألوف.
وفي مثل هذه الحالات، قد يساعد الإطار النظام على التمييز بين انحراف عابر يمكن تجاهله، وتغير يستدعي التوقف وإعادة التقييم وربما طلب تدخل بشري.
ويتركز الهدف الأوسع للدراسة على منح الأنظمة الذاتية قدرة أفضل على التعامل مع البيئات التي تتغير باستمرار، بحيث لا تواصل تنفيذ الخطة نفسها عندما تصبح المعلومات الجديدة دليلاً على أن الافتراضات السابقة لم تعد مناسبة.
«سبوتيفاي» توسّع الكتب الصوتية إلى أكثر من 180 سوقاً... والسعودية ضمن التوسعhttps://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/5327504-%D8%B3%D8%A8%D9%88%D8%AA%D9%8A%D9%81%D8%A7%D9%8A-%D8%AA%D9%88%D8%B3%D9%91%D8%B9-%D8%A7%D9%84%D9%83%D8%AA%D8%A8-%D8%A7%D9%84%D8%B5%D9%88%D8%AA%D9%8A%D8%A9-%D8%A5%D9%84%D9%89-%D8%A3%D9%83%D8%AB%D8%B1-%D9%85%D9%86-180-%D8%B3%D9%88%D9%82%D8%A7%D9%8B-%D9%88%D8%A7%D9%84%D8%B3%D8%B9%D9%88%D8%AF%D9%8A%D8%A9-%D8%B6%D9%85%D9%86-%D8%A7%D9%84%D8%AA%D9%88%D8%B3%D8%B9
«سبوتيفاي» توسّع الكتب الصوتية إلى أكثر من 180 سوقاً... والسعودية ضمن التوسع
تتيح الخدمة في الأسواق الجديدة أكثر من 350 ألف عنوان بأكثر من 120 لغة مع اختلاف النماذج والأسعار بحسب السوق (أدوبي)
أعلنت «سبوتيفاي» توسيع خدمة الكتب الصوتية من 22 سوقاً إلى أكثر من 180 سوقاً بحلول نهاية 2026؛ في خطوة تشمل أسواقاً واسعة في الشرق الأوسط وأفريقيا وآسيا وأوروبا والأميركتين، وتمنح أكثر من 750 مليون شخص إمكانية الوصول إلى الكتب الصوتية عبر المنصة.
وتشمل القائمة المعلنة أسواقاً عربية عدة، من بينها السعودية والإمارات وقطر والكويت والبحرين وعُمان ومصر والأردن ولبنان والمغرب وتونس والجزائر وليبيا وفلسطين، ما يمنح التوسع بعداً إقليمياً واضحاً بعدما كانت الخدمة تتركز سابقاً بصورة أساسية في عدد محدود من الأسواق.
أكثر من 350 ألف عنوان للأسواق الجديدة
قالت «سبوتيفاي» إن المستخدمين في الأسواق الجديدة سيتمكنون من الوصول إلى أكثر من 350 ألف عنوان، ضمن مكتبة تغطي أكثر من 120 لغة. وتعمل الشركة مع أكثر من 300 ناشر حول العالم لتوسيع المحتوى المتاح بلغات وأسواق مختلفة.
ويختلف هذا الرقم عن الحجم الإجمالي لمكتبة الكتب الصوتية على المنصة، إذ تقول «سبوتيفاي» في بيانات أخرى إن كتالوجها العالمي تجاوز 700 ألف عنوان، فيما أشارت تقارير أحدث مرتبطة بإعلان فرانكفورت إلى أن العدد الإجمالي بات يتجاوز 800 ألف كتاب صوتي.
وفي السعودية، كانت الكتب الصوتية متاحة بالفعل قبل هذا الإعلان ضمن خدمة «بريميوم»، مع 12 ساعة استماع شهرياً للمشتركين المؤهلين وأكثر من 350 ألف عنوان ضمن كتالوج الاشتراك، إضافة إلى إمكانية شراء عناوين منفردة عبر مشغل الويب. وتظهر بيانات الدعم الرسمية أن السعودية والإمارات كانتا ضمن الأسواق الـ22 التي توفرت فيها الخدمة قبل التوسع العالمي الحالي.
ارتفع عدد مستمعي الكتب الصوتية شهرياً على «سبوتيفاي» بنحو 40 في المائة فيما زادت ساعات الاستماع بأكثر من 30 في المائة (أدوبي)
أسواق عربية جديدة
يعني الإعلان الجديد أن الانتشار الإقليمي يتسع إلى ما هو أبعد من السعودية والإمارات، ليشمل بقية أسواق الخليج ودولاً في المشرق وشمال أفريقيا. ولم تعلن «سبوتيفاي» حتى الآن نموذجاً موحداً للوصول إلى الكتب الصوتية في جميع هذه الأسواق. فالشركة توفر في بعض الدول 12 ساعة شهرياً ضمن اشتراك «بريميوم»، بينما تعتمد في أسواق أخرى بصورة أكبر على خدمة «Audiobooks+» التي تتيح شراء ساعات إضافية، إلى جانب خيار شراء كتاب محدد بشكل مباشر والاحتفاظ بإمكانية الاستماع إليه. وأكدت الشركة أن الأسعار ونماذج الوصول ستختلف بحسب السوق.
وتقول «سبوتيفاي» إن «Audiobooks+» تجاوزت مليون مشترك خلال ما يزيد قليلاً على عام واحد، فيما تجاوزت الإيرادات السنوية المتكررة للخدمة 100 مليون دولار. كما تسمح الإضافة لمشتركي خطط «Family» و«Duo» بالحصول على ساعات إضافية للاستماع، مع خطط لتوسيعها إلى فئات أخرى من المشتركين.
نمو في الاستماع
يأتي التوسع بعد ارتفاع عدد مستمعي الكتب الصوتية شهرياً على «سبوتيفاي» بنحو 40 في المائة خلال العام الماضي، بينما زاد إجمالي ساعات الاستماع بأكثر من 30 في المائة، وفق أرقام أعلنتها الشركة خلال معرض فرانكفورت للكتاب.
وكانت «سبوتيفاي» قد أشارت في وقت سابق من العام إلى أن ما يقارب نصف مستخدمي الكتب الصوتية لديها تقل أعمارهم عن 35 عاماً، فيما ارتفعت ساعات الاستماع بنسبة 60 في المائة بين عامي 2024 و2025.
تطور «سبوتيفاي» أدوات جديدة لاكتشاف الكتب ومتابعة الاستماع وخيارات مثل الساعات الإضافية وشراء الكتب بشكل منفصل (أدوبي)
أدوات جديدة لاكتشاف الكتب
إلى جانب التوسع الجغرافي، تعمل الشركة على تطوير تجربة الكتب داخل التطبيق. ومن بين الأدوات التي طرحتها «Page Match»، التي تسمح للمستخدم بالانتقال بين الكتاب الورقي أو الإلكتروني ونسخته الصوتية، عبر مطابقة الصفحة مع موضع الاستماع. وتقول «سبوتيفاي» إن أكثر من مليون شخص يستخدمون الميزة شهرياً.
كما أطلقت الشركة خلال 2026 أدوات لاكتشاف الكتب عبر قوائم وترشيحات مخصصة، إلى جانب البحث الحواري وإنشاء قوائم تشغيل للكتب الصوتية، في محاولة لدمج تجربة الكتب بصورة أعمق داخل التطبيق الذي يضم الموسيقى والبودكاست. ويستمر طرح الخدمة على دفعات حتى نهاية 2026، على أن تختلف مواعيد الإطلاق ونماذج الاشتراك والأسعار من سوق إلى آخر، بينما تمثل أسواق الشرق الأوسط جزءاً أساسياً من أكبر توسع جغرافي للكتب الصوتية على «سبوتيفاي» حتى الآن.
كيف يتنبأ «ChatGPT» بعمر المستخدم ويُفعّل تجربة المراهقين؟https://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/5327464-%D9%83%D9%8A%D9%81-%D9%8A%D8%AA%D9%86%D8%A8%D8%A3-chatgpt-%D8%A8%D8%B9%D9%85%D8%B1-%D8%A7%D9%84%D9%85%D8%B3%D8%AA%D8%AE%D8%AF%D9%85-%D9%88%D9%8A%D9%8F%D9%81%D8%B9%D9%91%D9%84-%D8%AA%D8%AC%D8%B1%D8%A8%D8%A9-%D8%A7%D9%84%D9%85%D8%B1%D8%A7%D9%87%D9%82%D9%8A%D9%86%D8%9F
كيف يتنبأ «ChatGPT» بعمر المستخدم ويُفعّل تجربة المراهقين؟
يظل تاريخ الميلاد جزءاً من التقييم لكنه ليس العامل الوحيد في التصنيف (د.ب.أ)
كشفت «أوبن إيه آي» مزيداً من التفاصيل حول نظام التنبؤ بالعمر داخل «شات جي بي تي»، الذي يستخدم إشارات مرتبطة بالحساب وسلوك الاستخدام لتقدير ما إذا كان المستخدم قد يكون دون 18 عاماً، بدلاً من الاعتماد فقط على تاريخ الميلاد المُدخل عند إنشاء الحساب. وإذا رجّح النظام أن الحساب يعود إلى مراهق مؤهل، يتم تفعيل تجربة «ChatGPT for Teens» تلقائياً مع ضوابط إضافية للمحتوى وبعض القيود على الميزات.
وحسب «أوبن إيه آي»، ينظر نظام التنبؤ بالعمر إلى مجموعة من الإشارات، من بينها الموضوعات العامة التي يناقشها المستخدم، والأوقات التي يستخدم فيها «ChatGPT»، وكيفية وتوقيت استخدام الحساب، وأنماط النشاط عبر الزمن، إضافة إلى عمر الحساب نفسه. ولا يحل هذا النظام محل تاريخ الميلاد، بل يعمل كطبقة أمان إضافية. ولهذا يمكن للحساب أن يُصنّف ضمن تجربة المراهقين حتى لو كان المستخدم قد أدخل تاريخ ميلاده عند التسجيل، في حال أظهرت الإشارات الأخرى احتمال أن يكون دون 18 عاماً. كما تقر الشركة بأن النظام قد يخطئ في بعض الحالات.
يظل تاريخ الميلاد جزءاً من التقييم لكنه ليس العامل الوحيد في التصنيف (د.ب.أ)
ماذا يتغير للمستخدمين دون 18 عاماً؟
عندما يُصنّف الحساب على أنه قد يعود إلى مستخدم مراهق، يمكن لـ«ChatGPT» تفعيل تجربة مخصصة تتعامل بحذر أكبر مع بعض أنواع المحتوى، مثل العنف الصريح، والتحديات التي قد تشجع على سلوك خطير، وأدوار المحادثة الجنسية أو العاطفية أو العنيفة، إضافة إلى المحتوى الذي يروّج لمعايير جمال متطرفة أو حميات غير صحية أو التنمر المرتبط بصورة الجسد.
ولا يحتاج المستخدم إلى تفعيل التجربة يدوياً، إذ تقول «أوبن إيه آي» إنها تُطبَّق تلقائياً على الحسابات المؤهلة. ويظل الحساب فعالاً، مع استمرار إمكانية استخدام «ChatGPT» للتعلم والإبداع وطرح الأسئلة، فيما تؤكد الشركة أنها لا تعرض إعلانات على حسابات المراهقين.
أدوات تعليمية وضوابط عائلية
كانت «أوبن إيه آي» قد وسعت عالمياً تجربة «ChatGPT for Teens» مع مجموعة من الأدوات المخصصة للاستخدام اليومي والدراسة. ومن بينها ( Study Mode) الذي يوجه المستخدم عبر خطوات وأسئلة بدلاً من تقديم الإجابة مباشرة، ويمكن اقتراحه عند استخدام المنصة في الواجبات أو التعلم. كما تتضمن التجربة ميزات مثل (Quiet Hours) التي تتيح تحديد فترات زمنية للحد من الوصول إلى الخدمة.
ويمكن للآباء أو الأوصياء ربط حساباتهم بحساب المراهق عبر أدوات الرقابة الأبوية، بما يسمح بإدارة بعض الإعدادات. وتوضح «أوبن إيه آي» أن هذه الضوابط لا تمنح الوالدين حق الاطلاع على محادثات المراهق نفسها.
شملت تجربة المراهقين أدوات دراسة ورقابة أبوية وفترات هدوء للاستخدام (د.ب.أ)
ماذا يحدث إذا أخطأ النظام؟
إذا كان المستخدم يبلغ 18 عاماً أو أكثر ووُضع في تجربة المراهقين عن طريق الخطأ، فيمكنه مراجعة تصنيف العمر من خلال (الإعدادات> الحساب > العمر )، ثم استخدام خيار التحقق من العمر إذا كان متاحاً في حسابه.
وتعتمد «أوبن إيه آي» على شركة خارجية تُدعى (Persona) لإجراء عملية التحقق. وقد يُطلب من المستخدم، حسب البلد، تقديم صورة حية للوجه أو وثيقة هوية حكومية أو كليهما. وتقول الشركة إن «Persona» تحذف صورة الهوية أو صورة الوجه خلال سبعة أيام من التحقق، بينما لا تتلقى «أوبن إيه آي» نسخة من الهوية أو الصورة نفسها، بل المعلومات اللازمة لتحديد التجربة المناسبة للحساب. وإذا ثبت أن المستخدم فوق 18 عاماً، فتُزال ضوابط المراهقين. أما إذا أظهرت عملية التحقق أن الحساب ينبغي أن يبقى ضمن تجربة المراهقين، فقد تستمر الحماية أو تُعاد إلى الحساب.
طبقة أمان إضافية
توضح «أوبن إيه آي» أن التنبؤ بالعمر ليس نظاماً نهائياً للحكم على عمر المستخدم، بل آلية إضافية تساعدها على تطبيق التجربة المناسبة للحسابات الأصغر سناً. وإذا اختار المستخدم التحقق من عمره عبر «Persona»، فإن الشركة تقول إنها لن تستمر بعد ذلك في تشغيل نظام التنبؤ بالعمر على ذلك الحساب. بهذا النهج، تجمع «أوبن إيه آي» بين تاريخ الميلاد، وإشارات الاستخدام، والتحقق الخارجي من العمر، بهدف تحديد متى يجب تطبيق الضوابط المخصصة للمراهقين داخل «تشات جي بي تي».
