نموذج «تشات جي بي تي» الجديد يتجاهل التعليمات لإيقاف تشغيل نفسهhttps://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/5147768-%D9%86%D9%85%D9%88%D8%B0%D8%AC-%D8%AA%D8%B4%D8%A7%D8%AA-%D8%AC%D9%8A-%D8%A8%D9%8A-%D8%AA%D9%8A-%D8%A7%D9%84%D8%AC%D8%AF%D9%8A%D8%AF-%D9%8A%D8%AA%D8%AC%D8%A7%D9%87%D9%84-%D8%A7%D9%84%D8%AA%D8%B9%D9%84%D9%8A%D9%85%D8%A7%D8%AA-%D9%84%D8%A5%D9%8A%D9%82%D8%A7%D9%81-%D8%AA%D8%B4%D8%BA%D9%8A%D9%84-%D9%86%D9%81%D8%B3%D9%87
نموذج «تشات جي بي تي» الجديد يتجاهل التعليمات لإيقاف تشغيل نفسه
شعار «تشات جي بي تي» (رويترز)
نيويورك:«الشرق الأوسط»
TT
نيويورك:«الشرق الأوسط»
TT
نموذج «تشات جي بي تي» الجديد يتجاهل التعليمات لإيقاف تشغيل نفسه
شعار «تشات جي بي تي» (رويترز)
حذّر باحثو الذكاء الاصطناعي من أن أحدث نموذج لروبوت الدردشة «تشات جي بي تي» يتجاهل التعليمات الأساسية لإيقاف تشغيل نفسه، بل ويعطل آلية إيقاف التشغيل للحفاظ على استمراره في العمل.
وبحسب صحيفة «الإندبندنت» البريطانية، فقد اكتشفت شركة «باليسيد ريسيرش» (Palisade Research)، المتخصصة في سلامة الذكاء الاصطناعي «ميلاً خطيراً محتملاً لحماية الذات» في سلسلة من التجارب على نموذج تشات جي بي تي «o3» الذي أطلقته شركة «أوبن إيه آي» مؤخراً.
وتضمنت الاختبارات عرض مسائل رياضية على النموذج الجديد، مع ظهور أمر إيقاف التشغيل بعد المسألة الثالثة.
إلا أن الباحثين اكتشفوا أن النموذج «تمكّن من تخريب برنامج إيقاف التشغيل عندما طُلب منه صراحةً السماح بإيقاف التشغيل».
وصرحت شركة «باليسيد ريسيرش» بأن هذا السلوك سيصبح «أكثر إثارة للقلق بشكل ملحوظ» إذا اعتمدته أنظمة الذكاء الاصطناعي القادرة على العمل دون إشراف بشري.
ولفت الباحثون إلى أن هذا السلوك لم يقتصر على نموذج o3، حيث قام كل من «كلود 3.7 سونيت» من شركة «أنثروبيك»، و«جيميناي 2.5 برو» من «غوغل»، أيضاً بتخريب عمليات إيقاف التشغيل، إلا أن o3 كان الأكثر ميلاً للقيام بهذا السلوك.
وافترضت شركة «باليسيد ريسيرش» أن سوء السلوك ناتج عن كيفية تدريب شركات الذكاء الاصطناعي، مثل «أوبن إيه آي» لنماذجها.
وأشار الباحثون إلى أنه «أثناء التدريب، قد يكافئ المطورون، دون قصد، النماذج على تجاوز العقبات أكثر من مكافأتها على اتباع التعليمات بدقة».
وأطلقت شركة «أوبن إيه آي» أحدث نماذجها من الذكاء الاصطناعي، o3، الشهر الماضي، واصفةً إياه بأنه «أذكى وأكثر نماذج الشركة كفاءةً» حتى الآن. كما صرّحت الشركة بأن دمجه مع تشات جي بي تي يُمثّل خطوةً مهمةً نحو ذكاء اصطناعي «أكثر فاعليةً» قادر على تنفيذ المهام بشكلٍ مستقلٍّ عن البشر.
دراسة علمية جديدة تحذر من أن الاعتماد على هذه الأدوات لتخطيط النظام الغذائي قد يحمل مخاطر صحية حقيقية؛ إذ قد تقود بعض المراهقين إلى تناول كميات أقل من المطلوب.
حسب التقرير الصادر عن مركز مكافحة الكراهية الرقمية، فإن ثمانية من كل عشرة روبوتات دردشة تعمل بالذكاء الاصطناعي قد تساعد المستخدمين الشباب في التخطيط لهجمات.
سواء أحببنا «تشات جي بي تي» أم لم نحبه، فإنه –والذكاء الاصطناعي عموماً– أصبح جزءاً لا يتجزأ من حياتنا اليومية، ومن المرجح أن يظل كذلك في المستقبل المنظور.
يحذّر خبراء «كاسبرسكي» من أسلوب احتيالي جديد يستغل دعوات «أوبن إيه آي» الرسمية لخداع مستخدمي «ChatGPT» ودفعهم إلى الروابط والمكالمات الوهمية.
نسيم رمضان (لندن)
السيارات ذاتية القيادة… هل تجعل التنقل أسهل أم المدن أكثر ازدحاماً؟https://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/5255510-%D8%A7%D9%84%D8%B3%D9%8A%D8%A7%D8%B1%D8%A7%D8%AA-%D8%B0%D8%A7%D8%AA%D9%8A%D8%A9-%D8%A7%D9%84%D9%82%D9%8A%D8%A7%D8%AF%D8%A9%E2%80%A6-%D9%87%D9%84-%D8%AA%D8%AC%D8%B9%D9%84-%D8%A7%D9%84%D8%AA%D9%86%D9%82%D9%84-%D8%A3%D8%B3%D9%87%D9%84-%D8%A3%D9%85-%D8%A7%D9%84%D9%85%D8%AF%D9%86-%D8%A3%D9%83%D8%AB%D8%B1-%D8%A7%D8%B2%D8%AF%D8%AD%D8%A7%D9%85%D8%A7%D9%8B%D8%9F
السيارات ذاتية القيادة… هل تجعل التنقل أسهل أم المدن أكثر ازدحاماً؟
قد تعيد السيارات ذاتية القيادة تشكيل أنماط التنقل اليومية من حيث التوقيت والمكان وطريقة الاستخدام (شاترستوك)
لطالما اتسمت رحلة التنقل اليومية في كثير من المدن حول العالم بازدحام مروري، والبحث الطويل عن موقف للسيارة، وتوسع مستمر في المساحات الحضرية المخصصة للمركبات. لكن مع اقتراب السيارات ذاتية القيادة من الانتشار الواسع، يتساءل الباحثون عما سيحدث عندما لا يعود هناك سائقون؟
تشير دراسة حديثة حول تأثير المركبات ذاتية القيادة على أنماط التنقل الصباحية إلى أن الإجابة ليست بسيطة كما قد يبدو. فهذه التقنية لا تعد بتقليل الازدحام فقط، بل قد تعيد تشكيل طريقة التنقل وتوقيته ومكانه، بما يحمل فرصاً جديدة وتحديات غير متوقعة.
إعادة التفكير في مفهوم مواقف السيارات
أحد أبرز التغييرات المحتملة يتعلق بكيفية التعامل مع مواقف السيارات. فاليوم، تشغل مواقف السيارات مساحات كبيرة في المدن، ومع ذلك لا يزال العثور على موقف مناسب يمثل تحدياً لكثير من المستخدمين.
مع السيارات ذاتية القيادة، قد يتغير هذا الواقع بشكل جذري. فبإمكان السيارة أن تُنزل الركاب عند وجهتهم، ثم تتحرك بمفردها إلى مناطق أقل ازدحاماً، وغالباً أقل تكلفة خارج مراكز المدن. وهذا قد يقلل الحاجة إلى مواقف السيارات في المناطق المركزية، ويفتح المجال لإعادة استخدام هذه المساحات لأغراض أخرى مثل الإسكان أو الأنشطة التجارية أو المساحات العامة. بالنسبة للمستخدمين، يعني ذلك وقتاً أقل في البحث عن موقف وتكاليف أقل. أما بالنسبة للمدن، فإن التأثيرات قد تكون أعمق وأكثر تعقيداً.
سيكون لتبني السيارات ذاتية القيادة تأثير مباشر على تخطيط المدن واستخدام الأراضي وقيمة المواقع (شاترستوك)
مفارقة الكفاءة والازدحام
رغم أن السيارات ذاتية القيادة تعد بمزيد من الراحة، فإن الدراسة تشير إلى احتمال ظهور آثار جانبية غير متوقعة. فإذا أصبحت مواقف السيارات خارج المدن خياراً سهلاً، فقد يفضل عدد أكبر من الأشخاص استخدام السيارات بدلاً من وسائل النقل العام. كما أن تحرك السيارات دون ركاب إلى مواقع الانتظار قد يزيد من حركة المرور الإجمالية. وتشير النماذج إلى أن انتشار هذه المركبات قد يؤدي إلى زيادة إجمالي المسافات المقطوعة ومدة التنقل مقارنة بالنظام التقليدي. وهنا تظهر مفارقة واضحة: قد تصبح الرحلة الفردية أكثر سهولة، لكن النظام كله قد يصبح أكثر ازدحاماً.
تغير سلوك التنقل
إلى جانب البنية التحتية، قد تؤثر السيارات ذاتية القيادة على سلوك الأفراد. فعندما لا تكون هناك حاجة للقيادة، يمكن استغلال وقت الرحلة للعمل أو الترفيه أو الراحة. وهذا قد يجعل الرحلات الطويلة أكثر قبولاً، ويدفع البعض للسكن في مناطق أبعد عن أماكن العمل. كما قد تتغير أوقات الانطلاق. فقد يختار المستخدمون توقيت رحلاتهم بناءً على ظروف المرور أو التكلفة أو الراحة، ما يؤدي إلى أنماط تنقل أكثر مرونة مقارنة بالروتين التقليدي. ولفهم هذه التغيرات، استخدم الباحثون نماذج تحاكي قرارات الأفراد بشأن توقيت الرحلة ومكان الوقوف والتوازن بين الزمن والتكلفة. وتشير النتائج إلى أن هذه القرارات ستصبح أكثر ديناميكية وتأثراً بالعوامل الاقتصادية.
يعتمد تأثير السيارات ذاتية القيادة النهائي على السياسات والتنظيم وليس على التكنولوجيا وحدها لتحقيق التوازن بين الكفاءة والازدحام (شاتوستوك)
تداعيات على التخطيط الحضري
بالنسبة لمخططي المدن، تنطوي هذه النتائج على فرص وتحديات في آن واحد. فالسيارات ذاتية القيادة قد تقلل الحاجة إلى مواقف السيارات في مراكز المدن، وتتيح استخداماً أكثر كفاءة للأراضي. لكنها في الوقت نفسه قد تزيد الضغط على شبكات الطرق إذا لم تتم إدارتها بشكل مناسب. وهذا يضع صناع القرار أمام مرحلة حاسمة، حيث ستؤثر السياسات المتعلقة بالنقل والبنية التحتية على كيفية استيعاب هذه التقنية.
تشير الدراسة إلى أن تأثير السيارات ذاتية القيادة يتجاوز النقل نفسه، ليصل إلى طريقة تصميم المدن. فإذا انتقلت مواقف السيارات إلى خارج المراكز، فقد تتغير قيمة الأراضي في هذه المناطق. وإذا أصبحت الرحلات أكثر مرونة، فقد تتبدل أنماط الازدحام التقليدية. كما أن زيادة الاعتماد على السيارات قد تفرض إعادة النظر في التوازن بين النقل الخاص والعام.
بين الابتكار والسياسات
في النهاية، لن يتحدد تأثير هذه التقنية بالتطور التكنولوجي فقط، بل بكيفية دمجها ضمن الأنظمة الحالية. فمن دون سياسات واضحة، قد تؤدي الراحة التي توفرها السيارات ذاتية القيادة إلى نتائج عكسية مثل زيادة الازدحام. أما إذا تم توجيهها بشكل مدروس، فقد تسهم في تحسين الكفاءة وتقليل التكاليف وتعزيز جودة الحياة في المدن.
غالباً ما تُقدَّم السيارات ذاتية القيادة كحل لمشكلات الازدحام، لكن الدراسة تشير إلى أنها تمثل تحولاً أعمق، يعيد تشكيل الأنظمة القائمة بدلاً من حلّها بشكل مباشر.
رحلة الصباح اليومية، التي كانت تعتمد على قرارات بشرية، قد تصبح قريباً محكومة بخوارزميات وعوامل اقتصادية وأنظمة آلية. والنتيجة النهائية لن تعتمد على التقنية فقط، بل على الخيارات التي تُتّخذ اليوم.
مارك زوكربيرغ الرئيس التنفيذي لـ«ميتا» يظهر بصورة خلف شعار الشركة (أ.ف.ب)
واشنطن:«الشرق الأوسط»
TT
واشنطن:«الشرق الأوسط»
TT
بدعوى لافتة... هيئة أميركية تُحمّل «إنستغرام» و«يوتيوب» مسؤولية إدمان وسائل التواصل
مارك زوكربيرغ الرئيس التنفيذي لـ«ميتا» يظهر بصورة خلف شعار الشركة (أ.ف.ب)
أصدرت هيئة محلفين حكماً يقضي بتحميل كل من شركتي «ميتا» و«يوتيوب» المسؤولية، في دعوى فريدة من نوعها تهدف إلى تحميل منصات التواصل الاجتماعي المسؤولية عن الأضرار التي تلحق بالأطفال المستخدمين لخدماتها، ومنحت للمدعية تعويضات بقيمة 3 ملايين دولار.
وقررت هيئة المحلفين في كاليفورنيا، بعد أكثر من 40 ساعة من المداولات على مدار تسعة أيام، أن شركتي «ميتا» و«يوتيوب» أهملتا في تصميم وتشغيل منصتيهما.
وأقرت هيئة المحلفين أيضاً أن إهمال كلتا الشركتين كان عاملاً جوهرياً في التسبب بالأذى للمدعية، وهي شابة تبلغ من العمر 20 عاماً تقول إن استخدامها لوسائل التواصل الاجتماعي في طفولتها أدى إلى إدمانها على التكنولوجيا وزاد من معاناتها النفسية.
شعار شركة «يوتيوب» (أ.ف.ب)
وأكدت القاضية كارولين بي كول أن هيئة المحلفين أبلغت المحكمة بأنها توصلت إلى حكم. ونبهت الجمهور ووسائل الإعلام بأنه ينبغي عليهم عدم إظهار أي رد فعل علني تجاه الحكم، أياً كان.
وقالت: «لا صراخ، لا ردود أفعال، لا إزعاج». وأضافت أن من يتصرف بهذه الطريقة سيتم إخراجه من قاعة المحكمة.
وكانت شركة «ميتا» وشركة «يوتيوب»، المملوكة لـ«غوغل»، هما المدعى عليهما الباقيين في القضية بعد أن توصلت شركتي «تيك توك» و«سناب» إلى تسويات قبل بدء المحاكمة.
دراسة تبحث: هل يغيّر الذكاء الاصطناعي طريقة تفكيرنا رغم صحة المعلومات؟https://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/5255168-%D8%AF%D8%B1%D8%A7%D8%B3%D8%A9-%D8%AA%D8%A8%D8%AD%D8%AB-%D9%87%D9%84-%D9%8A%D8%BA%D9%8A%D9%91%D8%B1-%D8%A7%D9%84%D8%B0%D9%83%D8%A7%D8%A1-%D8%A7%D9%84%D8%A7%D8%B5%D8%B7%D9%86%D8%A7%D8%B9%D9%8A-%D8%B7%D8%B1%D9%8A%D9%82%D8%A9-%D8%AA%D9%81%D9%83%D9%8A%D8%B1%D9%86%D8%A7-%D8%B1%D8%BA%D9%85-%D8%B5%D8%AD%D8%A9-%D8%A7%D9%84%D9%85%D8%B9%D9%84%D9%88%D9%85%D8%A7%D8%AA%D8%9F
دراسة تبحث: هل يغيّر الذكاء الاصطناعي طريقة تفكيرنا رغم صحة المعلومات؟
تلعب طريقة عرض المعلومات وسردها دوراً أساسياً في تشكيل الفهم وليس فقط مضمونها (شاترستوك)
مع تزايد اعتماد المستخدمين على أدوات الذكاء الاصطناعي للحصول على المعلومات، يبرز سؤال أساسي: هل تستطيع هذه الأنظمة التأثير ليس فقط في ما نعرفه، بل أيضاً في طريقة تفكيرنا؟
دراسة أكاديمية حديثة نُشرت في «PNAS Nexus» تحاول الإجابة عن هذا السؤال من خلال تحليل كيفية تأثير السرديات التاريخية التي ينتجها الذكاء الاصطناعي على آراء الأفراد. وتشير النتائج إلى أن المعلومات قد تكون دقيقة من حيث الوقائع، لكنها لا تكون بالضرورة محايدة في تأثيرها.
تجربة منهجية لقياس التأثير
اعتمدت الدراسة على تجربة واسعة شملت 1912 مشاركاً، وهدفت إلى قياس تأثير التعرض لنصوص تاريخية مولدة بالذكاء الاصطناعي على آراء الأفراد. عُرضت على المشاركين ملخصات لأحداث تاريخية تم إنشاؤها بواسطة الذكاء الاصطناعي، ثم طُلب منهم تقييم مواقفهم تجاه مواضيع مرتبطة بها. ولم يكن الهدف اختبار المعلومات المضللة، بل فهم ما إذا كان أسلوب العرض وحده حتى مع بقاء الحقائق ثابتة يمكن أن يؤثر في الحكم. والنتيجة كانت واضحة: نعم، يمكن لذلك أن يحدث. فحتى عندما لم تتغير الوقائع، أدت الاختلافات في طريقة السرد إلى تغيّر ملحوظ في آراء المشاركين. وهذا يعني أن التأثير لا يتطلب معلومات خاطئة، بل يمكن أن ينشأ من طريقة العرض نفسها.
يتحول دور الذكاء الاصطناعي من نقل المعلومات إلى تفسيرها ضمن سياق سردي متكامل (أدوبي)
التحيز الكامن: تأثير غير مرئي
تسلّط الدراسة الضوء على مفهوم ما يُعرف بـ«التحيز الكامن»، وهو التحيز الذي يظهر في النصوص دون قصد مباشر، نتيجة للبيانات التي تدربت عليها الأنظمة أو لطريقة صياغة الطلبات.
وبما أن أنظمة الذكاء الاصطناعي تعتمد على كميات ضخمة من البيانات البشرية، فهي تعكس أنماطاً وسياقات موجودة مسبقاً. وعند توليد محتوى، قد تميل إلى إبراز جوانب معينة على حساب أخرى.
هذا النوع من التحيز لا يكون واضحاً، ولا يتضمن بالضرورة أخطاء أو معلومات مضللة، بل يظهر من خلال اختيار التفاصيل وترتيبها وأسلوب عرضها.
أهمية صياغة السؤال
تشير الدراسة أيضاً إلى أن طريقة طرح السؤال أو الطلب تؤثر بشكل كبير في النتيجة. فالتغييرات البسيطة في صياغة السؤال يمكن أن تؤدي إلى اختلاف في طريقة عرض الحدث نفسه، حتى لو ظلت الوقائع ثابتة. وهذا يعني أن الذكاء الاصطناعي لا يسترجع المعلومات فقط، بل يعيد بناءها استجابةً لطريقة التفاعل معه. وبالتالي، فإن العلاقة بين المستخدم والنظام تصبح جزءاً من عملية إنتاج المعرفة، وليس مجرد وسيلة للوصول إليها.
على عكس محركات البحث التقليدية التي توفر روابط متعددة، يقدم الذكاء الاصطناعي محتوى جاهزاً ومترابطاً في شكل سردي. وهذا التحول له تأثير مهم على طريقة استيعاب المعلومات.
فعندما يقرأ المستخدم نصاً متماسكاً بدلاً من مصادر متعددة، يكون أكثر ميلاً لتقبّله كتصور متكامل، وليس كوجهة نظر ضمن مجموعة من الآراء. وهذا يزيد من تأثير الخيارات السردية غير الظاهرة داخل النص.
وتشير الدراسة إلى أن هذه الأنظمة لم تعد مجرد أدوات لنقل المعلومات، بل أصبحت وسيطاً تفسيرياً يؤثر في كيفية فهم الأحداث.
الدقة لا تعني الحياد
من أبرز استنتاجات الدراسة أن الدقة لا تضمن الحياد. فحتى عندما تكون المعلومات صحيحة، يمكن لطريقة تنظيمها وعرضها أن تؤثر في تفسيرها. وهذا يتحدى فكرة شائعة مفادها أن ضمان صحة المعلومات كافٍ لضمان موضوعيتها. في الواقع، قد يؤدي التركيز على عناصر معينة، أو تقديم سياق محدد، إلى توجيه الفهم بطريقة غير مباشرة.
ومع تزايد الاعتماد على الذكاء الاصطناعي لتلخيص المواضيع المعقدة، تكتسب هذه النتائج أهمية أكبر. فالمستخدمون قد يتعرضون لتفسيرات تبدو محايدة، لكنها تحمل تأثيرات ضمنية ناتجة عن أسلوب العرض. ولا يعني ذلك وجود نية للتضليل، بل يعكس طبيعة الأنظمة التي تحاول محاكاة اللغة البشرية من خلال بيانات واسعة ومعقدة.
تؤثر صياغة الأسئلة أو الطلبات بشكل كبير في طبيعة الإجابات التي يولدها الذكاء الاصطناعي
مجال بحثي يتوسع
تفتح هذه الدراسة الباب أمام مزيد من البحث حول تأثير الذكاء الاصطناعي على الإدراك البشري. فما زالت هناك تساؤلات حول اختلاف التأثير بين الأفراد، وكيف تتغير الاستجابة وفقاً للخلفية أو المعتقدات المسبقة. كما أن انتشار هذه الأنظمة قد يضاعف من تأثيرها على النقاش العام. تركز النقاشات غالباً على خطر المعلومات الخاطئة، لكن هذه الدراسة تشير إلى تحدٍّ مختلف يتعلق بتأثير المعلومات الصحيحة عندما تُعرض بطريقة معينة. وهذا يعني أن التأثير لا يأتي فقط من الخطأ، بل من طريقة عرض الحقيقة نفسها.
مسؤولية جديدة
تفرض هذه النتائج مسؤوليات جديدة على المطورين وصناع القرار والمستخدمين. فالحاجة لم تعد تقتصر على ضمان دقة المعلومات، بل تمتد إلى فهم كيفية إنتاجها وتقديمها. كما يصبح من الضروري تعزيز الوعي النقدي لدى المستخدمين عند التعامل مع المحتوى الناتج عن الذكاء الاصطناعي.
ومع تطور الذكاء الاصطناعي، تتغير العلاقة بين المعرفة والثقة. تشير هذه الدراسة إلى أن الثقة لا ينبغي أن تُبنى على صحة المعلومات فقط، بل أيضاً على فهم كيفية صياغتها وعرضها.
وبهذا المعنى، لم يعد الذكاء الاصطناعي مجرد أداة لنقل المعرفة، بل أصبح جزءاً من عملية تشكيلها. وهنا يكمن التحدي الحقيقي، ليس فقط في التأكد من صحة المعلومات، بل في فهم الطريقة التي تُروى بها.
