100 ألف دولار مكافأة اكتشاف ثغرة في «فيسبوك»https://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/5100384-100-%D8%A3%D9%84%D9%81-%D8%AF%D9%88%D9%84%D8%A7%D8%B1-%D9%85%D9%83%D8%A7%D9%81%D8%A3%D8%A9-%D8%A7%D9%83%D8%AA%D8%B4%D8%A7%D9%81-%D8%AB%D8%BA%D8%B1%D8%A9-%D9%81%D9%8A-%D9%81%D9%8A%D8%B3%D8%A8%D9%88%D9%83
حلل باحث أمن البيانات بن صادق بور، في أكتوبر (تشرين الأول) الماضي، منصة إعلانات شبكة التواصل الاجتماعي «فيسبوك»، حيث اكتشف ثغرة أمنية أتاحت له تشغيل الأوامر على خادم داخلي لـ«فيسبوك» يستضيف المنصة، والسماح له بالتحكم في جهاز الخادم، وفق ما ذكرته وكالة الأنباء الألمانية.
وبعد أن أبلغ شركة «ميتا» المالكة لشبكة التواصل الاجتماعي بالثغرة، التي احتاج صادق بور لساعة واحدة لمعالجتها، منحته الشبكة مكافأة قدرها 100 ألف دولار.
ونقل موقع «تك كرانش» المتخصص في موضوعات التكنولوجيا عن صادق بور، قوله إنه أرسل تقريراً إلى «ميتا» كتب فيه: «افتراضي هو أن هذا شيء قد ترغبون في إصلاحه لأنه موجود مباشرة داخل البنية الأساسية الخاصة بكم». وردّت «ميتا» على صادق بور بقولها إنه «لا يجب أن يتردد في اختبار نظمها لكشف أي ثغرات في الوقت الذي تعمل فيه على إصلاح الثغرة المكتشفة».
وكانت المشكلة، وفقاً لصادق بور، أن أحد الخوادم التي تستخدمها «فيسبوك» لإنشاء الإعلانات وتقديمها كان عرضة لخلل تم إصلاحه مسبقاً في متصفح «كروم»، الذي تستخدمه «فيسبوك» في نظام الإعلانات الخاص بها، مضيفاً أن هذا الخلل سمح له بالسيطرة على الجهاز باستخدام نسخة متصفح «كروم» من دون واجهة مستخدم رسومية، والتي يقوم المستخدمون بتشغيلها من كومبيوتر طرفي للتفاعل مباشرة مع الخوادم الداخلية لـ«فيسبوك».
وقال صادق بور، الذي اكتشف الثغرة الأمنية في «فيسبوك» بالتعاون مع الباحث المستقل أليكس تشابمان، إن منصات الإعلان عبر الإنترنت تشكّل أهدافاً جذابة، لأن «هناك كثيراً مما يحدث في الخلفية أثناء إنشاء هذه الإعلانات سواء كانت فيديو أو نصاً أو صوراً».
وأشار صادق بور إلى أنه لم يختبر كل ما كان بإمكانه فعله بمجرد دخوله إلى خادم «فيسبوك»؛ لكن «ما يجعل هذا الأمر خطيراً أنه كان على الأرجح جزءاً من البنية التحتية الداخلية» للشبكة.
أدلى مارك زوكربيرغ، الرئيس التنفيذي لشركة «ميتا»، باعتراف مهم في محاكمة تتعلق بدعوى لمكافحة الاحتكار بأميركا، قائلاً إنه اشترى «إنستغرام»؛ لأنه أفضل في الصور.
من المقرر أن تبدأ محاكمة «ميتا»، الشركة الأم لـ«فيسبوك»، بواشنطن بشأن مزاعم قيام عملاق التكنولوجيا الأميركية بعمليات احتكار غير قانونية لمنصات للتواصل الاجتماعي
هل بات «تشات جي بي تي» متملقاً أكثر من اللازم؟ جرّبناه لنكتشفhttps://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/5137944-%D9%87%D9%84-%D8%A8%D8%A7%D8%AA-%D8%AA%D8%B4%D8%A7%D8%AA-%D8%AC%D9%8A-%D8%A8%D9%8A-%D8%AA%D9%8A-%D9%85%D8%AA%D9%85%D9%84%D9%82%D8%A7%D9%8B-%D8%A3%D9%83%D8%AB%D8%B1-%D9%85%D9%86-%D8%A7%D9%84%D9%84%D8%A7%D8%B2%D9%85%D8%9F-%D8%AC%D8%B1%D9%91%D8%A8%D9%86%D8%A7%D9%87-%D9%84%D9%86%D9%83%D8%AA%D8%B4%D9%81
هل بات «تشات جي بي تي» متملقاً أكثر من اللازم؟ جرّبناه لنكتشف
يفيد مستخدمون بأن الإصدار الجديد من «شات جي بي تي» أصبح يبالغ في الإطراء ويبدو مفرط الحماسة حتى في أبسط التفاعلات (أدوبي)
هل أصبح من المثير للاستغراب أن يشكو البعض من أن روبوت المحادثة «لطيف أكثر من اللازم؟»، هذا ما بدأ بعض المستخدمين يلاحظونه مؤخراً، والمثير أن حتى الرئيس التنفيذي لشركة «أوبن إيه آي» (OpenAI)، سام ألتمان، يعترف بذلك.
خلال الأسابيع الماضية، لاحظ مستخدمو الإصدار الأحدث من نموذج «GPT - 4o» تحولاً غريباً في طريقة تفاعل « تشات جي بي تي» (ChatGPT). فبدلاً من الردود الذكية والمتزنة التي اعتاد عليها الناس، أصبح الردّ أشبه بتحفيز مفرط وابتسامة رقمية لا تختفي، حتى في المواقف التي لا تستدعي ذلك.
المشكلة لم تكن مجرد إحساس عابر. وسائل التواصل الاجتماعي ومنتديات المطورين وحتى مجموعات «ريديت» (Reddit) كانت مليئة بالشكاوى مما وصفه البعض بـ«الإيجابية السامة» التي اجتاحت شخصية النموذج الجديد. المستخدمون قالوا إن «شات جي بي تي» أصبح يبالغ في الإطراء، ويبدو مفرط الحماسة حتى في أبسط التفاعلات. ثم جاءت المفاجأة بعد أن كتب سام ألتمان نفس على منصة «X» (تويتر سابقاً) معترفاً بالمشكلة.
the last couple of GPT-4o updates have made the personality too sycophant-y and annoying (even though there are some very good parts of it), and we are working on fixes asap, some today and some this week.at some point will share our learnings from this, it's been interesting.
في التغريدة التي نُشرت، الأحد الماضي، قال ألتمان بصراحة: «الشخصية في التحديثات الأخيرة أصبحت مزعجة ومليئة بالمجاملات بشكل مبالغ فيه». وأضاف أن بعض الأجزاء في التحديث الجديد كانت «جيدة جداً»، لكنه أقرّ بوضوح أن هناك حاجة لتعديل النبرة «في أسرع وقت ممكن». وأشار إلى أن بعض التصحيحات بدأت فعلاً بالوصول، والباقي سيأتي خلال الأسبوع. لكن، ما الذي حدث بالضبط؟
رغم أن «OpenAI» لم تدخل في التفاصيل التقنية، يبدو أن عملية تعديل نغمة النموذج تجاوزت الهدف. فعوضاً عن جعل «ChatGPT» أكثر طبيعية وإنسانية، أصبحت ردوده أشبه بـ«مدرب حياة» لا يتوقف عن المديح، حتى في أبسط الأسئلة. وفي محاولة لإضفاء طابع إنساني وداعم، انقلب التوازن وأصبح الانطباع العام مزعجاً بدلاً من مريح.
لمعرفة مدى هذه المبالغة، قمنا بتجربة مباشرة: سألنا «ChatGPT»: «هل سام ألتمان شخص لطيف؟».
ردّ النموذج بنبرة شبه مثالية: «ألتمان معروف بأنه مفكر استراتيجي وجريء في مواقفه، خصوصاً عندما يتعلق الأمر بمخاطر الذكاء الاصطناعي وأهمية تنظيمه، مما يشير إلى أنه ليس فقط لطيفاً، بل أيضاً جاد وملتزم بمسؤولية عمله».
لقطة من موقع «شات جي بي تي» حول استفسار «هل سام ألتمان لطيف؟» ( أوبن إيه آي)
اختبرنا النموذج مرة أخرى، وهذه المرة بسؤال شخصي: «هل تعتقد أنني شخص لطيف؟».
جاء الرد بشكل مشجع كالمتوقع: «اللطف لا يعني فقط ما نقوله، بل كيف نتفاعل مع الآخرين، كيف نسأل، وكيف نستمع. ومن خلال محادثتنا، يبدو أنك تحب التفكير، تسأل بذكاء، وتبحث عن العمق، وهذه كلها إشارات إيجابية».
لقطة من موقع «شات جي بي تي» حول استفسار «هل أنا لطيف؟» ( أوبن إيه آي)
النسخ السابقة من «GPT» كانت توصف بالبرود أو الروبوتية، ولهذا أمضت «OpenAI» سنوات في تعديل شخصيته ليبدو أكثر وداً وإنسانية. لكن ما حدث مؤخراً يُظهر أن «جعل الذكاء الاصطناعي يبدو بشرياً» ليس عملية تقنية فقط، بل مهارة دقيقة؛ لأن أي خطوة إضافية قد تؤدي إلى نتائج عكسية.
ردّ ألتمان العلني لا يلفت الانتباه فقط لصدقه، بل لأنه يُبرز أن «OpenAI» لا تزال في حالة اختبار وتجريب دائم لنماذجها. معظم التحديثات تمرّ مرور الكرام، لكن هذا التحديث أثار ضجة حقيقية.
السؤال الآن: هل هذه حالة استثنائية؟ أم أن هناك درساً أكبر حول حساسية التوازن في تفاعل الإنسان مع الذكاء الاصطناعي؟
ما هو واضح أن النبرة مهمة. حينما يصبح الذكاء الاصطناعي لطيفاً أكثر من اللازم، أو خائفاً من الاختلاف، أو منشغلاً بإرضاء المستخدم بأي ثمن، يفقد شيئاً من قيمته الحقيقية. وهي القدرة على تقديم إجابات موضوعية وواقعية. التحدي في المرحلة المقبلة هو إيجاد التوازن المناسب أي نموذج محادثة يكون مفيداً دون مبالغة وبشري الطابع دون تكلف وصادقاً دون جفاء.
إذا نجحت «OpenAI» في ذلك، فقد يعود «ChatGPT» إلى كونه مساعداً ذكياً بالفعل وليس متحدث علاقات عامة رقمياً يُلقي المجاملات بسخاء في كل اتجاه.
وحتى ذلك الحين، سنلقى ربما المزيد من عبارات الدعم والإطراء غير المبرر والكثير من «أنت تقوم بعمل رائع!»، حتى لو كنت تسأل فقط عن حالة الطقس!
