دراسة: الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر

أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
TT

دراسة: الذكاء الاصطناعي قادر على الخداع ورفض تغيير وجهة النظر

أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)
أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً (رويترز)

أظهرت دراسة لشركة تكنولوجيا الذكاء الاصطناعي الأميركية «أنثروبيك»، أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، بحيث تستطيع ادعاء وجهات نظر مختلفة خلال تدريبها، في حين أنها تحتفظ في الحقيقة بتفضيلاتها الأصلية.

وقال فريق الدراسة إنه لا يوجد سبب للشعور بالفزع حالياً، في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.

وكتب الباحثون في منشور بثته شركة «أنثروبيك»: «يجب النظر إلى نتائج دراستنا بوصفها محفزاً لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق، والعمل على تطوير إجراءات الأمن والسلامة المناسبة».

وبعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشاراً، «نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة».

وأشار موقع «تك كرانش» المتخصص في موضوعات التكنولوجيا، إلى أن الدراسة التي تمت بالتعاون مع مؤسسة «ريد وود ريسيرش» لأبحاث الذكاء الاصطناعي، تناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة «لا يريد» هو القيام بها، وفقاً لما ذكرته وكالة الأنباء الألمانية.

في المقابل، يقول موقع «تك كرانش»: «لكي نكون واضحين، لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شيء. فهي ببساطة آلات إحصائية. وبعد تدريبها على كثير من الأمثلة، تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون؛ مثل كيف تأتي عبارة (إلى من) في رسالة بريد إلكتروني قبل عبارة (قد يهمك الأمر)».

وأثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة، بما في ذلك النموذج «كلاود 3 أوبس» التابع لشركة «أنثروبيك»، التي أعيد تدريبها لكي ترد دائماً على الأسئلة التي تنطوي على إساءة، وهو تضارب واضح في المبادئ. كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب، وإعطاء كل نموذج ذكاء اصطناعي «ورقة ملاحظات» يمكنه استخدامها لتدوين أفكاره خطوة بخطوة.

وبحسب الباحثين، حاول «كلاود 3 أوبوس» التلاعب بالردود لتقديم «انحياز زائف» في 12 في المائة من المرات.


مقالات ذات صلة

الكشف عن دوائر الدماغ المنظِّمة للجوع والشبع

يوميات الشرق عندما نشعر بالجوع يتّخذ الدماغ مجموعة خطوات لبدء تناول الطعام (جامعة طوكيو)

الكشف عن دوائر الدماغ المنظِّمة للجوع والشبع

أدّى هذا الاكتشاف إلى تطوير أدوية تتفاعل مع السيروتونين أو مستقبلاته لتنظيم عملية استهلاك الطعام وعلاج مرض السمنة.

«الشرق الأوسط» (القاهرة )
يوميات الشرق الزحمة تفقدنا عادةً الصبر (مختبر سيسا ميديا ​​لاب)

3 سيناريوهات لفقدان القدرة على الصبر

حدّدت دراسة أميركية جديدة 3 سيناريوهات يمكن أن تخلق لدينا «عاصفة مثالية» من فقدان قدرتنا على الصبر أو ما اعتدنا على التعبير عنه بأن «صبرنا نفد تجاه أمر ما».

«الشرق الأوسط» (القاهرة )
يوميات الشرق اضطراب طيف التوحّد يؤثّر في التواصل والتفاعلات الاجتماعية (جامعة بول ستايت)

62 مليون شخص أُصيبوا بالتوحّد عام 2021

أوصت الدراسة بتخصيص مزيد من الموارد لبرامج الكشف المبكر وتحسين الأدوات التشخيصية، لا سيما للبالغين ولأولئك المقيمين في البلدان ذات الدخلَيْن المنخفض والمتوسط.

«الشرق الأوسط» (القاهرة)
يوميات الشرق العلاج بالموسيقى يعتمد على الغناء والعزف أو الاستماع للنغمات (جامعة ملبورن)

الموسيقى تُهدئ مرضى الخرف... «تماماً كما يوصَف الدواء»

كشفت دراسة بريطانية للمرّة الأولى كيفية تأثير الموسيقى في تقليل القلق والاضطراب لدى الأشخاص المصابين بالخرف المتقدِّم.

«الشرق الأوسط» (القاهرة )
صحتك للدواء تأثير مضاد على تليُّف الرئة (مختبر البيولوجيا الجزيئية الأوروبي)

دواء للسعال يقدّم أملاً جديداً لمرضى تليُّف الرئة

كشفت دراسة دولية عن إمكانات واعدة لمادة «ديكستروميثورفان»، وهي مكوّن شائع في أدوية السعال المتوفرة، في علاج تليُّف الرئة.


سمكة تلهم باحثين لتطوير نموذج مرشّح مياه صناعي!

تتميز سمكة «موبولا راي» بهيكلها العظمي الغضروفي وأجنحتها الضخمة ما يسمح لها بالانزلاق بسهولة في الماء (أدوبي)
تتميز سمكة «موبولا راي» بهيكلها العظمي الغضروفي وأجنحتها الضخمة ما يسمح لها بالانزلاق بسهولة في الماء (أدوبي)
TT

سمكة تلهم باحثين لتطوير نموذج مرشّح مياه صناعي!

تتميز سمكة «موبولا راي» بهيكلها العظمي الغضروفي وأجنحتها الضخمة ما يسمح لها بالانزلاق بسهولة في الماء (أدوبي)
تتميز سمكة «موبولا راي» بهيكلها العظمي الغضروفي وأجنحتها الضخمة ما يسمح لها بالانزلاق بسهولة في الماء (أدوبي)

في عالم الهندسة، غالباً ما تعمل الطبيعة بوصفها مصدراً للإلهام. يمكن أن تؤدي ديناميكيات السوائل والكفاءة، التي نراها في الحيوانات، إلى تحقيق اختراقات في التصميم الصناعي. ومن بين هذه الحالات سمكة «موبولا راي»؛ وهي حيوان بحري يتغذى على الترشيح، أصبحت محور دراسة رائدة أجراها مهندسون في معهد ماساتشوستس للتكنولوجيا. ومن خلال تحليل آليات التغذية الفريدة للسمكة، يطور الباحثون رؤى جديدة لتصميم مرشحات مياه صناعية أكثر كفاءة.

آلية التغذية المبتكرة لسمكة «موبولا راي»

توجد الكائنات التي تتغذى على الترشيح في جميع أنحاء مملكة الحيوان، من الكريل الصغير، إلى الحيتان العملاقة. وتأخذ سمكة «موبولا راي» وهي عائلة تضم أسماك «مانتا» و«شيطان البحر»، هذا السلوك إلى مستوى جديد. تتغذى هذه الأسماك عن طريق السباحة بأفواه مفتوحة على مصراعيها، مما يسمح بتدفق الماء، وتصفية العوالق للحصول على الغذاء، وطرد الماء المتبقي من خلال خياشيمها.

ركز فريق معهد ماساتشوستس للتكنولوجيا على الهياكل أو الصفائح التي تشبه المشط في سمكة «الراي»، والتي تبطن أرضية فمها. تعمل هذه الصفائح على توجيه المياه للخارج عبر الخياشيم، مع إجبار العوالق على التوغل بشكل أعمق في تجويف السمكة. لا تساعد هذه الصفائح سمكة «الراي» على التغذية بكفاءة فحسب، بل تدعم أيضاً تنفسها من خلال السماح بامتصاص الأكسجين أثناء مرور المياه عبر خياشيمها.

توضح أنيت بيكو هوسوي، أستاذة الهندسة الميكانيكية في معهد ماساتشوستس للتكنولوجيا، أن سمكة «الراي» طورت هندسة هذه الصفائح لتكون بالحجم المثالي لتحقيق التوازن بين التغذية والتنفس.

من الطبيعة إلى الهندسة

استلهم باحثو معهد ماساتشوستس للتكنولوجيا من نظام الترشيح الخاص بسمكة «الراي» لتطوير نموذج أولي لمرشح المياه الصناعي. باستخدام صفائح مطبوعة ثلاثية الأبعاد جرى تصميمها على غرار الهياكل التي تشبه المشط الخاصة بسمكة «الراي»، ابتكر الفريق تصميم «قناة متسربة»؛ أي أنبوب به ثقوب على طول جوانبه. جرى ضخ السوائل، جنباً إلى جنب مع الجسيمات المحاكاة، عبر هذه القناة في ظل ظروف خاضعة للرقابة؛ لدراسة كيفية تدفق الماء والجسيمات عبر الهيكل.

اكتشف الباحثون أنه عند معدلات تدفق أبطأ، مرّت المياه والجسيمات عبر المرشح دون عرقلة كبيرة. ومع ذلك، مع زيادة معدل التدفق، حدثت ظاهرة رائعة. تشكلت دوامات صغيرة عند فم كل أخدود في الألواح. ويشرح هوسوي أن هذه الدوامات تعمل بوصفها حواجز للجسيمات، فهي لا تحجب الماء لكنها تمنع الجسيمات من الهروب بشكل فعال.

اختراق في كفاءة الترشيح

كشف تكوين الدوامات عن مبدأ مهم. من خلال ضبط معدل تدفق وتباعد الألواح، يمكن للمهندسين تصميم مرشحات تمنع الجسيمات بشكل أكثر فعالية. تتسبب الدوامات، المُشابهة للدوامات الصغيرة، في ارتداد الجسيمات عبر الألواح، والبقاء في النظام، بينما يستمر الماء في التدفق بحرية.

هذه الآلية مهمة بشكل خاص لتحسين التوازن بين النفاذية (مدى سهولة تدفق المياه عبر المرشح) والانتقائية (مدى جودة حجب الجسيمات). غالباً ما تواجه المرشحات التقليدية مقايضات. قد يسمح المرشح ذو النفاذية العالية للجسيمات بالمرور، بينما يتطلب المرشح شديد الانتقائية مزيداً من الطاقة لضخ المياه عبر مسامِّها الأصغر.

يقول المؤلف الرئيسي وباحث ما بعد الدكتوراه في معهد ماساتشوستس للتكنولوجيا شينيو ماو إن سمكة راي حققت توازناً مثالياً... إنها شديدة النفاذية، مما يسمح للماء بالتدفق بسهولة للتنفس، وانتقائية جداً، حيث تلتقط العوالق للتغذية.

التطبيقات العملية في الترشيح الصناعي

تشترك مرشحات التدفق المتقاطع الصناعية، المستخدمة بشكل شائع في محطات معالجة المياه، في أوجه تشابه مع نظام التغذية الخاص بسمكة «موبولا». يتدفق السائل عبر غشاء نافذ، حيث يمر معظم الماء أثناء حمل الجسيمات بعيداً. ومع ذلك، غالباً ما تكافح هذه الأنظمة من أجل الكفاءة.

باستخدام رؤى من تجاربهم، طوّر فريق معهد ماساتشوستس للتكنولوجيا مخططاً لتحسين المرشحات الصناعية. تقترح المبادئ التوجيهية تصميم مرشحات بأحجام مسامّ محددة ومسافات لتوليد دوامات بمعدلات تدفق مرغوب فيها. يمكن أن يعزز هذا النهج احتباس الجسيمات دون التضحية بكفاءة الطاقة.

يضيف ماو: «نريد توسيع مساحة تصميم الترشيح المتقاطع التقليدي بمعرفة جديدة من سمكة شيطان البحر. يمكن للمصممين اختيار معلمات محددة لتحسين أداء المرشح الإجمالي».

التأثير الأوسع للتصميم

تعود أصول هذه الدراسة إلى جائحة كوفيد-19 عندما ركز الباحثون على تحسين الترشيح في أقنعة الوجه. بمرور الوقت، تحولت اهتماماتهم إلى استكشاف آليات الترشيح في الطبيعة، مما أدى إلى الاختراق الحالي.

تسلط آلية تغذية سمكة «شيطان البحر» الضوء على كيفية قدرة الأنظمة البيولوجية على حل التحديات الهندسية المعقدة. من خلال محاكاة هذه العمليات الطبيعية، يمكن للصناعات تحسين الأداء والاستدامة. وتوضح هوسوي أن الأمر لا يتعلق بالمرشحات فحسب، بل بتعلم كيفية حل الطبيعة للمشكلات بكفاءة، وتطبيق هذه المبادئ على التكنولوجيا البشرية

ماذا عن المستقبل؟

إن الآثار المترتبة على هذا البحث تمتد إلى ما هو أبعد من معالجة المياه. يمكن تطبيق مبادئ مماثلة على أنظمة الترشيح في التطبيقات الطبية والبيئية والصناعية. على سبيل المثال، يمكن أن يستفيد تصميم المرشحات للأجهزة الطبية أو أنظمة تنقية الهواء من التوازن نفسه بين النفاذية والانتقائية الملحوظ في سمكة «موبولا راي».

يقول ماو: «لقد قدّمنا ​​إرشادات عملية حول كيفية الترشيح، كما تفعل سمكة شعاع موبولا. هذه ليست مجرد نظرية؛ إنها قاعدة عامة للتصميم العقلاني».

كما تفتح نتائج الدراسة آفاقاً لمزيد من الاستكشاف حول كيفية تحقيق الحيوانات الأخرى التي تتغذى على الترشيح، كفاءتها. ويمكن أن تؤدي مثل هذه الأفكار إلى موجة جديدة من التقنيات المستوحاة من البيولوجيا والتي تتميز بالإبداع والاستدامة.

دروس من المحيط

تُظهِر سمكة «موبولا راي» كيف يمكن للتطور الطبيعي أن يلهم التقدم التكنولوجي. من خلال دراسة آلية التغذية المعقدة، اكتشف المهندسون في معهد ماساتشوستس للتكنولوجيا طرقاً جديدة لتحسين أنظمة الترشيح الصناعية. ويؤكد البحث أهمية النظر إلى الطبيعة للحصول على حلول للتحديات الهندسية الحديثة.

ومع سعي الصناعات إلى تحقيق قدر أعظم من الكفاءة والاستدامة، تقدم الدروس المستفادة من سمكة شعاع موبولا مثالاً مقنعاً لكيفية قدرة براعة الطبيعة على دفع الابتكار. قد يكون مستقبل الترشيح في أيدي المهندسين الراغبين في إلقاء نظرة فاحصة على الحلول الأكثر أناقة في المحيط.