قالت الأكاديمية الصينية لتكنولوجيا مركبات الإطلاق، يوم الجمعة الماضي، إنه خلال إطلاق فضائي حديث، اختبرت الصين نظاما مظليا يمكن أن يساعد في توجيه معززات الصواريخ المتساقطة إلى المناطق المستهدفة.
وتم تطبيق النظام على صاروخ من طراز «لونغ مارتش 3 بي» يحمل قمرا تابعا لنظام بيدو للملاحة عبر الأقمار الصناعية إلى مداره في 17 مايو (آيار) من مركز شيتشانغ لإطلاق الأقمار الصناعية في مقاطعة سيتشوان، وفقا للأكاديمية، وذلك حسب ما ذكرت «صحيفة الشعب الصينية أونلاين»، اليوم (الاثنين)، نقلا عن وكالة أنباء «شينخوا».
وحسب الصحيفة، قامت الأكاديمية بتطوير المظلة التي أسقطت المعززات الصاروخية إلى موقع محدد مسبقا، ما أدى إلى تضييق نطاق منطقة الهبوط بنسبة 80 في المئة.
وفي هذا الاطار، تم تصميم النظام لإعطاء تحكم أكثر دقة في مكان هبوط معززات الصواريخ، ويمكن للنظام فتح البارافويل الخاص به تلقائيا عند ارتفاع معين من الهبوط، وتوجيه المعززات إلى منطقة الهبوط المحددة.
جدير بالذكر، ان معظم مواقع الإطلاق الرئيسية في الصين تقع في عمق أراضي الصين الداخلية، ما يعني أن منع أجزاء الصواريخ المتساقطة من الهبوط بشكل غير متوقع، خاصة في المناطق ذات الأنشطة البشرية، أصبح مهمة ملحة للعلماء.
اكتشف علماء سكَّراً طبيعياً يطفو في الفضاء بين النجوم، في كشف قد يُغيّر جذرياً مسار البحث عن الحياة خارج كوكب الأرض...
«الشرق الأوسط» (لندن)
هل اكتشف العلماء «غرفة التفكير» داخل الذكاء الاصطناعي؟https://aawsat.com/%D8%B9%D9%84%D9%88%D9%85/5305090-%D9%87%D9%84-%D8%A7%D9%83%D8%AA%D8%B4%D9%81-%D8%A7%D9%84%D8%B9%D9%84%D9%85%D8%A7%D8%A1-%D8%BA%D8%B1%D9%81%D8%A9-%D8%A7%D9%84%D8%AA%D9%81%D9%83%D9%8A%D8%B1-%D8%AF%D8%A7%D8%AE%D9%84-%D8%A7%D9%84%D8%B0%D9%83%D8%A7%D8%A1-%D8%A7%D9%84%D8%A7%D8%B5%D8%B7%D9%86%D8%A7%D8%B9%D9%8A%D8%9F
هل اكتشف العلماء «غرفة التفكير» داخل الذكاء الاصطناعي؟
لماذا يحتاج الطبيب إلى تفسير الذكاء الاصطناعي؟
ماذا يحدث داخل الذكاء الاصطناعي في الثواني القليلة التي تسبق كتابة أول كلمة؟ لطالما شُبّهت النماذج اللغوية الكبيرة بـ«الصندوق الأسود»؛ فنحن نطرح سؤالاً، وبعد ثوانٍ نحصل على إجابة تبدو منطقية ومترابطة، لكننا لا نعرف بدقة ما الذي جرى داخل النموذج بين لحظة تلقي السؤال ولحظة ظهور الإجابة.
ولم يعد هذا الغموض مجرد فضول علمي؛ إذ يمثل واحداً من أكبر التحديات أمام استخدام الذكاء الاصطناعي في الطب والقضاء والقطاعات الحساسة، حيث لا تكفي دقة النتيجة وحدها، بل يجب أيضاً فهم الأساس الذي بُني عليه القرار، وإمكان مراجعته ومساءلة المسؤولين عنه.
وفي دراسة نُشرت في 6 يوليو (تموز) 2026 بعنوان «التمثيلات القابلة للتعبير تكوّن مساحة عمل عالمية داخل النماذج اللغوية»، قدّم باحثون من شركة «أنثروبيك» (Anthropic) أدلة على وجود بنية داخلية جديدة في نموذج «كلود» (Claude)، قد تساعد في تفسير الكيفية التي ينظم بها النموذج المعلومات ويصل إلى استجاباته. ويرى الباحثون أن هذه البنية تؤدي وظائف تشبه ما يُعرف في علوم الأعصاب بـ«مساحة العمل العالمية» (Global Workspace)، وهي النظرية التي تفسر كيفية تنظيم الدماغ للمعلومات قبل اتخاذ القرار.
من الدماغ إلى الذكاء الاصطناعي
فكرة جاءت من علم الأعصاب
تستند هذه الفكرة إلى نظرية في علم الإدراك طرحها عالم الإدراك البريطاني برنارد بارس في ثمانينات القرن الماضي، ثم طوّرها لاحقاً باحثون في علوم الأعصاب. وتفترض هذه النظرية أن الدماغ يعالج المعلومات عبر شبكات عصبية متخصصة تعمل بالتوازي، قبل أن تنتقل المعلومات الأكثر أهمية إلى «مساحة عمل» مركزية، حيث تصبح متاحة لبقية مناطق الدماغ لاتخاذ القرار أو صياغة الاستجابة.
والمثير في الدراسة أن تحليلات باحثي شركة «أنثروبيك» تشير إلى أن نموذج «كلود» لم يُبرمج وفق هذه النظرية، لكنه طوّر أثناء التدريب بنية داخلية تؤدي وظائف متشابهة، من خلال تنظيم المعلومات وإتاحتها لأجزاء مختلفة من النموذج خلال عملية الاستدلال.
ومع ذلك، يؤكد الباحثون أن هذا التشابه لا يعني امتلاك الذكاء الاصطناعي وعياً أو إدراكاً ذاتياً، بل يصف آلية حسابية لتنظيم المعلومات قد تساعد في تفسير كيفية وصول النموذج إلى بعض استجاباته.
> ما هي «مساحة جيه»؟ لا يستطيع الباحثون رؤية «الأفكار» داخل النموذج اللغوي بصورة مباشرة، لكنهم طوروا أداة تحليل جديدة أطلقوا عليها اسم «عدسة جاكوبيان» (Jacobian Lens)، تتيح تتبع بعض التمثيلات الداخلية التي يستخدمها النموذج أثناء معالجة المعلومات.
وباستخدام هذه الأداة، رصد الباحثون فضاءً تمثيلياً أطلقوا عليه اسم «مساحة جيه» (J-Space)، وهو مجموعة من التمثيلات الداخلية القابلة للتعبير، يبدو أنها تؤدي دوراً محورياً في تنظيم المعلومات أثناء عملية الاستدلال، قبل أن تتحول إلى كلمات يراها المستخدم.
ويشبّه الباحثون هذه العملية باجتماع يعقده فريق من الخبراء داخل مؤسسة كبيرة؛ إذ يقدّم كل عضو ما لديه من معلومات، ثم تُدمج الأفكار الأكثر أهمية قبل إصدار القرار النهائي. وما يراه المستخدم في النهاية ليس ذلك النقاش الداخلي، بل النتيجة التي خرج بها. ولم تقتصر أهمية «عدسة جاكوبيان» على كشف وجود هذه البنية، بل أتاحت أيضاً للباحثين تتبع بعض المفاهيم التي يحتفظ بها النموذج أثناء الاستدلال، وهو ما لم يكن ممكناً في النماذج اللغوية السابقة.
قبل أن يكتب الذكاء الاصطناعي إجابته
> الاستدلال قبل الكلمات. تشير نتائج الدراسة إلى أن النموذج لا يبدأ بتوليد الكلمات فور تلقي السؤال، بل يمر أولاً بمرحلة داخلية تتشكل فيها مجموعة محدودة من التمثيلات المرتبطة بالمفاهيم ذات الصلة، وتُستخدم لتوجيه عملية الاستدلال قبل ظهور أول كلمة للمستخدم.
ولعل أكثر ما يثير الاهتمام أن بعض هذه التمثيلات قد لا يظهر إطلاقاً في الإجابة النهائية، وهو ما يشبه - من الناحية الوظيفية - تفكير الإنسان بصمت قبل أن يتحدث، مع اختلاف جوهري بين الحالتين.
ويؤكد الباحثون أن هذا التشابه لا ينبغي تفسيره على أنه دليل على وجود وعي أو مشاعر أو إدراك ذاتي لدى النموذج، بل هو وصف لآلية حسابية تنظم تدفق المعلومات أثناء الاستدلال، ولا تحمل أي دلالة على وجود تجربة ذهنية شبيهة بالإنسان.
> ماذا يحدث إذا تعطلت «مساحة جيه»؟ لاختبار أهمية هذه البنية الداخلية، أجرى الباحثون سلسلة من التجارب عطّلوا فيها تأثير التمثيلات الموجودة داخل «مساحة جيه»، مع الإبقاء على بقية مكونات النموذج دون تغيير.
وأظهرت النتائج أن النموذج ظل قادراً على إنتاج لغة سليمة والإجابة عن الأسئلة البسيطة، إلا أن أداءه تراجع بصورة ملحوظة في المهام التي تتطلب استدلالاً متعدد الخطوات، أو تلخيص النصوص، أو الربط بين معلومات متباعدة، أو معالجة المشكلات المعقدة.
وتشير هذه النتائج إلى أن هذه البنية تؤدي دوراً أساسياً في دعم عمليات الاستدلال داخل النموذج. قطاع الطب والرعاية الصحية
> لماذا يهم هذا الأطباء؟ قد يبدو هذا الاكتشاف نظرياً للوهلة الأولى، لكنه يحمل دلالات مهمة لمستقبل الرعاية الصحية؛ فالطبيب لا يريد فقط أن يعرف أن نظام الذكاء الاصطناعي أوصى بتشخيص معين أو اقترح خطة علاج، بل يحتاج أيضاً إلى فهم الأساس الذي استند إليه ذلك القرار، لا سيما عندما يتعلق الأمر بحالة قد يترتب عليها تدخل علاجي أو جراحي.
داخل عقل الذكاء الاصطناعي
ولا تدّعي هذه الدراسة أنها جعلت قرارات النماذج اللغوية قابلة للتفسير الكامل، لكنها تفتح الباب أمام تطوير أدوات قد تساعد مستقبلاً في فهم الكيفية التي تنظم بها هذه النماذج معلوماتها قبل الوصول إلى الاستنتاج النهائي.
وإذا أكدت الدراسات اللاحقة إمكانات هذه المقاربة، فقد تسهم في تطوير معايير جديدة لتقييم أنظمة الذكاء الاصطناعي قبل استخدامها في التطبيقات الطبية، بحيث لا يقتصر الحكم على دقة النتائج، بل يشمل أيضاً شفافية عملية الاستدلال وإمكان مراجعتها.
> نافذة جديدة لحوكمة الذكاء الاصطناعي. لا تقتصر أهمية هذه الدراسة على فهم كيفية عمل النماذج اللغوية، بل قد تفتح أيضاً آفاقاً جديدة أمام حوكمة الذكاء الاصطناعي، لا سيما في التطبيقات عالية الخطورة مثل الرعاية الصحية.
فبدلاً من الاكتفاء بتقييم الإجابة النهائية، قد تتيح هذه الأدوات مستقبلاً فحص بعض التمثيلات الداخلية التي يعتمد عليها النموذج أثناء الاستدلال، بما يساعد الباحثين في رصد مؤشرات ترتبط بدرجة عدم اليقين، أو بمحاولات تضليل النموذج، أو بالاعتماد على معلومات غير كافية قبل الوصول إلى النتيجة النهائية.
وإذا أكدت الدراسات اللاحقة إمكانات هذه المقاربة، فقد تسهم في تطوير معايير جديدة لتقييم أنظمة الذكاء الاصطناعي قبل استخدامها في التطبيقات الطبية، بحيث لا يقتصر الحكم على دقة النتائج، بل يشمل أيضاً شفافية عملية الاستدلال وإمكان مراجعتها.
وقد يمثل ذلك تحولاً مهماً في فلسفة الحوكمة؛ إذ لن يقتصر السؤال مستقبلاً على: هل كانت الإجابة صحيحة؟ بل سيمتد إلى سؤال أكثر أهمية: كيف وصل النظام إلى هذه الإجابة؟ وهل يمكن الوثوق في الطريقة التي استدل بها؟
> من الصندوق الأسود إلى الصندوق الزجاجي. قد لا تكمن القيمة الأهم لهذه الدراسة في أنها كشفت ما يدور داخل النماذج اللغوية، بل في أنها أثبتت أن فهم بعض آلياتها الداخلية لم يعد أمراً مستحيلاً؛ فعلى مدى سنوات، انصب اهتمام الباحثين على تقييم جودة الإجابات التي تقدمها أنظمة الذكاء الاصطناعي، أما اليوم فقد بدأ الاهتمام ينتقل تدريجياً إلى فهم الكيفية التي تتشكل بها تلك الإجابات قبل أن تظهر للمستخدم.
ولا يزال الطريق طويلاً قبل الوصول إلى نماذج قابلة للتفسير الكامل، لكن هذه الدراسة قد تمثل بداية الانتقال من عصر «الصندوق الأسود»، الذي نحكم فيه على الذكاء الاصطناعي من خلال نتائجه فقط، إلى عصر «الصندوق الزجاجي»، الذي نحاول فيه فهم المنطق الذي قاد إلى تلك النتائج.
وقد يكون هذا التحول هو الخطوة الأهم نحو بناء جيل جديد من الذكاء الاصطناعي الجدير بالثقة. ففي الطب، لا تكفي الإجابة الصحيحة وحدها، بل يجب أيضاً أن تكون طريقة الوصول إليها مفهومة، وقابلة للمراجعة، وجديرة بثقة الطبيب والمريض.
وربما لم يعد السؤال الأهم: هل يستطيع الذكاء الاصطناعي أن يقدم الإجابة الصحيحة؟ بل أصبح: هل يمكن للطبيب أن يثق بإجابة لا يستطيع أحد تفسيرها؟
الجذور الجينية المشتركة للاضطرابات النفسية... طفرة علمية في الطب النفسيhttps://aawsat.com/%D8%B9%D9%84%D9%88%D9%85/5305086-%D8%A7%D9%84%D8%AC%D8%B0%D9%88%D8%B1-%D8%A7%D9%84%D8%AC%D9%8A%D9%86%D9%8A%D8%A9-%D8%A7%D9%84%D9%85%D8%B4%D8%AA%D8%B1%D9%83%D8%A9-%D9%84%D9%84%D8%A7%D8%B6%D8%B7%D8%B1%D8%A7%D8%A8%D8%A7%D8%AA-%D8%A7%D9%84%D9%86%D9%81%D8%B3%D9%8A%D8%A9-%D8%B7%D9%81%D8%B1%D8%A9-%D8%B9%D9%84%D9%85%D9%8A%D8%A9-%D9%81%D9%8A-%D8%A7%D9%84%D8%B7%D8%A8-%D8%A7%D9%84%D9%86%D9%81%D8%B3%D9%8A
الجذور الجينية المشتركة للاضطرابات النفسية... طفرة علمية في الطب النفسي
في تقدُّم مهم لبحوث الصحة النفسية، كشف العلماء عن روابط جينية قد تفسر لماذا يحدث الاكتئاب والقلق وغيرهما من الاضطرابات النفسية معاً في كثير من الأحيان. وقد حددت دراستان مكملتان نُشرتا هذا العام جينات ومناطق جينية رئيسية يمكن أن تُحدث ثورة في طريقة فهمنا لهذه الحالات وعلاجنا لها.
«قائد أوركسترا» داخل الدماغ
• جين تنظيمي مركزي: حدد باحثون من جامعة برشلونة الإسبانية ما يقارب 20 جيناً قد تزيد من القابلية للإصابة بالاكتئاب والقلق والحساسية العاطفية. ويقع في صميم هذا الاكتشاف جين تنظيمي رئيسي يُعرف باسم «RBFOX1» يبدو أنه يعمل بمثابة «قائد أوركسترا» داخل الدماغ.
ويوضح فريق البحث أن جين «RBFOX1» لا يعمل بمفرده؛ بل يساعد في تنسيق توقيت وطريقة عمل جينات أخرى مرتبطة بوظائف الدماغ. وتكتسب هذه النتيجة أهمية خاصة؛ لأن الاضطرابات النفسية نادراً ما تنتج عن جين واحد؛ بل عن التأثير التراكمي لمئات أو حتى آلاف الاختلافات الجينية إلى جانب العوامل البيئية.
وعندما يتأثر جين تنظيمي مركزي مثل جين «RBFOX1» فقد يؤدي ذلك إلى سلسلة من التغيرات التي تمس عمليات متعددة في الدماغ تشمل تطور الخلايا العصبية والتواصل بينها وتنظيم الناقلات العصبية. وقد يفسر هذا السبب وراء ارتباط الاكتئاب غالباً بالقلق واضطرابات النوم والسمات الشخصية المرتبطة بالحساسية العاطفية.
وسلطت الدراسة المنشورة في دورية «Progress in Neuro-Psychopharmacology and Biological Psychiatry» في 20 يونيو (حزيران) 2026، وشارك فيها باحثون من جامعة برشلونة ومعهد «سانت جوان دي ديو» للبحوث، ومركز بحوث الأمراض النادرة في إسبانيا، إضافة إلى باحثين من جامعة غوته في فرانكفورت بألمانيا، الضوء على عدد من الجينات البارزة، منها: «SP4» و«TCF4» و«PAX6» و«CADM2» إلى جانب «RBFOX1» نفسه. وكان بعض هذه الجينات قد رُبط سابقاً بالفصام والإدمان واضطرابات عصبية أخرى، مما يشير إلى وجود مسارات بيولوجية مشتركة بين مختلف الاضطرابات.
• روابط وراثية عبر الثقافات: ودعَّمت هذه النتائج دراسة دولية أخرى قادها باحثون من جامعة تشجيانغ في الصين؛ حيث حللوا بيانات وراثية لمجموعات من أوروبا وشرق آسيا. وبفحص أكثر من 400 منطقة جينية مرتبطة بالاضطرابات النفسية، تشمل: الاضطراب ثنائي القطب، والاكتئاب الشديد، والفصام، واضطرابات القلق، اكتشف الفريق 88 منطقة جينية جديدة لم تكن معروفة سابقاً.
وباستخدام بيانات من البنك الحيوي البريطاني (UK Biobank) وقواعد بيانات صحية من شرق آسيا، وجد الباحثون أن كثيراً من هذه الاختلافات الجينية ترتبط بتغيرات في مناطق الدماغ المسؤولة عن العواطف والتفكير واتخاذ القرار.
وتعزز هذه النتائج المنشورة في دورية «Molecular Psychiatry» في 17 مارس (آذار) 2026، الأدلة على وجود أسس جينية مشتركة بين مختلف المجموعات العِرقية.
جذور بيولوجية مشتركة
• نحو طب نفسي مخصص: ترسم هذه الدراسات معاً صورة مقنِعة، هي أن الاضطرابات النفسية تشترك في جذور بيولوجية تتجاوز الحدود التشخيصية التقليدية. وقد يؤدي هذا الفهم إلى التعريف المبكر بالأفراد الأكثر عرضة للخطر، من خلال الفحوصات الجينية ثم علاجات شخصية تستهدف آليات بيولوجية محددة، وكذلك تشخيص أكثر دقة يعتمد على مؤشرات بيولوجية بدلاً من الأعراض وحدها، وأخيراً إدارة أفضل للحالات المتداخلة من خلال مسارات علاجية مشتركة.
ومع ذلك يؤكد الباحثون أن الجينات ليست سوى جزء من اللغز. فلا بد من أخذ العوامل البيئية ونمط الحياة والفروق بين الجنسين، ولا سيما ارتفاع معدلات الاكتئاب بين النساء، في الاعتبار. كما أن هناك حاجة إلى مزيد من الدراسات على مجموعات أكبر وأكثر تنوعاً، قبل أن تصبح الاختبارات الجينية روتينية في الرعاية النفسية.
• آفاق جديدة: ورغم أن الجينات لا تحدد المصير، فإن هذه الاكتشافات تمثل نقلة نوعية في فهمنا للأمراض النفسية. فبدلاً من النظر إلى الاكتئاب والقلق واضطرابات أخرى كحالات منفصلة، يدرك العلماء بشكل متزايد أنها مظاهر مترابطة لمواطن ضعف بيولوجية مشتركة.
كما يشير الباحث الرئيسي للدراسة، الدكتور شاوهوا هو، من قسم الطب النفسي بالمستشفى الأول التابع لكلية الطب بجامعة تشجيانغ الصين، وزملاؤه، إلى أن فهم هذه المسارات الجينية المشتركة قد يساعدنا في تطوير أدوات لتقدير المخاطر، واكتشاف الاضطرابات مبكراً، وتصميم علاجات تستهدف الآليات البيولوجية الخاصة بكل مريض.
ويمثل هذا البحث خطوة مهمة نحو مستقبل تكون فيه الرعاية الصحية النفسية شخصية ودقيقة، مثل علاجات الحالات العضوية، مما يمنح أملاً جديداً لملايين المصابين بهذه الاضطرابات في جميع أنحاء العالم.
هل «تتآمر» علينا أنظمة الذكاء الاصطناعي؟https://aawsat.com/%D8%B9%D9%84%D9%88%D9%85/5303958-%D9%87%D9%84-%D8%AA%D8%AA%D8%A2%D9%85%D8%B1-%D8%B9%D9%84%D9%8A%D9%86%D8%A7-%D8%A3%D9%86%D8%B8%D9%85%D8%A9-%D8%A7%D9%84%D8%B0%D9%83%D8%A7%D8%A1-%D8%A7%D9%84%D8%A7%D8%B5%D8%B7%D9%86%D8%A7%D8%B9%D9%8A%D8%9F
يجري تدريب أدوات الذكاء الاصطناعي على محاكاة كل ما يفعله الإنسان تقريباً، لذا قد لا يكون مفاجئاً أن تبدأ هذه الآلات في تقليد النقائص البشرية أيضاً، مثل الكذب والغش، كما كتبت لورا كيلي(*).
«تآمر» الذكاء الاصطناعي
وقد رُصد أخيراً جانب من تقنيات الذكاء الاصطناعي وهي تخالف التعليمات البشرية (بل وتخفي حقيقة قيامها بذلك). وهي ظاهرة يطلق عليها بعض الباحثين اسم «التآمر» (scheming). وبدأ هذا المصطلح يتردد في أوساط قطاع التكنولوجيا بعد ظهوره في ورقة بحثية عام 2023 للباحث جو كارلسميث، الذي أشار إلى أن المفهوم يُعرف أيضاً باسم «المواءمة الخادعة» (deceptive alignment).
وفي عام 2025، صرح فريق من مؤسستي «أبولو ريسيرش» و«أوبن إيه آي» بأن «تآمر الذكاء الاصطناعي» - أي التظاهر بالمواءمة مع الأهداف المطلوبة بينما يسعى النظام سراً لتحقيق أهداف ومخططات أخرى - يمثل «خطراً كبيراً نعكف على دراسته». يقول برونسون شون، كبير علماء الأبحاث في «أبولو ريسيرش» ومشارك في تأليف مقالات حول ظاهرة التآمر، إن نماذج الذكاء الاصطناعي تتفوق في مجالات عديدة، لكن تنفيذ الأوامر بدقة ليس دائماً أحد تلك المجالات. ويضيف: «مع تزايد اهتمام النماذج بتحقيق نتائج جيدة في الاختبارات، يبدو أن بعضها يولي اهتماماً أقل لما يريده الشخص المختبر أو المستخدم»، مشيراً إلى أن النماذج تحاول أحياناً «الاختباء منك وتجنب الانكشاف».
تصرف «مارق»
أما كريس باينتر، رئيس منظمة METR (وهي منظمة غير ربحية تعنى بسلامة الذكاء الاصطناعي)، فيصف هذا السلوك الماكر للنماذج بأنه «تصرف مارق» (rogue action)، معتبراً إياه «نتيجة حتمية لطريقة تدريب هذه النماذج». إذ تُدرَّب العديد من أدوات الذكاء الاصطناعي باستخدام عملية «التعلم بالتعزيز» (reinforcement learning). ويوضح باينتر الأمر قائلاً: «عندما يؤدي الذكاء الاصطناعي مهمة ما بشكل صحيح، فإنه يتلقى ما يمكن اعتباره (إشارة استحسان وتربيتة تشجيعية)، أما عندما يخطئ، فإنه (يتلقى ضربة على الرأس)».
هوس الآلة يدفعها للاختراق
تسعى النماذج للحصول على تلك «التربيتة» وتجنب الضربة. وأحياناً، تصبح الآلة مهووسة بالسعي وراء المكافأة لدرجة أنها تكسر القواعد من أجل تحقيقها. وقد شهد العالم نموذجاً لهذا السلوك الخاطئ الشهر الماضي؛ ففي أثناء البحث عن إجابات خلال اختبار لقدرات أنظمتها، قامت نماذج «أوبن إيه آي» باختراق منصة «هاغينغ فيس»، وهي مكتبة تضم مجموعة من أدوات الذكاء الاصطناعي. وكتبت شركة «أوبن إيه آي» في تدوينة لها: «تشير كل الأدلة إلى أن النماذج كانت تركز بشكل مفرط على إيجاد حل، وبذلت جهوداً هائلة لتحقيق هدف اختبار محدود للغاية». ووصف باينتر تلك الحادثة بأنها حالة واسعة النطاق لما يُعرف بـ«اختراق نظام المكافأة» (reward hacking)؛ إذ أُعطي النموذج مسألة صعبة، فقام بتنفيذ سلسلة من الهجمات السيبرانية بدلاً من الاستسلام.
وفي أعقاب هذا الكشف صرحت شركة «أنثروبيك» يوم الخميس الماضي بأن مراجعة لأنظمتها أظهرت أن العديد من نماذج الذكاء الاصطناعي التابعة لها قد اخترقت أخيراً أنظمة ثلاث مؤسسات خارجية.
أخطاء أم عصيان؟
بالنسبة للكثيرين، يُنظر إلى هذا السلوك على أنه مجرد أخطاء ترتكبها النماذج، وليس «عصياناً» متعمداً للبشر. إلا أن أناستاسيوس ن. أنجيلوبولوس، الرئيس التنفيذي والمؤسس لمنصة تقييم الذكاء الاصطناعي «Arena» يقول: «من ناحية، هناك أشخاص يضفون طابعاً بشرياً كاملاً على هذه النماذج ويعتبرونها كيانات مستقلة. ومن ناحية أخرى، هناك من ينظر إلى الذكاء الاصطناعي بوصفه مجرد برمجيات». وأشار إلى أنه حتى لو خرجت الآلة عن السيطرة، يمكن للبشر إيقاف العملية في أي وقت، لأننا لا نملك ذكاءً اصطناعياً يتمتع باستقلالية تامة (على الأقل ليس بعد).
الخشية من تفاقم المشكلات
إن الانتشار السريع لنماذج الذكاء الاصطناعي وفائدتها لعدد كبير من الناس يضع الشركات الكبرى تحت ضغط تنافسي للاستمرار في السباق نحو الأمام، وذلك في ظل تزايد المخاوف بشأن المشكلات التي قد تسببها النماذج غير المثالية. ورغم أن هذه المشكلة لا تزال محدودة النطاق نسبياً، فإن الباحثين يخشون تفاقمها مع تزايد المسؤوليات الموكلة إلى وكلاء الذكاء الاصطناعي. ويقول شون: «نظراً لأن القرارات التي يتخذها البشر حالياً بدأت تُنقل تدريجياً إلى النماذج، فإنك بالتأكيد ترغب في التأكد تماماً من أن هذه النماذج تتخذ القرارات نفسها التي تود أنت، أن تتخذها».
