وقفة ضرورية لمراجعة نظم الذكاء الاصطناعي التوليدي

تواجه معضلة التوازن بين الإبداع والموثوقية

وقفة ضرورية لمراجعة نظم الذكاء الاصطناعي التوليدي
TT

وقفة ضرورية لمراجعة نظم الذكاء الاصطناعي التوليدي

وقفة ضرورية لمراجعة نظم الذكاء الاصطناعي التوليدي

هذه الأيام، سنرجع خطوةً إلى الوراء لإعادة النظر بالضجّة الهائلة التي أحدثها الذكاء الاصطناعي التوليدي، ومناقشة لماذا يجب أن نضبط توقعاتنا لهذه التقنية ولو في المدى القصير على الأقلّ.

بين الإبداع والموثوقية

أحدث ظهور «تشات جي بي تي» في نوفمبر (تشرين الثاني) 2022، هبّة حماسية لفكرة أنّ النماذج اللغوية الكبرى قد تعيد تشكيل طريقة أداء الأعمال لبعض الوظائف الأساسية، وبالتّالي، تغيير دور العاملين البشر.

وبالفعل، لقد بدا واضحاً منذ بداية ظهور الأدوات المدعومة بالنماذج اللغوية الكبرى كـ«تشات جي بي تي» ChatGPT، و«بارد» Bard، و«كلاود» Claude، أنّها قد تساعدنا في وضع صيغ الرسائل الإلكترونية، وتلخيص المستندات وحتّى الشحذ الذهني للأفكار.

ولكنّ النقّاد سارعوا إلى الإشارة إلى أنّ النماذج اللغوية الكبيرة اخترعت أموراً غير موجودة جعلتها غير مناسبة للمهام الحسّاسة، وأفقدتها موثوقيتها، ولذا تعزّزت أهميّة الإشراف عليها عن قرب.

بعد سبعة أشهر، لا تزال النماذج اللغوية الكبيرة تواجه معضلة ما يُسمّى «الهذيان»، ومشاكل أخرى، ولا يبدو أنّ حلولها قريبة. تعود المشكلة في جزء منها إلى أنّ أحداً لا يعلم تحديداً كيف تعمل النماذج اللغوية الكبيرة. توصَف هذه النماذج على أنّها أدوات آلية بالكامل تتكهّن الكلمة التّالية المرجّحة بالتسلسل، إلّا أنّ العملية التي تخوضها للعثور على الكلمة التالية شديدة التعقيد – معقّدة إلى درجة أنّ مبتكري النماذج اللغوية الكبيرة أنفسهم لا يستطيعون تفسيرها.

ويدور الجدل اليوم حول ما إذا كان النموذج اللغوي الكبير الواحد يستطيع أن يكون مبدعاً وموثوقاً في وقتٍ واحد لأنّ الآلية التي تسمح للنماذج اللغوية الكبيرة بالارتجال والهذيان هي نفسها التي تسمح لها باختلاق أمور غير موجودة.

يفترض الكثيرون أنّ النماذج اللغوية الكبيرة هي الطريق نحو الذكاء الاصطناعي العام - مرحلة نظرية سيصبح فيها نظام الذكاء الاصطناعي قادراً على تأدية المهام الفكرية نفسها التي يؤديها البشر – حتّى أن البعض يرون أنّ أكبر النماذج اللغوية المتوفرة اليوم قادرة بالفعل على التفكير بالمشاكل بعقلانية. من جهة أخرى، تطرح بعض الدراسات سؤالاً جدياً حول ما إذا كانت النماذج اللغوية الكبيرة قابلة فعلاً للتخلّص من الانحياز.

ولكن على الرغم من الجوانب السلبية، لا زالت موجة الحماس المحيطة بالذكاء الاصطناعي مستمرّة. يعتقد معهد «ماكينزي غلوبال» أنّ الذكاء الاصطناعي سيراكم ثروة تتراوح بين 2.6 و4.4 تريليون دولار للاقتصاد العالمي. وتساهم هذه الحماسة أيضاً في رفع قيمة الشركات الناشئة التي تعمل في الذكاء الاصطناعي التوليدي، الذي تستخدمه بعض الشركات الأخرى كأساسٍ لاستثماراتها. ولحسن الحظّ، سيستمرّ وهج الذكار الاصطناعي التوليدي في التمدّد إلى أنواع أخرى من شركات الذكاء الاصطناعي، التي تستخدم نماذج لغوية أصغر وأكثر تخصّصاً لحلّ مسائلها.

«زاحف الويب»

وبينما دُرّب النموذج اللغوي الكبير الذي يشغّل «تشات جي بي تي» على كميات هائلة من المحتوى المسحوب من الإنترنت (دون إذن الناشرين) - في عملية يسّرها إمّا «زاحف ويب» web crawler (برنامج كومبيوتري تصفح الإنترنت) طرف ثالث أو أداة محليّة غير متاحة للاستخدام. وأعلنت شركة «أوبن إي آي» المطوّرة لـ«تشات جي بي تي»، إطلاق زاحفها الخاص للويب تحت اسم «جي بي تي بوت» GPTBot الذي قد يتيح جمع محتوى الشبكة الإلكترونية بطريقة أكثر دقّة وأماناً.

يشكّل «جي بي تي بوت» على الأرجح محاولة من «تشات جي بي تي» لتعزيز شفافيتها حول الوسائل التي تستخدمها لجمع بيانات التدريب، وربّما، للتكفير عن أخطائها السابقة، لا سيّما وأنّ الشركة تواجه اليوم دعاوى قضائية حول ممارساتها في جمع البيانات. وكانت «تشات جي بي تي» قد وقّعت الشهر الماضي عقد ترخيص مع وكالة «أسوشييتد برس» الإخبارية لاستخدام محتوى الأخيرة في تدريب تقنياتها.

في ملاحظات إطلاق «جي بي تي بوت»، قدّمت «أوبن إي آي» تعليمات واضحة للناشرين الذين يريدون منع روبوت المحادثة خاصتها من الوصول إلى مواقعهم - في محاولة منها ربّما لإراحة واضعي القوانين الذين يبدون حرصاً بالغاً على حقوق مالكي المحتوى في عصر الذكاء الاصطناعي. علاوةً على ذلك، تقول الشركة إنّ الزاحف سيتفادى المواقع الإلكترونية المدفوعة، التي تتضمّن معلومات شخصية معرّفة، أو محتوى ينتهك سياسات الاستخدام.

* مجلّة «فاست كومباني»

- خدمات «تريبيون ميديا»



برامج للتحكّم بأسراب الطائرات من دون طيار الضخمة

برامج للتحكّم بأسراب الطائرات من دون طيار الضخمة
TT

برامج للتحكّم بأسراب الطائرات من دون طيار الضخمة

برامج للتحكّم بأسراب الطائرات من دون طيار الضخمة

أعلنت وحدة الابتكارات الدفاعية، التابعة لوزارة الدفاع الأميركية، أن ثلاث شركات ستُنتج برامج نموذجية للتحكم في أسراب الطائرات من دون طيار (الدرون) الضخمة التي تطوّرها حالياً مجموعة مبادرة «ربليكيتر» Replicator للإنتاج السريع.

تنسيق آلي لطائرات «الدرون»

وقالت الوحدة، في بيان لها، الأربعاء، إن العقود الممنوحة لشركات «Anduril Industries»، و«L3Harris Technologies»، و«Swarm Aero» هي جزء من جهودها التي تسعى إلى «التنسيق الآلي لأسراب من مئات أو آلاف الأصول غير المأهولة عبر مجالات متعددة».

وكانت نائبة مدير وحدة الابتكارات الدفاعية للاستراتيجية والسياسة والشراكات الأمنية الوطنية، أديتي كومار، قالت في وقت سابق من هذا الشهر في حديث مع «ديفنس وان» إنه في حين تحظى أجهزة «ربليكيتر» بالكثير من الاهتمام، فإن برنامجها مهم بالقدر نفسه. وأضافت أن الجدول الزمني القصير لوحدة الدفاع الجوي لاختبار منصات وبرامج تكامل الطائرات دون طيار الجديدة يشكّل تحدياً آخر.

هياكل مملوكة للحكومة

وتابعت أديتي كومار: «نحن نشتري هذه القدرة بشكل مستقل عن أنظمة الأجهزة، وبالتالي نحتاج إلى أن نكون قادرين على الحصول على هياكل مفتوحة، وهياكل مملوكة للحكومة؛ لضمان أن البرنامج الذي نحضره تجري ترقيته ثم دمجه في جميع أنواع أنظمة الأجهزة التي قد تتطلّب بعد ذلك إصلاحات الأجهزة الخاصة بها لتمكين ذلك».

اختبارات ميدانية متكاملة

وكانت منصة «لاتيس» Lattice من شركة «أندوريل» Anduril واحدة من الجهات الفائزة. وقالت الشركة، في بيان، إنها أكملت مجموعة متنوعة من الاختبارات في العالم الحقيقي مع الشركاء العسكريين:

* تمرين «مسائل المعارك المتكاملة 24.1»، Integrated Battle Problem 24.1 لأسطول المحيط الهادئ الأميركي؛ حيث استخدم مشغلو البحرية منصة «لاتيس» لدمج أكثر من اثني عشر نظاماً غير مأهول وموجزات بيانات.

* «حارس الصحراء 1.0» Desert Guardian 1.0، البرنامج التابع للقيادة المركزية الأميركية هو أيضاً من الأمثلة الأخرى؛ حيث دمجت الشركة 10 فرق استشعار مختلفة في «لاتيس»، كما دمجت تبادل البيانات في الوقت الفعلي، ونفّذت الاندماج وتعيين المهام عبر أنظمة استشعار متنوعة للكشف بشكل أسرع عن التهديدات المحمولة جواً وغيرها.

* اختبار «الحافة 23» EDGE23 للجيش، سمحت «لاتيس» لجندي واحد «بإدارة فريق متكامل من الطائرات غير المأهولة المتعددة لتحديد موقع صاروخ أرض - جو وتحديده وتدميره».

كما منحت وحدة الابتكارات الدفاعية عقوداً إلى شركات، بهدف تطوير نظم لضمان الاتصالات للطائرات دون طيار في بيئة حرب كهرومغناطيسية ثقيلة.

هل يمنع «ربليكيتر» الحرب العالمية الثالثة؟

أطلقت وزارة الدفاع «ربليكيتر» Replicator خصوصاً لردع العمل العسكري الصيني في المحيط الهادئ. وفي حدث لمؤسسة بالاس يوم الأربعاء، ناقش رئيس القيادة البحرية الأميركية في المحيط الهادئ، الأدميرال سام بابارو، الدور الذي يمكن أن تلعبه الأنظمة المستقلة في الردع؛ أي مثل الدور الذي تقدمه الطائرات من دون طيار البحرية الأوكرانية في البحر الأسود.

وقال بابارو: «لا يحتاج المرء في الواقع إلى تحقيق التفوّق الجوي والبحري الكامل على مساحة عندما يحاول الخصم الحصول عليها. ربما يحتاج المرء فقط إلى حرمان الطرف الآخر من ذلك، ويمكنه القيام بذلك بتكلفة منخفضة... لقد رأينا ذلك بالفعل في الممارسة العملية، وتعلمنا ذلك من أوكرانيا في البحر الأسود، حيث تم تدمير طرّاد (سلافا) وإغراقه -بواسطة طائرة من دون طيار بحرية أوكرانية- ومن المهم أن نتعلّم هذا الدرس من ذلك ومن البحر الأسود».

مهمات الردع والهجوم

كما أوضح بابارو كيف يمكنه استخدام مستويات مختلفة من الاستقلالية لمهام مختلفة بصفتها جزءاً من جهود الردع هذه. وقال إنه بالنسبة إلى المهام الهجومية، فإن الحفاظ على السيطرة البشرية أمر بالغ الأهمية. ولكن بالنسبة إلى الدفاع عن الأسطول، فإن مزيداً من الاستقلالية يمكن أن يساعد في تسريع وقت رد الفعل.

وأضاف: «على سبيل المثال، إذا كانت غارة من الصواريخ الباليستية تقترب من وحدتك، فهذا هو الوقت الذي قد ترغب فيه في تشغيل نظامك بالكامل، وحمل تلك الأسهم التي تُوجه نحوه من ناحية أخرى. أما إذا كنت تنفّذ هجوماً معقداً على نظام عدو، فهذه هي الحالة التي قد ترغب فيها في القيام بذلك بحذر شديد، لأنك بذلك تقتل أرواحاً».

* مجلة «ديفنس وان»: خدمات «تريبيون ميديا».