الذكاء الاصطناعي... من مكافحة «الهلوسة» إلى تصميم «الوكلاء»

مسار تطور النماذج اللغوية الكبرى والصغرى في عام 2024

الذكاء الاصطناعي... من مكافحة «الهلوسة» إلى تصميم «الوكلاء»
TT
20

الذكاء الاصطناعي... من مكافحة «الهلوسة» إلى تصميم «الوكلاء»

الذكاء الاصطناعي... من مكافحة «الهلوسة» إلى تصميم «الوكلاء»

كتب جون ليكاتو(*) الباحث في مجالات تقاطع الذكاء الاصطناعي ومعالجة اللغة الطبيعية والمنطق البشري، يقول: «بصفتي مدير (مختبر تطوير المنطق البشري والآلي/ Advancing Human and Machine Reasoning lab)، في جامعة جنوب فلوريدا، فإني أقوم بتقديم هذه الأبحاث إلى الجهات الأخرى لتوفير أدوات لمسح ورصد الثغرات في تلك النماذج اللغوية».

تطورات نماذج الذكاء الاصطناعي

ويضيف: «من وجهة نظري، فقد لاحظت تطورات كبيرة في مجال نماذج لغة الذكاء الاصطناعي في عام 2024، سواء في ميدان البحث أو الصناعة. وربما من أكثر هذه التطورات إثارة كانت قدرات نماذج اللغة الصغرى، ودعم معالجة هلوسة الذكاء الاصطناعي، وأطر تطوير وكلاء الذكاء الاصطناعي».

قدرات الذكاء الاصطناعي الصغير

في قلب منتجات الذكاء الاصطناعي التوليدي المتاحة تجارياً مثل «تشات جي بي تي (ChatGPT)» توجد نماذج لغة كبيرة (LLMs)، التي يتم تدريبها على كميات هائلة من النصوص، وتنتج لغةً مقنعةً شبيهةً بالإنسان.

ويقاس حجم هذه النماذج عموماً بـ«معاملات (parameters)»، وهي القيم العددية التي يستمدها النموذج من بيانات التدريب الخاصة به.

* النماذج الكبرى

تحتوي النماذج التي تنتجها شركات الذكاء الاصطناعي الكبرى على مئات المليارات من المعاملات. وتقوم المنظمات التي لديها أكبر قدر من الموارد الحسابية بتجربة وتدريب نماذج لغة أكبر وأقوى بشكل متزايد. وتنتج هذه النماذج قدرات جديدة لنماذج اللغة الكبرى، ومعايير، ومجموعات تدريب، وحيل تدريب أو تحفيز.

* النماذج الصغرى

هناك تفاعل متكرر بين نماذج اللغة الكبرى ونماذج اللغة الصغرى، الذي يبدو أنه تسارع في عام 2024. وتُستخدم الكبرى لإنشاء نماذج لغوية صغرى - في نطاق 3 مليارات معامل أو أقل - التي يمكن تشغيلها على إعدادات كومبيوتر، وتتطلب طاقة وذاكرة أقل للتدريب، ويمكن ضبطها بدقة باستخدام بيانات أقل.

* إصدارات النماذج الصغرى

ليس من المستغرب إذن أن يصدر المطورون مجموعة من نماذج اللغة الأصغر حجماً والقوية - على الرغم من أن تعريف الصغير يتغير باستمرار مثل إصدارات «Phi-3»، ثم «Phi-4» من «مايكروسوفت»، و«Llama-3.2 1B»، ثم «3B»، وكذلك «Qwen2-VL-2B»... وهي ليست سوى أمثلة قليلة.

مهام محددة

يمكن تخصيص نماذج اللغة الصغرى هذه لمهام أكثر تحديداً، مثل تلخيص مجموعة من التعليقات بسرعة أو التحقق من صحة النص مقابل مرجع محدد. ويمكنها العمل مع «أبناء عمومتها» الأكبر حجماً لإنتاج أنظمة هجينة قوية بشكل متزايد.

التضليل والهلوسة

* تضليل وتزييف

يمكن أن يكون الوصول المتزايد إلى نماذج اللغة عالية القدرة الكبرى والصغرى نعمة مختلطة؛ إذ يمكن أن تمنح نماذج اللغة المستخدمين الضارين القدرة على إنشاء منشورات على وسائل التواصل الاجتماعي، والتأثير بشكل مخادع في الرأي العام.

وكان على شركة «أوبن إيه آي» المنتجة لـ«تشات جي بي تي» التدخل لتعطيل أكثر من 20 عملية وشبكة خادعة حاولت استخدام نماذجها في حملات انتخابية خادعة، حيث تم إنشاء مقاطع فيديو وصور ساخرة مزيفة ومشاركتها بمساعدة أدوات الذكاء الاصطناعي.

* «روبوتات» مشاغبة ومهلوسة

بدأت «غوغل» بتضمين على الذكاء الاصطناعي في نتائج البحث الخاصة بها، ما أسفر عن بعض النتائج التي كانت خاطئة بشكل مضحك وواضح؛ مثل الغراء في البيتزا الخاصة بك. ومع ذلك، ربما كانت النتائج الأخرى خاطئة بشكل خطير، مثل عندما اقترحت خلط مواد التنظيف للتبييض والتعقيم مع الخل لتنظيف الملابس.

وفي حادثة أخرى، قال روبوت محادثة يقدم المشورة بشأن قوانين ولوائح مدينة نيويورك بشكل غير صحيح إنه «من المسموح قانونياً لصاحب العمل طرد عامل يشكو من التحرش الجنسي، أو امرأة لا تكشف عن الحمل، أو رجل يرفض قص ضفائره».

«تخفيف» الهلوسة

إن نماذج اللغة الكبرى، كما يتم تصميمها بشكل شائع، معرَّضة للهلوسة. وهذا يعني أنها يمكن أن تذكر أشياء كاذبة أو مضللة، غالباً بلغة واثقة. على الرغم من أنني وآخرين ندق الطبول باستمرار حول هذا الأمر، فإن عام 2024 لا يزال يشهد محاولة كثير من المنظمات تعلّم المخاطر الناجمة عن هلوسة الذكاء الاصطناعي.

ولحسن الحظ، شهد عام 2024 أيضاً طرقاً جديدة للتخفيف من هلوسات الذكاء الاصطناعي والتعايش معها؛ إذ تعمل الشركات والباحثون على تطوير أدوات للتأكد من أن أنظمة الذكاء الاصطناعي تتبع القواعد المحددة قبل تقديمها للنتائج، فضلاً عن البيئات لتقييمها.

ولكن على الرغم من أن الباحثين يجدون باستمرار طرقاً للحد من الهلوسة، فإن الأبحاث في عام 2024 أظهرت بشكل مقنع أن هلوسات الذكاء الاصطناعي ستظل موجودة دائماً في شكل ما.

الوكلاء: الموجة الثالثة للذكاء الاصطناعي

لا تزال نماذج اللغة الكبرى، خصوصاً تلك التي تعمل بإصدارات مختلفة من بنية نظام المحول المصمم في داخلها، تقود أهم التطورات في مجال الذكاء الاصطناعي.

على سبيل المثال، يستخدم المطورون نماذج اللغة الكبرى ليس فقط لإنشاء روبوتات الدردشة، ولكن أيضاً لتكون بمثابة أساس لوكلاء الذكاء الاصطناعي. برز مصطلح «الذكاء الاصطناعي الوكيل» في عام 2024، حتى إن بعض الخبراء أطلقوا عليه «الموجة الثالثة من الذكاء الاصطناعي».

* ما هو الوكيل الذكي؟

لفهم ما هو وكيل الذكاء الاصطناعي، فكر في روبوت الدردشة الموسع بطريقتين:

- أولاً، امنحه إمكانية الوصول إلى الأدوات التي توفر القدرة على اتخاذ الإجراءات. قد تكون هذه القدرة على الاستعلام من محرك بحث خارجي، أو حجز رحلة، أو استخدام الآلة الحاسبة.

- ثانياً، امنحه استقلالية متزايدة، أو القدرة على اتخاذ مزيد من القرارات بمفرده.

على سبيل المثال، قد يكون روبوت الدردشة للسفر قادراً على إجراء بحث عن الرحلات بناءً على المعلومات التي تقدمها له، ولكن قد يخطط وكيل السفر المجهز بأدوات، لمسار الرحلة بالكامل، بما في ذلك تنفيذ الحجوزات، وإضافة الأحداث المهمة والفعاليات في أثناء السفرة، إلى التقويم الخاص بك.

إصدارات الوكلاء

في عام 2024، ظهرت أطر عمل جديدة لتطوير وكلاء الذكاء الاصطناعي. على سبيل المثال لا الحصر، تم إصدار أو تحسين «LangGraph»، و«CrewAI»، و«PhiData»، و«AutoGen/Magentic-One» في عام 2024.

بدأت الشركات للتو في تبني وكلاء الذكاء الاصطناعي. وبدأت أطر العمل لتصميم وكلاء الذكاء الاصطناعي جديدة تتطور بسرعة. ولكن ومع ذلك، لا تزال مخاطر الأمن والخصوصية والهلوسة تشكَّل مصدر قلق.

* توقعات المستقبل

ويتوقَّع محللو السوق العالمية أن تخطط 82 في المائة من المنظمات التي شملتها الاستطلاعات لاستخدام الوكلاء في غضون بين 1 و3 سنوات، ومن المرجح أن تتبنى 25 في المائة من جميع الشركات، التي تستخدم الذكاء الاصطناعي التوليدي حالياً، وكلاء الذكاء الاصطناعي في عام 2025.

* أستاذ مشارك في علوم الكومبيوتر بجامعة جنوب فلوريدا.

مجلة «فاست كومباني» - خدمات «تريبيون ميديا».

حقائق

82 %

من المنظمات التي شملتها الاستطلاعات لاستخدام الوكلاء في غضون بين 1 و3 سنوات


مقالات ذات صلة

تكنولوجيا ساتيا ناديلا الرئيس التنفيذي لـ«مايكروسوفت» يستعرض «وكلاء كوبايلوت»

«مايكروسوفت» ترسم ملامح مستقبل الذكاء الاصطناعي: من الوكلاء إلى التحليل التنبؤي

حوار عن آفاق التقنيات الثورية وتطبيقاتها الواسعة خصوصاً في السعودية التي تشهد تحولاً رقمياً

خلدون غسان سعيد (جدة)
تكنولوجيا عمال هنود داخل مكتب شركة محلية في أحمد آباد - الهند 4 يوليو 2023 (رويترز)

برنامج للذكاء الاصطناعي يمحو اللهجات الهندية لعمال مراكز الاتصال

تستخدم شركة فرنسية تدير أكبر عدد من مراكز الاتصال في العالم الذكاء الاصطناعي لتخفيف اللهجات الهندية لجعل محادثات العملاء أسهل وأقصر.

«الشرق الأوسط» (لندن)
علوم الذكاء الاصطناعي يتنبأ بتطور أمراض المناعة الذاتية

الذكاء الاصطناعي يتنبأ بتطور أمراض المناعة الذاتية

طوَّر فريق من كلية الطب بجامعة بنسلفانيا في الولايات المتحدة طريقة مبتكرة للتنبؤ بتطور أمراض المناعة الذاتية باستخدام الذكاء الاصطناعي.

د. وفا جاسم الرجب (لندن)
الاقتصاد جانب من «القمة العالمية للذكاء الاصطناعي» التي أقيمت في الرياض (واس)

حكومات الخليج تقود الطريق في استخدام الذكاء الاصطناعي لتحقيق النمو المستدام

أطلقت الإمارات والسعودية وقطر كثيراً من المبادرات الرقمية المهمة ضمن استراتيجياتها الوطنية، ما دفع إلى استثمارات كبيرة في التكنولوجيا، وخصوصاً الذكاء الاصطناعي.

زينب علي («الشرق الأوسط»)

نظم تقنية عسكرية صينية جديدة لـ«أتمتة المعارك»

نظم تقنية عسكرية صينية جديدة لـ«أتمتة المعارك»
TT
20

نظم تقنية عسكرية صينية جديدة لـ«أتمتة المعارك»

نظم تقنية عسكرية صينية جديدة لـ«أتمتة المعارك»

خلال مناورات أجراها أخيراً جيش التحرير الشعبي الصيني، حلقت طائرات من دون طيار منتشرة بإشراف «نظام الضربة الدقيقة الذكي»، وهو نظام جديد من شركة الدفاع الصينية العملاقة «نورينكو» الذي استخدم بيانات الطائرات من دون طيار في الوقت الفعلي لنمذجة ساحة المعركة، وتتبع الأهداف، ووضع خطط الضرب، وتوزيع معلومات إطلاق النار، وتنفيذ الضربات المتابعة، كما كتب بيتر دبليو سينغر وتاي غراهام (*).

استخبارات ميدانية لنمذجة المعارك

ووفقاً للفيديو الذي تم عرضه في كشك «نورينكو» في أحدث معرض جوي في تشوهاي، تم تنفيذ كل هذا تقريباً بشكل مستقل باستثناء إعطاء الأوامر بإطلاق النار. كما لاحظ المراقبون الصينيون كيف دمج النظام معلومات استخبارات ساحة المعركة من مصادر متعددة.

وهذا يجسد هدف جيش التحرير الشعبي إلى ضمان الهيمنة في العصر المقبل من الصراع: بقدرات مستقلة تطمس الخط الفاصل بين الإشراف البشري والتنفيذ الآلي.

نظام الضربة الدقيقة الذكي

إن نظام الضربة الدقيقة الذكي من شركة «نورينكو» هو من الطرق التي تستخدمها قوة دعم المعلومات التابعة لجيش التحرير الشعبي الصيني لبناء «نظام معلومات الشبكة» الذي يستخدم الذكاء الاصطناعي والحوسبة السحابية وتقنيات البيانات الضخمة لدمج البيانات من الوحدات العملياتية، وإنشاء «شبكات قتل ديناميكية» عبر المجالات. ويؤكد معلقو جيش التحرير الشعبي الصيني على الدور الحاسم الذي يلعبه نظام المعلومات الشبكي في الحرب الحديثة.

كل هذا جزء من جهود جيش التحرير الشعبي الصيني نحو «الحرب الذكية»، التي تسعى إلى دمج الوعي بساحة المعركة في الوقت الحقيقي، والضربات الدقيقة، والعمليات النفسية.

توظيف الذكاء الاصطناعي

وتحقيقاً لهذه الغاية، يسلط الباحثون في جامعة الدفاع الوطني التابعة لجيش التحرير الشعبي الصيني الضوء على نماذج اللغة الكبيرة للذكاء الاصطناعي بوصفها محورية للعمليات العسكرية. ومن خلال معالجة مجموعات البيانات الضخمة بسرعة، يمكنهم تبسيط تحليل المعلومات الاستخباراتية، وإنشاء التعليمات البرمجية، وتسريع تطوير الأسلحة.

محاكاة عملياتية وسيناريوهات تدريبية

كما يهدف جيش التحرير الشعبي الصيني إلى استخدام تلك الأدوات الذكية لإنتاج محاكاة عملياتية وسيناريوهات تدريبية مفصلة وواقعية في جزء بسيط من الوقت والقوى العاملة المطلوبة اليوم. وقد لفت معهد تايوان لأبحاث الدفاع الوطني والأمن الانتباه إلى نظام ألعاب الحرب «War Skull» التابع لجيش التحرير الشعبي، الذي يستخدم الجيل الثاني منه، الذي أطلق في عام 2020 استراتيجيات معيارية للتكيف مع مختلف الخصوم، على الرغم من أن تطبيقه على القتال في العالم الحقيقي لا يزال غير مؤكد بسبب التحديات، مثل السلوكيات الناشئة، وعدم القدرة على التنبؤ في السيناريوهات المعقدة.

وعلى نحو مماثل، تسعى الصين إلى تضمين الذكاء الاصطناعي في الاستخبارات العسكرية والتخطيط واتخاذ القرار. ويجمع نظام «Aiwu LLM +»، الذي طوره مختبر في جامعة هندسة الشرطة المسلحة الشعبية، بين نماذج لغوية كبيرة وتحليل البيانات الضخمة متعدد الوسائط وواجهات المساعد الافتراضي لتوفير التفاعل الذكي، وتخطيط المهام داخل أنظمة معلومات القيادة. كما يتصور جيش التحرير الشعبي أن دمج الذكاء الاصطناعي في أنظمة استخبارات متعددة المصادر يوفر للقادة رؤى وتسريع عملية اتخاذ القرار.

الحرب الذكية المقبلة

يُنظر إلى كل هذا على أنه يساعد جيش التحرير الشعبي على الانتقال إلى المرحلة التالية من الحرب الذكية، حيث يمكن للتعلم العميق ومعالجة البيانات متعددة الوسائط تحسين التعرف على الهدف وتقييم الموقف وقرارات القيادة. وبحسب المعلقين في جيش التحرير الشعبي الصيني، فإن هذه التطورات تسهل حلقات التغذية الراجعة التكرارية، وتحسين تكامل البيانات عبر المجالات، والتحليلات التنبؤية، والتكيف مع ساحة المعركة في الوقت الحقيقي - وفي نهاية المطاف تشكيل ما يسميه جيش التحرير الشعبي الصيني «القيادة العملياتية الذكية». وفي الوقت نفسه، يعزز دمج «الذكاء الاصطناعي الخفيف» في المنصات غير المأهولة الاستطلاع والضربات الدقيقة مع تضمين الاستقلالية المدفوعة بالذكاء الاصطناعي في الأسلحة الموجودة.

الحرب المعرفية النفسية والسيبرانية

لا تقتصر المكاسب على التأثيرات الحركية. يلاحظ اللواء في جيش التحرير الشعبي الصيني زينغ هايكينغ أن أنظمة القيادة غير المأهولة يمكن استخدامها أيضاً في الحرب المعرفية، التي تصفها عقيدة جيش التحرير الشعبي الصيني بأنها المفتاح للفوز بالحروب، بما في ذلك عدم الاضطرار إلى خوضها. تدمج العمليات في المجال المعرفي التكتيكات النفسية والسيبرانية، سعياً إلى التلاعب بإدراكات الخصم واتخاذ القرار والسلوك. تمكن أدوات الذكاء الاصطناعي التوليدي جيش التحرير الشعبي الصيني من صياغة معلومات مضللة قابلة للتكيف ومحددة السياق وتنفيذ العمليات النفسية بدقة. إن النماذج اللغوية المتقدمة قادرة على توليد السرديات المرغوبة في الوقت الحقيقي، باستخدام المنصات الرقمية للتأثير على التصورات، وزرع الفتنة، وتآكل الروح المعنوية.

وهذا يخدم تكتيك «المواجهة المعرفية» الذي يتبناه جيش التحرير الشعبي، والذي يهدف إلى التحكم في تدفقات المعلومات لتعطيل عملية اتخاذ القرار لدى الخصم. ويمكن لتحليل المشاعر المدعوم بالذكاء الاصطناعي والنماذج السلوكية التنبؤية أن تعمل على تعظيم التأثير النفسي والعملياتي لهذه الاستراتيجيات.

وتصاحب مبادرات الذكاء الاصطناعي هذه التكامل الزائد لجيش التحرير الشعبي لبرامج البيانات الضخمة التي يمكنها توسيع الوعي بساحة المعركة، وتحسين التحليلات التنبؤية، والحد من «ضباب الحرب». ويمكن للخوارزميات الذكية معالجة مجموعات بيانات ضخمة للكشف عن الأنماط التشغيلية، وتحسين الخدمات اللوجيستية، واتخاذ القرارات التكتيكية بشكل أفضل.

نمو الصناعات العسكرية للذكاء الاصطناعي

في ظل استراتيجية الصين للاندماج العسكري المدني، تعمل شركات المقاولات الدفاعية الكبيرة والصغيرة على ضمان قدرة التقدم في مجال الذكاء الاصطناعي المدني على تشغيل التطبيقات العسكرية.

على سبيل المثال، عرضت شركة «نورينكو» أكثر من نظام من أنظمة الضربة الدقيقة الذكية في معرض تشوهاي الجوي لعام 2024، حيث تم عرض تسعة أنظمة قتالية جديدة أخرى ذات قدرات حربية متطورة مدعومة بالذكاء الاصطناعي. وشملت هذه الأنظمة اللواء الاصطناعي المدعوم بالذكاء الاصطناعي، الذي يجمع بين المركبات المدرعة من الجيل التالي، والطائرات من دون طيار، والذخائر المتسكعة، وأدوات الحرب الإلكترونية، ونظام القيادة والتحكم الذكي المدعوم رقمياً، الذي يتيح الوعي الظرفي في الوقت الفعلي. وقد تم الشعور بتأثيرها بالفعل في مستويات الثقة البشرية.

رقمنة ساحة المعركة

ويزعم المحللون العسكريون الصينيون أن هذه الألوية الميكانيكية التي تعمل بالذكاء الاصطناعي تتفوق على نظيراتها الأميركية في رقمنة ساحة المعركة، ما يعزز زعامة الصين في الحرب البرية من الجيل التالي.

وتسهم أيضاً شركات التكنولوجيا الأصغر حجماً. على سبيل المثال، طورت شركة «يو - تينيت» نماذج وأنظمة ذكاء اصطناعي تركز على المجال العسكري وتدعم عملية اتخاذ القرار الاستراتيجي والعمليات المستقلة. وتشمل هذه الأنظمة «تيانغي»، وهو «دماغ اتخاذ القرار» القائم على السحابة للتخطيط العملياتي وتحليل المعلومات الاستخباراتية، و«تيانوانغ»، وهو مستودع استخبارات في الوقت الفعلي يدمج بيانات متعددة المصادر للوعي بالموقف؛ و«تيانغيان»، وهو نظام استخبارات ميداني متكامل.

وقد بنت «يو - تينيت» تطبيقات الذكاء الاصطناعي الخاصة بها باستخدام قاعدة بيانات استخبارات عسكرية خاصة تحتوي على أكثر من مليون وثيقة عالية الجودة وأكثر من 300 تيرابايت من الصور العسكرية، وفقاً لشركة «إيفينكسي»، وهي شركة صينية للأبحاث والاستشارات الرقمية. ويمكن لنموذج «تيانغي» دمج بيانات الصراع في الوقت الفعلي، بما في ذلك بيانات الحرب في أوكرانيا، وفقاً لتقارير المعلقين العسكريين الصينيين.

وسوف يتوقف نجاح الاستثمار الضخم لجيش التحرير الشعبي في الأدوات التي تعتمد على الذكاء الاصطناعي على قدرته على التحقق من صحة هذه التقنيات وتحسينها في ظل ظروف العالم الحقيقي. وتشمل التحديات، التي تواجهها ضمان عملها بشكل موثوق، السيناريوهات المعقدة ودمجها في هيكل تحكم مركزي.

*مجلة «ديفينس وان»، خدمات «تريبيون ميديا».