الذكاء الاصطناعي... من مكافحة «الهلوسة» إلى تصميم «الوكلاء»

مسار تطور النماذج اللغوية الكبرى والصغرى في عام 2024

الذكاء الاصطناعي... من مكافحة «الهلوسة» إلى تصميم «الوكلاء»
TT

الذكاء الاصطناعي... من مكافحة «الهلوسة» إلى تصميم «الوكلاء»

الذكاء الاصطناعي... من مكافحة «الهلوسة» إلى تصميم «الوكلاء»

كتب جون ليكاتو(*) الباحث في مجالات تقاطع الذكاء الاصطناعي ومعالجة اللغة الطبيعية والمنطق البشري، يقول: «بصفتي مدير (مختبر تطوير المنطق البشري والآلي/ Advancing Human and Machine Reasoning lab)، في جامعة جنوب فلوريدا، فإني أقوم بتقديم هذه الأبحاث إلى الجهات الأخرى لتوفير أدوات لمسح ورصد الثغرات في تلك النماذج اللغوية».

تطورات نماذج الذكاء الاصطناعي

ويضيف: «من وجهة نظري، فقد لاحظت تطورات كبيرة في مجال نماذج لغة الذكاء الاصطناعي في عام 2024، سواء في ميدان البحث أو الصناعة. وربما من أكثر هذه التطورات إثارة كانت قدرات نماذج اللغة الصغرى، ودعم معالجة هلوسة الذكاء الاصطناعي، وأطر تطوير وكلاء الذكاء الاصطناعي».

قدرات الذكاء الاصطناعي الصغير

في قلب منتجات الذكاء الاصطناعي التوليدي المتاحة تجارياً مثل «تشات جي بي تي (ChatGPT)» توجد نماذج لغة كبيرة (LLMs)، التي يتم تدريبها على كميات هائلة من النصوص، وتنتج لغةً مقنعةً شبيهةً بالإنسان.

ويقاس حجم هذه النماذج عموماً بـ«معاملات (parameters)»، وهي القيم العددية التي يستمدها النموذج من بيانات التدريب الخاصة به.

* النماذج الكبرى

تحتوي النماذج التي تنتجها شركات الذكاء الاصطناعي الكبرى على مئات المليارات من المعاملات. وتقوم المنظمات التي لديها أكبر قدر من الموارد الحسابية بتجربة وتدريب نماذج لغة أكبر وأقوى بشكل متزايد. وتنتج هذه النماذج قدرات جديدة لنماذج اللغة الكبرى، ومعايير، ومجموعات تدريب، وحيل تدريب أو تحفيز.

* النماذج الصغرى

هناك تفاعل متكرر بين نماذج اللغة الكبرى ونماذج اللغة الصغرى، الذي يبدو أنه تسارع في عام 2024. وتُستخدم الكبرى لإنشاء نماذج لغوية صغرى - في نطاق 3 مليارات معامل أو أقل - التي يمكن تشغيلها على إعدادات كومبيوتر، وتتطلب طاقة وذاكرة أقل للتدريب، ويمكن ضبطها بدقة باستخدام بيانات أقل.

* إصدارات النماذج الصغرى

ليس من المستغرب إذن أن يصدر المطورون مجموعة من نماذج اللغة الأصغر حجماً والقوية - على الرغم من أن تعريف الصغير يتغير باستمرار مثل إصدارات «Phi-3»، ثم «Phi-4» من «مايكروسوفت»، و«Llama-3.2 1B»، ثم «3B»، وكذلك «Qwen2-VL-2B»... وهي ليست سوى أمثلة قليلة.

مهام محددة

يمكن تخصيص نماذج اللغة الصغرى هذه لمهام أكثر تحديداً، مثل تلخيص مجموعة من التعليقات بسرعة أو التحقق من صحة النص مقابل مرجع محدد. ويمكنها العمل مع «أبناء عمومتها» الأكبر حجماً لإنتاج أنظمة هجينة قوية بشكل متزايد.

التضليل والهلوسة

* تضليل وتزييف

يمكن أن يكون الوصول المتزايد إلى نماذج اللغة عالية القدرة الكبرى والصغرى نعمة مختلطة؛ إذ يمكن أن تمنح نماذج اللغة المستخدمين الضارين القدرة على إنشاء منشورات على وسائل التواصل الاجتماعي، والتأثير بشكل مخادع في الرأي العام.

وكان على شركة «أوبن إيه آي» المنتجة لـ«تشات جي بي تي» التدخل لتعطيل أكثر من 20 عملية وشبكة خادعة حاولت استخدام نماذجها في حملات انتخابية خادعة، حيث تم إنشاء مقاطع فيديو وصور ساخرة مزيفة ومشاركتها بمساعدة أدوات الذكاء الاصطناعي.

* «روبوتات» مشاغبة ومهلوسة

بدأت «غوغل» بتضمين على الذكاء الاصطناعي في نتائج البحث الخاصة بها، ما أسفر عن بعض النتائج التي كانت خاطئة بشكل مضحك وواضح؛ مثل الغراء في البيتزا الخاصة بك. ومع ذلك، ربما كانت النتائج الأخرى خاطئة بشكل خطير، مثل عندما اقترحت خلط مواد التنظيف للتبييض والتعقيم مع الخل لتنظيف الملابس.

وفي حادثة أخرى، قال روبوت محادثة يقدم المشورة بشأن قوانين ولوائح مدينة نيويورك بشكل غير صحيح إنه «من المسموح قانونياً لصاحب العمل طرد عامل يشكو من التحرش الجنسي، أو امرأة لا تكشف عن الحمل، أو رجل يرفض قص ضفائره».

«تخفيف» الهلوسة

إن نماذج اللغة الكبرى، كما يتم تصميمها بشكل شائع، معرَّضة للهلوسة. وهذا يعني أنها يمكن أن تذكر أشياء كاذبة أو مضللة، غالباً بلغة واثقة. على الرغم من أنني وآخرين ندق الطبول باستمرار حول هذا الأمر، فإن عام 2024 لا يزال يشهد محاولة كثير من المنظمات تعلّم المخاطر الناجمة عن هلوسة الذكاء الاصطناعي.

ولحسن الحظ، شهد عام 2024 أيضاً طرقاً جديدة للتخفيف من هلوسات الذكاء الاصطناعي والتعايش معها؛ إذ تعمل الشركات والباحثون على تطوير أدوات للتأكد من أن أنظمة الذكاء الاصطناعي تتبع القواعد المحددة قبل تقديمها للنتائج، فضلاً عن البيئات لتقييمها.

ولكن على الرغم من أن الباحثين يجدون باستمرار طرقاً للحد من الهلوسة، فإن الأبحاث في عام 2024 أظهرت بشكل مقنع أن هلوسات الذكاء الاصطناعي ستظل موجودة دائماً في شكل ما.

الوكلاء: الموجة الثالثة للذكاء الاصطناعي

لا تزال نماذج اللغة الكبرى، خصوصاً تلك التي تعمل بإصدارات مختلفة من بنية نظام المحول المصمم في داخلها، تقود أهم التطورات في مجال الذكاء الاصطناعي.

على سبيل المثال، يستخدم المطورون نماذج اللغة الكبرى ليس فقط لإنشاء روبوتات الدردشة، ولكن أيضاً لتكون بمثابة أساس لوكلاء الذكاء الاصطناعي. برز مصطلح «الذكاء الاصطناعي الوكيل» في عام 2024، حتى إن بعض الخبراء أطلقوا عليه «الموجة الثالثة من الذكاء الاصطناعي».

* ما هو الوكيل الذكي؟

لفهم ما هو وكيل الذكاء الاصطناعي، فكر في روبوت الدردشة الموسع بطريقتين:

- أولاً، امنحه إمكانية الوصول إلى الأدوات التي توفر القدرة على اتخاذ الإجراءات. قد تكون هذه القدرة على الاستعلام من محرك بحث خارجي، أو حجز رحلة، أو استخدام الآلة الحاسبة.

- ثانياً، امنحه استقلالية متزايدة، أو القدرة على اتخاذ مزيد من القرارات بمفرده.

على سبيل المثال، قد يكون روبوت الدردشة للسفر قادراً على إجراء بحث عن الرحلات بناءً على المعلومات التي تقدمها له، ولكن قد يخطط وكيل السفر المجهز بأدوات، لمسار الرحلة بالكامل، بما في ذلك تنفيذ الحجوزات، وإضافة الأحداث المهمة والفعاليات في أثناء السفرة، إلى التقويم الخاص بك.

إصدارات الوكلاء

في عام 2024، ظهرت أطر عمل جديدة لتطوير وكلاء الذكاء الاصطناعي. على سبيل المثال لا الحصر، تم إصدار أو تحسين «LangGraph»، و«CrewAI»، و«PhiData»، و«AutoGen/Magentic-One» في عام 2024.

بدأت الشركات للتو في تبني وكلاء الذكاء الاصطناعي. وبدأت أطر العمل لتصميم وكلاء الذكاء الاصطناعي جديدة تتطور بسرعة. ولكن ومع ذلك، لا تزال مخاطر الأمن والخصوصية والهلوسة تشكَّل مصدر قلق.

* توقعات المستقبل

ويتوقَّع محللو السوق العالمية أن تخطط 82 في المائة من المنظمات التي شملتها الاستطلاعات لاستخدام الوكلاء في غضون بين 1 و3 سنوات، ومن المرجح أن تتبنى 25 في المائة من جميع الشركات، التي تستخدم الذكاء الاصطناعي التوليدي حالياً، وكلاء الذكاء الاصطناعي في عام 2025.

* أستاذ مشارك في علوم الكومبيوتر بجامعة جنوب فلوريدا.

مجلة «فاست كومباني» - خدمات «تريبيون ميديا».

حقائق

82 %

من المنظمات التي شملتها الاستطلاعات لاستخدام الوكلاء في غضون بين 1 و3 سنوات


مقالات ذات صلة

أبرز 10 «إفيهات» صنعها المصريون بالذكاء الاصطناعي

يوميات الشرق «شيشة» ماكرون (إنستغرام)

أبرز 10 «إفيهات» صنعها المصريون بالذكاء الاصطناعي

برع مصريون في توظيف تقنيات الذكاء الاصطناعي في التعبير عن حسهم الساخر وطباعهم الكوميدية في مجالات السياسة والرياضة والفن.

رحاب عليوة (القاهرة )
المشرق العربي الجيش الإسرائيلي يستخدم جرافات «روب دوزر» في محاولة لتعزيز عملياته وتقليل المخاطر على قواته (أرشيفية)

الجيش الإسرائيلي يستخدم جرافات من دون سائق لتقليل المخاطر على قواته

بدأ الجيش الإسرائيلي خلال الحرب في غزة استخدام جرافات «روب دوزر» التي تعمل من دون سائق، ويمكن تشغيلها عن بُعد في محاولة لتقليل المخاطر على قواته.

«الشرق الأوسط» (تل أبيب)
تكنولوجيا شركة «أوبن إيه آي» تعمل على إنشاء منصة للتواصل الاجتماعي خاصة بها (رويترز)

«أوبن إيه آي» تطلق أداة ذكاء اصطناعي جديدة للمهام الأرخص والأبطأ

في محاولة لتعزيز قدرتها على مواجهة المنافسة المتزايدة في سوق الذكاء الاصطناعي من شركات مثل «غوغل»، أطلقت «أوبن إيه آي» أداة جديدة باسم «فليكس».

«الشرق الأوسط» (سان فرانسيسكو)
يوميات الشرق الثرثرة الطويلة مع تطبيقات الذكاء الاصطناعي تدفع بعض المستخدمين إلى الانخراط فيما يشبه العشق أو العلاقة الرومانسية مع هذه المنصات (رويترز)

دراسة تحذِّر من الوقوع في «علاقات حب» مع تطبيقات الذكاء الاصطناعي

حذَّرت دراسة علمية من مخاطر الإفراط في قضاء الوقت مع تطبيقات محادثة الذكاء الاصطناعي، والانخراط فيما يشبه العشق أو العلاقة الرومانسية مع هذه التطبيقات.

«الشرق الأوسط» (دبلن)
يوميات الشرق تتيح هذه الأداة تحديد الخلية العصبية التي تُنتج الإشارات الكهربائية أثناء السلوك البشري (كلية بايلور للطب)

أداة ذكاء اصطناعي تكشف أسرار اضطرابات الدماغ

ابتكر فريق علمي بقيادة باحثين من كلية بايلور الأميركية للطب، أداة ذكاء اصطناعي يُمكنها تحديد نوع الخلية العصبية التي تُنتج الإشارات الكهربائية بالدماغ.

«الشرق الأوسط» (القاهرة )

واجهات تفاعل الدماغ والكمبيوتر تواجه اختباراً حاسماً

واجهات تفاعل الدماغ والكمبيوتر تواجه اختباراً حاسماً
TT

واجهات تفاعل الدماغ والكمبيوتر تواجه اختباراً حاسماً

واجهات تفاعل الدماغ والكمبيوتر تواجه اختباراً حاسماً

تعمل كل من شركات «نيورالينك» و«سينكرون» و«نيوراكل» على توسيع نطاق التجارب السريرية، وتحاول جاهدة الوصول إلى منتجات فعلية، كما كتب أنطونيو ريغالادو، محرر العلوم البيولوجية الطبية في مجلة «تكنولوجي ريفيو» الأميركية.

واجهة الكمبيوتر ــ الدماغ

تحاول شركات التكنولوجيا دائماً تجربة طرق جديدة لتفاعل الأشخاص مع أجهزة الكمبيوتر – مثل الجهود المعروفة كنظارات «غوغل»، وساعة «أبل»، و«أليكسا» من «أمازون». ولكن الخيار الأكثر تطرفاً لم يُجربه سوى أقل من 100 شخص على وجه الأرض - أولئك الذين عاشوا لأشهر أو سنوات مع واجهات الدماغ والكمبيوتر المزروعة Brain-computer interface، أو ما يُعرف اختصاراً بـ«BCI».

إن واجهات الدماغ والكمبيوتر المزروعة عبارة عن أقطاب كهربائية توضع في أدمغة الأشخاص المصابين بالشلل؛ حتى يتمكنوا من استخدام حركات متخيلة لإرسال أوامر من خلاياهم العصبية عبر سلك، أو عبر الراديو إلى جهاز كمبيوتر. وبهذه الطريقة، يمكنهم التحكم في مؤشر الكمبيوتر أو، في حالات قليلة، توليد الكلام.

وقد خطا هذا المجال في الآونة الأخيرة بعض الخطوات نحو التطبيقات العملية الحقيقية. وتُدار حالياً نحو 25 تجربة سريرية لغرسات واجهات الدماغ والكمبيوتر.

يأتي هذا الانطباع بالتقدم المحرَز بفضل مجموعة صغيرة من الشركات التي تعمل بنشاط على تجنيد متطوعين لتجربة واجهات الدماغ والكمبيوتر في التجارب السريرية. وهي شركة «نيورالينك»، المدعومة من أغنى شخص في العالم، إيلون ماسك؛ وشركة «سينكرون» ومقرها نيويورك؛ وشركة «نيوراكل نيوروساينس» الصينية.

غرسات دماغية

وتُجرب كل شركة منها الواجهات بهدف نهائي يتمثل في الحصول على أولى واجهات الدماغ والكمبيوتر المزروعة المعتمدة للتسويق في هذا المجال.

تقول الدكتورة ميشيل باتريك كروغر، عالمة الأبحاث التي أجرت مسحاً مفصلاً لتجارب واجهات الدماغ والكمبيوتر مع مهندس الأعصاب خوسيه لويس كونتريراس فيدال في جامعة هيوستن: «إنني أسميها عصر الانتقال، ففي العامين الماضيين كانت هناك استثمارات خاصة كبيرة، وهذا يخلق الحماس ويسمح للشركات بالتسريع».

يُعدٌّ هذا تغييراً كبيراً، حيث كانت واجهات الدماغ والكمبيوتر لسنوات أشبه بخدعة في مجال علم الأعصاب، حيث كانت تولد الكثير من العناوين الرئيسية، لكنها لا توفر سوى القليل من المساعدة الفعلية للمرضى.

وتضيف ميشيل باتريك كروغر أن المرة الأولى التي تحكم فيها شخص بمؤشر كمبيوتر من خلال غرسة دماغية كانت في عام 1998. وأعقب ذلك سلسلة من الاختبارات المتتابعة البطيئة التي كان الباحثون الجامعيون يعثرون فيها على متطوع واحد ويثبّتون له جهازاً مزروعاً ويجرون دراسات على مدى أشهر أو سنوات.

وتشير أيضاً الى أنها تمكنت على مدار 26 عاماً من توثيق ما مجموعه 71 مريضاً استطاعوا التحكم في الكمبيوتر مباشرة بواسطة خلاياهم العصبية.

وقد أثبتت هذه الدراسات أن الناس يستطيعون استخدام خلاياهم العصبية للمشاركة في لعبة، وتحريك ذراع روبوت، وحتى التحدث من خلال الكمبيوتر. لكن مثل هذه العروض لا تساعد عملياً الأشخاص الذين يعانون الشلل الشديد بما يكفي للاستفادة من الكمبيوتر المتحكم به عن طريق الدماغ؛ لأن هذه الغرسات ليست متاحة على نطاق واسع حتى الآن.

تجارب متقدمة

من جهته، يقول كونتريراس فيدال: «إن نجاح هذه التقنية أمر ضروري، غير أن كيفية تطبيقها عملياً هو أمر مختلف تماماً. كذلك، وراء أي أنباء عظيمة ربما تكون هناك مشاكل تقنية لا بد من معالجتها. وتشمل هذه المشاكل تساؤلات حول مدة بقاء الغرسة الواحدة، ومدى التحكم الذي توفره للمرضى».

تحاول التجارب الكبيرة من ثلاث شركات الآن حلّ هذه التساؤلات ووضع الأساس لمنتج حقيقي.

تستخدم إحدى الشركات، وهي شركة «سينكرون»، دعامة مزودة بأقطاب كهربائية يتم إدخالها في أحد الأوعية الدموية في الدماغ عبر وريد في العنق. قامت شركة «سينكرون» بزرع دعامة «ستينترود» «stentrode»: ( Stent-electrode recording array) ، وهي مصفوفة تسجيل دعامات الأقطاب الخاصة بها في 10 متطوعين، منهم 6 في الولايات المتحدة، و4 في أستراليا، وهو أكبر عدد من المتطوعين الذين تم الإبلاغ عنهم في وقت واحد من قبل أي مجموعة من مجموعات واجهة الدماغ والكمبيوتر.

تجمع دعامة «ستينترود» إشارات دماغية محدودة؛ لذا فهي لا تمنح المستخدمين سوى نوع أساسي من إشارات التحكم في التشغيل/إيقاف التشغيل، أو ما تسميه شركة سينكرون «المفتاح». وهذا لن يسمح لشخص مشلول باستخدام برنامج فوتوشوب مثلاً، لكنه يكفي للتنقل بين قوائم البرامج، أو الاختيار من بين الرسائل المكتوبة مسبقاً.

يقول توم أوكسلي، الرئيس التنفيذي لشركة «سينكرون»، إن ميزة دعامة «ستينترود» هي أنها «بسيطة قدر الإمكان». وهو يعتقد أن ذلك سيجعل واجهة الدماغ والكمبيوتر التي ابتكرها «قابلة للتطوير» لعدد أكبر من الأشخاص، خصوصاً وأن تركيبها لا ينطوي على جراحة في الدماغ.

قد تكون شركة «سينكرون» متقدمة، لكنها لا تزال في مرحلة استكشافية. ولم يتم بعد تحديد موعد لإجراء دراسة «محورية»، من النوع المستخدم لإقناع الجهات التنظيمية بالسماح ببيع نسخة معينة من الجهاز. لذلك؛ لا يوجد جدول زمني للمنتج.

وفي الأثناء ذاتها، كشفت شركة «نيورالينك» عن أن ثلاثة متطوعين تلقوا غرستها، المسماة «إن 1» N1، التي تتكون من خيوط أقطاب كهربائية دقيقة عدة يتم غرسها مباشرة في الدماغ من خلال ثقب محفور في الجمجمة.

ويعني وجود المزيد من الأقطاب الكهربائية التقاط المزيد من النشاط العصبي. وقد أظهر نولاند آربو، المتطوع الأول في شركة «نيورالينك»، كيف يمكنه توجيه المؤشر حول شاشة ثنائية الأبعاد والنقر؛ ما يتيح له لعب ألعاب الفيديو مثل لعبة «Civilization» أو لعبة الشطرنج على الإنترنت.

وأخيراً، تقول شركة «نيوراكل» إنها تباشر تجربتين في الصين وواحدة أخرى في الولايات المتحدة. وتتكون عملية الزرع الخاصة بها من رقعة من الأقطاب الكهربائية توضع فوق الدماغ. وقالت الشركة في تقرير لها إن متطوعاً مصاباً بالشلل يستخدم النظام لتحفيز الأقطاب الكهربائية في ذراعه؛ ما يؤدي إلى إغلاق يده على شكل القبضة.

لكن التفاصيل لا تزال شحيحة. ولم يُصرح أحد المسؤولين التنفيذيين في شركة «نيوراكل» بشيء سوى أن «الكثير» من الأشخاص قد تلقوا غرستها.

ونظراً لأن عدد مرضى شركة «نيوراكل» ليس علنياً؛ لم يتم إدراجها في إحصاء ميشيل باتريك كروغر. في الواقع، لا توجد معلومات على الإطلاق في الأدبيات الطبية عن نحو ربع المتطوعين الذين خضعوا لعمليات زرع الدماغ حتى الآن؛ لذلك أحصتهم باستخدام البيانات الصحافية أو عن طريق إرسال البريد الإلكتروني إلى فرق البحث.

وقد أسفر المسح الذي أجرته لواجهة الدماغ والكمبيوتر (BCI) عن رؤى أخرى. فوفقاً لبياناتها، استمرت عمليات الزرع لمدة تصل إلى 15 عاماً، وكان أكثر من نصف المرضى في الولايات المتحدة، ونحو 75 في المائة من متلقي واجهة الدماغ والكمبيوتر، كانوا من الذكور.

ومع ذلك، لا يمكن للبيانات أن تجيب عن السؤال الأهم: وهو ما إذا كانت واجهات الدماغ والكمبيوتر المزروعة سوف تتحول من مجرد عروض توضيحية متطورة إلى منتجات رائدة، من النوع الذي يفيد الكثير من الناس.

وتقول الدكتورة باتريك كروغر: «خلال السنوات الخمس إلى العشر المقبلة، إما أن تُترجم واجهات الدماغ والكمبيوتر إلى منتج حقيقي، أو سوف تبقى رهن مجال الأبحاث. أشعر بثقة كبيرة بأنه سوف يكون هناك إنجاز معتبر.