وقفة ضرورية لمراجعة نظم الذكاء الاصطناعي التوليدي

تواجه معضلة التوازن بين الإبداع والموثوقية

وقفة ضرورية لمراجعة نظم الذكاء الاصطناعي التوليدي
TT

وقفة ضرورية لمراجعة نظم الذكاء الاصطناعي التوليدي

وقفة ضرورية لمراجعة نظم الذكاء الاصطناعي التوليدي

هذه الأيام، سنرجع خطوةً إلى الوراء لإعادة النظر بالضجّة الهائلة التي أحدثها الذكاء الاصطناعي التوليدي، ومناقشة لماذا يجب أن نضبط توقعاتنا لهذه التقنية ولو في المدى القصير على الأقلّ.

بين الإبداع والموثوقية

أحدث ظهور «تشات جي بي تي» في نوفمبر (تشرين الثاني) 2022، هبّة حماسية لفكرة أنّ النماذج اللغوية الكبرى قد تعيد تشكيل طريقة أداء الأعمال لبعض الوظائف الأساسية، وبالتّالي، تغيير دور العاملين البشر.

وبالفعل، لقد بدا واضحاً منذ بداية ظهور الأدوات المدعومة بالنماذج اللغوية الكبرى كـ«تشات جي بي تي» ChatGPT، و«بارد» Bard، و«كلاود» Claude، أنّها قد تساعدنا في وضع صيغ الرسائل الإلكترونية، وتلخيص المستندات وحتّى الشحذ الذهني للأفكار.

ولكنّ النقّاد سارعوا إلى الإشارة إلى أنّ النماذج اللغوية الكبيرة اخترعت أموراً غير موجودة جعلتها غير مناسبة للمهام الحسّاسة، وأفقدتها موثوقيتها، ولذا تعزّزت أهميّة الإشراف عليها عن قرب.

بعد سبعة أشهر، لا تزال النماذج اللغوية الكبيرة تواجه معضلة ما يُسمّى «الهذيان»، ومشاكل أخرى، ولا يبدو أنّ حلولها قريبة. تعود المشكلة في جزء منها إلى أنّ أحداً لا يعلم تحديداً كيف تعمل النماذج اللغوية الكبيرة. توصَف هذه النماذج على أنّها أدوات آلية بالكامل تتكهّن الكلمة التّالية المرجّحة بالتسلسل، إلّا أنّ العملية التي تخوضها للعثور على الكلمة التالية شديدة التعقيد – معقّدة إلى درجة أنّ مبتكري النماذج اللغوية الكبيرة أنفسهم لا يستطيعون تفسيرها.

ويدور الجدل اليوم حول ما إذا كان النموذج اللغوي الكبير الواحد يستطيع أن يكون مبدعاً وموثوقاً في وقتٍ واحد لأنّ الآلية التي تسمح للنماذج اللغوية الكبيرة بالارتجال والهذيان هي نفسها التي تسمح لها باختلاق أمور غير موجودة.

يفترض الكثيرون أنّ النماذج اللغوية الكبيرة هي الطريق نحو الذكاء الاصطناعي العام - مرحلة نظرية سيصبح فيها نظام الذكاء الاصطناعي قادراً على تأدية المهام الفكرية نفسها التي يؤديها البشر – حتّى أن البعض يرون أنّ أكبر النماذج اللغوية المتوفرة اليوم قادرة بالفعل على التفكير بالمشاكل بعقلانية. من جهة أخرى، تطرح بعض الدراسات سؤالاً جدياً حول ما إذا كانت النماذج اللغوية الكبيرة قابلة فعلاً للتخلّص من الانحياز.

ولكن على الرغم من الجوانب السلبية، لا زالت موجة الحماس المحيطة بالذكاء الاصطناعي مستمرّة. يعتقد معهد «ماكينزي غلوبال» أنّ الذكاء الاصطناعي سيراكم ثروة تتراوح بين 2.6 و4.4 تريليون دولار للاقتصاد العالمي. وتساهم هذه الحماسة أيضاً في رفع قيمة الشركات الناشئة التي تعمل في الذكاء الاصطناعي التوليدي، الذي تستخدمه بعض الشركات الأخرى كأساسٍ لاستثماراتها. ولحسن الحظّ، سيستمرّ وهج الذكار الاصطناعي التوليدي في التمدّد إلى أنواع أخرى من شركات الذكاء الاصطناعي، التي تستخدم نماذج لغوية أصغر وأكثر تخصّصاً لحلّ مسائلها.

«زاحف الويب»

وبينما دُرّب النموذج اللغوي الكبير الذي يشغّل «تشات جي بي تي» على كميات هائلة من المحتوى المسحوب من الإنترنت (دون إذن الناشرين) - في عملية يسّرها إمّا «زاحف ويب» web crawler (برنامج كومبيوتري تصفح الإنترنت) طرف ثالث أو أداة محليّة غير متاحة للاستخدام. وأعلنت شركة «أوبن إي آي» المطوّرة لـ«تشات جي بي تي»، إطلاق زاحفها الخاص للويب تحت اسم «جي بي تي بوت» GPTBot الذي قد يتيح جمع محتوى الشبكة الإلكترونية بطريقة أكثر دقّة وأماناً.

يشكّل «جي بي تي بوت» على الأرجح محاولة من «تشات جي بي تي» لتعزيز شفافيتها حول الوسائل التي تستخدمها لجمع بيانات التدريب، وربّما، للتكفير عن أخطائها السابقة، لا سيّما وأنّ الشركة تواجه اليوم دعاوى قضائية حول ممارساتها في جمع البيانات. وكانت «تشات جي بي تي» قد وقّعت الشهر الماضي عقد ترخيص مع وكالة «أسوشييتد برس» الإخبارية لاستخدام محتوى الأخيرة في تدريب تقنياتها.

في ملاحظات إطلاق «جي بي تي بوت»، قدّمت «أوبن إي آي» تعليمات واضحة للناشرين الذين يريدون منع روبوت المحادثة خاصتها من الوصول إلى مواقعهم - في محاولة منها ربّما لإراحة واضعي القوانين الذين يبدون حرصاً بالغاً على حقوق مالكي المحتوى في عصر الذكاء الاصطناعي. علاوةً على ذلك، تقول الشركة إنّ الزاحف سيتفادى المواقع الإلكترونية المدفوعة، التي تتضمّن معلومات شخصية معرّفة، أو محتوى ينتهك سياسات الاستخدام.

* مجلّة «فاست كومباني»

- خدمات «تريبيون ميديا»



الذكاء الاصطناعي يفضح الأسرار المحرجة لاجتماعات رجال الأعمال

الذكاء الاصطناعي يفضح الأسرار المحرجة لاجتماعات رجال الأعمال
TT

الذكاء الاصطناعي يفضح الأسرار المحرجة لاجتماعات رجال الأعمال

الذكاء الاصطناعي يفضح الأسرار المحرجة لاجتماعات رجال الأعمال

يمكن لأدوات الذكاء الاصطناعي في مكاتب وإدارات العمل القيام بالمهام من تلقاء نفسها... لكن المشكلة تكمن في جعلها تتوقف عن البوح بالأسرار!

لطالما كان مساعدو رؤساء ومديرو الشركات حراساً لمنع القيل والقال وتسريب أسرار الاجتماعات. لكن الآن، وعندما أخذ الذكاء الاصطناعي يتولى بعض مهامهم، فإنه يبدو أنه لا يشاركهم في ضرورة التكتم.

خدمة «أوتر» الذكية لتسجيل الاجتماعات

ذكاء اصطناعي ثرثار وخطير

وقد أشار الباحث والمهندس أليكس بيلزيريان، في تغريدة له على منصة «إكس»، الأسبوع الماضي، إنه وبعد اجتماع له عبر منصة «زووم» مع بعض مستثمري رأس المال الاستثماري، تلقى بريداً إلكترونياً آلياً من «أوتر إيه آي (Otter.ai)»، وهي خدمة نسخ خاصة بـ«مساعد اجتماعات بالذكاء الاصطناعي (AI meeting assistant)».

ونقلت صحيفة «واشنطن بوست» عن بيلزيريان قوله إن «البريد الإلكتروني احتوى على نص الاجتماع – لكن الأمر الأخطر كان إيراد تلك الخدمة الذكية، جزء الحديث الذي دار بعد تسجيل خروجه (بيلزيريان) من الاجتماع، عندما ناقش المستثمرون الإخفاقات الاستراتيجية لشركتهم ومشاكل «توظيب وطبخ المقاييس» لديهم.

وأضاف بيلزيريان أن المستثمرين، الذين لم يذكر أسماءهم، اعتذروا «بشدة» بمجرد أن لفت انتباههم إلى الأمر. لكن الضرر كان قد حدث بالفعل. وقال إن تلك الدردشة بعد الاجتماع جعلته يقرر قتل الصفقة.

توسع الذكاء الاصطناعي في الأعمال

تضخ الشركات المصنعة أدوات الذكاء الاصطناعي في منتجات العمل في جميع المجالات. وحديثاً أعلنت Salesforce عن عرض ذكاء اصطناعي يسمى Agentforce، الذي يسمح للعملاء ببناء وكلاء افتراضيين مدعومين بالذكاء الاصطناعي للمساعدة في المبيعات وخدمة العملاء. وتعمل مايكروسوفت على تكثيف قدرات «كوبايلوت إيه آي» عبر مجموعة منتجات العمل الخاصة بها، بينما كانت «غوغل» تفعل الشيء نفسه مع «جيمناي». وحتى أداة الدردشة في مكان العمل «سلاك» دخلت في اللعبة، مضيفة ميزات الذكاء الاصطناعي التي يمكنها تلخيص المحادثات والبحث عن الموضوعات وإنشاء ملخصات يومية.

ولكن الذكاء الاصطناعي لا يستطيع قراءة ما يدور في قاعة الاجتماع مثل البشر، إضافة إلى أن الكثير من المستخدمين لا يتوقفون للتحقق من الإعدادات المهمة أو التفكير فيما يمكن أن يحدث عندما تصل الأدوات الآلية إلى الكثير من حياتهم العملية.

هل يجب أن نثق بالذكاء الاصطناعي؟

ويقول الخبراء إن المستخدمين لديهم سيطرة كاملة على أذونات مشاركة أدوات الذكاء الاصطناعي في المحادثة ويمكنهم تغيير أو تحديث أو إيقاف أذونات المشاركة لمحادثة في أي وقت. وفي هذه الحالة المحددة، يتمتع المستخدمون بخيار عدم مشاركة النصوص تلقائياً مع أي شخص أو مشاركة المحادثات تلقائياً فقط مع المستخدمين الذين يشتركون في نفس نطاق العمل.

ويضيف الخبراء إن الجمع بين التسجيل المستمر والنسخ المدعوم بالذكاء الاصطناعي يؤدي إلى تآكل الخصوصية في العمل ويفتح المجال أمام إقامة الدعاوى القضائية والانتقام والأسرار المسربة.