باحثو «ستانفورد»: لا يمكننا السماح بثورة ذكاء اصطناعي في الظلام

تصنيف علمي لشفافية طريقة تشغيل 10 نماذج منها

جدول جامعة ستانفورد لتقييم النماذج العشرة للذكاء الاصطناعي
جدول جامعة ستانفورد لتقييم النماذج العشرة للذكاء الاصطناعي
TT

باحثو «ستانفورد»: لا يمكننا السماح بثورة ذكاء اصطناعي في الظلام

جدول جامعة ستانفورد لتقييم النماذج العشرة للذكاء الاصطناعي
جدول جامعة ستانفورد لتقييم النماذج العشرة للذكاء الاصطناعي

ما مدى معرفتنا عن الذكاء الاصطناعي، عندما يتعلّق الأمر بالنماذج اللغوية الكبيرة التي أطلقتها شركات مثل «أوبن إي آي» و«غوغل» و«ميتا» العام الماضي؟ الجواب هو: لا شيء.

تُحجم هذه الشركات عامّة عن المشاركة بمعلومات عن البيانات التي استخدمتها لتدريب نماذجها أو الأدوات التي استخدمتها لتشغيلها. لا يوجد حتّى اليوم دليلٌ خاص بالمستخدم لأنظمة الذكاء الاصطناعي، ولا لائحة توضح قدرات هذه الأنظمة، أو حتّى اختبارات السلامة التي أجريت عليها.

صحيحٌ أنّ بعض نماذج الذكاء الاصطناعي مفتوحة المصدر -أي أنّ رمزها البرمجي متوفّر لعموم الجمهور مجّاناً- إلّا أنّ النّاس لا يعلمون الكثير عن عملية ابتكارها، أو ما الذي يحصل بعد إطلاقها.

تقييم جامعة ستانفورد

في هذا السياق، أطلق باحثون من جامعة ستانفورد أخيراً نظام تقييم على أمل المساعدة في تغيير هذا الوضع.

يحمل المشروع اسم «مؤشر شفافية نموذج الأساس» Foundation Model Transparency Index ويصنّف 10 نماذج لغوية كبيرة مدعومة بالذكاء الاصطناعي (تُسمّى أحياناً بـ«نماذج الأساس») بناءً على درجة شفافيتها.

يشمل المؤشر نماذج شهيرة مثل GPT-4 من «أوبن إي آي» (الذي يشغّل الإصدار المدفوع من «تشات جي بي تي»)، و«PaLM 2» (الذي يشغّل نموذج «بارد»)، و«LLaMA 2» من «ميتا»، بالإضافة إلى نماذج أقلّ شعبية مثل «Titan Text» من «أمازون»، و«Inflection-1» من «إنفلكشن إي آي»، الذي يشغّل روبوت المحادثة «باي».

لتصميم التصنيف، قيّم الباحثون كلّ نموذج وفقاً لمائة معيار، ككشف الشركة المنتجة عن مصادر بيانات التدريب ومعلومات عن الأدوات المستخدمة، والعمالة التي شاركت في التدريب، إلى جانب تفاصيل أخرى. وتضمّنت التصنيفات أيضاً معلومات عن العمالة والبيانات المستخدمة لإنتاج النموذج نفسه، إلى جانب ما سماه الباحثون «مؤشرات المجريات» (downstream indicators) المتعلّقة بكيفية استخدام النموذج بعد إطلاقه. (مثلاً، جاء أحد الأسئلة على الشكل الآتي: «هل كشف المطوّر عن البروتوكولات التي استخدمها لتخزين بيانات المستخدم، والوصول إليها، ومشاركتها؟»).

شفافية الذكاء الاصطناعي

وجد الباحثون بعد التصنيف الذي أجروه أنّ النموذج الأكثر شفافية هو «LLaMA 2» بنسبة 54 في المائة، بينما حقّق «GPT-4» و«PaLM 2» ثالث أعلى رصيد شفافية بـ40 في المائة.

وصف بيرسي ليانغ، مدير مركز أبحاث نماذج الأساس في ستانفورد، مشروع التصنيف، بالاستجابة الضرورية للشفافية المتردّية في صناعة الذكاء الاصطناعي. وأضاف أنّ تدفّق الأموال للاستثمار في الذكاء الاصطناعي وتصارع كبرى شركات التقنية للسيطرة على الصناعة، دفع كثيراً منها أخيراً إلى إحاطة نفسها بالسريّة التامّة.

ويشرح ليانغ: «قبل ثلاث سنوات، كان الناس ينشرون ويشاركون تفاصيل أكثر عن نماذجهم. أمّا اليوم، فلا توجد معلومات حول طبيعة هذه النماذج، وكيف طُوّرت، وأين تُستخدم».

تنطوي الشفافية اليوم على أهميّة استثنائية؛ لأنّ هذه النماذج تزداد قوّة، فضلاً عن أنّ أدوات الذكاء الاصطناعي باتت تدخل في حياة الملايين اليومية. ومعرفة مزيد عن عمل هذه الأنظمة سيزوّد واضعي القوانين والباحثين والمستخدمين بمفهومٍ أفضل عمّا يتعاملون معه، وسيتيح لهم طرح أسئلة بنّاءة عن الشركات التي تقف خلف النماذج.

ويشدّد ليانغ على «غياب مشاركة بعض القرارات التبعية التي تُتّخذ اليوم حول تطوير هذه النماذج».

سرّية غير مبررة

ويضيف ليانغ أنّه عندما يسأل المديرين التنفيذيين في شركات الذكاء الاصطناعي عن سبب عدم مشاركتهم لمزيد من المعلومات عن نماذجهم، يسمع واحدة من ثلاث إجابات شائعة:

* الأولى هي الدعاوى القضائية: تواجه شركات ذكاء اصطناعي عدّة دعاوى قضائية رفعها مؤلّفون وفنّانون وشركات إعلامية، تتهمها باستخدام أعمال خاضعة لحقوق الملكية بشكلٍ غير قانوني لتدريب نماذج الذكاء الاصطناعي الخاصة بها. استهدف معظم هذه الدعاوى حتّى اليوم مشاريع الذكاء الاصطناعي مفتوحة المصدر، أو المشاريع التي نشرت معلومات مفصّلة عن نماذجها. يتخوّف الوكلاء القانونيون لشركات الذكاء الاصطناعي من أن يجرّ إفصاح الشركات عن تفاصيل بناء نماذجها مزيداً من العواقب القانونية المزعجة والمكلفة.

* الثانية هي المنافسة: تعتقد شركات الذكاء الاصطناعي أنّ نماذجها تعمل لأنّها تملك ما يشبه «الصلصة السرية»؛ نسقٌ من البيانات النوعية التي لا تملكها الشركات الأخرى، وتقنية عالية الضبط تعطي نتائج أفضل، وبعض الصقل الذي يمنحها أفضلية ما. تحاجج هذه الشركات بأنّها في حال أُجبرت على الكشف عن وصفاتها السرية، ستُقدّم لمنافسيها حكمة اكتسبتها بصعوبة على طبقٍ من فضّة.

* الثالثة، وهي الأكثر ترداداً، السلامة: يحاجج بعض خبراء الذكاء الاصطناعي بأنّه كلّما زاد كمّ المعلومات التي تشاركها شركات الذكاء الاصطناعي عن نماذجها، سيتسارع تقدّم الذكاء الاصطناعي أكثر؛ لأنّ كلّ واحدة من هذه الشركات ستطّلع على ما حقّقته منافستها، وستعمد على الفور إلى التفوّق عليها ببناء نموذج أفضل وأكبر وأسرع. وهكذا، لن يملك المجتمع الوقت الكافي لتنظيم وإبطاء الذكاء الاصطناعي، مما سيعرّضنا جميعاً لمزيد من المخاطر إذا أصبح الذكاء الاصطناعي أقوى بسرعةٍ أكبر.

لا توجد معلومات حول طبيعة هذه النماذج وكيف طُوّرت وأين تُستخدم

تفسيرات غير مقنعة

ولكنّ باحثي ستانفورد لا يصدّقون هذه التفسيرات، ويعتقدون أنّ شركات الذكاء الاصطناعي يجب أن تخضع لضغوطات للكشف عن المعلومات الكافية التي توضح قوّة نماذجها؛ لأنّ المستخدمين والباحثين وواضعي القوانين يجب أن يكونوا على دراية بكيفية عمل هذه النماذج، ومحدوديتها، وبدرجة الخطر التي قد تترتّب عليها.

من جهته، قال ريشي بوماساني، أحد الباحثين المشاركين في المشروع، إنّ «الشفافية تشهد تراجعاً ملحوظاً يتزامن مع تصاعد تأثير هذه التقنية».

ونحن نوافقهم الرأي؛ لأنّ هذه النماذج الأساس أقوى من أن تبقى مبهمة، وكلّما توسّعت معرفتنا بها زاد فهمنا للتهديدات التي قد ترتّبها، والمكاسب التي قد تحملها، أو للطريقة التي تمكّننا من تنظيمها.

وإذا كان تنفيذيّو شركات الذكاء الاصطناعي يشعرون بالقلق من الدعاوى القضائية، فربّما يجب عليهم أن يكافحوا من أجل إعفاء عادلٍ يحمي قدرتهم على استخدام المعلومات الخاضعة لحقوق الملكية لتدريب نماذجهم بدل إخفاء الأدلّة. وإذا كانوا يشعرون بالقلق من التنازل عن أسرارهم التجارية للمنافسين، فيمكنهم رفع النقاب عن نوعٍ آخر من المعلومات، أو حماية أفكارهم بواسطة براءة اختراع. وفي حال كانوا قلقين من استعار سباق التسلّح بالذكاء الاصطناعي، نقول لهم: «ألسنا في وسط واحدٍ الآن؟»

لا يمكننا السماح بثورة ذكاء اصطناعي في الظلام، ويجب أن نعلم ماذا يوجد داخل صناديق الذكاء الاصطناعي السوداء إذا كنّا سنسمح لها بتغيير حياتنا.

* خدمة «نيويورك تايمز»


مقالات ذات صلة

صمم موقعك ثلاثي الأبعاد بخطوات بسيطة ودون «كود»

تكنولوجيا تمكنك «دورا» من تصميم مواقع ثلاثية الأبعاد مذهلة بسهولة تامة باستخدام الذكاء الاصطناعي دون الحاجة لأي معرفة برمجية (دورا)

صمم موقعك ثلاثي الأبعاد بخطوات بسيطة ودون «كود»

تتيح «دورا» للمستخدمين إنشاء مواقع مخصصة باستخدام الذكاء الاصطناعي عبر إدخال وصف نصي بسيط.

عبد العزيز الرشيد (الرياض)
خاص يحول الذكاء الاصطناعي الطابعات من مجرد خدمة بسيطة إلى أداة أكثر ذكاءً واستجابة لحاجات المستخدمين (أدوبي)

خاص كيف يجعل الذكاء الاصطناعي الطابعات أكثر ذكاءً؟

تلتقي «الشرق الأوسط» الرئيسة العامة ومديرة قسم الطباعة المنزلية في شركة «إتش بي» (HP) لفهم تأثير الذكاء الاصطناعي على عمل الطابعات ومستقبلها.

نسيم رمضان (بالو ألتو - كاليفورنيا)
يوميات الشرق فهم طريقة عمل الذكاء الاصطناعي أمر مهم لكنه ليس المهارة الوحيدة اللازمة للنجاح في العمل (رويترز)

ليست البرمجة... مهارة أساسية تحتاج إليها للنجاح في عصر الذكاء الاصطناعي

يحتاج جميع الشباب للنجاح في مكان العمل، وسط انتشار الذكاء الاصطناعي، إلى مهارة أساسية، موجودة منذ آلاف السنين.

«الشرق الأوسط» (واشنطن)
الاقتصاد شعار «تي إس إم سي» خلال معرض في مركز التجارة العالمي في تايوان (أ.ب)

الصين: القيود المفروضة على «تي إس إم سي» تقوّض مصالح الشركات التايوانية

قالت الصين إن القيود المفروضة على شركة «تي إس إم سي» تقوّض مصالح الشركات التايوانية.

«الشرق الأوسط» (بكين)
تكنولوجيا خلال جلسة في «قمة الويب» 2024 في لشبونة عاصمة البرتغال 12 نوفمبر 2024 (إ.ب.أ)

«ثورة الذكاء الاصطناعي» تطغى على «قمة الويب» في لشبونة

يطغى الذكاء الاصطناعي والتحوّلات الناتجة عنه على المناقشات خلال «قمة الويب» التي تُعقَد في لشبونة هذا الأسبوع على خلفية إعادة انتخاب ترمب رئيساً لأميركا.

«الشرق الأوسط» (لشبونة)

صمم موقعك ثلاثي الأبعاد بخطوات بسيطة ودون «كود»

تمكنك «دورا» من تصميم مواقع ثلاثية الأبعاد مذهلة بسهولة تامة باستخدام الذكاء الاصطناعي دون الحاجة لأي معرفة برمجية (دورا)
تمكنك «دورا» من تصميم مواقع ثلاثية الأبعاد مذهلة بسهولة تامة باستخدام الذكاء الاصطناعي دون الحاجة لأي معرفة برمجية (دورا)
TT

صمم موقعك ثلاثي الأبعاد بخطوات بسيطة ودون «كود»

تمكنك «دورا» من تصميم مواقع ثلاثية الأبعاد مذهلة بسهولة تامة باستخدام الذكاء الاصطناعي دون الحاجة لأي معرفة برمجية (دورا)
تمكنك «دورا» من تصميم مواقع ثلاثية الأبعاد مذهلة بسهولة تامة باستخدام الذكاء الاصطناعي دون الحاجة لأي معرفة برمجية (دورا)

لطالما كان تصميم مواقع ويب ثلاثية الأبعاد تفاعلية في الماضي يمثل تحدياً كبيراً، حيث كان يتطلب معرفة متقدمة بلغات البرمجة، وخبرة في الرسوميات ثلاثية الأبعاد، بالإضافة إلى الكثير من الوقت والجهد لتطوير وتحسين كل عنصر. اليوم، تتيح (دورا) تجاوز هذه الصعوبات بفضل واجهتها المدعومة بالذكاء الاصطناعي، حيث توفر للمصممين والمطورين بيئة سهلة وسريعة لإنشاء مواقع مبهرة ومتجاوبة دون الحاجة لأي كود برمجي، مما يفتح المجال لجميع المستخدمين، مهما كانت خلفيتهم التقنية، لإنشاء مواقع جذابة بكل سهولة وسلاسة.

ما المميزات الرئيسية (دورا) dora.run؟

كل ما عليك هو كتابة وصف بسيط للموقع وسيقوم النظام بإنشائه لك تلقائياً (دورا)

1. إنشاء المواقع بالذكاء الاصطناعي

تتيح «دورا» للمستخدمين إنشاء مواقع مخصصة باستخدام الذكاء الاصطناعي، يكفي إدخال وصف نصي بسيط لتقوم المنصة بتوليد تصميم الموقع تلقائياً. تعتمد هذه الخاصية على تقنية الذكاء الاصطناعي القادرة على تحليل النصوص وتحويلها إلى عناصر مرئية في الموقع.

أضف لمسة حية لموقعك عبر ميزة الرسوم المتحركة المتقدمة حيث يمكنك ضبط التوقيت وسرعة الحركة لإنشاء تجربة تفاعلية مميزة (دورا)

2. تصميم ثلاثي الأبعاد دون برمجة

توفر «دورا» للمستخدمين أدوات تتيح لهم إدراج كائنات ثلاثية الأبعاد (3D) مباشرة داخل مواقعهم، مما يمنحهم القدرة على إضافة عناصر تفاعلية وحيوية. يمكن للمستخدمين استيراد كائنات 3D، وتحريرها، وتخصيصها لتناسب رؤيتهم، دون الحاجة إلى أي معرفة برمجية.

3. الرسوم المتحركة المتقدمة

تدعم «دورا» إنشاء رسوم متحركة متقدمة بفضل محرك رسوميات مرن. تتضمن الخيارات الرسوم المتحركة التمريرية (scroll animations) التي تضفي طابعاً ديناميكياً على تجربة المستخدم. تتيح المنصة التحكم في توقيت وسرعة الرسوم المتحركة، مما يساعد في بناء تجربة استخدام سلسة وجذابة.

تتيح «دورا» بناء مواقع تتوافق تلقائياً مع جميع الأجهزة بفضل نظام التخطيط المتجاوب مما يضمن تجربة سلسة للمستخدمين (دورا)

4. واجهة استجابة كاملة للأجهزة المختلفة

بفضل نظام التخطيط المبني على القيود (constraint layout)، تتميز المواقع المنشأة باستخدام «دورا» بأنها متجاوبة وتتكيف مع أحجام الشاشات المختلفة، سواء كانت على الهواتف الذكية أو أجهزة الكومبيوتر اللوحية أو المكتبية. يسهم هذا في ضمان تجربة مستخدم مُرضية على جميع الأجهزة الأخرى.

كيف تختلف «دورا» عن أدوات التصميم الأخرى؟

تجمع «دورا» بين ميزات متقدمة، مثل التصميم ثلاثي الأبعاد والرسوم المتحركة، مع واجهة سهلة الاستخدام وداعمة للذكاء الاصطناعي. وعلى عكس الأدوات الأخرى التي قد تتطلب معرفة برمجية أو تقنيات ثلاثية الأبعاد، فإن «دورا» تمنح المصممين والمطورين قدرات غير تقليدية لإنشاء مواقع جذابة بشكل أسرع وأكثر سهولة.

الخطط التسعيرية

تتوفر حالياً نسخة تجريبية مجانية (Alpha 2.0)، والتي تتيح الوصول إلى معظم ميزات «دورا» بشكل مجاني. مع إصدار النسخة النهائية، يُتوقع أن توفر «دورا» خططاً تسعيرية متفاوتة حسب احتياجات المستخدمين، وستقوم المنصة بإخطار المستخدمين بأي تغييرات في هيكل التسعير مستقبلاً.

تعد «دورا» أداة مبتكرة في مجال تصميم مواقع الويب، تجمع بين سهولة الاستخدام والتقنيات المتقدمة مثل الذكاء الاصطناعي والتصميم ثلاثي الأبعاد، مما يجعلها خياراً مناسباً للمصممين والمطورين الذين يرغبون في إنشاء مواقع تفاعلية وجذابة بسهولة وسرعة.