باحثو «ستانفورد»: لا يمكننا السماح بثورة ذكاء اصطناعي في الظلام

تصنيف علمي لشفافية طريقة تشغيل 10 نماذج منها

جدول جامعة ستانفورد لتقييم النماذج العشرة للذكاء الاصطناعي
جدول جامعة ستانفورد لتقييم النماذج العشرة للذكاء الاصطناعي
TT

باحثو «ستانفورد»: لا يمكننا السماح بثورة ذكاء اصطناعي في الظلام

جدول جامعة ستانفورد لتقييم النماذج العشرة للذكاء الاصطناعي
جدول جامعة ستانفورد لتقييم النماذج العشرة للذكاء الاصطناعي

ما مدى معرفتنا عن الذكاء الاصطناعي، عندما يتعلّق الأمر بالنماذج اللغوية الكبيرة التي أطلقتها شركات مثل «أوبن إي آي» و«غوغل» و«ميتا» العام الماضي؟ الجواب هو: لا شيء.

تُحجم هذه الشركات عامّة عن المشاركة بمعلومات عن البيانات التي استخدمتها لتدريب نماذجها أو الأدوات التي استخدمتها لتشغيلها. لا يوجد حتّى اليوم دليلٌ خاص بالمستخدم لأنظمة الذكاء الاصطناعي، ولا لائحة توضح قدرات هذه الأنظمة، أو حتّى اختبارات السلامة التي أجريت عليها.

صحيحٌ أنّ بعض نماذج الذكاء الاصطناعي مفتوحة المصدر -أي أنّ رمزها البرمجي متوفّر لعموم الجمهور مجّاناً- إلّا أنّ النّاس لا يعلمون الكثير عن عملية ابتكارها، أو ما الذي يحصل بعد إطلاقها.

تقييم جامعة ستانفورد

في هذا السياق، أطلق باحثون من جامعة ستانفورد أخيراً نظام تقييم على أمل المساعدة في تغيير هذا الوضع.

يحمل المشروع اسم «مؤشر شفافية نموذج الأساس» Foundation Model Transparency Index ويصنّف 10 نماذج لغوية كبيرة مدعومة بالذكاء الاصطناعي (تُسمّى أحياناً بـ«نماذج الأساس») بناءً على درجة شفافيتها.

يشمل المؤشر نماذج شهيرة مثل GPT-4 من «أوبن إي آي» (الذي يشغّل الإصدار المدفوع من «تشات جي بي تي»)، و«PaLM 2» (الذي يشغّل نموذج «بارد»)، و«LLaMA 2» من «ميتا»، بالإضافة إلى نماذج أقلّ شعبية مثل «Titan Text» من «أمازون»، و«Inflection-1» من «إنفلكشن إي آي»، الذي يشغّل روبوت المحادثة «باي».

لتصميم التصنيف، قيّم الباحثون كلّ نموذج وفقاً لمائة معيار، ككشف الشركة المنتجة عن مصادر بيانات التدريب ومعلومات عن الأدوات المستخدمة، والعمالة التي شاركت في التدريب، إلى جانب تفاصيل أخرى. وتضمّنت التصنيفات أيضاً معلومات عن العمالة والبيانات المستخدمة لإنتاج النموذج نفسه، إلى جانب ما سماه الباحثون «مؤشرات المجريات» (downstream indicators) المتعلّقة بكيفية استخدام النموذج بعد إطلاقه. (مثلاً، جاء أحد الأسئلة على الشكل الآتي: «هل كشف المطوّر عن البروتوكولات التي استخدمها لتخزين بيانات المستخدم، والوصول إليها، ومشاركتها؟»).

شفافية الذكاء الاصطناعي

وجد الباحثون بعد التصنيف الذي أجروه أنّ النموذج الأكثر شفافية هو «LLaMA 2» بنسبة 54 في المائة، بينما حقّق «GPT-4» و«PaLM 2» ثالث أعلى رصيد شفافية بـ40 في المائة.

وصف بيرسي ليانغ، مدير مركز أبحاث نماذج الأساس في ستانفورد، مشروع التصنيف، بالاستجابة الضرورية للشفافية المتردّية في صناعة الذكاء الاصطناعي. وأضاف أنّ تدفّق الأموال للاستثمار في الذكاء الاصطناعي وتصارع كبرى شركات التقنية للسيطرة على الصناعة، دفع كثيراً منها أخيراً إلى إحاطة نفسها بالسريّة التامّة.

ويشرح ليانغ: «قبل ثلاث سنوات، كان الناس ينشرون ويشاركون تفاصيل أكثر عن نماذجهم. أمّا اليوم، فلا توجد معلومات حول طبيعة هذه النماذج، وكيف طُوّرت، وأين تُستخدم».

تنطوي الشفافية اليوم على أهميّة استثنائية؛ لأنّ هذه النماذج تزداد قوّة، فضلاً عن أنّ أدوات الذكاء الاصطناعي باتت تدخل في حياة الملايين اليومية. ومعرفة مزيد عن عمل هذه الأنظمة سيزوّد واضعي القوانين والباحثين والمستخدمين بمفهومٍ أفضل عمّا يتعاملون معه، وسيتيح لهم طرح أسئلة بنّاءة عن الشركات التي تقف خلف النماذج.

ويشدّد ليانغ على «غياب مشاركة بعض القرارات التبعية التي تُتّخذ اليوم حول تطوير هذه النماذج».

سرّية غير مبررة

ويضيف ليانغ أنّه عندما يسأل المديرين التنفيذيين في شركات الذكاء الاصطناعي عن سبب عدم مشاركتهم لمزيد من المعلومات عن نماذجهم، يسمع واحدة من ثلاث إجابات شائعة:

* الأولى هي الدعاوى القضائية: تواجه شركات ذكاء اصطناعي عدّة دعاوى قضائية رفعها مؤلّفون وفنّانون وشركات إعلامية، تتهمها باستخدام أعمال خاضعة لحقوق الملكية بشكلٍ غير قانوني لتدريب نماذج الذكاء الاصطناعي الخاصة بها. استهدف معظم هذه الدعاوى حتّى اليوم مشاريع الذكاء الاصطناعي مفتوحة المصدر، أو المشاريع التي نشرت معلومات مفصّلة عن نماذجها. يتخوّف الوكلاء القانونيون لشركات الذكاء الاصطناعي من أن يجرّ إفصاح الشركات عن تفاصيل بناء نماذجها مزيداً من العواقب القانونية المزعجة والمكلفة.

* الثانية هي المنافسة: تعتقد شركات الذكاء الاصطناعي أنّ نماذجها تعمل لأنّها تملك ما يشبه «الصلصة السرية»؛ نسقٌ من البيانات النوعية التي لا تملكها الشركات الأخرى، وتقنية عالية الضبط تعطي نتائج أفضل، وبعض الصقل الذي يمنحها أفضلية ما. تحاجج هذه الشركات بأنّها في حال أُجبرت على الكشف عن وصفاتها السرية، ستُقدّم لمنافسيها حكمة اكتسبتها بصعوبة على طبقٍ من فضّة.

* الثالثة، وهي الأكثر ترداداً، السلامة: يحاجج بعض خبراء الذكاء الاصطناعي بأنّه كلّما زاد كمّ المعلومات التي تشاركها شركات الذكاء الاصطناعي عن نماذجها، سيتسارع تقدّم الذكاء الاصطناعي أكثر؛ لأنّ كلّ واحدة من هذه الشركات ستطّلع على ما حقّقته منافستها، وستعمد على الفور إلى التفوّق عليها ببناء نموذج أفضل وأكبر وأسرع. وهكذا، لن يملك المجتمع الوقت الكافي لتنظيم وإبطاء الذكاء الاصطناعي، مما سيعرّضنا جميعاً لمزيد من المخاطر إذا أصبح الذكاء الاصطناعي أقوى بسرعةٍ أكبر.

لا توجد معلومات حول طبيعة هذه النماذج وكيف طُوّرت وأين تُستخدم

تفسيرات غير مقنعة

ولكنّ باحثي ستانفورد لا يصدّقون هذه التفسيرات، ويعتقدون أنّ شركات الذكاء الاصطناعي يجب أن تخضع لضغوطات للكشف عن المعلومات الكافية التي توضح قوّة نماذجها؛ لأنّ المستخدمين والباحثين وواضعي القوانين يجب أن يكونوا على دراية بكيفية عمل هذه النماذج، ومحدوديتها، وبدرجة الخطر التي قد تترتّب عليها.

من جهته، قال ريشي بوماساني، أحد الباحثين المشاركين في المشروع، إنّ «الشفافية تشهد تراجعاً ملحوظاً يتزامن مع تصاعد تأثير هذه التقنية».

ونحن نوافقهم الرأي؛ لأنّ هذه النماذج الأساس أقوى من أن تبقى مبهمة، وكلّما توسّعت معرفتنا بها زاد فهمنا للتهديدات التي قد ترتّبها، والمكاسب التي قد تحملها، أو للطريقة التي تمكّننا من تنظيمها.

وإذا كان تنفيذيّو شركات الذكاء الاصطناعي يشعرون بالقلق من الدعاوى القضائية، فربّما يجب عليهم أن يكافحوا من أجل إعفاء عادلٍ يحمي قدرتهم على استخدام المعلومات الخاضعة لحقوق الملكية لتدريب نماذجهم بدل إخفاء الأدلّة. وإذا كانوا يشعرون بالقلق من التنازل عن أسرارهم التجارية للمنافسين، فيمكنهم رفع النقاب عن نوعٍ آخر من المعلومات، أو حماية أفكارهم بواسطة براءة اختراع. وفي حال كانوا قلقين من استعار سباق التسلّح بالذكاء الاصطناعي، نقول لهم: «ألسنا في وسط واحدٍ الآن؟»

لا يمكننا السماح بثورة ذكاء اصطناعي في الظلام، ويجب أن نعلم ماذا يوجد داخل صناديق الذكاء الاصطناعي السوداء إذا كنّا سنسمح لها بتغيير حياتنا.

* خدمة «نيويورك تايمز»


مقالات ذات صلة

كيف يجعل الذكاء الاصطناعي الطابعات أكثر ذكاءً؟

خاص يحول الذكاء الاصطناعي الطابعات من مجرد خدمة بسيطة إلى أداة أكثر ذكاءً واستجابة لحاجات المستخدمين (أدوبي)

كيف يجعل الذكاء الاصطناعي الطابعات أكثر ذكاءً؟

تلتقي «الشرق الأوسط» الرئيسة العامة ومديرة قسم الطباعة المنزلية في شركة «إتش بي» (HP) لفهم تأثير الذكاء الاصطناعي على عمل الطابعات ومستقبلها.

نسيم رمضان (بالو ألتو - كاليفورنيا)
يوميات الشرق فهم طريقة عمل الذكاء الاصطناعي أمر مهم لكنه ليس المهارة الوحيدة اللازمة للنجاح في العمل (رويترز)

ليست البرمجة... مهارة أساسية تحتاج إليها للنجاح في عصر الذكاء الاصطناعي

يحتاج جميع الشباب للنجاح في مكان العمل، وسط انتشار الذكاء الاصطناعي، إلى مهارة أساسية، موجودة منذ آلاف السنين.

«الشرق الأوسط» (واشنطن)
الاقتصاد شعار «تي إس إم سي» خلال معرض في مركز التجارة العالمي في تايوان (أ.ب)

الصين: القيود المفروضة على «تي إس إم سي» تقوّض مصالح الشركات التايوانية

قالت الصين إن القيود المفروضة على شركة «تي إس إم سي» تقوّض مصالح الشركات التايوانية.

«الشرق الأوسط» (بكين)
تكنولوجيا خلال جلسة في «قمة الويب» 2024 في لشبونة عاصمة البرتغال 12 نوفمبر 2024 (إ.ب.أ)

«ثورة الذكاء الاصطناعي» تطغى على «قمة الويب» في لشبونة

يطغى الذكاء الاصطناعي والتحوّلات الناتجة عنه على المناقشات خلال «قمة الويب» التي تُعقَد في لشبونة هذا الأسبوع على خلفية إعادة انتخاب ترمب رئيساً لأميركا.

«الشرق الأوسط» (لشبونة)
خاص يتطلب «واي فاي 7» بنية تحتية متقدمة ودعماً لمعدلات بيانات أعلى (أدوبي)

خاص كيف يدعم «واي فاي 7» التحول الرقمي وشبكات القطاعات الحيوية؟

يعزز «واي فاي 7» الاتصال عالي السرعة ويدعم التحول الرقمي في القطاعات الحيوية مع تحسين الأمان وكفاءة استهلاك الطاقة لتحقيق الاستدامة.

نسيم رمضان (دبي)

كيف يجعل الذكاء الاصطناعي الطابعات أكثر ذكاءً؟

يحول الذكاء الاصطناعي الطابعات من مجرد خدمة بسيطة إلى أداة أكثر ذكاءً واستجابة لحاجات المستخدمين (أدوبي)
يحول الذكاء الاصطناعي الطابعات من مجرد خدمة بسيطة إلى أداة أكثر ذكاءً واستجابة لحاجات المستخدمين (أدوبي)
TT

كيف يجعل الذكاء الاصطناعي الطابعات أكثر ذكاءً؟

يحول الذكاء الاصطناعي الطابعات من مجرد خدمة بسيطة إلى أداة أكثر ذكاءً واستجابة لحاجات المستخدمين (أدوبي)
يحول الذكاء الاصطناعي الطابعات من مجرد خدمة بسيطة إلى أداة أكثر ذكاءً واستجابة لحاجات المستخدمين (أدوبي)

لطالما كان يُنظر إلى الطباعة على أنها عملية بسيطة، وربما لم تأخذ الطابعات حقها من الرواج أو الاهتمام كغيرها من الآلات مع ظهور الذكاء الاصطناعي ودمجه في مختلف جوانب عملها. فكيف يمكن للذكاء الاصطناعي إذن أن يُكسِب الطابعات مستويات جديدة من الراحة والكفاءة والذكاء؟

«الشرق الأوسط» التقت سو ريتشاردز، الرئيسة العامة ومديرة قسم الطباعة المنزلية في شركة «إتش بي» على هامش حدث (تخيل إتش بي) «إتش بي إيماجين» (HP Imagine) في مقر الشركة الرئيسي بمدينة بالو ألتو في ولاية كاليفورنيا الأميركية؛ لتستكشف كيفية تأثير الذكاء الاصطناعي على عمل الطابعات ومستقبلها.

لماذا الذكاء الاصطناعي في الطابعات؟

في حين يرتبط الذكاء الاصطناعي بعمق الآن بالأجهزة الرقمية مثل الهواتف الذكية وأجهزة الكومبيوتر، إلا أن فوائد هذه التقنية تتجاوز ذلك بكثير. تقول ريتشاردز إن معظم الناس يرون الطابعات «وسيلة مادية من جهاز رقمي»، أي بمثابة مخرج مادي من جهاز رقمي. وتوضّح أن دور الذكاء الاصطناعي في الطابعات لا يتعلق فقط بإضافة الذكاء بصفته ميزةً إضافية، بل يتعلق بـ«كيفية تمكين الذكاء الاصطناعي للعملاء للقيام بالأشياء بسهولة أكبر، وباحتكاك أقل؛ مما يمنحهم وقتاً للتركيز على الأشياء التي يحبونها».

في هذا العالم الرقمي المتزايد، يبحث المستهلكون عن تفاعلات ملموسة، مثل إرسال بطاقات مطبوعة أو وصفات طعام وغير ذلك. وتشير سو ريتشاردز إلى أن هذه التفاعلات «أصبحت أكثر أهمية مع ازدياد اعتماد (جيل الرقميين) على الأمور الرقمية». هذا الطلب على التفاعل المادي يفتح الفرص أمام الذكاء الاصطناعي لتعزيز تجارب الطباعة؛ مما يحولها من خدمة أساسية إلى تجربة أذكى وأكثر سهولة.

سو ريتشاردز الرئيسة العامة ومديرة قسم الطباعة المنزلية في شركة «إتش بي» متحدثة لـ«الشرق الأوسط» (الشرق الأوسط)

ميزات مدعومة بالذكاء الاصطناعي

لقد بدأت «إتش بي» بدمج ميزات الذكاء الاصطناعي في نظام الطباعة الخاص بها منذ سنوات، بدءاً من الاتصال السحابي في عام 2012 لخدمات الحبر الفوري. يسمح هذا الاتصال للشركة بجمع بيانات عن الاستخدام وحالة الجهاز، مما يمكّنها من تحسين وظائف الطباعة لتلبية احتياجات العملاء بشكل أفضل. ووفقاً لريتشاردز، «يمكن تطبيق أي بيانات متاحة بالذكاء الاصطناعي لخدمة العميل بشكل أفضل».

على سبيل المثال، كانت إحدى الميزات المبتكرة التي تم الحديث عنها هي استخدام الذكاء الاصطناعي «لتبسيط عملية الطباعة عن طريق إزالة النصوص والإعلانات غير الضرورية من صفحات الويب». هذه القدرة، المتاحة عبر متصفح «كروم»، تتيح للمستخدمين تقليل مهمة طباعة طويلة محتملة إلى صفحة أو صفحتين فقط. هذا لا يوفر الورق والحبر فحسب، بل يعزز الاستدامة أيضاً، وهي أولوية أساسية لشركة «إتش بي» التي تهدف إلى استخدام 60 في المائة من البلاستيك المعاد تدويره في أحدث نماذج طابعاتها.

الذكاء الاصطناعي لتبسيط الصيانة

أحد الجوانب الأكثر إحباطاً في الطباعة المنزلية كان دائماً الصيانة، خصوصاً عند التعامل مع مشكلات الحبر وأنابيبه. وأوضحت ريتشاردز أن الطابعات المتكاملة مع الذكاء الاصطناعي من «إتش بي» يمكنها الآن التواصل مع السحابة لتقديم معلومات حول حالة الطابعة وصحتها حتى قبل أن يواجه المستخدم مشكلة. وهذا يعني أن العملاء قد يستمتعون قريباً بتجربة أسهل في خدمة الذات.

تقول ريتشاردز: «لقد قمنا بدمج أجهزة استشعار وتيارات بيانات في طابعاتنا»؛ مما يسمح للطابعة بالتواصل مع السحابة عند وجود مشكلة، والتي بدورها يمكن أن تخطر الدعم وقد تحل المشكلة دون أن يحتاج المستخدم إلى طلب المساعدة. هذا النهج الاستباقي يمكن أن يقلل من أوقات الدعم، ويقلل من الإحباط، ويساعد العملاء على حل المشكلات الشائعة بأنفسهم.

تقول «إتش بي» إن الطابعات الذكية قد تتكيف تلقائياً مع احتياجات الطباعة الفردية (أدوبي)

الذكاء الاصطناعي والاستدامة

كانت الاستدامة محوراً رئيسياً لشركة «إتش بي»، ويلعب الذكاء الاصطناعي أيضا دوراً حيوياً في دعم الممارسات البيئية في الطباعة المنزلية. أحد التحديات الأساسية مع الطابعات النافثة للحبر، خصوصاً للمستخدمين غير المتكررين، هو هدر الحبر. فمع الطباعة غير المتكررة، يتم هدر الحبر أثناء عمليات الصيانة التي تهدف إلى الحفاظ على رؤوس الطباعة، حيث ينتهي الأمر بالحبر دون أن يُستخدم على الورق.

لمعالجة هذا الأمر، قامت «إتش بي» بتحسين تكنولوجيا خزانات الحبر الخاصة بها. تذكر ريتشاردز أن «خزانات الحبر الخاصة بـ(إتش بي) مستدامة للغاية؛ لأننا نهدر كمية أقل من الحبر». ومن خلال استثمار الذكاء الاصطناعي، يمكن للشركة مساعدة المستخدمين على اختيار إعدادات الطباعة الأكثر كفاءة لاحتياجاتهم؛ مما يقلل من الهدر مع الحفاظ على جودة الطباعة. وعلاوة على ذلك، فإن ميزات توفير الطاقة، مثل ضبط الطابعات على وضع السكون أثناء فترات الخمول، تسهم في تقليل استهلاك الطاقة.

ويتجلى أيضاً التزام «إتش بي» بالاستدامة في عملية التصميم نفسها. تشير ريتشاردز إلى أن أحدث نماذج الطابعات في العرض تستخدم 60 في المائة من البلاستيك المعاد تدويره، وهو الأعلى في فئتها حتى الآن؛ مما يظهر أن الكفاءة المحسّنة بدعم الذكاء الاصطناعي تتماشى مع التصميم البيئي المسؤول.

تحقيق التوازن بين السلامة والاتصال

مع ازدياد ذكاء الطابعات واتصالها، تزداد المخاوف الأمنية. تظهر ريتشاردز ثقتها في التزام «إتش بي» بالأمان، خصوصاً مع تكامل الذكاء الاصطناعي. وتقول: «سنستمر في الحفاظ على أعلى معايير الأمان لطابعاتنا، من خلال إجراء مراجعات صارمة للأمان والخصوصية.» ويستند إطار أمان «إتش بي وولف» (HP Wolf) إلى حماية الأجهزة من الاختراقات الأمنية؛ مما يضمن أن تظل الطابعات آمنة في بيئة متصلة بشكل متزايد.

كما أن القدرة على الاتصال السحابي تعني أن الطابعات يتم تحديثها باستمرار بتصحيحات الأمان والتحسينات. وتعتقد ريتشاردز أنه مع اتصال المزيد من الأجهزة بشبكة الإنترنت، سيكون وجود إطار عمل آمن أمراً أساسياً، خصوصاً بالنسبة للأجهزة مثل الطابعات التي غالباً ما تتعامل مع بيانات حساسة.

«إتش بي»: الذكاء الاصطناعي يساعد في توفير الحبر وتقليل هدر الورق لتحقيق الاستدامة في الطباعة (أدوبي)

مستقبل الطباعة بالذكاء الاصطناعي

فتحَ دمج الذكاء الاصطناعي في الطابعات آفاقاً تتجاوز ما قد يتوقعه الكثيرون. وتنظر ريتشاردز إلى الأمام، متوقعة تجارب طباعة أكثر تخصيصاً وتكيفاً. قد يتمكن الذكاء الاصطناعي يوماً ما من ضبط إعدادات الطباعة تلقائياً بناءً على عادات المستخدم أو نوع المستندات أو حتى العوامل البيئية.

تقول ريتشاردز: «لقد بدأنا للتو». وتقترح أن الهدف هو أن تكون الطابعة جزءاً متكاملاً من حياة المستخدمين؛ مما يسمح لهم بالطباعة وقت الحاجة وبسهولة دون متاعب. بالإضافة إلى ذلك، قد يتطور الذكاء الاصطناعي ليتنبأ ويقترح وظائف طباعة بناءً على أنماط الاستخدام السابقة - مثل طباعة التقويم، أو قائمة التسوق، أو بطاقة تهنئة في الوقت المناسب، استناداً إلى التوجهات السابقة.

الذكاء الاصطناعي وتجربة المستخدم

الذكاء الاصطناعي في الطابعات ليس مجرد تقدم تقني، بل هو تحسين لتجربة المستخدم ككل. ووفقاً لريتشاردز لا يتعلق الأمر فقط بالذكاء الاصطناعي بصفته ميزةً، بل كيف يمكّن الذكاء الاصطناعي من القيام بالأشياء بسهولة أكبر، وباحتكاك أقل، ومنح الوقت. وهذا التركيز على نتائج تجربة المستخدم هو ميزة أساسية في نهج «إتش بي» لتكامل الذكاء الاصطناعي في منتجاتها.

ومع تزايد طلب المستهلكين على تجارب تقنية مخصصة وفعالة، يمكن للطابعات المدعومة بالذكاء الاصطناعي تبسيط كل شيء، بدءاً من الإعداد وحتى الدعم الفني. وتشير ريتشاردز إلى أن الذكاء الاصطناعي يمكن أن يجعل «التجربة تبدو بديهية، وليست مشكلة تقنية»؛ ما يقلل الحاجة إلى المستخدمين للبحث عن الدعم أو حل المشكلات بأنفسهم.

من خلال الذكاء الاصطناعي، تصبح الطابعات قادرة على توفير تجارب مستدامة وآمنة وعالية التخصيص تتماشى مع احتياجات المستهلكين اليوم. ومن المرجح أن يعرف مستقبل الطباعة ميزات ذكية تمتزج بسلاسة بين الراحة والتخصيص والحفاظ على البيئة.