أدوات ذكاء صناعي للتحقق من أصالة الأفكار

تميز بين النصوص الفكرية والمصنّعة

أدوات ذكاء صناعي للتحقق من أصالة الأفكار
TT

أدوات ذكاء صناعي للتحقق من أصالة الأفكار

أدوات ذكاء صناعي للتحقق من أصالة الأفكار

قريباً، قد يصبح أمراً عادياً أن نصطدم بتغريدة، أو مقال أو خبر، ونتساءل ما إذا كان معدّه برنامج ذكاء صناعي. قد تحيط التساؤلات بهويّة مؤلّف النصّ كما يحصل في الأوساط الأكاديمية، أو بموثوقيّة المحتوى في حالة المقالات.

أدوات التحقق من الأصالة
قد تدور الأسئلة أيضاً حول الأصالة: في حال ظهور فكرة مضلّلة فجأة في منشورات على الإنترنت، هل يتحرّك انتشارها بفعل نشاط المستخدمين، أم أنّ هذه المنشورات ولّدها الذكاء الصناعي للإيحاء بوجود شعبية لها؟
شهدت الشهور القليلة الماضية بداية نشوء أدوات التعريف التي تُحدّد ما إذا كانت النصوص من صناعة الذكاء الصناعي، وأبرزها أداةٌ من تطوير «أوبن إي آي»، الشركة التي ابتكرت برنامج «تشات جي بي تي». وتستخدم هذه الأداة نموذج ذكاء صناعي لرصد الفروقات بين النصوص الآلية الصنع وتلك التي يكتبها البشر.
عندما اختبرت الشركة أداتها، نجحت في التعرف على نصوص الذكاء الصناعي في حوالي نصف نماذج النصوص الآلية الصنع التي حلّلتها فقط. في ذلك الوقت، زعمت الشركة أنّها أطلقت هذا الراصد التجريبي «للحصول على انطباعات المستخدمين حول ما إذا كانت هذه الأدوات غير المثالية مفيدة».
يقول الخبراء إنّ تعريف النصوص الصناعية يزداد صعوبة مع استمرار تقدّم برمجيات كـ«تشات جي بي تي» وتقديمها نصوصا مقنعة كتلك التي يكتبها البشر. تختبر «أوبن إي آي» اليوم تقنية مهمّتها إدخال كلمات خاصّة على النصوص التي يولّدها «تشات جي بي تي» لتسهيل رصد نصوصه لاحقاً. تُعرف هذه التقنية بالعلامات المائية watermarking.
كشف جان ليك، رئيس قسم التنسيق في «أوبن إي آي»، أنّ «تقنية العلامات المائية التي تختبرها شركته شبيهة جداً بتقنية استعرضتها ورقة بحثية أخيرة نشرها باحثون من جامعة ماريلاند».
في هذه الحالة، قد يحاول أحدهم التخلّص من العلامة المائية من خلال توليف النص، ولكنّه لن يتمكّن من معرفة الكلمات التي يجب أن يغيّرها، وحتّى إذا نجح في تغيير بعضٍ من الكلمات المميّزة، لن ينجح على الأرجح إلّا في تقليل النسبة العامّة بنقاط قليلة.
من جهته، شرح توم غولدستين، أستاذ في جامعة ماريلاند والباحث المشارك في الورقة البحثية الخاصة بتقنية العلامات المائية، أنّ العلامة المائية خاصّتهم قابلة للرصد حتّى في «نصٍّ صغير جداً» كتغريدة مثلاً. في المقابل، تتطلّب أداة الرصد التي أطلقتها «أوبن إي آي» 1000 حرف، أو علامة، بالحدّ الأدنى.

محدودية الرصد
ولكنّ العلامات المائية ليست مثالية، شأنها شأن أيّ تقنية رصد أخرى، على حدّ تعبير غولدستين. إذ دُرّبت تقنية «أوبن إي آي» الحالية للرصد لتعريف نصوص يولدها 34 نموذجا لغويا مختلفا، إلا أن راصد العلامات المائية خاصتها يستطيع تعريف النصوص التي أنتجها نموذجٌ أو روبوت محادثة يستخدم نفس لائحة الكلمات المميزة التي يستخدمها الراصد.
هذا الأمر يعني أنّ هذه الوسيلة قد تقودنا إلى مستقبل تخضع فيه النصوص المريبة إلى مراجعة عدّة أدوات رصد بالعلامات المائية إلّا في حال اتفقت الشركات العاملة في مجال الذكاء الصناعي على وضع لائحة موحّدة بالمعايير التنفيذية للعلامات المائية.
في هذا السياق، اعتبر غولدستين أنّ ضمان فعالية العلامات المائية كلّ مرّة في منتجٍ يُستخدم على نطاق واسع كـ«تشات جي بي تي» دون التنازل عن نوعية مخرجاته سيتطلّب الكثير من الهندسة.
ولفت ليك من «أوبن إي آي» إلى أنّ الشركة لا تزال تدرس العلامات المائية كشكلٍ من أشكال الرصد، مضيفاً أنّها قد تعمد إلى استخدامها لتتمّة الأداة التي أطلقتها أخيراً على اعتبار أنّ كلتيهما «تتمتّع بمواطن قوّة وضعف مختلفة».
ومع ذلك، يعتقد الكثير من الخبراء أنّ تطوير أداة واحدة قادرة فعلاً على رصد كلّ النصوص التي يولّدها الذكاء الصناعي بدقّة ليس بالأمر الممكن، بسبب احتمال نشوء أدوات أخرى قد تساعد في إزالة الدليل الذي يثبت مسؤولية الذكاء الصناعي عن النصّ. علاوةً على ذلك، قد يصعب رصد النصّ الآلي الصنع، حتّى ولو كان يحمل علامة مائية، في حال كان جزءاً صغيراً من نصّ أكبر.
يقول الخبراء أيضاً إنّ أدوات الرصد خصوصاً تلك التي لا تستخدم علامات مائية، قد لا تتعرّف على النصوص الآلية الصنع التي شهدت تغييرات كثيرة.
وقال دايفيد كوكس، مدير مختبر «واطسون للذكاء الصناعي» التابع لمعهد ماساتشوستس للتكنولوجيا والمؤسسة الدولية للحواسيب (IBM): «أعتقد أنّ الفكرة هنا هي حتميّة توفّر أداة سحرية يطوّرها بائع النموذج أو طرف ثالث للمساعدة في إزالة الشكوك - ولكنّني لا أظنّ أنّنا سننعم بفرصة العيش في هذا العالم». ويعتقد بعض الخبراء أنّه على «أوبن إي آي» والشركات الأخرى المطوّرة لروبوتات المحادثة أن تأتي بحلول لأدوات الرصد قبل إطلاق منتجات للذكاء الصناعي خاصّتها وليس بعده.
أطلقت «أوبن إي آي» «تشات جي بي تي» في نهاية نوفمبر (تشرين الثاني) مثلاً، ولكنّها لم تصدر أداتها الخاصة للرصد إلّا بعد حوالي شهرين، في نهاية يناير (كانون الثاني). في ذلك الوقت، كان الأساتذة والباحثون قد بدأوا المطالبة بأدوات تساعدهم في تحديد النصوص المصنوعة آلياً. اشترك الكثيرون منهم لاستخدام أداة رصد جديدة اسمها «جي بي تي زيرو» GPTZero، طوّرها طالبٌ في جامعة برينستون خلال إجازته الشتوية وأصدرها في الأوّل من يناير (كانون الثاني).
وقال إدوارد تيان، مطوّر «جي بي تي زيرو»: «لقد سمعنا شكاوى من عدد كبير جداً من الأساتذة»، مضيفاً أنّ أكثر من 43 ألف أستاذ سجّلوا دخولهم لاستخدام الأداة منذ منتصف فبراير (شباط).
وأضاف أنّ «الذكاء الصناعي التوليدي تقنية مذهلة، ولكنّنا مع كلّ تقنية جديدة، نحتاج لتطوير ضمانات تساعد في تبنيها بشكلٍ مسؤول، على أن تتوفر هذه الضمانات فوراً وليس بعد أشهر أو سنوات من ظهور التقنية».
كيف يولّد الذكاء الصناعي النصوص؟

> عندما تصنع برمجيات الذكاء الصناعي مثل «تشات جي بي تي» النصوص، تدرس خيارات كثيرة لكلّ كلمة وتأخذ في الحسبان الإجابات السابقة التي كتبتها والسؤال الذي طُرح عليها.
تضع هذه البرامج نتيجة لكلّ خيار على اللائحة لتحديد احتمالية استخدام الكلمة بناءً على عددٍ كبير من النصوص البشرية التي حلّلتها.
بعدها، يختار «تشات جي بي تي»، الذي صُمّم بناء على ما يُعرف بنموذج لغوي كبير، الكلمة صاحبة النتيجة الأعلى وينتقل إلى اختيار الكلمة التالية.
تكون النتائج التي تقدّمها هذه البرامج غالباً منمّقة ومعقّدة إلى درجة توحي بأنّ روبوت المحادثة يفهم ما يقول، ولكنّه لا يفعل.
يعتمد كلّ خيار يقوم به هذا البرنامج على عمليات حسابية معقّدة وكميات كبيرة من البيانات تساعده غالباً في كتابة نصّ متماسك ودقيق. ولكن «تشات جي بي تي» لا يدرك خطأه أبداً عندما يقول شيئاً غير صحيح.

* خدمة «نيويورك تايمز».


مقالات ذات صلة

«غوغل» تكشف عن خدمة جديدة لإنتاج الفيديوهات للمؤسسات

تكنولوجيا «Google Vids» هي أداة بسيطة لإنشاء فيديوهات احترافية تدعم العمل الجماعي والذكاء الاصطناعي لإعداد المخططات وإضافة الصور تلقائياً (غوغل)

«غوغل» تكشف عن خدمة جديدة لإنتاج الفيديوهات للمؤسسات

تستهدف هذه الخدمة الشركات التي تتطلع إلى إنتاج محتوى مرئي احترافي بكفاءة وسرعة دون الحاجة للخبرة الفنية العميقة.

عبد العزيز الرشيد (الرياض)
تكنولوجيا تتيح «فينغيج» قوالب وأدوات تخصيص سهلة بينما تستخدم «نابكن إيه آي» الذكاء الاصطناعي لتحويل النصوص إلى تصميمات جذابة (فينغيج)

أدوات مميزة لتحويل أفكارك إلى تصميمات مرئية جذابة

تخيل أن بإمكانك تصميم إنفوغرافيك أو تقرير جذاب بسهولة!

عبد العزيز الرشيد (الرياض)
خاص يتطلب «واي فاي 7» بنية تحتية متقدمة ودعماً لمعدلات بيانات أعلى (أدوبي)

خاص كيف يدعم «واي فاي 7» التحول الرقمي وشبكات القطاعات الحيوية؟

يعزز «واي فاي 7» الاتصال عالي السرعة ويدعم التحول الرقمي في القطاعات الحيوية مع تحسين الأمان وكفاءة استهلاك الطاقة لتحقيق الاستدامة.

نسيم رمضان (دبي)
الاقتصاد جناح «الوطنية للإسكان» في معرض «سيتي سكيب العالمي 2024» بالرياض (حساب الشركة على «إكس»)

اتفاقية استثمارية بين «الوطنية للإسكان» السعودية و«نيفر كلاود» الكورية بـ532 مليون دولار

وقّعت «الشركة الوطنية للإسكان» السعودية اتفاقية استثمارية مبدئية للتفاهم مع شركة «نيفر كلاود» الكورية بقيمة ملياري ريال.

«الشرق الأوسط» (الرياض)
تكنولوجيا حذّرت شركة «فورتينت» من تهديدات سيبرانية متزايدة استهدفت انتخابات الرئاسة الأميركية 2024 (أدوبي)

تقرير استخباراتي: تزايد التهديدات السيبرانية خلال الانتخابات الأميركية

بيّن التقرير تسجيل أكثر من 1000 نطاق وهمي جديد يحمل محتوى انتخابياً منذ بداية عام 2024، يستهدف خداع الناخبين.

نسيم رمضان (لندن)

«ثورة الذكاء الاصطناعي» تطغى على «قمة الويب» في لشبونة

خلال جلسة في «قمة الويب» 2024 في لشبونة عاصمة البرتغال 12 نوفمبر 2024 (إ.ب.أ)
خلال جلسة في «قمة الويب» 2024 في لشبونة عاصمة البرتغال 12 نوفمبر 2024 (إ.ب.أ)
TT

«ثورة الذكاء الاصطناعي» تطغى على «قمة الويب» في لشبونة

خلال جلسة في «قمة الويب» 2024 في لشبونة عاصمة البرتغال 12 نوفمبر 2024 (إ.ب.أ)
خلال جلسة في «قمة الويب» 2024 في لشبونة عاصمة البرتغال 12 نوفمبر 2024 (إ.ب.أ)

يطغى الذكاء الاصطناعي التوليدي والتحوّلات الكبيرة الناتجة عنه على المناقشات خلال «قمة الويب» التي تُعقَد في لشبونة هذا الأسبوع على خلفية إعادة انتخاب دونالد ترمب رئيساً للولايات المتحدة، وتُعَدّ الملتقى الأبرز للاقتصاد الرقمي.

ورأى رئيس «مايكروسوفت» براد سميث أمام جمهور من رجال الأعمال، اليوم (الثلاثاء)، خلال القمة أن «الذكاء الاصطناعي هو التكنولوجيا التخريبية الجديدة الكبرى»، بمعنى أنها قادرة على إحداث تغيير جذري في كل قطاعات المجتمع، على غرار ما فعلت الكهرباء قبله.

وقال: «لدينا الفرصة لإنشاء اقتصاد جديد للذكاء الاصطناعي معاً، ولكن أكثر من ذلك، يمكننا بناء الثورة الصناعية العالمية الجديدة».

وذكّر براد سميث باستثمارات الشركة الأميركية العملاقة في مراكز البيانات، والبنى التحتية الأساسية لعمل الذكاء الاصطناعي الذي يتطلب قدراً ضخماً من القوة الحاسوبية والطاقة.

وقال: «لا يمكننا أن نسمح لأنفسنا ببناء مراكز بيانات واستهلاك الكهرباء من دون القلق بشأن ما يعنيه ذلك بالنسبة إلى منطقة أو بلد أو كوكب الأرض»، في وقت ترتفع فيه أصوات كثيرة للتنديد بالتكلفة البيئية الكبيرة لهذه التكنولوجيا.

خلال جلسة في «قمة الويب» 2024 في لشبونة عاصمة البرتغال 12 نوفمبر 2024 (إ.ب.أ)

وتضم «قمة الويب» في البرتغال أكثر من 71 ألف مشارك من 153 دولة، من بينهم أكثر من 3 آلاف شركة ناشئة وألف مستثمر، لمناقشة التطورات الجديدة المتعلقة بالذكاء الاصطناعي.

واغتنم رئيس شركة «علي بابا» الصينية العملاقة للتجارة الإلكترونية كو تشانغ الفرصة، الثلاثاء، للإعلان عن إطلاق محرك بحث جديد يعتمد على الذكاء الاصطناعي التوليدي، يسمى «Accio»، لمساعدة بائعي المحال الصغيرة في العثور على الموردين على المنصة.

وأوضح أن محرّك البحث هذا «نظام محادثة يسمح للأشخاص بالدردشة باللغة اليومية ويربطهم بالموردين حول العالم». ورأى أن ذلك «يمكّن الشركات الصغيرة والمتوسطة من اتخاذ قرارات أفضل».

وتُعقد القمة بعد إعادة انتخاب دونالد ترمب رئيساً للولايات المتحدة، الأسبوع الماضي، إثر حملة حظيت بدعم قوي من قطب التكنولوجيا إيلون ماسك.

يُخشى أن يعيد الرئيس الأميركي الـ47، دونالد ترمب، النظر في مرسوم مثير للجدل أصدره سلفه جو بايدن، يُحدد معايير الأمان في مجال الذكاء الاصطناعي، مع التركيز على حماية الخصوصية ومكافحة التحيّز.