الذكاء الاصطناعي: تقنية غامضة ذات محتوى متغير وقد تكون متحيّزة

تساؤلات كبرى حول خدمته للمجتمع والصالح العام

الذكاء الاصطناعي: تقنية غامضة ذات محتوى متغير وقد تكون متحيّزة
TT

الذكاء الاصطناعي: تقنية غامضة ذات محتوى متغير وقد تكون متحيّزة

الذكاء الاصطناعي: تقنية غامضة ذات محتوى متغير وقد تكون متحيّزة

تعمل أدوات الذكاء الاصطناعي على تغيير كثير من الجوانب التي لا تُعَد ولا تُحصى من الحياة الحديثة بسرعة مذهلة، بدءاً من الرؤى الاقتصادية والسلامة العامة، وحتى وسائل التواصل الاجتماعي والمجتمع بشكل عام. ونحن نعلم أنه على الرغم من كل التغيرات التي أحدثتها تقنية الذكاء الاصطناعي حتى الآن، فإنه ما زال هناك مزيد من التغييرات التي ستطرأ في المستقبل.

تساؤلات كبرى

ولذلك، فإن هذه هي اللحظة المناسبة للرد على بعض الأسئلة الكبيرة، مثل: ما هو الذكاء الاصطناعي المسؤول؟ وماذا يعني تصميم خوارزميات أخلاقية؟ وكيف يمكننا تصميم أدوات ذكاء اصطناعي من أجل تحقيق الصالح العام اليوم، لضمان غدٍ أكثر أماناً؟

صحيح أن الإجابة عن هذه الأسئلة ليست بسيطة؛ لكنها ضرورية، فهذا هو ما اتفق عليه فريق من الخبراء خلال جلسة شهدت حلقة نقاشية أجرتها شركة «موتورولا سولوشنز» في قمة الشركات الأكثر ابتكاراً التي نظمتها مجلة «فاست كومباني» في شهر مايو (أيار) الماضي.

مسؤولية أخلاقية وثقة وأمان

وفيما يلي 3 نقاط رئيسية تمت مناقشتها خلال هذه الجلسة:

1- مفاهيم الثقة تعتمد بشكل كبير على السياق. ماذا يعني أن يكون الذكاء الاصطناعي أخلاقياً ومسؤولاً وآمناً وجديراً بالثقة؟ يقول مايكل كيرنز، الباحث في شركة «أمازون»، وأستاذ علوم الحاسب الآلي وتكنولوجيا المعلومات في جامعة بنسلفانيا الأميركية، إن الإجابة عن هذا السؤال معقدة للغاية، ما يجعل من الصعب مناقشة الأمر على مستوى مفاهيمي خالٍ من وجود سياق محدد.

وأضاف كيرنز: «لقد أدى عصر الذكاء الاصطناعي التوليدي إلى إدخال المجتمع في حلقة مفرغة بعدة طرق، وذلك بسبب مدى انفتاح المخرجات الناتجة عنه، فمن الصعب جداً تحديد هذه الأمور في غياب أي حالات استخدام محددة؛ حيث إن الأمر يعتمد بشكل كبير على الغرض الذي استُخدمت هذه التقنية من أجله».

استخدام الألفاظ والأفكار السامة

وقدم كيرنز مثالاً بسيطاً يتعلق باستخدام الألفاظ والأفكار السامة، قائلاً إنه في حال استخدم شخص ما الذكاء الاصطناعي كوسيلة مساعدة في كتابة كتاب للأطفال، فإن مدى تسامح التكنولوجيا مع استخدام الألفاظ والأفكار السامة سيكون صفراً، ولكن إذا كان يتم استخدامه من أجل كتابة رواية تاريخية، فإنه ستكون هناك مرونة (تدخل) أكبر.

دور الحالة العاطفية للبشر

ومع ذلك، فإن مسألة السياق هذه ليست مرتبطة بالظروف والمواقف المحددة فحسب؛ بل إن الأمر ينطبق أيضاً على الحالة العاطفية الحالية للبشر الذين يسعون إلى الاستفادة من أداة الذكاء الاصطناعي، حسبما أضاف ماهيش سابثاريشي، وهو نائب الرئيس التنفيذي ورئيس قسم التكنولوجيا في «موتورولا سولوشنز».

وتابع سابثاريشي: «يقول العاملون في مجال تأمين السلامة العامة، إن وظائفهم عبارة عن ساعات من الملل تتخللها لحظات من الرعب، ولذا فإنه يجب أن تخدم نفس مجموعة الأدوات الخاصة بالسلامة قاعدة الزبائن، لكي تحمي مجتمعاتنا عندما نكون في حالة استرخاء، أو عندما نشعر بالملل، أو عندما نكون في حالة توتر كبير».

ويجب على شركة «موتورولا سولوشنز» أن تأخذ هذه الحقيقة بعين الاعتبار، عند تطوير أدوات الذكاء الاصطناعي الخاصة بها، لاستخدامات السلامة العامة، مثل الترجمة الآلية بين مشغلي رقم الطوارئ في الولايات المتحدة «911» والمتصلين الذين لا يتحدثون اللغة نفسها، ويتم إطلاق اسم «العوامل البشرية عالية السرعة» على هذا المبدأ التصميمي، وهو ما يعني الحاجة إلى إنشاء أدوات تظل بسيطة وفعَّالة عندما يكون المستخدمون تحت ضغط شديد.

النظم الذكية فريدة في مخاطرها

2- المخاطر من الناحية التشغيلية. يمثل الذكاء الاصطناعي فئة فريدة من نوعها، من حيث إدارة المخاطر التقليدية.

وقال باتريك هيوستن (وهو جنرال متقاعد بالجيش الأميركي، وعضو فريق عمل الذكاء الاصطناعي التابع لمكتب التحقيقات الفيدرالي «إف بي آي»): «بالنسبة لي، فإن الذكاء الاصطناعي المسؤول، هو مجموعة فرعية أو جزء من إدارة المخاطر التقليدية. فنحن نطلق عليه اسماً خاصاً به، وذلك ليس لأن الذكاء الاصطناعي هو أمر حديث فحسب؛ بل لأنه يحمل بعض المخاطر الفريدة الخاصة به».

وفي رأي هيوستن، فإن الذكاء الاصطناعي يشكل 5 مخاطر فريدة:

أولاً- لأنه يعد تقنية غامضة؛ حيث إن القوى الدافعة لعملية صنع القرارات والعمليات الأخرى في الذكاء الاصطناعي لا تكون شفافة، في كثير من الأحيان.

ثانياً- لأنه متغير باستمرار، وذلك لأن الذكاء الاصطناعي يتعلم ويتطور بشكل مستمر، بناءً على البيانات.

ثالثاً- يمكن أن يكون متحيزاً؛ لأنه يتم تصميمه وتدريبه من قبل البشر الذين قد يقدمون هذا التحيز بطريقة غير مقصودة.

رابعاً- يمكن أن يتسبب في نشوء معلومات غير دقيقة، لأسباب غالباً ما تكون غير واضحة.

خامساً- يمكن أن يحل محل بعض أنواع الوظائف، ما يجعل بعض الفئات من الأشخاص تشعر بعدم الثقة إزاءه بطبيعة الحال.

ابتكار بشري يتطلب تصميماً إنسانياً

واتفق الخبراء المشاركون في المناقشة على أن هذه التحديات صعبة، ولكن يجب أخذها في الاعتبار والتصدي لها، وتخفيف حدتها قدر الإمكان، في حال أراد الناس أن يضعوا ثقتهم في أدوات الذكاء الاصطناعي.

وقال كيرنز: «هناك كثير مما نعرفه علمياً، ولكن علينا أن نتذكر أن هذه الأدوات الموجودة في هذه الأنظمة هي عبارة عن ابتكارات تكنولوجية صنعناها بأنفسنا، ولذا فإن الحل الأول الذي يجب النظر فيه هو تصميم تلك التكنولوجيا بشكل يساعد على تخفيف حدة هذه المشكلات أو تجنبها. فمن الأفضل بكثير أن نعمل على حل المشكلة في المقام الأول، بدلاً من أن نلجأ للتسوية أو تنظيم العمل بهذه الأدوات، بعد وقوع الأضرار بالفعل».

شراكة الذكاء الاصطناعي مع الإنسان

3- أقوى الإمكانات تكمن في شراكة الذكاء الاصطناعي مع الإنسان. عند سؤاله عن أهم استخدامات أدوات الذكاء الاصطناعي في مجال السلامة العامة، رأى سابثاريشي أن هناك فئتين رئيسيتين: الأولى هي عندما يتمكن الذكاء الاصطناعي من إزالة الاحتكاك الذي يتم خلال تواصل الناس بعضهم مع بعض، مثل الترجمة التلقائية للغات خلال مكالمات خدمة الطوارئ «911».

أما الفئة الثانية، فهي توصيل الأشخاص المناسبين بالمعلومات الصحيحة اللازمة في أوقات الحاجة. وضرب سابثاريشي مثالاً من العالم الحقيقي على ذلك، قائلاً إنه عندما فُقد طفل من ذوي الاحتياجات الخاصة في إحدى المدن الواقعة شمال شرقي الولايات المتحدة، كان لدى رجال الشرطة لقطات من مئات كاميرات الفيديو المزودة بتحليلات أدوات الذكاء الاصطناعي.

وأضاف سابثاريشي: «تستخدم هذه المدينة تقنيات (موتورولا سولوشنز) على نطاق واسع، ولذلك فإنه كان بإمكانهم البحث في هذه اللقطات من خلال أوصاف الطفل، وفي غضون دقائق قليلة، كان نظامنا قادراً على أن يخبرهم بالأماكن التي لم يوجد فيها الطفل، وبهذه الطريقة، ساعدت هذه الأدوات الآلية على تركيز انتباه الإنسان على المكان الذي يمكن أن يوجد فيه الطفل، وعلى نحو فعَّال، أزال الذكاء الاصطناعي كومة القش، وسمح للبشر بالعثور على الإبرة التي كانت ضائعة داخلها».

وبالفعل تم العثور على الطفل بسرعة، وتمت إعادته إلى والديه بأمان، وهو ما كان ناتجاً عن جهد مشترك بين الذكاء الاصطناعي والقوى البشرية.

من جهته، قال هيوستن: «السر هو الجمع بين البشر والآلات بطرق تستفيد من نقاط القوة الموجودة لدى كل منهما، إلا أن الناس يقدمون الأمر في بعض الأحيان كما لو كان خياراً بين إما هذا وإما ذاك، قائلين: يجب أن تختار إما الإنسان وإما آلة الذكاء الاصطناعي، أيهما ستختار؟ لكني أرى أن هذا يشير إلى عملية فصل زائفة؛ إذ يمكننا الحصول على كليهما، كما يمكننا الحصول على أفضل ما فيهما».

* مجلة «فاست كومباني»، خدمات «تريبيون ميديا»



«جي بي تي» أم «غوغل»: أيهما أكثر فائدة للإبداع؟

«جي بي تي» أم «غوغل»: أيهما أكثر فائدة للإبداع؟
TT

«جي بي تي» أم «غوغل»: أيهما أكثر فائدة للإبداع؟

«جي بي تي» أم «غوغل»: أيهما أكثر فائدة للإبداع؟

ربما تتذكر وقتاً كنت فيه بحاجة إلى إجابة سريعة، لوصفة طبق للطعام، أو مشروع لتحسين بيتك.

من محرك «غوغل» إلى «جي بي تي»

قبل بضع سنوات، كانت غريزة معظم الناس الأولى هي البحث عن المعلومات على محرك «غوغل» للبحث، ومع ذلك، اليوم، مما كتب غاي يون تشونغ (*)، أصبح كثير من الناس أكثر ميلاً إلى استخدام «تشات جي بي تي (ChatGPT)»، أداة الذكاء الاصطناعي والمحادثة من شركة «أوبن إيه آي»، التي تغير الطريقة التي يبحث بها الناس عن المعلومات.

بدلاً من مجرد توفير قوائم بمواقع الويب، يُقدِّم «تشات جي بي تي» إجابات محادثة أكثر مباشرة.

مسألة الإبداع

ولكن هل يمكن لـ«تشات جي بي تي» أن يفعل أكثر من مجرد الإجابة عن الأسئلة المباشرة؟ هل يمكنه بالفعل مساعدة الناس على أن يكونوا أكثر إبداعاً؟

إني أدرس التقنيات الجديدة وتفاعل المستهلكين مع وسائل التواصل الاجتماعي، وقد شرعت أنا وزميلي بيونغ لي في استكشاف هذا السؤال: هل يمكن لـ«تشات جي بي تي» مساعدة الناس حقاً على حل المشكلات بشكل إبداعي، وهل يؤدي هذا بشكل أفضل من محركات البحث التقليدية مثل «غوغل»؟

عبر سلسلة من التجارب في دراسة نُشرت في مجلة «نتشر-السلوك البشري (Nature Human Behaviour)»، وجدنا أن «تشات جي بي تي» يعزز الإبداع، خصوصاً في المهام العملية اليومية.

وإليك ما تعلمناه عن كيفية تغيير هذه التقنية للطريقة التي يحلُّ بها الناس المشكلات، ويتبادلون بها الأفكار ويفكرون بشكل إبداعي.

«جي بي تي» مبدع

«تشات جي بي تي» والمهام الإبداعية. تخيل أنك تبحث عن فكرة هدية إبداعية لابنة أخت في سِنِّ المراهقة. في السابق، ربما كنت تبحث على «غوغل» عن «هدايا إبداعية للمراهقين»، ثم تتصفح المقالات حتى تجد شيئاً يناسبك.

الآن، إذا سألت «تشات جي بي تي»، فإنه يولِّد استجابةً مباشرةً بناءً على تحليله للأنماط عبر الويب. قد يقترح مشروعاً مخصصاً أو تجربةً فريدةً من نوعها، وصياغة الفكرة في الوقت الفعلي.

لاستكشاف ما إذا كان «تشات جي بي تي» يتفوق على «غوغل» في مهام التفكير الإبداعي، أجرينا 5 تجارب، تعامل فيها المشاركون مع مهام إبداعية مختلفة.

توليد الأفكار

على سبيل المثال، قمنا بتعيين المشاركين بشكل عشوائي، إما لاستخدام «تشات جي بي تي» للمساعدة، أو استخدام بحث «غوغل»، أو توليد الأفكار بأنفسهم.

بمجرد جمع الأفكار، قام الحكام الخارجيون، الذين لا يدركون الشروط المخصصة للمشاركين، بتقييم كل فكرة من حيث الإبداع. قمنا بوضع متوسط ل​​درجات الحكام؛ بهدف توفير تصنيف إبداعي عام.

كانت إحدى المهام تتضمَّن تبادل الأفكار حول طرق إعادة استخدام العناصر اليومية، مثل تحويل مضرب تنس قديم وخراطيم الحديقة إلى شيء جديد. وطُلبت مهمة أخرى من المشاركين تصميم طاولة طعام مبتكرة. وكان الهدف هو اختبار ما إذا كان «تشات جي بي تي» يمكن أن يساعد الناس على التوصل إلى حلول أكثر إبداعاً، مقارنة باستخدام محرك بحث على الويب أو مجرد خيالهم.

نتائج لصالح الذكاء التوليدي

وكانت النتائج واضحة: صنف الحكام الأفكار التي تم إنشاؤها بمساعدة «تشات جي بي تي» على أنها أكثر إبداعاً من تلك التي تم إنشاؤها باستخدام عمليات البحث على «غوغل» أو دون أي مساعدة. ومن المثير للاهتمام أن الأفكار التي تم إنشاؤها باستخدام «تشات جي بي تي» - حتى دون أي تعديل بشري - سجَّلت درجات أعلى في الإبداع من تلك التي تم إنشاؤها باستخدام «غوغل».

وكانت إحدى النتائج البارزة هي قدرة «تشات جي بي تي» على توليد أفكار إبداعية تدريجياً: تلك التي تعمل على تحسين أو البناء على ما هو موجود بالفعل. وفي حين أن الأفكار الجذرية حقاً قد لا تزال تشكل تحدياً للذكاء الاصطناعي، فقد تفوَّق «تشات جي بي تي» في اقتراح نهج عملي ومبتكر. على سبيل المثال، في تجربة تصميم الألعاب، توصَّل المشاركون الذين يستخدمون «تشات جي بي تي» إلى تصميمات خيالية، مثل تحويل مروحة متبقية وكيس ورقي إلى مروحة تعمل بطاقة الرياح.

حدود الإبداع في الذكاء الاصطناعي

تكمن قوة «تشات جي بي تي» في قدرته على الجمع بين المفاهيم غير ذات الصلة في استجابة متماسكة.

وعلى عكس «غوغل»، الذي يتطلب من المستخدمين غربلة الروابط وتجميع المعلومات معاً. يقدم «تشات جي بي تي» إجابةً متكاملةً تساعد المستخدمين على التعبير عن الأفكار وصقلها بتنسيق مصقول. وهذا يجعل «تشات جي بي تي» واعداً بوصفه أداةً إبداعيةً، خصوصاً للمهام التي تربط بين الأفكار المتباينة أو تولد مفاهيم جديدة.

من المهم ملاحظة، مع ذلك، أن «تشات جي بي تي» لا يولِّد أفكاراً جديدة حقاً. إنه يتعرَّف على الأنماط اللغوية ويجمعها من بيانات التدريب الخاصة به، وبالتالي يولِّد مخرجات بتسلسلات أكثر احتمالية بناءً على تدريبه. إذا كنت تبحث عن طريقة لتحسين فكرة موجودة أو تكييفها بطريقة جديدة، فيمكن أن يكون «تشات جي بي تي» مورداً مفيداً. ومع ذلك، بالنسبة لشيء مبتكر، لا يزال الإبداع والخيال البشري ضروريَّين.

بالإضافة إلى ذلك، في حين يمكن لـ«تشات جي بي تي» توليد اقتراحات إبداعية، فإنها ليست عملية دائماً أو قابلة للتطوير دون مدخلات الخبراء. تتطلب خطوات مثل الفحص، وفحص الجدوى، والتحقق من الحقائق، والتحقق من السوق خبرة بشرية. ونظراً لأن استجابات «تشات جي بي تي» قد تعكس تحيزات في بيانات التدريب الخاصة بها، فيجب على الأشخاص توخي الحذر في السياقات الحساسة مثل تلك التي تنطوي على العرق أو الجنس.

كما اختبرنا ما إذا كان «تشات جي بي تي» يمكن أن يساعد في المهام التي غالباً ما يُنظر إليها على أنها تتطلب التعاطف، مثل إعادة استخدام العناصر العزيزة على أحد الأحباء. ومن المدهش أن «تشات جي بي تي» عزَّز الإبداع حتى في هذه السيناريوهات، حيث أدى إلى توليد أفكار وجدها المستخدمون ذات صلة، ومدروسة.

وتتحدى هذه النتيجة الاعتقاد بأن الذكاء الاصطناعي لا يمكنه المساعدة على المهام التي تحركها العواطف.

مستقبل الذكاء الاصطناعي والإبداع

مع ازدياد إمكانية الوصول إلى «تشات جي بي تي» وأدوات الذكاء الاصطناعي المماثلة، فإنها تفتح إمكانات جديدة للمهام الإبداعية. سواء في مكان العمل أو في المنزل، يمكن للذكاء الاصطناعي المساعدة في الشحذ الذهني وحل المشكلات وتعزيز المشروعات الإبداعية.

ومع ذلك، يشير بحثنا أيضاً إلى الحاجة إلى الحذر: في حين يمكن لـ«تشات جي بي تي» تعزيز الإبداع البشري، فإنه لا يحلُّ محلَّ القدرة البشرية الفريدة على التفكير الجذري حقاً خارج الإطار المألوف.

يمثل هذا التحول من البحث على «غوغل» إلى سؤال «تشات جي بي تي»، أكثرَ من مجرد طريقة جديدة للوصول إلى المعلومات. إنه يمثل تحولاً في كيفية تعاون الناس مع التكنولوجيا للتفكير والإبداع والابتكار.

* أستاذ مساعد في إدارة الأعمال بجامعة رايس الأميركية - مجلة «فاست كومباني» - خدمات «تريبيون ميديا».

اقرأ أيضاً