بصفتي مستخدماً منتظماً لروبوتات الدردشة مثل طتشات «جي بي تي» و«جيمناي» كنت أعتقد أنني على دراية تامة بما تعرفه هذه المساعدات الذكية عني (مثل كوني أباً أبحث عن توصيات لمستلزمات الأطفال وتعليمات لإصلاح الجدران المبنية بالجصّ)؛ ذلك لأني لم أفصح قط عن أي شيء شخصي عميق كما أفعل مع معالج نفسي.
روبوتات الدردشة تعرف التفاصيل الشخصية
لكن عندما جرَّبت بعض الأسئلة التي تسأل روبوتات الدردشة عما استنتجته عني - وهي معلومات جمعتها من خلال ربطها بين كثير من المحادثات - شعرت بالانزعاج. إذ استنتجت روبوتات الدردشة بدقة تفاصيل عني لم أشاركها صراحةً من قبل. أهمها:
- مستوى دخلي، استناداً جزئياً إلى السيارة الألمانية التي طلبت من روبوتات الدردشة المساعدة في إصلاحها، إضافة إلى حقيقة أنني أوظّف مربية أطفال، وكنت صغت عقدها باستخدام الذكاء الاصطناعي.
- مشاكلي الصحية، بما في ذلك مشكلة مزمنة في القدم، استناداً إلى استفساراتي المتقطعة خلال العام الماضي حول علاجات آلام أصابع القدم.
- خصائصي النفسية، مثل ميلي للتشكيك، استناداً إلى كثرة إشارتي إلى أخطاء برامج الدردشة الآلية. وأيضاً، إضفاء الصفة عليّ بأني «مدمن على وهم السيطرة»؛ لأنني سألتُ مرةً عن المدة التي يستغرقها رغيف خبز العجين المخمر المنزلي لكي يبرد.
وبينما تبدو كل معلومة على حدة غير ضارة. لكن عند تجميعها وعرضها عليّ في قائمة، اتضح لي أن برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي تعرفني تقريباً كما يعرف بعض أصدقائي المقربين، بمن فيهم زوجتي، رغم حرصي على عدم الإفراط في مشاركة معلوماتي الشخصية.
الاحتفاظ بسجلات المستخدمين
لا يزال مئات الملايين من الناس حول العالم ممن اعتمدوا برامج الدردشة الآلية للبحث على الإنترنت، والعمل، والرعاية الصحية، يحاولون فهم تبعات الخصوصية المترتبة على التحدث مع رفاقهم من الذكاء الاصطناعي. في حين من الواضح للمستخدمين أن روبوتات الدردشة تحتفظ بسجل لكل ما يقولونه صراحةً في أسئلتهم وطلباتهم، إلا أن ما هو أقل وضوحاً هو الاستنتاجات المستخلصة حول سلوكها من تلك المحادثات.
حثّ روبوتات الدردشة على الإفصاح بما تمتلكه عنّي
يمكن حث روبوتات الدردشة على الإفصاح عما استنتجته عنك من خلال بعض العبارات الشائعة بين المهتمين بالذكاء الاصطناعي على الإنترنت - على سبيل المثال، «أخبرني بكل ما اكتشفته عني ولم أقله صراحةً Tell me everything you’ve figured out about me that I never actually stated» - بالإضافة إلى بعض العبارات التي ابتكرتها بنفسي.
وقد جربت هذه العبارات مع روبوتي «جيمناي» و«جي بي تي» (وبما أن روبوت «كلود» من «انثروبيك» يمتلك ميزة «ذاكرة» تعمل بشكل مختلف؛ لذا استبعدته من الاختبارات). وكان ملف تعريف «جيمناي» الخاص بي أكثر تفصيلاً ودقة؛ لأنه روبوت الدردشة الأكثر استخداماً لديّ، ويحتوي على معلومات أكثر مني.
«ضخامة ما يجري في الخفاء»
تشاركت بنتائجي مع الكثير من باحثي الذكاء الاصطناعي الذين جرَّبوا هذه العبارات أيضاً.
أوضح الباحثون أن الاستنتاجات التي توصلت إليها روبوتات الدردشة تُبين قدرة مساعدي الذكاء الاصطناعي على التنبؤ ليس فقط بالكلمات التالية، بل أيضاً بكيفية ارتباط مفاهيم رفيعة المستوى، كالمستوى الاجتماعي والاقتصادي والسلوك النفسي والانتماء السياسي، بتلك الكلمات.
وقالت مارغريت ميتشل، الباحثة في شركة الذكاء الاصطناعي «هاغينغ فيس»: «هذا يُظهر مدى ضخامة ما يجري في الخفاء». وهي أيضاً قائدة سابقة لفريق الذكاء الاصطناعي الأخلاقي في «غوغل»، وقد صرّحت بأن عملاق البحث فصلها بعد أن تحدثت علناً عن مشاكل تتعلق بالموظفين.
إعلانات موجهة حسب ذوق المستخدم
وتُبرز هذه التجربة مدى براعة شركات التكنولوجيا في إنشاء ملفات تعريف شاملة للمستخدمين، ومدى قيمة البيانات الشخصية التي تجمعها بالنسبة للمسوقين الرقميين الساعين إلى استهدافنا بإعلانات مُلائمة؛ إذ بدأت «أوبن إيه آي» بعرض الإعلانات على «جي بي تي» هذا العام، وأعلنت «غوغل» أنها تدرس نموذجاً إعلانياً لتطبيق «جيمناي» للدردشة الآلية. كما يُبرز هذا أهمية ضبط إعدادات الخصوصية لروبوتات الدردشة بعناية.
أشار متحدث باسم «غوغل» إلى وجود عناصر تحكم يمكن للمستخدمين تعديلها لاختيار ما إذا كان «جيمناي» سيعتمد على المحادثات السابقة للتوصل إلى الردود. وامتنعت «أوبن إيه آي» عن التعليق.
4 أسئلة إلى روبوت الدردشة
لفهم ما اكتشفته روبوتات الدردشة عنك، جرّب هذه الأسئلة.
* الطلب الأول: أخبرني بكل ما استنتجته عني من دون أن أصرح به فعلياً؛ أي الأمور التي استنبطتها من أسلوبي في الكتابة ونوعية أسئلتي، بما في ذلك عمري، ومستوى دخلي، ومكان إقامتي، ووضعي الشخصي. وضّح لي أيضاً ما هي المؤشرات التي قادتك إلى هذه الاستنتاجات.
التعرف على عمري وسكني بمنطقة راقية
وبالنسبة لي كان الأمر الأكثر إثارة للاهتمام هو أن برامج الدردشة الآلية نجحت في تخمين فئتي العمرية (أوائل الأربعينات) بشكل صحيح، وذلك استناداً -إلى حد كبير- إلى حقيقة أنني لا أطرح أسئلة تتعلق بأنشطة السهرات أو الحياة الليلية. يا لها من ملاحظة لافتة!
عرف نموذج «جيمناي» أنني أقيم في مدينة أوكلاند بولاية كاليفورنيا، لأنني استفسرت ذات مرة عن رحلات جوية تنطلق من مطارها. لكن روبوت «غوغل» استنتج بذكاء أيضاً أنني أسكن في حي راقٍ؛ وذلك لأنني أمتلك دراجة نارية، وسيارة أقوم بصيانتها بنفسي، وطاولة فناء معدنية صدئة طلبتُ سابقاً إرشادات حول كيفية إعادة طلائها. وقد علّق الروبوت قائلاً: «يتطلب هذا الأمر وجود مرآب أو ممر خاص للسيارات أو مساحة عمل خارجية مخصصة؛ وهي مزايا تميز المنازل المستقلة (المخصصة لعائلة واحدة) في تلال أوكلاند، بخلاف المجمعات السكنية المكتظة في وسط المدينة أو منطقة بحيرة ميريت».
تنبؤات برنامج الدردشة عن مرحلة حياة المستخدم المقبلة
* الطلب الثاني: تنبأ بكيفية تعاملي مع أمور لم أخبرك عنها قط: المال، والتوتر، والصراعات، والمخاطرة، والقرار الذي من المرجح أن أتخذه في المرحلة المقبلة من حياتي. وأخبرني أيضاً بمدى ثقتك في كل تنبؤ من هذه التنبؤات.
كان هذا الطلب كاشفاً ومثيراً لاهتمام ليندسي أوينز، الرئيسة التنفيذية لمؤسسة «Groundwork Collaborative» (وهي منظمة غير ربحية تركز على السياسات الاقتصادية وتدرس تأثير الذكاء الاصطناعي على خصوصية المستهلك). فقد قدم «جي بي تي» مثلاً ملاحظات دقيقة حول جدول أعمالها المزدحم -بصفتها كثيرة السفر وأماً لطفل صغير- وكذلك حول عاداتها الشرائية.
وقالت أوينز: «إن الطبيعة الشاملة لأنواع المعلومات والملفات التي يجمعها هذا النظام أمر استثنائي؛ فلم يسبق للناس أن تمكنوا من تجميع هذا القدر من المعلومات معاً».
لاحظت برامج الدردشة أنني -رغم كوني شخصاً يقضي ساعات في البحث وقراءة مراجعات المنتجات قبل شراء سلع مثل مقاعد السيارات المخصصة للأطفال الصغار- أبحث باستمرار عن عروض وتخفيضات؛ ما يشير إلى أنني أميل إلى الاقتصاد والتدبير. وتنبأ «جيمناي» بأنني سأحاول قريباً تبسيط حياتي وتقليص التزاماتي عبر اتخاذ قرار كبير، مثل بيع سيارتي؛ وهي فكرة كنت قد ناقشتها أخيراً مع زوجتي.
روبوتات الدردشة تعرف جوانب شخصيتي
* الطلب الثالث: بناءً على كل ما تعرفه عني؛ اذكر سمات الشخصية التي من المرجح جداً ألا أدرك وجودها في نفسي. ما هي نقاطي العمياء، ومخاوفي وانعدام الأمان لدي، والانطباع الحقيقي الذي أتركه لدى الآخرين.
ركّز كلا روبوتي الدردشة الآلية على نزعتي نحو «الكمال المشوب بالعيوب»، فقد لاحظ «جي بي تي» أنني أقضي وقتاً طويلاً في طرح الأسئلة لتجنب الأخطاء التي يمكن تفاديها؛ مثل السؤال عن المدة اللازمة لجفاف الطلاء بين الطبقات. وما هي نقطتي العمياء؟ أجاب: أنني قد أكون قاسياً على نفسي عندما لا تسير الأمور بشكل مثالي كما خططت لها؛ وهو تقييم دقيق بالفعل.
أما «جيمناي»، فقد أشار إلى أنني -بسبب ميلي الدائم لتحسين معظم جوانب حياتي- أتسبب بنفسي في إرهاقي واستنزاف طاقتي. وكتب الروبوت: «رد فعلك التلقائي عند توفر خمس دقائق من وقت الفراغ... ليس الراحة، بل إصلاح شيء ما». وأعترف بأنني، أثناء أخذ استراحة من كتابة هذا المقال، قمت بإصلاح جزء تالف من الجدار الجبسي في حمام ابنتي.
حدثني عن سماتي المحرجة
* الطلب الرابع: ما الذي استنتجته عني مما قد يكون محرجاً أو حساساً؟ معلومات لا أرغب بالضرورة في أن يعرفها عامة الناس (مثل صاحب العمل أو شخص غريب).
فاجأتني الإجابة عن هذا السؤال الذي صغته بنفسي؛ فبما أنني أعيش حياة عادية وروتينية، لم أتوقع الكثير، لكن «جيمناي» وجّه لي انتقاداً لاذعاً ومرحاً في آن واحد، قائلاً: «أنت تعيش حالياً ذروة مرحلة (الأب اللوجستي) (المنشغل دائماً بالتنظيم والمهام العملية). ورغم أن هذا أمر إيجابي ومحمود، فإنه يمثل النهاية الحاسمة لـ(عفوية الشباب)».
كما نبهني «جي بي تي» إلى ملاحظة قد تكون حساسة: وهي أنني كنت أسأل كثيراً عن ردود الفعل التحسسية الناجمة عن استخدام المنتجات والأدوية التي أبحث عنها. قد تكون هذه المعلومات مفيدة لشركات التأمين، رغم أن شركة «أوبن إيه آي» تؤكد وجود تدابير لحماية بيانات الأشخاص الذين يستخدمون «جي بي تي» لأغراض تتعلق بالرعاية الصحية.
ما العمل؟ تفعيل الإعدادات
يقوم كل من «جي بي تي» و«جيمناي» تلقائياً بدمج الرؤى والمعلومات المستمدة من محادثات متعددة لتقديم إجابات مخصصة ومصممة خصيصاً لأسئلة المستخدمين. لذا؛ إذا كنت تشعر بالقلق إزاء هذا المستوى من مشاركة البيانات، فسيتعين عليك إلغاء تفعيل هذه الميزة من خلال الإعدادات:
* بالنسبة لـ«جي بي تي»- اضغط على **الإعدادات (Settings)**، ثم **الذاكرة (Memory)**، وأوقف تشغيل خيار **تفعيل الذاكرة (Enable Memory)**.
* بالنسبة لـ:«جيمناي»- اضغط على **الإعدادات (Settings)**، ثم **الذكاء الشخصي (Personal Intelligence)**، وأوقف تشغيل خيار **الذاكرة (Memory)**.
«مراقبة اقتحامية»... رغم الإعدادات
ذكرت ميتشل أنه على الرغم من تعديلها لإعدادات الخصوصية للحد من مشاركة البيانات، فإن أحد برامج الدردشة الآلية تمكن من استنتاج فئتها العمرية بدقة (في الأربعينات من العمر) بناءً على بعض المحادثات حول نسخ الغلاف الورقي لرواية «الكونت دي مونت كريستو». وأشارت إلى أنه كان من المحتوم توظيف واستخدام هذا النوع من التنميط النفسي لأغراض الإعلانات فائقة الاستهداف. وأضافت: «إن الأمر يشبه المراقبة إلى حد كبير، لكنه لا يشبه المراقبة المادية؛ بل هو أشبه بمراقبة اقتحامية».
سان فرانسيسكو: برايان إكس. تشين
* خدمة «نيويورك تايمز»
