أثار تحديث ظهر على تطبيق «تشات جي بي تي» سجالاً بين خبراء التكنولوجيا والمُستخدمين، بعد ملاحظة أن الروبوت الخاص بالتطبيق يسمّي المُستخدمين بأسمائهم، حتى من دون إخباره بتلك الأسماء أو إعطائه صلاحية تخزينها، ما عدّه بعض الخبراء «اختراقاً للخصوصية». وأيضاً فتح التحديث جدلاً حول مستقبل بيانات المُستخدمين وحدود استخدامها دون موافقة مسبقة.
كان التطبيق قد عزّز تجربة الاستخدام منذ أبريل (نيسان) الماضي، بميزة «غير معلنة» تتلخّص في تقديم الإجابات أو الاستنتاجات بشكل شخصي للمُستخدم من خلال ذكر اسمه، وهو «سلوك لم يكن موجوداً في النسخ السابقة».
اللافت أن بعض المُستخدمين تكلّموا عن تجربتهم عبر تطبيق «إكس»، وقالوا إنهم عطّلوا خاصية «الذاكرة» وإعدادات التخصيص، ومع ذلك لم يتوقف الروبوت عن إدراج اسم الشخص داخل الإجابة، الأمر الذي أثار تساؤلات حول مدى اهتمام الشركة المالكة للتطبيق «أوبن إيه آي» بـ«حماية الخصوصية»، ومدى وعي المُستخدم بهذه التعديلات البرمجية المثيرة للقلق.
وعلى منصة «إكس» (تويتر سابقاً)، توالت تغريدات عشرات المُستخدمين الذين أعربوا عن استيائهم أو ارتباكهم من أن يبدأ الروبوت في مخاطبتهم بأسمائهم دون طلب.
ميزة غير معلنة
جدير بالإشارة أن شركة «أوبن إيه آي» لم تعلن بشكل رسمي عن هذا التحديث، كما لم تردّ حتى الآن على استفسارات المُستخدمين حول السبب وراء التحديث أو إمكانية تعطيله حسب الرغبة. ومع أن البعض يربط السلوك بميزة «الذاكرة» الجديدة التي تمكن «تشات جي بي تي» من تخصيص الردود بناءً على محادثات سابقة، فإن ظهور الأسماء لدى مَن عطّلوا هذه الميزة «يضع علامات استفهام حول مستوى الشفافية في التصميم البرمجي».
هاني سيمو، خبير المشاريع الرقمية في دولة الإمارات العربية المتحدة، رأى في لقاء مع «الشرق الأوسط»، أن استخدام «تشات جي بي تي» أسماء المٌستخدمين «لا يخرج عن كونه ميزة ضمن تطوير النماذج، وتهدف إلى تحسين تجربة المُستخدم»، مضيفاً: «استخدام الأسماء في المحادثات يضفي مزيداً من الطابع الشخصي، ويجعلها أقرب إلى التواصل البشري. ومن ثم جاء التحديث لتحسين أسلوب التفاعل بين الذكاء الاصطناعي والمُستخدمين من خلال تخصيص طريقة مخاطبة المستخدم بناءً على الاسم الذي يحدده بنفسه أو الاسم الموجود في حسابه».
سيمو قال إن أمام المُستخدم آليات واضحة لطلب حذف بياناته الشخصية من «تشات جي بي تي»، وأضاف أنه «لأصحاب الحسابات عدة خيارات للتحكم في الخصوصية، ومن أهم الخيارات الموجودة حالياً، التحكّم بالسماح أو رفض السماح باستخدام محادثات وتفاعل المُستخدم مع (تشات جي بي تي) في عمليات تحسين تدريب النموذج».
وتابع أنه «وفق التفاصيل التي توضحها الشركة بخصوص هذا الخيار، فإن كل البيانات الشخصية والتفاصيل مثل الأسماء، والأرقام، والعناوين، تُزال قبل معالجة بيانات المحادثات في عمليات تحسين التدريب».
كذلك أشار سيمو إلى ميزة «الذاكرة» لدى «تشات جي بي تي»، موضحاً أنه «لجعل الإجابات أكثر شخصية، ومناسبة لطبيعة الاحتياجات الخاصة لكل مُستخدم، فإن التطبيق يجمع ويحلل ويتذكر تفاصيل من المحادثات، وأخيراً يتذكر محادثات كاملة سابقة بينه وبين المُستخدم». إلا أن حدود هذه الذاكرة هو تحسين التفاعل بين التطبيق والمُستخدم، وتحسين جودة الإجابات وسياقها، ولا يشارك هذه التفاصيل مع مُستخدمين آخرين، أو في عمليات تهدد الخصوصية. وفي هذا السياق - كما أردف - «يوجد أيضاً خيار المحادثات المؤقتة، التي تختفي بمجرد الخروج منها بشكل مباشر».
ومن ثم، عدّ سيمو مسألة الخصوصية في أنظمة الذكاء الاصطناعي من بين عوامل المنافسة المحتدمة؛ «إذ ستتسابق الشركات على اتباع أعلى المعايير وإثبات التزامها الكامل بالحفاظ على الخصوصية، ويساعدها هذا ليس فقط على الاحتفاظ بالمستخدمين، بل على جذب المزيد منهم».
للعلم، هذا التحديث يأتي في ظل تصريحات صحافية من سام ألتمان، الرئيس التنفيذي لشركة «أوبن إيه آي»، الذي تطرق أخيراً إلى رؤية مستقبلية تطمح إلى تعريف أنظمة الذكاء الاصطناعي على مستخدميها بشكل مستمر وطويل الأمد لتقديم تجارب «شخصية ومفيدة للغاية». لكن ردود الفعل على هذا التحديث تشير إلى أن «هذه الرؤية قد لا تلقى ترحيباً واسعاً، على الأقل في شكلها الحالي».
طابع بشري يثير مخاوف
من جهة ثانية، في حين يمنح تضمين الاسم في المحادثة المُستخدم شعوراً بتجربة أكثر ودية وإنسانية - وهو ما يمثل في جوهره أحد أهداف التخصيص في أنظمة الذكاء الاصطناعي - اعتبر محمد عبد الوهاب السويعي، المتخصص في إدارة تقنية المعلومات والأمن السيبراني، والباحث في أنظمة الذكاء الاصطناعي بالمملكة العربية السعودية، «أن هذا الأسلوب قد يفتح باب المخاوف والتأويل إذا لم يُوضح بشفافية». وتابع خلال حوار مع «الشرق الأوسط» أن «مخاوف الخصوصية تتزايد عالمياً بسبب تتبع البيانات واستخدامها لأغراض تسويقية أو تصنيفية من دون علم المُستخدم».
وأوضح السويعي أنه من الناحية التقنية «فإن اسم المُستخدم الذي يظهر في (تشات جي بي تي) يُستخرج من إعدادات الحساب العامة كجزء من بيانات الجلسة، وليس من قاعدة بيانات مخفية أو من تتبع مباشر». ثم أضاف: «لكن يظل التحدي في أن كثيرين من المُستخدمين لا يدركون هذه التفاصيل التقنية، ما يعني أن الثقة قد تهتز بسهولة حتى من دون وجود خرق حقيقي... ولذا يُنصح بأن تقدم المنصات مثل (أوبن إيه آي) تفسيرات صريحة حول الخصائص التي ترتبط بالمعلومات الشخصية مهما كانت بسيطة».
الخبير السعودي ذكر أنه «لا توجد حالات موثّقة تشير إلى أن (تشات جي بي تي) استخدم معلومات شخصية للمُستخدمين بشكل غير مناسب أو في سياقات مضللة... فالنموذج مصمّم بطريقة عديمة الحالة، ما يعني أنه لا يحتفظ بسجل دائم للمُستخدم، ولا يمكنه استدعاء معلومات من جلسات سابقة، إلا إذا كانت ظاهرة ضمن المحادثة الجارية».
ومع أن هذا التصميم الآمن، أفاد السويعي أن عام 2023 شهد حادثة تقنية عابرة، حين اكتشف بعض المُستخدمين أنهم قادرون مؤقتاً على رؤية عناوين محادثات تعود لمُستخدمين آخرين، من دون القدرة على الاطلاع على محتوى تلك المحادثات. وشرح قائلاً: «صحيح أن (أوبن إيه آي) تعاملت بسرعة مع هذه الثغرة وأغلقتها، إلا أنها كانت تنبيهاً مهماً حول ضرورة تعزيز تدقيقات الأمان الداخلي في هذه الأنظمة». وأردف: «هذه الواقعة لم تكن متعلقة باستخدام مقصود للمعلومات، لكنها تؤكد أن حتى أكثر الأنظمة تقدماً ليست محصّنة ضد الأخطاء البرمجية، وأن الشفافية وسرعة الاستجابة هما ما تصنعان الفارق في الحفاظ على الثقة».
«تشات جي بي تي»... وتحيزاته
أيضاً، أثار الخبير السعودي بُعداً آخر مثيراً للاهتمام حال استخدام الروبوت لأسماء المُستخدمين، هو التحيّزات القائمة على الدين أو العرق أو الجنس، فقال: «استخدام اسم المُستخدم قد يُفسّر من قبل النموذج على أنه مؤشر على الجنس، أو الخلفية الدينية، أو الهوية الثقافية، وبالتالي قد يؤثر - من دون وعي - على صياغة الردود. فمثلاً، قد يتغير أسلوب المخاطبة أو مستوى التفصيل بحسب الاسم، من دون أن يقصد النظام ذلك».
وأضاف أن رغم بذل «أوبن إيه آي» وغيرها من الجهات المطوّرة لتقنية الذكاء الاصطناعي جهداً كبيراً لتقليل الانحيازات في النماذج اللغوية، يظل خطر التحيزات المبطّنة قائماً.
في هذه الأثناء، اعتبر الدكتور فادي عمروش، الباحث المختص في التحوّل الرقمي والذكاء الاصطناعي التوليدي، أن التحديث يُعد اختراقاً لقوانين حماية البيانات الدولية. وأوضح لـ«الشرق الأوسط» أن «التحديث جاء جزءاً من ميزة الذاكرة الشاملة، والتي تشمل مهمتها تخزين معلومات من المحادثات السابقة تلقائياً، مثل الأهداف الشخصية، والاهتمامات، وأسلوب الكتابة، من دون الحاجة إلى إدخال يدوي من قِبل المُستخدم».
وأفاد بأنه «على الرغم من أن الهدف من هذه الميزة تعزيز التخصيص، وتحسين تجربة المُستخدم، فإنها تثير تساؤلات جدية تتعلق بالخصوصية وحماية البيانات المحمية بقوة القوانين الدولية. ونتيجة لتلك المخاوف، لم تُطرح هذه الميزة في دول الاتحاد الأوروبي، بما في ذلك إسبانيا، بسبب التحديات المرتبطة بالامتثال للوائح اللائحة العامة لحماية البيانات (GDPR)».
أخيراً، قال عمروش: «تنص المادة الرابعة من اللائحة على أن الاسم الشخصي يُعد من البيانات الشخصية، وبالتالي فإن استخدام أو تخزين أسماء الأفراد من دون الحصول على موافقة صريحة، أو من دون وجود أساس قانوني واضح، مثل المصلحة المشروعة أو تنفيذ عقد، قد يُعدّ انتهاكاً لتلك اللائحة». ومن ثم «في سياق استخدام (تشات جي بي تي)، إذا خزّن النظام أو استخدم أسماء أشخاص من دون الحصول على موافقة صريحة، فإن هذا قد يُعد معالجة غير قانونية للبيانات الشخصية. وعليه، يتوجب على شركة (أوبن إيه آي) توفير آليات واضحة وفعالة للمُستخدمين تتيح لهم إدارة بياناتهم».
