فتحت لجنة التجارة الفيدرالية الأميركية تحقيقاً عن شركة «أوبن إيه آي»، الشركة الناشئة للذكاء الاصطناعي التي تصنع برنامج «شات جي بي تي»، حول ما إذا كان روبوت الدردشة قد أضر بالمستهلكين من خلال جمعها للبيانات ونشرها لمعلومات كاذبة عن الأفراد.
في رسالة من 20 صفحة بُعثت إلى الشركة في سان فرانسيسكو هذا الأسبوع، قالت اللجنة إنها تنظر أيضاً في الممارسات الأمنية لشركة «أوبن إيه آي». طرحت لجنة التجارة الفيدرالية على شركة «أوبن إيه آي» عشرات الأسئلة في رسالتها، بما في ذلك كيف تقوم الشركة الناشئة بتدريب نماذج الذكاء الاصطناعي الخاصة بها والتعامل مع البيانات الشخصية، وقالت إنَّ الشركة يجب أن تزود اللجنة بالوثائق والتفاصيل.
جاء في الرسالة أن لجنة التجارة الفيدرالية تدرس ما إذا كانت شركة «أوبن إيه آي» «قد انخرطت في ممارسات غير عادلة أو مضللة تتعلق بالخصوصية أو أمن البيانات، أو انخرطت في ممارسات غير عادلة أو مضللة تتعلق بمخاطر إلحاق الضرر بالمستهلكين».
يُشكل تحقيق لجنة التجارة الفيدرالية أول تهديد رقابي أميركي رئيسي لشركة «أوبن إيه آي»، وهي واحدة من أبرز شركات الذكاء الاصطناعي، ويشير إلى أن التكنولوجيا قد تخضع للتدقيق بشكل متزايد مع استخدام الناس والشركات والحكومات المزيد من المنتجات التي تعمل بالذكاء الاصطناعي. وقد أثارت هذه التكنولوجيا سريعة التطور الإنذارات، حيث إن روبوتات المحادثة، التي يمكن أن تولّد إجابات كاستجابة للمطالبات، لديها القدرة على استبدال الناس في وظائفهم ونشر المعلومات المضللة.
قال سام ألتمان، الذي يقود شركة «أوبن إيه آي»، إن صناعة الذكاء الاصطناعي سريعة النمو تحتاج إلى تنظيم. وفي مايو (أيار) أدلى في الكونغرس بشهادته لدعوة تشريع الذكاء الاصطناعي، وزار المئات من المشرعين بهدف وضع جدول أعمال سياسي لهذه التكنولوجيا.
وقال في جلسة الاستماع التي عُقدت في مايو: «أعتقد أنه إذا سارت هذه التكنولوجيا بشكل خاطئ الآن، فقد تنحرف عن المسار تماماً»، وأضاف: «نريد العمل مع الحكومة للحيلولة دون ذلك».
خضع نظام «أوبن إيه آي» بالفعل لضغوط تنظيمية على الصعيد الدولي. في مارس (آذار)، حظرت هيئة حماية البيانات في إيطاليا تطبيق «شات جي بي تي»، قائلة إن شركة «أوبن إيه آي» جمعت بيانات شخصية من المستخدمين بصورة غير قانونية، ولم يكن لديها نظام للتحقق من العمر لمنع تعرض القاصرين لمواد غير مشروعة. أعادت شركة «أوبن إيه آي» الوصول إلى النظام في الشهر التالي، قائلة إنها أجرت التغييرات التي طلبتها السلطات الإيطالية.
تعمل لجنة التجارة الفيدرالية على الذكاء الاصطناعي بسرعة ملحوظة، فاتحة تحقيقاً بعد أقل من عام من طرح شركة «أوبن إيه آي» لروبوت «شات جي بي تي». وقالت لينا خان، رئيسة اللجنة، إنه يتعين تنظيم شركات التكنولوجيا بينما تكون التقنيات ناشئة، وليس فقط عندما تصل لمرحلة النضوج.
قد يجبر التحقيق شركة «أوبن إيه آي» على الكشف عن أساليبها حول بناء «شات جي بي تي» ومصادر البيانات التي تستخدمها لبناء أنظمة الذكاء الاصطناعي الخاصة بها. في حين أن «أوبن إيه آي» كانت منفتحة إلى حد ما حول هذه المعلومات، إلا أنها في الآونة الأخيرة لم تذكر سوى القليل عن مصدر البيانات لأنظمة الذكاء الاصطناعي الخاصة بها ومقدار استخدامها لبناء «شات جي بي تي»، ربما لأنها حذرة من المنافسين الذين ينسخون أعمالها، ولديها مخاوف بشأن الدعاوى القضائية على استخدام مجموعات بيانات معينة.
تمثل روبوتات المحادثة، التي تنشرها أيضاً شركات مثل «غوغل» و«مايكروسوفت»، تحولاً كبيراً في الطريقة التي يجري بها بناء واستخدام برامج الحواسيب. وهم الآن على استعداد لإعادة اختراع محركات البحث على شبكة الإنترنت مثل «غوغل» و«بينغ»، ويتحدثون عن مساعدين رقميين مثل أليكسا وسيري، وخدمات البريد الإلكتروني مثل «جي - ميل» و«أوتلوك».
عندما أصدرت شركة «أوبن إيه آي» برنامج «شات جي بي تي» في نوفمبر (تشرين الثاني)، استحوذت على مخيلة الجمهور على الفور بقدرتها على الإجابة عن الأسئلة وكتابة الشعر والتحدث عن أي موضوع تقريباً. لكن التكنولوجيا من الممكن أيضاً أن تخلط بين الواقع والخيال، بل حتى اختلاق المعلومات، وهي الظاهرة التي يطلق عليها العلماء وصف «الهلوسة».
يعمل «شات جي بي تي» بواسطة ما يسميه الباحثون في الذكاء الاصطناعي الشبكة العصبية. وهي نفس التكنولوجيا التي تترجم بين مختلف اللغات في خدمات مثل «ترجمة غوغل»، وتُحدد المشاة بأنهم سيارات ذاتية القيادة تتحرك في شوارع المدينة. تتعلم الشبكة العصبية المهارات من خلال تحليل البيانات. عن طريق تحديد الأنماط في الآلاف من صور القطط، على سبيل المثال، يمكن أن تتعلم التعرف على القط.
صمم الباحثون في مختبرات مثل «أوبن إيه آي» شبكات عصبية تعمل على تحليل كميات هائلة من النصوص الرقمية، بما في ذلك مقالات «ويكيبيديا»، والكتب، والقصص الإخبارية، وسجلات الدردشة على الإنترنت. وقد تعلمت هذه الأنظمة، المعروفة باسم النماذج اللغوية الكبيرة، كيفية توليد النصوص من تلقاء نفسها، ولكنها قد تكرر المعلومات المعيبة، أو تجمع الحقائق بطرق تنتج معلومات غير دقيقة.
في مارس، طلب مركز الذكاء الاصطناعي والسياسة الرقمية، وهو مجموعة مناصرة تسعى إلى الاستخدام الأخلاقي للتكنولوجيا، من لجنة التجارة الفيدرالية منع «أوبن إيه آي» من إصدار نسخ تجارية جديدة من «شات جي بي تي»، مستشهداً بمخاوف تتعلق بالتحيز والتضليل والأمن.
وشرع المركز في تحديث الشكوى قبل أقل من أسبوع، حيث وصف الطرق الإضافية التي يمكن لروبوت المحادثة إلحاق الأضرار من خلالها، والتي قال إن شركة «أوبن إيه آي» قد أشارت إليها أيضاً.
قال مارك روتنبرغ، رئيس ومؤسس مركز الذكاء الاصطناعي والسياسة الرقمية: «الشركة نفسها اعترفت بالمخاطر المرتبطة بإطلاق المنتج، ودعت بنفسها إلى التنظيم. يتعين على لجنة التجارة الفيدرالية أن تتحرك».
تعمل شركة «أوبن إيه آي» على تحسين «شات جي بي تي»، وتقليل تكرار المواد المتحيزة أو الكاذبة أو الضارة. مع استخدام الموظفين والمختبرين الآخرين للنظام، تطلب منهم الشركة تقييم فائدة وصدق ردودها. ومن ثم، من خلال تقنية تُسمى «التعلم المعزز»، فإنها تستخدم هذه التصنيفات لتحديد ما سوف يفعله روبوت المحادثة وما لا يفعله بصورة أكثر دقة.
