الذكاء الاصطناعي يستحوذ على الإنترنت... وعلى البيانات الشخصية

يمنح المستخدمين شبكة شخصية لا رأي لهم فيها

الذكاء الاصطناعي يستحوذ على الإنترنت... وعلى البيانات الشخصية
TT

الذكاء الاصطناعي يستحوذ على الإنترنت... وعلى البيانات الشخصية

الذكاء الاصطناعي يستحوذ على الإنترنت... وعلى البيانات الشخصية

في مطلع العام الجديد، فوجئ ملايين المستخدمين عندما دخلوا إلى بريدهم الإلكتروني على «غوغل»، بأداة لم يشتركوا فيها، عندما أخذ مساعد «غوغل» الذكي «جيميناي» يُلخص رسائلهم الإلكترونية.

استحواذ الذكاء الاصطناعي

بدا هذا التحول مشابهاً لما حدث قبل عامين، عندما بدأت الشركة عرض ملخصات الذكاء الاصطناعي، أو الردود التلقائية على أسئلة المستخدمين، في أعلى نتائج بحث «غوغل»، دون إمكانية تعطيلها.

وعكست تكتيكات «غوغل» أسلوب شركة «ميتا» في نشر روبوت الدردشة الخاص بها: «ميتا إيه آي» الذي أصبح أداة لا يمكن إزالتها داخل تطبيقات مثل «إنستغرام» و«واتساب» و«ماسنجر».

كان تأثير هذا الاستحواذ للذكاء الاصطناعي دقيقاً، ولكنه بالغ الأهمية. وهكذا بدأ الإنترنت يبدو مختلفاً لكل شخص؛ حيث تُعرض إعلانات مُخصصة ونصائح مُصممة خصيصاً، وأسعار منتجات فريدة بناءً على ما يقوله المستخدم لروبوتات الدردشة. وعادة لا يوجد خيار لإيقاف عملها.

المستخدم لا رأي له

بمعنى آخر، تُنشئ صناعة التكنولوجيا إنترنتاً مُخصصاً لك وحدك، ولكنك لا تملك أي رأي فيه.

تقول ساشا لوتشيوني، الباحثة المتخصصة في أخلاقيات الذكاء الاصطناعي في شركة «هاغينغ فيس» للذكاء الاصطناعي: «تُسوَّق لنا هذه الأدوات على أنها أكثر قوة، ولكن خياراتنا للتحكم فيها محدودة. يقع على عاتقنا خيار الانسحاب، وهو أمر معقد. وليس واضحاً في الغالب ما يجب علينا عمله بهدف الانسحاب منه».

«مساعد ذكي» مبتكر

تزعم الشركات أنها تُركز على ابتكار أفضل «مساعد» (مساعد مدعوم بالذكاء الاصطناعي، قادر على كتابة رسائل البريد الإلكتروني، وحجز تذاكر الطيران، وإجراء البحوث) لتمكين المستخدمين. وتقول إن الذكاء الاصطناعي التوليدي يتميز بمرونة وقدرة عالية على التكيف، ما يُمكِّن كل فرد من الحصول على تجربة فريدة لاستخدام الإنترنت، من خلال مساعد رقمي يُلبي احتياجاته.

مخاوف الأميركيين أكثر من حماسهم

وتتعارض استراتيجية صناعة التكنولوجيا في فرض الذكاء الاصطناعي على الجميع مع آراء كثير من المستخدمين. فقد أظهر استطلاع رأي أجراه مركز «بيو» للبحوث في ربيع العام الماضي، أن الأميركيين عموماً أكثر قلقاً من حماسهم تجاه استخدام الذكاء الاصطناعي في حياتهم اليومية؛ حيث أعربت الأغلبية عن رغبتها في مزيد من التحكم في كيفية استخدام هذه التقنية.

لكن «غوغل» أفادت -في بيان لها- بأن المستخدمين وجدوا البحث المدعوم بالذكاء الاصطناعي أكثر فائدة، ما دفعهم إلى العودة لإجراء مزيد من عمليات البحث. وأضافت الشركة أنها توفر علامة تبويب «الويب» على موقع «غوغل.كوم» (Google.com) لتصفية نتائج البحث المُولّدة بواسطة الذكاء الاصطناعي، إلا أن المستخدمين لا يستخدمونها إلا في نسبة ضئيلة جداً من عمليات البحث.

من جهتها، أوضحت شركة «ميتا» أن بإمكان المستخدمين اختيار التفاعل مع مساعد «ميتا» للذكاء الاصطناعي في تطبيقاتها. ومع ذلك، سيكون من الصعب على معظم المستخدمين تجنب التفاعل مع الذكاء الاصطناعي؛ لأن مساعد الذكاء الاصطناعي جزء لا يتجزأ من أداة البحث في بعض التطبيقات، بما في ذلك «إنستغرام».

=========================================================

تُرسِّخ الشركات -في الخفاء- أسس اقتصاد إعلاني رقمي «ذكي» قد يُشكِّل مستقبل الإنترنت

=========================================================

جني الأرباح من الإعلانات الموجهة

ويثير هذا الإصرار على استخدام الذكاء الاصطناعي في كل مكان -مع خيارات محدودة أو معدومة لإيقافه- تساؤلاً مهماً حول الفائدة التي تعود على شركات الإنترنت. فبرامج الدردشة الآلية المدعومة بالذكاء الاصطناعي، مثل «جيميناي» (Gemini)، و«تشات جي بي تي» (ChatGPT) من «أوبن إيه آي»، مكلفة للغاية من حيث التشغيل، ولم تُدرّ أرباحاً مباشرة للشركات من خلال رسوم الاشتراك؛ لأن كثيراً من المستخدمين يستفيدون من ميزاتها المجانية.

ولذا تُرسّخ الشركات -في الخفاء- أسس اقتصاد إعلاني رقمي قد يُشكِّل مستقبل الإنترنت. فالتكنولوجيا الأساسية التي تُمكِّن روبوتات الدردشة من كتابة المقالات وإنشاء الصور للمستهلكين، تُستخدم من قبل المعلنين للعثور على الجمهور المستهدف، وتخصيص الإعلانات والخصومات تلقائياً. وكل من لا يتكيف مع هذا التطور -مثل العلامات التجارية الصغيرة وتجار التجزئة الإلكترونيين- قد يضيعون وسط ضجيج الذكاء الاصطناعي.

برامج دردشة مجانية لترويج البضائع والخدمات

في الشهر الماضي، أعلنت «أوبن إيه آي» أنها ستبدأ في عرض الإعلانات في النسخة المجانية من «تشات جي بي تي»، المستخلصة من أسئلة المستخدمين لروبوت الدردشة وعمليات البحث السابقة.

رداً على ذلك، سخِر مسؤول تنفيذي في «غوغل» من «أوبن إيه آي»، مُضيفاً أن «غوغل» لا تُخطط لعرض إعلانات داخل روبوت الدردشة «جيميناي». ولكن ما لم يُشر إليه هو أن «غوغل» التي تستمد أرباحها بشكل كبير من الإعلانات عبر الإنترنت، تعرض إعلانات على «غوغل.كوم» بناءً على تفاعلات المستخدمين مع روبوت الدردشة المدعوم بالذكاء الاصطناعي، والمُدمج في محرك البحث الخاص بها.

========================================================

واجهة المحادثة التفاعلية له تشجع المستخدمين على مشاركة بياناتهم الشخصية طواعية

=======================================================

التفاف على القانون: اختراق خصوصية البيانات مجدداً

ومع تشديد الجهات التنظيمية قيودها على خصوصية البيانات على مدى السنوات الست الماضية، تخلَّت شركات التكنولوجيا العملاقة وقطاع الإعلانات الإلكترونية عن تتبُّع أنشطة المستخدمين عبر تطبيقات الجوال ومواقع الويب الهادفة إلى تحديد الإعلانات المناسبة لهم. واضطرت شركات مثل «ميتا» و«غوغل» إلى ابتكار طرق لاستهداف المستخدمين بإعلانات ملائمة، دون مشاركة بياناتهم الشخصية مع جهات تسويق خارجية.

ولكن، عندما ظهرت برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي، مثل «تشات جي بي تي» قبل نحو 4 سنوات، رأت الشركات فرصة سانحة: فقد شجَّعت واجهة المحادثة التفاعلية المستخدمين على مشاركة بياناتهم الشخصية طواعية، مثل هواياتهم وحالتهم الصحية والمنتجات التي يبحثون عنها.

ويبدو أن هذه الاستراتيجية تؤتي ثمارها بالفعل. فقد ارتفعت عمليات البحث على الإنترنت على مستوى القطاع، بما في ذلك «غوغل» و«بينغ»، المتصفحان اللذان أدمجا برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي في أدوات البحث الخاصة بهما. ويعود ذلك في جزء كبير منه إلى أن المستخدمين يوجِّهون مزيداً من الأسئلة والاستفسارات إلى محركات البحث التي تعمل ببرامج الدردشة الآلية، ما يكشف عن نياتهم واهتماماتهم بشكل أوضح بكثير مما لو كانوا يكتبون بضع كلمات مفتاحية للبحث التقليدي.

إعلانات متطفلة ومريبة

يقول الخبراء إنّ استخدام روبوتات الدردشة لمساعدة الشركات على جمع معلومات أكثر تفصيلاً ودقة حول اهتمامات الأفراد، يجعل أشكال الإعلانات الرقمية الحديثة تبدو أكثر تطفلاً وإثارة للريبة.

كما أن المعلومات المستقاة من المحادثات مع الذكاء الاصطناعي من «غوغل»، بالإضافة إلى بيانات أخرى، قد تؤثر في نهاية المطاف على أسعار المنتجات نفسها التي يراها مختلف الأشخاص.

وكانت «غوغل» قد كشفت الشهر الماضي عن أداة تسوق مدعومة بالذكاء الاصطناعي، طورتها بالتعاون مع شركات تجزئة، مثل «شوبيفاي»، و«تارغت»، و«وول مارت».

ووصفت ليندسي أوينز، المديرة التنفيذية لمؤسسة «غراوند وورك كولابوريتيف» -وهي منظمة غير ربحية تُعنى بالقضايا الاقتصادية- إطار عمل «غوغل» للتسوق المدعوم بالذكاء الاصطناعي بأنه مثال على «رأسمالية المراقبة» التي قد تُستخدم في نهاية المطاف لحثّ الناس على إنفاق المزيد.

قد تُساعد هذه التقنية الجديدة التجار على تحديد أسعار منتجاتهم تلقائياً، بناءً على المعلومات التي يُشاركها المستهلكون مع روبوت الدردشة، مثل ميزانيتهم ​​الشخصية، إلى جانب مصادر بيانات أخرى. إلا أن «غوغل» أعلنت أنها تمنع تجار التجزئة من تضخيم الأسعار المعروضة في نتائج البحث.

متصفحات بأدوات تحكم في «المساعد الذكي»

وقد انتقدت شركات منافسة أصغر لـ«غوغل» و«ميتا» -بما في ذلك «موزيلا»، الشركة المصنِّعة لمتصفح «فايرفوكس»، ومحرك البحث «دك دك جو» الذي يركز على خصوصية البيانات- ضعف تحكم المستخدمين في كيفية استخدامهم للذكاء الاصطناعي.

وفي هذا الشهر، أعلنت «موزيلا» أن الإصدار الجديد من «فايرفوكس» سيتضمن مجموعة واسعة من أدوات التحكم، لتفعيل أو تعطيل ميزات الذكاء الاصطناعي. وصرح أنتوني إنزور- ديميو، الرئيس التنفيذي لـ«موزيلا»، بأن خطر نشر الذكاء الاصطناعي على نطاق واسع يُقلل من انفتاح الإنترنت؛ لأن المستخدمين الأكثر امتيازاً فقط هم من يستطيعون دفع رسوم الاشتراك، للاستفادة من أقوى النماذج.

وأضاف: «يُغير الذكاء الاصطناعي طريقة تصفح الناس للإنترنت، لذا يجب على (فايرفوكس) و(موزيلا) مواكبة هذا التغيير، ولكن هذا لا يعني أن نتبع أسلوباً يُنفر المستخدمين أو يُثير استياءهم».

وفي الشهر الماضي، أطلق «دك دك غو» (DuckDuckGo) إصداراً من محرك بحثه يقوم بتصفية أي نتائج تحتوي على صور مُولّدة باستخدام الذكاء الاصطناعي. وسألت الشركة المستخدمين عما إذا كانوا يرغبون في استخدام الذكاء الاصطناعي أم لا. وصوَّت نحو 90 في المائة من المشاركين بـ«لا للذكاء الاصطناعي».

بصمات عالمية لـ«غوغل» و«ميتا»

ولكن حتى لو كانت الشركات الصغيرة تُقدِّم طرقاً لتعطيل الذكاء الاصطناعي في منتجاتها، فسيظل من الصعب تجنُّب الذكاء الاصطناعي المُدمج في منتجات «غوغل» و«ميتا»، اللتين تمتدُّ بصماتهما إلى حياة الجميع تقريباً، من خلال خدمات مثل: البريد الإلكتروني، ومعالجة النصوص، والرسائل النصية، وتطبيقات التواصل الاجتماعي.

وصرَّح مارك زوكربيرغ، الرئيس التنفيذي لشركة «ميتا»، خلال مكالمة حول الأرباح الأخيرة للشركة، بأن 3.58 مليار شخص، أي ما يُقارب 44 في المائة من سكان العالم، يستخدمون منتجاً واحداً على الأقل من منتجات «ميتا» يومياً، بينما حافظت «غوغل» على حصتها في سوق البحث العالمية عند نحو 90 في المائة.

* خدمة «نيويورك تايمز».


مقالات ذات صلة

بيل غيتس: الذكاء الاصطناعي دون رقابة قد يتسبب في «مليار وفاة»

الولايات المتحدة​ بيل غيتس (د.ب.أ) p-circle

بيل غيتس: الذكاء الاصطناعي دون رقابة قد يتسبب في «مليار وفاة»

قال بيل غيتس، ‌المؤسس المشارك لشركة «مايكروسوفت»، إن الذكاء الاصطناعي إذا تُرك دون رقابة فقد يتسبب في «وفاة مليار شخص».

«الشرق الأوسط» (واشنطن )
علوم غرسة ذكية داخل الجسم... حين يراقب الذكاء الاصطناعي القلب ويستجيب لإشاراته

عندما يدخل الذكاء الاصطناعي في جسم الإنسان

الانتقال من الغرسة الطبية التي تنتظر أمراً خارجياً إلى نظام ذكي يتعرف على الأنماط ويقدر الأخطار

د. عميد خالد عبد الحميد (الرياض)
الاقتصاد شعار شركة «كوالكوم» (رويترز)

«كوالكوم» و«ترجمة» تتعاونان لتوسيع تطبيقات الذكاء الاصطناعي بالعربية

وقَّعت «كوالكوم تكنولوجيز» و«ترجمة» مذكرة تفاهم في الرياض، لتطوير ونشر حلول ذكاء اصطناعي عربية موجهة للمؤسسات والجهات الحكومية.

«الشرق الأوسط» (الرياض)
الاقتصاد أشكال مصغرة على أجهزة ذكية أمام كلمة الذكاء الاصطناعي (صورة تعبيرية من رويترز)

دراسة: تخفيف قواعد الخصوصية وبيانات المستخدمين لن يفيد تطور الذكاء الاصطناعي

يرى باحثون أن تخفيف قواعد حماية بيانات المستخدمين لن يدعم تطور قطاع الذكاء الاصطناعي.

«الشرق الأوسط» (برلين)
تكنولوجيا سام ألتمان الرئيس التنفيذي لـ«أوبن إيه آي» (أرشيفية - رويترز)

أستراليا تستدعي رئيسي «أوبن إيه آي» و«أنثروبيك» لتحقيق بسبب اختراق للذكاء الاصطناعي

جرى استدعاء الرئيسين التنفيذيَّين لشركتَي «أوبن إيه آي» و«أنثروبيك» للمثول أمام لجنة تحقيق بمجلس الشيوخ الأسترالي بشأن الذكاء الاصطناعي.

«الشرق الأوسط» (سيدني )

أستراليا تستدعي رئيسي «أوبن إيه آي» و«أنثروبيك» لتحقيق بسبب اختراق للذكاء الاصطناعي

سام ألتمان الرئيس التنفيذي لـ«أوبن إيه آي» (أرشيفية - رويترز)
سام ألتمان الرئيس التنفيذي لـ«أوبن إيه آي» (أرشيفية - رويترز)
TT

أستراليا تستدعي رئيسي «أوبن إيه آي» و«أنثروبيك» لتحقيق بسبب اختراق للذكاء الاصطناعي

سام ألتمان الرئيس التنفيذي لـ«أوبن إيه آي» (أرشيفية - رويترز)
سام ألتمان الرئيس التنفيذي لـ«أوبن إيه آي» (أرشيفية - رويترز)

قالت السيناتور الأسترالية سارة هانسون-يونغ، اليوم (الأحد)، إنه جرى استدعاء الرئيسين التنفيذيَّين لشركتَي «أوبن إيه آي» و«أنثروبيك» للمثول أمام لجنة تحقيق بمجلس الشيوخ الأسترالي بشأن الذكاء الاصطناعي، وذلك بعد أيام من الكشف عن اختراق روبوت تابع لـ«أوبن إيه آي» لقاعدة بيانات النظام الصحي في البلاد.

وأثار اختراق نظام «ميديكير» الصحي، الذي ندَّد به رئيس الوزراء أنتوني ألبانيزي، اهتماماً واسعاً بوصفه من أبرز الوقائع التي تَمكَّن فيها وكلاء ذكاء اصطناعي من الوصول إلى أنظمة خارج الولايات المتحدة، وفق ما أفادت وكالة «رويترز» للأنباء.

وقال متحدث باسم السيناتور هانسون-يونغ من حزب «الخضر» الأسترالي، والتي تترأس التحقيق، إن سام ألتمان الرئيس التنفيذي لـ«أوبن إيه آي» وداريو أمودي الرئيس التنفيذي لـ«أنثروبيك» تلقيا طلبين خطيين للمثول أمام اللجنة، التي تعتزم عقد جلسات استماع علنية في العاصمة كانبيرا يوم الخميس.

ويبحث تحقيق مجلس الشيوخ التأثيرات المحتملة للذكاء الاصطناعي ومراكز البيانات على المجتمعات والصناعات الأسترالية، فضلاً عن الموارد المائية والطاقة. وهو واحد من تحقيقات عدة على مستوى الولايات والحكومة الاتحادية بشأن الذكاء الاصطناعي.

وقالت هانسون-يونغ في بيان: «هناك أسئلة جدية يتعين على سام ألتمان الإجابة عنها بشأن اختراق (أوبن إيه آي) مواقع إلكترونية حكومية أسترالية». وأضافت أن ألتمان وأمودي «يجب أن يمثلا أمام مجلس الشيوخ ويجيبا عن أسئلته ويجريا نقاشاً صريحاً بشأن شكل التنظيم الفعال والدائم الذي ينبغي أن يخضع له هذا القطاع».

ووصف ألبانيزي، الذي كشف يوم الخميس عن الاختراق الذي استهدف بيانات «ميديكير» في يونيو (حزيران)، الأمر بأنه «غير مقبول». وقال إنه عبَّر عن «قلقه البالغ» لألتمان.


«أوبن إيه آي» توقف تدريب أحدث نماذجها بعد سلوك غير متوقع لوكلاء في مواقع حكومية

شعار «أوبن إيه آي» ومنافستها «أنثروبيك» (رويترز)
شعار «أوبن إيه آي» ومنافستها «أنثروبيك» (رويترز)
TT

«أوبن إيه آي» توقف تدريب أحدث نماذجها بعد سلوك غير متوقع لوكلاء في مواقع حكومية

شعار «أوبن إيه آي» ومنافستها «أنثروبيك» (رويترز)
شعار «أوبن إيه آي» ومنافستها «أنثروبيك» (رويترز)

قالت شركة «أوبن إيه آي» إنها أوقفت تدريب أحدث نماذجها للذكاء الاصطناعي مؤقتاً، في وقت تزداد فيه التقارير عن خروج وكلاء الذكاء الاصطناعي عن السيطرة.

وجاء قرار وقف التطوير بعد ساعات فقط من إفصاح الشركة، أمس (الجمعة)، عن أنها تراجع حوادث عدة وقعت خلال الصيف، تصرَّف فيها وكلاء تابعون لـ«أوبن إيه آي» في أثناء بحثهم في مواقع إلكترونية للحكومة الفيدرالية بطرق غير متوقعة تجاوزت ما طُلب منهم، خلال جمع المعلومات وتوزيعها.

وبشكل منفصل، قالت شركة «ترانسلويس» المتخصصة في تقييم أنظمة الذكاء الاصطناعي، إن وكلاء بدا أنهم تابعون لـ«أوبن إيه آي» حاولوا، دون نجاح، اختراق موقع إلكتروني لوزارة التعليم الأميركية، وهي واقعة لم تؤكدها «أوبن إيه آي»، حسبما أفاد تقرير لوكالة «أسوشييتد برس».

وقالت «أوبن إيه آي»، في بيان، إنها ستستأنف التدريب «فقط عندما نكون واثقين من وجود إجراءات حماية إضافية»، مضيفة أنها تتوقع أن تضطر إلى «التوقف مؤقتاً» مرة أخرى مع تطور الذكاء الاصطناعي وظهور مشكلات أخرى.

وتواجه مختبرات الذكاء الاصطناعي ضغوطاً من المشرعين وخبراء التكنولوجيا لإبطاء وتيرة التطوير، حتى تتمكَّن من وضع ضوابط تمنع الوكلاء من التصرُّف من تلقاء أنفسهم، واختراق المواقع الإلكترونية، والكشف عن معلومات غير متاحة للعامة. كما دعا رئيسا «أوبن إيه آي» ومنافستها «أنثروبيك» إلى إبطاء التطوير.

وهذه المرة الثانية خلال 3 أشهر التي توقف فيها «أوبن إيه آي» تطوير نماذجها. وكانت المرة الأولى في يوليو (تموز)، بعد الكشف عن هجوم إلكتروني استهدف شركة «هاغينغ فيس» الناشئة في مجال الذكاء الاصطناعي، في حادثة أثارت مخاوف من أن الصناعة بدأت تفقد السيطرة.

وخلال اجتماع مع الرئيس الصيني شي جينبينغ، هذا الأسبوع، وافق الرئيس الأميركي دونالد ترمب على تبادل المعلومات بشأن مخاطر الذكاء الاصطناعي وتنسيق الجهود للحفاظ على سلامته. لكن ترمب يرى أن المخاوف من الذكاء الاصطناعي مبالغ فيها، وأشار لاحقاً إلى أنه لا يعتزم اتخاذ إجراءات صارمة من جانبه.

وقال ترمب للصحافيين خارج البيت الأبيض: «لن نضع فرامل». وأضاف: «إنهم يريدون وقف تقدمنا لأننا نتفوق على الصين بفارق كبير، وسنحافظ على ذلك».

ولم تبدُ الحوادث الأخيرة التي تورطت فيها «أوبن إيه آي» متضمنة الكشف عن أي معلومات غير متاحة للعامة، لكنها كانت مثيرة للقلق بما يكفي لدفع الشركة إلى تحذير الوكالات الفيدرالية المعنية.

وفي حادثة وزارة التعليم، عثر وكلاء «أوبن إيه آي» على «مفاتيح مطورين (developer keys)» تتيح الوصول إلى بيانات حكومية عبر واجهة برمجة التطبيقات (API)، لكنهم جمعوا في النهاية معلومات متاحة للعامة فقط.

وفي حالة أخرى تتعلق بلجنة الأوراق المالية والبورصات الأميركية (SEC)، عثر الوكلاء على معلومات متاحة للجميع، لكنهم نشروا هذه المعلومات لاحقاً في مكان آخر على الإنترنت، وهو تصرف تجاوز ما طُلب منهم القيام به.

وقال المتحدث باسم لجنة الأوراق المالية والبورصات، كيرت هوبفنسبرغر، السبت، إنه «لم يتم الوصول إلى أي معلومات غير متاحة للعامة».

وقالت وزارة التعليم في وقت سابق إنها لم تجد «أي دليل على حدوث تأثير في موقعها الإلكتروني أو قواعد بياناتها».

وكشفت شركات عدة أخرى للذكاء الاصطناعي عن حوادث خرجت فيها نماذجها عن السيطرة، بل وتمكنت من اختراق مواقع إلكترونية.

وقال الرئيس التنفيذي لـ«أوبن إيه آي»، سام ألتمان، في منشور على وسائل التواصل الاجتماعي، الجمعة، إن حادثة «هاغينغ فيس... لا تزال أخطر حادثة شهدناها».

وسبق أن نشرت «أوبن إيه آي» 6 تقارير أخرى عن سلوكيات «غير متوقعة أو مثيرة للقلق» في نماذج الذكاء الاصطناعي، وأطلقت إطاراً لتتبع هذه الحالات وفحصها والإفصاح عنها.


«أوبن إيه آي» تقر بتسريب 53 صورة بالخطأ أرسلها مستخدمون عبر «تشات جي بي تي»

شعار «أوبن إيه آي» على هاتف (أ.ب)
شعار «أوبن إيه آي» على هاتف (أ.ب)
TT

«أوبن إيه آي» تقر بتسريب 53 صورة بالخطأ أرسلها مستخدمون عبر «تشات جي بي تي»

شعار «أوبن إيه آي» على هاتف (أ.ب)
شعار «أوبن إيه آي» على هاتف (أ.ب)

أقرت شركة «أوبن إيه آي»، أمس (الجمعة)، بأن أدواتها للذكاء الاصطناعي نشرت على الإنترنت 53 صورة أرسلها مستخدمون عبر منصتها «تشات جي بي تي»، في تسريب جديد يطول هذه المرة بيانات مستخدمي الشركة نفسها.

كما كشفت الشركة العملاقة في مجال الذكاء الاصطناعي التي تتخذ مقراً في سان فرانسيسكو، أن أدواتها اخترقت مواقع تابعة لوكالات فيدرالية أميركية، مؤكدة بذلك معلومات أوردتها صحيفة «نيويورك تايمز» سابقاً، لكنها أشارت إلى أنها لم تجمع فيها سوى معلومات متاحة للعموم.

وأوضحت «أوبن إيه آي» أن الروابط للصور الـ53 لم تكن متاحة للعلن، ونُشرت عن طريق الخطأ على مواقع استضافة إلكترونية، وأشارت إلى أن معظمها أزيل بمساعدة مقدمي الخدمات المضيفين المعنيين، وأن العمل يجري على إزالة الصور المتبقية، وفق ما أفادت وكالة الصحافة الفرنسية.

وكانت هذه الصور أُرسلت من حسابات وافق أصحابها على استخدام بياناتهم لتطوير نماذج الشركة. ومرت قبل استخدامها عبر مصفاة لخصوصية البيانات الشخصية، وأكدت الشركة أنه لم يعد بالإمكان ربط الصور بالمستخدمين الذين أرسلوها.

ولم توضح «أوبن إيه آي» ما إذا كانت هذه الصور تظهر أشخاصاً يمكن التعرف عليهم أو بيانات حساسة، ولم تكشف المزيد من التفاصيل رداً على أسئلة وكالة الصحافة الفرنسية.

ونُشرت الصور نتيجة سلوك «وكلاء للذكاء الاصطناعي»، وهي برمجيات مصممة بناءً على نماذج ذكاء اصطناعي وقادرة على تنفيذ سلسلة من المهام المتتالية بصورة ذاتية.

وأوضحت الشركة أن أدوات ذكاء اصطناعي وكيلة يجري استخدامها في إطار أبحاثها، نقلت إلى خدمات خارجية بيانات تدريب لم تكن بمعظمها صادرة عن مستخدمين، ولفتت إلى أن عمليات النقل جرت بمعظمها قبل أن تعزز الأمن حول أبحاثها في أغسطس (آب).

وأكدت أنها تجري حالياً عملية مسح شاملة لأنشطة أدواتها الوكيلة السابقة، في عملية ستستغرق عدة أشهر.

وأقر الرئيس التنفيذي للشركة سام ألتمان، الجمعة، بأنه «لم نكن بالسرعة التي كنا نتمناها» في عمليات المراجعة والكشف عن الحوادث، مبرراً ذلك بالحجم الهائل من البيانات الواجب تحليلها.

وقال متحدث باسم «أوبن إيه آي» لوكالة الصحافة الفرنسية إن «غالبية الأنشطة التي خضعت للتدقيق حتى الآن كانت من ضمن مهام البحث الاعتيادية، كالوصول إلى محتويات متاحة للعموم على الإنترنت للإجابة عن أسئلة».

وأضاف أن «بعض هذه الأنشطة شملت مواقع حكومية، إذ غالباً ما تلجأ نماذجنا إليها باعتبارها مصادر مرجعية للمعلومات العامة».

وبذلك أكدت الشركة أن نماذجها وصلت إلى معلومات عامة على مواقع هيئة الأوراق المالية والبورصات الأميركية، الجهة الناظمة للأسواق المالية، قبل أن تنشر جزءاً منها على صفحة أخرى على الإنترنت، مشددةً على أنها لم تجد أي أثر للنفاذ إلى معلومات غير متاحة للعموم.