كيف تجمع أدوات الذكاء الاصطناعي بياناتك عبر الأجهزة؟

نصائح حول الحفاظ على الخصوصية بانتقاء المشاركات والرسائل

كيف تجمع أدوات الذكاء الاصطناعي بياناتك عبر الأجهزة؟
TT

كيف تجمع أدوات الذكاء الاصطناعي بياناتك عبر الأجهزة؟

كيف تجمع أدوات الذكاء الاصطناعي بياناتك عبر الأجهزة؟

كيف يجمع الذكاء الاصطناعي بياناتك، وكيف تكون حذراً؟ لقد اندمج الذكاء الاصطناعي بسلاسة في حياتنا اليومية، وأخذ يؤثر على كيفية تفاعلنا مع التكنولوجيا، وهو يراقب صحتنا، بل وحتى يؤدي مهام أساسية.

من شفرات الحلاقة وفرش الأسنان الكهربائية المزودة بالذكاء الاصطناعي إلى أدوات الذكاء الاصطناعي المستخدمة في التوليد والتنبؤ، أصبحت تلك الأنظمة لا غنى عنها. مع ذلك يثير الاستخدام واسع الانتشار للذكاء الاصطناعي أيضاً مخاوف بشأن خصوصية البيانات، حيث كثيراً ما تجمع تلك التكنولوجيا قدراً هائلاً من المعلومات الشخصية.

الذكاء الاصطناعي في الحياة اليومية

وجد الذكاء الاصطناعي طريقه إلى العديد من الأجهزة سواء كانت أساسية أو غير أساسية، ومن بينها أجهزة تتبع اللياقة البدنية والساعات الذكية التي تراقب الأنشطة الروتينية اليومية، أو مساعدات الذكاء الاصطناعي، مثل «تشات جي بي تي» و«مايكروسوفت كوبايلوت»، التي تجيب عن الاستفسارات وتساعد في إنشاء أي محتوى. وتعتمد تلك الأدوات على جمع البيانات للوصول إلى أفضل أداء وتزويد المستخدمين بتجارب ذات طابع شخصي. كذلك تستخدم أجهزة بسيطة مثل الفرش الكهربائية حالياً خوارزميات التعلم الآلي لتتبع أنماط الاستخدام وتقديم تغذية راجعة في الوقت الفعلي.

في الوقت الذي يقدّر فيه الكثيرون ما يقدمه الذكاء الاصطناعي من راحة ونفع، تثير عملية جمع البيانات التي تغذي هذه الأنظمة مخاوف كبيرة بشأن الخصوصية، إذ كثيراً ما يكون المستخدمون غير واعين تماماً بمدى وطبيعة البيانات التي يتم جمعها.

ويمكن لتلك البيانات الكشف عن العادات والأمور المفضلة، بل وحتى توقع السلوكيات المستقبلية، مما يمثل فرصاً ومخاطر في آن واحد.

كيف يجمع الذكاء الاصطناعي البيانات؟

أنظمة الذكاء الاصطناعي مصممة لجمع البيانات بطرق متنوعة بحسب وظيفتها. وتُعرف أدوات الذكاء الاصطناعي المستخدمة في التوليد والتنبؤ، بوجه خاص، بطرقها في جمع المعلومات.

* أدوات الذكاء الاصطناعي التوليدي. تعتمد أنظمة الذكاء الاصطناعي التوليدي، مثل «تشات جي بي تي» و«غوغل جيميناي»، في عملها على كميات كبيرة من البيانات. وعندما يتفاعل المستخدمون مع هذه الأدوات، يتم تسجيل أو تخزين أو تحليل كل مُدخل أو معطى، سواء كان سؤالاً أو أمرأً أو رداً، لتعزيز أداء نموذج الذكاء الاصطناعي.

وتنص سياسة الخصوصية لمؤسسة «أوبن إيه أي» المنتجة لـ «جي بي تي» صراحةً على احتمال استخدام المحتوى، الذي يقدمه المستخدمون، من أجل تحسين خدماتها وتدريب النماذج التي يعتمد عليها «تشات جي بي تي». وبينما يمكن للمستخدمين الانسحاب من الإسهام ببياناتهم في تدريب النموذج، تجمع مؤسسة «أوبن إيه آي» البيانات الشخصية وتحتفظ بها.

كذلك ورغم زعم الشركات استخدام هذه البيانات دون تحديد هوية أو تعريف، حيث تحذف كل ما يصلها بأفراد بعينهم، تظل هناك مخاطرة بإعادة الهوية إلى تلك البيانات. وقد يكشف ذلك عادات شخصية، أو أموراً مفضلة، أو معلومات حسّاسّة في حال إساءة استخدام البيانات أو انتهاكها.

* أدوات الذكاء الاصطناعي التنبؤي. إضافة إلى الذكاء الاصطناعي التوليدي، تضطلع أنظمة الذكاء الاصطناعي التنبؤي بدور كبير في جمع البيانات. وتعدّ مواقع التواصل الاجتماعي مثل الـ«فيسبوك» و«إنستغرام» و«تيك توك» من الأمثلة البارزة، حيث تجمع تلك المواقع باستمرار بيانات عن المستخدمين، وتلتقط وتسجل كل تفاعل سواء كان إعجاب بمنشور، أو تعليق على مقطع مصور، أو الوقت الذي يقضيه المستخدم في مشاهدة محتوى محدد. ويُستخدم كل فعل كنقطة بيانات داخل الصفحة الشخصية الرقمية للفرد.

لا تستخدم تلك الصفحات الشخصية في تنقيح أنظمة توصية الذكاء الاصطناعي، التي تقترح محتوى متوافقاً مع تفضيلات المستخدم فحسب، بل يتم بيعها إلى وسطاء البيانات، الذين يبيعون بدورهم هذه المعلومات إلى شركات تستخدمها لأغراض مثل الإعلانات الموجهة. ينشيء ذلك بيئة يتم تحويل فيها البيانات الشخصية إلى سلعة.

تبعات جمع البيانات

يمكن أن تتمتع البيانات، التي تجمعها أنظمة الذكاء الاصطناعي، بقوة هائلة، حيث تمكّن النماذج التنبؤية من تقديم توقعات دقيقة بشأن سلوك المستخدمين، ويستخدم الذكاء الاصطناعي التوليدي البيانات من أجل إنشاء محتوى جديد، مثل الاستجابات المعدّلة حسب الطلب أو الأعمال الإبداعية، في حين يستعين الذكاء الاصطناعي التنبؤي ببيانات تاريخية لتوقع أفعال مستقبلية مثل تحديد كيفية تحقيق شخص ما هدف من أهداف اللياقة البدنية، أو توقع ما يفضله من أفلام.

على الجانب الآخر، يؤدي الاعتماد المتزايد على البيانات إلى نقاط ضعف، حيث يمكن أن يتسبب جمع البيانات الشخصية في عملية توسعية في جمع المعلومات تطلّع فيها شركات أو أطراف غير مصرح لها على جوانب شخصية لحياة الأفراد. كذلك تزيد خطر انتهاك البيانات، حيث يمكن أن تتعرض معلومات حسّاسّة إلى الكشف أو الاستغلال.توصيات الحفاظ على خصوصية البيانات

في ظل استمرار تطور الذكاء الاصطناعي، من المهم بالنسبة إلى المستخدمين توخي الحذر بشأن خصوصية بياناتهم. فيما يلي بعض الإجراءات التي ينبغي النظر فيها:

* فهم سياسات الخصوصية: خذ الوقت الكافي لقراءة وفهم سياسات الخصوصية الخاصة بأدوات الذكاء الاصطناعي والمواقع. ربما تمكنك معرفة كيفية جمع وتخزين واستخدام بياناتك من اتخاذ قرارات واعية.

* خيارات الانسحاب: حاول الانسحاب من عملية المساهمة ببياناتك لأغراض مثل تدريب النماذج، حين يكون ذلك متاحاً. في الوقت الذي قد لا يمنع ذلك عملية جمع البيانات بشكل كامل، يمكنه أن يحدّ ويقيد كيفية استخدام بياناتك.

* الحد من مشاركة البيانات قدر الإمكان: كنّ انتقائياً فيما يتعلق بالمعلومات التي تشاركها مع أدوات الذكاء الاصطناعي. والتزم بالمدخلات الأساسية، واحرص على تفادي تقديم تفاصيل شخصية حسّاسّة.

* أستاذ مساعد للأمن السيبراني في جامعة ويست فرجينيا، مجلة «فاست كومباني»، خدمات «تريبيون ميديا».

* تعديل إعدادات الخصوصية: احرص على تعديل إعدادات الخصوصية الموجودة في مواقع التواصل الاجتماعي وغيرها من المنصات من أجل تقييد قدر البيانات التي تكون مرئية أو معلنة.

* استخدام أدوات للمحافظة على الخصوصية: تركز الوسائل التكنولوجية الناشئة على إنشاء أنظمة آمنة تمنح خصوصية المستخدمين الأولوية. اسع وراء الأدوات التي تتماشى مع تلك المبادئ.

بناء مستقبل ذكاء اصطناعي آمن

بوصفي متخصصاً في الأمن السيبراني أؤكد أن هناك حاجة ملّحة إلى أنظمة قوية تحافظ على الخصوصية. كما أن البحث في هذا المجال ضروري وحيوي لتطوير وسائل تكنولوجية تحقق التوازن بين الابتكار وحماية الحقوق الشخصية.

لا يكمن التحدي في تصميم أنظمة آمنة فقط، لكن أيضاً في تعزيز ودعم الشفافية والمساءلة بين الشركات التي تطور تكنولوجيا الذكاء الاصطناعي. كما أن ضمان أخلاقية ممارسات جمع البيانات واحترامها لخصوصية المستخدمين سيكون ضرورياً للحفاظ على ثقة الناس في الذكاء الاصطناعي.

وأخيراً، فإن الذكاء الاصطناعي يتمتع بإمكانية تحويل حياة البشر إلى الأفضل من خلال تحسين الفعالية والكفاءة والراحة واليسر وإضفاء الطابع الشخصي. مع ذلك يتطلب جمع واستخدام البيانات الشخصية على نطاق واسع من جانب أدوات الذكاء الاصطناعي اليقظة والحذر. ويمكن للأفراد اتخاذ قرارات واعية بدرجة أكبر بشأن ما يستخدمونه من وسائل تكنولوجية من خلال فهم كيفية عمل تلك الأنظمة واتخاذ خطوات لحماية الخصوصية.

يكمن مستقبل الذكاء الاصطناعي في تحقيق توازن بين تسخير واستغلال قدراته واحترام الحق الأساسي في الخصوصية. ومن الممكن تشكيل أنظمة ذكاء اصطناعي قوية وأخلاقية وآمنة في الوقت ذاته من خلال الجهود الفعالة والابتكار المتواصل.

* أستاذ مساعد للأمن السيبراني في جامعة ويست فرجينيا، مجلة «فاست كومباني»، خدمات «تريبيون ميديا».


مقالات ذات صلة

«ماستركارد» لـ«الشرق الأوسط»: المرونة السيبرانية تعزز جاهزية القطاع المالي السعودي

خاص المرونة السيبرانية تعزِّز جاهزية المؤسسات المالية السعودية أمام التهديدات الرقمية (رويترز)

«ماستركارد» لـ«الشرق الأوسط»: المرونة السيبرانية تعزز جاهزية القطاع المالي السعودي

تتقدَّم المرونة السيبرانية في السعودية من رصد التهديدات، إلى سرعة الاستجابة واتخاذ القرار داخل المؤسسات المالية.

نسيم رمضان (لندن)
تكنولوجيا بعض نماذج اللغة الحديثة بدت بشرية بدرجة جعلت المشاركين يختارونها أحياناً على أنها الطرف الإنسان

دراسة تختبر قدرة الذكاء الاصطناعي على تقليد البشر في المحادثة

تظهر دراسة جديدة أن بعض نماذج الذكاء الاصطناعي باتت قادرة على محاكاة المحادثة البشرية وإرباك المشاركين في اختبار «تورينغ».

نسيم رمضان (لندن)
تكنولوجيا «AI Overviews» ميزة الملخصات المدعومة بالذكاء الاصطناعي تشجع على زيارة عدد أكبر من المواقع الإلكترونية (غوغل)

حيلة بسيطة لإخفاء ملخصات الذكاء الاصطناعي من بحث «غوغل»

حيلة غير رسمية قد تقلل ظهور ملخصات الذكاء الاصطناعي في «غوغل»، لكنها لا تعطّل الميزة نهائياً.

نسيم رمضان (لندن)
تكنولوجيا أهمية التقنية تبرز في عمليات البحث والإنقاذ وتفتيش المنشآت الصناعية والمناطق التي يصعب على البشر دخولها (شاترستوك)

تقنية تساعد الطائرات المسيّرة على تفادي العوائق في البيئات الخطرة

التقنية الجديدة تسمح للطائرات المسيّرة باختيار مسارات أسرع وأكثر أماناً لتفادي العوائق داخل البيئات الخطرة والمعقدة.

نسيم رمضان (لندن)
تكنولوجيا منصة الشحن العملاقة

سماعات أذن لاسلكية فائقة النقاء... ومنصة شحن عملاقة

تعد شركة «كامب فاير أوديو - Campfire Audio»، ومقرها بورتلاند بولاية أوريغون، من الشركات التي يجدر التعرف عليها في مجال التقنيات الصوتية؛ لدقة منتجاتها

غريغ إيلمان (واشنطن)

«ماستركارد» لـ«الشرق الأوسط»: المرونة السيبرانية تعزز جاهزية القطاع المالي السعودي

المرونة السيبرانية تعزِّز جاهزية المؤسسات المالية السعودية أمام التهديدات الرقمية (رويترز)
المرونة السيبرانية تعزِّز جاهزية المؤسسات المالية السعودية أمام التهديدات الرقمية (رويترز)
TT

«ماستركارد» لـ«الشرق الأوسط»: المرونة السيبرانية تعزز جاهزية القطاع المالي السعودي

المرونة السيبرانية تعزِّز جاهزية المؤسسات المالية السعودية أمام التهديدات الرقمية (رويترز)
المرونة السيبرانية تعزِّز جاهزية المؤسسات المالية السعودية أمام التهديدات الرقمية (رويترز)

مع تسارع التحوُّل الرقمي في السعودية، لم يعد الأمن السيبراني مرتبطاً فقط بحماية الأنظمة من الاختراقات، بل أصبح جزءاً من قدرة المؤسسات على الاستمرار، واتخاذ القرار، والتعامل مع المخاطر قبل تحوُّلها إلى أزمات تشغيلية. هذا التحوُّل يبدو واضحاً في القطاع المالي، حيث تتداخل الخدمات الرقمية والمدفوعات والبيانات والأطراف الثالثة، ضمن منظومة تتطلَّب مراقبةً مستمرةً واستجابةً أسرع.

بعد عام على إطلاق «مركز المرونة السيبرانية»، التابع لـ«ماستركارد» في السعودية، يرى آدم جونز، نائب الرئيس التنفيذي ورئيس قسم غرب الجزيرة العربية في «ماستركارد»، أنَّ القطاع شهد تغيُّراً واضحاً في طريقة النظر إلى المخاطر الرقمية. ويقول: «القطاع الرقمي في السعودية يشهد نمواً متسارعاً»، وهو ما تَرافَقَ مع ارتفاع مستوى التهديدات السيبرانية، وزيادة اهتمام المؤسسات بعمليات الرصد والمراقبة، خصوصاً فيما يتعلق بالتعامل مع الشركاء التقنيِّين والجهات الخارجية.

هذا التغيُّر لا يرتبط فقط بزيادة عدد الهجمات، بل بطبيعة البيئة الرقمية نفسها. فالأنظمة أصبحت أكثر ترابطاً، والخدمات تعتمد على تبادل البيانات بين أطراف عدة، ما يجعل فهم التهديدات وتحليلها جزءاً أساسياً من حماية الأعمال.

آدم جونز نائب الرئيس التنفيذي ورئيس قسم غرب الجزيرة العربية في «ماستركارد»

بيانات التهديدات

في البيئة السيبرانية الجديدة، لا تكفي معرفة أنَّ هناك تهديداً محتملاً، فالأهم هو فهم مصدره وطريقته وأهدافه والقطاعات الأكثر عرضة له. لذلك تزداد أهمية بيانات التهديدات السيبرانية، التي تمنح المؤسسات قدرةً على الانتقال من رد الفعل إلى الاستعداد المسبق.

يوضح جونز أنَّ هذه البيانات تساعد المؤسسات على فهم أساليب الهجمات والجهات التي قد تقف خلفها، إلى جانب الأهداف المحتملة منها. ويقول إن هذا يمنح المؤسسات «قدرة أكبر على تقييم المخاطر والاستعداد لها مبكراً».

في هذا السياق، عزَّزت «ماستركارد» قدراتها بعد الاستحواذ على شركة «ريكوردد فيوتشر» في ديسمبر (كانون الأول) 2024، وهي خطوة تهدف إلى تطوير حلول بيانات التهديدات السيبرانية، والتحليلات المدعومة بالذكاء الاصطناعي، ومنع الاحتيال، وإدارة الهوية، والمرونة التشغيلية.

تظهر أهمية هذه القدرات في أكثر من مستوى. فعلى المستوى التنفيذي، تساعد الإدارات العليا على استشراف المخاطر المستقبلية وفهم أثرها المحتمل على الأعمال. وتقنياً، تساعد فرق الأمن على رصد تسريب بيانات الدخول، والنشاطات المشبوهة على الإنترنت، ومخاطر الأطراف الثالثة، وتحديد أولويات الاستجابة.

استباق الهجمات

لا تقف قيمة بيانات التهديدات عند التحليل النظري. وفقاً لجونز، أظهرت بعض السيناريوهات المبنية على بيانات تهديدات حقيقية قدرة المؤسسات على رصد مؤشرات مبكرة، مثل إساءة استخدام الهويات الرقمية أو محاولات الدخول غير المعتادة عبر أنظمة مرتبطة بجهات خارجية.

في الحالات التي جرى التعامل معها بسرعة، أمكن احتواء الهجمات قبل وصولها إلى الأنظمة الحساسة. كما ساعدت بيانات التهديدات المقدمة عبر «ريكوردد فيوتشر» على الكشف المبكر عن حملات تصيد إلكتروني استهدفت مؤسسات مختلفة، من خلال رصد مواقع مزيفة ونشاطات مشبوهة قبل توسُّع نطاق الهجمات.

هذا النوع من الرصد يتيح إجراءات عملية، مثل إغلاق النطاقات المشبوهة، وتحذير العملاء، وتحديث أدوات المراقبة. وهنا تصبح البيانات السيبرانية أداةً تشغيليةً، لا مجرد تقرير يُقرَأ بعد وقوع الحادث.

كما تلعب تدريبات محاكاة الأزمات السيبرانية دوراً في اختبار قدرة المؤسسات على اتخاذ القرار تحت الضغط؛ فالهدف ليس فقط معرفة ما إذا كانت الأنظمة التقنية قادرة على كشف الخطر، بل معرفة ما إذا كانت الفرق المختلفة داخل المؤسسة قادرة على التحرُّك بسرعة وبطريقة منسقة.

بيانات التهديدات تساعد المؤسسات على الاستجابة قبل توسُّع الهجمات (رويترز)

فجوة القرار

تظهر إحدى أهم النقاط في حديث جونز عند التمييز بين الجانب التقني والجانب المؤسسي في إدارة الحوادث. فالتحديات الكبرى لا تكون دائماً في اكتشاف الهجوم، بل في اتخاذ القرار المناسب بعد اكتشافه.

يصرِّح جونز بأنَّ التحديات تظهر غالباً «في جانب اتخاذ القرار، والتنسيق بين الجهات المختلفة أكثر من الجوانب التقنية نفسها». ففي تدريبات محاكاة الأزمات داخل المملكة، برزت قدرة الفرق التقنية على رصد المؤشرات المبكرة، لكن التحدي الأوسع كان في سرعة تنسيق الجهات المعنية لاتخاذ قرارات تتعلق بالاحتواء، والتواصل، والإجراءات التنظيمية، وتأثير الحادث على الأعمال.

هذا يفسِّر لماذا أصبحت المرونة السيبرانية مفهوماً يتجاوز أدوات الحماية. فالمؤسسة قد تمتلك أنظمةً متقدمةً للرصد، لكنها تحتاج أيضاً إلى حوكمة واضحة، وصلاحيات محددة، ومسارات تصعيد معروفة، وتنسيق مبكر بين فرق الأمن السيبراني وتقنية المعلومات وإدارة المخاطر والشؤون القانونية والامتثال والإدارة التنفيذية.

سرعة الاحتواء

من أبرز التحسينات التي شهدها العام الماضي، بحسب جونز، تسريع الانتقال من مرحلة اكتشاف التهديد إلى اتخاذ القرار. ويصف هذه النقطة بأنها «حاسمة خلال الهجمات السيبرانية»؛ لأنَّ أي تأخير يمنح المهاجمين وقتاً إضافياً للتحرُّك داخل الأنظمة، والوصول إلى بيانات أو صلاحيات أوسع.

وقد لوحظ تحسُّن في سرعة التنسيق بين الفرق التقنية والإدارية، إلى جانب إشراك فرق الشؤون القانونية والامتثال في مراحل مبكرة عند الحاجة. هذا التطوُّر يسهم في تقليل فترة التعرُّض للمخاطر، وتحسين عمليات الاحتواء، ومنع تحوُّل الحوادث المحدودة إلى أزمات واسعة.

في القطاع المالي، يكتسب هذا الأمر أهميةً إضافيةً؛ بسبب حساسية البيانات، وتعدُّد الأطراف المتصلة بالمنظومة، وارتباط الخدمات الرقمية بثقة المستخدمين واستمرارية العمليات. لذلك لا يمكن التعامل مع الاستجابة للحوادث بوصفها مسؤولية فريق واحد، بل بوصفها اختباراً لقدرة المؤسسة كلها على العمل تحت الضغط.

الأطراف الثالثة

مع توسُّع الخدمات الرقمية، أصبحت مخاطر الأطراف الثالثة جزءاً رئيسياً من المشهد السيبراني. فالمؤسسات لا تعمل داخل حدودها التقنية فقط، بل تعتمد على مزوِّدين وشركاء وخدمات خارجية ومنصات متصلة. وكل نقطة اتصال يمكن أن تتحوَّل إلى مصدر خطر إذا لم تُراقب جيداً.

يركز «مركز المرونة السيبرانية»، التابع لـ«ماستركارد» على تقليص الفجوة بين معرفة التهديد واتخاذ الإجراء المناسب حياله. ولا يقتصر دوره، كما يوضِّح جونز، على إصدار التقارير، بل يشمل تحليلات مستقبلية للتهديدات، وبرامج توعية وتدريبات لمحاكاة الأزمات وتقييمات للمخاطر ومراقبة للأطراف الثالثة.

هذا التكامل بين التحليل والتدريب والتقييم يعكس طبيعة الأمن السيبراني الحديثة؛ فالمخاطر لا تُدار فقط داخل مركز العمليات الأمنية، بل عبر منظومة أوسع تشمل الإدارات التنفيذية والمخاطر والقانون والامتثال والفرق التشغيلية.

التعاون بين الجهات التنظيمية والمؤسسات يحسِّن المرونة السيبرانية العملية

تعاون منظم

يعد جونز أنَّ التعاون بين القطاعَين العام والخاص في السعودية متقدم نسبياً مقارنة بعدد من الأسواق الإقليمية، خصوصاً في القطاع المالي، حيث توجد أطر تنظيمية واضحة ومتطلبات محددة تتعلق بالمرونة السيبرانية.

لكن التحدي الحالي لا يرتبط فقط بوجود الأطر، بل بتحويلها إلى ممارسة عملية. ويشير إلى أهمية تسريع تبادل المعلومات المهمة، وتحويل بيانات التهديدات السيبرانية إلى إجراءات فعلية، وتحسين التنسيق بين الجهات التنظيمية والمؤسسات ومقدمي الخدمات والأطراف الثالثة.

فيما يتعلق بالإبلاغ عن الحوادث، يؤكد جونز أنَّ البنوك في السعودية تلتزم بالأطر والتعليمات التنظيمية المعتمدة، بما يشمل الإبلاغ الفوري عن بعض الحوادث الحساسة. كما أظهرت تدريبات المحاكاة وعياً واضحاً لدى المؤسسات بأهمية إشراك الفرق القانونية والامتثال عند الحاجة.

لكن التحدي الأكبر يبقى في سرعة تقييم المعلومات، والتحقُّق منها داخلياً، ورفعها إلى الجهات المعنية في الوقت المناسب. فالاستجابة لا تعتمد فقط على الإبلاغ، بل على دقة المعلومة، وسرعة تداولها بين الجهات ذات الصلة.

الهجمات... والذكاء الاصطناعي

يتغيَّر مشهد التهديدات مع دخول الذكاء الاصطناعي بصورة أوسع في الهجمات. ويفيد جونز بأنَّ استخدام الذكاء الاصطناعي من جانب المهاجمين يشهد تطوراً سريعاً، خصوصاً في التصيد الإلكتروني، والهندسة الاجتماعية، وإنتاج المحتوى المزيف.

وقد أصبحت الهجمات أكثر إقناعاً وانتشاراً مع الاعتماد على تقنيات مثل استنساخ الأصوات، والتزييف العميق، والاحتيال المدعوم بالذكاء الاصطناعي. كما تشير أبحاث «ريكوردد فيوتشر» إلى تصاعد استخدام برمجيات سرقة المعلومات، واختراق الهويات الرقمية، وظهور مؤشرات على استخدام الذكاء الاصطناعي في بعض البرمجيات الخبيثة بعد تنفيذ الاختراقات.

هذا التحوُّل يضع المؤسسات أمام تحديين متوازيين، الأول أنَّ الهجمات أصبحت أسرع وأكثر تخصيصاً. والثاني أنَّ الدفاع نفسه يحتاج إلى استخدام أدوات أكثر تقدماً في التحليل والأتمتة وتسريع الاستجابة.

ويقول جونز إن المؤسسات الدفاعية تعتمد أيضاً على تقنيات الذكاء الاصطناعي لتحسين التحليلات والأتمتة، ما يجعل الاستعداد المبكر والتكيُّف المستمر جزءاً من إدارة المخاطر.

مرونة مستمرة

رغم تطوُّر قدرات الرصد والتحليل، فإنَّ جونز لا يقدِّم صورةً مبسطةً عن إمكانية منع جميع الهجمات. فالمهاجم يحتاج إلى استغلال ثغرة واحدة، بينما يتطلب الدفاع الناجح جاهزيةً مستمرةً على مستوى الأفراد والأنظمة والإجراءات.

وقد شهدت السنوات الأخيرة، وفقاً له، تطوراً واضحاً في فهم التهديدات السيبرانية، بفضل تحسُّن قدرات الرصد، وبيانات التهديدات، وارتفاع مستوى الوعي داخل المؤسسات. كما تحسَّنت القدرة على الحدِّ من تأثير الهجمات وتقليل أضرارها، وإن كانت الوقاية الكاملة من كل الهجمات غير واقعية.

لذلك، تواصل المؤسسات المالية في السعودية الاستثمار في قدرات الحماية والكشف والاستجابة والتعافي. وفي هذا الإطار، لا تبدو المرونة السيبرانية مجرد هدف تقني، بل اصبحت شرطاً لاستمرارية منظومة رقمية تتوسَّع بسرعة، وتزداد ترابطاً، وتواجه تهديدات أكثر تعقيداً.


دراسة تختبر قدرة الذكاء الاصطناعي على تقليد البشر في المحادثة

بعض نماذج اللغة الحديثة بدت بشرية بدرجة جعلت المشاركين يختارونها أحياناً على أنها الطرف الإنسان
بعض نماذج اللغة الحديثة بدت بشرية بدرجة جعلت المشاركين يختارونها أحياناً على أنها الطرف الإنسان
TT

دراسة تختبر قدرة الذكاء الاصطناعي على تقليد البشر في المحادثة

بعض نماذج اللغة الحديثة بدت بشرية بدرجة جعلت المشاركين يختارونها أحياناً على أنها الطرف الإنسان
بعض نماذج اللغة الحديثة بدت بشرية بدرجة جعلت المشاركين يختارونها أحياناً على أنها الطرف الإنسان

لم يعد اختبار آلان تورينغ عام 1950 سؤالاً نظرياً من تاريخ علوم الحاسوب. تعيد دراسة جديدة منشورة في دورية «Proceedings of the National Academy of Sciences» اختبار الفكرة في سياق نماذج اللغة الكبيرة، وخلُصت إلى أن بعض هذه النماذج يمكن أن تبدو بشرية إلى درجة تجعل المشاركين يختارونها أحياناً على أنها الإنسان الحقيقي في المحادثة.

الفكرة الأصلية للاختبار تعود إلى آلان تورينغ: هل تستطيع آلة أن تقلد المحادثة البشرية بطريقة تجعل الشخص الذي يحاورها غير قادر على التمييز بينها وبين إنسان؟ الجديد هنا أن الباحثين لم يكتفوا بسؤال عام عن قدرة الذكاء الاصطناعي على الإجابة، بل اختبروا قدرته على الظهور على أنه بشر في محادثات قصيرة ومباشرة.

محادثة ثلاثية

اعتمدت الدراسة على نسخة ثلاثية من اختبار «تورينغ»، حيث كان المشارك يتحدث في كل تجربة وفي الوقت نفسه مع طرفين عبر واجهة نصية. أحدهما إنسان والآخر نموذج ذكاء اصطناعي. وبعد خمس دقائق من المحادثة، كان عليه أن يقرر أي الطرفين هو الإنسان. وفي تجربة تكرار منفصلة، امتدت بعض المحادثات إلى 15 دقيقة.

شارك في التجارب ما يقارب 500 شخص من مجموعتين مستقلتين. طلاب من جامعة كاليفورنيا في سان دييغو ومشاركون عبر منصة «بروليفيك» (Prolific) المخصصة للأبحاث المدفوعة. هذا التصميم كان مهماً لأنه حاول اختبار النتيجة عبر أكثر من عينة، لا داخل مجموعة واحدة فقط.

نماذج أكثر إقناعاً

اختبر الباحثون أربعة أنظمة منها «GPT - 4.5» و«LLaMa - 3.1 - 405B» على أنها نماذج حديثة، إلى جانب «GPT - 4o» و«ELIZA» كونها خطوط مقارنة أقدم. وكانت النتيجة الأبرز أن «GPT - 4.5» اختير على أنه الإنسان في 73 في المائة من الحالات عندما أُعطي تعليمات لتبني شخصية بشرية معينة. أما «LLaMa - 3.1 - 405B» فاختير على أنه الإنسان في 56 في المائة من الحالات، وهي نسبة عَدّها الباحثون غير قابلة للتمييز إحصائياً عن البشر الذين قورن بهم النموذج.

في المقابل، كانت نتائج الأنظمة الأقدم أضعف بكثير. فقد اختير «ELIZA» على أنه الإنسان في نحو 23 في المائة من الحالات، بينما بلغت النسبة لـ«GPT - 4» نحو 21 في المائة. وهذا يعني أن النجاح لم يكن عاماً لكل الأنظمة، بل ارتبط بنماذج محددة وبطريقة إعدادها للمحادثة.

نجاح النماذج ارتبط بتوجيهها لتبني شخصية بشرية لا بمجرد قدرتها العامة على الإجابة عن الأسئلة (أ.ف.ب)

قوة الشخصية المصطنعة

النقطة الحاسمة في الدراسة أن النماذج لم تنجح فقط لأنها تعرف معلومات كثيرة. النجاح جاء عندما طُلب منها تبني «شخصية» بشرية محددة، بأسلوب في الحديث ونبرة وتفاصيل اجتماعية تجعلها أقل مثالية وأكثر شبهاً بالبشر.

عندما أُزيلت هذه التعليمات التفصيلية، تراجعت قدرة النماذج على الظهور كبشر بوضوح. فقد انخفضت نسبة اختيار «GPT - 4.5» إلى 36 في المائة، و«LLaMa - 3.1» إلى 38 في المائة. وهذا يشير إلى أن القدرة موجودة، لكنها تحتاج غالباً إلى توجيه واضح حول كيفية التصرف كبشر، لا مجرد القدرة العامة على الإجابة.

بكلمات أخرى، ما جعل النموذج مقنعاً لم يكن التفوق في المنطق أو الرياضيات، بل محاكاة السلوك الاجتماعي على أنه نبرة طبيعية وقدر من الدعابة وإجابات غير كاملة أحياناً وتردد أو بساطة تشبه ما يحدث في محادثة بشرية عادية.

ماذا يقيس الاختبار؟

تطرح الدراسة سؤالاً مهماً حول معنى اختبار «تورينغ» اليوم. فقد كان يُنظر إليه تاريخياً كونه اختباراً لقدرة الآلة على مضاهاة الذكاء البشري. لكن مع نماذج تستطيع الإجابة بسرعة عن عدد كبير من الأسئلة، يصبح الاختبار أقرب إلى قياس «الشبه البشري» في المحادثة، لا الذكاء بالمعنى العميق أو الفهم الحقيقي.

هذا الفرق مهم لأن نجاح النموذج في إقناع شخص بأنه إنسان لا يعني بالضرورة أنه يفهم العالم كما يفهمه الإنسان، أو يمتلك وعياً أو نية. لكنه يعني أن قدرته على تقليد أنماط التفاعل البشري أصبحت قوية بما يكفي لإرباك المستخدمين في محادثة قصيرة.

الدراسة تفتح أسئلة مهمة حول الثقة والشفافية خصوصاً عندما لا يعرف المستخدم إن كان يتحدث مع إنسان أم نظام آلي

مخاطر الثقة والخداع

أهمية النتيجة لا تقف عند حدود المختبر. فإذا كان المستخدم العادي لا يستطيع دائماً التمييز بين الإنسان والنموذج، فإن ذلك يفتح أسئلة مباشرة حول الثقة على الإنترنت. فقد تُستخدم هذه القدرة في خدمة مفيدة، مثل دعم العملاء أو التعليم أو المساعدة الشخصية. لكنها قد تُستخدم أيضاً في الاحتيال، أو التلاعب، أو حملات الإقناع السياسي والتجاري، خصوصاً إذا لم يكن الطرف الآخر يعرف أنه يتحدث مع نظام آلي.

يشير الباحثون إلى أن نماذج اللغة الكبيرة يمكن دفعها بسهولة نسبية إلى الظهور على أنها بشر عندما تُعطى التعليمات المناسبة. وهذا يجعل الشفافية أكثر أهمية، خصوصاً في المنصات التي يتفاعل فيها المستخدمون مع حسابات لا يعرفون هويتها الحقيقية.

ما الذي لا تقوله الدراسة؟

لا تقول الدراسة إن الذكاء الاصطناعي أصبح مثل الإنسان، ولا أنها تثبت وجود وعي أو فهم داخلي لدى النماذج، بل إن بعض النماذج الحديثة، في ظروف اختبار محددة، استطاعت تقليد المحادثة البشرية بما يكفي لأن يخطئ المشاركون في تحديد الطرف البشري. لذلك، القيمة الحقيقية للبحث ليست في إعلان انتصار الآلة على الإنسان، بل في توضيح أن الحدود بين المحادثة البشرية والمحادثة الاصطناعية أصبحت أقل وضوحاً. وهذا يجعل الحاجة أكبر إلى قواعد إفصاح أوضح، وأدوات تحقق أفضل، ووعي عام بأن الطرف المقابل في المحادثة الرقمية قد لا يكون دائماً إنساناً.


حيلة بسيطة لإخفاء ملخصات الذكاء الاصطناعي من بحث «غوغل»

«AI Overviews» ميزة الملخصات المدعومة بالذكاء الاصطناعي تشجع على زيارة عدد أكبر من المواقع الإلكترونية (غوغل)
«AI Overviews» ميزة الملخصات المدعومة بالذكاء الاصطناعي تشجع على زيارة عدد أكبر من المواقع الإلكترونية (غوغل)
TT

حيلة بسيطة لإخفاء ملخصات الذكاء الاصطناعي من بحث «غوغل»

«AI Overviews» ميزة الملخصات المدعومة بالذكاء الاصطناعي تشجع على زيارة عدد أكبر من المواقع الإلكترونية (غوغل)
«AI Overviews» ميزة الملخصات المدعومة بالذكاء الاصطناعي تشجع على زيارة عدد أكبر من المواقع الإلكترونية (غوغل)

لم تعد صفحة البحث في «غوغل» تشبه تماماً ما اعتاده المستخدمون لسنوات طويلة. فبدلاً من عرض روابط تقليدية فقط، بدأت الشركة تدفع بميزة «AI Overviews» إلى واجهة النتائج، حيث تظهر ملخصات مولدة بالذكاء الاصطناعي في أعلى الصفحة في بعض عمليات البحث.

تقدم «غوغل» هذه الميزة بوصفها طريقة أسرع للحصول على خلاصة أولية عن الموضوع، مع روابط تساعد المستخدم على التوسع في القراءة. وتقول الشركة إن «AI Overviews» توفر لمحة عن المعلومات الأساسية حول سؤال أو موضوع معين، مع روابط لاستكشاف المزيد على الويب.

لكن هذه التجربة لا تناسب جميع المستخدمين. فهناك من يفضّل الوصول مباشرة إلى الروابط الأصلية، وقراءة المصادر بنفسه، بدلاً من البدء بملخص آلي قد يختصر السياق أو يضع إجابة جاهزة قبل النتائج التقليدية.

حيلة «-ai»

حسب تقرير نشرته مواقع تقنية، يمكن لبعض المستخدمين تقليل ظهور ملخصات الذكاء الاصطناعي في نتائج البحث عبر إضافة معامل بحث بسيط إلى نهاية الاستعلام، وهو: «-ai».

الفكرة تقوم على استخدام إحدى أدوات البحث القديمة في «غوغل»، المعروفة باسم معاملات البحث أو «Search Operators» التي تسمح بتضييق نطاق النتائج أو استبعاد كلمات معينة.

مثلاً، بدلاً من البحث عن: «iPhone 18 release date» يمكن كتابة: «iPhone 18 release date -ai».

هنا يتعامل محرك البحث مع «-ai» بوصفه أمراً لاستبعاد النتائج المرتبطة بكلمة «ai». ووفق التقرير، قد يؤدي ذلك في بعض الحالات إلى ظهور صفحة أقرب إلى نتائج البحث التقليدية، من دون ملخص الذكاء الاصطناعي في الأعلى.

إضافة «-ai» إلى كلمات البحث قد تقلل ظهور ملخصات الذكاء الاصطناعي في بعض الحالات (غوغل)

ليست إعداداً دائماً

الأهم أن هذه الطريقة ليست إعداداً رسمياً لإيقاف «AI Overviews» بالكامل، وليست حلاً دائماً داخل حساب المستخدم. هي مجرد تعديل يدوي تجب إضافته في كل عملية بحث يريد فيها المستخدم تجنب ظهور الملخصات الآلية.

كما أنها ليست مضمونة في كل الحالات. فنتائج البحث تتغير حسب البلد واللغة ونوع السؤال وسياسات «غوغل» في عرض ميزات الذكاء الاصطناعي. لذلك من الأدق وصفها بأنها حيلة مؤقتة أو طريقة التفاف بسيطة، لا خيار رسمياً لإلغاء الميزة.

هذا التفصيل مهم، لأن بعض المستخدمين قد يظنون أن إضافة «-ai» تعني تعطيل الذكاء الاصطناعي داخل البحث كلياً. عملياً، هي فقط طريقة لاستبعاد كلمة معينة من الاستعلام، وقد يكون أثرها الجانبي أن ملخصات الذكاء الاصطناعي لا تظهر في بعض النتائج.

لماذا يريد البعض إخفاءها؟

الاعتراض على ملخصات الذكاء الاصطناعي لا يعني بالضرورة رفض التقنية نفسها. بالنسبة إلى كثير من المستخدمين، المشكلة في ترتيب التجربة. فالبحث التقليدي كان يمنحهم قائمة مصادر، ويختارون منها ما يريدون قراءته. أما الملخصات الآلية فتضع تفسيراً جاهزاً قبل الروابط، ما قد يدفع المستخدم إلى الاكتفاء بالخلاصة بدلاً من زيارة المواقع.

هذا يثير أسئلة أوسع حول طريقة الوصول إلى المعرفة على الإنترنت. هل يريد المستخدم إجابة سريعة، أم يريد مصادر متعددة؟ وهل يجب أن يكون الذكاء الاصطناعي في مقدمة البحث دائماً، أم خياراً يمكن تشغيله عند الحاجة؟

تقول «غوغل» إن «AI Overviews» صُمّمت لمساعدة المستخدمين على فهم جوهر الموضوعات المعقدة بسرعة، وإنها توفر نقطة انطلاق لاستكشاف الروابط الأخرى. كما تشير في وثائقها إلى أن الميزة تظهر في الاستعلامات التي ترى أنها تضيف قيمة تتجاوز ما تقدمه نتائج البحث العادية.

يظهر شعار «غوغل» خلال مؤتمر المطورين السنوي «غوغل آي/أو» في «أمهيثياتر» الواقع على الشاطئ في ماونتن فيو بكاليفورنيا (أ.ف.ب)

عودة إلى البحث القديم

الحيلة تعكس رغبة بعض المستخدمين في استعادة تجربة بحث أبسط. ليس بالضرورة لأنهم يرفضون الذكاء الاصطناعي، وإنما لأنهم يريدون التحكم في لحظة ظهوره. ففي بعض الأسئلة قد يكون الملخص السريع مفيداً. وفي حالات أخرى، خصوصاً عند البحث عن أخبار ومراجعات ومعلومات حساسة أو مصادر أصلية، قد يفضّل المستخدم رؤية الروابط مباشرة.

معاملات البحث ليست جديدة في «غوغل»، وقد استخدمت لسنوات لتحديد عبارات معينة بعلامات الاقتباس، أو استبعاد كلمات بعلامة الطرح، أو البحث داخل موقع محدد. الجديد هنا أن هذه الأدوات القديمة أصبحت تُستخدم لمقاومة طبقة جديدة من البحث تعتمد على الذكاء الاصطناعي.

سؤال أكبر حول التحكم

ظهور هذه الحيلة يسلط الضوء على نقطة أوسع في علاقة المستخدمين بمحركات البحث. مع إدخال الذكاء الاصطناعي في الواجهة الأساسية، يصبح السؤال أقل ارتباطاً بقدرة التقنية وأكثر ارتباطاً بحق المستخدم في اختيار شكل التجربة.

فإذا كانت «غوغل» ترى أن الملخصات الآلية تجعل البحث أسرع وأسهل، فإن بعض المستخدمين يرون أن السرعة لا تكفي دائماً. أحياناً يحتاجون إلى السياق والمصدر والمقارنة بين وجهات نظر مختلفة. لذلك قد تستمر الحاجة إلى أدوات تمنح المستخدم قدرة أكبر على تحديد ما يريد رؤيته سواء إجابة مولدة بالذكاء الاصطناعي، أم نتائج ويب تقليدية، أم مزيجاً بين الاثنين.

Your Premium trial has endedYour Premium trial has endedYour Premium trial has ended