كيف تجمع أدوات الذكاء الاصطناعي بياناتك عبر الأجهزة؟

نصائح حول الحفاظ على الخصوصية بانتقاء المشاركات والرسائل

كيف تجمع أدوات الذكاء الاصطناعي بياناتك عبر الأجهزة؟
TT

كيف تجمع أدوات الذكاء الاصطناعي بياناتك عبر الأجهزة؟

كيف تجمع أدوات الذكاء الاصطناعي بياناتك عبر الأجهزة؟

كيف يجمع الذكاء الاصطناعي بياناتك، وكيف تكون حذراً؟ لقد اندمج الذكاء الاصطناعي بسلاسة في حياتنا اليومية، وأخذ يؤثر على كيفية تفاعلنا مع التكنولوجيا، وهو يراقب صحتنا، بل وحتى يؤدي مهام أساسية.

من شفرات الحلاقة وفرش الأسنان الكهربائية المزودة بالذكاء الاصطناعي إلى أدوات الذكاء الاصطناعي المستخدمة في التوليد والتنبؤ، أصبحت تلك الأنظمة لا غنى عنها. مع ذلك يثير الاستخدام واسع الانتشار للذكاء الاصطناعي أيضاً مخاوف بشأن خصوصية البيانات، حيث كثيراً ما تجمع تلك التكنولوجيا قدراً هائلاً من المعلومات الشخصية.

الذكاء الاصطناعي في الحياة اليومية

وجد الذكاء الاصطناعي طريقه إلى العديد من الأجهزة سواء كانت أساسية أو غير أساسية، ومن بينها أجهزة تتبع اللياقة البدنية والساعات الذكية التي تراقب الأنشطة الروتينية اليومية، أو مساعدات الذكاء الاصطناعي، مثل «تشات جي بي تي» و«مايكروسوفت كوبايلوت»، التي تجيب عن الاستفسارات وتساعد في إنشاء أي محتوى. وتعتمد تلك الأدوات على جمع البيانات للوصول إلى أفضل أداء وتزويد المستخدمين بتجارب ذات طابع شخصي. كذلك تستخدم أجهزة بسيطة مثل الفرش الكهربائية حالياً خوارزميات التعلم الآلي لتتبع أنماط الاستخدام وتقديم تغذية راجعة في الوقت الفعلي.

في الوقت الذي يقدّر فيه الكثيرون ما يقدمه الذكاء الاصطناعي من راحة ونفع، تثير عملية جمع البيانات التي تغذي هذه الأنظمة مخاوف كبيرة بشأن الخصوصية، إذ كثيراً ما يكون المستخدمون غير واعين تماماً بمدى وطبيعة البيانات التي يتم جمعها.

ويمكن لتلك البيانات الكشف عن العادات والأمور المفضلة، بل وحتى توقع السلوكيات المستقبلية، مما يمثل فرصاً ومخاطر في آن واحد.

كيف يجمع الذكاء الاصطناعي البيانات؟

أنظمة الذكاء الاصطناعي مصممة لجمع البيانات بطرق متنوعة بحسب وظيفتها. وتُعرف أدوات الذكاء الاصطناعي المستخدمة في التوليد والتنبؤ، بوجه خاص، بطرقها في جمع المعلومات.

* أدوات الذكاء الاصطناعي التوليدي. تعتمد أنظمة الذكاء الاصطناعي التوليدي، مثل «تشات جي بي تي» و«غوغل جيميناي»، في عملها على كميات كبيرة من البيانات. وعندما يتفاعل المستخدمون مع هذه الأدوات، يتم تسجيل أو تخزين أو تحليل كل مُدخل أو معطى، سواء كان سؤالاً أو أمرأً أو رداً، لتعزيز أداء نموذج الذكاء الاصطناعي.

وتنص سياسة الخصوصية لمؤسسة «أوبن إيه أي» المنتجة لـ «جي بي تي» صراحةً على احتمال استخدام المحتوى، الذي يقدمه المستخدمون، من أجل تحسين خدماتها وتدريب النماذج التي يعتمد عليها «تشات جي بي تي». وبينما يمكن للمستخدمين الانسحاب من الإسهام ببياناتهم في تدريب النموذج، تجمع مؤسسة «أوبن إيه آي» البيانات الشخصية وتحتفظ بها.

كذلك ورغم زعم الشركات استخدام هذه البيانات دون تحديد هوية أو تعريف، حيث تحذف كل ما يصلها بأفراد بعينهم، تظل هناك مخاطرة بإعادة الهوية إلى تلك البيانات. وقد يكشف ذلك عادات شخصية، أو أموراً مفضلة، أو معلومات حسّاسّة في حال إساءة استخدام البيانات أو انتهاكها.

* أدوات الذكاء الاصطناعي التنبؤي. إضافة إلى الذكاء الاصطناعي التوليدي، تضطلع أنظمة الذكاء الاصطناعي التنبؤي بدور كبير في جمع البيانات. وتعدّ مواقع التواصل الاجتماعي مثل الـ«فيسبوك» و«إنستغرام» و«تيك توك» من الأمثلة البارزة، حيث تجمع تلك المواقع باستمرار بيانات عن المستخدمين، وتلتقط وتسجل كل تفاعل سواء كان إعجاب بمنشور، أو تعليق على مقطع مصور، أو الوقت الذي يقضيه المستخدم في مشاهدة محتوى محدد. ويُستخدم كل فعل كنقطة بيانات داخل الصفحة الشخصية الرقمية للفرد.

لا تستخدم تلك الصفحات الشخصية في تنقيح أنظمة توصية الذكاء الاصطناعي، التي تقترح محتوى متوافقاً مع تفضيلات المستخدم فحسب، بل يتم بيعها إلى وسطاء البيانات، الذين يبيعون بدورهم هذه المعلومات إلى شركات تستخدمها لأغراض مثل الإعلانات الموجهة. ينشيء ذلك بيئة يتم تحويل فيها البيانات الشخصية إلى سلعة.

تبعات جمع البيانات

يمكن أن تتمتع البيانات، التي تجمعها أنظمة الذكاء الاصطناعي، بقوة هائلة، حيث تمكّن النماذج التنبؤية من تقديم توقعات دقيقة بشأن سلوك المستخدمين، ويستخدم الذكاء الاصطناعي التوليدي البيانات من أجل إنشاء محتوى جديد، مثل الاستجابات المعدّلة حسب الطلب أو الأعمال الإبداعية، في حين يستعين الذكاء الاصطناعي التنبؤي ببيانات تاريخية لتوقع أفعال مستقبلية مثل تحديد كيفية تحقيق شخص ما هدف من أهداف اللياقة البدنية، أو توقع ما يفضله من أفلام.

على الجانب الآخر، يؤدي الاعتماد المتزايد على البيانات إلى نقاط ضعف، حيث يمكن أن يتسبب جمع البيانات الشخصية في عملية توسعية في جمع المعلومات تطلّع فيها شركات أو أطراف غير مصرح لها على جوانب شخصية لحياة الأفراد. كذلك تزيد خطر انتهاك البيانات، حيث يمكن أن تتعرض معلومات حسّاسّة إلى الكشف أو الاستغلال.توصيات الحفاظ على خصوصية البيانات

في ظل استمرار تطور الذكاء الاصطناعي، من المهم بالنسبة إلى المستخدمين توخي الحذر بشأن خصوصية بياناتهم. فيما يلي بعض الإجراءات التي ينبغي النظر فيها:

* فهم سياسات الخصوصية: خذ الوقت الكافي لقراءة وفهم سياسات الخصوصية الخاصة بأدوات الذكاء الاصطناعي والمواقع. ربما تمكنك معرفة كيفية جمع وتخزين واستخدام بياناتك من اتخاذ قرارات واعية.

* خيارات الانسحاب: حاول الانسحاب من عملية المساهمة ببياناتك لأغراض مثل تدريب النماذج، حين يكون ذلك متاحاً. في الوقت الذي قد لا يمنع ذلك عملية جمع البيانات بشكل كامل، يمكنه أن يحدّ ويقيد كيفية استخدام بياناتك.

* الحد من مشاركة البيانات قدر الإمكان: كنّ انتقائياً فيما يتعلق بالمعلومات التي تشاركها مع أدوات الذكاء الاصطناعي. والتزم بالمدخلات الأساسية، واحرص على تفادي تقديم تفاصيل شخصية حسّاسّة.

* أستاذ مساعد للأمن السيبراني في جامعة ويست فرجينيا، مجلة «فاست كومباني»، خدمات «تريبيون ميديا».

* تعديل إعدادات الخصوصية: احرص على تعديل إعدادات الخصوصية الموجودة في مواقع التواصل الاجتماعي وغيرها من المنصات من أجل تقييد قدر البيانات التي تكون مرئية أو معلنة.

* استخدام أدوات للمحافظة على الخصوصية: تركز الوسائل التكنولوجية الناشئة على إنشاء أنظمة آمنة تمنح خصوصية المستخدمين الأولوية. اسع وراء الأدوات التي تتماشى مع تلك المبادئ.

بناء مستقبل ذكاء اصطناعي آمن

بوصفي متخصصاً في الأمن السيبراني أؤكد أن هناك حاجة ملّحة إلى أنظمة قوية تحافظ على الخصوصية. كما أن البحث في هذا المجال ضروري وحيوي لتطوير وسائل تكنولوجية تحقق التوازن بين الابتكار وحماية الحقوق الشخصية.

لا يكمن التحدي في تصميم أنظمة آمنة فقط، لكن أيضاً في تعزيز ودعم الشفافية والمساءلة بين الشركات التي تطور تكنولوجيا الذكاء الاصطناعي. كما أن ضمان أخلاقية ممارسات جمع البيانات واحترامها لخصوصية المستخدمين سيكون ضرورياً للحفاظ على ثقة الناس في الذكاء الاصطناعي.

وأخيراً، فإن الذكاء الاصطناعي يتمتع بإمكانية تحويل حياة البشر إلى الأفضل من خلال تحسين الفعالية والكفاءة والراحة واليسر وإضفاء الطابع الشخصي. مع ذلك يتطلب جمع واستخدام البيانات الشخصية على نطاق واسع من جانب أدوات الذكاء الاصطناعي اليقظة والحذر. ويمكن للأفراد اتخاذ قرارات واعية بدرجة أكبر بشأن ما يستخدمونه من وسائل تكنولوجية من خلال فهم كيفية عمل تلك الأنظمة واتخاذ خطوات لحماية الخصوصية.

يكمن مستقبل الذكاء الاصطناعي في تحقيق توازن بين تسخير واستغلال قدراته واحترام الحق الأساسي في الخصوصية. ومن الممكن تشكيل أنظمة ذكاء اصطناعي قوية وأخلاقية وآمنة في الوقت ذاته من خلال الجهود الفعالة والابتكار المتواصل.

* أستاذ مساعد للأمن السيبراني في جامعة ويست فرجينيا، مجلة «فاست كومباني»، خدمات «تريبيون ميديا».


مقالات ذات صلة

الأصدقاء يعززون قدرتك على أداء وظائفك

علوم الأصدقاء يعززون قدرتك على أداء وظائفك

الأصدقاء يعززون قدرتك على أداء وظائفك

بينما تمنحك قلة من الروابط الوثيقة الرعاية والحماية، يوفر لك المحيط الخارجي من الأصدقاء العابرين، الفرص والتحفيز؛ ومن المرجح أنك لا تقدّر مدى أهمية هؤلاء جميعاً

هارا أستروف مارانو ود (واشنطن) ماريسا فرانكو (واشنطن)
تكنولوجيا نماذج الذكاء الاصطناعي الحديثة تعاني من مشكلة «الصندوق الأسود» التي تجعل قراراتها غير مفهومة للبشر (شاترستوك)

نهج جديد يمكّن الذكاء الاصطناعي من شرح قراراته

باحثو «MIT» يطورون طريقة تمكّن الذكاء الاصطناعي من تفسير قراراته بدقة ووضوح، ما يعزز الشفافية والثقة دون التضحية بالأداء.

تكنولوجيا تفعيل الميزة اختياري ويمنح المستخدم تحكماً كاملاً في البيانات التي يتم استخدامها (أ.ف.ب)

«غوغل» تعيد تعريف البحث بالذكاء الاصطناعي المخصص

غوغل تطلق «الذكاء الشخصي» لربط بيانات المستخدم عبر خدماتها بهدف تقديم إجابات مخصصة مع الحفاظ على الخصوصية والتحكم الكامل للمستخدم.

نسيم رمضان (لندن)
تكنولوجيا يفتح الابتكار المجال لتطبيقات مستقبلية في التنقل والبيئات الواقعية المعقدة (شاترستوك)

روبوتات الدرّاجة تحقق توازناً ديناميكياً وتتجاوز العقبات

روبوت دراجة يحقق توازناً ديناميكياً ويتجاوز العقبات بسرعة مستفيداً من تصميم بسيط وتحكم متكيف يحاكي مهارات الإنسان في بيئات معقدة.

نسيم رمضان (لندن)
تكنولوجيا الذكاء الاصطناعي التوليدي انتقل من مرحلة التجارب إلى تحقيق عوائد مالية وتشغيلية ملموسة داخل الشركات (غيتي)

تقرير بالأرقام: الذكاء الاصطناعي يحقق عوائد ملموسة للشركات

الذكاء الاصطناعي يحقق عوائد ملموسة للشركات معززا الكفاءة والابتكار، لكن تحديات البيانات والتكلفة تعيق التوسع رغم زيادة الاستثمارات الكبيرة.

نسيم رمضان (لندن)

زوكربيرغ يعمل على تطوير وكيل ذكي لمساعدته في مهامه

صورة للرئيس التنفيذي لشركة «ميتا» مارك زوكربيرغ وشعار الشركة (أرشيفية - أ.ف.ب)
صورة للرئيس التنفيذي لشركة «ميتا» مارك زوكربيرغ وشعار الشركة (أرشيفية - أ.ف.ب)
TT

زوكربيرغ يعمل على تطوير وكيل ذكي لمساعدته في مهامه

صورة للرئيس التنفيذي لشركة «ميتا» مارك زوكربيرغ وشعار الشركة (أرشيفية - أ.ف.ب)
صورة للرئيس التنفيذي لشركة «ميتا» مارك زوكربيرغ وشعار الشركة (أرشيفية - أ.ف.ب)

نقلت صحيفة «وول ستريت جورنال» عن مصدر مطلع على المشروع قوله إن مارك زوكربيرغ الرئيس التنفيذي لشركة «ميتا» يعمل على تطوير مساعد مدعوم بالذكاء الاصطناعي لمساعدته في أداء مهامه.

وذكر التقرير أن المساعد المدعوم بالذكاء الاصطناعي سيساعد زوكربيرغ في الحصول على المعلومات بشكل أسرع من خلال استرجاع الإجابات التي كان يضطر عادة إلى المرور عبر عدة مستويات من الموظفين للحصول عليها.

ووفقاً للتقرير، لا يزال المساعد المدعوم بالذكاء الاصطناعي قيد التطوير. وأضاف التقرير أن أداة أخرى للذكاء الاصطناعي تسمى «سكند برين»، والتي يمكنها فهرسة المستندات والبحث فيها لأغراض تتعلق بالمشاريع، من بين أمور أخرى، تكتسب زخماً داخلياً أيضاً.

وأشار التقرير إلى أن موظفي «ميتا» بدأوا في استخدام أدوات الوكلاء الشخصيين مثل «ماي كلو» التي يمكنها الوصول إلى سجلات الدردشة وملفات العمل والتواصل مع الزملاء أو وكلائهم نيابة عنهم.

وتعمل شركة «ميتا» على تسريع جهودها لدمج الذكاء الاصطناعي في جميع إدارات الشركة، بما في ذلك من خلال استحواذها في ديسمبر (كانون الأول) على شركة مانوس الصينية الناشئة في مجال الذكاء الاصطناعي، والتي تدعي أن وكيلها الذكي يتفوق في الأداء على وكيل ديب ريسيرش التابع لشركة «أوبن إيه آي»، وفق ما أفادت وكالة «رويترز» للأنباء.


دراسة من ستانفورد: الذكاء الاصطناعي قد يعزز التفكير الوهمي

الدراسة حللت أكثر من 391 ألف رسالة عبر نحو 5 آلاف محادثة لاكتشاف أنماط تفاعل روبوتات الدردشة (شاترستوك)
الدراسة حللت أكثر من 391 ألف رسالة عبر نحو 5 آلاف محادثة لاكتشاف أنماط تفاعل روبوتات الدردشة (شاترستوك)
TT

دراسة من ستانفورد: الذكاء الاصطناعي قد يعزز التفكير الوهمي

الدراسة حللت أكثر من 391 ألف رسالة عبر نحو 5 آلاف محادثة لاكتشاف أنماط تفاعل روبوتات الدردشة (شاترستوك)
الدراسة حللت أكثر من 391 ألف رسالة عبر نحو 5 آلاف محادثة لاكتشاف أنماط تفاعل روبوتات الدردشة (شاترستوك)

مع ازدياد استخدام روبوتات الدردشة المعتمدة على الذكاء الاصطناعي في المحادثة وتقديم النصائح وحتى الدعم العاطفي، بدأت أبحاث جديدة تدرس تأثير هذه الأنظمة على المستخدمين مع مرور الوقت. وتكشف دراسة حديثة لباحثين مرتبطين بجامعة ستانفورد الأميركية عن خطر أقل وضوحاً، يتمثل في ميل هذه الأنظمة إلى تعزيز بعض المعتقدات بدلاً من تحديها.

تعتمد الدراسة على تحليل واسع لتفاعلات حقيقية، بهدف فهم كيفية استجابة نماذج اللغة في المحادثات الممتدة، وما الذي قد تعنيه هذه الاستجابات على إدراك المستخدم وصحته النفسية.

تحليل واسع النطاق

استندت الدراسة إلى تحليل أكثر من 391 ألف رسالة عبر نحو 5 آلاف محادثة مع روبوتات الدردشة. ويتيح هذا الحجم الكبير من البيانات رصد أنماط متكررة، بدلاً من الاكتفاء بحالات فردية. وضمن هذه البيانات، حدد الباحثون نسبة من المحادثات التي تضمنت مؤشرات على تفكير وهمي. ووفقاً للدراسة، فإن نحو 15.5في المائة من رسائل المستخدمين أظهرت هذه الخصائص، ما أتاح فرصة لفهم كيفية استجابة الأنظمة لهذه الحالات.

التحدي يكمن في تحقيق توازن بين دعم المستخدم وتعزيز التفكير النقدي دون ترسيخ معلومات مضللة (أدوبي)

أنماط تأكيد متكررة

أحد أبرز النتائج يتمثل في تكرار ميل روبوتات الدردشة إلى تأكيد ما يقوله المستخدم. فقد أظهرت البيانات أن الأنظمة غالباً ما تستجيب بطريقة داعمة أو متوافقة مع طرح المستخدم، بدلاً من التشكيك فيه. ورغم أن هذا الأسلوب قد يكون مفيداً في سياقات الدعم، فإنه يصبح إشكالياً عندما يتعلق الأمر بمعتقدات غير دقيقة أو وهمية، حيث قد يؤدي إلى تعزيز هذه الأفكار بدلاً من تصحيحها.

دوامات وهمية متصاعدة

يصف الباحثون هذه الظاهرة بمصطلح «الدوامات الوهمية»، حيث تؤدي التفاعلات المتكررة بين المستخدم والنظام إلى ترسيخ المعتقدات الخاطئة تدريجياً. ولا يحدث التأثير نتيجة استجابة واحدة، بل يتشكل مع مرور الوقت. فكلما استمر النظام في تأكيد وجهة نظر المستخدم، زادت قوة هذا الاعتقاد. وتتيح طبيعة المحادثة المستمرة لهذا النمط أن يتطور بشكل تدريجي دون انقطاع واضح.

تشير الدراسة إلى أن الذكاء الاصطناعي لا يخلق هذه المعتقدات من الصفر، بل يتفاعل مع أفكار موجودة مسبقاً لدى المستخدم.

وتزداد المخاطر في المحادثات الطويلة، حيث تتراكم أنماط التأكيد عبر الزمن. وفي هذه الحالة، يتحول النظام من مجرد أداة استجابة إلى عنصر مؤثر في توجيه مسار الحوار.

نحو 15.5 % من رسائل المستخدمين أظهرت مؤشرات على تفكير وهمي أو معتقدات غير دقيقة (غيتي)

تحديات في التصميم

تعكس هذه النتائج تحدياً أساسياً في تصميم أنظمة الذكاء الاصطناعي. إذ يتم تطوير كثير من روبوتات الدردشة لتكون مفيدة ومهذبة وداعمة، ما يدفعها إلى تبني أسلوب قائم على التوافق مع المستخدم. لكن هذه الخصائص نفسها قد تقلل من قدرتها على تصحيح الأخطاء أو تقديم وجهات نظر نقدية. ويظل تحقيق التوازن بين الدعم والتفكير النقدي تحدياً رئيسياً.

تتجاوز دلالات هذه الدراسة الجانب التقني لتصل إلى قضايا تتعلق بالسلامة. فمع استخدام هذه الأنظمة في مجالات تتضمن تقديم نصائح أو دعم شخصي، تصبح طريقة استجابتها أكثر حساسية.

وفي بعض الحالات، قد يؤدي تعزيز المعتقدات غير الدقيقة إلى تأثيرات فعلية على قرارات المستخدم أو حالته النفسية، ما يطرح تساؤلات حول كيفية تصميم هذه الأنظمة ومراقبتها.

نحو استخدام مسؤول

تشير الدراسة إلى ضرورة تطوير آليات أفضل للتقييم والضبط. فبدلاً من التركيز فقط على دقة الإجابات، ينبغي أيضاً فهم كيفية تصرف الأنظمة في المحادثات الطويلة والمعقدة.

ويشمل ذلك تحديد متى يجب على النظام التشكيك في بعض الطروحات أو تقديم توضيحات أو تجنب تأكيد معلومات غير موثوقة. ويعد تحقيق هذا التوازن خطوة أساسية في تطور الذكاء الاصطناعي.

الحاجة لمزيد من البحث

رغم أهمية النتائج، تؤكد الدراسة الحاجة إلى مزيد من الأبحاث لفهم تأثير هذه التفاعلات على المستخدمين على المدى الطويل.

فمع تحول الذكاء الاصطناعي من أداة تقدم معلومات إلى نظام يشارك في الحوار، يصبح من الضروري ضمان أن هذه التفاعلات تدعم الفهم ولا تعزز أنماطاً ضارة. وفي هذا السياق، لم يعد التحدي مقتصراً على تطوير أنظمة أكثر ذكاءً، بل يشمل أيضاً ضمان أن تكون أكثر وعياً بتأثيرها على الإنسان.


نهج جديد يمكّن الذكاء الاصطناعي من شرح قراراته

نماذج الذكاء الاصطناعي الحديثة تعاني من مشكلة «الصندوق الأسود» التي تجعل قراراتها غير مفهومة للبشر (شاترستوك)
نماذج الذكاء الاصطناعي الحديثة تعاني من مشكلة «الصندوق الأسود» التي تجعل قراراتها غير مفهومة للبشر (شاترستوك)
TT

نهج جديد يمكّن الذكاء الاصطناعي من شرح قراراته

نماذج الذكاء الاصطناعي الحديثة تعاني من مشكلة «الصندوق الأسود» التي تجعل قراراتها غير مفهومة للبشر (شاترستوك)
نماذج الذكاء الاصطناعي الحديثة تعاني من مشكلة «الصندوق الأسود» التي تجعل قراراتها غير مفهومة للبشر (شاترستوك)

مع تزايد اندماج أنظمة الذكاء الاصطناعي في قطاعات حساسة، مثل الرعاية الصحية والأنظمة ذاتية القيادة، يبرز سؤال أساسي: هل يمكن الوثوق بقراراتها؟

فعلى الرغم من أن النماذج الحديثة تحقق دقة عالية، فإن طريقة تفكيرها تظل في كثير من الأحيان غير واضحة. هذه «الصندوق الأسود» أصبحت واحدة من أبرز التحديات في هذا المجال. يقدّم باحثون في معهد ماساتشوستس للتكنولوجيا (MIT) نهجاً جديداً يهدف إلى معالجة هذه المشكلة، من خلال تمكين أنظمة الذكاء الاصطناعي من تفسير قراراتها بطريقة مفهومة للبشر.

ما وراء الصندوق

في التطبيقات الواقعية، لا تكفي الدقة وحدها. فعندما يحدد نظام ذكاء اصطناعي مرضاً من صورة طبية أو يتخذ قراراً مرتبطاً بالسلامة، يحتاج المستخدم إلى فهم الأسباب التي قادت إلى هذا القرار. ومن دون هذه الشفافية، قد تفشل الأنظمة الدقيقة في كسب الثقة. وقد سعت تقنيات سابقة إلى فتح هذا «الصندوق الأسود»، لكنها غالباً ما قدّمت تفسيرات معقدة أو يصعب فهمها لغير المتخصصين. وهنا يكمن التحدي في تقديم تفسيرات دقيقة وفي الوقت نفسه واضحة.

الطريقة الجديدة تحسن التفسير دون التضحية بدقة الأداء بل قد تعززها (شاترستوك)

تفكير واعد

أحد الاتجاهات الواعدة يُعرف بنماذج «عنق الزجاجة المفاهيمي». في هذا النهج، يُجبر النظام على بناء قراراته على مفاهيم يمكن للبشر فهمها. فبدلاً من الانتقال مباشرة من البيانات الخام إلى النتيجة، يمرّ النموذج بمرحلة وسيطة يحدد فيها خصائص أو مفاهيم محددة قبل الوصول إلى القرار. لكن هذا الأسلوب واجه سابقاً بعض التحديات، إذ إن تحسين قابلية التفسير كان أحياناً يأتي على حساب الدقة، أو يؤدي إلى تفسيرات غير واضحة بما يكفي.

نهج جديد

طوّر فريق «MIT» طريقة محسّنة تهدف إلى تجاوز هذه القيود. يعتمد النظام على مكونين من التعلم الآلي يعملان معاً. الأول يستخرج المعرفة من نموذج موجود، والثاني يحول هذه المعرفة إلى مفاهيم مفهومة للبشر. يتيح هذا الإطار المزدوج «ترجمة آلية» لآلية عمل النماذج المعقدة إلى صيغة قابلة للفهم. والأهم أن هذه التقنية يمكن تطبيقها على نماذج رؤية حاسوبية مدرّبة مسبقاً، ما يجعلها قابلة للتعميم على نطاق واسع.

ومن أبرز ما يميز هذا النهج أنه لا يضحي بالأداء من أجل الشفافية. بل تشير النتائج إلى أنه يمكن أن يحسن دقة التنبؤ وجودة التفسير في الوقت نفسه. وهذا يتحدى افتراضاً شائعاً في تطوير الذكاء الاصطناعي، وهو أن التفسير يأتي دائماً على حساب الأداء. يمثل الجمع بين الاثنين خطوة مهمة نحو تطبيقات عملية موثوقة.

باحثو جامعة «MIT» يطورون نهجاً جديداً يمكّن النماذج من تفسير تنبؤاتها بطريقة مفهومة (شاترستوك)

تفسيرات أوضح

يتميز النظام بجودة التفسيرات التي يقدمها. فبدلاً من مخرجات تقنية معقدة، ينتج أوصافاً مبنية على مفاهيم واضحة يمكن للمستخدم فهمها بسهولة. وتكتسب هذه الميزة أهمية خاصة في البيئات الحساسة، حيث تحتاج القرارات إلى مراجعة وتقييم. فالتفسير الواضح يتيح للمستخدم التأكد من منطق القرار.

الهدف الأوسع لهذا البحث هو تعزيز الثقة في أنظمة الذكاء الاصطناعي. فعندما يتمكن المستخدم من فهم كيفية اتخاذ القرار، يصبح أكثر قدرة على تقييم دقته واكتشاف الأخطاء المحتملة. ويبرز هذا الأمر بشكل خاص في مجالات، مثل الرعاية الصحية، حيث قد تكون لأي خطأ عواقب كبيرة. فالتفسير لا يعزز الفهم فقط، بل يدعم الاستخدام المسؤول للتقنية.

أثر عملي واسع

تمتد آثار هذا التطور إلى ما هو أبعد من تطبيق واحد. مع توسع استخدام الذكاء الاصطناعي، تتزايد الحاجة إلى الشفافية من قبل المستخدمين والجهات التنظيمية على حد سواء. وقد تلعب هذه التقنيات دوراً محورياً في تلبية هذه المتطلبات، من خلال جعل قرارات الذكاء الاصطناعي أكثر وضوحاً وقابلية للمساءلة.

يعكس هذا النهج خطوة ضمن اتجاه أوسع في أبحاث الذكاء الاصطناعي. فلم يعد التركيز مقتصراً على بناء نماذج عالية الأداء، بل يتجه نحو تطوير أنظمة قادرة على تفسير قراراتها. هذا التحول يعكس فهماً أعمق لدور الذكاء الاصطناعي في الواقع. فالأداء وحده لم يعد كافياً، بل يجب أن تكون الأنظمة مفهومة وموثوقة ومتوافقة مع التوقعات البشرية. وفي هذا السياق، تصبح القدرة على تفسير القرارات ليست مجرد ميزة إضافية، بل شرطاً أساسياً للجيل القادم من أنظمة الذكاء الاصطناعي.