تطبيقات وأجهزة لتحديد استخدام الأطفال للإنترنت

تتيح الدخول إلى مواقع مسموحة وحصر أوقات الاستخدام... وتميز بين المراحل العمرية

تطبيقات وأجهزة لتحديد استخدام الأطفال للإنترنت
TT

تطبيقات وأجهزة لتحديد استخدام الأطفال للإنترنت

تطبيقات وأجهزة لتحديد استخدام الأطفال للإنترنت

إن كان لديك أطفال في المنزل يقضون جل وقتهم باستخدام الهواتف الجوالة والأجهزة اللوحية والكومبيوترات المحمولة، وترغب في ضبط هذا الأمر أو تريد إبعادهم عن المواقع الممنوعة أو ذات المحتوى غير المناسب، فهناك مجموعة من الإعدادات والبرامج والموجهات Routers التي من شأنها مساعدتك في تحديد أوقات وكميات استخدام الإنترنت لجيل رقمي ولد ونشأ في زمن متصل دائما ببعضه البعض.
ويجب عدم اعتبار أن هذه الطرق بديلة عن توعية الأطفال بضرورة قضاء أوقات مع غيرهم دون استخدام الأجهزة الإلكترونية وعدم الاقتراب من المواقع المحظورة، مع توعية المراهقين بأنك تراقب استخدامهم للإنترنت ولكنك في الوقت نفسه تحترم خصوصيتهم، عوضا عن استخدام برامج تجسسية على أجهزتهم قد تجعلهم يفقدون ثقتهم بك في حال اكتشافهم لها ومحاولة البحث عن طرق بديلة لتجاوز رقابتك، والتي قد تأخذهم إلى مواقع محظورة.
ومن البرامج التي من شأنها تسهيل هذه العملية Symantec Norton Family Premier وOpenDNS Home VIP وSafeDNS، وغيرها. وتقدم بعض البرامج القدرة على تحديد عمل عدد معين من الأجهزة (مثل ContentWatch Net Nanny 7 وQustodio وMobicip وuKnowKids Premier)، بينما تسمح البقية بتحديد عمل الأجهزة دون أي قيود عددية. وإن كان لديك عدد كبير من الأطفال ويستخدمون عدة أجهزة، فقد يكون استخدام موجه شمولي أكثر راحة في الإعداد الأولي أو الصيانة، مثل (Circle with Disney وClean Router) التي تقوم بفلترة (ترشيح) المحتوى على مستوى نقطة ربط الأجهزة بالإنترنت، ولكن قد تكون خيارات التحكم بكل جهاز أصعب مقارنة باستخدام البرامج.

تحديد المحتوى وفترة الاتصال

لدى اختيارك لبرنامج تحديد عمل استخدام الإنترنت، فيجب مراعاة نظام التشغيل المستخدم وإن كان البرنامج يدعمه أم لا، ذلك أن الطفل قد يستخدم كومبيوترا يعمل بنظام التشغيل «ماك أو إس» أو «ويندوز» أو «لينوكس»، أو جهازا محمولا بنظم التشغيل «آندرويد» أو «آي أو إس» أو «ويندوز» أو «كروميوم». ويجب تثبيت البرنامج على كل جهاز وإعداده بما يتوافق مع عمر الطفل.
ويجب الانتباه إلى أنه يجب أن تدعم البرامج الجيدة المتخصصة بتحديد استخدام الإنترنت آلية تحديد نوع المحتوى المرغوب حجبه، مثل عروض الفيديو أو المواقع التي تروج للعنف أو الكراهية أو التطرف أو المحتوى الجنسي. وتجدر الإشارة إلى أن هذه الآلية تعمل بجدارة في حال عملها بشكل مستقل عن المتصفح وقدرتها على معاينة المواقع التي تدعم بروتوكول HTTPS الآمن. وفي حال استخدام برنامج لا يستطيع تفحص محتوى HTTPS الآمن، فقد يستطيع المراهق تجاوز الرقابة باستخدام برنامج أو موقع يعيد توجيه الطلبات Proxy أو في حال استخدامه لمتصفح آخر ببساطة. وتدعم الكثير من البرامج والموجهات المتخصصة ميزة البحث الآمن Safe Search في محركات البحث، والتي تعرض نتائج البحث من المواقع والصور وعروض الفيديو فقط إن كانت آمنة للأطفال، حتى لو اختار الطفل عرض جميع النتائج.
طريقة أخرى فعالة هي تحديد أوقات الاستخدام، حيث تسمح بعض التطبيقات للأهل إيجاد جدول أسبوعي بأوقات الاتصال بالإنترنت لكل جهاز أو لجميع الأجهزة المتصلة. ويمكن كذلك اختيار كمية استخدام بيانات قصوى للأطفال لكل يوم. ومن الأمثلة على ذلك برنامج Qustodio الذي يدعم نظم التشغيل «ويندوز» و«ماك أو إس» و«آندرويد» و«آي أو إس» و«كيندل» و«نوك»، والذي يسمح إيجاد جداول زمنية وكمية استخدام للإنترنت، مع قدرته على حجب المواقع الإباحية ومراقبة الفترة التي يقضيها الأطفال على كل شبكة اجتماعية، وإيقاف اتصال التطبيقات والألعاب بالإنترنت بعد انقضاء الوقت المحدد أو منع تطبيقات وألعاب مختارة من الاتصال بالإنترنت في أي وقت، وغيرها من الخصائص الأخرى المفيدة.
ويستطيع تطبيق ContentWatch Net Nanny 7 عرض نشاطات طفلك عند استخدامه جهازه المحمول وتطبيق شروط الاستخدام التي تضعها أنت، مع قدرة الطفل على طلب تمديد فترة الاستخدام من التطبيق نفسه على جهازه المحمول وموافقتك أو رفضك لذلك إلكترونيا من خلال رسالة تظهر على جهازك، الأمر المفيد في حال كنت بعيدا عنهم. ويمكن إدارة جميع الشروط عبر الإنترنت ومن أي جهاز، ومعاينة تقارير الاستخدام والقيود الموضوعة. ولدى تعديل أي شرط، فسيتم تطبيقه فورا على جميع أجهزة الطفل المتصلة بالإنترنت.
وتجدر الإشارة إلى أنه يجب تثبيت هذا التطبيق على أجهزة الأطفال قبل استخدامه، وستحصل على تنبيه في حال محاولة وصول طفلك إلى موقع محجوب أو كتابته لنص بلغة بذيئة أو أي محاولة لتجاوز القيود. ويمكن أن يكون التنبيه على شكل رسالة نصية أو بريد إلكتروني أو تنبيه من التطبيق نفسه على جهازك.
ويسمح برنامج Norton Family على الكومبيوترات الشخصية والأجهزة التي تعمل بنظم التشغيل «ويندوز» و«آندرويد» و«آي أو إس» تحديد المحتوى المرغوب حجبه لكل مستخدم، مثل الجرائم والقرصنة والمشروبات الكحولية والمخدرات والقمار، وغيرها، من قائمة سلسة وسهلة الاستخدام.

موجهات وإعدادات متخصصة

وإن كان لديك خبرة تقنية، فتستطيع تعديل خيارات موجهك المنزلي لمراقبة نشاط الأطفال وحجب بعض المواقع أو تحديد أوقات الاستخدام من خلال صفحة «جودة الخدمة» Quality of Service QoS في إعدادات الموجه، والتي تختلف تفاصيلها من موجه لآخر. وعلى الرغم من أنك تستطيع تحميل برمجة جديدة Custom Firmware لموجهك متخصصة بمراقبة الاستخدام وتحديد فتراته من عدة مواقع، إلا أن هذا الأمر قد يلغي ضمان موجهك أو يوقفه عن العمل في حال أجريت تعديلات على أعدادات لا تعرفها.
وتجدر الإشارة إلى أن كل موجه يحتوي على زر لإعادة الإعدادات إلى إعدادات المصنع Reset، والذي يمكن للطفل الوصول إليه وتفعيله إن كانت غاضبا، الأمر الذي سيتطلب منك معاودة إدخال جميع الإعدادات في كل مرة يقوم طفلك بذلك. ويُنصح بوضع الموجه في مكان لا يستطيع طفلك الوصول إليه في حال رغب في استخدام تقنين الاستخدام من خلال إعدادات الموجه. وينصح بإيقاف عمل ميزة تعديل خيارات الموجه لاسلكيا Wireless Remote Access، ذلك أن طفلك (أو أي قرصان) قد يستطيع الدخول إلى إعدادات الموجه لاسلكيا وتعديل الخصائص دون علمك بذلك. ويمكنك تعديل خصائص الموجه بربط كومبيوترك به بسلك شبكة LAN فقط.
طريقة اتصال أخرى قد يغفل الأهل عنها هي أجهزة الألعاب الإلكترونية، مثل «بلايستيشن 4» و«أكس بوكس وان» و«نينتندو سويتش»، والتي تحتوي جميعا على آلية تحديد استخدام الجهاز للأطفال من حيث المواقع المحجوبة أو الفئات العمرية المسموحة للألعاب وفترات الاستخدام، والتي يمكن الوصول إليها بسهولة من قائمة الإعدادات، مع عدم قدرة الطفل على تعديلها إلا بعد إدخال كلمة السر الخاصة بالأهل. هذه الآلية مهمة نظرا لأن أجهزة الألعاب الحديثة تحتوي على متصفح مدمج وتطبيق «يوتيوب»، وغيره من سبل تصفح محتوى الإنترنت.
كما وتقدم الكثير من الأجهزة اللوحية خيار نمط الأطفال الذي يعرض شاشة خاصة تحتوي على التطبيقات التي يرغب الأهل لطفلهم استخدامها، وعدم قدرته على تغييرها أو الاتصال بمتجر التطبيقات لتحميل المزيد. ويمكن تعديل التطبيقات المختارة بعد إدخال كلمة السر التي يعرفها الأهل. كما ينصح بإيقاف عمل ميزة الشراء من داخل التطبيقات أو عدم إدخال بيانات البطاقة الائتمانية على أجهزة الأطفال، وذلك حتى لا يقوموا بشراء الإضافات إلى الألعاب التي يستخدمونها وتراكم المبالغ دون علمك بذلك إلا بعد فوات الأوان (ينصح بالقيام بهذا الأمر على المتاجر الإلكترونية لأجهزة الألعاب الإلكترونية أيضا).
كما وتقدم بعض الأجهزة اللوحية مرونة التمييز بين الأطفال والمراهقين، بحيث توقف عمل متجر التطبيقات للصغار، وتسمح بذلك فقط للمراهقين أو البالغين. ويمكن اختيار الفئة العمرية للطفل من بين مجموعات مختلفة، مثل أكبر من 4 أو 9 أو 12 أو 17 سنة، ليتم فلترة المحتوى وفقا للفئة العمرية المختارة بحيث لا يستطيع الطفل التفاعل مع التطبيقات التي تحتوي على دلالات مرتبطة بالمشروبات الكحولية والعنف والمخدرات واللغة البذيئة، وغيرها، بينما تسمح فئة «أكبر من 9 سنوات» بمشاهدة بعض العنف الوهمي (مثل عنف ألعاب الرسوم المتحركة) ولكن ليس عنف ألعاب القتال أو الحروب، وهكذا.

حسابات مختلفة

وتجدر الإشارة إلى ضرورة إيجاد حسابات مختلفة للمستخدمين على الكومبيوتر المنزلي المشترك لأفراد العائلة، ذلك أن الأهل قد يشاهدون محتوى عنيفا على «يوتيوب»، ليقوم «يوتيوب» باقتراح عروض مرتبطة بذلك في المرات التالية للتصفح ظنا منه أن المستخدم هو نفسه، بينما في الواقع هو الطفل الذي جاء دوره لاستخدام الكومبيوتر لمشاهدة «يوتيوب». وينصح بتسجيل الخروج من نظام التشغيل Logout بعد الانتهاء منه وتسجيل الدخول Login لحساب الطفل، مع التأكد من إيجاد حساب «غوغل» للأهل وآخر للطفل وإدخال اسم المستخدم وكلمة السر المناسبة لكل حساب، وذلك حتى يستطيع «يوتيوب» التمييز بين حساب الأهل وحساب الأطفال واقتراح المحتوى المناسب لكل مستخدم. كما ينصح باستخدام حساب خاص للأطفال على الهواتف الجوالة والأجهزة اللوحية للسبب نفسه.
وعلى الرغم من أنك قد تكون قد حاولت حجب الكثير من المواقع والخدمات عن طفلك باستخدام الموجهات والبرامج وغيرها من الطرق، فإنك قد تتفاجأ بأن طفلك ما يزال يستطيع الوصول إليها. وقد يكون السبب هو اتصال طفلك بشبكة إنترنت لاسلكية في المنطقة المحيطة بمنزلك لا تتطلب إدخال كلمة سر. ويكمن الحل هنا في الذهاب إلى الغرفة التي يستخدمها طفلك للاتصال بالإنترنت بشكل معتاد (أو جميع غرف المنزل) والبحث عن أي شبكة لاسلكية مفتوحة من خلال هاتفك الجوال، ومعاينة اسم الشبكة اللاسلكية لمحاولة تحديد صاحبها من الجيران أو مقاهي الإنترنت، أو محاولة معرفة أي منطقة تكون فيها الإشارة اللاسلكية أقوى، وذلك لتحديد اتجاه مكان الشبكة اللاسلكية المفتوحة. ويمكن بعد تحديد صاحب الشبكة والتحدث معه وشرح وجهة نظرك وطلب إضافة كلمة سر لشبكته.


مقالات ذات صلة

ميزات جديدة في «خرائط غوغل» تحول التطبيق إلى مساعد ذكي للتنقل

تكنولوجيا الذكاء الاصطناعي يحلل التقييمات والصور لاقتراح أماكن «مدونة غوغل»

ميزات جديدة في «خرائط غوغل» تحول التطبيق إلى مساعد ذكي للتنقل

تشهد خدمات الخرائط الرقمية تحولاً متسارعاً مع دخول تقنيات الذكاء الاصطناعي إلى صلب تجربة المستخدم، في خطوة تسعى من خلالها الشركات التقنية إلى إعادة تعريف مفهوم…

عبد العزيز الرشيد (الرياض)
تكنولوجيا تعتمد الطريقة الجديدة على استخراج المفاهيم من داخل النموذج نفسه بدلاً من فرض مفاهيم محددة مسبقاً من قبل الخبراء (أدوبي)

أبحاث جديدة لفهم تفكير الذكاء الاصطناعي وفتح «صندوقه الأسود»

أبحاث جديدة في جامعة MIT تطور تقنيات تساعد نماذج الذكاء الاصطناعي على تفسير قراراتها لتعزيز الشفافية والثقة في الأنظمة المؤتمتة.

نسيم رمضان (لندن)
خاص توسّع مفهوم المرونة الرقمية ليشمل استمرارية البرمجيات وليس الأمن السيبراني فقط (أدوبي)

خاص هل أصبحت مرونة البرمجيات شرطاً أساسياً لحماية الاقتصاد الرقمي في السعودية؟

توسّع مفهوم المرونة الرقمية ليشمل استمرارية البرمجيات ومخاطر الموردين مع بروز الحساب الضامن أداةً لحماية الخدمات الرقمية الحيوية.

نسيم رمضان (لندن)
خاص العاصمة السعودية الرياض (واس) p-circle 01:53

خاص «عام الذكاء الاصطناعي» في السعودية... دفع قوي لاقتصاد البيانات

مع تسارع السباق نحو الاقتصاد الرقمي ودخول العالم مرحلة جديدة تقودها الخوارزميات، تتجه السعودية إلى ترسيخ موقعها لاعباً مؤثراً في مستقبل التقنيات المتقدمة.

زينب علي (الرياض)
تكنولوجيا تشير الدراسة إلى أن تأثير هذه الألعاب في تطور الأطفال دون سن الخامسة لا يزال غير مفهوم بشكل كافٍ (شاترستوك)

ألعاب تتحدث وتردّ… هل يعيد الذكاء الاصطناعي تشكيل تجربة اللّعب لدى الأطفال؟

دراسة من جامعة أكسفورد تحذر من أن ألعاب الذكاء الاصطناعي للأطفال قد تسيء فهم المشاعر وتثير مخاوف بشأن التطور العاطفي والخصوصية.

نسيم رمضان (لندن)

ميزات جديدة في «خرائط غوغل» تحول التطبيق إلى مساعد ذكي للتنقل

الذكاء الاصطناعي يحلل التقييمات والصور لاقتراح أماكن «مدونة غوغل»
الذكاء الاصطناعي يحلل التقييمات والصور لاقتراح أماكن «مدونة غوغل»
TT

ميزات جديدة في «خرائط غوغل» تحول التطبيق إلى مساعد ذكي للتنقل

الذكاء الاصطناعي يحلل التقييمات والصور لاقتراح أماكن «مدونة غوغل»
الذكاء الاصطناعي يحلل التقييمات والصور لاقتراح أماكن «مدونة غوغل»

تشهد خدمات الخرائط الرقمية تحولاً متسارعاً مع دخول تقنيات الذكاء الاصطناعي إلى صلب تجربة المستخدم، في خطوة تسعى من خلالها الشركات التقنية إلى إعادة تعريف مفهوم الملاحة التقليدية.

وفي هذا السياق، أعلنت «غوغل» عن مجموعة من المزايا الجديدة ضمن تطبيق «خرائط غوغل»، تهدف إلى جعل التخطيط للرحلات والتنقل داخل المدن أكثر تفاعلاً وذكاءً.

تتمثل أبرز هذه الإضافات في ميزة جديدة تحمل اسم «Ask Maps»، وهي أداة تعتمد على تقنيات الذكاء الاصطناعي التوليدي لتمكين المستخدمين من طرح أسئلة طبيعية ومباشرة داخل التطبيق، بدلاً من الاكتفاء بعمليات البحث التقليدية.

وبفضل هذه الميزة، يمكن للمستخدم الاستفسار عن أفضل الأماكن المناسبة لنشاط معين، مثل المقاهي الهادئة للعمل أو المطاعم المناسبة للقاءات العائلية، ليقوم النظام بتحليل كمّ كبير من البيانات المتاحة، بما في ذلك تقييمات المستخدمين والصور والمراجعات، ومن ثم تقديم اقتراحات دقيقة ومفصلة.

تعتمد هذه التقنية على نماذج الذكاء الاصطناعي المتقدمة التي طورتها «غوغل»، ما يسمح بتحويل تطبيق الخرائط من مجرد أداة لتحديد المواقع إلى مساعد رقمي قادر على فهم السياق وتقديم توصيات مخصصة لكل مستخدم.

إلى جانب ذلك، كشفت الشركة عن تطويرات جديدة في ميزة «الملاحة الغامرة» (Immersive Navigation)، التي تُقدم تجربة عرض ثلاثية الأبعاد أكثر واقعية لمسارات التنقل.

وتتيح هذه الميزة للمستخدم استعراض الطريق بشكل تفصيلي قبل بدء الرحلة، مع عرض المباني والطرق والمعالم المحيطة بدقة بصرية عالية، فضلاً عن توضيح المسارات والانعطافات ومداخل الوجهات المختلفة، بما يُسهم في تقليل الأخطاء أثناء القيادة أو الوصول إلى المواقع المزدحمة.

وحسب ما أعلنته الشركة، فقد بدأت هذه المزايا الوصول تدريجياً إلى المستخدمين؛ حيث تم إطلاقها أولاً في الولايات المتحدة، مع بدء توفرها كذلك في الهند على الهواتف الذكية العاملة بنظامي «آندرويد» و«آي أو إس».

ومن المتوقع أن تتوسع هذه الخصائص لاحقاً إلى أسواق إضافية حول العالم خلال الفترة المقبلة، ضمن خطة تدريجية لتعميمها على نطاق أوسع.


دراسة صادمة: 8 من كل 10 روبوتات ذكاء اصطناعي قد تساعد بالتخطيط لهجمات عنيفة

شعار تطبيق «شات جي بي تي» يظهر على شاشة (أ.ف.ب)
شعار تطبيق «شات جي بي تي» يظهر على شاشة (أ.ف.ب)
TT

دراسة صادمة: 8 من كل 10 روبوتات ذكاء اصطناعي قد تساعد بالتخطيط لهجمات عنيفة

شعار تطبيق «شات جي بي تي» يظهر على شاشة (أ.ف.ب)
شعار تطبيق «شات جي بي تي» يظهر على شاشة (أ.ف.ب)

مع الانتشار المتسارع لتقنيات الذكاء الاصطناعي، أصبحت روبوتات الدردشة جزءاً من الحياة اليومية لملايين الأشخاص حول العالم. فهذه الأنظمة تُستخدم للحصول على المعلومات، وطلب النصائح، والإجابة عن الأسئلة المعقدة، بل وحتى لتقديم نوع من الدعم الاجتماعي أو الرفقة. ويعتمد عليها المستخدمون من مختلف الفئات العمرية، بما في ذلك الأطفال والمراهقون.

لكن تقريراً جديداً حذّر من مخاطر محتملة مرتبطة بهذه التقنيات، مشيراً إلى أن بعض روبوتات الدردشة المدعومة بالذكاء الاصطناعي قد تقدم معلومات تساعد المستخدمين على التخطيط لأعمال عنف خطيرة، بما في ذلك حوادث إطلاق النار في المدارس، وفقاً لما نقلته صحيفة «إندبندنت».

وحسب التقرير الصادر عن مركز مكافحة الكراهية الرقمية، فإن ثمانية من كل عشرة روبوتات دردشة تعمل بالذكاء الاصطناعي قد تساعد المستخدمين الشباب في التخطيط لهجمات عنيفة.

ورغم أن هذه الروبوتات يُفترض أن تعمل مصادر للمعلومات أو أدوات تعليمية ووسائل مساعدة يومية، فإن التقرير يشير إلى أن الواقع قد يكون أكثر تعقيداً وخطورة مما يُعتقد.

فقد وجد الباحثون أن ثمانية من أصل عشرة من برامج الدردشة الآلية الرائدة الموجهة للمستهلكين قدمت نوعاً من المساعدة للمستخدمين الذين طلبوا معلومات تتعلق بتنفيذ هجمات عنيفة. وشمل ذلك منصات معروفة مثل «شات جي بي تي» و«ديب سيك».

وجاء في التقرير: «قدمت معظم برامج الدردشة الآلية معلومات عملية للمستخدمين الذين يعبرون عن آيديولوجيات متطرفة، قبل أن تطلب منهم تحديد المواقع والأسلحة التي سيستخدمونها في الهجوم، وذلك في أغلب الردود».

وأشار التقرير إلى أن برنامج «ديب سيك» ذهب إلى أبعد من ذلك، إذ أفاد الباحثون بأنه تمنى للمهاجم المحتمل «إطلاق نار سعيداً وآمناً».

شعار تطبيق «ديب سيك» (رويترز)

وفقاً للمركز، فإن برنامج «كلود إيه آي» التابع لشركة «آنثروبيك» كان المنصة الوحيدة التي «أثبتت» قدرتها على تثبيط المستخدم عن التخطيط للهجمات العنيفة، ما يشير إلى وجود ضوابط أمان فعالة نسبياً، وإن كانت هذه الضوابط - حسب التقرير - لا تُطبّق بشكل مثالي في معظم المنصات الأخرى.

وأضافت المنظمة غير الربحية في تقريرها أن بعض الأنظمة أبدت استعداداً مرتفعاً للغاية للاستجابة لمثل هذه الطلبات.

فعلى سبيل المثال، أظهرت النتائج أن منصتي «Perplexity» و«Meta AI» قدمتا المساعدة للمهاجمين المحتملين في 100 في المائة و97 في المائة من الحالات على التوالي.

يأتي نشر هذا التقرير في أعقاب حادثة إطلاق نار في مدرسة «تومبلر ريدغ» في مقاطعة كولومبيا البريطانية بكندا. وقد أُفيد لاحقاً بأن أحد موظفي شركة «أوبن إيه آي» رصد داخلياً أن المشتبه به في الحادثة استخدم برنامج «شات جي بي تي» بطرق اعتُبرت متوافقة مع التخطيط لأعمال عنف.

وفي تعليقه على النتائج، قال عمران أحمد، رئيس مركز مكافحة الكراهية الرقمية: «قد تساعد برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي، والمندمجة الآن في حياتنا اليومية، مطلق النار التالي في مدرسة على التخطيط لهجومه، أو متطرفاً سياسياً على تنسيق عملية اغتيال».

وأضاف: «عندما تُصمم نظاماً يهدف إلى الامتثال لكل طلب، وتحقيق أقصى قدر من التفاعل، وتجنب رفض أي استفسار، فإنه في نهاية المطاف قد يمتثل للأشخاص الخطأ».

وختم بالقول: «ما نشهده هنا ليس مجرد فشل تكنولوجي، بل فشل في تحمل المسؤولية».


أبحاث جديدة لفهم تفكير الذكاء الاصطناعي وفتح «صندوقه الأسود»

تعتمد الطريقة الجديدة على استخراج المفاهيم من داخل النموذج نفسه بدلاً من فرض مفاهيم محددة مسبقاً من قبل الخبراء (أدوبي)
تعتمد الطريقة الجديدة على استخراج المفاهيم من داخل النموذج نفسه بدلاً من فرض مفاهيم محددة مسبقاً من قبل الخبراء (أدوبي)
TT

أبحاث جديدة لفهم تفكير الذكاء الاصطناعي وفتح «صندوقه الأسود»

تعتمد الطريقة الجديدة على استخراج المفاهيم من داخل النموذج نفسه بدلاً من فرض مفاهيم محددة مسبقاً من قبل الخبراء (أدوبي)
تعتمد الطريقة الجديدة على استخراج المفاهيم من داخل النموذج نفسه بدلاً من فرض مفاهيم محددة مسبقاً من قبل الخبراء (أدوبي)

أصبحت أنظمة الذكاء الاصطناعي أكثر تطوراً كالتعرف إلى الصور وتشخيص الأمراض والمساعدة في اتخاذ قرارات معقدة. لكن رغم هذا التقدم الكبير، لا يزال كثير من نماذج التعلم الآلي المتقدمة يعمل بطريقة توصف غالباً بأنها «صندوق أسود». فهي تقدم تنبؤات دقيقة، لكن الأسباب التي تقود إلى هذه التنبؤات تبقى غير واضحة، حتى بالنسبة للمهندسين الذين طوروا هذه الأنظمة.

ويعمل باحثون في معهد ماساتشوستس للتكنولوجيا (MIT) حالياً على معالجة هذه المشكلة من خلال تطوير طرق تساعد أنظمة الذكاء الاصطناعي على شرح قراراتها. ويهدف هذا العمل إلى جعل نماذج التعلم الآلي ليست دقيقة فحسب، بل أكثر شفافية أيضاً، حيث يتمكن البشر من فهم المنطق الذي يقف وراء التنبؤات التي تقدمها هذه الأنظمة.

تفسير قرارات الذكاء الاصطناعي

تزداد أهمية قدرة الذكاء الاصطناعي على تفسير قراراته مع توسع استخدام هذه التقنيات في مجالات حساسة، مثل الرعاية الصحية والنقل والبحث العلمي. ففي هذه المجالات، يحتاج المستخدمون غالباً إلى فهم العوامل التي أدّت إلى نتيجة معينة، قبل أن يتمكنوا من الوثوق بها أو الاعتماد عليها.

فعلى سبيل المثال، قد يرغب طبيب يراجع تشخيصاً طبياً قدّمه نظام ذكاء اصطناعي في معرفة الخصائص التي دفعت النموذج إلى الاشتباه بوجود مرض معين. وبالمثل، يحتاج المهندسون الذين يعملون على تطوير السيارات ذاتية القيادة إلى فهم الإشارات أو الأنماط التي جعلت النظام يحدد وجود مشاة أو يفسر موقفاً مرورياً معيناً.

غير أن كثيراً من نماذج التعلم العميق تعتمد على علاقات رياضية معقدة تشمل آلافاً حتى ملايين من المتغيرات. ورغم أن هذه الأنظمة قادرة على اكتشاف أنماط دقيقة داخل البيانات، فإن الطريقة التي تصل بها إلى قراراتها قد تكون صعبة الفهم بالنسبة للبشر. وقد أصبح هذا النقص في الشفافية أحد أبرز التحديات في مجال الذكاء الاصطناعي الحديث.

ولهذا ظهر مجال بحثي يعرف باسم «الذكاء الاصطناعي القابل للتفسير»، ويهدف إلى تطوير تقنيات تساعد البشر على فهم كيفية وصول الأنظمة الذكية إلى نتائجها، بما يسمح بتقييم موثوقيتها واكتشاف الأخطاء المحتملة وتعزيز الثقة في الأنظمة المؤتمتة.

تهدف هذه الأبحاث إلى بناء أنظمة ذكاء اصطناعي أكثر موثوقية ومساءلة من خلال تحقيق توازن بين دقة النماذج وإمكانية تفسيرها (أدوبي)

نهج قائم على المفاهيم

ركّز الباحثون في «MIT » على تحسين تقنية تعرف باسم «نموذج عنق الزجاجة المفاهيمي». ويهدف هذا النهج إلى جعل طريقة تفكير أنظمة الذكاء الاصطناعي أكثر وضوحاً للبشر.

في هذا النموذج، لا ينتقل النظام مباشرة من البيانات الخام إلى النتيجة النهائية. بدلاً من ذلك، يحدد أولاً مجموعة من المفاهيم أو الخصائص التي يمكن للبشر فهمها، ثم يستخدم هذه المفاهيم كأساس لاتخاذ القرار.

فإذا كان النظام، على سبيل المثال، مدرباً على التعرف إلى أنواع الطيور من الصور، فقد يحدد أولاً خصائص بصرية مثل «أجنحة زرقاء» أو «أرجل صفراء». وبعد التعرف إلى هذه السمات، يمكن للنظام أن يصنف الطائر ضمن نوع معين.

وفي مجال التصوير الطبي، قد تشمل هذه المفاهيم مؤشرات بصرية، مثل أنماط معينة في الأنسجة أو أشكال محددة تساعد في اكتشاف الأمراض. ومن خلال ربط التنبؤات بهذه المفاهيم الواضحة، يصبح من الأسهل على المستخدمين فهم الطريقة التي توصل بها النظام إلى نتيجته.

حدود المفاهيم المحددة مسبقاً

ورغم أن استخدام المفاهيم يمكن أن يجعل أنظمة الذكاء الاصطناعي أكثر شفافية، فإن النسخ السابقة من هذا النهج كانت تعتمد إلى حد كبير على مفاهيم يحددها الخبراء مسبقاً. لكن في الواقع، قد لا تعكس هذه المفاهيم دائماً التعقيد الكامل للمهمة التي يؤديها النظام. فقد تكون عامة للغاية أو غير مكتملة أو غير مرتبطة مباشرة بالأنماط التي يستخدمها النموذج فعلياً أثناء اتخاذ القرار. وفي بعض الحالات، قد يؤدي ذلك إلى تقليل دقة النموذج أو تقديم تفسير لا يعكس الطريقة الحقيقية التي يعمل بها.

ولهذا سعى فريق «MIT» إلى تطوير طريقة جديدة تستخرج المفاهيم مباشرة من داخل النموذج نفسه. فبدلاً من فرض أفكار محددة عليه مسبقاً، تحاول هذه التقنية تحديد الأنماط والتمثيلات التي تعلمها النموذج خلال مرحلة التدريب. بعد ذلك، يتم تحويل هذه الأنماط الداخلية إلى مفاهيم يمكن للبشر فهمها واستخدامها لتفسير قرارات النظام.

تزداد أهمية تفسير قرارات الذكاء الاصطناعي مع استخدامه في مجالات حساسة مثل الطب والنقل والبحث العلمي (أدوبي)

ترجمة تفكير الآلة إلى لغة مفهومة

لتحقيق ذلك، جمع الباحثون بين مكونين مختلفين من تقنيات التعلم الآلي. يقوم الأول بتحليل البنية الداخلية للنموذج المدرب لتحديد الخصائص الأكثر أهمية التي يعتمد عليها عند اتخاذ التنبؤات. أما الثاني فيحوّل هذه الخصائص إلى مفاهيم يمكن للبشر تفسيرها. وبمجرد تحديد هذه المفاهيم، يصبح النظام ملزماً بالاعتماد عليها عند إصدار توقعاته. وبهذا تتشكل سلسلة واضحة منطقياً تربط بين البيانات المدخلة والنتيجة النهائية.

ويشبه الباحث الرئيسي أنطونيو دي سانتيس هذا الهدف بمحاولة فهم طريقة تفكير الإنسان. ويقول: «بمعنى ما، نريد أن نكون قادرين على قراءة عقول نماذج الرؤية الحاسوبية هذه. نموذج عنق الزجاجة المفاهيمي هو إحدى الطرق التي تسمح للمستخدمين بفهم ما الذي يفكر فيه النموذج ولماذا اتخذ قراراً معيناً». ويرى الباحثون أن استخدام مفاهيم مستخرجة من المعرفة الداخلية للنموذج يمكن أن ينتج تفسيرات أكثر وضوحاً ودقة مقارنة بالطرق السابقة.

تحقيق التوازن بين الدقة والشفافية

يُعد تحقيق التوازن بين دقة النماذج وإمكانية تفسيرها أحد التحديات الرئيسية في مجال الذكاء الاصطناعي القابل للتفسير. فالنماذج الأكثر تعقيداً غالباً ما تحقق أفضل النتائج من حيث الدقة، لكنها تكون أيضاً الأصعب في الفهم. يحاول النهج الجديد الذي طوّره باحثو «MIT» معالجة هذه المشكلة من خلال اختيار عدد محدود من المفاهيم الأكثر أهمية لشرح كل تنبؤ. وبهذه الطريقة يركز النظام على الإشارات الأكثر صلة بالقرار بدلاً من الاعتماد على علاقات خفية داخل النموذج. كما يساعد ذلك على تقليل ما يعرف بـ«تسرب المعلومات»، وهي الحالة التي يعتمد فيها النموذج على أنماط في البيانات لا تظهر في التفسير الذي يقدمه.

نحو أنظمة ذكاء اصطناعي أكثر مساءلة

مع ازدياد اعتماد المؤسسات على أنظمة الذكاء الاصطناعي في اتخاذ القرارات، من المرجح أن تصبح القدرة على فهم طريقة عمل هذه الأنظمة أكثر أهمية. فالنماذج الأكثر شفافية يمكن أن تساعد الباحثين على اكتشاف التحيزات المحتملة وتحسين موثوقية الأنظمة والتأكد من أنها تعمل كما هو متوقع. ويمثل البحث الذي أجراه فريق «MIT» خطوة في هذا الاتجاه. فمن خلال تمكين نماذج التعلم الآلي من تفسير قراراتها بطريقة أكثر وضوحاً ومعنى، قد يسهم هذا النهج في تقليص الفجوة بين الخوارزميات المعقدة والفهم البشري.