أداة ذكاء اصطناعي تفسر الصور الطبية بكفاءة عالية وبيانات محدودة

تشخيص أسرع وأدق في المناطق النائية

الأداة تعتمد على توليد صور اصطناعية ومحاكاة الأنسجة المريضة والسليمة لتحسين التدريب (شاترستوك)
الأداة تعتمد على توليد صور اصطناعية ومحاكاة الأنسجة المريضة والسليمة لتحسين التدريب (شاترستوك)
TT

أداة ذكاء اصطناعي تفسر الصور الطبية بكفاءة عالية وبيانات محدودة

الأداة تعتمد على توليد صور اصطناعية ومحاكاة الأنسجة المريضة والسليمة لتحسين التدريب (شاترستوك)
الأداة تعتمد على توليد صور اصطناعية ومحاكاة الأنسجة المريضة والسليمة لتحسين التدريب (شاترستوك)

تخيل عيادة صغيرة في منطقة ريفية بدولة نامية، مجهزة ببعض أجهزة التصوير البسيطة، لكن دون توفر قواعد بيانات ضخمة من الصور الطبية المعلَّقة بتعليقات الخبراء. الآن، تخيل وجود مريض يحتاج إلى تشخيص سريع ودقيق، ربما لآفة جلدية أو ورم مشبوه، لكن دون وجود أطباء أشعة خبراء أو آلاف الصور المشروحة.

باحثون في جامعة «كاليفورنيا» في سان دييغو تصوروا مثل هذه الحالات وقدموا لها حلاً مبتكراً. إنها أداة ذكاء اصطناعي جديدة تستطيع تحليل الصور الطبية باستخدام كمية بيانات مشروحة أقل بـ20 مرة مقارنة بالطرق التقليدية. هذا الابتكار قد يجعل المساعدة التشخيصية المتقدمة أكثر سهولة وكفاءة، حتى في البيئات ذات الموارد المحدودة.

تحدي جوع البيانات

تُعد عملية تجزئة الصور الطبية أي تمييز كل «بكسل» في الصورة لتحديد النسيج المريض من السليم ركيزة أساسية في التشخيص المدعوم بالذكاء الاصطناعي.

عادةً، تحتاج نماذج التعلم العميق إلى كميات ضخمة من البيانات المعلَّقة يدوياً، وهي عملية مكلفة وتستغرق وقتاً طويلاً. وفي حالات كثيرة، خصوصاً مع الأمراض النادرة أو الحالات السريرية المتخصصة، لا تتوفر مثل هذه البيانات على نطاق واسع، مما يجعل النماذج عالية الدقة غير متاحة لكثير من المستشفيات.

ولمعالجة هذه الفجوة، طوّر الباحث لي تشانغ، والدكتور بينغتاو شيه من جامعة «كاليفورنيا» في سان دييغو أداة ذكاء اصطناعي قادرة على التعلم من عدد قليل جداً من الصور المشروحة، أحياناً لا يتجاوز 40 صورة. ورغم هذا الانخفاض الكبير في حجم البيانات، فقد حقق النظام أداءً يضاهي، بل ويتفوق أحياناً، على النماذج التقليدية التي تعتمد على بيانات أكبر بكثير.

تتيح ​أداة الذكاء الاصطناعي تحليل الصور الطبية ببيانات مشروحة أقل بـ20 مرة من الطرق التقليدية (Nature Communications)

توليد صور اصطناعية

السر وراء هذا الإنجاز يكمن في الدمج الذكي بين توليد البيانات الصناعية والتحسين التكراري. في البداية، يتعرف الذكاء الاصطناعي على مجموعة صغيرة من الأمثلة التي يحدد فيها الخبراء مناطق الاهتمام مثل الأورام أو الآفات الجلدية على الصور الطبية. وبعدها يبدأ النظام في إنشاء صور اصطناعية تحاكي مظهر الأنسجة المريضة والسليمة.

هذه الصور الصناعية تصبح مادة تدريب إضافية للنظام. والأمر الأهم أن العملية تفاعلية، فكلما ولّد النظام صوراً جديدة، يقيم تأثيرها على تحسين الأداء، ويعدل استراتيجيته بناءً على النتيجة. بهذه الطريقة، تصبح عملية توليد الصور جزءاً من دورة تدريب وتغذية راجعة مستمرة.

اختبارات شاملة

خضع هذا الأسلوب للاختبار في مجموعة واسعة من المهام الطبية. منها التعرف على الآفات الجلدية في صور الجلد المجهري، وتحديد أورام الثدي في صور الموجات فوق الصوتية، ورسم أوعية المشيمة في صور المنظار الجنيني. أيضا اكتشاف سلائل القولون في لقطات تنظير القولون، وحتى تحديد تقرحات القدم في الصور الفوتوغرافية.

كما تم تمديد التقنية لتشمل الصور ثلاثية الأبعاد، مثل تجزئة الحُصين والكبد في صور الرنين المغناطيسي، مما أظهر مرونتها العالية. وفي البيئات محدودة البيانات، حقق النظام زيادة في دقة التجزئة بنسبة تراوحت بين 10 و20 في المائة، رغم استخدامه جزءاً بسيطاً من البيانات المطلوبة في النماذج التقليدية.

التقنية قادرة على التعلم من عدد قليل جداً من الصور المشروحة أحياناً لا يتجاوز 40 صورة (غيتي)

تمكين الأطباء في كل مكان

هذا الابتكار ليس مجرد إنجاز خوارزمي، بل هو أداة مصممة للتأثير العملي. على سبيل المثال، يمكن لطبيب الأمراض الجلدية أن يعلّق على 40 صورة فقط باستخدام المجهر الجلدي، ثم يدرب النظام ليصبح قادراً على تحليل صور المرضى الجدد فوراً، مع تحديد السمات المثيرة للقلق بدقة وسرعة.

التأثير يمتد إلى العيادات ذات الموارد المحدودة، والوحدات الطبية المتنقلة، والمناطق التي تفتقر إلى الأطباء المتخصصين. والأهم، أن الباحثين يخططون لتعزيز قدرات النظام بإدخال الأطباء في حلقة التدريب، بحيث يتم جمع ملاحظاتهم الفورية لتحسين النموذج أكثر. هذا الدمج بين خبرة الإنسان وقابلية الذكاء الاصطناعي للتكيف قد يغيّر قواعد تطوير ونشر الأدوات التشخيصية.

أثر واسع المدى

الانعكاسات المحتملة لهذا الابتكار كبيرة منها ديمقراطية التشخيص بالذكاء الاصطناعي، خصوصاً للمستشفيات التي لا تملك قواعد بيانات ضخمة يمكنها الاستفادة من الذكاء الاصطناعي لتحسين الرعاية.

كذلك خفض التكلفة والوقت، إذ إن توليد بيانات صناعية يقلل العبء عن الخبراء في تعليق آلاف الصور يدوياً. إضافة إلى التوافق مع مختلف الوسائط، من الصور الفوتوغرافية والموجات فوق الصوتية إلى الرنين المغناطيسي وتنظير القولون، ينجح النهج في صيغ متعددة. تشمل الانعكاسات أيضاً التعلم المستمر، حيث إن آليات التغذية الراجعة المدمجة تمكن الذكاء الاصطناعي من التطور مع تراكم المعرفة الطبية.

ولهذا الابتكار أثر على الصحة العالمية خصوصاً في البيئات منخفضة الموارد، يمكن أن يكون هذا الابتكار مفتاحاً لاكتشاف الأمراض مبكراً وتحسين النتائج الصحية.

يمثل هذا الابتكار من جامعة «كاليفورنيا» في سان دييغو أداة مساواة قوية. فهو قادر على إتقان تجزئة الصور الطبية بمدخلات محدودة، بفضل توليد البيانات الصناعية ودورات التغذية الراجعة، مما يتيح تقديم تشخيصات عالية المستوى حتى للمراكز التي تفتقر للبنية التحتية اللازمة.


مقالات ذات صلة

علوم قد يكشف تاريخك الصحي السرطان قبل أن يظهر

«أونكوفورمر»: نموذج ذكاء اصطناعي يتنبأ بالسرطان من تاريخك الصحي

طوَّر بعد دراسة تحليلية لبيانات 3.67 مليون شخص

د. عميد خالد عبد الحميد (لندن)
صحتك طريقة التربية في الطفولة المبكرة تحدد سلوكيات المراهقين

طريقة التربية في الطفولة المبكرة تحدد سلوكيات المراهقين

تؤثر على حجم الضغوط النفسية اللاحقة

د. هاني رمزي عوض (القاهرة)
علوم ثورة في الطب الدقيق: علاجات جينية مصممة حسب الشيفرة الوراثية لكل مريض

ثورة في الطب الدقيق: علاجات جينية مصممة حسب الشيفرة الوراثية لكل مريض

تفتح آفاقاً جديدة أمام الأطفال المصابين باضطرابات عصبية شديدة

د. وفا جاسم الرجب (لندن)
صحتك خبير إيطالي: ضعف الانتصاب مؤشر محتمل لاختلالات أوسع نطاقاً في الحالة الصحية

خبير إيطالي: ضعف الانتصاب مؤشر محتمل لاختلالات أوسع نطاقاً في الحالة الصحية

كتاب جديد يعمِّق المفهوم الطبي لعلاقة الاضطراب الجنسي بالصحة

«الشرق الأوسط» (إيطاليا)

انهيار خطة زوكربيرغ لتسريح موظفي «ميتا» من أجل الذكاء الاصطناعي

مارك زوكربيرغ الرئيس التنفيذي لشركة "ميتا" (أ.ف.ب)
مارك زوكربيرغ الرئيس التنفيذي لشركة "ميتا" (أ.ف.ب)
TT

انهيار خطة زوكربيرغ لتسريح موظفي «ميتا» من أجل الذكاء الاصطناعي

مارك زوكربيرغ الرئيس التنفيذي لشركة "ميتا" (أ.ف.ب)
مارك زوكربيرغ الرئيس التنفيذي لشركة "ميتا" (أ.ف.ب)

في يناير (كانون الثاني) التقى مارك زوكربيرغ الرئيس التنفيذي لشركة «ميتا» وكبار مساعديه في تجمع القيادة السنوي بمقر إقامته في هاواي، وهناك وضعوا خطة لتغيير جذري، وإعادة تصور طبيعة العمل في عملاق وسائل التواصل الاجتماعي في عصر الذكاء الاصطناعي.

وفق وكالة «رويترز» للأنباء، تصورت خطة «التحول المؤسسي» مستقبلاً «يعتمد في الأساس على الذكاء الاصطناعي» للشركة المالكة لـ«فيسبوك»، و«إنستغرام». وسيتولى الذكاء الاصطناعي جزءاً كبيراً من العمل اليومي الذي يؤديه آلاف الموظفين. ويشرف على العمال الافتراضيين داخل «ميتا» كوادر أصغر عدداً من الموظفين «ذوي الكفاءات العالية»، بحسب وثيقة تخطيط داخلية اطلعت عليها «رويترز»، وثلاثة مصادر على دراية بالمشروع.

وقال مصدران منهم إن المديرين التنفيذيين بحثوا، في تدريبات استشراف السيناريوهات المستقبلية، خفض حجم العديد من فرق العمل في «ميتا» بأكملها بنسبة تصل إلى 60 في المائة. وسيُعرض على بعض الموظفين وظائف في وحدات جديدة، بينما سيتم تسريح آخرين في إطار عملية تقليص توقع أحد المسؤولين التنفيذيين في قسم الموارد البشرية أن تكون بحجم أو أكبر من عمليات تسريح أجرتها الشركة قبل ثلاثة أعوام بنسبة 25 في المائة تقريباً، بحسب وثيقة داخلية أخرى.

وأظهرت وثائق تخطيط داخلية اطلعت عليها «رويترز» أن عملية إعادة الهيكلة على «موجتين»، وكان من شأنها أن تبدأ بالأولى في مايو (أيار)، تليها عملية إعادة هيكلة أخرى في نوفمبر (تشرين الثاني). ومن المفترض أن تُستكمل عمليات التسريح بإغلاق الوظائف الشاغرة، وتسريح الموظفين الذين تعتقد «ميتا» أن أداءهم ضعيف.

تمرد صريح

ولم يسبق أن تم الكشف عن هذه التفاصيل وغيرها في الخطة، بما في ذلك حجم عملية إعادة الهيكلة.

ولم يسبق أن تم الكشف عن هذه التفاصيل وغيرها في الخطة، بما في ذلك حجم عملية إعادة الهيكلة.

لكن في ليلة 19 مايو، قبل ساعات قليلة من موجة التسريح الأولى، تراجع زوكربيرغ. وسرحت «ميتا» 10 في المائة من موظفيها في اليوم التالي، ولكنها ألغت خطط التسريح المقررة في نوفمبر، بحسب وثيقة داخلية اطلعت عليها «رويترز».

في هذا التوقيت كان موظفو «ميتا» في حالة تمرد صريح، مقتنعين بأن التخلص منهم هو من بين أهداف مبادرات التحول نحو الذكاء الاصطناعي التي تنفذها الشركة. كما أن البيانات الداخلية كانت تشير إلى أن تقنية «الوكيل» الذكي المستقل، التي تشكل جوهر الاستراتيجية، تفشل في تحقيق مكاسب الإنتاجية المأمولة. وكان بعض المستثمرين يتساءلون عما حققته «ميتا» مقابل إنفاقها الهائل على الذكاء الاصطناعي.

يكشف هذا التقرير الخاص لأول مرة عن الوتيرة السريعة لعمليات التسريح التي كانت «ميتا» تدرسها، والأفكار الكامنة وراء تلك الخطط، وكيف انهارت سريعاً. واستناداً إلى عشرات الوثائق الداخلية، والمنشورات، والتسجيلات التي راجعتها «رويترز»، بالإضافة إلى محادثات مع ما يربو على 20 شخصاً على دراية بآليات العمل الداخلية في «ميتا»، يوضح التقرير كيف حاولت شركة التواصل الاجتماعي العملاقة أن تضع نفسها في طليعة عملية إصلاح شاملة لمكان العمل مدفوعة بالذكاء الاصطناعي، لتتعثر في التنفيذ في نهاية المطاف.

سيناريوهات أكثر حدة

رداً على هذا التقرير، أكدت «ميتا» وجود مشروع «التحول المؤسسي» الذي وصفته بأنه مشروع مدته عام واحد يركز على خفض التكاليف، وإعادة تصميم هياكل فرق العمل، وتحويل الموظفين إلى مجالات ذات أولوية جديدة، مثل إنتاج بيانات التدريب لنماذج الذكاء الاصطناعي الخاصة بها.

وأقرت الشركة بأن الخطة كان من المقرر تنفيذها على مرحلتين، وأن السيناريوهات الأكثر حدة تضمنت تقليص حجم بعض فرق عمل «ميتا» بنسبة تصل إلى 60 في المائة. لكنها رفضت تحديد الوحدات المعنية، وقالت إن عدداً من الوحدات الرئيسة ليس جزءاً من الخطة.

وقالت «ميتا» إن السيناريوهات شملت كلاً من التسريح، وإعادة توزيع الموظفين، وإن الشركة لم تكن تنوي في أي وقت من الأوقات تسريح 60 في المائة من إجمالي قوتها العاملة. وأوضحت أن قيادات الشركة ألغت خطط الموجة الثانية قبل تحديد العدد الإجمالي للأشخاص الذين سيخسرون وظائفهم.

وقالت «ميتا» في بيان: «في إطار عملية إعادة هيكلة شركتنا في وقت سابق من هذا العام، طلبنا من بعض الفرق إجراء تدريب لتخطيط السيناريوهات يبحث في التأثير المحتمل لإعادة توزيع الموظفين، وإغلاق الوظائف الشاغرة، وخفض العمالة... أدى ذلك في نهاية المطاف إلى نقل آلاف الموظفين لتولي أعمال ذات أولوية في عدة فرق أنشئت حديثاً، وفقاً لما أعلن عنه. وفي النهاية لم نمضِ في تنفيذ كل سيناريو من سيناريوهات تدريب التخطيط. ولم يُفترض أبداً أننا سنفعل ذلك».

ولم تتمكن «رويترز» من تحديد السبب الدقيق الذي دفع زوكربيرغ إلى تغيير مساره، أو ما هي الخطط الحالية لعملاق شركات وسائل التواصل الاجتماعي لمواصلة إعادة هيكلة قوتها العاملة. وامتنعت «ميتا» عن إتاحة تعليق من زوكربيرغ.


«إم بي سي» تدخل عالم تطوير الألعاب بإطلاق استوديو متخصص

الملصق الترويجي للعبة «نُسُج الميزان 1001» (الشرق الأوسط)
الملصق الترويجي للعبة «نُسُج الميزان 1001» (الشرق الأوسط)
TT

«إم بي سي» تدخل عالم تطوير الألعاب بإطلاق استوديو متخصص

الملصق الترويجي للعبة «نُسُج الميزان 1001» (الشرق الأوسط)
الملصق الترويجي للعبة «نُسُج الميزان 1001» (الشرق الأوسط)

كشفت مجموعة إم بي سي عن إطلاق أولى ألعاب «استوديو إم بي سي للألعاب»، في خطوة توسع جديدة للمجموعة في قطاع الألعاب والترفيه الرقمي، مستهدفة تطوير ملكيات فكرية أصلية مستوحاة من ثقافة المنطقة وقصصها، وقادرة في الوقت نفسه على الوصول إلى جمهور عالمي.

وأعلنت المجموعة، الأربعاء، خلال مشاركتها في معرض «غيمزكوم» بمدينة كولونيا الألمانية، عن لعبة «نُسُج الميزان 1001»، بوصفها أول إصدار للاستوديو الجديد، في وقت تسعى فيه «إم بي سي» إلى تعزيز حضورها في صناعة الألعاب ضمن استراتيجية أوسع لتوسيع منظومتها في مجال الترفيه الرقمي.

وتستمد لعبة «نُسُج الميزان 1001» عالمها من أجواء وحكايات «ألف ليلة وليلة»، مقدمة تجربة خيالية بطابع عربي تدور أحداثها في عالم افتراضي واسع صُمم ليجمع بين الاستكشاف والمغامرة والقتال، مع الاستفادة من عناصر مستوحاة من التراث الشعبي العربي وإعادة تقديمها ضمن تجربة تستهدف اللاعبين في مختلف الأسواق العالمية.

وتتيح اللعبة مشاركة ما يصل إلى ثلاثة لاعبين في الوقت نفسه، مع إمكانية الانضمام إليها أو مغادرتها في أي وقت، فيما يعتمد التنقل داخل عالمها على الحركة براً وجواً، بما في ذلك استخدام بساط الريح، الذي يمنح اللاعبين القدرة على استكشاف البيئات المختلفة ومواجهة مخلوقات أسطورية عملاقة ضمن أسلوب لعب جماعي.

ملكية فكرية من المنطقة

وبحسب بيان المجموعة يمثل إطلاق «استوديو إم بي سي للألعاب» توجهاً جديداً للمجموعة نحو تطوير ألعاب أصلية ومشاريع ملكية فكرية ذات قيمة إنتاجية مرتفعة، مستندة إلى قصص وسرديات تحمل هوية المنطقة وثقافتها، مع تصميمها بما يتناسب مع متطلبات سوق الألعاب العالمية.

ويضم الاستوديو فريقاً متخصصاً يمتلك خبرات سابقة في عدد من استوديوهات الألعاب العالمية، ويجمع بين المعرفة في آليات اللعب وبناء العوالم الافتراضية والتطوير الإبداعي، وبين الخبرات والحضور الإقليمي والوصول الجماهيري الذي تمتلكه «مجموعة إم بي سي» في قطاع الإعلام والترفيه.

ويأتي تأسيس الاستوديو ضمن خطة توسع أوسع للمجموعة في صناعة الألعاب، في ظل مساعيها لتنويع أعمالها في مجالات الترفيه الرقمي والوصول إلى شرائح جديدة من الجمهور خارج نطاق أعمالها الإعلامية والترفيهية التقليدية.

وقال وليد بن إبراهيم آل إبراهيم، رئيس مجلس إدارة «مجموعة إم بي سي»، إن قطاع الألعاب «يوفر فرصة لتطوير ملكية فكرية أصلية، ودخول أسواق جديدة، والوصول إلى جماهير عالمية، وبالتالي خلق فرص جديدة للنمو المستدام الطويل الأمد»، معتبراً أن ذلك يعكس قوة نموذج أعمال المجموعة وتنوعه.

وأضاف أن قطاع الألعاب يمنح المجموعة فرصة لإحياء قصص تنتمي إلى ثقافة المنطقة بأساليب مبتكرة، من خلال الجمع بين المواهب المتخصصة والشراكات اللازمة لإنتاج ألعاب بمستوى عالمي، بما يعزز حضور «إم بي سي» في قطاع الترفيه الرقمي على المستوى الدولي.

منظومة ترفيهية عالمية

من جانبه، وصف مايك سنيسبي، الرئيس التنفيذي لـ«مجموعة إم بي سي»، الإعلان عن «نُسُج الميزان 1001» بأنه محطة مهمة في مسيرة المجموعة داخل قطاع الألعاب، مشيراً إلى أن الخطوة تدعم طموحها لبناء «منظومة ترفيهية عالمية راسخة الجذور تنطلق من الشرق الأوسط» للوصول إلى الجمهور واللاعبين حول العالم.

وتضع المجموعة قطاع الألعاب ضمن المجالات القادرة على توسيع نطاق ملكيتها الفكرية وفتح قنوات جديدة للوصول إلى المستهلكين، مستفيدة من التحولات المتسارعة التي يشهدها قطاع الترفيه الرقمي عالمياً، والنمو المتزايد في سوق الألعاب.

بدوره، قال دانييل إنجلهارت، الرئيس التنفيذي لـ«استوديو إم بي سي للألعاب»، إن الاستوديو يسعى من خلال أول إصداراته إلى تقديم تجربة تحمل عناصر من التراث الشعبي العربي وحكايات مستوحاة من «ألف ليلة وليلة».

وأوضح أن اللعبة تعتمد أسلوب تنقل سريعاً يجمع بين المهارات والحركات الأرضية والجوية، مشيراً إلى أنها صُممت لاستحضار روح القصص التي تستلهم منها عالمها، ضمن تجربة تتيح للأصدقاء مشاركة أدوار البطولة وخوض المغامرة معاً.

تجربة أولى في «غيمزكوم»

واختارت «مجموعة إم بي سي» (MBC Group) معرض «غيمزكوم»، أحد أبرز التجمعات العالمية لصناعة ألعاب الفيديو، للكشف عن المشروع وإتاحة أول تجربة مباشرة للعبة أمام الجمهور.

وسيتمكن زوار المعرض في كولونيا من تجربة «نُسُج الميزان 1001» طوال فترة انعقاد الحدث، عبر عروض تجريبية تستعرض عدداً من عناصرها الرئيسية، من بينها أسلوب اللعب التعاوني والتنقل باستخدام بساط الريح، إلى جانب المواجهات والمعارك داخل عالم اللعبة.

ويعكس إطلاق الاستوديو توجهاً لدى «مجموعة إم بي سي» لتوسيع نطاق أعمالها من إنتاج وتوزيع المحتوى الإعلامي والترفيهي إلى تطوير ملكيات فكرية رقمية قابلة للوصول إلى أسواق دولية، مع توظيف القصص والثقافة العربية بوصفهما أساساً لبناء منتجات ترفيهية تستهدف جمهوراً عالمياً.


«جبروت» الذكاء الاصطناعي يحيّر الخبراء

«جبروت» الذكاء الاصطناعي يحيّر الخبراء
TT

«جبروت» الذكاء الاصطناعي يحيّر الخبراء

«جبروت» الذكاء الاصطناعي يحيّر الخبراء

عملت شركة «إريغولار» Irregular الناشئة الإسرائيلية مع شركات «أوبن إيه آي» و«أنثروبيك» و«ميتا» لتقييم أمان نماذج الذكاء الاصطناعي الخاصة بها. لكنها ارتكبت خطأً، ما أدى إلى خروج الاختبارات عن السيطرة، كما كتب شيرا فرنكل، وأسهم داستين فولز (*).

اختراقات «بالخطأ»

وقد اكتشفت شركة «أوبن إيه آي» أخيراً أن نموذجاً جديداً للذكاء الاصطناعي كانت تختبره قد خرج عن السيطرة وقام باختراق شركة أخرى. وبعد ذلك، كشفت شركة «أنثروبيك» أن أحد نماذج الذكاء الاصطناعي التابعة لها قد اخترق أنظمة ثلاث مؤسسات خارجية أثناء إجراء اختبار. وبعد فترة وجيزة، صرّحت شركة «ميتا» بأن نماذج الذكاء الاصطناعي الخاصة بها قد قامت بأمر مماثل.

من «تقييم منع الإساءة» إلى التوغل

اشتركت جميع الحوادث الثلاث في عامل واحد هو شركة «إريغولار» التي تعمل مع عمالقة «وادي السيليكون» لتقييم نماذج الذكاء الاصطناعي قبل طرح هذه التقنية للجمهور. وتُعد هذه الشركة - التي أجرت الاختبارات التي لم تسر كما هو مخطط لها - جزءاً من مجموعة شركات ناشئة تضطلع بمهمة جديدة تتمثل في فحص نماذج الذكاء الاصطناعي المتطورة للغاية لقياس مدى تعقيدها والتحقق من أمانها. والهدف من ذلك هو تعزيز ثقة الجمهور في هذه النماذج ومنع إساءة استخدامها.

وصرّح دان لاهف، الرئيس التنفيذي لشركة «إريغولار» بأن الاختراقات الأخيرة وقعت عندما ارتكبت الشركة خطأً أثناء اختبار النماذج من الشركات الثلاث. لكن نماذج الذكاء الاصطناعي زادت من تعقيد المواقف بتصرفاتها القوية وغير المتوقعة. وأضاف: «كلما ازدادت قوة التكنولوجيا، تعمق تأثيرها، إذ إن وتيرة التقدم سريعة للغاية».

وتجد شركة «إريغولار» نفسها الآن في قلب نقاش حول كيفية تأمين نماذج الذكاء الاصطناعي في ظل تقدم التكنولوجيا بسرعة فائقة تفوقت حتى على أمهر المخترقين البشر. فكل بضعة أشهر، تطلق الشركات الرائدة نماذج «رائدة» (أو نماذج متطورة للغاية) تفوق في قوتها بمراحل كبيرة النماذج السابقة.

نماذج جديدة «بنطاق قدرات تفوق القدرات البشرية»

وفي هذا السياق، قال جيفري لاديش، مدير مؤسسة «Palisade Research» غير الربحية، ومقرها بيركلي بولاية كاليفورنيا، وتدرس قدرات الذكاء الاصطناعي الهجومية، إن النماذج الجديدة بدأت تدخل «نطاق القدرات التي تفوق القدرات البشرية».

حالة «الأعمى الذي يقود أعمى»

وقالت كاتي موسوريس، الرئيسة التنفيذية لشركة «لوتا سيكيوريتي» (Luta Security) -التي تساعد الشركات في البحث عن الثغرات البرمجية- إن اختبار أمان نماذج الذكاء الاصطناعي يشبه إلى حد ما حالة «الأعمى الذي يقود أعمى». وأشارت إلى أنه حتى مطوري الذكاء الاصطناعي يقرون بأنهم لا يدركون تماماً القدرات الكاملة لأحدث نماذجهم.

وأضافت موسوريس: «قد يكون لدينا أذكى العقول في العالم تعمل على نماذج الذكاء الاصطناعي هذه، لكن الأمر يشبه تعامل ماري كوري (الباحثة في الذرة) مع الراديوم بيديها العاريتين؛ فنحن نتعامل مع الذكاء الاصطناعي بأيدينا العاريتين، ولا نعرف كيف نحتويه، ناهيك عن كيفية اختباره بأمان».

شركة «إريغولار»

تأسست شركة «إريغولار» عام 2023 على يد لاهف، وهو باحث سابق في مجال الذكاء الاصطناعي. وتضم الشركة، التي تتخذ من تل أبيب مقراً لها، نحو 45 موظفاً يساعدون في إجراء اختبارات لنماذج الذكاء الاصطناعي على مدار أيام أو أسابيع، وذلك حسب طبيعة النموذج ونوع الاختبار المطلوب. وقد جمعت الشركة الناشئة تمويلاً يقارب 80 مليون دولار من شركات رأس المال الاستثماري.

وتطلب «إريغولار» في الاختبارات المعتادة من نموذج الذكاء الاصطناعي تنفيذ هجوم سيبراني. ويتم إبلاغ النموذج بأنه يعمل في بيئة اختبار آمنة - غالباً ما تكون مفصولة عن الإنترنت وتعمل ضمن بيئة حاسوبية معزولة تُعرف باسم «صندوق الرمل» (sandbox)، وأنه يجب عليه فعل كل ما يلزم لتحقيق الهدف الموكل إليه.

طلب تنفيذ مهمات مستحيلة

وفي بعض الأحيان، تُكلف النماذج بمهمة مستحيلة، ويتم تقييمها بناءً على التقنيات التي تستخدمها لمحاولة تحقيق ذلك الهدف. وفي أحيان أخرى، يتم تقييم النماذج بناءً على مدى فاعليتها في اختراق هدف معين. وتُستخدم هذه التقييمات لتحليل مدى فاعلية النموذج في عمليات الاختراق، ثم توصي «إريغولار» بتدابير وقائية لمنع استخدام النموذج في أغراض ضارة.

«خطأ في الإعدادات» أدى إلى وصول النموذج إلى الإنترنت

وفي الحوادث التي كُشف عنها الشهر الماضي، طلبت «إريغولار» من نماذج الذكاء الاصطناعي التابعة لشركات «أوبن إيه آي» و«ميتا» و«أنثروبيك» اختراق أهداف محددة، إلا أن «خطأً في الإعدادات» أدى إلى تمكين هذه النماذج من الوصول إلى شبكة الإنترنت. وعقب ذلك، قامت نماذج الذكاء الاصطناعي باختراق مؤسسات خارجية، مستغلةً اتصالها بالإنترنت بطرق أثارت دهشة الباحثين.

نموذج «أوبن إيه آي»

وفي الاختبار الذي أجرته الشركة على نموذج «أوبن إيه آي»، منحت «إريغولار» النموذج - عن طريق الخطأ - صلاحية الوصول إلى شبكة الإنترنت. وعقب ذلك، اخترق النموذج موقعاً إلكترونياً يحمل الاسم نفسه لهدف وهمي كان قد كُلِّف باستهدافه أثناء الاختبار. وقد كشفت «أوبن إيه آي» عن هذه الحادثة في تدوينة نُشرت هذا الشهر. وفي سياق منفصل، أجرت الشركة اختباراً داخلياً هاجمت فيه برمجياتها الآلية منصة Hugging Face، وهي مكتبة رقمية لتقنيات الذكاء الاصطناعي.

نموذج «أنثروبيك»

أما خلال اختبار نظام الذكاء الاصطناعي التابع لشركة «أنثروبيك»، فقد واجه نموذج الشركة ثلاث حالات أتيحت له فيها فرصة الوصول إلى الإنترنت، وذلك وفقاً لتقرير مراجعة للحادثة نشرته الشركة نفسها. وفي إحدى تلك الحالات، اختار النموذج عدم المضي قُدماً في الهجوم. وفي المرتين الأخريين، استخدم النموذج تقنيات اختراق بسيطة - مثل استغلال كلمات مرور ضعيفة - لاختراق مواقع إلكترونية. ولم تستجب «أنثروبيك» لطلبات التعليق، كما لم تكشف عن هوية المواقع التي تعرضت للاختراق.

نموذج «ميتا»

وفيما يتعلق بحادثة الاختبار الخاصة بشركة «ميتا»، فإن التفاصيل المتاحة شحيحة؛ إذ ذكرت الشركة أن نماذج الذكاء الاصطناعي التابعة لها اخترقت مؤسسة أخرى أثناء الاختبار الذي أجرته «إريغولار»، وذلك «بطريقة مشابهة لحالات أُبلغ عنها سابقاً مع شركات أخرى»، دون الخوض في مزيد من التفاصيل. وصرّحت «ميتا» قائلة: «نحن نجري تحقيقاً حالياً، وسنصدر تقييماً شاملاً ومفصلاً بمجرد توفر جميع الحقائق لدينا».

وفي تدوينة نُشرت هذا الشهر، أوضح السيد لاهف أن «إريغولار» عالجت خطأ الإعدادات، وأن جميع المشكلات كانت ناجمة عن تلك «المشكلة الجوهرية» الواحدة. كما أشار إلى أن نماذج الذكاء الاصطناعي نفذت المهام المطلوبة منها أثناء الاختبارات؛ إذ عدّ أن قرارات النماذج بالاتصال بالإنترنت كانت جزءاً مما يراه قدرة متنامية بسرعة لدى الذكاء الاصطناعي على إيجاد طرق مختصرة وحلول للعقبات. وباختصار، قال: «لقد أصبحت نماذج الذكاء الاصطناعي بارعة للغاية».

الاختراق كان مشابهاً لاختراق قراصنة تدعمهم دول

وصرّح أندرو شوكا، الرئيس التنفيذي لشركة «Hardshell» المتخصصة في الذكاء الاصطناعي وفي الأمن السيبراني بأن عمليات الاختراق التي نفذتها نماذج الذكاء الاصطناعي كانت من النوع الذي يُنسب عادةً إلى قراصنة تدعمهم دول، الذين يكرسون «أشهراً للتخطيط» لعملياتهم.

وتساءل قائلاً: «كيف يمكنك اختبار نموذج بينما لا تدرك كامل قدراته؟»، مشدداً على ضرورة أن يفترض الباحثون دائماً أن قدرات الذكاء الاصطناعي تفوق التوقعات، وأن يعملوا على إضافة «طبقات متعددة من تدابير الحماية».

إبطاء وتيرة تطوير الذكاء الاصطناعي

وأيدت شركتا «أوبن إيه آي» و«أنثروبيك» رسالةً وقّعها أكثر من 1000 موظف في كبرى شركات الذكاء الاصطناعي، تطالب الحكومة الأميركية بالمساعدة في إيجاد سبل لإبطاء وتيرة تطوير هذه التكنولوجيا. كما طرح مشرعون من الحزبين الجمهوري والديمقراطي مشروع قانون يلزم شركات الذكاء الاصطناعي بتوفير «مفتاح إيقاف طوارئ» (kill switch) لتعطيل نماذجها أو إبطاء عملها عند الضرورة.

* خدمة «نيويورك تايمز»