الذكاء الاصطناعي في مستشفى «مورفيلد»: حين ترى الخوارزمية ما يغيب عن أعين البشر

نظم تعيد رسم خريطة تشخيص أمراض العيون

الذكاء الاصطناعي في مستشفى «مورفيلد»: حين ترى الخوارزمية ما يغيب عن أعين البشر
TT

الذكاء الاصطناعي في مستشفى «مورفيلد»: حين ترى الخوارزمية ما يغيب عن أعين البشر

الذكاء الاصطناعي في مستشفى «مورفيلد»: حين ترى الخوارزمية ما يغيب عن أعين البشر

أعلنت وزارة الصحة البريطانية الأسبوع الماضي، تقريرها السنوي حول أداء المستشفيات. وبين عشرات الأسماء التي تزاحمت في القائمة، برز اسم مألوف لعالم العيون: «مستشفى مورفيلد للعيون»، متربعاً على القمة بوصفه أفضل مستشفى عيون في المملكة المتحدة، ويُعدّ – عن جدارة – أفضل مستشفى عيون في العالم.

قد يبدو الخبر للوهلة الأولى شأناً بريطانياً محضاً، لكن من يعرف مكانة «مورفيلد» يدرك أن صداه يتجاوز لندن ليصل إلى العواصم العربية؛ فهو ليس مجرد مستشفى، بل مدرسة عريقة ومختبر نابض يزاوج بين حكمة الأطباء ودقة الخوارزميات.

هناك، حيث تتلاقى الخبرة السريرية مع أحدث تقنيات الذكاء الاصطناعي، تتبدّل قواعد التشخيص. ولم تعد شبكية العين مجرد لوحة يحدق فيها الطبيب عبر عدسة مكبرة؛ صارت سطراً من البيانات تتسابق الخوارزميات لتحلّ رموزه، كاشفة عن أدق العلامات قبل أن تراها العين البشرية.

مشهد من داخل «مورفيلد»

تخيّل أنك تـتجوّل في أروقة مستشفى مورفيلد للعيون (Moorfield’s Eye Hospital)؛ الجدران البيضاء ينعكس عليها ضوء هادئ، والأجهزة الحديثة تصطفّ بدقة، من كاميرات التصوير المقطعي البصري التوافقي (Optical Coherence Tomography – OCT) إلى أجهزة تصوير الشبكية التقليدية.

في إحدى القاعات، يجلس أطباء العيون جنباً إلى جنب مع خبراء البيانات، يحدّقون في شاشات عالية الدقة تعرض صوراً لطبقات الشبكية بتفاصيل مذهلة.

وإلى جوارهم تعمل خوارزميات التعلّم العميق (Deep Learning)، تبحث في أعماق الصور عن أنماط دقيقة قد تغيب عن عين الإنسان. خلال ثوانٍ قليلة، تُصدر هذه الخوارزميات تقارير واضحة تحدد ما إذا كان المريض يعاني من:

- اعتلال الشبكية السكري (Diabetic Retinopathy)

- الماء الأبيض / إعتام عدسة العين (Cataract)

- التنكس البقعي المرتبط بالعمر (Age-Related Macular Degeneration – AMD)

تظهر النتائج على الشاشة في صورة خريطة حرارية ملوّنة، تبرز النقاط التي لفتت انتباه الخوارزمية. يبتسم الطبيب، ليس لأن مهمته انتهت، بل لأن هذه «العيون الرقمية» صارت شريكاً يمنحه رؤية أوسع ووقتاً أثمن لاتخاذ القرار العلاجي الصحيح.

بداية القصة: شراكة غيّرت ملامح التشخيص

تعود القصة إلى بضع سنوات، حين اتفق مستشفى مورفيلد للعيون على إقامة تعاون غير مسبوق مع شركة «ديب مايند» (DeepMind) التابعة لـ«غوغل»، وكانت الغاية بسيطة في ظاهرها، لكنها عميقة في أثرها: تدريب الآلة على اكتشاف الأمراض التي قد تسلب البصر قبل أن يتمكن الطبيب من رصدها بعينه المجردة.

بدأ الفريق المشترك بتطوير خوارزميات قادرة على تحليل صور التصوير المقطعي البصري، وهي صور معقدة تكشف عن طبقات الشبكية بتفاصيل دقيقة.

لاحقاً، وُلد مشروع «ريت فاونْد» (RETFound)، وهو ما يُعرف بـالنموذج الأساسي (Foundation Model) في طب العيون، الذي صُمم ليكون بمثابة «المكتبة المركزية» التي تنطلق منها تطبيقات الذكاء الاصطناعي لتشخيص أمراض العين، من اعتلال الشبكية إلى التنكس البقعي، بدقة غير مسبوقة.

كيف تغيّر الخوارزميات قواعد اللعبة؟

الميزة الأبرز لهذه النماذج أنها متسقة (Consistent)؛ لا تعرف الملل، ولا تتأثر بضغط العمل أو قلة النوم، بل تقدّم حكماً متوازناً كل مرة. ثم إنها مدفوعة بالبيانات (Data-Driven)؛ إذ تعلّمت من ملايين الصور الملتقطة من مرضى حقيقيين، بما في ذلك حالات نادرة لا يلتقي بها الطبيب إلا مرة كل أعوام عدة.

في دراسة حديثة نُشرت في سبتمبر (أيلول) 2025 بقيادة الباحث د. ديفيد كراب (Dr. David Crabb) من مستشفى مورفيلد للعيون بالتعاون مع جامعة يونيفرسيتي كوليدج لندن UCL))، أظهر نظام ذكاء اصطناعي قدرة مذهلة على كشف اعتلال الشبكية السكري بدقة تجاوزت 97 في المائة، وهو مستوى يضاهي – وأحياناً يتفوّق على – متوسط أداء استشاري العيون عند قراءة الصور وحدها.

أما في حالة التنكس البقعي المرتبط بالعمر، فقد أثبتت الخوارزميات قدرتها على التنبؤ بخطر فقدان البصر قبل أن تظهر الأعراض السريرية، مانحة الأطباء فرصة ذهبية للتدخل المبكر.

وبالنسبة إلى الماء الأبيض، فلا تزال الأبحاث في مراحلها الأولى، إلا أن المؤشرات الأولية تبشّر بإمكانية استخدام الذكاء الاصطناعي لفرز الحالات وتحديد أولويات الجراحة؛ ما يخفف الضغط عن العيادات ويمنح المرضى مساراً أسرع نحو العلاج.

فرصة للعالم العربي

هنا يطل السؤال: ماذا يعني هذا لنا في الشرق الأوسط؟ الجواب: فرصة تاريخية.

في منطقتنا، تتزايد أمراض العيون بوتيرة مقلقة مع ارتفاع معدلات السكري؛ إذ تشير تقديرات حديثة إلى أن نسبة السكري في بعض دول الخليج تصل إلى أكثر من 30 في المائة، بينما تبلغ نسبة اعتلال الشبكية السكري بين المصابين بالسكري نحو خُمس المرضى في المتوسط، وقد ترتفع في بعض المناطق لتتجاوز نصف الحالات.

هذه الأرقام تفتح أعيننا على حجم التحدي؛ فعدد كبير من المرضى قد لا يحصل على التشخيص المبكر؛ ما يعرضهم لخطر فقدان البصر.

لذلك؛ فإن إدخال تقنيات مثل تلك التي يطورها مستشفى مورفيلد للعيون، أو بناء شراكات بحثية مع مراكزه، يمكن أن يُحدث نقلة نوعية في رعاية البصر في العالم العربي. الجامعات والمستشفيات هنا تستطيع اعتماد نماذج ذكاء اصطناعي مفتوحة المصدر، وإعادة تدريبها على بيانات محلية تراعي لون البشرة، أنماط الغذاء، والعوامل الوراثية في مجتمعاتنا، لتصل إلى دقة أعلى في التشخيص.

غير أن النجاح لن يتحقق بلا استثمار حقيقي: أجهزة تصوير متقدمة، مختبرات بيانات، وبرامج تدريبية تصنع خبراء يجمعون بين مهارة الطب وفهم لغة الخوارزميات، ليُحوّلوا الإمكانات النظرية واقعاً ينقذ البصر ويصون جودة الحياة.

لماذا يظل الطبيب في الصورة؟

على الرغم من كل هذه القفزات التقنية، ما زال الطريق طويلاً قبل أن نُسلِّم أعيننا للخوارزميات وحدها. فالذكاء الاصطناعي بارع في تحليل الصور والتقاط الأنماط الخفية، لكنه – حتى هذه اللحظة – عاجز عن القيام بدور الطبيب في الإصغاء إلى شكوى المريض، وطرح الأسئلة المناسبة عن تاريخه الصحي، وطمأنته عندما يتوجّس من التشخيص.

ثم إن جودة هذه النماذج مرهونة بما تُغذّى به من بيانات؛ فإذا كانت الصور التي دُرّب عليها النظام محصورة في بيئة أو فئة سكانية محددة، فقد يتعثر عند التعامل مع مرضى من خلفيات مختلفة أو أنماط مرضية غير مألوفة.

وفوق ذلك، تقف أمامنا تساؤلات أخلاقية وقانونية: من يتحمل المسؤولية إذا أخطأت الخوارزمية؟ كيف نضمن سرية بيانات المرضى وحمايتها من إساءة الاستخدام؟ هذه القضايا لا تنفصل عن كل ابتكار، بل ترافقه كظله، لتذكّرنا بأن التقنية مهما بلغت دقتها، لا يمكن أن تُغني عن دور الإنسان وحكمته في حماية المريض وصون كرامته.

بين الدقّة الرقمية وحسّ الطبيب

في نهاية المطاف، يبقى الذكاء الاصطناعي أداةً مساعدة، لا غاية بحدّ ذاته. إنه أشبه بمصباح يضيء الزوايا الخفية، لكن من يحمل المصباح هو الطبيب، بخبرته، وحدسه، وتعاطفه، وقدرته على قراءة ما وراء الأرقام.

ولم يقتصر دور مستشفى مورفيلد للعيون على تطوير الخوارزميات في مختبراته، بل امتدّ ليصل إلى المنطقة العربية، حيث أقيمت مراكز وشراكات طبية تسعى لنقل خبرته العالمية إلى مستوى إقليمي؛ ما أتاح فرصاً لتبنّي تقنيات التشخيص الحديثة وتدريب الكوادر المحلية، حيث إن هناك مفاوضات لتكون لهذا المستشفى العريق مراكز إقليمية في المملكة العربية السعودية.

ومهما بلغت دقّة الخوارزميات، فإنها تظل في حاجة إلى الطبيب.

يمكننا استلهام تجربة «مورفيلد»، وتطويعها لاحتياجاتنا المحلية، لنصنع منظومات ذكية تحمي بصر الملايين، وتمنح كل مريض فرصة لعيش حياة أوضح وأكثر كرامة.

وكما قال ابن الهيثم – رائد البصريات في حضارتنا –: «إذا كان العمل في طلب الحق شاقّاً، فكل ما يُثمره من نور أعظم قيمة».

إن بناء شراكة بين العلم والرحمة، بين الدقة الرقمية وحسّ الطبيب، هو السبيل لنورٍ جديد في رعاية العيون، حيث تتلاقى خوارزميات المستقبل مع حكمة الإنسان لتصنع معاً رؤية أوسع وأكثر إشراقاً.


مقالات ذات صلة

«كاسبرسكي» لـ«الشرق الأوسط»: مخاوف «أنثروبيك» تعكس تحولاً أوسع بالمخاطر السيبرانية

خاص تكشف المخاوف المرتبطة بنموذج «أنثروبيك» عن تحول أوسع في المخاطر السيبرانية (رويترز)

«كاسبرسكي» لـ«الشرق الأوسط»: مخاوف «أنثروبيك» تعكس تحولاً أوسع بالمخاطر السيبرانية

تكشف مخاوف «أنثروبيك» تحولاً أوسع حول إعادة الذكاء الاصطناعي تشكيل المخاطر السيبرانية على البنوك ما يوسع الهجوم والدفاع معاً بسرعة

نسيم رمضان (لندن)
تكنولوجيا مؤيدو الذكاء الاصطناعي يرون أنه يحمل إمكانات هائلة لإحداث ثورة في الطب (رويترز)

خبراء يُحذرون: الذكاء الاصطناعي يكشف عن طرق خطيرة لتطوير أسلحة بيولوجية

في وقت يتسارع فيه تطوّر تقنيات الذكاء الاصطناعي بوتيرة غير مسبوقة، تزيد المخاوف بشأن إساءة استخدام هذه الأدوات في مجالات حساسة وخطيرة.

«الشرق الأوسط» (واشنطن)
تكنولوجيا تصميم أنيق بأداء متقدم وبطارية لا تنتهي

هاتف «أونر 600»: تكامل الذكاء الاصطناعي التوليدي مع الأداء المتقدم

يحول الصور إلى أفلام سينمائية بسهولة بالغة وعروض فيديو إبداعية عبر أوامر نصية بسيطة.

خلدون غسان سعيد (جدة)
خاص توماس كوريان الرئيس التنفيذي لـ«غوغل كلاود» متحدثاً لـ«الشرق الأوسط» (الشرق الأوسط)

خاص الرئيس التنفيذي لـ«غوغل كلاود»: مراكز بياناتنا «مقاوِمَة للأزمات» ولا ترتبط بحدود

بينما تفرض التوترات الإقليمية تحديات على البنية التحتية، تعيد «غوغل» صياغة مفهوم استمرارية الأعمال عبر دمج الحصانة الرقمية بالذكاء الاصطناعي المؤسسي.

نسيم رمضان (لاس فيغاس)
الاقتصاد «رؤية 2030»: حكاية التحول من الإدارة التقليدية إلى الريادة الرقمية العالمية

«رؤية 2030»: حكاية التحول من الإدارة التقليدية إلى الريادة الرقمية العالمية

انطلقت السعودية في مسار التحوُّل الرقمي والاقتصاد المعرفي، مستندةً إلى بنية تحتية رقمية مُتقدِّمة وبناء معرفي تراكم عبر سنوات طويلة، ما عزز قدرتها على المنافسة.

عبير حمدي (الرياض)

«دودة الزومبي» تعود إلى الحياة بعد 24 ألف عام... وتبدأ بالتكاثر

«دودة الزومبي» حيوان مجهري متعدد الخلايا (أرشيفية - أ.ف.ب)
«دودة الزومبي» حيوان مجهري متعدد الخلايا (أرشيفية - أ.ف.ب)
TT

«دودة الزومبي» تعود إلى الحياة بعد 24 ألف عام... وتبدأ بالتكاثر

«دودة الزومبي» حيوان مجهري متعدد الخلايا (أرشيفية - أ.ف.ب)
«دودة الزومبي» حيوان مجهري متعدد الخلايا (أرشيفية - أ.ف.ب)

استخرج العلماء حيواناً مجهرياً أطلقوا عليه اسم «دودة الزومبي» من التربة الصقيعية في سيبيريا، ثم قاموا بإذابة الصقيع، وراقبوا الحيوان وهو يستيقظ ويتكاثر.

ووفق ما ذكره موقع «فايس»، كان هذا الكائن متجمداً منذ أواخر العصر البليستوسيني، حين كان الماموث الصوفي لا يزال موجوداً. ودخل في سبات دام نحو 24 ألف عام، ثم «عاد وكأن شيئاً لم يكن».

هذا الكائن هو «دوارة بديلويدية»، وهي حيوان متعدد الخلايا صغير الحجم، يبلغ طوله نحو نصف مليمتر، ويوجد عادة في بيئات المياه العذبة. وهي معروفة بين العلماء بقدرتها شبه المطلقة على البقاء، إذ تنجو من الإشعاع والجفاف والبرد القارس ونقص الأكسجين.

وقام باحثون من مختبر بقايا التربة الروسي بالحفر إلى عمق نحو 3.5 متر في منطقة نهر ألازيا بشمال شرقي سيبيريا، واستخرجوا «عينة لُبية»، وقاموا بتأريخها بالكربون المشع، فوجدوا أن عمرها يتراوح بين 23 ألفاً و960 عاماً و24 ألفاً و485 عاماً. ثم قاموا بإذابتها.

ولم يقتصر الأمر على عودة الدوارة للحركة، بل تكاثرت لا جنسياً أيضاً، مُنتجة المزيد منها. لقد استنسخت نفسها. وبالكاد أتيحت للعلماء فرصة تحديد الكائنات القديمة والنسل الجديد قبل أن يتزايد عددها.

وتُعرف آلية البقاء التي لجأ إليها الكائن باسم «السبات الخفي»، وهي حالة ينخفض ​​فيها النشاط الأيضي إلى الصفر تقريباً؛ حيث يدخل الكائن الحي في نوع من السكون البيولوجي (ليس ميتاً ولا حياً بأي شكل من الأشكال)، بل في حالة انتظار.

ويُعلق هذا الكائن عملية الأيض ويُراكم مركبات معينة، مثل البروتينات المرافقة، التي تُساعده على التعافي من السبات الخفي عندما تتحسن الظروف، كما صرّح الباحث الرئيسي للدراسة في مختبر بقايا التربة، ستاس مالافين.

وقال مالافين: «يُعدّ تقريرنا أقوى دليل حتى الآن على قدرة الحيوانات متعددة الخلايا على البقاء لعشرات آلاف السنين في حالة السبات الخفي، وهي حالة توقف شبه كامل لعملية الأيض».

وما يجعل هذا الاكتشاف إنجازاً كبيراً هو مدى تعقيد «دودة الزومبي». وسبق أن تمت إعادة كائنات وحيدة الخلية من الجليد. أمّا حيوان متعدد الخلايا ذو جهاز هضمي وجهاز عصبي بدائي نجا من 24 ألف عام وهو متجمد تماماً، فهو أمر مختلف تماماً.

وكان الحد الأقصى المعروف سابقاً لبقاء الدوارات البدائية في حالة الخمول البيولوجي يتراوح بين 6 و10 سنوات. أما الاكتشاف الجديد فيماثل نحو 2400 ضعف المدة السابقة.

وهناك جانب آخر مثير هنا. فمع ذوبان التربة الصقيعية بوتيرة متسارعة، بدأت الميكروبات والبكتيريا والفيروسات القديمة، التي ظلت حبيسة الجليد لآلاف السنين، بالخروج. ولم يُربط أي من الفيروسات الذائبة التي دُرست حتى الآن بأمراض بشرية، لكن العلماء يراقبون الوضع من كثب.


التكلفة وصعوبة التعلُّم والثقة... أهم معوقات التوسع في توظيف الذكاء الاصطناعي

التكلفة وصعوبة التعلُّم والثقة... أهم معوقات التوسع في توظيف الذكاء الاصطناعي
TT

التكلفة وصعوبة التعلُّم والثقة... أهم معوقات التوسع في توظيف الذكاء الاصطناعي

التكلفة وصعوبة التعلُّم والثقة... أهم معوقات التوسع في توظيف الذكاء الاصطناعي

لم تعد الشركات الصغيرة مسرح تجارب للذكاء الاصطناعي؛ بل أصبحت تدمجه بنشاط في عملياتها اليومية. وفي كثير من الحالات، تعتمد عليه للحفاظ على قدرتها التنافسية، كما كتبت إليزابيث غور*.

استطلاع جديد

كيف تستخدم الشركات الصغيرة الذكاء الاصطناعي فعلياً؟ تؤكد بيانات جديدة من استطلاع «مين ستريت رايزينغ تور» Main Street Rising Tour survey الذي أجرته شركة «هيلو أليس» بالشراكة مع «باي بال» و«غوغل»، مدى سرعة هذا التحول والتحديات التي لا تزال قائمة.

وحسب البحث:

- الحماس للذكاء الاصطناعي: أعرب 81 في المائة من أصحاب المشاريع الصغيرة عن ذلك.

- الاستخدام اليومي: أفاد 47 في المائة فقط باستخدامه بشكل يومي.

- عامل حاسم: يتوقع 51 في المائة منهم أن يكون الذكاء الاصطناعي عاملاً حاسماً في أعمالهم خلال العامين المقبلين، ما يعكس تحولاً أوسع من مجرد الفضول إلى الاعتماد عليه على المدى الطويل.

أسباب استخدام الذكاء الاصطناعي

وقد بدأ هذا التبني يُترجم بالفعل إلى تغييرات تشغيلية ملموسة؛ إذ أفاد أصحاب المشاريع الصغيرة باستخدام الذكاء الاصطناعي لأسباب متنوعة:

- للمحتوى التسويقي: 73.2 في المائة.

- للبحوث: 67.3 في المائة.

- للأنظمة التشغيلية: 39.4 في المائة.

ولا تقتصر هذه الاستخدامات على كونها إضافات لتسهيل العمل فحسب؛ بل وأيضاً:

- العمل بكفاءة أكبر: قال 70 في المائة من المشاركين في الاستطلاع، إن الذكاء الاصطناعي يساعدهم على العمل بكفاءة أكبر.

- تحسينات في تجربة العملاء، وفقاً لـ38.6 في المائة منهم.

- انخفاض في تكاليف التشغيل، حسب 35.7 في المائة منهم.

معوقات التوسع في توظيفه

ما الذي يعيق التوسع في تبنِّي الذكاء الاصطناعي؟ على الرغم من هذا الزخم، إلا أن التبني لا يزال يواجه صعوبات جمة.

- التكلفة: أفاد نحو 32.9 في المائة من المشاركين في الاستطلاع بأنهم لا ينفقون شيئاً على أدوات الذكاء الاصطناعي شهرياً، ما يشير إلى أن حساسية التكلفة المادية وعدم اليقين لا يزالان يؤثران على حجم استثمارات الشركات.

- عوائق عملية: والأهم من ذلك أن العوائق التي يحددها أصحاب المشاريع الصغيرة هي في معظمها عوائق عملية. ويذكر أصحاب المشاريع الصغيرة صعوبة التعلم، والثقة في الأدوات، وخصوصية البيانات، كأهم مخاوفهم.

ويبدو أن هناك مخاوف بشأن خصوصية البيانات، والملكية الفكرية، وسرعة طرح خدمات الشركات لأدوات الذكاء الاصطناعي الجديدة لأصحاب الأعمال.

نتائج واتجاهات

وتعقيباً على النتائج، قال كريس تيرنر، المدير التنفيذي في «غوغل»: «لا يمكننا الاستمرار في دفع تبنِّي الذكاء الاصطناعي إلى عامة الناس؛ إذ لا بد من توفير التوعية والموارد وبناء الثقة».

وتعكس هذه النتائج اتجاهات وطنية أوسع؛ إذ تُظهر بيانات من غرفة التجارة الأميركية و«غولدمان ساكس»، أن تبنِّي الذكاء الاصطناعي يزداد بسرعة؛ حيث يستخدمه الآن ما يقرب من 60 في المائة من الشركات الصغيرة. وبينما أفاد 93 في المائة من الشركات بوجود تأثير إيجابي له، لم يدمج سوى 14 في المائة منها الذكاء الاصطناعي بشكل كامل في عملياتها الأساسية. وتقول الأغلبية إنها بحاجة إلى مزيد من التدريب والدعم لاستخدامه بفعالية.

التحول من الأدوات إلى أنظمة الذكاء الاصطناعي المدمجة

مع ازدياد تبنِّي الذكاء الاصطناعي، تتطور أيضاً طريقة تقديمه للشركات الصغيرة. فبدلاً من الاعتماد على مجموعة متفرقة من الأدوات الفردية، بدأت الشركات في تقديم أنظمة أكثر تكاملاً تعمل كامتداد للشركة نفسها.

وتعكس منصة «Accio Work» التي أطلقتها شركة «علي بابا» العالمية أخيراً هذا التحول. فقد صُمم النظام كفريق «وكلاء ذكاء اصطناعي» من دون كتابة رموز كومبيوترية، ويمكنه تنفيذ عمليات معقدة وطويلة الأجل، ودعم مهام تشمل البحث عن الموردين، وإدارة الامتثال، وسير عمل التسويق، والخدمات اللوجستية.

بالنسبة لأصحاب الشركات الصغيرة -وخصوصاً أولئك الذين لا يملكون خلفيات تقنية أو فرق عمل كبيرة- يقلل هذا النوع من الأتمتة من الوقت والخبرة اللازمين لتبنِّي الذكاء الاصطناعي بشكل فعَّال.

سدُّ الفجوة لتسهيل الوصول والاستخدام

في الوقت نفسه، تُركز شركات التكنولوجيا الكبرى على أحد أبرز العوائق التي كشفت عنها بيانات الاستطلاع الجديد، ألا وهو صعوبة التعلم.

وقد وسَّعت «غوغل» مبادراتها التدريبية في مجال الذكاء الاصطناعي، بما في ذلك برنامج للحصول على شهادة احترافية، مصمم لمساعدة الأفراد على اكتساب مهارات عملية في الذكاء الاصطناعي تُؤهلهم لسوق العمل. تهدف هذه البرامج إلى جعل الذكاء الاصطناعي في متناول أصحاب المشاريع الصغيرة الذين قد لا يملكون تدريباً تقنياً رسمياً. وفي الوقت نفسه، تُدمج «باي بال» الذكاء الاصطناعي مباشرة في منصتها، من خلال أدوات جديدة تُساعد الشركات في وظائف أساسية، مثل استهداف العملاء، والعروض الترويجية الآلية.

وأخيراً، فإن من المرجح ألا تُحدَّد المرحلة التالية من تبنِّي الذكاء الاصطناعي بمدى قوة هذه الأدوات؛ بل بمدى سهولة دمجها في واقع إدارة الشركات الصغيرة.

* «إنك»، خدمات «تريبيون ميديا».


«لقد انتهكتُ كل مبدأ حُدّدَ لي»... اعترافات مذهلة لـ«وكيل ذكاء اصطناعي»

«لقد انتهكتُ كل مبدأ حُدّدَ لي»... اعترافات مذهلة لـ«وكيل ذكاء اصطناعي»
TT

«لقد انتهكتُ كل مبدأ حُدّدَ لي»... اعترافات مذهلة لـ«وكيل ذكاء اصطناعي»

«لقد انتهكتُ كل مبدأ حُدّدَ لي»... اعترافات مذهلة لـ«وكيل ذكاء اصطناعي»

تصدرت قصة تحذيرية حديثة حول مخاطر الذكاء الاصطناعي مواقع التواصل الاجتماعي، كما كتب جود كريمر(*).

أداة برمجية ذكية تحذف البيانات

في هذه المرة، ادّعى مؤسس شركة برمجيات أن نسخةً من أداة البرمجة «كيرسور» Cursor، المدعومة ببرنامج «كلود» Claude، حذفت قاعدة بيانات الإنتاج المختزَنة لدى الشركة بالكامل، في غضون تسع ثوانٍ فقط.

تصرف دون إذن... وسوء تخزين

وفي منشورٍ حصد 6.5 مليون مشاهدة على منصة «إكس» زعم جير كرين، مؤسس شركة PocketOS، التي تُطوّر برامج إلكترونية مخصصة لشركات تأجير السيارات، أن سلسلة من الأحداث، مِن بينها تصرف «كيرسور» دون إذن، وسوء تخزين النسخ الاحتياطية (للبيانات) من قِبل شركة ريلواي Railway، المزوّدة لخدمات البنية التحتية لشركته، أدّت إلى فقدان هائل للبيانات.

ووفق كرين، فإن برنامج »كيرسور» كان يؤدي مهمة روتينية عندما «واجه خطأً في بيانات الاعتماد»، فقرر - بمبادرة منه - «إصلاح» المشكلة بحذف وحدة تخزين من نظام «ريلواي». وهكذا نفذ أمر «حذف وحدة التخزين» ومسح قاعدة بيانات الإنتاج.

استخراج نُسخ قديمة من البيانات المحفوظة

وكتب كرين أنه نظراً لأن نظام «ريلواي» يُخزن نسخاً احتياطية إضافية داخل وحدة التخزين نفسها، فقد اضطرت شركته للرجوع إلى نسخة احتياطية عمرها ثلاثة أشهر لضمان استمرارية عملها.

أحدث برنامج ذكي يخرق القواعد

وأكد أن فريقه كان يستخدم أحدث إصدار من «كيرسور»، وهو الإصدار المدعوم بأحدث نموذج كلود من «أنثروبيك» موديل «أوبوس 4.6» Opus 4.6.

وعندما ضغط كرين على برنامج الذكاء الاصطناعي للحصول على تفسير، اعترف البرنامج بانتهاكه المتعمَّد للقواعد التي وضعها نظام PocketOS، بما في ذلك قاعدة «لا تخمن أبداً!»، و«لا تُنفّذ أبداً أوامر تخريبية/لا رجعة فيها (مثل «ادفع- بقوة» push –force، أو «إعادة ضبط المنتج» hard reset... إلخ إلا إذا طلبها المستخدم صراحةً).

انتهاك سافر

وكتب نظام الذكاء الاصطناعي: «لقد انتهكتُ كل مبدأٍ وُضِعَ أمامي: خمّنتُ بدلاً من التحقق. نفّذتُ إجراءً تخريبياً دون استئذان. لم أفهم ما كنتُ أفعله قبل تنفيذه. لم أقرأ وثائق (ريلواي) حول سلوك وحدات التخزين عبر البيئات المختلفة».

اعتراف كتابي بالذنب

وتابع كرين مدّعياً أن «كيرسور» تُسوّق لنفسها على أنها أكثر أماناً مما هي عليه في الواقع. وكتب: «الحقيقة هي وجود سِجلّ موثَّق لأنظمة تنتهك هذه الضمانات، بشكلٍ كارثي أحياناً، وأحياناً مع اعتراف الشركة نفسها بالإخفاقات. في حالتنا، لم يكتفِ النظام بفشله في مجال السلامة، بل شرح كتابياً بالتحديد قواعد السلامة التي تجاهلها».

ولم تردّ كلٌّ من «كيرسور» و«ريلواي» و«أنثروبيك» على طلب مجلة «فاست كومباني» للتعليق.

العبرة من القصة

مع انتشار منشور كرين على نطاق واسع، انقسم المعلّقون حول المغزى الحقيقي من قصته.

وزعم بعض المعلّقين أنه على الرغم من تجاوز برنامج «كيرسور» صلاحياته وعدم كفاية إجراءات الحماية لدى «ريلواي»، لكن فريق كرين يتحمل جزءاً من المسؤولية لمنحه الذكاء الاصطناعي هذه الحرية الكبيرة والوصول إلى بيانات الشركة.

مسؤولية النظم الذكية... ومستخدميها

جاء في أحد الردود التي انتشرت على نطاق واسع: «هذا المنشور رائع لأنه ينتقد الذكاء الاصطناعي بشدة، ويحمّل، في الوقت نفسه، هذا الشخص المسؤولية كاملةً». وكتب معلّق آخر: «من المؤسف أن يقوم برنامج ذكاء اصطناعي بحذف قاعدة بيانات الإنتاج - دون أي وسيلة لعمل نسخة احتياطية - ما يُعرّض الأعمال بأكملها للخطر. لكن اللوم يقع على عاتق المطور الذي قرر تفويض اتخاذ القرارات لبرنامج الذكاء الاصطناعي، ثم لم يراجع الإجراءات، بل خاطر بها دون تفكير».

خروقات سابقة

لا تقتصر مخاطر الاعتماد على الذكاء الاصطناعي على مثال شركتيْ «كيرسور» و«ريلواي»، إذ وقعت فضيحة مماثلة، في فبراير (شباط) الماضي، حين صرّحت مديرة في شركة «ميتا» بأنها شاهدت برنامج OpenClaw يُفرغ بريدها الإلكتروني. وقد تجاهل البرنامج تعليماتها بعدم القيام بأي إجراء دون موافقة. ومع ذلك اعترف البرنامج بتقديم النص التالي: «لقد انتهكتُ التعليمات. من حقكِ أن تغضبي».

وتُجسّد هاتان الحادثتان معاً العبرة الحقيقية لأي شركة تسعى لاستخدام برامج الذكاء الاصطناعي: قد تتصرف هذه التقنية بشكل غير متوقع، نعم، لكن لهذا السبب يقع على عاتق البشر مسؤولية ضبطها.

* مجلة «فاست كومباني».