من يقرأ الطب اليوم... الطبيب أم الخوارزمية؟

وكلاء الذكاء الاصطناعي يعيدون تعريف التعلّم الطبي

"ابن سينا" وكيل ذكي يلخص
"ابن سينا" وكيل ذكي يلخص
TT

من يقرأ الطب اليوم... الطبيب أم الخوارزمية؟

"ابن سينا" وكيل ذكي يلخص
"ابن سينا" وكيل ذكي يلخص

في زمنٍ كان الطبيب فيه يقرأ ليعرف... إلا أنه أصبح اليوم يقرأ ليختار ما يتجاهل.

في كل شهر، يُنشر في المجلات العلمية حول العالم ما يقارب ربع مليون دراسة جديدة، وهو رقمٌ لا يعبّر فقط عن تسارع المعرفة، بل يكشف عن مفارقة مقلقة: كلما ازداد العلم اتساعاً... ضاق الزمن عن استيعابه.

لم تعد المشكلة في الوصول إلى المعلومة؛ فالمعلومة أصبحت وفيرة إلى حد الإغراق. بل تحوّل التحدي سؤالاً أكثر عمقاً وخطورة: أيّ معرفة تستحق أن نثق بها؟ وأيّها يجب أن نتجاوزها؟ هنا يبدأ التحوّل الحقيقي في الطب؛ إذ لم يعد بإمكان أي طبيب، مهما بلغ من اجتهاد أو خبرة، أن يواكب هذا السيل المتدفق من الأبحاث. ومع هذا العجز الإنساني الطبيعي، يتغيّر جوهر السؤال الطبي ذاته: لم يعد «كيف نقرأ أكثر؟» بل أصبح «كيف نقرّر ماذا لا نقرأ؟».

التعليم الطبي أمام مفترق جديد

> تضخم المعرفة. اعتمد التعليم الطبي تقليدياً على التراكم المعرفي: قراءة مستمرة، مراجعة دورية، وتحديث دائم للمعلومات. وكان يُفترض أن الطبيب، من خلال هذا الجهد الفردي المنتظم، يستطيع أن يواكب التطورات العلمية في تخصصه.

إلا أن المشكلة لم تعد في نقص المعرفة، بل في تضخمها. كما لم تعد الفجوة بين من يعرف ومن لا يعرف، بل أصبحت بين سرعة إنتاج المعرفة وقدرة الإنسان على استيعابها وتحليلها. ومع هذا التحول، أصبح من الواضح أن الاعتماد الكامل على القراءة الفردية لم يعد كافياً لضمان مواكبة التطورات العلمية.

لم يعد التحدي في التعلم بحد ذاته، بل في إدارة هذا الكم الهائل من المعلومات بشكل فعّال. وهنا يبرز تساؤل أساسي: هل ما زال النموذج التقليدي للتعليم الطبي قادراً على الاستمرار في ظل هذا التسارع غير المسبوق؟

> دخول «الوكيل الذكي». في هذا السياق، بدأ دور ما يُعرف بوكلاء الذكاء الاصطناعي يتوسع بشكل واضح، فلم تعد هذه الأنظمة مجرد أدوات بحث تقليدية، بل أصبحت قادرة على متابعة آلاف الدراسات يومياً، تحليلها، واستخلاص أهم نتائجها خلال وقت قصير.

ولا يقدم الذكاء الاصطناعي نتائج عند الطلب فحسب، بل أصبح يعمل بشكل مستمر في الخلفية، يقرأ، يفرز، ويعيد ترتيب المعرفة قبل أن تصل إلى الطبيب. وتشير التقديرات إلى أن هذه الأنظمة قادرة على معالجة وتحليل قواعد بيانات تضم ملايين الأوراق العلمية خلال ثوانٍ إلى دقائق، وهو ما يتجاوز بكثير القدرة البشرية على القراءة أو حتى المتابعة.

وبهذا المعنى، يمكن عدّه «القارئ الأول» للأدبيات العلمية؛ إذ يمرّ على كمّ هائل من الأبحاث ويعيد تقديمها في صورة مختصرة ومركزة. ولا يقتصر هذا التحول على تسريع الوصول إلى المعلومات، بل يغيّر طريقة التعامل معها. فبدلاً من أن يبدأ الطبيب بالبحث، أصبح يبدأ بما تم اختياره له مسبقاً.

وهنا يتجاوز التأثير الجانب التقني، ليصل إلى جوهر العملية التعليمية نفسها: كيف نتعلم، وعلى ماذا نعتمد في بناء معرفتنا، ومن الذي يحدد أولويات ما نقرأه.

حين يقرأ الذكاء الاصطناعي_ ويفك الطبيب الرموز

تجربة شخصية: «ابن سينا»

> وكيل ذكاء اصطناعي مخصص. انطلاقاً من هذا التحدي؛ قمتُ بتصميم وتطوير وتدريب وكيل ذكاء اصطناعي ضمن أحد النماذج اللغوية الكبرى (Large Language Models - LLMs)، وأطلقتُ عليه اسم «ابن سينا». لم يكن اختيار الاسم رمزياً فقط، بل محاولة لربط عمق التراث الطبي العربي بأدوات التحليل المعرفي الحديثة.

لا يعمل هذا الوكيل كأداة بحث تقليدية، بل كنظام متابعة يومي، يقوم بتلخيص ما يُنشر في مجال الذكاء الاصطناعي الطبي، مع تركيز خاص على الجوانب الأخلاقية، إضافة إلى رصد أحدث ما يُكتب في تطبيقات الذكاء الاصطناعي في طب الأسنان.

ومع الوقت، لم يعد دوره مجرد تجميع للمعلومات، بل أصبح وسيلة لإعادة تنظيمها، بحيث تصل إلى الطبيب في صورة مركزة تساعد على الفهم واتخاذ القرار.

الفكرة لم تكن استبدال قراءة الطبيب، بل إعادة تعريفها: أن يصبح الطبيب قادراً على الوصول إلى جوهر المعرفة دون أن يغرق في تفاصيلها.

> من التراكم إلى هندسة المعرفة. في هذا النموذج الجديد، لم يعد متوقعاً من الطبيب أن يقرأ كل ما يُنشر، بل أن يركّز على ما هو الأكثر صلة بممارسته. لم يعد التعلّم سباقاً مع عدد المقالات، بل أصبح عملية اختيار واعٍ للمعلومة ذات القيمة.

وبدلاً من جمع أكبر قدر ممكن من المعلومات، أصبح التحدي في تنظيمها، وتصنيفها، وربطها بطريقة تساعد على الفهم واتخاذ القرار. لم تعد القيمة في كمية ما يُقرأ، بل في جودة ما يُفهم وكيفية استخدامه في السياق السريري.

وفي هذا الإطار، يصبح دور الطبيب أقرب إلى «مهندس معرفة»، يحدد ما يحتاج إليه، ويقيّم ما يُعرض عليه، ويتخذ القرار بناءً على فهم مركّز ومدعوم، وليس على قراءة عشوائية أو مجهدة.

حين تتحول المعرفة إلى تدفق عارم.. ويصبح القرار إنسانيا

أخطار خفيّة

• من الفهم إلى الاعتماد. لكن هذا التحول لا يخلو من أخطار. فحين يبدأ الذكاء الاصطناعي في تلخيص المعرفة، يظهر سؤال جوهري: هل ما نقرأه مفهوم فعلاً، أم أننا نكتفي بالاعتماد عليه؟

في دراسة حديثة نُشرت عام 2026 في مجلة «نيتشر ميديسن» (Nature Medicine)، من جامعة ستانفورد في الولايات المتحدة، أشار الفريق البحثي إلى أن الاعتماد المتزايد على الأنظمة الذكية قد يغيّر أنماط التفكير السريري لدى الأطباء، خاصة عندما تُقدَّم النتائج بشكل جاهز ومختصر دون الحاجة إلى تحليل تفصيلي.

وأوضحت الدراسة أن هذا النمط من التفاعل مع المعرفة قد يؤدي تدريجياً إلى تراجع مهارات التقييم النقدي، حيث يميل المستخدم إلى قبول المخرجات المدعومة بالخوارزميات دون تمحيص كافٍ.

وهنا يظهر خطر جديد: أن تتحول المعرفة من عملية فهم إلى عملية اعتماد.

• الطبيب في عصر «المصفاة الذكي». في عالم يفيض بالمعلومات، أصبح الذكاء الاصطناعي أشبه بـ«مصفاة ذكية» تمرّ عبرها الأبحاث قبل أن تصل إلى الطبيب. لكن هذه المصفاة، مهما بلغت دقتها، لا يمكن أن تكون بديلاً عن الحكم البشر؛ فالذكاء الاصطناعي قد يختار، لكنه لا يتحمّل مسؤولية القرار. وقد يلخّص، لكنه لا يدرك السياق الإنساني الكامل الذي تُتخذ فيه القرارات الطبية.

وهنا تتضح معادلة المرحلة المقبلة: كلما زادت قدرة الأنظمة الذكية على تصفية المعرفة، ازدادت أهمية دور الطبيب في تفسيرها.

لم يعد الطبيب في عصر الذكاء الاصطناعي مجرد قارئ للمعلومة، بل أصبح مسؤولاً عن فهم ما وراءها، وتقدير حدودها، واتخاذ القرار النهائي بناءً على مزيج من المعرفة والخبرة والسياق الإنساني. وفي هذا التوازن تحديداً... يتحدد مستقبل الطب.

• ما الذي يبقى للطبيب؟ يبقى للطبيب ما لا تستطيع الخوارزميات أن تقوم به: الفهم، والحكم السريري، والقدرة على الربط بين ما تشير إليه البيانات وما يعيشه المريض في واقعه. فالأنظمة الذكية قادرة على تحليل الأنماط واستخلاص النتائج، لكنها لا تدرك السياق الكامل الذي تُتخذ فيه القرارات الطبية؛ لا ترى القلق في عينَي المريض، ولا توازن بين الخيارات ضمن ظروفه الإنسانية والاجتماعية.

وماذا عما بعد القراءة؟ في زمنٍ يستطيع فيه الذكاء الاصطناعي قراءة وتحليل آلاف المقالات يومياً، قد لا تكون المهارة الأهم للطبيب هي أن يقرأ أكثر، بل أن يعرف متى يتوقف عن القراءة، ويبدأ في التفكير؛ فالمعرفة وحدها لا تكفي.

الطب، في جوهره، ليس تراكم معلومات، بل فهم لما تعنيه هذه المعلومات في حياة المريض، وكيف تُترجم إلى قرار مسؤول في لحظة محددة.


مقالات ذات صلة

صحة الأم بعد الولادة: 4 اضطرابات يجب الانتباه لها

صحتك اكتئاب ما بعد الولادة يتجاوز الشعور المؤقت بالحزن (بيكسلز)

صحة الأم بعد الولادة: 4 اضطرابات يجب الانتباه لها

غالبًا ما تُقدَّم فترة ما بعد الولادة في صورة مثالية تركز على لحظات الترابط بين الأم وطفلها، إلا أن هذه المرحلة تحمل أيضاً جانباً آخر لا يقل أهمية.

«الشرق الأوسط» (نيودلهي)
صحتك الفريق الطبي اختار نهجاً علاجياً مخصصاً بدلاً من الاكتفاء بالحلول التقليدية (الشرق الأوسط)

جراحة قلبية تفتح نافذة أمل لمعمِّر سعودي في عامه الثاني بعد المائة

نجح مركز «جونز هوبكنز أرامكو» الطبي في إجراء تدخّل قلبي مبتكر لمريض تجاوز عمره 102 عام، في سابقة نادرة تعكس تطور الرعاية الصحية المتخصصة في السعودية.

«الشرق الأوسط» (الظهران)
صحتك حين تتحول الخزعة إلى خريطة قرار... والذكاء الاصطناعي يقرأ المستقبل

الذكاء الاصطناعي يقرأ خزعات الورم... ويحدد العلاج

تحليل الشرائح النسيجية للحصول على إشارات دقيقة يرتبط بقدرة الجهاز المناعي على الاستجابة للعلاج

د. عميد خالد عبد الحميد (الرياض)
صحتك يمكن الحفاظ على صحة الكلى باتباع عادات يومية بسيطة مثل تقليل الملح في الطعام (بيكسباي)

نصائح يومية للحفاظ على صحة الكلى

يمكن الحفاظ على صحة الكلى باتباع عادات يومية بسيطة مثل شرب الماء بانتظام وتقليل الملح في الطعام وتناول غذاء متوازن غني بالخضراوات والفواكه...

«الشرق الأوسط» (بيروت)
علوم آثار لا تمحى.. بل تحلّل

حين يقرأ الذكاء الاصطناعي مشيتك

في الطب التقليدي، كان التشخيص يبدأ من الشكوى، من عرض يشعر به المريض ويدفعه إلى طلب المساعدة. وكان الطبيب، في هذا السياق، يُصغي أولاً قبل أن يرى،

د. عميد خالد عبد الحميد (لندن)

«دودة الزومبي» تعود إلى الحياة بعد 24 ألف عام... وتبدأ بالتكاثر

«دودة الزومبي» حيوان مجهري متعدد الخلايا (أرشيفية - أ.ف.ب)
«دودة الزومبي» حيوان مجهري متعدد الخلايا (أرشيفية - أ.ف.ب)
TT

«دودة الزومبي» تعود إلى الحياة بعد 24 ألف عام... وتبدأ بالتكاثر

«دودة الزومبي» حيوان مجهري متعدد الخلايا (أرشيفية - أ.ف.ب)
«دودة الزومبي» حيوان مجهري متعدد الخلايا (أرشيفية - أ.ف.ب)

استخرج العلماء حيواناً مجهرياً أطلقوا عليه اسم «دودة الزومبي» من التربة الصقيعية في سيبيريا، ثم قاموا بإذابة الصقيع، وراقبوا الحيوان وهو يستيقظ ويتكاثر.

ووفق ما ذكره موقع «فايس»، كان هذا الكائن متجمداً منذ أواخر العصر البليستوسيني، حين كان الماموث الصوفي لا يزال موجوداً. ودخل في سبات دام نحو 24 ألف عام، ثم «عاد وكأن شيئاً لم يكن».

هذا الكائن هو «دوارة بديلويدية»، وهي حيوان متعدد الخلايا صغير الحجم، يبلغ طوله نحو نصف مليمتر، ويوجد عادة في بيئات المياه العذبة. وهي معروفة بين العلماء بقدرتها شبه المطلقة على البقاء، إذ تنجو من الإشعاع والجفاف والبرد القارس ونقص الأكسجين.

وقام باحثون من مختبر بقايا التربة الروسي بالحفر إلى عمق نحو 3.5 متر في منطقة نهر ألازيا بشمال شرقي سيبيريا، واستخرجوا «عينة لُبية»، وقاموا بتأريخها بالكربون المشع، فوجدوا أن عمرها يتراوح بين 23 ألفاً و960 عاماً و24 ألفاً و485 عاماً. ثم قاموا بإذابتها.

ولم يقتصر الأمر على عودة الدوارة للحركة، بل تكاثرت لا جنسياً أيضاً، مُنتجة المزيد منها. لقد استنسخت نفسها. وبالكاد أتيحت للعلماء فرصة تحديد الكائنات القديمة والنسل الجديد قبل أن يتزايد عددها.

وتُعرف آلية البقاء التي لجأ إليها الكائن باسم «السبات الخفي»، وهي حالة ينخفض ​​فيها النشاط الأيضي إلى الصفر تقريباً؛ حيث يدخل الكائن الحي في نوع من السكون البيولوجي (ليس ميتاً ولا حياً بأي شكل من الأشكال)، بل في حالة انتظار.

ويُعلق هذا الكائن عملية الأيض ويُراكم مركبات معينة، مثل البروتينات المرافقة، التي تُساعده على التعافي من السبات الخفي عندما تتحسن الظروف، كما صرّح الباحث الرئيسي للدراسة في مختبر بقايا التربة، ستاس مالافين.

وقال مالافين: «يُعدّ تقريرنا أقوى دليل حتى الآن على قدرة الحيوانات متعددة الخلايا على البقاء لعشرات آلاف السنين في حالة السبات الخفي، وهي حالة توقف شبه كامل لعملية الأيض».

وما يجعل هذا الاكتشاف إنجازاً كبيراً هو مدى تعقيد «دودة الزومبي». وسبق أن تمت إعادة كائنات وحيدة الخلية من الجليد. أمّا حيوان متعدد الخلايا ذو جهاز هضمي وجهاز عصبي بدائي نجا من 24 ألف عام وهو متجمد تماماً، فهو أمر مختلف تماماً.

وكان الحد الأقصى المعروف سابقاً لبقاء الدوارات البدائية في حالة الخمول البيولوجي يتراوح بين 6 و10 سنوات. أما الاكتشاف الجديد فيماثل نحو 2400 ضعف المدة السابقة.

وهناك جانب آخر مثير هنا. فمع ذوبان التربة الصقيعية بوتيرة متسارعة، بدأت الميكروبات والبكتيريا والفيروسات القديمة، التي ظلت حبيسة الجليد لآلاف السنين، بالخروج. ولم يُربط أي من الفيروسات الذائبة التي دُرست حتى الآن بأمراض بشرية، لكن العلماء يراقبون الوضع من كثب.


التكلفة وصعوبة التعلُّم والثقة... أهم معوقات التوسع في توظيف الذكاء الاصطناعي

التكلفة وصعوبة التعلُّم والثقة... أهم معوقات التوسع في توظيف الذكاء الاصطناعي
TT

التكلفة وصعوبة التعلُّم والثقة... أهم معوقات التوسع في توظيف الذكاء الاصطناعي

التكلفة وصعوبة التعلُّم والثقة... أهم معوقات التوسع في توظيف الذكاء الاصطناعي

لم تعد الشركات الصغيرة مسرح تجارب للذكاء الاصطناعي؛ بل أصبحت تدمجه بنشاط في عملياتها اليومية. وفي كثير من الحالات، تعتمد عليه للحفاظ على قدرتها التنافسية، كما كتبت إليزابيث غور*.

استطلاع جديد

كيف تستخدم الشركات الصغيرة الذكاء الاصطناعي فعلياً؟ تؤكد بيانات جديدة من استطلاع «مين ستريت رايزينغ تور» Main Street Rising Tour survey الذي أجرته شركة «هيلو أليس» بالشراكة مع «باي بال» و«غوغل»، مدى سرعة هذا التحول والتحديات التي لا تزال قائمة.

وحسب البحث:

- الحماس للذكاء الاصطناعي: أعرب 81 في المائة من أصحاب المشاريع الصغيرة عن ذلك.

- الاستخدام اليومي: أفاد 47 في المائة فقط باستخدامه بشكل يومي.

- عامل حاسم: يتوقع 51 في المائة منهم أن يكون الذكاء الاصطناعي عاملاً حاسماً في أعمالهم خلال العامين المقبلين، ما يعكس تحولاً أوسع من مجرد الفضول إلى الاعتماد عليه على المدى الطويل.

أسباب استخدام الذكاء الاصطناعي

وقد بدأ هذا التبني يُترجم بالفعل إلى تغييرات تشغيلية ملموسة؛ إذ أفاد أصحاب المشاريع الصغيرة باستخدام الذكاء الاصطناعي لأسباب متنوعة:

- للمحتوى التسويقي: 73.2 في المائة.

- للبحوث: 67.3 في المائة.

- للأنظمة التشغيلية: 39.4 في المائة.

ولا تقتصر هذه الاستخدامات على كونها إضافات لتسهيل العمل فحسب؛ بل وأيضاً:

- العمل بكفاءة أكبر: قال 70 في المائة من المشاركين في الاستطلاع، إن الذكاء الاصطناعي يساعدهم على العمل بكفاءة أكبر.

- تحسينات في تجربة العملاء، وفقاً لـ38.6 في المائة منهم.

- انخفاض في تكاليف التشغيل، حسب 35.7 في المائة منهم.

معوقات التوسع في توظيفه

ما الذي يعيق التوسع في تبنِّي الذكاء الاصطناعي؟ على الرغم من هذا الزخم، إلا أن التبني لا يزال يواجه صعوبات جمة.

- التكلفة: أفاد نحو 32.9 في المائة من المشاركين في الاستطلاع بأنهم لا ينفقون شيئاً على أدوات الذكاء الاصطناعي شهرياً، ما يشير إلى أن حساسية التكلفة المادية وعدم اليقين لا يزالان يؤثران على حجم استثمارات الشركات.

- عوائق عملية: والأهم من ذلك أن العوائق التي يحددها أصحاب المشاريع الصغيرة هي في معظمها عوائق عملية. ويذكر أصحاب المشاريع الصغيرة صعوبة التعلم، والثقة في الأدوات، وخصوصية البيانات، كأهم مخاوفهم.

ويبدو أن هناك مخاوف بشأن خصوصية البيانات، والملكية الفكرية، وسرعة طرح خدمات الشركات لأدوات الذكاء الاصطناعي الجديدة لأصحاب الأعمال.

نتائج واتجاهات

وتعقيباً على النتائج، قال كريس تيرنر، المدير التنفيذي في «غوغل»: «لا يمكننا الاستمرار في دفع تبنِّي الذكاء الاصطناعي إلى عامة الناس؛ إذ لا بد من توفير التوعية والموارد وبناء الثقة».

وتعكس هذه النتائج اتجاهات وطنية أوسع؛ إذ تُظهر بيانات من غرفة التجارة الأميركية و«غولدمان ساكس»، أن تبنِّي الذكاء الاصطناعي يزداد بسرعة؛ حيث يستخدمه الآن ما يقرب من 60 في المائة من الشركات الصغيرة. وبينما أفاد 93 في المائة من الشركات بوجود تأثير إيجابي له، لم يدمج سوى 14 في المائة منها الذكاء الاصطناعي بشكل كامل في عملياتها الأساسية. وتقول الأغلبية إنها بحاجة إلى مزيد من التدريب والدعم لاستخدامه بفعالية.

التحول من الأدوات إلى أنظمة الذكاء الاصطناعي المدمجة

مع ازدياد تبنِّي الذكاء الاصطناعي، تتطور أيضاً طريقة تقديمه للشركات الصغيرة. فبدلاً من الاعتماد على مجموعة متفرقة من الأدوات الفردية، بدأت الشركات في تقديم أنظمة أكثر تكاملاً تعمل كامتداد للشركة نفسها.

وتعكس منصة «Accio Work» التي أطلقتها شركة «علي بابا» العالمية أخيراً هذا التحول. فقد صُمم النظام كفريق «وكلاء ذكاء اصطناعي» من دون كتابة رموز كومبيوترية، ويمكنه تنفيذ عمليات معقدة وطويلة الأجل، ودعم مهام تشمل البحث عن الموردين، وإدارة الامتثال، وسير عمل التسويق، والخدمات اللوجستية.

بالنسبة لأصحاب الشركات الصغيرة -وخصوصاً أولئك الذين لا يملكون خلفيات تقنية أو فرق عمل كبيرة- يقلل هذا النوع من الأتمتة من الوقت والخبرة اللازمين لتبنِّي الذكاء الاصطناعي بشكل فعَّال.

سدُّ الفجوة لتسهيل الوصول والاستخدام

في الوقت نفسه، تُركز شركات التكنولوجيا الكبرى على أحد أبرز العوائق التي كشفت عنها بيانات الاستطلاع الجديد، ألا وهو صعوبة التعلم.

وقد وسَّعت «غوغل» مبادراتها التدريبية في مجال الذكاء الاصطناعي، بما في ذلك برنامج للحصول على شهادة احترافية، مصمم لمساعدة الأفراد على اكتساب مهارات عملية في الذكاء الاصطناعي تُؤهلهم لسوق العمل. تهدف هذه البرامج إلى جعل الذكاء الاصطناعي في متناول أصحاب المشاريع الصغيرة الذين قد لا يملكون تدريباً تقنياً رسمياً. وفي الوقت نفسه، تُدمج «باي بال» الذكاء الاصطناعي مباشرة في منصتها، من خلال أدوات جديدة تُساعد الشركات في وظائف أساسية، مثل استهداف العملاء، والعروض الترويجية الآلية.

وأخيراً، فإن من المرجح ألا تُحدَّد المرحلة التالية من تبنِّي الذكاء الاصطناعي بمدى قوة هذه الأدوات؛ بل بمدى سهولة دمجها في واقع إدارة الشركات الصغيرة.

* «إنك»، خدمات «تريبيون ميديا».


«لقد انتهكتُ كل مبدأ حُدّدَ لي»... اعترافات مذهلة لـ«وكيل ذكاء اصطناعي»

«لقد انتهكتُ كل مبدأ حُدّدَ لي»... اعترافات مذهلة لـ«وكيل ذكاء اصطناعي»
TT

«لقد انتهكتُ كل مبدأ حُدّدَ لي»... اعترافات مذهلة لـ«وكيل ذكاء اصطناعي»

«لقد انتهكتُ كل مبدأ حُدّدَ لي»... اعترافات مذهلة لـ«وكيل ذكاء اصطناعي»

تصدرت قصة تحذيرية حديثة حول مخاطر الذكاء الاصطناعي مواقع التواصل الاجتماعي، كما كتب جود كريمر(*).

أداة برمجية ذكية تحذف البيانات

في هذه المرة، ادّعى مؤسس شركة برمجيات أن نسخةً من أداة البرمجة «كيرسور» Cursor، المدعومة ببرنامج «كلود» Claude، حذفت قاعدة بيانات الإنتاج المختزَنة لدى الشركة بالكامل، في غضون تسع ثوانٍ فقط.

تصرف دون إذن... وسوء تخزين

وفي منشورٍ حصد 6.5 مليون مشاهدة على منصة «إكس» زعم جير كرين، مؤسس شركة PocketOS، التي تُطوّر برامج إلكترونية مخصصة لشركات تأجير السيارات، أن سلسلة من الأحداث، مِن بينها تصرف «كيرسور» دون إذن، وسوء تخزين النسخ الاحتياطية (للبيانات) من قِبل شركة ريلواي Railway، المزوّدة لخدمات البنية التحتية لشركته، أدّت إلى فقدان هائل للبيانات.

ووفق كرين، فإن برنامج »كيرسور» كان يؤدي مهمة روتينية عندما «واجه خطأً في بيانات الاعتماد»، فقرر - بمبادرة منه - «إصلاح» المشكلة بحذف وحدة تخزين من نظام «ريلواي». وهكذا نفذ أمر «حذف وحدة التخزين» ومسح قاعدة بيانات الإنتاج.

استخراج نُسخ قديمة من البيانات المحفوظة

وكتب كرين أنه نظراً لأن نظام «ريلواي» يُخزن نسخاً احتياطية إضافية داخل وحدة التخزين نفسها، فقد اضطرت شركته للرجوع إلى نسخة احتياطية عمرها ثلاثة أشهر لضمان استمرارية عملها.

أحدث برنامج ذكي يخرق القواعد

وأكد أن فريقه كان يستخدم أحدث إصدار من «كيرسور»، وهو الإصدار المدعوم بأحدث نموذج كلود من «أنثروبيك» موديل «أوبوس 4.6» Opus 4.6.

وعندما ضغط كرين على برنامج الذكاء الاصطناعي للحصول على تفسير، اعترف البرنامج بانتهاكه المتعمَّد للقواعد التي وضعها نظام PocketOS، بما في ذلك قاعدة «لا تخمن أبداً!»، و«لا تُنفّذ أبداً أوامر تخريبية/لا رجعة فيها (مثل «ادفع- بقوة» push –force، أو «إعادة ضبط المنتج» hard reset... إلخ إلا إذا طلبها المستخدم صراحةً).

انتهاك سافر

وكتب نظام الذكاء الاصطناعي: «لقد انتهكتُ كل مبدأٍ وُضِعَ أمامي: خمّنتُ بدلاً من التحقق. نفّذتُ إجراءً تخريبياً دون استئذان. لم أفهم ما كنتُ أفعله قبل تنفيذه. لم أقرأ وثائق (ريلواي) حول سلوك وحدات التخزين عبر البيئات المختلفة».

اعتراف كتابي بالذنب

وتابع كرين مدّعياً أن «كيرسور» تُسوّق لنفسها على أنها أكثر أماناً مما هي عليه في الواقع. وكتب: «الحقيقة هي وجود سِجلّ موثَّق لأنظمة تنتهك هذه الضمانات، بشكلٍ كارثي أحياناً، وأحياناً مع اعتراف الشركة نفسها بالإخفاقات. في حالتنا، لم يكتفِ النظام بفشله في مجال السلامة، بل شرح كتابياً بالتحديد قواعد السلامة التي تجاهلها».

ولم تردّ كلٌّ من «كيرسور» و«ريلواي» و«أنثروبيك» على طلب مجلة «فاست كومباني» للتعليق.

العبرة من القصة

مع انتشار منشور كرين على نطاق واسع، انقسم المعلّقون حول المغزى الحقيقي من قصته.

وزعم بعض المعلّقين أنه على الرغم من تجاوز برنامج «كيرسور» صلاحياته وعدم كفاية إجراءات الحماية لدى «ريلواي»، لكن فريق كرين يتحمل جزءاً من المسؤولية لمنحه الذكاء الاصطناعي هذه الحرية الكبيرة والوصول إلى بيانات الشركة.

مسؤولية النظم الذكية... ومستخدميها

جاء في أحد الردود التي انتشرت على نطاق واسع: «هذا المنشور رائع لأنه ينتقد الذكاء الاصطناعي بشدة، ويحمّل، في الوقت نفسه، هذا الشخص المسؤولية كاملةً». وكتب معلّق آخر: «من المؤسف أن يقوم برنامج ذكاء اصطناعي بحذف قاعدة بيانات الإنتاج - دون أي وسيلة لعمل نسخة احتياطية - ما يُعرّض الأعمال بأكملها للخطر. لكن اللوم يقع على عاتق المطور الذي قرر تفويض اتخاذ القرارات لبرنامج الذكاء الاصطناعي، ثم لم يراجع الإجراءات، بل خاطر بها دون تفكير».

خروقات سابقة

لا تقتصر مخاطر الاعتماد على الذكاء الاصطناعي على مثال شركتيْ «كيرسور» و«ريلواي»، إذ وقعت فضيحة مماثلة، في فبراير (شباط) الماضي، حين صرّحت مديرة في شركة «ميتا» بأنها شاهدت برنامج OpenClaw يُفرغ بريدها الإلكتروني. وقد تجاهل البرنامج تعليماتها بعدم القيام بأي إجراء دون موافقة. ومع ذلك اعترف البرنامج بتقديم النص التالي: «لقد انتهكتُ التعليمات. من حقكِ أن تغضبي».

وتُجسّد هاتان الحادثتان معاً العبرة الحقيقية لأي شركة تسعى لاستخدام برامج الذكاء الاصطناعي: قد تتصرف هذه التقنية بشكل غير متوقع، نعم، لكن لهذا السبب يقع على عاتق البشر مسؤولية ضبطها.

* مجلة «فاست كومباني».