نظم ذكاء اصطناعي تتراسل فيما بينها... بالبريد الإلكتروني

نيابةً عن العاملين والمديرين من دون إشراف مباشر

نظم ذكاء اصطناعي تتراسل فيما بينها... بالبريد الإلكتروني
TT

نظم ذكاء اصطناعي تتراسل فيما بينها... بالبريد الإلكتروني

نظم ذكاء اصطناعي تتراسل فيما بينها... بالبريد الإلكتروني

تلقى أحد زملائي حديثاً رسالة بريد إلكتروني صيغت بأسلوب مهذب واحترافي. كانت الرسالة تطلعه على الوضع الراهن لمشروع مشترك، وتحدّد الخطوات التالية المطلوبة والمسؤول عن كل منها. كانت رسالة عادية تماماً، باستثناء أنها كانت - من البداية إلى النهاية - من نتاج «وكيل ذكاء اصطناعي» (AI agent) أُعِدَّ للعمل نيابةً عن الشخص الذي يمثله.

جرس إنذار مبكر لما هو قادم

ورغم أن تجربة زميلي لا تزال غير شائعة نسبياً، فإنها تُعدّ بمثابة «جرس إنذار» مبكر لما هو قادم. ففي شهر مايو (أيار) الماضي، سلطت وكالة «بلومبرغ» الضوء على تايلر كادويل، مؤسس شركة للأواني الزجاجية في أريزونا، الذي طوّر وكيل ذكاء اصطناعي يصفه بأنه «أول موظف ذكاء اصطناعي» لديه. يقوم هذا الوكيل بمهام مثل «فرز رسائل البريد الإلكتروني الواردة، بل وحتى الرد ذاتياً على المشكلات المتعلقة بسلسلة التوريد».

* أكثر من نصف الموظفين الأميركيين يستخدمون الذكاء الاصطناعي في العمل*

وحتى في الحالات التي لا تقوم فيها هذه الوكالات بإرسال رسائل بريد إلكتروني بشكل مستقل، فمن المؤكد أن الناس يستعينون بالذكاء الاصطناعي بشكل متزايد لكتابة تلك الرسائل. ففي الشهر الماضي، أفادت مؤسسة «غالوب» بأن أكثر من نصف الموظفين في الولايات المتحدة يستخدمون الذكاء الاصطناعي في العمل حالياً، وأن الاستخدام الأكثر شيوعاً - الذي أشار إليه 51 في المائة منهم - يتمثل في الكتابة والتحرير، أو بعبارة أخرى: التواصل فيما بينهم.

ذكاء اصطناعي يتواصل مع ذكاء اصطناعي

على سبيل المثال، تلك الرسالة التي تلقاها زميلي من وكيل الذكاء الاصطناعي؟ لقد قام بنسخ نصها ولصقه في برنامج الدردشة الآلي (chatbot) الخاص به، ثم أرسل الرد الذي صاغه البرنامج. ويبدو المشهد ظاهرياً وكأنه تواصل بين البشر، لكن في الواقع، الذكاء الاصطناعي هو من يتحدث مع الذكاء الاصطناعي. وهذه هي الطريقة التي ينبغي لقادة الأعمال الاستجابة بها لهذا الواقع.

لا مجال للعودة إلى الوراء

لا توجد طريقة لإعادة «مارد» الذكاء الاصطناعي المسؤول عن كتابة رسائل البريد الإلكتروني إلى القمقم مرة أخرى. ولا أعتقد أننا يجب أن نرغب في ذلك أصلاً. فالنسخة التي تنتجها الآلة تكون أحياناً أفضل ببساطة. فعندما أوكلت شركة التأمين «أولستيت» (Allstate) مهمة صياغة المراسلات المتعلقة بمطالبات التأمين - والتي تبلغ نحو 50 ألف رسالة يومياً - إلى تقنية الذكاء الاصطناعي التوليدي، جاءت الرسائل التي كتبتها الآلة أكثر وضوحاً، وأقل استخداماً للمصطلحات المعقدة، وأكثر تعاطفاً مقارنة بتلك التي كان يرسلها الموظفون البشر.

علاوة على ذلك، أصبح تفويض المهام للذكاء الاصطناعي - بشكل متزايد - هو الاستجابة العقلانية الوحيدة المتاحة للموظفين الذين يغرقون في طوفان من المراسلات الإلكترونية. وكان تقرير «مايكروسوفت» لعام 2025 حول اتجاهات العمل، قد كشف عن أن الموظف العادي يتلقى 117 رسالة بريد إلكتروني و153 رسالة عبر تطبيق «تيمز» (Teams) يومياً. ومن المنطقي - بل وقد يزيد من إنتاجية الموظفين - تفويض جزء من هذا العبء إلى الذكاء الاصطناعي.

لكن تفويض المحادثات لا يعني ترك الأمر دون ضوابط أو معايير؛ ففي الواقع، مع تزايد استخدام الذكاء الاصطناعي في التواصل بين الأفراد، تزداد أهمية حوكمة هذه المحادثات. إذ يضع صعود الذكاء الاصطناعي المؤسسات أمام تساؤلات لم تكن سياساتها تتوقعها من قبل: ما هي المحادثات التي يمكن تفويضها؟ وما هي الالتزامات التي قد تفرضها الآلة علينا؟ ومن يملك ما يُقال في هذه المحادثات؟

3 ركائز أساسية لمواجهة التحديات

هناك ثلاث ركائز أساسية تهم المؤسسات لمواجهة هذا التحدي: تحديد ما لا يجب تفويضه مطلقاً، والعمل على أن يكون أي تفويض آخر خطوة مدروسة ومقصودة، وإعادة تحديد ملكية التبادلات التي يتم تفويضها بالكامل.

1. تحديد ما لا يجب تفويضه مطلقاً

لقد قضى الفيديو على نجوم الإذاعة والآن يقضي الذكاء الاصطناعي على عملية تقييم الأداء. ففي عام 2024، صرحت مديرة سابقة في شركة «دروب بوكس» (Dropbox) لموقع «أكسيوس» بأنها استخدمت «تشات جي بي تي» لكتابة تقييمات الأداء الخاصة بموظفيها. وحديثاً في فبراير (شباط) الماضي أفادت صحيفة «وول ستريت جورنال» بأن أعداداً متزايدة من المديرين يستخدمون الذكاء الاصطناعي لإجراء تقييمات الأداء.

ولا يقتصر الأمر على مبادرات فردية فحسب، بل هو توجّه مؤسسي أيضاً؛ فكما نوقش في مقال حديث بمجلة «هارفارد بزنس ريفيو»، قامت شركات مثل «سيتي» (Citi) و«جي بي مورغان» (JPMorgan) و«مجموعة بوسطن الاستشارية» (BCG) بتطوير أدوات ذكاء اصطناعي تدعم صياغة تقييمات الأداء.

لقد سبق لي القول بأن بعض الأنشطة القيادية - ومن بينها تقييم الأداء - تستمد قيمتها من التفاعل البشري الكامل. فعملية التقييم تكتسب أهميتها لأن مديرك قد قيّم أداءك خلال العام بالفعل؛ والأخبار السيئة تُنقل بأسلوب إنساني؛ لأن شخصاً ما اختار إيصالها بنفسه؛ والتوجيه والإرشاد ينجح لأن شخصاً تحترمه قد خصص لك أثمن موارده (وقته). لذا؛ فإن تفويض مثل هذه الأنشطة للذكاء الاصطناعي لا يجعل سير العمل أكثر كفاءة، بل يقضي على القيمة التي كان من المفترض أن يولدها هذا العمل.

وعليه، يتعين على كل مؤسسة رسم «خط بشري» فاصل: تحديد المحادثات التي تعتمد قيمتها على العنصر البشري، وضمان بقائها بشرية بالكامل (بنسبة 100 في المائة). أما ما عدا ذلك، فيمكن تفويضه شريطة أن يتم ذلك بشكل مدروس ومقصود. وهنا يأتي دور الركيزة الثانية.

2. توخّي الدقة والوعي عند التفويض

أي التعامل مع التفويض بوعي وقصد. يجب أن يتحرك التفويض ضمن نطاق متدرج. ففي أحد طرفيه نجد العمل المدعوم بالذكاء الاصطناعي: حيث تقوم أنت بالإنشاء وتتولى الآلة الصقل والتحسين. وفي مرحلة تالية نجد التفويض للذكاء الاصطناعي: حيث تتولى الآلة صياغة المسودة، في حين تكتفي أنت بإلقاء نظرة سريعة عليها ثم إرسالها.

أما في الطرف الأقصى، فنجد التمثيل بواسطة الذكاء الاصطناعي: حيث يتولى وكيلك الذكي إدارة التفاعل بالكامل، وقد لا تطلع عليه أنت إطلاقاً.

من السهل الانزلاق عبر هذا النطاق دون إدراك ذلك. على سبيل المثال، تستخدم إحدى الوسيطات العقارية - سلطت صحيفة «فاينانشال تايمز» الضوء على تجربتها - أداة ذكاء اصطناعي لإدارة تسعة صناديق بريد إلكتروني. ورغم أن هذه الأداة توفر عليها ساعات من العمل أسبوعياً، فإنها تعترف قائلة: «أحياناً، أقع في خطأ السماح للآلة بالتفكير نيابة عني».

لا تكمن المشكلة في كون الذكاء الاصطناعي يفكر نيابة عنها؛ فهذا هو جوهر التفويض، وغالباً ما يكون التفويض هو الخيار الصائب. إلا أن المشكلة تكمن في حدوث ذلك دون اتخاذ قرار واعٍ بشأنه. فالتفويض المقصود والمختار يتضمن عملية تسليم واضحة للمهام: أنت تدرك ما تنازلت عنه، وبالتالي تعرف كيف تجب إدارته. أما التفويض الناتج من الانزلاق التلقائي، فلا يتضمن أي عملية تسليم أو توضيح للمسؤوليات.

وعند تعميم هذا الأمر على القوى العاملة بأكملها، يتحول سمةً تنظيمية عامة. فعندما يفقد الأفراد ارتباطهم الحقيقي بما يصدر عنهم من أقوال، تعجز المؤسسة عن معرفة ما يُقال باسمها أو مدى تدخل التقدير البشري في تلك الأمور.

وفيما يتعلق بكل ما يقع خارج نطاق التدخل البشري المباشر، فإن مهمة الحوكمة لا تتمثل في تقييد التفويض، بل في جعله أمراً مرئياً وواضحاً. لذا؛ ضع قاعدة بسيطة لفرق العمل لديك: حدّدوا بدقة موقعكم على نطاق التفويض، واحرصوا على أن تكون المؤسسة على دراية بذلك أيضاً.

3. امنح وكلاءك تفويضاً محدداً... وعيّن لهم مسؤولاً بشرياً

يروي تقرير لوكالة «بلومبرغ» قصة مسؤول تنفيذي في شركة ناشئة، حيث خرج وكيله الذكي المنزلي عن السيطرة وبدأ في مراكمة تكاليف بقيمة 100 دولار ساعة تلو الأخرى؛ ولم يتم تدارك الموقف إلا حين لاحظ المسؤول بالصدفة تنبيهات الفواتير في صندوق بريده.

لا يكمن الحل في مراجعة كل رسالة يرسلها الوكيل الذكي؛ فهذا من شأنه أن يقضي على الغرض الأساسي من استخدامه. بل يكمن الحل في إعادة بناء ما كان يوفره عنصر الرقابة البشرية سابقاً. ويتطلب ذلك تحديداً ثلاثة أمور:

* أولاً، التفويض المحدد: اتخاذ قرار صريح بشأن ما يمكن للوكيل الذكي الالتزام به نيابة عنك؛ كترتيب اجتماع أو تحديد موعد للتسليم، مثلاً، مع استبعاد الالتزام بأي أسعار أو تكاليف مالية.

* ثانياً، الاحتواء والضبط: لا تعتمد كلياً على التزام الوكيل الذكي بالتعليمات؛ فالتعليمات بالنسبة للوكيل ليست سوى نصوص إضافية؛ إنه يتبعها تماماً كما يتبع كل شيء آخر؛ في الغالب، وإن لم يكن دائماً. تكمن الضوابط الفعلية والمهمة خارج نطاق «الوكيل» (البرمجية الذكية)، بل في الأنظمة التي يتفاعل معها: كبطاقة دفع مالي ذات سقف إنفاق صارم، أو بيانات اعتماد تتيح الوصول إلى التقويم دون مجلد العقود، أو بوابات اعتماد تحيل المبادلات ذات الأهمية الكبيرة إلى عنصر بشري قبل إبرام أي اتفاق.

*وثالثاً، وجود «مالك»: أي شخص محدّد يتحمل المسؤولية عن تصرفات الوكيل في جميع الأحوال.

حوكمة طبقة التواصل

تُشكّل الركائز المذكورة أعلاه المبادئ الأساسية التي ينبغي أن توجّه حوكمة طبقة التواصل الجديدة داخل المؤسسات. وإليك أربع خطوات عملية يمكنك اتخاذها فوراً للبدء في تحويل هذه المبادئ إلى ممارسات حوكمة فعلية في مؤسستك:

* راجع مواضع التواصل المباشر بين أنظمة الذكاء الاصطناعي. حدّد وارسم خريطة للمبادلات التي تتم داخل مؤسستك، حيث تكون الأطراف المتواصلة أنظمة ذكاء اصطناعي من الجانبين؛ فقد تفاجئك النتائج.

* حدّد الخط الفاصل للبشر. اجمع فريق القيادة وحدّد ما بين ثلاث إلى خمس محادثات تعتمد قيمتها كلياً على الحضور البشري. أعلن أنها محادثات مقتصرة على البشر فقط، ووضّح الأسباب.

* صنّف أنماط التواصل. اختر فريقاً واحداً واطلب من أعضائه تصنيف اتصالاتهم لمدة أسبوع وفق الفئات التالية: تواصل بشري خالص، أو تواصل مدعوم بالذكاء الاصطناعي، أو مفوّض للذكاء الاصطناعي، أو تمثيل بواسطة الذكاء الاصطناعي. من شبه المؤكد أن واقعك الحالي يقع في نقطة أبعد على هذا الطيف مما تعتقد.

* امنح تفويضاً لوكيل ذكاء اصطناعي واحد. بالنسبة لحالة استخدام محددة لوكيل واحد، دوّن الأمور التي يمكنه الالتزام بها بشكل مستقل، وضع الضوابط الفعلية خارج نطاق الوكيل (مثل سقف الإنفاق، وصلاحيات الوصول المحدودة، وبوابات الاعتماد)، وحدد الشخص المسؤول عن مخرجاته. سيصبح هذا النموذج بمثابة القالب الذي يمكنك تطويره وتطبيقه على الحالات اللاحقة.

* مجلة «فاست كومباني»


مقالات ذات صلة

كيف يفرض وكلاء الذكاء الاصطناعي قواعد جديدة للهوية والصلاحيات داخل المؤسسات؟

خاص يقلل منح الوكلاء صلاحيات محدودة حسب المهمة مخاطر الوصول الواسع إلى البيانات والأنظمة الحساسة (شاترستوك)

كيف يفرض وكلاء الذكاء الاصطناعي قواعد جديدة للهوية والصلاحيات داخل المؤسسات؟

يفرض وكلاء الذكاء الاصطناعي ضوابط جديدة للصلاحيات والمساءلة والمراقبة مع ضرورة تتبع القرارات واختبار آليات الإيقاف قبل التشغيل الفعلي.

نسيم رمضان (لندن)
الاقتصاد إحدى الجلسات الحوارية في «منتدى الصناعة السعودي» بجدة (الشرق الأوسط)

«سدير فارما»: بدء الإنتاج في أضخم مصانع الإنسولين عالمياً بالسعودية خلال 2027

تتحرك السعودية لتعزيز أمنها الدوائي عبر مسارين متوازيين؛ هما توسيع التصنيع المحلي للأدوية الحيوية، وبناء منظومة أكثر قدرة على استباق اضطرابات سلاسل الامداد.

أسماء الغابري (جدة)
الاقتصاد مبنى بنك إنجلترا في لندن (رويترز)

أسهم لندن تهبط لأدنى مستوى في شهرين بضغط من النفط وعوائد السندات

تراجعت الأسهم في لندن إلى أدنى مستوياتها في شهرين، يوم الثلاثاء، مع دفع ارتفاع أسعار النفط عوائد السندات العالمية إلى الصعود، وسط مخاوف بشأن التضخم.

«الشرق الأوسط» (لندن)
الاقتصاد مبنى مجلس الاحتياطي الفيدرالي في واشنطن (رويترز)

الأسواق تتأهب لقرار «الفيدرالي»

قفزت أسعار النفط وارتفعت عوائد السندات الأميركية، بينما تراجعت الأسهم، يوم الثلاثاء، مع ترقب الأسواق اجتماع مجلس الاحتياطي الفيدرالي.

«الشرق الأوسط» (لندن)
يوميات الشرق وكلاء الذكاء الاصطناعي أصبحوا قادرين على استخدام الأدوات والوصول إلى المعلومات وكتابة الأكواد وتنفيذها (بكسلز)

الذكاء الاصطناعي يتغير... والوكلاء قد يصنعون «مجتمعات اصطناعية»

لم يعد مستقبل الذكاء الاصطناعي مرتبطاً فقط بتطوير آلات أكثر ذكاءً، وقد يؤدي هذا التطور إلى ظهور ما يمكن وصفه بـ«المجتمعات الاصطناعية».

«الشرق الأوسط» (نيويورك)

كيف يفرض وكلاء الذكاء الاصطناعي قواعد جديدة للهوية والصلاحيات داخل المؤسسات؟

يقلل منح الوكلاء صلاحيات محدودة حسب المهمة مخاطر الوصول الواسع إلى البيانات والأنظمة الحساسة (شاترستوك)
يقلل منح الوكلاء صلاحيات محدودة حسب المهمة مخاطر الوصول الواسع إلى البيانات والأنظمة الحساسة (شاترستوك)
TT

كيف يفرض وكلاء الذكاء الاصطناعي قواعد جديدة للهوية والصلاحيات داخل المؤسسات؟

يقلل منح الوكلاء صلاحيات محدودة حسب المهمة مخاطر الوصول الواسع إلى البيانات والأنظمة الحساسة (شاترستوك)
يقلل منح الوكلاء صلاحيات محدودة حسب المهمة مخاطر الوصول الواسع إلى البيانات والأنظمة الحساسة (شاترستوك)

قبل أن تسمح المؤسسة لأول وكيل ذكاء اصطناعي باتخاذ إجراء داخل أنظمتها الفعلية، ينبغي أن تتمكن من الإجابة عن أربعة أسئلة عملية؛ من يتحمل مسؤولية سلوكه؟ ما الذي يُسمح له بالوصول إليه؟ هل يمكن إعادة بناء كل قرار اتخذه لاحقاً؟ وهل توجد وسيلة مجرّبة لإيقافه إذا انحرف عن المهمة؟

تصبح هذه المتطلبات، بحسب نيبو فارغيز، المدير الأول للأمن السيبراني في شركة «إف تي آي كونسلتنج» (FTI Consulting)، أكثر إلحاحاً مع انتقال المؤسسات من استخدام الذكاء الاصطناعي لتقديم الإجابات والتوصيات إلى نشر وكلاء قادرين على الوصول إلى الأنظمة واستدعاء الأدوات وتنفيذ الإجراءات بأنفسهم.

تتزامن هذه النقاشات مع انطلاق النسخة الرابعة من «منتدى اليونسكو العالمي لأخلاقيات الذكاء الاصطناعي» في الرياض، الاثنين، الذي يستمر حتى 17 سبتمبر (أيلول). ويجمع المنتدى مسؤولين وصناع قرار وخبراء وأكاديميين وممثلين عن منظمات دولية وقطاعات حكومية وخاصة، لبحث حوكمة الذكاء الاصطناعي وكيفية تحويل المبادئ الأخلاقية إلى سياسات وضوابط عملية تواكب تسارع استخدام الأنظمة الأكثر استقلالية.

ويشرح فارغيز أن المشكلة لا تكمن في أن الوكيل مجرد «مستخدم آلي» جديد يحتاج إلى حساب دخول آخر. فأنظمة الهوية والصلاحيات التقليدية صُممت أساساً للتعامل مع شخص بشري أو برنامج يتصرف بطريقة متوقعة ومتكررة. أما وكيل الذكاء الاصطناعي فيتصرف بالنيابة عن شخص، لكنه يستطيع أيضاً تحديد خطوته التالية بصورة ديناميكية، ما يجعل نمط سلوكه أقل قابلية للتوقع مسبقاً.

نيبو فارغيز المدير الأول للأمن السيبراني في شركة «إف تي آي كونسلتنج» (الشركة)

الصلاحيات الواسعة تتحول إلى نقطة ضعف

يضع هذا الاختلاف مسألة الصلاحيات في قلب المشكلة الأمنية. ويحذر فارغيز من التعامل مع الوكيل كما لو كان حساب خدمة تقليدياً يحمل مجموعة ثابتة من الصلاحيات ويدخل إلى أنظمة معروفة سلفاً.

فالوكيل قد يستدعي سلسلة من الأدوات والأنظمة أثناء محاولته إنجاز هدف معين، فيما يؤثر السياق الذي جمعه في بداية المهمة على القرارات التي يتخذها لاحقاً. ولهذا يرى أن الضوابط الموضوعة للبرمجيات التقليدية لن تكون كافية وحدها لإدارة المخاطر الجديدة.

ويطرح بديلاً يقوم على مبدأ «أقل قدر من الصلاحيات»، بحيث يحصل الوكيل على ما يحتاج إليه فقط لإنجاز المهمة المحددة، على أن تتغير صلاحياته عندما تتغير المهمة. ويشير إلى أن أحد الأخطاء الشائعة يتمثل في منح الوكيل منذ البداية كامل مجموعة الصلاحيات التي قد يحتاج إليها مستقبلاً، بدلاً من الحد الأدنى اللازم للعمل الحالي.

وتتزايد حساسية هذه المسألة مع ضغوط إثبات العائد من الاستثمار في الذكاء الاصطناعي. فكلما زادت البيانات والأنظمة التي يستطيع الوكيل الوصول إليها، بدا أكثر قدرة على إنجاز المهام؛ إلا أن الصلاحيات ذاتها يمكن أن تتحول إلى مصدر خطر إذا تعرض الوكيل للتلاعب أو الاختراق.

ويضرب فارغيز مثالاً بوكيل يمتلك صلاحية الكتابة في قواعد بيانات حساسة أو الوصول إلى مفاتيح أنظمة، إذ يستطيع تنفيذ إجراءات واسعة النطاق قبل أن يلاحظ أحد ما يحدث. وينوه أن تكون كل صلاحية ممنوحة قراراً متعمداً يرتبط بمالك محدد داخل المؤسسة.

هوية صحيحة... وفعل ضار

لا يكفي التحقق من أن الوكيل الذي نفذ الإجراء يحمل هوية صحيحة حيث إن المهاجم لا يحتاج في بعض السيناريوهات إلى انتحال هوية الوكيل أصلاً، إذ يمكنه التأثير في سلوكه بواسطة تعليمات خبيثة مخفية داخل محتوى يبدو موثوقاً، لتخرج النتيجة في سجلات المؤسسة وكأنها عملية مشروعة نفّذها وكيل مخول.

ولهذا يدعو فارغيز إلى تحليل مصدر الفعل وتوقيته والبيانات التي وصل إليها الوكيل، ومدى توافقها مع المهمة الموكلة إليه. ويشير إلى أن عملية مشروعة وأخرى خبيثة قد تبدوان متطابقتين عند النظر إلى سجل الوصول وحده، بينما تظهر الفروق عند جمع السياق والسلوك والنية المحيطة بالفعل. كما يدعو فرق الأمن إلى اختبار الوكلاء بالطريقة نفسها التي قد يستخدمها المهاجم، من خلال إدخال تعليمات خبيثة بصورة متعمدة ومراقبة ما إذا كانت أنظمة الرصد ستكتشفها أم ستسمح بمرورها باعتبارها نشاطاً طبيعياً.

تصبح مراقبة سلوك الوكلاء واكتشاف الانحرافات آلياً أكثر أهمية مع زيادة سرعة وعدد العمليات التي ينفذونها.

عندما تصبح سرعة الآلة مشكلة أمنية

يرى فارغيز أن الاعتماد على محلل بشري يراجع السجلات بعد وقوع الحدث لم يعد نموذجاً عملياً في مثل هذه البيئات. ويلفت أن الحل هو بناء خط أساس للسلوك الطبيعي لكل وكيل يشمل حجم النشاط وتسلسله وتوقيته والأدوات التي يستخدمها، ثم اكتشاف الانحرافات آلياً. فإذا بدأ وكيل مالي، على سبيل المثال، في الاستعلام عن أنظمة الموارد البشرية، أو شرع وكيل اعتاد العمل خلال ساعات الدوام في تنفيذ عمليات عند الثالثة صباحاً، فهذه إشارات تستحق التحقيق حتى لو كانت كل عملية منفردة تبدو مسموحاً بها تقنياً.

متى يجب أن يتدخل الإنسان؟

على الرغم من الاتجاه نحو زيادة الاستقلالية، لا يرى فارغيز أن كل قرار يجب أن يُترك للوكيل. ويفيد بأن العمليات التي يصعب التراجع عنها أو التي يمكن أن تسبب ضرراً كبيراً عند الخطأ ينبغي أن تبقى مرتبطة بموافقة بشرية، خصوصاً عندما تتعلق ببيانات العملاء، أو التزامات مالية، أو تغييرات في الوضع الأمني للمؤسسة، مثل تعديل الصلاحيات أو تعطيل الضوابط الأمنية.

ويتجاوز الإيقاف مجرد الضغط على زر يعطل الوكيل، إذ ينبغي حفظ حالته عند التعليق لفهم ما فعله، إلى جانب تحديد الإجراءات التي بدأ تنفيذها بالفعل قبل الإيقاف وما إذا كان بالإمكان التراجع عنها. كما يوصي بأن تُختبر آلية التعليق بواسطة أشخاص لم يشاركوا في تطوير الوكيل نفسه.

لا يكفي التحقق من الهوية وحده لأن التلاعب قد يحدث عبر تعليمات خبيثة داخل محتوى يبدو موثوقاً (رويترز)

سجل يعيد بناء القرار كاملاً

مع الوكلاء المستقلين، لا يكفي تسجيل النتيجة النهائية، بل يجب حفظ المعلومات الكافية لإعادة بناء القرار بالكامل بدءاً من التعليمات التي بدأت العملية، ومن أصدرها، والبيانات والأدوات التي استخدمها الوكيل، وصولاً إلى الصلاحيات التي نُفذت تحتها كل خطوة، والنتيجة النهائية.

ويشير فارغيز إلى أن بعض منصات الوكلاء بدأت بالفعل بتخصيص هوية وسجل دخول وتاريخ تدقيق لكل وكيل، مع إمكانية ربط الإجراء بالشخص أو القالب الذي يقف خلفه. لكن هذه القدرات ما زالت مرتبطة بالمنصات الفردية، ولا يوجد حتى الآن معيار واسع التبني لتسجيل هذه المعلومات ومشاركتها بصورة متسقة بين الأنظمة المختلفة.

وتصبح المشكلة أكثر تعقيداً عندما يعمل عدة وكلاء معاً، إذ قد لا يظهر الخلل عند تقييم كل واحد منها منفرداً، بل في عمليات التسليم والتفاعل بينها. ولذلك، يعدّ فارغيز أن اختبارات المحاكاة والهجوم أكثر فاعلية من مراجعة السياسات وحدها في اكتشاف المخاطر الكامنة بين الوكلاء.

الشرق الأوسط أمام فرصة للبناء منذ البداية

يرى فارغيز أن وتيرة نشر الذكاء الاصطناعي تتسارع، مشيراً إلى خطط في الإمارات للانتقال بخدمات حكومية نحو الذكاء الاصطناعي المستقل خلال العامين المقبلين، وإلى توجه مركز دبي المالي العالمي نحو بناء مركز مالي «مولود للذكاء الاصطناعي» بحلول 2027، إلى جانب زخم مماثل في السعودية ضمن «رؤية 2030».

ويعتبر أن سرعة التبني في المنطقة لا تعني بالضرورة أن الحوكمة يجب أن تأتي لاحقاً، بل قد تمنح المؤسسات فرصة لبناء ضوابط الهوية والمراقبة والأمن منذ البداية، قبل أن يصبح الوكلاء جزءاً واسع الانتشار من البنية التشغيلية.

ولهذا يعود فارغيز إلى أربعة شروط قبل السماح لأي وكيل بالعمل فعلياً؛ يجب أن يكون مسؤولاً تنفيذياً معروفاً يمتلك سلطة إيقافه، وله صلاحيات مصممة وفق احتياجات المهمة، وسجلات كافية لإعادة بناء كل فعل، وآلية تعليق جرى اختبارها بصورة مستقلة.

ويؤكد فارغيز أن الاختبار الحقيقي لهذه الضوابط لا يكون على الورق، بل عندما تتعرض لمحاولة إساءة استخدام متعمدة، وأن المؤسسات بحاجة إلى الانتقال من مراجعة وكلائها نظرياً إلى اختبارهم تحت ظروف تحاكي هجوماً حقيقياً قبل منحهم القدرة على التصرف داخل الأنظمة الإنتاجية.


«أمازون ويب سيرفيسز» تعجز عن استعادة الوصول لمنشأة حوسبة في البحرين

لافتة لـ«أمازون ويب سيرفيسز» خلال أسبوع لندن للتكنولوجيا في أولمبيا بلندن في بريطانيا يوم 8 يونيو 2026 (رويترز)
لافتة لـ«أمازون ويب سيرفيسز» خلال أسبوع لندن للتكنولوجيا في أولمبيا بلندن في بريطانيا يوم 8 يونيو 2026 (رويترز)
TT

«أمازون ويب سيرفيسز» تعجز عن استعادة الوصول لمنشأة حوسبة في البحرين

لافتة لـ«أمازون ويب سيرفيسز» خلال أسبوع لندن للتكنولوجيا في أولمبيا بلندن في بريطانيا يوم 8 يونيو 2026 (رويترز)
لافتة لـ«أمازون ويب سيرفيسز» خلال أسبوع لندن للتكنولوجيا في أولمبيا بلندن في بريطانيا يوم 8 يونيو 2026 (رويترز)

أفاد تحديث من «أمازون ويب سيرفيسز» اطلعت عليه وكالة «رويترز» للأنباء، الثلاثاء، بأن الخدمة غير قادرة على استعادة الوصول إلى منشأة الحوسبة السحابية التابعة لها في البحرين وإلى إحدى مناطق استضافة البيانات الثلاث في الإمارات، وذلك عقب أضرار لحقت بها خلال حرب إيران.

وذكرت وحدة الحوسبة السحابية التابعة لـ«أمازون» أن الأضرار في البحرين شملت عدداً مما يُعرف بمناطق التوافر، وهي تجمعات تضم مركز بيانات واحداً أو أكثر في المنطقة الجغرافية نفسها.

وقالت «أمازون ويب سيرفيسز» في التحديث الذي كانت «رويترز» أول من نشر عنه: «امتدت الأضرار التي لحقت ببنيتنا التحتية إلى مناطق توافر عدة، وتجاوزت ما صُممت خدماتنا الإقليمية وخدماتنا متعددة مناطق التوافر لتحمله». وأضافت أنها تساعد عملاءها في البحرين على استئناف عملياتهم في مناطق أخرى.

وأشارت «أمازون ويب سيرفيسز» إلى أنها لم تتمكن في الإمارات من استعادة الوصول إلى موارد وبيانات مستضافة بصورة حصرية في منطقة توافر واحدة تعرف باسم إم إي سي 1- إيه. زد 2. وأضافت أنها تواصل العمل على استعادة الموارد في الإمارات ككل وفي منطقتي التوافر الأخريين المتضررتين.

بدأت الاضطرابات في مارس (آذار) عقب هجمات أميركية وإسرائيلية على إيران ردت عليها طهران بضربات بالصواريخ والطائرات المسيّرة على إسرائيل ودول خليجية تستضيف قواعد عسكرية أميركية. وقالت «أمازون ويب سيرفيسز» في ذلك الوقت، إن منشأتين تابعتين لها في الإمارات تعرّضتا لضربات مباشرة، بينما ألحق هجوم بطائرة مسيّرة قرب إحدى منشآتها في البحرين أضراراً مادية ببنيتها التحتية. ونقلت «رويترز» عن مصدر مطّلع في ذلك الوقت قوله إن الانقطاعات في خدمات «أمازون ويب سيرفيسز» أثّرت في بعض العمليات المصرفية.

وذكرت «رويترز»، الأسبوع الماضي، أن الإمارات تعدّل خططاً لمشروع كبير لمركز بيانات للذكاء الاصطناعي عقب الهجمات الإيرانية، بما في ذلك بحث توزيع المنشآت واستخدام بنية تحتية تحت الأرض ومقاومة للانفجارات.

وقالت «أمازون ويب سيرفيسز» في تحديث اليوم إنه بعد تضرر أول منطقة توافر في البحرين في مارس، بدأت الشركة توصي العملاء بنقل أحمال العمل إلى مناطق أخرى. وأضافت أن معظمهم فعلوا ذلك قبل أن تصبح منطقة البحرين غير متاحة عقب تعطل منطقة توافر ثانية في أبريل (نيسان).

وأضافت أنها دعمت منذ ذلك الحين العملاء في إعادة تأسيس عملياتهم في مناطق بديلة، باستخدام النسخ الاحتياطية في حالة توافرها أو تطبيق حلول بديلة للحد من تأثير البيانات التي يتعذر الوصول إليها.

وقالت الشركة إنها قيّمت البنية التحتية المتضررة، واستنفدت كل الخيارات لاستعادة البيانات والموارد التي لم تُنقل قبل أن تصبح منطقة البحرين غير متاحة.

وذكرت أنها لا تزال ملتزمة بدعم العملاء في البلدين.

وقالت الشركة إنها تعمل في الإمارات على استبدال البنية التحتية المتضررة، وإنها ستقدم تحديثاً بشأن استعادة الخدمات في الأشهر المقبلة، وأضافت أنها ستقدم أيضاً تحديثاً آخر في أوائل 2027 بشأن العمليات في البحرين.

وقالت الشركة إنها أبلغت السلطات المعنية في البلدين، وتواصل العمل معها.


حين يصبح الذكاء الاصطناعي زميلك… من سيحتفظ بوظيفته في 2030؟

حين يصبح الذكاء الاصطناعي زميلك... هل تبقى لك وظيفة في 2030؟
حين يصبح الذكاء الاصطناعي زميلك... هل تبقى لك وظيفة في 2030؟
TT

حين يصبح الذكاء الاصطناعي زميلك… من سيحتفظ بوظيفته في 2030؟

حين يصبح الذكاء الاصطناعي زميلك... هل تبقى لك وظيفة في 2030؟
حين يصبح الذكاء الاصطناعي زميلك... هل تبقى لك وظيفة في 2030؟

تخيّل صباحاً عادياً في عام 2030. يصل الطبيب إلى عيادته، والمهندس إلى مكتبه، والمحاسب إلى شركته، والمبرمج إلى حاسوبه... لكنّ «زميلاً» جديداً سبقهم جميعاً إلى العمل: نظام ذكاء اصطناعي قرأ الملفات، وحلّل البيانات، وأعدّ التقارير، وربما أنجز خلال دقائق مهام كانت تحتاج سابقاً إلى ساعات.

عندها لن يكون السؤال: هل سيأخذ الذكاء الاصطناعي وظائفنا؟ بل: أي جزء من وظائفنا سيبقى لنا؟ ومن سيحصل على الثروة التي يصنعها؟

هذا السؤال أصبح موضوعاً للبحث العلمي؛ ففي 2 يونيو (حزيران) 2026 نشرت دورية «Annual Review of Economics» دراسة بعنوان «النمو الاقتصادي في ظل الذكاء الاصطناعي التحويلي» (Economic Growth Under Transformative AI) للباحثين فيليب تراميل، من مختبر الاقتصاد الرقمي بجامعة ستانفورد، وأنطون كورينيك، من جامعة فيرجينيا والمكتب الوطني للبحوث الاقتصادية الأميركي (NBER). وتطرح الدراسة مفارقة قد تحدد اقتصاد العقد المقبل: إذا استطاع الذكاء الاصطناعي إنجاز جزء كبير من العمل المعرفي بدلاً من البشر، فقد ترتفع الإنتاجية والنمو بصورة هائلة، من دون أن ترتفع أجور البشر بالنسبة نفسها. وبعبارة أبسط: قد يصبح الاقتصاد أغنى... من دون أن يصبح العامل أغنى بالقدر نفسه.

3 طرق إلى عام 2030

في سبتمبر (أيلول) 2026، أطلق «معهد أنثروبيك» (Anthropic Institute) النسخة الأولى من «مستكشف السيناريوهات الاقتصادية» (Econ Scenario Explorer)، استناداً إلى تقرير «السيناريوهات الاقتصادية للذكاء الاصطناعي التحويلي» (Economic Scenarios for Transformative AI)، للباحث أنطون كورينيك وزملائه.

ولا يتنبأ النموذج بما سيحدث؛ بل يسأل سؤالاً علمياً: كيف يمكن أن يبدو الاقتصاد الأميركي عام 2030 إذا تطورت قدرات الذكاء الاصطناعي بسرعات مختلفة؟

وجاءت الإجابة في 3 سيناريوهات:

* في السيناريو «المتواضع»، يعزز الذكاء الاصطناعي الإنتاجية، لكن تأثيره يبقى شبيهاً بثورة الإنترنت: واسعاً، لكنه تدريجي وقابل للاستيعاب. ويصل الناتج المحلي الإجمالي الأميركي في النموذج إلى نحو 34.1 تريليون دولار بأسعار 2025.

* أما السيناريو «الجوهري»، فيفترض أن يصبح الذكاء الاصطناعي قادراً على أداء نصف العمل المعرفي بحلول 2030. عندها يرتفع الناتج إلى نحو 36.3 تريليون دولار؛ أي أعلى بنحو 8.3 في المائة من اقتصاد مماثل من دون التأثير المفترض للذكاء الاصطناعي.

3 طرق إلى 2030... أي مستقبل ينتظر الإنسان؟

* لكن السيناريو «المتطرف» يرسم عالماً مختلفاً جذرياً: أنظمة تتفوق على البشر في معظم المهام المعرفية، وتنجز غالبية تلك الأعمال بصورة مستقلة. وفي هذه الحالة الافتراضية، قد يصل النمو الاقتصادي إلى نحو 15 في المائة سنوياً، ويرتفع الناتج إلى 44.4 تريليون دولار عام 2030.

إنها أرقام تبدو للوهلة الأولى خبراً رائعاً: إنتاجية أعلى واقتصاد أكبر بكثير. لكنها تقود إلى السؤال الأكثر أهمية في الدراسة: إذا أصبح الاقتصاد أغنى بفضل الذكاء الاصطناعي، فمن سيحصل على هذه الثروة؟... الإنسان أم الآلة ومن يملكها؟

حين تكبر الكعكة وتصغر حصة العامل

هنا تكتسب الدراسة المنشورة في «Annual Review of Economics» أهميتها؛ فتراميل وكورينيك يخلصان إلى أن إسناد جزء كبير من العمل والإنتاج إلى أنظمة الذكاء الاصطناعي بدلاً من البشر يمكن، في بعض النماذج الاقتصادية، أن يسرّع النمو بصورة غير مسبوقة، وفي الوقت نفسه يخفض حصة العمل البشري من الدخل. أما الأجور، فقد ترتفع أو تنخفض تبعاً لطبيعة التطور التقني والموارد وعوامل اقتصادية أخرى. وهنا تكمن المفارقة: ازدهار الاقتصاد لا يعني بالضرورة ازدهار أجور البشر.

وتجسد سيناريوهات «Anthropic» هذه الفكرة رقمياً؛ ففي السيناريو المتطرف، تنخفض أجور العاملين في الوظائف المعرفية بأكثر من 10 في المائة بحلول 2030. والأكثر إثارة أن حصة العمل من الناتج، التي تبلغ نحو 59.4 في المائة في السيناريو المتواضع، تهبط إلى 45.2 في المائة في السيناريو المتطرف، بينما ترتفع حصة رأس المال إلى 54.8 في المائة؛ أي إن الاقتصاد قد ينتج ثروة أكبر بكثير، لكن نصيب العامل البشري النسبي منها يصبح أصغر. وهنا يظهر سؤال يتجاوز الاقتصاد إلى المجتمع نفسه: إذا كانت الخوارزميات ستنتج جزءاً متزايداً من الثروة، فمن سيمتلك هذه الثروة؟ وكيف ستوزع مكاسبها؟

هل بدأت الوظائف تتأثر فعلاً؟

لكن، هل بدأت هذه السيناريوهات تظهر في سوق العمل اليوم؟ في 5 مارس (آذار) 2026، نشر الباحثان مكسيم ماسينكوف وبيتر ماكروري من فريق «Anthropic»، دراسة بعنوان «تأثيرات الذكاء الاصطناعي في سوق العمل: مقياس جديد وأدلة أولية» (Labor Market Impacts of AI: A New Measure and Early Evidence). وابتكر الباحثان مقياساً يجمع بين ما يستطيع الذكاء الاصطناعي إنجازه نظرياً، وما يُستخدم فعلياً منه في أماكن العمل.

وجاءت النتيجة أكثر تعقيداً من الحديث عن «اختفاء الوظائف»، فلم يجد الباحثان حتى ذلك التاريخ ارتفاعاً واضحاً ومنتظماً في البطالة بالمهن الأكثر تعرضاً للذكاء الاصطناعي. لكنهما رصدا إشارة مبكرة تستحق الانتباه: توظيف الشباب قد يكون بدأ يتباطأ في بعض هذه المهن.

وكشفت الدراسة أيضاً فجوة مهمة؛ فما تستطيع أنظمة الذكاء الاصطناعي إنجازه تقنياً أكبر بكثير مما تستخدمه المؤسسات فعلياً اليوم. وقد تكون هذه الفجوة هي الأهم: إنها النافذة الزمنية المتاحة أمام العالم للاستعداد قبل أن تتحول القدرة التقنية إلى واقع يومي في سوق العمل.

الوظيفة لا تختفي... بل تتغير

لكن الحديث عن اختفاء «الوظائف» قد يكون مضللاً؛ فالطبيب والمهندس والأستاذ الجامعي والمحامي لا يقوم أي منهم بمهمة واحدة، بل بعشرات المهام. بعضها يستطيع الذكاء الاصطناعي إنجازه بدلاً من الإنسان، وبعضها يعزز فيه قدراته، بينما يظل جزء منها محتاجاً إلى الحكم البشري والخبرة والمسؤولية المهنية.

في الرعاية الصحية، مثلاً، يستطيع الذكاء الاصطناعي تلخيص السجل الطبي، وتحليل البيانات، والمساعدة في فرز المرضى. لكنه يجعل مهمة بشرية أخرى أكثر أهمية: مراجعة قرار الخوارزمية ومعرفة متى ينبغي الاعتراض عليه.

لذلك ربما لا يكون الأكثر أماناً في سوق العمل عام 2030، هو من يعمل في مهنة بعيدة عن الذكاء الاصطناعي، بل من يعرف ماذا يسلّم إليه، وماذا يحتفظ به لنفسه، ومتى لا يثق بإجابته.

من سيدفع الضرائب إذا تراجع العمل؟

يطرح التحول سؤالاً أبعد من الوظائف والأجور: ماذا سيحدث للدولة إذا أصبحت نسبة متزايدة من الثروة تنتجها أنظمة الذكاء الاصطناعي ورأس المال، بدلاً من عمل البشر؟

في فبراير (شباط) 2026، نشر المكتب الوطني للبحوث الاقتصادية الأميركي (NBER) دراسة للباحثين أنطون كورينيك ولي لوكوود بعنوان «المالية العامة في عصر الذكاء الاصطناعي: مدخل تمهيدي» (Public Finance in the Age of AI: A Primer). وناقشت الدراسة كيف يمكن للذكاء الاصطناعي التحويلي أن يضعف تدريجياً مصدرين أساسيين تعتمد عليهما النظم الضريبية الحديثة: دخل العمل والاستهلاك البشري.

وهنا يتجاوز السؤال مستقبل الطبيب أو المحاسب أو المبرمج: إذا أنتجت الآلات جزءاً متزايداً من الثروة، فمن سيدفع الضرائب؟ وكيف ستوزع الدول مكاسب هذه الثورة بين أفراد المجتمع؟

ماذا يعني ذلك للعالم العربي؟

العالم العربي وسباق وظائف المستقبل... هل نحن مستعدون؟

هذه الدراسات والنماذج بُنيت أساساً على الاقتصاد الأميركي، ولذلك لا يمكن نقل أرقامها حرفياً إلى السعودية أو الاقتصادات العربية. لكن الأسئلة التي تطرحها تهم منطقة تستثمر بسرعة في الذكاء الاصطناعي والتحول الرقمي واقتصاد المعرفة.

فهل نقيس نجاح الذكاء الاصطناعي بعدد المهام التي يستطيع إنجازها بدلاً من البشر؟ أم بعدد الوظائف الجديدة والأفضل التي يساعد في خلقها؟ والسؤال يبدأ من الجامعات: هل نستمر في إعداد الطالب لمهنة ثابتة؟ أم نعدّه لعالم تتغير فيه المهنة نفسها؟ وهذا يعني تعزيز قدرات يصعب الاستغناء عنها: التفكير النقدي، والحكم المهني، والإبداع، والتواصل الإنساني، والقدرة على استخدام الذكاء الاصطناعي ومراجعة قراراته.

فالاستعداد لسوق عمل 2030 ينبغي أن يبدأ قبل الوصول إليه؛ لأن إعداد الإنسان للتحول أسهل من محاولة إنقاذ وظيفته بعد أن يكون التحول قد حدث.

الإنسان والذكاء الاصطناعي... من يعرف متى يقول «لا»؟

الإنسان الذي يعرف متى يقول «لا»

لا تقول هذه الدراسات إن عام 2030 سيكون عالماً بلا وظائف، ولا إن السيناريو الأكثر تطرفاً سيتحقق. لكنها تكشف أن مستقبل العمل لم يعد مجرد قضية تكنولوجية؛ بل أصبح سؤالاً علمياً واقتصادياً وإنسانياً.

وحين يصبح الذكاء الاصطناعي زميلنا، لن تكون أثمن مهارات الإنسان أن ينافس الآلة في سرعة القراءة أو الحساب أو تحليل البيانات؛ بل أن يمتلك ما لا ينبغي أن نتخلى عنه بسهولة: فهم السياق، والحكم البشري، وتحمل المسؤولية، والقدرة على الشك عندما ينبغي الشك.

فربما لن يكون السؤال في 2030: من يستطيع استخدام الذكاء الاصطناعي؟

بل: من يعرف متى يثق به؟... ومتى يقول له «لا»؟