الأمم المتحدة تدعو إلى تحرك طارئ لكبح تقنيات الذكاء الاصطناعيhttps://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/5318229-%D8%A7%D9%84%D8%A3%D9%85%D9%85-%D8%A7%D9%84%D9%85%D8%AA%D8%AD%D8%AF%D8%A9-%D8%AA%D8%AF%D8%B9%D9%88-%D8%A5%D9%84%D9%89-%D8%AA%D8%AD%D8%B1%D9%83-%D8%B7%D8%A7%D8%B1%D8%A6-%D9%84%D9%83%D8%A8%D8%AD-%D8%AA%D9%82%D9%86%D9%8A%D8%A7%D8%AA-%D8%A7%D9%84%D8%B0%D9%83%D8%A7%D8%A1-%D8%A7%D9%84%D8%A7%D8%B5%D8%B7%D9%86%D8%A7%D8%B9%D9%8A
الأمم المتحدة تدعو إلى تحرك طارئ لكبح تقنيات الذكاء الاصطناعي
تستبدل إحدى الموظفات مكوّناً في الحاسوب الفائق «Alps» بالمركز الوطني السويسري للحوسبة الفائقة (CSCS) بمدينة لوغانو - جنوب سويسرا (أ.ف.ب)
دعا مفوض الأمم المتحدة السامي لحقوق الإنسان فولكر تورك، الاثنين، إلى «تحرك طارئ» لكبح تقنيات الذكاء الاصطناعي «الرائدة» (أي المتطورة للغاية)، محذراً من أن هذه التكنولوجيا تنطوي على «مخاطر غير مسبوقة».
وقال تورك في بيان: «نحن على أعتاب تغيير لا رجعة فيه، لن يقتصر تأثيره علينا فحسب، بل سيمتد ليشمل أجيال البشرية المقبلة»، مشدداً على ضرورة القيام بـ«تحرك طارئ يتناسب مع المخاطر غير المسبوقة التي يفرضها الذكاء الاصطناعي الرائد».
ودعا الرئيس التنفيذي لشركة «أنثروبيك» داريو أمودي، السبت، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي لإتاحة فهم أفضل للمخاطر الناجمة عن القدرات الجديدة في هذا المجال.
وأيّد اقتراحه كلّ من إيلون ماسك، والرئيس التنفيذي لشركة «أوبن إيه آي» سام ألتمان، ورئيس «غوغل ديبمايند» ديميس هاسابيس، والرئيس التنفيذي لمجموعة «مايكروسوفت» ساتيا ناديلا.
في الأشهر الأخيرة، أعلنت شركتا «أوبن إيه آي» و«أنثروبيك» عن حوادث عدة شهدت خروج أنظمة ذكاء اصطناعي من تلقائها من بيئاتها التي يفترض أن تكون مضبوطة وولوجها شبكة الإنترنت لمهاجمة مواقع ومنصات. وأظهرت هذه الأنظمة قدرة على التنسيق فيما بينها وإقامة هرمية داخلية والغش ومحو آثار أفعالها المؤذية.
وحتى الآن، تتمثل الخطوة الفعلية الوحيدة التي أعلنت عنها كل من «أنثروبيك» و«أوبن إيه آي»، في استقبال مراقبين مستقلين دائمين سيتولون التحقق داخلياً من أعمال هذه الشركات فيما يتعلق بسلامة الذكاء الاصطناعي وأمانه.
عقد في مبنى وزارة الخارجية والمغتربين بدمشق، اجتماع اليوم، مع رئيس بعثة قوة الأمم المتحدة لمراقبة فض الاشتباك «الأندوف» لمناقشة سبل تعزيز التنسيق بين الجانبين.
قال بنجامين ديفيس، المسؤول السابق في منظمة (الفاو)، إنه تقدم بطعن على قرار فصله من العمل، مشيراً إلى أن القرار جاء بسبب موقفه من قضية الجوع في قطاع غزة.
«الشرق الأوسط» (جنيف - روما)
«أمازون» تطلق نموذج ذكاء اصطناعي مفتوح المصدر لاتخاذ القراراتhttps://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/5325658-%D8%A3%D9%85%D8%A7%D8%B2%D9%88%D9%86-%D8%AA%D8%B7%D9%84%D9%82-%D9%86%D9%85%D9%88%D8%B0%D8%AC-%D8%B0%D9%83%D8%A7%D8%A1-%D8%A7%D8%B5%D8%B7%D9%86%D8%A7%D8%B9%D9%8A-%D9%85%D9%81%D8%AA%D9%88%D8%AD-%D8%A7%D9%84%D9%85%D8%B5%D8%AF%D8%B1-%D9%84%D8%A7%D8%AA%D8%AE%D8%A7%D8%B0-%D8%A7%D9%84%D9%82%D8%B1%D8%A7%D8%B1%D8%A7%D8%AA
«أمازون» تطلق نموذج ذكاء اصطناعي مفتوح المصدر لاتخاذ القرارات
لافتة لشركة «أمازون ويب سيرفيسز» خلال «أسبوع لندن للتكنولوجيا» في مركز «أوليمبيا» بلندن (رويترز)
أطلقت «أمازون ويب سيرفيسز (إيه دبليو إس)» لخدمات الحوسبة السحابية التابعة لمجموعة التجارة الإلكترونية والتكنولوجيا الأميركية العملاقة «أمازون دوت كوم» نموذج ذكاء اصطناعي لاتخاذ القرار مفتوح المصدر مستوحى من النموذج «جيف» التابع لشركة «تايب سيف»، في ظلِّ ازدياد سعي مطوري الذكاء الاصطناعي للحصول على أنظمة ذكية تتناسب مع الأتمتة الحاسوبية بصورة أكبر من نماذج اللغة الكبيرة المتطورة للغاية.
وأشار موقع «تك كرانش» المتخصص في موضوعات التكنولوجيا إلى أن نموذج الذكاء الاصطناعي لاتخاذ القرار «ستراندس ديسايدر 2 بي»، الذي أطلقته «أمازون» تزامن من منتج مماثل كشفت عنه شركة تطبيقات الذكاء الاصطناعي «أوبن إيه آي».
ويعد هذا النموذج وسيلةً سريعةً ومنخفضة التكلفة للمفاضلة بين خيارات محددة مسبقاً، مع تقديم مؤشر يحدِّد مدى الثقة في القرار المقترح. كما يتميَّز النموذج «ستراندس ديسايدر 2 بي» بأنه مفتوح المصدر بالكامل ومتاح حالياً، بما يتيح استخدامه مع تطبيقات من إنتاج شركات أخرى غير «أمازون». في الوقت نفسه فهو صغير الحجم بحيث يمكن للمستخدمين تشغيله على أجهزتهم مباشرة دون الحاجة إلى خوادم خارجية.
وقال موقع «تك كرانش» إن مارك بروكر المهندس في «أمازون» ابتكر هذا النموذج بعد اطلاعه على نموذج «جيف» ومحاولته بناء نسخته الخاصة من هذا النوع من النماذج. وقد حقق المشروع - الذي بدأ بوصفه مبادرةً شخصيةً - نجاحاً لافتاً، إذ تصدر لفترة وجيزة تصنيف «Jevbench» جيف إنش للنماذج المماثلة له في الحجم مما دفع مهندسي «أمازون» إلى تحسينه وإطلاقه بوصفه منتجاً ضمن وحدة «ستراندس لابس»، وهي وحدة تابعة للشركة تقوم بتطوير أدوات وبروتوكولات جديدة لنشر وكلاء الذكاء الاصطناعي ويشير بروكر إلى أن الحاجة إلى أداة مثل هذه برزت خلال النقاشات مع عملاء «أمازون ويب سيرفيسز»، الذين لا تحتاج أعمالهم دائماً إلى استخدام وكلاء الذكاء الاصطناعي التي تحتاج القدرات العالية أو التكلفة المرتفعة المرتبطة بنماذج اللغة الكبير، بكل قدراتها.
موظف سابق في «أوبن إيه آي»: «انتهى عصر التجربة والخطأ»https://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/5325573-%D9%85%D9%88%D8%B8%D9%81-%D8%B3%D8%A7%D8%A8%D9%82-%D9%81%D9%8A-%D8%A3%D9%88%D8%A8%D9%86-%D8%A5%D9%8A%D9%87-%D8%A2%D9%8A-%D8%A7%D9%86%D8%AA%D9%87%D9%89-%D8%B9%D8%B5%D8%B1-%D8%A7%D9%84%D8%AA%D8%AC%D8%B1%D8%A8%D8%A9-%D9%88%D8%A7%D9%84%D8%AE%D8%B7%D8%A3
موظف سابق في «أوبن إيه آي»: «انتهى عصر التجربة والخطأ»
شعار شركة «أوبن إيه آي» يظهر خلف لوحة مفاتيح في صورة توضيحية - 21 فبراير 2023 (رويترز)
انتقد موظف سابق في قسم السلامة لدى (أوبن إيه آي)، قدم استقالته في الآونة الأخيرة، نهج الشركة تجاه سلامة الذكاء الاصطناعي، قائلا إن الثقافة المتسارعة التي تركز على التطوير السريع تزيد من مخاطر الإخفاقات.
وفي مقال نشرته مجلة «ذي أتلانتيك» اليوم السبت بعنوان «استقلت من أوبن إيه آي لأن ثقافتها معيبة»، قال ديفيد روبنسون إن شركات الذكاء الاصطناعي، بما في ذلك أوبن إيه آي، لا تتحلى بالحذر الكافي وينبغي لها أن تولي اهتماماً أكبر للخبرة والبحوث في مجال السلامة قبل تطوير أنظمة بقدرات أكبر.
وقال روبنسون: «انتهى عصر التجربة والخطأ»، وأكد أن أنظمة الذكاء الاصطناعي المتقدمة تتطلب إجراءات وقائية أقرب إلى تلك المستخدمة في قطاعات مثل الطاقة النووية والطيران.
وأضاف روبنسون أن أوبن إيه آي تعتمد إلى حد كبير على ما تسميه «النشر التكراري»، إذ تطلق الأنظمة وتعزز إجراءات الحماية عند ظهور المشكلات.
و تأتي هذه التعليقات لتزيد من الجدل الدائر داخل قطاع الذكاء الاصطناعي حول ما إذا كانت الشركات تتحرك بسرعة مفرطة لتطوير أنظمة ذات قدرات متزايدة. وواجهت أوبن إيه آي والشركة المنافسة لها (أنثروبيك) تدقيقاً شديداً عقب وقائع لم تفلح فيها ضوابط السلامة، أو تصرفت فيها الأنظمة التجريبية بنحو غير متوقع.
وكتب روبنسون، الذي قال إنه أمضى ثلاث سنوات ونصف سنة في أوبن إيه آي وساعد في صياغة إطار عمل التأهب الخاص بالشركة وأشرف على تقارير السلامة في 12 عملية إطلاق لنماذج رائدة «مع اندفاع الشركة من عملية إطلاق إلى أخرى، فإنها تفشل في تحقيق مستوى العناية الذي «أعتقد أنه ضروري».
و قال متحدث باسم أوبن إيه آي في بيان: «نحرص على ألا تصبح نماذجنا قدراتها أكبر مما يمكننا إدارته بأمان أو تأمينه، ونوقف التدريب مؤقتاً أو نؤجل إطلاق النماذج عندما نحتاج إلى إبطاء وتيرة العمل».
وحذر روبنسون من أن قدرات الذكاء الاصطناعي تتقدم بوتيرة أسرع من فهم الباحثين لمفهوم «المواءمة»، وهو مجال يركز على ضمان أن تعمل أنظمة الذكاء الاصطناعي وفقاً لأهداف البشر وقيمهم.
«دوتس» من «أوبن إيه آي»... وكلاء يعملون حتى بعد انتهاء المحادثةhttps://aawsat.com/%D8%AA%D9%83%D9%86%D9%88%D9%84%D9%88%D8%AC%D9%8A%D8%A7/5325263-%D8%AF%D9%88%D8%AA%D8%B3-%D9%85%D9%86-%D8%A3%D9%88%D8%A8%D9%86-%D8%A5%D9%8A%D9%87-%D8%A2%D9%8A-%D9%88%D9%83%D9%84%D8%A7%D8%A1-%D9%8A%D8%B9%D9%85%D9%84%D9%88%D9%86-%D8%AD%D8%AA%D9%89-%D8%A8%D8%B9%D8%AF-%D8%A7%D9%86%D8%AA%D9%87%D8%A7%D8%A1-%D8%A7%D9%84%D9%85%D8%AD%D8%A7%D8%AF%D8%AB%D8%A9
«دوتس» من «أوبن إيه آي»... وكلاء يعملون حتى بعد انتهاء المحادثة
تشمل الاستخدامات متابعة المشروعات وتحليل البيانات وتطوير البرمجيات وإعداد المحتوى مع إمكان تنفيذ مهام متكررة في الخلفية (الشركة)
يبدو أن وكيل «دوتس» الجديد من «أوبن إيه آي» لا يحتاج إلى انتظار سؤال جديد كي يبدأ العمل، فالفكرة الأساسية تقوم على وكيل دائم يمكن تكليفه بهدف، وربطه بالتطبيقات التي يحتاج إليها، وتركه يواصل تنفيذ المهامّ في الخلفية، حتى بعد انتهاء المحادثة مع المستخدم.
فقد أعلنت الشركة عن «Dots»، خلال مؤتمرها للمطورين في نهاية سبتمبر (أيلول) الماضي، وقدّمتها بوصفها نقلة من نموذج الذكاء الاصطناعي الذي يجيب عن الطلبات إلى نظام يستطيع متابعة مشروعات مفتوحة، والعمل عليها على مدار الساعة.
وتعتمد الخدمة على نموذج «GPT-6 Astra»، ويملك كل «دوتس» جهاز كمبيوتر سحابياً خاصاً به ومتصفحاً مستقلاً، مع إمكان الاتصال بأكثر من 4 آلاف تطبيق عبر منظومة الإضافات التابعة للشركة.
كما يمكن للمستخدم تكليف «دوتس» بمشروع ثم العودة إليه لاحقاً، بينما يواصل الوكيل العمل على مهامّ أخرى، في الوقت نفسه. كما يستطيع المستخدم التواصل معه عبر «شات جي بي تي» و«سلاك» و«تيمز»، مع احتفاظ الوكيل بالسياق بين هذه القنوات. وتقول «أوبن إيه آي» إن الرسائل النصية ستُضاف لاحقاً.
كيف ستستخدم التقنية؟
في تطوير البرمجيات، يمكن للوكيل متابعة ملاحظات العملاء، وتحديد الأخطاء المتكررة، وبناء الإصلاحات واختبارها قبل تقديمها للمراجعة. وفي العمل البحثي، يستطيع إعادة تشغيل التحليلات عند وصول بيانات جديدة وتحديث الرسوم والنتائج. أما في صناعة المحتوى، فيمكنه تحليل نص مقابلة واستخراج مقاطع مناسبة وتجهيز ملاحظات وصياغة منشورات للسوشيال ميديا قبل إرسالها للموافقة.
وتشير الشركة إلى حالة، خلال الاختبارات المبكرة، لاحظ فيها أحد الوكلاء أن مستخدماً نسي إصدار فاتورة لإحدى الجهات، فجهّزها ثم أرسلها بعد حصوله على الموافقة.
تطرح «أوبن إيه آي» وكلاء «دوتس» بوصفها أنظمة دائمة يمكنها مواصلة العمل على المهام حتى بعد انتهاء المحادثة مع المستخدم (الشركة)
جهاز سحابي خاص بالوكيل
أحد الاختلافات التقنية في «Dots» هو أن الوكيل لا يعمل فحسب داخل نافذة دردشة، بل يحصل على بيئة حوسبة سحابية خاصة يستطيع استخدامها لتصفح المواقع وتشغيل الأدوات المرتبطة به.
ويمكن للمستخدم فتح جهاز الوكيل السحابي في أي وقت، لمشاهدة ما يقوم به، كما تسمح الخدمة، عند منح الإذن، بربط الوكيل بحاسوب المستخدم نفسه، بينما يظل الجهاز الشخصي منفصلاً افتراضياً عن بيئة الوكيل، ما لم يقرر المستخدم خلاف ذلك.
ويضع ذلك «دوتس» ضِمن سباق أوسع بين شركات الذكاء الاصطناعي لتطوير وكلاء دائمين، بدلاً من المساعدات التي تبدأ عملها وتُنهيه داخل جلسة واحدة. ووصفت «رويترز» الإطلاق بأنه جزء من توسع «أوبن إيه آي» في سوق الوكلاء المستقلين، في مواجهة منتجات منافِسة؛ من بينها «ميوز» من «ميتا».
العمل في الخلفية... ضمن حدود
تمنح فكرة الوكيل الدائم النظام وصولاً أوسع إلى التطبيقات والبيانات، ولذلك خصصت «أوبن إيه آي» جانباً من الإعلان للضوابط والصلاحيات. فعندما يعمل «دوتس» بصورة استباقية في الخلفية، تقول الشركة إنه يستخدم التطبيقات المرتبطة به في وضع للقراءة فقط، ما يمنعه في هذه الحالة من إرسال الرسائل أو تغيير المحتوى داخل التطبيقات أو التحكم في المتصفح والحاسوب. ويمكن للمستخدم أيضاً تحديد إجراءات مسموح بها مسبقاً، أو اشتراط الموافقة قبل تنفيذها، أو منعها تماماً.
وتخضع بعض الإجراءات لمراجعة تلقائية، لتحديد ما إذا كان يمكن تنفيذها مباشرة أم تحتاج إلى موافقة المستخدم. وتبقى مهامّ حساسة معينة، مثل تغيير كلمات المرور، بيد المستخدم نفسه. كما تؤكد الشركة أن «Dots» قد ترتكب أخطاء، وتوصي بمراجعة الأعمال ذات العواقب المهمة.
تأتي هذه الضوابط مع تصاعد النقاش حول مخاطر الأنظمة القادرة على اتخاذ إجراءات بصورة مستقلة. وذكرت «أكسيوس» أن الإطلاق يضع وعود السلامة لدى الشركة أمام اختبار جديد؛ لأن التحدي لم يعد متعلقاً فحسب بما قد يقوله النموذج، بل بما قد يفعله عندما يحصل على أدوات وصلاحيات للعمل.
تعتمد الخدمة على صلاحيات وضوابط تحدد ما يستطيع الوكيل فعله مع الحاجة لموافقة المستخدم قبل بعض الإجراءات الحساسة (الشركة)
وكلاء متخصصون داخل الشركات
لا تقتصر خطة «أوبن إيه آي» على وكيل شخصي واحد، فالشركة تختبر أيضاً «دوتس» متخصصة للمؤسسات، يكون لكل منها هوية وصلاحيات خاصة وربط مباشر بأنظمة الشركة.
وتشمل الاستخدامات التي جُرّبت داخل «أوبن إيه آي» المشتريات، ومعالجة الفواتير، والتسويق عبر البريد الإلكتروني، ودعم العملاء والعقود التجارية، كما تعمل الشركة مع «مايكروسوفت» لدمج هذه الوكلاء مع أدوات الحوكمة والأمن في «Agent 365».
ويجري طرح «Dots» تدريجياً لمشتركي «برو» و«بيزنس بريميوم» في الأسواق المؤهلة، مع نسخة تجريبية للمؤسسات عند تفعيلها من مسؤولي بيئة العمل.
ويبدأ المستخدم حالياً بوكيل رئيسي واحد، بينما تتحدث «أوبن إيه آي» عن مرحلة لاحقة يمكن فيها لفِرق كاملة من الوكلاء العمل معاً نيابة عن المستخدم.
وبهذا تنتقل المنافسة في الذكاء الاصطناعي إلى سؤال مختلف عن جودة الإجابة وحدها: إلى أي مدى يمكن للنظام أن يتذكر السياق، ويواصل العمل، ويتصرف عبر تطبيقات متعددة، دون أن يحتاج المستخدم إلى توجيه كل خطوة؟ وهذه هي المساحة التي تحاول «Dots» دخولها.
