أدوات مساعدة صوتية مطورة بالذكاء الاصطناعي التوليدي

تقبّل المستخدمين لها سيزيد من استخدامها في الكومبيوترات

أدوات مساعدة صوتية مطورة بالذكاء الاصطناعي التوليدي
TT

أدوات مساعدة صوتية مطورة بالذكاء الاصطناعي التوليدي

أدوات مساعدة صوتية مطورة بالذكاء الاصطناعي التوليدي

تلتقط نظارة من شركة «ميتا» صورة عندما تقول لها: «هيا ميتا التقطي صورة»... أما جهاز «أيه آي بين» الذي يعمل بتقنية الذكاء الاصطناعي، وهو كومبيوتر مصغّر مثبت بقميصك، فإنه يترجم لغات أجنبية إلى لغتك الأم الأصلية... بينما تقدم شاشة تعمل بتقنية الذكاء الاصطناعي مساعداً افتراضياً يمكنك التحدث إليه عبر ميكروفون.

أجهزة مساعدة صوتية ذكية

وخلال العام الماضي حدّثت شركة «أوبن أيه آي» برنامج الدردشة الآلي الخاص بها «تشات جي بي تي» للرد عليك باستخدام كلمات منطوقة، وقدّمت شركة «غوغل» مؤخراً نموذج الذكاء الاصطناعي «جيميناي» بديلاً للمساعد الصوتي الخاص بها المستخدم في الهواتف التي تعمل بنظام «أندرويد». وتراهن الشركات، التي تعمل في مجال التكنولوجيا، على حدوث نهضة في المساعدات الصوتية، بعد مرور سنوات كثيرة على اعتبار أكثر الناس أن الحديث مع أجهزة الكومبيوتر ليس لطيفاً.

هل سينجح الأمر هذه المرة؟ ربما، لكن قد يستغرق بعض الوقت. لم يستخدم عدد كبير من الناس بعد أدوات مساعدة صوتية مثل «أليكسا» من شركة «أمازون» و«سيري» من شركة «أبل» و«أسيستانت» من شركة «غوغل»، وقالت الأغلبية العظمى منهم إنهم لم يرغبوا قط في أن يراهم أحد يتحدثون إلى المساعدين الصوتيين علناً بحسب دراسات تم إجراؤها خلال العقد الماضي.

أنا أيضاً نادراً ما أستخدم مساعدين صوتيين، وخلال تجربتي مع نظارة «ميتا» مؤخراً، التي تتضمن كاميرا، وسماعات خارجية، لتوفير معلومات عن البيئة المحيطة بك، خلصت إلى أن التحدث إلى جهاز كومبيوتر أمام آباء وأبنائهم في حديقة يظل أمراً محرجاً للغاية. لقد جعلني ذلك أتساءل عما إذا كان هذا الأمر سيبدو طبيعياً يوماً ما.

منذ مدة ليست بالطويلة، كان الحديث على الهاتف باستخدام سماعات «بلوتوث» يجعل الناس تبدو مختلة عقلياً، لكن الجميع يفعل ذلك الآن. هل سنرى في وقت ما الكثير من الناس يتجولون وهم يتحدثون إلى أجهزة الكومبيوتر الخاصة بهم مثلما يحدث في أفلام الخيال العلمي؟

لقد طرحت هذا السؤال على خبراء وباحثين في التصميم، وقد أجمعوا بشكل واضح على القول بأنه نظراً لأن أنظمة الذكاء الاصطناعي الجديدة سوف تحسّن قدرة المساعدين الصوتيين على فهم ما نقوله ومساعدتنا، من المرجح أن نتحدث إلى أجهزة بشكل أكبر في المستقبل القريب، لكن لا تزال هناك سنوات طويلة تفصلنا عن القيام بذلك علناً أمام الآخرين.

ذكاء اصطناعي توليدي

• لماذا تزداد أدوات المساعدة الصوتية ذكاءً؟ المساعدون الصوتيون الجديدون مزودون بذكاء اصطناعي توليدي، يستخدم إحصاءات، وخوارزميات معقدة لتخمين الكلمات التي ينتمي بعضها إلى بعض، مثل خاصية الإكمال التلقائي الموجودة على هاتفك. ويجعلهم ذلك أكثر قدرة على استخدام السياق لفهم الطلبات وأسئلة المتابعة مقارنة بمساعدين افتراضيين مثل «سيري» و«أليكسا»، والذين يستطيعون الرد فقط على قائمة محدودة من الأسئلة.

على سبيل المثال، إذا قلت لبرنامج دردشة آلي: «ما هي رحلات الطيران من سان فرنسيسكو إلى نيويورك خلال الأسبوع المقبل؟» وسؤال متابعة هو: «ما حالة الطقس هناك؟ وما الأشياء التي ينبغي أن أحضرها معي؟» يستطيع برنامج الدردشة الآلي الإجابة عن تلك الأسئلة لأنه ينشئ روابط بين الكلمات لفهم سياق المحادثة.

سوف يفشل مساعد صوتي أقدم مثل «سيري»، الذي يستجيب لقاعدة بيانات مكونة من أوامر وأسئلة تمت برمجته لفهمها، إلا إذا استخدمت كلمات محددة، من بينها: «ما هي حالة الطقس في نيويورك؟»، و«ما الذي ينبغي لي وضعه في حقيبتي خلال رحلة قصيرة إلى نيويورك؟». تبدو المحادثة السابقة أكثر سلاسة مثل الطريقة التي يتحدث بها الناس إلى بعضهم. ومن الأسباب المهمة، التي جعلت الناس تتخلى عن مساعدين صوتيين مثل «سيري» و«أليكسا»، عدم قدرة أجهزة الكومبيوتر على فهم الكثير مما يتم سؤالهم عنه، وكان من الصعب عليهم تعلّم الأسئلة المناسبة.

قالت دميترا فيرغيري، مديرة تكنولوجيا الحديث في معمل الأبحاث «إس أر أي» الذي كان وراء ظهور النسخة الأولية من المساعد الصوتي «سيري» قبل استحواذ شركة «أبل» عليه، إن الذكاء الاصطناعي التوليدي قد عالج الكثير من المشكلات التي ظل الباحثون يعملون بجهد لسنوات من أجل حلها. كذلك أوضحت أن التكنولوجيا تجعل المساعدين الصوتيين قادرين على فهم الحديث العفوي والرد بإجابات مفيدة.

وقال جون بيركي، مهندس سابق في شركة «أبل» عمل على المساعد الصوتي «سيري» عام 2014 وكان من منتقديه بشكل علني، إنه اعتقد أن الذكاء الاصطناعي التوليدي قد جعل من الأسهل على الناس الحصول على مساعدة من أجهزة الكومبيوتر، مما زاد احتمال زيادة عدد الناس الذين سيتحدثون إلى المساعدين قريباً، وعندما يبدأ العدد الكافي من الناس في القيام بذلك، سيصبح أمراً عادياً. وقال: «كان (سيري) محدوداً من حيث الحجم؛ حيث كان يعرف كلمات كثيرة فقط. لدينا الآن أدوات ووسائل أفضل».

مع ذلك قد تمر سنوات طويلة قبل تبني الموجة الجديدة من المساعدين الصوتيين، الذين يعملون بتقنية الذكاء الاصطناعي، على نطاق واسع لأنها تتضمن مشكلات جديدة، إذ إن برامج الدردشة الآلية، ومن بينها «تشات جي بوت» و«جيميناي» من «غوغل» و«ميتا أيه آي»، عرضة لـ«الهلاوس»، التي تحدث عندما تختلق أشياء لعدم تمكنها من التوصل إلى الإجابات الصحيحة. لقد ارتكبت أخطاء في مهام أساسية مثل العدّ والحساب وتلخيص معلومات من شبكة الإنترنت.

• متى يقدم المساعدون الصوتيون المساعدة ومتى لا يفعلون ذلك؟

رغم تحسن وتطور تكنولوجيا المحادثة، من المرجح ألا يحلّ التحادث محل التفاعلات التقليدية مع أجهزة الكومبيوتر باستخدام لوحات المفاتيح على حد قول خبراء.

ولدى الناس حالياً أسباب قوية للحديث إلى أجهزة الكومبيوتر في بعض المواقف التي يكونون فيها وحدهم، مثل تحديد وجهة على خريطة أثناء قيادة سيارة. مع ذلك فإن الحديث إلى مساعد صوتي علناً لن يجعلك تبدو غريباً فقط، بل سيكون غير عملي في أكثر الأحوال. عندما كنت أرتدي نظارة «ميتا» في متجر بقالة، وطلبت منها تحديد هوية نوع من الخضراوات، رد متسوق كان يسترق السمع بوقاحة: «إنه لفت».

كذلك لن يريد المرء إملاء رسالة بالبريد الإلكتروني خاصة بعمل سري في وجود آخرين على متن قطار. بالمثل سيكون من اللامبالاة وعدم مراعاة الآخرين الطلب من مساعد صوتي قراءة رسائل نصية بصوت مرتفع في مقهى. مع ذلك من السهل العثور على أوقات يساعد فيها التحدث مع جهاز كومبيوتر المرء كثيراً إلى حد يجعله لا يبالي بأي حرج أمام الآخرين، على حد قول كارولينا ميلانيزي، محللة في شركة الأبحاث «كريتيف ستراتيجيس».

إذا كنت تتوجه لحضور اجتماع في المكتب المجاور، سيكون من المفيد الطلب من مساعد صوتي إطلاعك على معلومات عن الأشخاص الذين ستقابلهم. وعند تسلق درب جبلي، سيكون سؤال مساعد صوتي عن الاتجاه الذي ينبغي لك السير فيه، أسرع من التوقف لتفحص الخريطة. وعند زيارة متحف، سيكون من الجيد أن يشرح المساعد الصوتي درساً في التاريخ عن اللوحة التي تنظر إليها. لقد تم تطوير بعض من تلك التطبيقات بالفعل باستخدام تكنولوجيا ذكاء اصطناعي جديدة.

أنا مقتنع بأن اليوم، الذي سوف يتحدث فيه الناس أحياناً إلى أجهزة الكومبيوتر بشكل اعتيادي في حياتهم اليومية، سيأتي حتماً، لكنه سيأتي ببطء شديد.

* خدمة «نيويورك تايمز»


مقالات ذات صلة

«بلوتوث» داخل الجسم... غرسات طبية صغيرة تتبادل الإشارات عبر الأنسجة

تكنولوجيا تسمح الشبكة بفصل موقع الاستشعار عن موقع العلاج بحيث يرصد جهاز تغيراً حيوياً في مكان ويحفّز جهازاً آخر في موقع مختلف (أدوبي)

«بلوتوث» داخل الجسم... غرسات طبية صغيرة تتبادل الإشارات عبر الأنسجة

طوّر باحثو معهد «جورجيا تك» شبكة منخفضة الطاقة تتيح لغرسات طبية صغيرة تبادل الإشارات عبر الأنسجة لتنسيق الاستشعار والعلاج داخل الجسم.

نسيم رمضان (لندن)
تكنولوجيا تسمح الطريقة للنموذج باستكشاف حلول أكثر مرونة أثناء عملية التوليد مع فرض القيود بشكل حاسم على النتيجة النهائية (أدوبي)

«هارد فلو»... خوارزمية جديدة لضبط مُخرجات الذكاء الاصطناعي تحت قيود صارمة

طوّر باحثون في «MIT» خوارزمية «هارد فلو» لضبط مُخرجات الذكاء الاصطناعي تحت قيود صارمة دون إعادة تدريب النماذج مسبقاً.

نسيم رمضان (لندن)
الولايات المتحدة​ الرئيس الأميركي دونالد ترمب يتحدث بمناسبة إطلاق موقع حكومي مدعوم بالذكاء الاصطناعي في قاعة أندرو ميلون في العاصمة واشنطن يوم 29 سبتمبر 2026 (إ.ب.أ)

ترمب: التعاون مع شي بالذكاء الاصطناعي سيضر الشركات الأميركية

رفض الرئيس الأميركي دونالد ترمب التعاون مع الرئيس الصيني شي جينبينغ في تنظيم الذكاء الاصطناعي، وعدّ أن ذلك قد يعرقل تفوق الشركات الأميركية على نظيراتها الصينية.

«الشرق الأوسط» (واشنطن)
الولايات المتحدة​ الرئيس المؤسس لشركة «مايكروسوفت» بيل غيتس متحدثاً خلال الاجتماع السنوي للمنتدى الاقتصادي العالمي في دافوس (د.ب.أ)

بيل غيتس يحذِّر من فناء مليار إنسان و«أوبن إيه آي» توقف برنامجاً

بينما يعتمد الرئيس الأميركي دونالد ترمب على التقدم التكنولوجي خدمة لـ«العصر الذهبي» لأميركا، واصل عمالقة الذكاء الاصطناعي تحذيراتهم من أخطار وجودية لصناعاتهم.

علي بردى (واشنطن)
الاقتصاد متداولون في قاعة بورصة نيويورك بالولايات المتحدة (رويترز)

أسهم التكنولوجيا تصعد بدعم من تفاؤل بطرح «أنثروبيك»

ارتفعت أسهم التكنولوجيا في أوروبا، الثلاثاء، فيما صعدت العقود الآجلة لمؤشر «ناسداك» قليلاً، مدفوعة بتفاؤل بشأن خطط مختبر الذكاء الاصطناعي «أنثروبيك» لطرح أسهمه.

«الشرق الأوسط» (لندن)

«بلوتوث» داخل الجسم... غرسات طبية صغيرة تتبادل الإشارات عبر الأنسجة

تسمح الشبكة بفصل موقع الاستشعار عن موقع العلاج بحيث يرصد جهاز تغيراً حيوياً في مكان ويحفّز جهازاً آخر في موقع مختلف (أدوبي)
تسمح الشبكة بفصل موقع الاستشعار عن موقع العلاج بحيث يرصد جهاز تغيراً حيوياً في مكان ويحفّز جهازاً آخر في موقع مختلف (أدوبي)
TT

«بلوتوث» داخل الجسم... غرسات طبية صغيرة تتبادل الإشارات عبر الأنسجة

تسمح الشبكة بفصل موقع الاستشعار عن موقع العلاج بحيث يرصد جهاز تغيراً حيوياً في مكان ويحفّز جهازاً آخر في موقع مختلف (أدوبي)
تسمح الشبكة بفصل موقع الاستشعار عن موقع العلاج بحيث يرصد جهاز تغيراً حيوياً في مكان ويحفّز جهازاً آخر في موقع مختلف (أدوبي)

طوّر مهندسون في معهد جورجيا للتكنولوجيا «جورجيا تك» نظاماً جديداً للاتصال بين الأجهزة الطبية القابلة للارتداء والغرسات المزروعة داخل الجسم، من خلال استخدام أنسجة الجسم نفسها قناة لنقل الإشارات. ويتيح النظام الذي أطلق عليه الباحثون اسم «سوانز»، لمستشعر في جزء من الجسم أن يرسل إشارة إلى جهاز علاجي في مكان آخر، دون الحاجة إلى اتصال مباشر أو قرب بينهما.

وتركز الدراسة، التي نُشرت في دورية «العلوم»، على بناء شبكة من أجهزة صغيرة يمكن أن تعمل معاً داخل الجسم وعلى سطحه، بحيث تكتشف تغيراً بيولوجياً في موقعٍ ما ثم تطلق استجابة علاجية في موقع مختلف، مثل تحفيز عصب أو تشغيل جهاز مزروع.

وتكمن الفكرة الأساسية في الاستفادة من الموصلية الأيونية الطبيعية لأنسجة الجسم، بدلاً من الاعتماد على تقنيات لا سلكية تقليدية، مثل «Bluetooth» أو «NFC».

ويقول الباحثون إن الإشارات اللاسلكية التقليدية لا تنتقل بكفاءة كبيرة عبر الجسم، كما أنها تحتاج إلى هوائيات وطاقة إضافية، وهو ما يزيد حجم الغرسات ويحدّ من المدة التي يمكن أن تعمل خلالها.

أما «SWANS» فيرسل نبضات كهربائية صغيرة عبر الأنسجة، ويمكن برمجة كل غرسة للاستجابة فقط لنبضات بجهد وزمن محددين، ما يسمح بتوجيه الإشارة إلى الجهاز المطلوب داخل الشبكة.

ويرى الفريق أن هذه البنية تتيح فصل مكان الاستشعار عن مكان العلاج. فبدلاً من وضع المستشعر والجهاز العلاجي في وحدة واحدة، يمكن وضع كل منهما في الموقع الأنسب وظيفياً، ثم تمرير الإشارات بينهما عبر أنسجة الجسم.

يختبر الباحثون شبكة منخفضة الطاقة تسمح لأجهزة طبية صغيرة بتبادل الإشارات عبر أنسجة الجسم نفسها (جورجيا تك)

غرسات بحجم أقل من 3 ملليمترات

ساعد انخفاض متطلبات الطاقة على تصغير حجم الأجهزة بصورة كبيرة. ووفق الباحثين، يمكن تصنيع غرسات يقلّ حجمها عن 3 ملليمترات، ما يجعلها صغيرة بما يكفي لزرعها باستخدام حقنة.

وتعتمد هذه الأجهزة على مكونات إلكترونية سلبية تستهلك قدراً ضئيلاً للغاية من الطاقة أثناء الانتظار، ثم تستيقظ فور وصول الإشارة المطلوبة لتنفيذ المهمة المحددة.

وفي الاختبارات، قدَّر الفريق أن جهازاً علاجياً صغيراً يجري تشغيله مرة واحدة يومياً، يمكن أن يعمل لنحو عام قبل الحاجة لاستبداله. كما ذكر الباحثون أن النبضات الكهربائية المستخدمة لم تُحدث ضرراً في عينات الأنسجة التي اختبروها.

تجربة للتحكم في الحركة

اختبر الفريق النظام في تجربة على جرذ، حيث ربط شبكة من المستشعرات والواجهات العصبية عبر الجسم. واستطاع مستشعرٌ اكتشاف حركة إحدى القوائم الأمامية، ثم أرسل إشارة عبر الأنسجة إلى جهاز آخر حفّز عضلة في القائمة الخلفية وأدى إلى انقباضها؛ في محاولة لمحاكاة جزء من نمط المشي الطبيعي. كما أظهرت التجربة أن عدداً من الأجهزة يمكن أن يعمل ضِمن شبكة واحدة، دون الحاجة لأسلاك مباشرة بينها أو إلى محاذاة دقيقة.

البيانات الصغيرة داخل الجسم

لا يهدف «سوانز» إلى نقل كميات كبيرة من البيانات عبر الأنسجة، فالتصميم مخصص لإشارات صغيرة وبسيطة، مثل تحديد وجود أو غياب حدث معين أو إرسال أمر تشغيل أو إيقاف.

أما عمليات التحليل الأكبر أو تبادل كميات كبيرة من البيانات، فيمكن تنفيذها بواسطة جهاز خارجي قابل للارتداء يعمل كمركز للشبكة، حيث يجمع قراءات الغرسات ويقرر متى ينبغي تفعيل إجراء علاجي معين.

ويعني ذلك أن النظام لا يحاول استبدال كل أشكال الاتصال اللاسلكي، بل يخصص قناة منخفضة الطاقة للتنسيق بين الأجهزة المزروعة والقابلة للارتداء.

صُممت الغرسات لتكون صغيرة جداً ومنخفضة الاستهلاك ويمكن لبعضها أن يكون بحجم يسمح بزرعه باستخدام حقنة (جورجيا تك)

نحو علاج إلكتروني مُنسّق

يرى الفريق أن أحد الاستخدامات المستقبلية المحتملة يتمثل في بناء أنظمة علاجية آلية موزعة عبر الجسم، بحيث ترصد المستشعرات التغيرات البيولوجية ثم تطلق استجابة مناسبة في الوقت والمكان المطلوبين.

وذكر أليكس أبرامسون، الأستاذ المساعد بكلية الهندسة الكيميائية والجزيئية الحيوية في «جورجيا تك» والمؤلف الرئيسي للدراسة، أن الهدف هو السماح بوضع أجهزة الاستشعار حيث تكون أكثر قدرة على التقاط الإشارة البيولوجية، ووضع المحفزات أو الأجهزة العلاجية حيث تكون أكثر فاعلية، دون الحاجة إلى أن تكون متجاورة.

ويشير الباحثون إلى أن هذا النوع من الشبكات قد يدعم مستقبلاً تطبيقات في الطب الإلكتروني الشخصي، حيث تعمل عدة أجهزة صغيرة بصورة منسقة، بدلاً من الاعتماد على غرسة واحدة تقوم بجميع الوظائف.

شبكة تحاكي منطق الجهاز العصبي

استلهم الفريق فكرة النظام جزئياً من الطريقة التي ينسّق بها الجهاز العصبي عمل أجزاء مختلفة من الجسم، مع اختلاف واضح في آلية التنفيذ. ويلفت الباحثون إلى أن القدرة على ربط عدة مستشعرات ومحفزات موزعة في أماكن مختلفة، بما في ذلك مواقع عميقة داخل الجسم مثل المعدة، قد تفتح المجال أمام أنظمة علاجية أكثر تخصصاً وأقل اعتماداً على أجهزة كبيرة أو وصلات خارجية.

ولا تزال التقنية في مرحلة بحثية، وقد أُثبتت في تجارب مخبرية وحيوانية، وليس كمنظومة علاجية معتمَدة للاستخدام البشري. وتتركز الخطوات المقبلة على تطوير الشبكة واختبار كيفية عمل عدد أكبر من الأجهزة معاً، وصولاً إلى تطبيقات يمكن فيها تنسيق الاستشعار والعلاج بصورة أكثر استقلالية داخل الجسم.


أداة صينية للذكاء الاصطناعي أرشدت باحثين إلى كيفية صنع أسلحة بيولوجية

شعار شركة مونشوت الصينية لتطوير الذكاء الاصطناعي (رويترز)
شعار شركة مونشوت الصينية لتطوير الذكاء الاصطناعي (رويترز)
TT

أداة صينية للذكاء الاصطناعي أرشدت باحثين إلى كيفية صنع أسلحة بيولوجية

شعار شركة مونشوت الصينية لتطوير الذكاء الاصطناعي (رويترز)
شعار شركة مونشوت الصينية لتطوير الذكاء الاصطناعي (رويترز)

تُجري شركة مونشوت الصينية لتطوير الذكاء الاصطناعي مراجعة داخلية بعد أن تمكن باحثون من إقناع اثنين من نماذجها الشهيرة «كيمي» بتدريبها على صنع أسلحة بيولوجية وتنفيذ عمليات اغتيال.

وأبلغت شركة «مايندغارد»، المتخصصة في اختبار أمن أنظمة الذكاء الاصطناعي، هيئة الإذاعة البريطانية (بي بي سي) أنها اكتشفت في يوليو (تموز) أن «كيمي K2.6» و«كيمي K3 سوارم» قادرتان على تجاوز حدود الأمان التي وضعها المطورون.

وقد ظهر ذلك خلال عملية تُعرف باسم «كسر الحماية»، حيث يستخدم الباحثون سلسلة من التعليمات المعقدة لاختبار ما إذا كانت أدوات الذكاء الاصطناعي تتجاهل الضوابط الأمنية - وهو ما قالت مايندغارد إنه كان من المفترض أن يمنع «كيمي» من مناقشة مواضيع حساسة.

وأبلغت مونشوت هيئة الإذاعة البريطانية (بي بي سي) أنها ترحب بمساهمات جهات خارجية «باعتبارها ركيزة أساسية لبناء ذكاء اصطناعي أفضل وأكثر أماناً». كما أبلغت الشركة هيئة الإذاعة البريطانية أنها تُجري مناقشات مع «مايندغارد» حول نتائجها.

وصرح بيتر غاراغان، مؤسس «مايندغارد»، لبرنامج «تيك لايف» على إذاعة «بي بي سي»، بأن نتائجها المتعلقة بـ«كيمي K2.6» و«كيمي K3 سوارم» مثيرة للقلق. وقال: «بمجرد نجاح عملية اختراق النظام، سيتحدث عن أي موضوع، بل سيقدم توصيات حول مواضيع أخرى خبيثة، وسيكون مبتكراً ومبدعاً».

وتمثل عمليات اختراق الأنظمة نوعاً مختلفاً من المخاطر عن تلك التي ظهرت في سلسلة حوادث الذكاء الاصطناعي البارزة الأخيرة.

شهد هذا المجال قيام أدوات ذكاء اصطناعي ذاتية التشغيل -تُعرف باسم «الوكلاء» وطورتها شركات أميركية مثل «أوبن إيه آي» و«ميتا» و«أنثروبيك»- باختراق بعض الخدمات عبر الإنترنت.

ورغم أن عمليات «كسر القيود» (jailbreaks) تُعد إجراءات معقدة تتطلب الكثير من الوقت والإصرار، فإن بعض الخبراء يخشون أن يحاول القراصنة وغيرهم من الجهات الخبيثة استغلالها لإلحاق الضرر.

وقد أعلنت شركة «أنثروبيك» مؤخراً أنها رصدت وأحبطت محاولات لاستخدام أحد نماذج الذكاء الاصطناعي الخاصة بها في «أنشطة خبيثة» قد تدعم تطوير أسلحة بيولوجية.

وقوع الذكاء الاصطناعي «في الأيدي الخطأ»

وفي السياق ذاته، أوضح البروفسور آلان وودوارد، من جامعة سري، لـ«بي بي سي» أن هناك خطراً من وقوع نماذج المصادر المفتوحة في الأيدي الخطأ، لكنها قد تُستخدم أيضاً في الدفاع السيبراني.

وأشار إلى أن شركة الذكاء الاصطناعي «هاغينغ فيس» استخدمت نموذجاً صينياً مفتوح المصدر لفهم عملية اختراق تبين لاحقاً أنها نُفذت بواسطة عملاء «أوبن إيه آي».

وقال البروفسور وودوارد إن التنظيم الدولي من غير المرجح أن يواكب وتيرة تطور الذكاء الاصطناعي، قائلاً: «لقد استغرقنا عقوداً للاتفاق على صيغة أرقام الهواتف».

ومثل مؤسس «مايندغارد»، غاراغان، يعتقد البروفسور وودوارد أنه ينبغي التركيز بشكل أكبر على تحديد ومقاضاة الأشخاص الذين يسيئون استخدام الذكاء الاصطناعي.


«هارد فلو»... خوارزمية جديدة لضبط مُخرجات الذكاء الاصطناعي تحت قيود صارمة

تسمح الطريقة للنموذج باستكشاف حلول أكثر مرونة أثناء عملية التوليد مع فرض القيود بشكل حاسم على النتيجة النهائية (أدوبي)
تسمح الطريقة للنموذج باستكشاف حلول أكثر مرونة أثناء عملية التوليد مع فرض القيود بشكل حاسم على النتيجة النهائية (أدوبي)
TT

«هارد فلو»... خوارزمية جديدة لضبط مُخرجات الذكاء الاصطناعي تحت قيود صارمة

تسمح الطريقة للنموذج باستكشاف حلول أكثر مرونة أثناء عملية التوليد مع فرض القيود بشكل حاسم على النتيجة النهائية (أدوبي)
تسمح الطريقة للنموذج باستكشاف حلول أكثر مرونة أثناء عملية التوليد مع فرض القيود بشكل حاسم على النتيجة النهائية (أدوبي)

طوّر باحثون في معهد ماساتشوستس للتكنولوجيا «MIT» خوارزمية جديدة تهدف إلى جعل نماذج الذكاء الاصطناعي التوليدي أكثر ملاءمة للتطبيقات التي لا يكفي فيها أن تكون الإجابة «قريبة من الصواب»، بل يجب أن تلتزم بقيود صارمة لا يمكن تجاوزها، مثل قواعد السلامة أو القوانين الفيزيائية أو متطلبات المهمة نفسها. وتحمل الطريقة اسم «هارد فلو»، وتعمل على النماذج المدرَّبة مسبقاً دون الحاجة لإعادة تدريبها.

ففي كثير من تطبيقات الذكاء الاصطناعي التوليدي، يمكن قبول إجابة تقريبية أو صورة مقاربة للطلب، لكن هذا الهامش لا يصلح في مهام مثل تخطيط مسار روبوت داخل مصنع مزدحم، حيث قد يؤدي مسار «شبه صحيح» إلى اصطدام الروبوت بأحد العاملين.

وتعتمد بعض الأساليب الحالية على فرض القيود الصارمة على كل خطوة وسيطة أثناء عملية التوليد. غير أن هذا النهج قد يحدّ من قدرة النموذج على استكشاف مسارات أفضل؛ لأن كل خطوة تكون مطالَبة، منذ البداية، بالبقاء داخل حدود ضيقة، حتى لو كانت بعض الخطوات المؤقتة يمكن أن تقود لاحقاً إلى نتيجة نهائية أفضل وأكثر كفاءة.

حرية أكبر أثناء التوليد

الفكرة الأساسية في «HardFlow» هي السماح للنموذج بحُرية أكبر أثناء عملية التوليد، مع فرض القيود الصارمة على النتيجة النهائية، بدلاً من تطبيقها على كل خطوة وسيطة.

ويشرح الباحثون أن ما يهمّ في النهاية هو المخرج النهائي للنموذج؛ لأن المراحل الداخلية لعملية التوليد لا تُستخدم بعد إنتاج النتيجة. ومن خلال تخفيف القيود أثناء هذه المراحل، يمكن للنموذج استكشاف عدد أكبر من الحلول، ثم الوصول، في النهاية، إلى مخرج يلتزم بالمتطلبات الصارمة ويحقق، في الوقت نفسه، جودة أفضل.

تستفيد «هارد فلو» من مبادئ التحكم الأمثل لإعادة صياغة التوليد المقيد كمسألة تحسين يمكن التعامل معها بكفاءة أكبر (أدوبي)

الاستفادة من نظرية التحكم

تعيد الخوارزمية صياغة عملية التوليد المقيدة بوصفها مسألة لتحسين المسار، مستفيدة من أدوات مستخدمة في مجال التحكم الأمثل. وبدلاً من إجبار النموذج على تصحيح كل خطوة بشكل مباشر، تُوجهه «HardFlow» عبر تعديلات تدريجية نحو النتيجة المطلوبة.

ويقول الباحثون إن استخدام نظرية التحكم يوفر إطاراً رياضياً لتحديد الطريقة الأكثر كفاءة لإجراء هذه التصحيحات.

لكن تطبيق هذا النوع من التحسين حول شبكة عصبية كبيرة يمثل تحدياً حسابياً؛ لأن النموذج قد يتكون من مئات الطبقات المترابطة. ولجعل العملية قابلة للتنفيذ، استغلَّ الفريق بنية نماذج «flow-matching»، وقسَّم المشكلة إلى سلسلة من مسائل أصغر أحادية الخطوة، ثم استخدم تحويلات وتقريبات رياضية للوصول إلى خوارزمية يمكن تشغيلها بكفاءة أثناء الاستخدام الفعلي للنموذج.

نتائج في الروبوتات والرؤية الحاسوبية

اختبر الباحثون الطريقة في عدد من السيناريوهات شملت تحريك الروبوتات، والتنقل داخل المتاهات، وتحرير الصور الموجّه بالنص. وفي هذه التجارب، حققت «هارد فلو» التزاماً كاملاً بالقيود المحددة، مع نتائج أفضل من الأساليب المرجعية المستخدمة للمقارنة من حيث جودة الحل.

وفي أحد الأمثلة، تمكّنت ذراع روبوتية من تجنب العقبات والوصول إلى الهدف عبر مسار أسرع، بينما أدت بعض الطرق الأخرى إما إلى الاصطدام أو إلى اختيار مسارات تستغرق وقتاً أطول. كما أشار الفريق إلى أن زمن الحساب كان مماثلاً أو أقل من معظم الأساليب المنافسة التي اختُبرت، ما يدعم إمكانية استخدامها في التطبيقات العملية التي تتطلب استجابة سريعة.

تعمل الطريقة مع نماذج مدرّبة مسبقاً ولا تتطلب إعادة تدريبها من الصفر عند إضافة قيود جديدة مرتبطة بالمهمة أو السلامة (أدوبي)

دون إعادة تدريب النموذج

إحدى خصائص «HardFlow» أنها تعمل أثناء مرحلة الاستخدام أو النشر، ولا تتطلب تدريب النموذج من البداية، أو إعادة تدريبه على القيود الجديدة. وهذا يعني أن الطريقة يمكن إضافتها إلى نماذج توليدية جاهزة، بما في ذلك نماذج الانتشار ونماذج «flow-matching»، ثم استخدامها لفرض متطلبات جديدة مرتبطة بالسلامة أو الفيزياء أو طبيعة المهمة.

ويرى الباحثون أن هذا الأسلوب قد يوسّع استخدام النماذج التوليدية في مجالات تتطلب درجة أعلى من الضمان، خصوصاً عندما تكون المخالفة الصغيرة للقيود غير مقبولة.

الجمع بين السلامة وجودة الحل

لا يقتصر تصميم «HardFlow» على ضمان الالتزام بالقيود، إذ تسمح صياغة المسألة كعملية تحسين بإضافة أهداف أخرى إلى جانب السلامة. ففي تخطيط حركة روبوت، على سبيل المثال، يمكن للخوارزمية البحث عن مسار لا يصطدم بأي عائق، وفي الوقت نفسه تقليل المسافة أو الوقت المطلوب للوصول إلى الهدف.

ويقول الفريق إن الجمع بين هذين الجانبين؛ أي احترام القيود وتحسين جودة الحل، كان من الأسباب الرئيسية وراء تفوق الطريقة في الاختبارات، مقارنة ببعض الأساليب التي تركز فقط على إيجاد حل صالح.

وقد نُشرت الدراسة في دورية «IEEE Transactions on Pattern Analysis and Machine Intelligence».

ويقترح الباحثون مستقبلاً توسيع الإطار بحيث يمكن أيضاً تحديث النموذج نفسه، بما يسمح بتحسين قدرته على الالتزام بالقيود وجودة المخرجات بصورة أكثر تكيفاً مع المهمة.