مع تحول الذكاء الاصطناعي جزءاً من تفاعلات الحياة اليومية، أصبحت كيفية التعامل مع المعلومات التي تتم مشاركتها مع أنظمة المحادثة الذكية محور اهتمام عام وتنظيمي (قانوني) متزايد، كما كتب جيمس روبرتس (*).
مَن يطلّع على بيانات المستخدمين؟
وقد أطلقت لجنة التجارة الفيدرالية (FTC) عام 2025 تحقيقاً حول روبوتات الدردشة المعتمدة على الذكاء الاصطناعي والموجهة للمستهلكين؛ بهدف معرفة كيفية معالجة الشركات مُدخلات المستخدمين (البيانات المُدخلة)، وكيفية استخدامها أو مشاركتها للمعلومات الشخصية التي يتم الحصول عليها من خلال محادثاتهم.
ويعكس هذا التدقيق تساؤلاً أوسع حول طبيعة العلاقة بين المستخدمين وأنظمة الذكاء الاصطناعي التي تزداد قدراتها يوماً بعد يوم. كما تناول تحقيق لجنة التجارة الفيدرالية قضايا أخرى، مثل تفاعل المستخدمين، وتحقيق الأرباح، والسلامة، والتأثيرات المحتملة لـ«الرفقاء» المعتمدين على الذكاء الاصطناعي؛ ما يوضح أن التساؤلات حول الذكاء الاصطناعي القائم على المحادثة تتجاوز مجرد كفاءة التكنولوجيا الأساسية.
آراء الجمهور... متشائمة
وتقدم آراء الجمهور مؤشراً آخر على التحدي الذي يواجه هذا القطاع؛ إذ أظهر استطلاع أجراه مركز «بيو» للأبحاث (Pew Research Center) عام 2026، أن 71 في المائة من البالغين في الولايات المتحدة يعتقدون أن التوسع في استخدام الذكاء الاصطناعي سيجعل معلوماتهم الشخصية أقل أماناً، في حين رأى 3 في المائة فقط أنه سيجعلها أكثر أماناً. كما كشف الاستطلاع عن أن 67 في المائة من الأميركيين لديهم ثقة ضئيلة -أو معدومة- في قدرة الحكومة الفيدرالية على تنظيم الذكاء الاصطناعي بشكل فعال.
خصائص الذكاء الاصطناعي «الموثوق»
وتضفي هذه المخاوف أهمية أكبر على كيفية تصميم أنظمة الذكاء الاصطناعي، إلى جانب كيفية إدارتها وتنظيمها.
ويحدّد المعهد الوطني للمعايير والتكنولوجيا (NIST) مجموعة من الخصائص المرتبطة بالذكاء الاصطناعي الموثوق، تشمل: تعزيز الخصوصية، والأمن والمرونة، والموثوقية، والمساءلة، والشفافية. ويدعو «إطار عمل إدارة مخاطر الذكاء الاصطناعي» الصادر عن المعهد المؤسساتِ إلى مراعاة هذه الخصائص خلال مراحل التصميم والتطوير والنشر والتقييم لأنظمة الذكاء الاصطناعي.
نظام ذكي «خصوصي»... المحادثات لا تغادر جهازك
وفي ظل هذه البيئة، اختار مايكل فولك، مؤسس شركة «فولك تيك إيه آي» FolkTech AI، بناء نظام «سيرينا» (Serena)، الذي تصفه الشركة بأنه «ذكاء اصطناعي وكيل يعتمد على التشغيل المحلي» (local-first agentic AI).
وصُمم «سيرينا» ليعمل على الأجهزة الخاصة بالمستخدم نفسه. وتؤكد الشركة أن «سيرينا» يعمل بالكامل على جهاز المستخدم، بحيث لا تغادر المحادثات الجهاز، كما أنه لا يتطلب إنشاء حساب. أما نسخة «سيرينا للأعمال» (Serena Business)، فقد صُممت لتعمل على أجهزة تخضع لسيطرة المؤسسة المعنية.
وبالنسبة لمايكل فولك، فإن البنية التقنية للنظام تعكس مبدأً تبناه من مسيرته المهنية السابقة بصفته رجل إسعاف؛ إذ أوضحت له تجربته في حالات الطوارئ مدى خطورة تعطل التكنولوجيا عندما يتطلب الأمر اتخاذ قرارات تحت الضغط.
مساعد ذكي فعال... من دون اتصال دائم بخادم سحابي خارجي
وقد أسهمت هذه التجربة في تشكيل عزيمته على ابتكار مساعد ذكي يظل فعالاً ومفيداً دون الحاجة إلى اتصال دائم بخادم سحابي خارجي. ويقول فولك: «تعلمت في وقت مبكر أن الموثوقية ليست مجرد هدف هندسي نظري. فعندما يعتمد الناس على التكنولوجيا في لحظات حرجة، يجب أن يكون النظام حاضراً، وأن يعمل بطريقة مفهومة وموثوقة. وظلت هذه التجربة حاضرة في ذهني عندما بدأت في التفكير في ماهية المساعد الذكي القائم على الذكاء الاصطناعي».
معالجة المحادثات محلياً
ويرى فولك أن مكان معالجة البيانات يغير طبيعة العلاقة بين الفرد والمساعد الذكي؛ فإذا تمت معالجة المحادثات محلياً، فلن تضطر المعلومات إلى عبور حدود الشبكة الخارجية للوصول إلى خوادم تابعة لجهة خارجية. ورغم أن هذا النهج لا يلغي بالضرورة كل المخاطر الأمنية المرتبطة بالبرمجيات أو الأجهزة، فإنه يغير مسار البيانات الذي ينبغي على المستخدم وضعها في الحسبان.
ويضيف فولك: «يجب أن تبدأ الخصوصية من البنية التقنية ذاتها. فبمجرد خروج المعلومات من الجهاز، يظهر مكان جديد يتطلب بناء الثقة. لقد أردت الانطلاق من فرضية مغايرة: إبقاء الذكاء (الاصطناعي) قريباً من المستخدم، والحفاظ على البيانات تحت سيطرته المباشرة، وضمان خضوع النظام للمساءلة عن تصرفاته».
كما يرى فولك الاستمرارية جزءاً جوهرياً من تجربة استخدام المساعد الذكي؛ حيث صُمم نظام «سيرينا» ليحتفظ بالسياق ذي الصلة بمرور الوقت؛ ما يتيح البناء على المحادثات السابقة بدلاً من التعامل مع كل تفاعل بوصفه حدثاً منعزلاً تماماً. كما يتصور فولك أن المتابعة الاستباقية تُعدّ جزءاً من قيمة المنتج؛ إذ يمكن للمساعد العودة إلى قضايا ناقشها المستخدم سابقاً.
«سيرينا للأعمال» يعمل على أجهزة المؤسسة
وتندرج هذه القدرات ضمن رؤية فولك الأوسع، التي ترى أن المساعد الذكي يجب أن يطور فهماً للسياق، بدلاً من الاكتفاء باسترجاع المعلومات عند الطلب. وبالنسبة لقطاع الأعمال، يشكل هذا المفهوم أساس نظام «سيرينا للأعمال»، الذي يصفه فولك بأنه «عقل رقمي» قادر على بناء معرفة مترابطة تستند إلى وثائق المؤسسة وإجراءاتها وسياقها التشغيلي. وتؤكد الشركة أن «سيرينا للأعمال» يُجيب على استفسارات المؤسسة استناداً إلى وثائقها الخاصة وعلى أجهزة تُسيطر عليها.
الموثوقية والأمان والمرونة والخصوصية والشفافية والمساءلة
يُعدّ هذا التمييز مهماً لأن إطار عمل المعهد الوطني للمعايير والتكنولوجيا يُعامل الموثوقية بوصفها مجموعة من الخصائص التي تجب مراعاتها في سياقها. فالموثوقية والأمان والمرونة والخصوصية والشفافية والمساءلة هي اعتبارات مترابطة وليست مجرد ميزات يُمكن اختزالها إلى مُصطلح مُنتج واحد.
ويضع نهج فولك هذه الأسئلة على المستوى المعماري، حيث يعتقد أنه تنبغي معالجتها قبل أن يُصبح المُساعد جزءاً لا يتجزأ من حياة المُستخدم أو عمليات المؤسسة.
التبرع بالنظام لمجتمعات لا تملك اتصالا بالإنترنت
وتقول الشركة إن لها هدفاً اجتماعياً مهماً. ويقول فولك إنها تعتزم التبرع بنظام «سيرينا» للمستهلكين مع محتوى تعليمي مُتقدم للمجتمعات التي لا تملك اتصالاً موثوقاً بالإنترنت مقابل كل منتج «سيرينا للأعمال» يتم بيعه. ويرى أن المعالجة المحلية ذات أهمية خاصة للمجتمعات التي لا يمكن فيها ضمان اتصال مستمر بالإنترنت. وتظل هذه المبادرة التزاماً من الشركة، ويتوقف نطاقها النهائي على التنفيذ والتوسع.
ووفقاً لفولك، فإن الشركة لا تزال صغيرة تعتمد على التمويل الذاتي، ويصف طموحها ببناء تكنولوجيا قائمة على معيار واضح للنزاهة. كما أن الشركة منفتحة على الشراكات الاستراتيجية والاستثمار مع توسعها، مع الحفاظ على التحكم والخصوصية والموثوقية كعناصر أساسية في فلسفة المنتج. ويرى أن قطاع الذكاء الاصطناعي الأوسع سيستمر في مواجهة تساؤلات حول حقوق البيانات والخصوصية والأمان والمساءلة.
ويضيف: «يجب أن يكتسب الذكاء الاصطناعي الثقة من خلال الغرض الذي صُمم لأجله. إذا كان الذكاء سيصبح جزءاً من حياتك، فيجب أن تعرف أين يُخزن، ومن يتحكم به، وماذا يحدث لمعلوماتك. أما هدفي فبسيط: بناء تكنولوجيا تخدم الناس دون أن تطلب منهم التخلي عن التحكم (ببياناتهم)».
* «كوارتز» - خدمات «تريبيون ميديا»
