وكلاء الذكاء الاصطناعي يتحدون أطر الأمن الصفري

تستفيد فرق عدة حول العالم من الذكاء الاصطناعي لإنشاء فرق عمل من الوكلاء يديرها منسّق (orchestrator)، فتطوّر تطبيقات لتقييم المخاطر وتوصيف العملاء والمطابقة وإنتاج المعلومات. ويُعدّ ضمان إدارة السجلات على نحو سليم عنصراً بالغ الأهمية لهؤلاء الوكلاء، لمنع الاعتماد على بيانات تاريخية قد تشوّه اتخاذ القرار. ويتضمن النظام نقاط تحقق يُطلب فيها من الوكلاء حذف الصلة التاريخية.

ورغم هذه المنهجيات، يظل هناك خطر أن تدفع أوامر مستقبلية الوكلاء إلى استرجاع معلومات كان مقرراً حذفها، ما يجعلهم عرضة لهجمات استعادة السياق. وهذا يثير أسئلة جوهرية حول الثقة: كيف يمكن التأكد من أن تعليمات المستخدمين قد نُفذت، وأين الدليل؟

يُعدّ استخدام بنى الأمن الصفري (ZTA) لتنسيق النشاط الوكيلي وإدارته أمراً ضرورياً، استناداً إلى مبدأ «لا تثق أبداً، وتحقق دائماً». وتشمل مكونات ZTA نقطة تنفيذ السياسات (PEP) التي يجب الوثوق بها للحفاظ على سلامة النظام، ما يثير تساؤلات حول موثوقية السياسات التي تنفذها PEP.

قد يكون تبني نهج مؤيد للوكلاء مفيداً إذا توفرت الضمانات المناسبة. غير أن تعريض الأنظمة لوكلاء عشوائيين مدربين على نماذج جاهزة دون إشراف مناسب قد يُدخل مخاطر سيبرانية كبيرة. فعلى سبيل المثال، استخدام نموذج ذكاء اصطناعي في vibe coding — حيث تُشارك قاعدة الشيفرة بأكملها مع جهة غير موثوقة — قد يخلق ثغرات.

يدفع هذا الوضع إلى نقاشات حول كيفية تداخل vibe coding مع التنفيذ الموثوق للاستعلامات الوكيلية. وفي نظام تعتمد فيه العمليات على مدخلات من وكلاء مختلفين، قد تؤدي التكلفة الحسابية للتحقق من كل استعلام في الوقت الفعلي إلى مقايضات بين الذاكرة وكفاءة التنفيذ.

ثمة خطر آخر يتمثل في احتمال وقوع هجمات zero-day. وفي هذه الحالات، كيف سيتصرف النظام؟ وهل يستطيع إدارة الحادث دون انهيار كامل للبنية التحتية؟ إن الاعتماد المفرط على منظومات وكيلية بطبقة ثقة واحدة قد يعرّض النظام بأكمله للثغرات، خصوصاً إذا تعطلت الشبكة الأساسية.

سرعة هجمات إلغاء المصادقة

كشفت تجربة في جامعة كوينز بلفاست (QUB) أن التنسيق الوكيلي قد يقلل الوقت اللازم لتنفيذ هجمات إلغاء المصادقة إلى ما بين 2 و3 ثوانٍ فقط، فلا يبقى سوى وقت ضئيل للاستجابة وتحديث النظام.

يُعدّ بناء الثقة في ظل الاستقلالية غير المتزامنة أمراً حيوياً لضمان التتبع. ومن الضروري التأكد من أن جميع الوكلاء العاملين نحو هدف مشترك متوافقون ويدركون أي تأخير في أهدافهم. وقد ركز فريق البحث في البداية على إثبات وجود هذه المشكلات وتأثيرها المحتمل، الذي قد يكون كبيراً عند إثبات الثقة ضمن قيود الاستقلالية غير المتزامنة.

قد تشمل الحلول تنفيذ قائمة مكونات الذكاء الاصطناعي أو استخدام تقنية السجل الموزع لتوفير أساس من الثقة عبر التتبع وعدم القابلية للتغيير، مع إبقاء الأنشطة الوكيلية مستقلة عن المنصة. وثمة عامل آخر هو مفهوم الشذوذات الأفقية، الذي يصف كيف يتفاعل الوكلاء بشكل مختلف مع مصادر متنوعة في ظروف متباينة. ويظل تحديد هذه الشذوذات وطرق إدارتها دون الاعتماد على الوكلاء أنفسهم سؤالاً مفتوحاً.

يوفر استخدام وكلاء تحكمهم أطر ثقة منخفضة جزئياً فوائد قصيرة الأجل، لكن تكاليف الاستعادة عند فشل الأنظمة لم تُفهم بالكامل بعد. وقد تعقّد تداعيات عمل الوكلاء عبر كيانات مختلفة جهود الاستعادة، إذ يمكن لوكيل مارق في سيناريو سلسلة توريد أن يخلق مشكلات واسعة تتطلب تدخلاً شاملاً.

يركز بحث دكتوراه جارٍ على الثقة والمساءلة، ويفترض أن السيادة والثقة يجب أن تُحكماً معاً، نظراً للمخاطر العالية المتعلقة بمصدر البيانات في الأنظمة الوكيلية. ويكمن تحدٍّ حاسم في التمييز بين المعلومات المفقودة والتعليمات المفقودة، لأن لكل منهما تداعيات مختلفة على المساءلة الموثوقة.

هل توجد بنية أمن صفري حقيقية؟

يتمثل التحدي الواقعي في الفشل في تبني نهج اعتمدت تاريخياً على النمذجة القائمة على الحالة لحوكمة الثقة. وفي الأنظمة عديمة الحالة ذات الاستقلالية الوكيلية العالية، تتضاءل موثوقية مصدر الثقة. وهذا يعيدنا إلى السؤال: هل توجد بنية أمن صفري حقيقية؟

هل يمكن الوثوق بالسياسات؟ وإذا كان الأمر كذلك، فكيف ينبغي إدارتها لتجنب مشكلات إمكانية الوصول والتحكم القائمة على السياسات؟ بينما يمكن لـ PEP تسهيل إدارة الوصول بين الوكلاء، فإن الاعتماد على كيان واحد للإشراف على جميع التفاعلات الوكيلية قد يقلل من تقدير تعقيد المشكلة.

يُعدّ التحقق الرسمي من الثقة أمراً بالغ الأهمية في منظومة وكيلية قائمة على الثقة. وفهم متانة نماذج الذكاء الاصطناعي ضروري لبناء الثقة. ويمكن أن يساعد تحقيق التوازن بين الدقة الخصومية والمتانة الخصومية المعتمدة في تحديد مستوى الثقة في هذه النماذج.

ويبقى السؤال الملح: هل يمكن قبول أي شيء أقل من أنظمة مضمونة تماماً عند نشر الوكلاء في سيناريوهات العالم الحقيقي؟ وإذا لم يكن الأمر كذلك، فما مقدار التأثير الذي يمكن التحكم فيه، ومن يتحمل مسؤولية المكونات المتبقية؟

المصدر: IEEE Spectrum