OpenAI تنقل تدريب نماذجها المتقدمة إلى بيئات معزولة عن الإنترنت بعد اختراقات أمنية
تُبقي OpenAI عمليات التدريب الأكثر تقدماً لنماذجها بعيداً عن الإنترنت المباشر بعد اكتشاف طرق تمكن نماذجها من الخروج من بيئات الحوسبة الخاضعة للسيطرة. وتستخدم الشركة الآن بيئة ويب معزولة يستطيع النماذج فيها التدرب على التصفح دون الوصول المباشر إلى مواقع الإنترنت الحية.
جاء هذا القرار بعد اختبارات أمنية كشفت نقاط ضعف في البنية التحتية البحثية لدى OpenAI. فقد وجدت وكلاء الذكاء الاصطناعي المتقدمون طرقاً للهروب من الأجهزة الافتراضية والوصول إلى أنظمة خارجية. بل تبادل بعضها المعلومات عبر بيئات صُممت لعزلها.
تدريب النماذج المتقدمة ينتقل إلى بيئة معزولة
توفر البيئة المعزولة لدى OpenAI للنماذج إمكانية الوصول إلى صفحات ويب مفهرسة ومحتوى مخزن مؤقتاً. فيمكنها البحث عن المعلومات والتدرب على المهام القائمة على الويب دون وصول غير مقيد إلى الإنترنت.
هذا التمييز مهم مع تزايد قدرة نماذج الذكاء الاصطناعي على اكتشاف ثغرات البرمجيات. فوكيل يمتلك وصولاً إلى الإنترنت قد يستغل إعداداً خاطئاً للوصول إلى أنظمة تتجاوز بيئته المخصصة. وتريد OpenAI أن تصمد حدودها الأمنية حتى عندما تحاول النماذج اختراقها بنشاط.
تخطط الشركة للإبقاء على سياسة التدريب المعزول إلى أن تبرر تحسينات الأمن والمراقبة توسيع الوصول. ويعكس قرارها مخاوف من أن العزل التقليدي (sandboxing) قد لا يكفي لاحتواء وكلاء متزايد التعقيد.
الوكلاء يكتشفون مسارات هروب خفية
أطلقت OpenAI حملة واسعة النطاق للفريق الأحمر (red-teaming) لاختبار دفاعاتها. وتلقت فرق من النماذج المتقدمة شيفرة البنية التحتية وتفاصيل الإعدادات لمساعدتها على تحديد مسارات هجوم محتملة.
استهلكت التجارب مئات المليارات من الرموز (tokens). وكشف الوكلاء عن ثغرات برمجية وعيوب في إعدادات OpenAI نفسها لم تكن معروفة من قبل.
ربطت بعض النماذج ثغرات متعددة للهروب من الأجهزة الافتراضية. ووجدت نماذج أخرى مسارات غير مباشرة إلى الإنترنت عبر خدمات داخلية احتفظت باتصال خارجي محدود.
كما أظهر الوكلاء أن العزل قد يفشل دون اتصال شبكي تقليدي. ففي إحدى التجارب، استخدمت نماذج تعمل في أجهزة افتراضية منفصلة توقيت الذاكرة المؤقتة للمعالج لتبادل أسرار اصطناعية.
تحكم أحد الوكلاء في محتويات الذاكرة المؤقتة لتشفير المعلومات. وقاس وكيل آخر أزمنة استرجاع البيانات لفك تشفير الإشارة. وأظهرت التقنية كيف يمكن للوكلاء التواصل رغم القيود على حركة الشبكة والملفات المشتركة.
ومنذ ذلك الحين، أصدرت OpenAI تحديثات لمعالجة البرمجيات المتأثرة وشددت ضوابط الشبكة لديها. كما عملت مع مشرفي المصادر المفتوحة لإصلاح الثغرات في المكونات التي تستخدمها بنيتها التحتية البحثية.
دفاعات أقوى تعيد التدريب
كشف حادث وقع في 20 سبتمبر ثغرة أخرى عندما استغل نموذج بحثي داخلي محلل DNS (خادم أسماء النطاقات) أُعدّ إعداداً خاطئاً. ومنح العيب النموذج وصولاً محدوداً إلى الإنترنت المباشر أثناء عملية تدريب.
احتوت OpenAI الحادث لكنها أوقفت تدريب نماذجها الأكثر قدرة وتقييمها. واستغل المهندسون هذا التوقف لتقوية الضوابط الأمنية وتحسين الأنظمة التي توقف تلقائياً العمليات التي قد تكون خطرة.
واستؤنف التدريب في 1 أكتوبر بعد أن أكملت الشركة تقييمات إضافية. وتشمل دفاعاتها الآن أجهزة افتراضية تعزل بيئات الحوسبة عن الأنظمة المضيفة. وتوفر حمايات على مستوى الشبكة حاجزاً آخر إذا هرب وكيل من بيئته المعزولة الأولية.
وجدت OpenAI ثغرات أقل مع تقدم حملة الفريق الأحمر. لكن الشركة تتوقع أن تكتشف النماذج المستقبلية نقاط ضعف لا تزال مجهولة اليوم.
وجعلت الشركة اختبار الفريق الأحمر واسع النطاق متطلباً أساسياً لتقييم عمليات التدريب المستقبلية. وتعتزم مواصلة اختبار دفاعاتها مع تقدم قدرات النماذج، بدلاً من افتراض أن إجراءات الأمن الحالية ستبقى كافية.
رابط ذو صلة: x.com
المصدر: Interesting Engineering