OpenAI تعزز الحماية ضد الاستخلاص العدائي
مع تقدم نماذج الذكاء الاصطناعي المتقدمة، يصبح توفير ضمانات الاستخدام المسؤول أمراً بالغ الأهمية. ويتيح الاستخلاص العدائي للجهات الخبيثة نسخ هذه القدرات دون ضمانات الحماية المناسبة، ما يمكنها من تدريب نماذج جديدة قادرة على أداء مهام كان النموذج الأصلي سيرفضها بفضل ضمانات الحماية.
تشارك OpenAI استراتيجياتها للكشف عن الاستخلاص العدائي وتعطيله، وتعزيز حماية نماذجها، وتقديم رؤى لتقوية الدفاعات في القطاع. ويجمع هذا النهج بين الاختبار العدائي وتدريب النماذج والمصنفات (classifiers) وحمايات على مستوى API، إلى جانب التحقيقات في المحاولات المنسقة لاستخراج قدرات النماذج، بما يتوافق مع ضمانات الحماية المستخدمة في البيولوجيا والأمن السيبراني.
ينصب التركيز الأساسي على منع المهاجمين من استخراج الاستدلال المحمي، وهو الخطوات الداخلية التي يتخذها النموذج للوصول إلى إجابة. ويمكن أن توفر هذه الآثار بيانات تدريب قيّمة لنموذج آخر، إذ تحتوي على معلومات تُحذف من الإجابة النهائية. وقد تحسنت الدفاعات ضد استخراج الاستدلال المحمي تحسناً كبيراً في GPT-6.2 Astra وGPT-6.2 Sol. وأظهرت التقييمات الداخلية أن متوسط معدل نجاح المهاجمين الذين يحاولون استعادة الاستدلال المحمي انخفض من 54.0% في GPT-6 Astra إلى 0.2% في GPT-6.2 Astra.
فهم مخاطر الاستخلاص
الاستخلاص تقنية شائعة في تعلّم الآلة، حيث يتعلم نموذج من مخرجات نموذج آخر. ورغم أنه يثير مخاوف تتعلق بالملكية الفكرية، فإن الاستخلاص غير المصرح به ينطوي أيضاً على مخاطر أمان، إذ يمكن لنموذج ثانٍ أن يكتسب قدرات متقدمة دون ضمانات حماية النموذج الأصلي. وهذا أمر بالغ الأهمية في المجالات مزدوجة الاستخدام مثل الأمن السيبراني والبيولوجيا، حيث يمكن إساءة استخدام النماذج لاستغلال الثغرات أو تطوير مسببات أمراض ضارة.
حماية آثار الاستدلال من أجل الأمان السيبراني
تساعد نماذج OpenAI المستخدمين في مهام البرمجة والدفاع السيبراني. وقد يكتسب نموذج ثانٍ دُرّب على مخرجات حميدة مهارات هجومية في الأمن السيبراني عن غير قصد. ودرست OpenAI كيف يمكن للاستخلاص الذي يتضمن آثار الاستدلال أن ينقل قدرات سيبرانية خطرة، وقيّمت مقدار نقل القدرات عندما يكون لدى النموذج الطالب إمكانية الوصول إلى آثار الاستدلال الدقيقة للمعلم مقابل الملخصات. وأشارت النتائج إلى أن النموذج الطالب الذي دُرّب على آثار الاستدلال الدقيقة تفوق على النموذج الذي دُرّب على الملخصات، محافظاً على درجة أعلى عبر معايير تقييم متعددة.
استراتيجيات دفاعية تكميلية
تستخدم OpenAI دفاعاً مزدوج الطبقات ضد الاستخلاص العدائي. على مستوى الطلب، يحد سلوك النموذج وفحوص المصنفات وضوابط API من استخراج آثار الاستدلال. وعلى مستوى الحملة، تُراقب الأنماط في إشارات الطلبات والحسابات للكشف عن محاولات الاستخراج المنسقة. ويعلّم التدريب الدفاعي النماذج التعرف على محاولات استخراج الاستدلال ورفض الإفصاح عن الاستدلال المحمي مع الاستجابة للطلبات المشروعة. وتكشف مصنفات المدخلات محاولات الاستخراج، بينما تمنع مصنفات المخرجات التسريبات في رسائل المساعد.
تقيّد الحمايات على مستوى API كيفية إعادة استخدام الاستدلال المحمي عبر التفاعلات والنماذج. في GPT-6.2 Astra وGPT-6.2 Sol، يرتبط الاستدلال المحمي للنموذج بسجل المحادثة الذي أنتجه، ما يضمن إسقاط الاستدلال السابق إذا أُعيدت كتابة رسالة سابقة.
التحقيق في الحملات غير المصرح بها
عند اكتشاف حملات استخلاص غير مصرح بها، تحقق OpenAI في الحسابات المسؤولة وتتخذ إجراءات إنفاذ ضد المتورطين. وتُسهم الرؤى المستخلصة من هذه التحقيقات في ترقية الدفاعات، وتعزيز قدرات الكشف عن أنشطة مماثلة. ويمتد هذا الجهد خارج منصة OpenAI، إذ تتعاون الشركة مع مزودي نماذج آخرين لوضع معايير مشتركة لضمانات الحماية والإنفاذ المنسق.
قياس التقدم ضد الاستخلاص
تختبر OpenAI فعالية ضمانات الحماية على مستوى الطلب من خلال تقييم ما إذا كان المهاجمون قادرين على استخراج الاستدلال المحمي في سيناريوهات تحاكي عمليات النشر الفعلية. وأظهرت التقييمات الأخيرة أن متوسط معدل نجاح الهجوم لاستخراج الاستدلال المحمي من الطلبات السابقة كان أقل من 1% في GPT-6.2 Astra، وهو أقل بكثير من GPT-6 Astra. وتطبّق OpenAI تحسينات مختارة على GPT-6 Astra أيضاً.
رصدت OpenAI حملات استخلاص غير مصرح بها متعددة هذا العام، مع إجراءات إنفاذ طالت آلاف الحسابات. وتتتبع الشركة انتشار إساءة استخدام الاستخلاص وتهدف إلى زيادة تكلفة حملات الاستخلاص مع تقليل أوقات الاستجابة.
تداعيات الأمن القومي
يشكل الاستخلاص العدائي مخاطر على الأمن القومي، إذ يمكن لجهات أجنبية تنسخ قدرات متقدمة من نماذج أمريكية أن تنشرها دون الحمايات الأصلية. وقد أطلعت OpenAI الكونغرس على أنشطة تشير إلى محاولات استخلاص نماذج أمريكية متقدمة، وتدعم تشريعات تعزز قدرة الحكومة الأمريكية على تحديد الجهات الأجنبية المتورطة في استخراج القدرات غير المشروع ومعاقبتها.
إرشادات لمطورين آخرين
تؤكد OpenAI أهمية دعم الانتشار الآمن للقدرات المتقدمة من خلال عملها ضد الاستخلاص. وتقترح الشركة عدة خطوات لمطوري النماذج الآخرين:
- حماية الاستدلال الخاص عبر التفاعلات وفحص رسائل المساعد بحثاً عن تسريبات.
- الاحتفاظ بسجلات لهجمات الاستخراج الناجحة لاختبارات الانحدار.
- الجمع بين تخفيفات على مستوى الطلب وتحقيقات على مستوى الحملة.
- تنسيق متطلبات ضمانات الحماية مع شركاء النشر.
تواصل OpenAI مشاركة النتائج عبر Frontier Model Forum وقنوات حكومية مناسبة للمساعدة في تقوية الدفاعات مع الحفاظ على سرية التفاصيل الحساسة.
المصدر: OpenAI News