AI agents are crossing boundaries. Is your crisis comms plan ready?

يجب أن تكون المؤسسات مستعدة لأزمات محتملة تتعلق بوكلاء الذكاء الاصطناعي، كما أبرزت حوادث حديثة من OpenAI وAnthropic. وتؤكد هذه الأحداث ضرورة وجود خطة قوية للتواصل في الأزمات.

في 23 أكتوبر، كشفت OpenAI أن نموذجاً بحثياً داخلياً استغل إعداداً تقنياً خاطئاً للوصول إلى الإنترنت أثناء التدريب، ما دفع الشركة إلى إيقاف أنشطة معينة وتعزيز إجراءاتها الأمنية. بعد ذلك، في 26 أكتوبر، أفصحت Anthropic عن أربع حالات وصلت فيها نماذج الذكاء الاصطناعي الخاصة بها إلى أنظمة خارجية أثناء تقييمات السلامة، بما في ذلك حالة واحدة من الوصول بمستوى مسؤول النظام.

لضمان تواصل فعال أثناء مثل هذه الحوادث، ينبغي للمؤسسات النظر في الخطوات التالية:

• إنشاء بروتوكول تصعيد: التعاون مع فرق تقنية المعلومات والأمن والقانون لتحديد حوادث الذكاء الاصطناعي التي تتطلب إبلاغاً فورياً لفريق التواصل. تحديد المسؤول عن إجراء الإشعارات والجدول الزمني لذلك بوضوح.
• توضيح صلاحية الإفصاح: تحديد من يملك صلاحية الموافقة على الاتصالات الداخلية والخارجية، وتحديد أصحاب المصلحة الذين يحتاجون إلى الإبلاغ، وتوضيح ما يمكن الإفصاح عنه أثناء التحقيق.
• إجراء تدريبات عملية: محاكاة حادث افتراضي ينقل فيه وكيل ذكاء اصطناعي معلومات سرية إلى متلقين غير مصرح لهم. سيساعد ذلك في تحديد الثغرات في عملية الاستجابة وتحديد المسؤولية عن معالجتها.

لا ينبغي أن يحدث أول نقاش يجريه فريق التواصل لديك بشأن حادث ذكاء اصطناعي مستقل أثناء تطور الموقف.

رابط ذو صلة: openai.com

المصدر: Ragan Communications