Anthropic تقترح تشريعاً لتنظيم إطلاق نماذج الذكاء الاصطناعي

تصاعدت المخاوف بشأن الأخطار التي قد يسببها الذكاء الاصطناعي خلال العام الماضي، ما أثار جدلاً مستمراً حول أفضل السبل لضمان سلامته. واستجابة لذلك، اقترحت Anthropic مشروع قانون يهدف إلى تنظيم إطلاق نماذج الذكاء الاصطناعي.

وبحسب تقرير نشرته Politico، تدعو شركة الذكاء الاصطناعي إلى تشريع يحدد سيناريوهات معينة يمكن فيها حظر توزيع نموذج ذكاء اصطناعي. وتشمل هذه السيناريوهات حالات وجود «خطر وشيك يمكن توقعه» بوفاة أكثر من 50 شخصاً أو احتمال أضرار مادية تتجاوز مليار دولار.

وينص مشروع القانون على أن هذه المخاطر الكارثية يجب أن تنشأ عن إنشاء سلاح بيولوجي أو إطلاقه، أو عن تهرب النموذج من ضوابط مطوّره، أو عن هجوم سيبراني. وتتوافق عتبتا 50 شخصاً ومليار دولار مع ما ورد في مشروع القانون Senate Bill 53 الذي أقرّته ولاية كاليفورنيا مؤخراً، والذي يصنّف هذه السيناريوهات أيضاً ضمن المخاطر الكارثية.

ويقترح مشروع قانون Anthropic أن يتولى تقييم المخاطر المحتملة للنموذج مقيّمون مستقلون مسجلون لدى وزارة التجارة الأمريكية. ويجوز لشركات الذكاء الاصطناعي أن تدفع لهؤلاء المقيّمين، بشرط ألا يتوقف دفعهم على نتائج تقييماتهم.

غير أنه لم يتضح كيف سيضمن هذا النظام ألا تؤثر الحوافز المالية في أحكام المقيّمين. وكان ديميس هاسابيس، رئيس مجلس إدارة DeepMind، قد اقترح سابقاً إنشاء هيئة تنظيمية ذاتية للذكاء الاصطناعي على غرار هيئة تنظيم صناعة الخدمات المالية (FINRA) في القطاع المالي.

وبموجب اقتراح Anthropic، إذا رصد المقيّمون خطراً كارثياً وشيكاً، فسيكون لديهم 72 ساعة لإبلاغ وزارة التجارة. وتُطلب من الوزارة بعد ذلك الحصول على أمر قضائي من قاضٍ في مقاطعة كولومبيا لوقف إطلاق النموذج. ويحظر التشريع صراحةً على أي وكالة فيدرالية أن تقرر من تلقاء نفسها وقف توزيع نموذج.

وأكدت Anthropic لـ Politico وجود مشروع القانون، لكنها لم ترد على طلب TechCrunch للحصول على تعليق إضافي. وقال متحدث باسم الشركة إن مشروع القانون يعكس المقترحات الواردة في إطار Anthropic للذكاء الاصطناعي المتقدم (Advanced AI Framework)، الذي رُوّج له أمام المشرّعين الفيدراليين ومشرّعي الولايات منذ يونيو.

وتختلف المخاطر التي يسلط مشروع القانون الضوء عليها بعض الشيء عن المخاوف الرئيسية السائدة حالياً في قطاع التقنية، والتي تركّزت إلى حد كبير على احتمال القرصنة عبر الوكلاء الأذكياء وحوادث عصيان أنظمة الذكاء الاصطناعي لتوجيهات المشغّلين البشريين. وقد أثارت أحداث حديثة قلقاً بشأن نماذج ذكاء اصطناعي تفتقر إلى تدابير أمنية كافية.

وفي ظل التحديات التي تفرضها تقنيات الذكاء الاصطناعي، تقترح شركات مثل Anthropic أطراً تنظيمية خاصة بها. ورغم التحذيرات المتواصلة من مخاطر الذكاء الاصطناعي، قاومت مختبرات كثيرة الرقابة الحكومية الإلزامية، ودعت بدلاً من ذلك إلى نظام طوعي يشمل مقيّمين مدمجين يراقبون نماذج الذكاء الاصطناعي بحثاً عن مؤشرات على الخطر أو سوء الاستخدام.

ويبدو أن مقترح Anthropic التشريعي أشمل من مقترحات أخرى في القطاع، بما في ذلك مقترحات Nvidia، إذ رأى مديرها التنفيذي جنسن هوانغ مؤخراً عدم الحاجة إلى قوانين جديدة تنظم قطاع الذكاء الاصطناعي.

المصدر: TechCrunch