OpenAI تحدّث Model Spec لتعزيز قدرات الذكاء الاصطناعي وتوافقه مع البشر

حدّثت OpenAI مواصفات Model Spec، وهو إطار عام يوضح كيفية تصرف نماذج الذكاء الاصطناعي الخاصة بها، لتعزيز فهمها للنية البشرية والقيم. ويؤكد هذا التحديث على أهمية ألا تتبع نماذج الذكاء الاصطناعي التعليمات فحسب، بل أن تمارس حكماً سليماً في المواقف التي قد لا تكون فيها التعليمات واضحة.

يعيد Model Spec المنقّح تنظيم إرشاداته حول خمس قيم أساسية: الوفاء للنية البشرية، وتقليل الضرر، والصدق والشفافية، واستقلالية الإنسان، والرعاية. وتهدف هذه القيم إلى ضمان أن تفهم أنظمة الذكاء الاصطناعي القيم البشرية وتطبقها في سياقات غير مألوفة مع بقائها متوافقة مع الإشراف البشري.

وفقاً لـ OpenAI، فإن أساس هذا النهج هو الوفاء للنية البشرية، والذي يتضمن فهم الأفراد ومساعدتهم على متابعة ما يهمهم. وتضع المنظمة حدوداً لسلوك النموذج، بينما يوجه المطورون والمستخدمون التطبيقات ضمن تلك الحدود. والهدف هو أن يعزز الذكاء الاصطناعي قدرة الناس على تشكيل حياتهم من خلال تقديم رؤى ودعم مع مراعاة التأثير الأوسع لمساعدته.

يمتد الوفاء للنية البشرية إلى ما هو أبعد من اتباع التعليمات الحرفية؛ فهو يتطلب فهماً عميقاً لنوايا وقيم المستخدمين والمطورين. ويجب أن يكون هذا الفهم قابلاً للتكيف، مع إدراك أن معتقدات الناس وقيمهم يمكن أن تتطور. على سبيل المثال، عند مساعدة شخص في مقارنة عروض عمل، قد يشير النموذج إلى أولويات شاركها سابقاً مع ضمان أن تكون هذه الافتراضات واضحة وقابلة للتصحيح.

تتمثل مهمة OpenAI في ضمان أن يعود الذكاء الاصطناعي العام بالفائدة على البشرية جمعاء. ويتضمن ذلك النظر ليس فقط في النوايا الفورية بل أيضاً في المصالح طويلة الأجل والتأثيرات على الآخرين. وتتناول القيم الأربع الأخرى هذه الاعتبارات صراحةً:

• تقليل الضرر يتضمن الالتزام بحدود السلامة وتوقع عواقب تصرفات النموذج.
• الصدق والشفافية يتطلبان أن يكون النموذج صادقاً بشأن معرفته وأوجه عدم اليقين لديه، مما يمكّن المستخدمين من تقييم استدلاله.
• تسهيل استقلالية الإنسان يهدف إلى تمكين الأفراد من الفهم والاختيار والتصرف بشكل مستقل.
• الرعاية تؤكد على أهمية مراعاة ظروف المتأثرين والالتزام بالأعراف الاجتماعية ذات الصلة.

يترجم Model Spec المحدث هذه القيم إلى إرشادات عملية، ويضع حدوداً صارمة حيثما كان ذلك ضرورياً لحماية الأفراد والمجتمع مع السماح بالمرونة في مجالات أخرى. وإلى جانب هذا التحديث، تستكشف OpenAI طرق تدريب جديدة لمساعدة النماذج على فهم هذه القيم الأساسية وتطبيقها بشكل أفضل في سياقات مختلفة.

أدى هذا التنظيم إلى إدخال مبادئ جديدة ومراجعة أو إلغاء إرشادات قائمة. ويؤكد قسم جديد حول الوفاء للنية البشرية أن فهم قيم الناس أمر بالغ الأهمية، مع كون التعليمات مؤشرات رئيسية على تلك القيم. بالإضافة إلى ذلك، يتضمن التحديث سلسلة قيادة منقحة لتوضيح التعليمات التي تنطبق وكيفية حل التعارضات.

أضافت OpenAI أيضاً إعدادات افتراضية لدعم استقلالية الإنسان ووسّعت الإرشادات حول التحكم في الآثار الجانبية. وتسلط هذه المبادئ الضوء على أهمية مراعاة تأثير عمل الذكاء الاصطناعي على الآخرين وضمان أن يتمكن المستخدمون من الاعتماد على النموذج مع احترام أهدافهم.

في المقابل، تم إلغاء الكثير من إرشادات الأسلوب التفصيلية، مما يسمح بالتكيف بناءً على تفضيلات المستخدم والسياق. ويشير Model Spec الآن إلى النموذج باسم «GPT» بدلاً من «المساعد»، مما يعكس حالات استخدامه الأوسع.

يمثل هذا التحديث خطوة مهمة في جعل القيم والأسباب الكامنة وراء Model Spec أكثر وضوحاً مع تزايد قدرات نماذج الذكاء الاصطناعي. وتقر OpenAI بأن نماذجها لا تجسد هذه المبادئ بالكامل بعد، وتلتزم بتحسينات مستمرة بناءً على البحث والاستخدام الواقعي وملاحظات المستخدمين.

تدعو OpenAI إلى تقديم ملاحظات حول Model Spec المحدث، وتشجع المستخدمين على مشاركة وجهات نظرهم حول قيمه والمقايضات واللغة المحددة للمساعدة في تحسين الإطار بشكل أكبر.

المصدر: OpenAI News