حقن السلطة المهيكل: تعزيز التحكم البشري في وكلاء LLM

Structured Authority Injection (SAI) هو بروتوكول مقترح مصمم لتعزيز التحكم البشري في الوكلاء القائمين على LLM، والذين يُستخدمون بشكل متزايد كمنسقين مستقلين في الأنظمة الموزعة ومتعددة الوكلاء. على الرغم من استخدامها المتزايد، توجد فجوة تحكم كبيرة: لا توجد حاليًا آلية على مستوى البروتوكول تسمح للمشغلين البشريين بحقن توجيهات ملزمة تستمر عبر دورات التخطيط.

أحد التحديات الرئيسية مع التجاوزات النصية الحرة الحالية هو قابليتها لتفسير غامض. ينشأ هذا الغموض من عدم وجود التحقق من المخطط وتآكل السلطة عندما تفقد تعليمات المشغل تأثيرها داخل السياق المتراكم للوكلاء. يعالج SAI هذه المشكلات عن طريق توجيه تصحيحات المشغل عبر استدعاءات أدوات Model Context Protocol (MCP) المهيكلة والمتحقق منها، مع الحفاظ أيضًا على سياق سلطة مُرتّب يُضاف إلى بداية كل موجه LLM.

فئات التجاوز وإدارة السلطة

يُعرّف SAI ثلاث فئات تجاوز متميزة: القيد، والأولوية، والاستراتيجية. لكل فئة دلالات استمرارية فريدة وترتيب أسبقية صريح يُفرض عبر قناة سلطة موجهة، لا يمكن لعملية التخطيط الوصول إليها. يضمن هذا الهيكل أن توجيهات المشغل ليست واضحة فحسب، بل تحافظ أيضًا على تأثيرها المقصود طوال تكرارات التخطيط.

الأهم من ذلك، لا يتطلب SAI أي ضبط دقيق للنموذج أو الوصول إلى أوزان النموذج، مما يجعله قابلًا للتطبيق على نماذج LLM المضبوطة بالتعليمات والتي تدعم استخدام أدوات MCP. تُظهر التقييمات التي أجريت عبر تسعة نماذج LLM مختلفة وثمانية سيناريوهات تستهدف أنماط فشل الوكيل المختلفة أن SAI يقلل بشكل كبير من التفسير الغامض للتوجيهات ويخفف من تآكل السلطة عبر تكرارات التخطيط.

نتائج التقييم

تشير النتائج إلى أن SAI يؤدي إلى انخفاض الحمل الإضافي للموجه في أقوى النماذج، محققًا تخفيضات تصل إلى 38% اعتمادًا على النموذج والسيناريو. ومع ذلك، تختلف فوائد SAI بشكل كبير بين النماذج المختلفة، مما يسلط الضوء على الحاجة إلى مزيد من الاستكشاف في سياقات متنوعة.

في الختام، يوفر SAI نمط تصميم عام لأنظمة الوكلاء التي تتطلب تحكمًا بشريًا صريحًا ومستمرًا، مما يعالج فجوة حرجة في إدارة الوكلاء القائمين على LLM.

المصدر: arXiv cs.AI