Hindsight تحصل على تمويل يصل إلى مليون دولار لمراقبة المحتوى بالذكاء الاصطناعي مع إيقاف Google لـ Perspective API
بدءاً من 1 يناير 2027، ستفشل أي منظومة مراقبة محتوى تعتمد على Perspective API بعد أن تغلق وحدة Jigsaw التابعة لـ Google الخدمة في 31 ديسمبر 2026. وتنهي هذه الخطوة واحدة من أكثر الأدوات استخداماً لتقييم سمية التعليقات على الإنترنت، تاركةً المنصات والناشرين والمجتمعات أمام مهمة عاجلة للعثور على بديل.
تسعى Hindsight إلى سد هذه الفجوة بتقديم نهج جديد لمراقبة المحتوى بالذكاء الاصطناعي. فبدلاً من استبدال المورّد بشكل تقليدي، تقدم Hindsight ضماناً مهنياً ضد الأضرار الناجمة عن محتوى يفشل نموذجها في رصده.
«اللغة المشفرة هي الشتيمة الجديدة، لكن رصدها باستمرار أمر بالغ الصعوبة»، قال دين جيبرت، مؤسس Hindsight. «ومجرد استبدال النموذج أو الأداة بنظير لها ينقل نقاط العمى لدى Perspective إلى مورّد آخر».
الهجرة القسرية تتحول إلى تدقيق للمؤسسات
بينما قد ينظر كثير من الشركات إلى إغلاق Perspective كمسألة هندسية روتينية، ترى Hindsight فيه فرصة لإعادة تقييم فعالية الأداة السابقة. فقد كانت Perspective تقيّم مدى سمية التعليق بناءً على «طريقة نطقه» ظاهرياً، وهو ما ينجح مع الإهانات الواضحة لكنه يفشل مع اللغة المصممة لتبدو غير ضارة.
تكيّف الجهات السيئة باستخدام اللغة المشفرة (Coded Language)، التي تشمل رموزاً رقمية مثل «1488»، وعاميات متطرفة مثل «boogaloo»، وأخطاء إملائية تحاكي الشتائم صوتياً. ولا تقتصر هذه المشكلة على الإنجليزية، إذ توجد اللغة المشفرة في لغات متعددة. وقد دُرّب نموذج Hindsight مسبقاً على 110 لغات، ما يتيح له التعرف على اللغة المشفرة في سياقات متعددة دون الحاجة إلى نماذج منفصلة لكل لغة.
المخاطر كبيرة. فمن 2016 إلى منتصف 2022، أفادت رابطة مكافحة التشهير (Anti-Defamation League) بأن المتطرفين جمعوا ما لا يقل عن 6.2 ملايين دولار عبر 324 حملة تمويل جماعي. إضافة إلى ذلك، تتهم أكثر من 30 قضية فيدرالية ضد منصة ألعاب كبرى بأن إجراءات الحماية فيها فشلت في حماية المستخدمين الصغار. ولا تزال البضائع التي تحمل رسائل قومية بيضاء تظهر في الأسواق الإلكترونية الكبرى، ما يبرز إخفاقات أنظمة المراقبة الحالية.
لماذا تُضطر النماذج الثنائية إلى حل وسط
تعتمد كثير من أدوات المراقبة على منطق ثنائي — آمن أو غير آمن — ما يخلق مقايضة صعبة لمسؤولي المنصات. فالنظام الصارم يولّد إنذارات كاذبة للعاميات اليومية، بينما يخاطر النظام المتساهل بفوات محتوى ضار.
يقدم نموذج Hindsight ثلاث فئات: Red Flag وYellow Flag وSafe، ما يتيح نهجاً أكثر دقة للغة المعتمدة على السياق. وتتولى الأتمتة الحالات الواضحة، ما يمكّن المراجعين البشريين من التركيز على المواقف الأكثر تعقيداً، والتي يمكن بعد ذلك أن تفيد في ضبط النموذج بشكل أكبر.
«كان تصنيف النصوص السياقية باستمرار ضمن فئة Yellow Flag بدقة أمراً مؤلماً للغاية»، قال جيبرت. «تطلب الأمر جرعات متساوية من الهوس والعناد واللاتيه. لكنه سيتيح للعملاء الاعتماد بشكل أقل على الإشراف البشري والحصول على نتائج أكثر دقة، لذا سيؤتي ثماره».
ما تكشفه المعايير القياسية
اختبرت Hindsight تسعة نماذج لمراقبة المحتوى بالذكاء الاصطناعي، بما في ذلك نماذج من Mistral وOpenAI وMeta وAzure وAWS، مقابل مجموعة ثابتة من 2,205 منشورات حقيقية على الإنترنت. صنّف إنسان كل منشور بأنه Red Flag أو Yellow Flag أو Safe، ولم تكن متغيرات نموذج Hindsight قد رأت هذه المنشورات أثناء التطوير.
في كشف اللغة المشفرة، حققت Hindsight معدل نجاح بلغ 97.9%، بينما سجلت النماذج الأخرى 65% أو أقل. وبلغ معدل العلامات الفائتة (Missed Flag) لديها 3.3%، ومعدل الإنذارات الكاذبة (False Alarm) 8.2%. ونشرت الشركة منهجية اختبارها ونتائجه على موقعها الإلكتروني، ما يتيح للشركات اختبار Hindsight ببياناتها.
كفاءة التخصص: القناص مقابل البندقية
تتحدى Hindsight الافتراض بأن النماذج الأكبر تؤدي دائماً بشكل أفضل. فبدلاً من الاعتماد على نموذج واحد كبير متعدد الأغراض، تستخدم ثلاثة نماذج أساسية متخصصة، يحتوي كل منها على أقل من 600 مليون معامل (parameter)، وتزعم أنها تتفوق على نماذج أكبر منها بما يصل إلى 14 ضعفاً. ويصف جيبرت النهج بأنه أقرب إلى القناص وأبعد عن البندقية.
بيانات التدريب ضيقة عمداً، وتتكون من 83 ميغابايت من المنشورات الحقيقية على الإنترنت من 18 مجموعة بيانات، بما في ذلك 292,000 منشور صنّفها مراجعون بشريون. وتتبعت Hindsight أداء 164 متغيراً مدرّباً ورقّت أفضل متغير أداءً إلى «Champion».
ما الذي يغيّره ضمان بقيمة مليون دولار
يُنظر إلى مراقبة المحتوى بالذكاء الاصطناعي للمؤسسات عادةً كمركز تكلفة يقلل المخاطر، لكن قلة من المورّدين يقدمون ضمانات. وتغيّر Hindsight ذلك بتقديم دعم مالي يصل إلى مليون دولار إذا صنّف نموذجها منشوراً بأنه Safe وأدى ذلك المنشور إلى حدث مسؤولية موثق.
بالنسبة للفرق التي تواجه الموعد النهائي، فإن الانتقال إلى Hindsight مباشر، ولا يتطلب سوى استدعاء API واحد لاستبدال Perspective. وقد صُممت Hindsight لرصد اللغة المشفرة التي قد تفوت الأدوات المماثلة.
يقترح جيبرت تشغيل Hindsight وPerspective جنباً إلى جنب لمدة أسبوع لتحليل التباينات، ما قد يكشف أين كانت درجات السمية قد قصّرت. وتحد Hindsight من مجموعة إطلاقها الأولى بأربعة عملاء تجاريين لإتاحة المعايرة المخصصة لنماذجها وفق سياسات المجتمع الفريدة وملفات المخاطر لكل منصة. وسيتوفر تسعير المؤسس لهذه المجموعة الأولية.
للانضمام إلى قائمة الإطلاق واختبار Hindsight ببياناتك، قم بزيارة موقع Hindsight الإلكتروني.
المصدر: The Next Web