Pinterest تنتقل إلى نموذج Qwen3 بحجم 4 مليارات معامل لاستنتاج رحلة المستخدم وترصد زيادة في التفاعل
انتقلت Pinterest في نظام استنتاج رحلة المستخدم من خط أنابيب تجميع عنقودي متعدد المراحل إلى نموذج لغوي مُضبط بدقة بحجم 4 مليارات معامل، وأبلغت عن تحسن بنسبة 1.1% في معدلات النقر على البريد الإلكتروني وزيادة بنسبة 1.3% في فتحات الإشعارات الفورية.
بدلاً من تجميع الكلمات المفتاحية في اهتمامات، يحلل النموذج الجديد سجلات نشاط المستخدمين لتحديد الأهداف طويلة المدى، ويدمج هذه الرحلات في نظام التوصية الحالي لدى Pinterest.
تُعرّف Pinterest “الرحلة” بأنها هدف يربط الاهتمامات والنية والسياق عبر جلسات متعددة. على سبيل المثال، قد يبحث مستخدم يجدد مطبخه عن تصاميم خزائن، ويحفظ أفكاراً لأسطح العمل، ثم يستكشف لاحقاً بلاط الجدران أو الإضاءة. تشير هذه التفاعلات إلى مشروع متماسك بدلاً من اهتمامات متعددة غير مترابطة.
كان النظام السابق يستخرج الكلمات المفتاحية من نشاط المستخدم، ويجمعها باستخدام التضمينات والتجميع العنقودي الهرمي، ويسمي العناقيد الناتجة، ثم يرتبها بنماذج إضافية واستدلالات تنوع. ورغم فعالية هذه الطريقة مقارنة بالإشعارات السابقة القائمة على الاهتمامات، فقد كانت تفتت الأنشطة المترابطة إلى رحلات منفصلة وتنتج تسميات عامة.
يتعامل النظام الجديد مع استنتاج الرحلة كمهمة توليد. يقرأ نموذج لغوي كبير مُضبط بدقة سجلاً زمنياً يصل إلى 150 إجراءً للمستخدم خلال نافذة زمنية مدتها 360 يوماً، إلى جانب ملف تعريف مستخدم مختصر، ليولّد مجموعة مرتبة من أسماء الرحلات. وتحظى إجراءات مثل عمليات البحث والحفظ بوزن أكبر من النقرات العارضة، مع توجيه النموذج لمراعاة التفاعل المتكرر والحداثة والخصوصية.
نقل هذا الدمج الكثير من سلوك الترتيب والتصفية في النظام السابق إلى التوجيه النصي (prompt). تمنع التعليمات دمج الاهتمامات غير المترابطة، وتكبح الأنشطة لمرة واحدة والوسوم المولدة تلقائياً والمشوشة، وتسمح بنتائج فارغة عند عدم كفاية الأدلة على رحلة ذات معنى. وتتعامل Pinterest مع التغييرات في هذه التعليمات كإطلاقات إنتاجية بدلاً من تعديلات بسيطة على التوجيه النصي.
لبناء النظام دون مجموعة بيانات موسومة بشرياً على نطاق واسع، استخدمت Pinterest نماذج متقدمة لتوليد أمثلة تدريبية اصطناعية من سجلات نشاط مستخدميها. واستُخدمت هذه الأمثلة لضبط نماذج Qwen3 الأصغر مفتوحة الأوزان ضبطاً دقيقاً عبر الضبط الدقيق الخاضع للإشراف وتكييف الرتبة المنخفضة (LoRA).
اختبر الفريق نماذج تتراوح بين 0.6 مليار و8 مليارات معامل، واختار في النهاية النموذج بحجم 4 مليارات معامل لتوازنه بين جودة الاستنتاج وإنتاجية الخدمة.
طرح تشغيل النموذج الناتج على نطاق Pinterest تحديات هندسية إضافية. نشرت الشركة NVIDIA Dynamo أمام عمال vLLM العاملين على وحدات معالجة الرسومات L40S، مستخدمة التجميع المستمر وPagedAttention والتوجيه المدرك لذاكرة التخزين المؤقت للبادئة.
المصدر: InfoQ