Google تطلق Gemini Decisions API مع Gemini Decision 1 بسعر 0.10 دولار لكل مليون token
أطلقت Google واجهة Gemini Decisions API التي تعمل بنموذج جديد هو Gemini Decision 1 (gemini-decision-1). لا تولد الواجهة نصاً، بل تقيّم ما يصل إلى 1000 سؤال مصنف مقابل مدخل مشترك، وتعيد احتمالات معايرة. صُممت هذه الخدمة لتمكين المطورين من إدارة استدعاءات تفريعية صغيرة داخل الوكلاء، مثل التوجيه وفحوصات السياسات واختيار الأدوات والتقييم. حُدد السعر عند 0.10 دولار لكل مليون token إدخال، دون أي رسوم على tokens الإخراج.
باختصار
- الحجم: سياق يبلغ 262,144 token (256K) موزعة على المدخل المشترك وجميع الأسئلة.
- بيئة التشغيل: واجهة API المستضافة لدى Google فقط (Gemini Developer API، الإصدار v1beta). لا أوزان مفتوحة ولا استضافة ذاتية.
- الأداء: يتصدر 7 من 9 معايير دقة في جدول Google، ويسجل أدنى خطأ معايرة.
- الأفضل: 92.2% في JevBench (التقسيم العام).
- الأضعف: 58.7% في مقياس Macro-F1 على Amazon ESCI، وهو أدنى نتائجه. كما يتخلف عن Jev 1.14 في When2Call (79.9% مقابل 82.0%).
- الخلاصة: الأفضل: قرارات متعددة الوسائط ومعايرة خلال 150-250 مللي ثانية. الأضعف: ليس الأرخص؛ إذ تبلغ تكلفة Jev 1.14 نحو 0.68 دولار مقابل 0.88 دولار على المجموعة المشتركة.
ما هي Gemini Decisions API؟
Gemini Decision 1 نموذج متعدد الوسائط متخصص من Google مصمم للقرارات محدودة المجموعة. يعالج النصوص والصور والفيديو والصوت وملفات PDF في تمريرة prefill واحدة. استهلاك tokens الإخراج صفر دائماً، ما يسمح للكود بالتفرع مباشرة بناءً على الاحتمالات المعادة.
يتكون كل طلب من ثلاثة أجزاء: معرف النموذج، وinput مشترك، وخريطة أسئلة. تحدد الوثائق ثلاثة أنواع من الأسئلة:
noul(نعم/لا): يعيد احتمال الإجابة بنعم، محصوراً بين 0.01 و0.99.choice: يختار خياراً واحداً من 2 إلى 255 ويعيد احتمالات معيارية لكل خيار.score: يقيّم المدخل على 2 إلى 255 مستوى تقييم مرتبة، ويعيد درجة مرجحة بالاحتمالات.
تتضمن كل إجابة قيمة ثقة تتراوح من 0 إلى 1. وتوصي Google بتوجيه الحالات منخفضة الثقة إلى مسار احتياطي أو مراجع بشري. تُقيّم الأسئلة بالتوازي ولا تؤثر إحداها في الأخرى.
كيف يعمل Gemini Decision 1؟
على عكس النماذج القياسية التي تفكك الإجابات tokenاً تلو الآخر، يقيّم Gemini Decision 1 الخيارات المرشحة في تمريرة أمامية واحدة. وتفيد Google بأن متوسط زمن الحوسبة للنموذج يتراوح بين 50 و100 مللي ثانية، بينما تستغرق المعالجة من البداية إلى النهاية 150-250 مللي ثانية للمدخلات حتى 16K token، ويبقى هذا الأداء ثابتاً من سؤال واحد إلى 100 سؤال.
تُحتسب الفوترة بطريقة مماثلة. يُفوتر المدخل المشترك مرة واحدة لكل طلب، بغض النظر عن عدد الأسئلة المطروحة. وتُحتسب لكل سؤال رسوم على tokens تعليماته ومعاييره فقط، دون رسوم إضافية على tokens التفكير أو النسخ أو OCR.
رابط ذو صلة: blog.google
المصدر: MarkTechPost