benchr
خيارات التسعير
| الخيار | الكلفة |
|---|---|
| استضافة ذاتية (أوزان Meta) | العتاد والتشغيل |
| إدخال Together.ai | 0.18 دولار/مليون |
| إخراج Together.ai | 0.59 دولار/مليون |
| سعة السياق | 10,000,000 توكن |
ماذا يعني سياق عشرة ملايين توكن عمليًا؟
يعادل عشرة ملايين توكن آلاف الصفحات، لكن عدد الصفحات ليس وحدة ثابتة؛ فاللغة والتنسيق والكود تغيّر طريقة التقطيع إلى توكنات. قد يقلّل هذا الحد الحاجة إلى تقسيم مستودع كبير أو أرشيف مستندات، بشرط أن يتيح النشر الطول الكامل وأن تحافظ جودة الاسترجاع على المستوى المطلوب.
لا تبدأ بتصميم النظام حول الرقم الأقصى. قِس أطول الطلبات الحقيقية، واختبر الدقة والسرعة والذاكرة عند تلك الأطوال. إذا كانت غالبية الطلبات أقصر بكثير، فقد يكون نموذج بسياق أصغر وجودة أعلى أو تشغيل أبسط خيارًا أفضل.
Scout مقابل Maverick: مقايضة السياق والجودة
يمنح Scout حد سياق أكبر، بينما حقق Maverick نتائج أعلى في عدد من اختبارات Meta المنشورة. يدعم النموذجان النصوص والصور، فلا يكفي نوع المدخلات للفصل بينهما. اختبر المهمة نفسها على النموذجين، ثم قارن الجودة والسرعة والذاكرة وحد السياق المتاح في بيئة التشغيل.
العتاد للاستضافة الذاتية
لدى Scout 109B معلمة إجمالية. تحتاج الأوزان وحدها حسابيًا إلى نحو 218GB عند BF16 ونحو 54.5GB عند تعبئة مثالية على أربع بتات، قبل بيانات التكميم وذاكرة التشغيل ومخزن KV. وتقول Meta إن نسخة Int4 تلائم بطاقة H100 واحدة، لكن هذا لا يعني أن طلبًا بطول عشرة ملايين توكن سيلائمها أيضًا. احسب ذاكرة السياق والتزامن وعبء منظومة الخدمة، ثم اختبر الطول المطلوب تحت حمل واقعي.
سيناريوهات التكلفة
بحسب سعر Together.ai المنشور في 29 يوليو 2026، فإن 5 ملايين توكن إدخال ومليون توكن إخراج تساوي 0.90 + 0.59 = 1.49 دولار شهريًا. هذه حسبة توكنات فقط؛ لا تشمل التخزين أو الاسترجاع أو المراقبة أو الضرائب. كما أن صفحة المزوّد تعرض سياقًا يبلغ مليون توكن، لا حد Meta الكامل.
ملاءمة الاستخدام
مرشح لـ: تحليل قواعد كود أو أرشيفات مستندات تتجاوز حدود السياق المعتادة، أو جلسات طويلة ثبت بالاختبار أنها تستفيد من الاحتفاظ بمواد أكثر في الطلب نفسه.
قارن بدائل إذا: كانت طلباتك الفعلية أقصر من مليون توكن، أو كانت جودة الاستدلال والسرعة أهم من الحد الأقصى، أو احتجت خدمة مُدارة باتفاقية مستوى خدمة لا يوفرها مزوّد Scout. ويدعم Scout الصور؛ اختبر جودة الرؤية بدل استبعاده على أساس نوع المدخلات.
قائمة قرار
راجع أطول الطلبات الفعلية، لا متوسطها وحده. إن كانت معظمها دون 500 ألف توكن، فقارن Scout بخيارات أبسط في التشغيل. يصبح حد العشرة ملايين ذا قيمة حين تتجاوز المهام مليون توكن بانتظام وتثبت الاختبارات أن الاحتفاظ بالسياق الإضافي يحسن النتيجة.
تحقّق من دعم المزوّد قبل بناء معمارية تعتمد على نافذة العشرة ملايين الكاملة. والاستضافة الذاتية لا تضمن السقف بدورها: احسب ذاكرة الأوزان ومخزن KV وعبء بيئة التشغيل والتزامن، ثم أعد إنتاج الطول المستهدف تحت الحمل.