benchr
ميزة Flash-Lite ليست أنه يفتح مهمة جديدة؛ ميزته أنه يجعل تشغيل مهمة معروفة على حجم كبير أرخص. وهذا فرق مهم. لو كانت النتيجة غير قابلة للفحص، فإن خطأ واحداً متكرراً في آلاف المستندات قد يمحو كل التوفير.
اختَر الطابور الذي يكشف خطأه بسرعة
أفضل بداية ليست أطول برومبت لديك. ابدأ بمسار له جواب محدد: حقول فاتورة، تصنيف تذكرة، استخراج عناصر عقد إلى schema، أو وكيل فرعي يستدعي أداة واحدة ثم يتوقف. اجعل الـschema يرفض الحقول الناقصة، وحدد متى ينتقل الطلب إلى نموذج أقوى أو إلى مراجعة بشرية.
| المهمة | بداية مناسبة؟ | الحاجز الضروري |
|---|---|---|
| استخراج بيانات فاتورة إلى JSON | نعم | schema صارم وعينة عربية معنونة |
| تصنيف تذاكر الدعم | نعم | حد خطأ لكل فئة ومسار تصعيد |
| وكيل فرعي بأداتين | اختبره | حد للدورات وفحص arguments وشرط توقف |
| تحقيق طويل مفتوح | ليس وحده | خط أساس أقوى وتقييم نجاح المهمة كاملة |
| قرار قانوني أو طبي أو مالي | لا يعمل بلا إشراف | مصادر واضحة ومختص يراجع النتيجة |
مستوى التفكير سياسة توجيه
الإعداد الافتراضي هو minimal. هذا منطقي للاستخراج والتصنيف لأنك تريد سرعة عالية ومخرجات قصيرة. أما الوكيل الفرعي الذي يخطط لعدة استدعاءات أدوات، فتقترح Google تجربة medium أو high حتى لا يتوقف مبكراً.
لا ترفع المستوى لكل شيء. قد تحتاج مساراً بسيطاً للاستخراج وآخر أعمق للوكلاء، وكلاهما يستخدم المعرّف نفسه. قارن نجاح المهمة والتوكنز والكمون قبل تثبيت السياسة.
هذه الأرقام توضح أن Google تنسب له تحسناً حقيقياً، لكنها لا تخبرك إن كان يفهم تنسيق فواتيرك العربية أو لهجة تذاكر عملائك. احتفظ بمجموعة اختبار تمثل ملفاتك الفعلية، لا أمثلة نظيفة صنعتها للتجربة.
احسب المهمة من أول طلب إلى آخر مراجعة
السعر المنشور هو 0.30 دولار لكل مليون توكن إدخال و2.50 دولار للإخراج. يقبل النص والصورة والفيديو والصوت وPDF، ويُخرج نصاً. حد الإدخال 1,048,576 توكن وحد الإخراج 65,536.
لكن الفاتورة الحقيقية تشمل توكنز التفكير، واستدعاءات الأدوات، والمحاولات، والنموذج الاحتياطي، ووقت المراجع. سجّل هذه العناصر لكل مهمة مكتملة. إذا كان نموذج أقوى ينهي المسار من محاولة واحدة فقد يكون أرخص عملياً، رغم أن سعر التوكن أعلى.
الترحيل يبدأ بتنظيف الطلب
توثق Google إهمال معاملات temperature وtop_p وtop_k تدريجياً في هذا الجيل، وعدم قبول محادثة تنتهي بدور model مُعبّأ مسبقاً. افحص الـSDK والطبقات المشتركة قبل تحويل الحركة؛ لا تخلط خطأ 400 مع ضعف في الجودة.
احصر معاملات العينة، والـprefill، والأدوات، ومستوى التفكير.
ارفض JSON المكسور وarguments الأدوات غير الصالحة تلقائياً.
وجّه الثقة المنخفضة والمخاطر العالية إلى نموذج آخر أو إنسان.
المدخل متعدد الوسائط يحتاج مرجعاً يعود إليه المراجع
يقبل Flash-Lite ملفات PDF والصور والصوت والفيديو، لكنه يعيد نصاً. قبل التوسع، حدّد كيف يشير كل حقل مهم إلى الصفحة أو المقطع الزمني أو الإطار الذي جاء منه. من دون هذا الرابط لن تعرف هل الخطأ من النموذج أم من الملف أو OCR أو جزء مفقود.
اجعل للمخرج ثلاث حالات: صالح، يحتاج مراجعة، وفشل الفحص. أرسل JSON المكسور والحقول الناقصة إلى الفشل آلياً، والحالات الملتبسة إلى مراجع، ولا تسمح إلا للمخرج الصالح بالانتقال إلى النظام التالي. هذه السياسة هي التي تجعل انخفاض السعر آمناً على حجم كبير.
متى تتجاوزه؟
لا تجعله النموذج الوحيد لوكيل جديد لم تفهم أخطاءه بعد. ولا تعتمد عليه وحده في قرار حساس أو نص نهائي لا يراجعه أحد. وإذا كان الهدف الوحيد من الترحيل هو رقم 0.30 دولار، أعد الحساب على مستوى المهمة كاملة؛ قد تكلفك الإعادات أكثر من فرق السعر.