المعاملات
الإجمالي والنشط
في نماذج MoE تصف المعاملات النشطة مسار الحوسبة، لكنها لا تعني بالضرورة أن الأوزان الأخرى تختفي من ذاكرة التحميل. لا يحوّل الجدول كلمة «نشط» إلى اختصار مضلل للذاكرة.
مرجع الذكاء الاصطناعي المحلي · سجلات مرتبطة بالمصادر
ابدأ بقيود النشر الفعلية: عدد المعاملات وشروط الرخصة والسياق ونوع الإدخال ومسار موثق لبيئة التشغيل. عمود الذاكرة هو تخطيط لأوزان Q4، وليس ادعاءً عن حجم ملف أو سرعة.
تُحفظ حالة المرشحات في الرابط، لذا يمكن مشاركة القائمة القصيرة بلا حساب. الحقول الواقعية تأتي من model-figures.json.
جارٍ تحميل السجلات المرتبطة بالمصادر…
| النموذج | المعاملات | الرخصة | السياق | خطة أوزان Q4 | المسارات والأنواع |
|---|---|---|---|---|---|
| جارٍ تحميل فهرس النماذج المحلية المرتبط بالمصادر. | |||||
المعاملات
في نماذج MoE تصف المعاملات النشطة مسار الحوسبة، لكنها لا تعني بالضرورة أن الأوزان الأخرى تختفي من ذاكرة التحميل. لا يحوّل الجدول كلمة «نشط» إلى اختصار مضلل للذاكرة.
السياق
يظهر الحد الممتد الموثق بعد الحد الأصلي. قد يحتاج YaRN أو إعدادًا آخر، ويضيف ضغطًا على الذاكرة، وقد يأتي مع مفاضلة في الجودة.
تخطيط Q4
يبقى رقم ذاكرة Q4 المنشور موسومًا بأنه من المزوّد. وإلا فالنتيجة هي أوزان أربع بت × إجمالي المعاملات؛ لا تدخل البيانات الوصفية أو حواجز بيئة التشغيل في الرقم.
هذا مرجع نشر، لا يخترع درجة جودة عابرة للنماذج من عدد المعاملات أو بنشماركات المزوّد. كوّن قائمة قصيرة هنا، ثم مرر الحالات الممثلة نفسها عبر الإعداد الدقيق الذي ستنشره.
ليس كادعاء عام لتوفر من المزوّد. يفرّق الجدول عمدًا بين مسارات أوزان المزوّد وتحويلات المنظومة؛ وأي تغطية لاحقة للصيغ تحتاج أن تكون خاصة بالملف وموثقة بالمصدر.
لا. إنه نقطة بدء في الوثائق، وليس إعدادًا مولدًا. اقرأ تعليمات المزوّد أو بيئة التشغيل لإصدار النموذج والمنصة وإعداد السياق المحدد.