في منتصف العمل توقّف عن اتباع التعليمات التي أعطيتها في البداية

ما الذي يحدث فعلًا

لم يُنسَ شيء بالمعنى البشري. إمّا أن الأدوار الأولى خرجت من النافذة، وإمّا أنها ما زالت موجودة لكنها تخسر أمام نصّ أحدث وأكثر تحديدًا.

لماذا

• للمحادثة نافذة توكنات ثابتة. حين تمتلئ يتوقف إرسال الأدوار الأقدم.
• وحتى داخل النافذة تتنافس التعليمات. مستند طويل ملصوق بعد قواعدك يعطي النموذج أدلة أحدث بكثير عمّا تريده من القواعد نفسها.
• ينشر المزوّدون حجم النافذة لا كيفية تدهور الانتباه عبرها، فالنقطة التي يبدأ عندها الالتزام بالانزلاق غير موثّقة.

خطوة خطوة

1. ضع القواعد غير القابلة للتفاوض في أمر النظام أو التعليمات المخصصة أو إعدادات المشروع.
2. اجعل كل محادثة لمهمة واحدة. المحادثة الجديدة لا تكلّف شيئًا وتعيد ضبط المنافسة.
3. عند لصق مرجع طويل، ضع تعليماتك بعده لا قبله.
4. اطلب منه إعادة صياغة القيود بكلماته قبل أن يبدأ؛ فحص رخيص يؤكّد وصولها.
5. في المهام الطويلة اجعله يكتب القيود في ملف أو رسالة يعيد قراءتها بدل الاعتماد على المحادثة.

إن كنت ترى خطأ من الواجهة البرمجية

• OpenAI context_length_exceeded: why prompts overflow and how to fix it