ما هي نافذة السياق؟
نافذة السياق هي مقدار النص، مقيسًا بالرموز، الذي يستطيع نموذج الذكاء الاصطناعي استيعابه دفعة واحدة: التعليمات، والمحادثة حتى الآن، وأي مستندات، ومساحة لرده.
كل ما يعرفه النموذج عن طلبك يجب أن يتسع فيها. وما لا يتسع غير موجود بالنسبة إلى ذلك الرد.
كيف تعمل
يُقسَّم النص إلى رموز، كل منها بضعة أحرف، ونافذة سياق النموذج عدد ثابت منها. كل طلب يعيد إرسال السجل ذي الصلة، لذا تملأ المحادثة الطويلة أو الملف الكبير أو نتيجة الأداة الضخمة النافذة أسرع.
حين تمتلئ النافذة لا بد من التنازل عن شيء: تُحذف الرسائل القديمة أو تُلخَّص، أو تُقتطع النتائج الطويلة، أو يُرفض الطلب.
أمثلة
- محادثة طويلة يبدو فيها أن النموذج نسي شيئًا قيل في البداية.
- ملف PDF كبير يجب البحث فيه على أجزاء بدلًا من قراءته كاملًا.
- نتيجة أداة، مثل صفحة ويب طويلة، تزاحم بقية المحادثة.
الحدود
- النافذة الأكبر تكلّف أكثر لكل طلب وقد تكون أبطأ.
- لا تستفيد النماذج من كل أجزاء النافذة الطويلة بالقدر نفسه؛ فقد تفوتها تفاصيل في المنتصف.
- النافذة ليست ذاكرة: لا ينتقل شيء منها من تلقاء نفسه إلى المحادثة التالية.
كيف تستخدمه Venta
حين تطول المحادثة، تطوي Venta الأدوار القديمة في ملاحظة قصيرة، فيبقى ما قيل سابقًا محسوبًا دون إعادة إرساله. والطلب الذي يظل كبيرًا جدًا على النموذج المضمّن يُعاد إرساله مع اقتطاع نتائج الأدوات الطويلة، وتقول Venta بوضوح إن ظل كبيرًا جدًا.
بالنسبة إلى مستنداتك، تبحث Venta عن المقاطع التي تطابق سؤالك وترسلها، بدلًا من الملفات كاملة.
الأسئلة التي يطرحها الناس أولًا
- كم رمزًا في الكلمة الواحدة؟
- في الإنجليزية يبلغ الرمز في المتوسط نحو أربعة أحرف، لذا تكون الكلمة عادةً رمزًا أو رمزين. واللغات الأخرى والشيفرة تستهلك غالبًا أكثر.
- هل نافذة السياق الأكبر أفضل دائمًا؟
- لا. فهي تتيح للنموذج قراءة المزيد دفعة واحدة، لكنها تكلّف أكثر ولا تضمن أن يستفيد منها كلها جيدًا. واختيار المقاطع المناسبة كثيرًا ما يكون أنجع.
- هل تتذكر Venta أشياء خارج نافذة السياق؟
- نعم، عبر الذاكرة: ما خزّنته عنك، ويمكنك رؤيته وتنزيله وإيقافه لمشروع.