跳转至

الفصل الثاني · هندسة السياق

يحدد السياق سقف قدرة الوكيل. ويتعمق الفصل في بنية السياق لواجهات LLM، والتصميم الملائم لذاكرة KV المخبأة، وهندسة الموجّهات، والموجّهات الديناميكية، ومهارات الوكيل، وبيانات شريط الحالة، واستراتيجيات ضغط السياق.

العودة إلى الملف التمهيدي الرئيسي · 📖 قراءة نص الفصل

المشاريع المصاحبة

التجربة المشروع النوع الوصف
2-1 local_llm_serving حل نشر LLM محلي عبر الأنظمة الأساسية يقوم تلقائيًا بتحديد أفضل واجهة خلفية (vLLM أو Ollama). يوضح أنه حتى النموذج الصغير الذي يبلغ حجمه 0.6B يمكنه تحقيق إمكانات ممتازة لاستدعاء الأدوات من خلال التصميم الجيد للنظام. يدعم الاستجابات المتدفقة لعرض عملية التفكير في الوقت الحقيقي.
2-2، 2-7 انتباه_التصور تصور تسلسل رمز الإدخال/الإخراج الكامل وتوزيع وزن الانتباه لـ LLM، مما يوفر نظرة عميقة حول كيفية معالجة النموذج للسياق وتنفيذ الاستدلال واستدعاء الأدوات.
2-3 كف-ذاكرة التخزين المؤقت يستكشف تأثير أوضاع إدارة السياق المختلفة على KV Cache، مما يوضح كيف تؤدي أنماط الأخطاء الشائعة إلى تدمير كفاءة ذاكرة التخزين المؤقت. يوضح من خلال التجارب كيف يمكن لتصميم السياق المناسب أن يقلل بشكل كبير من زمن الوصول والتكلفة.
2-4 هندسة الموجّهات يوسع إطار Tau-Bench لقياس أثر عناصر هندسة الموجّهات في أداء الوكيل عبر دراسات استئصال منهجية. ويوضح تأثير الأسلوب وتنظيم التعليمات وأوصاف الأدوات في معدلات إنجاز المهام.
2-5 حقن الموجّهات يبني تجربة مضبوطة تضم ثلاثة سيناريوهات للهجوم (الحقن المباشر، والحقن غير المباشر، وحقن الذاكرة) وأربعة إعدادات دفاعية (دون دفاع، وتحصين الموجّه، ووسم المصدر، ودفاع مركب). ويستخدم قواعد حتمية لحساب معدلات نجاح الهجوم، فيوضح بصريًا أثر الدفاع متعدد الطبقات.
2-6 مهارات-الوكيل-ppt إعادة إنتاج مفهوم "الكشف التدريجي" لمهارات الوكيل: يرى الوكيل في البداية فقط دليل المهارات الرفيع. فقط بعد تحديد أن المهمة تتطلب مهارة pptx، يتم تحميل سير العمل الكامل والوثائق التفصيلية والبرامج النصية المجمعة بشكل تدريجي، مما يؤدي في النهاية إلى إنشاء ملف .pptx حقيقي باستخدام python-pptx.
2-8 إرشادات النظام يدرس أثر إرشادات النظام في سلوك الوكيل، ويبحث في تحسين الأداء عبر تنقيح موجّهات النظام.
2-9 ضغط السياق ينفذ ويقارن استراتيجيات ضغط السياق المتعددة، بما في ذلك التلخيص واستخراج المعلومات الأساسية والضغط الدلالي. يقلل من استخدام الرمز المميز مع الحفاظ على قدرات الوكيل.
## أنواع المشاريع
الأيقونة النوع المعنى
مستقل شفرة كاملة قابلة للتشغيل في هذا المستودع بعد إعداد مفتاح API
📖 دليل إعادة الإنتاج وثائق تفصيلية تعتمد على مستودع خارجي يُجلب باستخدام git clone
🚧 وثيقة التصميم وثيقة تصميم وخطة تنفيذ؛ أما الشفرة القابلة للتشغيل فما تزال قيد التطوير