跳转至

第2章 · コンテキストエンジニアリング

コンテキストは Agent 能力の上限を決定する。LLM API のコンテキスト構造、KV Cache に優しい設計、プロンプトエンジニアリング、動的プロンプトと Agent Skills、ステータスバーのメタ情報、コンテキスト圧縮戦略について掘り下げる。

メイン README に戻る · 📖 章の本文を読む

付随プロジェクト

実験 プロジェクト 種類 説明
2-1 local_llm_serving 最適なバックエンド(vLLM または Ollama)を自動選択するクロスプラットフォームのローカル LLM デプロイソリューション。優れたシステム設計により、0.6B の小型モデルでも優れたツール呼び出し能力を実現できることを示す。リアルタイムの思考プロセス表示のためストリーミング応答をサポートする。
2-2, 2-7 attention_visualization LLM の入出力トークンシーケンス全体とアテンション重み分布を可視化し、モデルがコンテキストをどのように処理し、推論を行い、ツールを呼び出すかを深く洞察できるようにする。
2-3 kv-cache 異なるコンテキスト管理モードが KV Cache に与える影響を探り、よくあるエラーパターンがどのようにキャッシュ効率を破壊するかを示す。適切なコンテキスト設計がレイテンシとコストを大幅に削減できることを実験を通じて示す。
2-4 prompt-engineering Tau-Bench フレームワークを拡張し、体系的なアブレーション(実験)を通じて、異なるプロンプトエンジニアリング要因が Agent 性能に与える影響を定量化する。トーン、指示の構成、ツールの説明といった要因がタスク完了率にどう影響するかを示す。
2-5 prompt-injection 3 つの攻撃シナリオ(直接インジェクション、間接インジェクション、メモリインジェクション)× 4 つの防御構成(防御なし、プロンプト強化、ソースタグ付け、複合防御)による制御実験を構築する。決定論的なルールを用いて攻撃成功率を算出し、多層防御がインジェクション成功率をいかに大幅に低下させるかを視覚的に示す。
2-6 agent-skills-ppt Agent Skills の「段階的開示」という概念を再現する。Agent は最初、薄い Skill ディレクトリしか見えない。タスクに pptx Skill が必要だと識別して初めて、その完全なワークフロー、詳細ドキュメント、同梱スクリプトを段階的に読み込み、最終的に python-pptx を使って実際の .pptx ファイルを生成する。
2-8 system-hint System Hint が Agent の挙動に与える影響を研究し、システムプロンプトの最適化によって性能を向上させる方法を探る。
2-9 context-compression 要約、重要情報抽出、意味的圧縮を含む複数のコンテキスト圧縮戦略を実装・比較する。Agent 能力を維持しながらトークン使用量を削減する。
## プロジェクトの種類
アイコン 種類 意味
単独実行 このリポジトリに完全なコードがあり、API キーを設定すれば実行できる
📖 再現ガイド git clone が必要な外部リポジトリに依存する詳細ドキュメント
🚧 設計ドキュメント アーキテクチャ/実装計画のみで、実行可能なコードは未完成