제2장 · 컨텍스트 엔지니어링

컨텍스트는 에이전트 역량의 상한을 결정합니다. LLM API의 컨텍스트 구조, KV Cache에 유리한 설계, 프롬프트 엔지니어링, 동적 프롬프트와 Agent Skills, 상태 표시줄 메타 정보, 컨텍스트 압축 전략을 깊이 살펴봅니다.

← 한국어 메인 README로 돌아가기 · 📖 제2장 본문 읽기

연계 프로젝트

실험	프로젝트	유형	설명
2-1	local_llm_serving	✅	환경에 가장 적합한 백엔드(vLLM 또는 Ollama)를 자동으로 선택하는 크로스 플랫폼 로컬 LLM 배포 솔루션입니다. 좋은 시스템 설계를 통해 0.6B 소형 모델도 뛰어난 도구 호출 능력을 발휘할 수 있음을 보여 주며, 실시간 사고 과정 표시를 위한 스트리밍 응답도 지원합니다.
2-2, 2-7	attention_visualization	✅	LLM의 전체 입력·출력 토큰 시퀀스와 어텐션 가중치 분포를 시각화해, 모델이 컨텍스트를 처리하고 사고하며 도구를 호출하는 방식을 깊이 이해할 수 있게 합니다.
2-3	kv-cache	✅	여러 컨텍스트 관리 방식이 KV Cache에 미치는 영향을 살펴보고, 흔한 잘못된 패턴이 캐시 효율을 어떻게 무너뜨리는지 보여 줍니다. 올바른 컨텍스트 설계가 지연 시간과 비용을 크게 줄일 수 있음을 실험으로 확인합니다.
2-4	prompt-engineering	✅	Tau-Bench 프레임워크를 확장하고 체계적인 구성 요소 제거 실험을 통해 프롬프트 엔지니어링 요소가 에이전트 성능에 미치는 영향을 정량화합니다. 어조, 지침 구성, 도구 설명 등이 작업 완료율을 어떻게 바꾸는지 보여 줍니다.
2-5	prompt-injection	✅	세 가지 공격 시나리오(직접 인젝션, 간접 인젝션, 메모리 인젝션)와 네 가지 방어 설정(방어 없음, 프롬프트 강화, 출처 태깅, 결합 방어)을 조합한 통제 실험을 구성합니다. 결정론적 규칙으로 공격 성공률을 계산해 계층화된 방어가 인젝션 성공률을 크게 낮추는 모습을 시각적으로 보여 줍니다.
2-6	agent-skills-ppt	✅	Agent Skills의 ‘점진적 공개’ 개념을 재현합니다. 처음에는 간소한 Skill 디렉터리만 보여 주고, 작업에 pptx Skill이 필요하다고 판단한 뒤에만 전체 워크플로, 상세 문서, 번들 스크립트를 단계적으로 불러옵니다. 마지막에는 python-pptx로 실제 .pptx 파일을 생성합니다.
2-8	system-hint	✅	System Hint가 에이전트 행동에 미치는 영향을 살펴보고, 시스템 프롬프트를 최적화해 성능을 높이는 방법을 탐구합니다.
2-9	context-compression	✅	요약, 핵심 정보 추출, 의미 기반 압축 등 여러 컨텍스트 압축 전략을 구현하고 비교합니다. 에이전트 역량을 유지하면서 토큰 사용량을 줄입니다.

프로젝트 유형

아이콘	유형	의미
✅	독립 실행	전체 코드가 이 저장소에 있으며, API 키를 설정하면 실행할 수 있습니다.
📖	재현 가이드	외부 저장소를 git clone해야 하는 상세 안내 문서입니다.
🚧	설계 문서	아키텍처와 구현 계획만 있으며, 실행 가능한 코드는 아직 작성 중입니다.