컨텍스트 엔지니어링 (Context Engineering)

한 줄 정의

LLM에게 매 호출마다 "무엇을 컨텍스트 창에 남기고, 무엇을 요약·삭제·외부화할지"를 설계하는 작업으로, 좋은 프롬프트 한 줄을 쓰는 것을 넘어 대화 전체의 정보 예산을 관리하는 practice.

지금 상태 (2026-09 기준)

"컨텍스트 엔지니어링"이라는 용어는 2025년 6월 Andrej Karpathy가 "prompt engineering보다 정확한 표현"이라고 언급하며 업계에 퍼졌습니다. 같은 해 7월 Chroma가 "context rot"(입력이 길어질수록 모델이 정보를 고르게 활용하지 못하는 현상)을 실증 데이터로 제시했고, 9월 말 Anthropic이 Claude Sonnet 4.5와 함께 context editing(오래된 도구 결과 자동 정리)·memory tool(파일 기반 외부 메모리)을 공개하면서 "컨텍스트 엔지니어링"을 정식 실무 가이드로 문서화했습니다. 2026년 현재는 장시간 실행되는 에이전트(coding agent, 멀티스텝 워크플로)에서 컨텍스트 관리가 프롬프트 튜닝보다 더 중요한 성능 레버로 취급되는 분위기입니다.

개념

• prompt caching과의 관계(2024-08): 컨텍스트 엔지니어링이라는 말이 생기기 전에도, Anthropic의 프롬프트 캐싱은 "긴 컨텍스트를 반복 전송하는 비용/지연을 줄인다"는 문제를 다뤘다. 이는 컨텍스트를 "정보 예산"으로 보는 관점의 초기 형태로, 이후 컨텍스트 엔지니어링 논의의 경제적 배경이 됐습니다.
• 용어의 기원(2025-06): Karpathy는 "prompt"라는 말이 일상적 짧은 지시를 떠올리게 하는 반면, 실전 LLM 애플리케이션에서는 "컨텍스트 창을 무엇으로 채울지 정교하게 설계하는 과학기술"이 핵심이라며 "context engineering"이라는 표현을 제안했습니다. 이 표현이 빠르게 업계 표준 용어로 자리잡았습니다.
• context rot(2025-07): Chroma의 기술 리포트는 입력 토큰이 늘어날수록 모델이 컨텍스트를 균일하게 활용하지 못하고 성능이 저하된다는 것을 실증했습니다. 이는 "컨텍스트를 무제한 늘려도 안전하다"는 가정을 깨고, 컨텍스트를 신중히 큐레이션해야 한다는 논거의 핵심 근거가 됐습니다.
• compaction(요약 후 재시작): 대화가 컨텍스트 한도에 가까워지면 지금까지의 내용을 요약해 핵심(설계 결정, 미해결 버그 등)만 남기고 나머지를 버린 뒤 그 요약으로 새 세션을 이어가는 기법. 오래된 도구 호출 결과만 골라 지우는 것은 이보다 가벼운 형태의 정리로 취급됩니다.
• memory tool / 외부 메모리: 컨텍스트 창 자체가 아니라 파일 시스템 형태의 외부 저장소에 정보를 기록·조회하게 해, 세션이 끝나거나 컨텍스트가 비워져도 지식이 유지되도록 하는 접근. Claude Sonnet 4.5와 함께 퍼블릭 베타로 공개됐습니다.
• 범위 구분(instruction-files와의 차이): CLAUDE.md·AGENTS.md 같은 "고정 지침 파일"은 컨텍스트 엔지니어링의 한 재료로 쓰이지만, 그 자체는 별도 주제(프로젝트 지침 파일 (Project Instruction Files))로 다룹니다. 컨텍스트 엔지니어링은 그런 파일을 포함해 "무엇을 언제 컨텍스트에 넣고 뺄지"의 전체 전략을 가리킵니다.

[업데이트 2026-09-28] GitHub의 Agentic Autofix(보안 취약점 자동 수정 에이전트)가 Copilot Memory를 활용하도록 업데이트됨 — 취약점을 해결할 때 과거 세션에 저장된 관련 메모리를 참조해 컨텍스트로 삼는다. 세션 간 지식을 파일 기반 외부 메모리로 유지하는 접근이 코드 보안 자동화 영역까지 확장된 사례. (Agentic autofix now uses Copilot Memory)