컨텍스트의 한계
개요
이 문서는 transition/context-limit을 더 자세히 푸는 상세 해설이다.
컨텍스트 엔지니어링은 AI의 정확도를 크게 향상시킬 수 있지만,
구조적으로 해결할 수 없는 한계를 가진다.
1. 규칙을 강제할 수 없다
컨텍스트는 정보를 제공할 뿐, 행동을 제한하지 않는다.
- 규칙을 보여줄 수는 있어도
- 위반을 실패로 만들 수는 없다
2. 정보 과잉 문제를 피하기 어렵다
컨텍스트는 많을수록 좋아 보이지만 실제로는 반대다.
- 중요 정보가 묻히고
- 판단 기준이 흐려지며
- 처리 비용이 증가한다
따라서 context는 항상 최적화 대상이다.
3. 선택 자체가 어렵다
어떤 정보를 포함할지는 언제나 트레이드오프다.
- 너무 적으면 정보 부족
- 너무 많으면 노이즈 증가
좋은 context는 자동으로 생기지 않는다. 선택 기준이 있어야 한다.
4. 일관성이 쉽게 흔들린다
실행마다 선택 기준이 바뀌면 결과의 재현성이 떨어진다.
- 같은 작업인데 다른 자료를 주고
- 같은 규칙인데 다른 방식으로 강조하면
- 출력도 더 쉽게 흔들린다
5. 범위를 설명할 수는 있어도 잠글 수는 없다
context는 수정 범위를 드러내는 데는 유용하다. 하지만 실제로 그 경계를 닫지는 못한다.
이 지점에서 context는 guidance에 머무른다. control로 넘어가려면 하네스가 필요하다.
요약
- context는 구조화된 준비 단계다
- 하지만 규칙을 강제하지 못한다
- 정보 과잉과 선택 문제를 항상 안고 있다
- 재현성을 만들려면 선택 기준이 필요하다
- 결국 하네스와 enforcement가 필요하다
컨텍스트는 AI의 판단을 돕지만, AI의 행동을 통제하지는 못한다.