Módulo 09
Ingeniería de contexto, memoria y caché
- Fase del proceso:
- Construir
- Nivel de competencia:
- Sénior
- Tiempo estimado:
- 10-12 horas
- Requisitos previos:
- Interfaces estructuradas y contratos de herramientas
Diseña la información que reciben los modelos a lo largo de los turnos y de los flujos de trabajo. El módulo cubre la selección, el orden, la compresión, la persistencia, la reutilización y la caché de prompts o KV, sin mezclarlas.
Al terminar este módulo sabrás
- Diseñar el montaje del contexto como un pipeline: seleccionar, ordenar, comprimir, persistir y reutilizar.
- Distinguir el historial de la conversación, el estado de trabajo, la memoria duradera, la evidencia recuperada y el estado de la aplicación.
- Mantener estables los prefijos y el orden de las herramientas cuando la caché de prompts mejora de forma apreciable la latencia o el costo.
- Medir la calidad del contexto y la eficacia de la caché, en lugar de maximizar la longitud del contexto.
Qué vas a producir: Especificación de la arquitectura de contexto y política de compactación: La política de compactación, la distribución entre lo estable y lo dinámico, y la tabla de responsables de la memoria y del estado. Se guarda en tu Cuaderno de Ingeniería como evidencia de lo que sabes hacer.
Lecciones
9.1 El pipeline de contexto
El contexto como un paquete diseñado: seleccionar, ordenar, comprimir y separar lo dinámico de lo estable.
Punto de práctica: Compara repetir el historial completo con un paquete de contexto seleccionado, tanto en calidad como en tokens.
9.2 Memoria y estado
El contexto del modelo frente al estado de la aplicación y la memoria duradera; responsable, conservación, origen, confianza, actualización y borrado.
Punto de práctica: Diseña los registros de memoria de un asistente de proyectos sin guardar secretos ni suposiciones pasajeras como hechos duraderos.
9.3 Compactación y trabajo de larga duración
Resúmenes, instantáneas del estado, referencias a artefactos y registros de traspaso que conservan las decisiones y la procedencia.
Punto de práctica: Compacta un hilo largo y sintético de un incidente y comprueba que los hechos necesarios sobreviven.
9.4 Caché de prompts o KV y prefijos estables
La caché de prompts del proveedor y la caché de prefijos KV en la inferencia propia; pon primero las partes estables y mide.
Punto de práctica: Reordena un prompt cuya estructura impide la caché y, donde el proveedor lo admita, compara el comportamiento de la entrada cacheada y la latencia.
Laboratorio: Optimizador del presupuesto de contexto
Observas cómo se degrada el resultado cuando el contexto tiene ruido y, después, implementas un selector o compactador de contexto.
Se ejecuta en Google Colab: sin instalar nada y sin API key.
Ver el notebook en Colab (se abre en una pestaña nueva)Reto de ingeniería
Refactoriza la traza de un agente de larga duración para conservar las decisiones y el estado de las herramientas y, al mismo tiempo, reducir el contexto en >=40% sin ninguna regresión en un conjunto de verificación.
Artefacto: Especificación de la arquitectura de contexto y política de compactación
Control de competencia
Regresión de calidad <= el umbral definido para el módulo; se alcanza el objetivo de reducción del contexto.
- CTX-01 Se conservan los hechos necesarios
- CTX-02 Se elimina el contexto desactualizado o irrelevante
- CTX-03 El contexto estable y el dinámico están separados
- CTX-04 Se respeta el presupuesto de contexto (crítico)
- CTX-05 Está documentado quién es responsable de la memoria y del estado
Referencias
- [R15]OpenAI API - Prompt Caching (se abre en una pestaña nueva): OpenAI; revisado el 2026-09-28
- [R18]Enterprise Prompt and Context Engineering: An Engineering Design Process Curriculum for Foundation Model Systems (2026 Edition): User research (source document supplied to this project); revisado el 2026-09-28