La ventana de contexto es la cantidad máxima de texto, medida en tokens, que un modelo de lenguaje puede tener delante a la vez al generar una respuesta: las instrucciones del sistema, la conversación, los resultados de búsqueda y los pasajes recuperados. Lo que no cabe, no existe para el modelo en ese momento.
Aunque las ventanas de los modelos actuales son grandes, los motores de IA no las llenan con páginas enteras. Seleccionan trozos, limitan cuánto usan de cada fuente y la respuesta final suele resumir cada una en una o dos frases parafraseadas. A menudo, lo único que llega al modelo de una página es el extracto del resultado de búsqueda o el chunk recuperado, no el documento completo, y además comparte espacio con las instrucciones, la conversación y el resto de fuentes.
La consecuencia es que tu contenido compite por un espacio muy pequeño. Lo que no esté al principio del pasaje y dicho con pocas palabras corre el riesgo de quedarse fuera.
Ejemplos
- Respuesta comprimida: tu guía de 3.000 palabras acaba representada en la respuesta por una sola frase parafraseada y un enlace.
- Extracto que decide: en Perplexity, si tu respuesta está en las primeras líneas, el extracto ya la contiene y no hace falta abrir la página.
Consejos prácticos
- Pon el dato o la conclusión en la primera frase de cada sección.
- Escribe frases que soporten la paráfrasis sin perder el sentido: sujeto, verbo, dato y fuente.
- Mantén las páginas ligeras y rápidas: según el análisis de Search Engine Land sobre ChatGPT, las páginas de más de 4 MB se rechazan, y un fetcher en vivo no espera mucho a un servidor lento.
Cuidado con
- Una ventana enorme no significa que el motor lea tu página entera: el límite real lo ponen la selección de chunks y las reglas de cita.
- Las reglas de cita y resumen de cada plataforma no se publican y cambian con cada versión; no diseñes tu contenido para una cifra concreta.
Evidencia moderada. Que los motores trabajan con fragmentos y no con páginas enteras se deriva de la arquitectura RAG, y el límite de 4 MB procede del análisis de la pila de ChatGPT de Search Engine Land; cuánto texto usa cada plataforma por fuente no es público.
Términos relacionados
- Tokens: La unidad en la que se mide la ventana.
- Chunking: Decide qué trozos compiten por entrar en ella.
- Respuesta directa (front-loading): La forma de aprovechar el poco espacio disponible.
- Pasaje citable: El formato que mejor cabe y mejor se parafrasea.