¿Cuándo conviene empezar un nuevo chat de IA?

El chat lleva horas abierto y ha ido bien. La estructura de la propuesta está lista, tres variantes descartadas, una decidida. Entonces preguntas por un detalle y la IA te sugiere justo la variante que descartasteis juntos hace dos horas. Además, la respuesta tarda bastante más que al principio.

Hace poco una clienta nos hizo exactamente esta pregunta: ¿cómo sé cuándo debo empezar un chat nuevo? ¿Y cómo me llevo lo importante sin redactar cada vez un documento de traspaso? La pregunta es mejor de lo que parece, porque la respuesta habitual es precisamente un documento de traspaso, y eso solo resuelve la mitad del problema.

En este artículo verás por qué los chats largos empeoran, cómo reconocer el momento adecuado, qué ocurre con la compactación automática y qué funciona mejor que un documento de traspaso.

---

Índice

1. ¿Por qué empeoran los chats largos con IA?
2. ¿Cómo sabes que un chat es demasiado largo?
3. ¿Qué pasa cuando la IA compacta el chat automáticamente?
4. ¿Por qué los documentos de traspaso son la solución más débil?
5. ¿Qué funciona mejor que un documento de traspaso?
6. ¿Cómo se hace en Hermes Agent?
7. Preguntas frecuentes

---

¿Por qué empeoran los chats largos con IA?

En resumen: un modelo de lenguaje vuelve a leer todo el chat en cada respuesta. Cuanto más largo es el chat, más tiene que leer, más tarda, más cuesta y peor encuentra lo importante.

Un chat de IA no tiene memoria en el sentido humano. Con cada mensaje nuevo, todo el historial se envía de nuevo al modelo: todas las preguntas, todas las respuestas, todos los documentos pegados. El modelo procesa ese texto como contexto. El límite se llama ventana de contexto y se mide en tokens, fragmentos de palabras.

De ahí salen tres efectos que notas directamente:

• Más lento: más texto en el contexto significa más cálculo antes de que aparezca la primera línea de la respuesta.
• Más caro: la mayoría de los proveedores cobran por token procesado. Un chat con 100.000 tokens de historial vuelve a pagar ese historial en cada pregunta. El prompt caching abarata las partes repetidas, pero la cantidad de texto sigue siendo la misma.
• Menos preciso: es el punto más importante y está bien estudiado.

En 2023, un equipo encabezado por Nelson F. Liu, de la Universidad de Stanford, demostró en el estudio Lost in the Middle que los modelos de lenguaje aprovechan mejor la información situada al principio y al final de un contexto largo. Cuando el dato clave está en medio, la tasa de acierto cae claramente, incluso en modelos diseñados expresamente para contextos largos.

En su informe de 2025 Context Rot, la empresa de bases de datos Chroma probó 18 modelos actuales, entre ellos GPT-4.1, Claude 4, Gemini 2.5 y Qwen3. El resultado: el rendimiento se vuelve cada vez menos fiable a medida que crece la longitud de la entrada, incluso en tareas sencillas. Especialmente revelador es un test con historiales de chat reales. Cuando los modelos recibían solo las partes relevantes de una conversación (unos 300 tokens), respondían bastante mejor que con el historial completo de unos 113.000 tokens de media, aunque la respuesta estaba en ambos casos.

En la práctica, una ventana de contexto grande es un techo, no una garantía de calidad. Un modelo puede admitir 200.000 tokens y aun así trabajar peor con 80.000 que con 8.000.

¿Cómo sabes que un chat es demasiado largo?

En resumen: si la IA olvida lo decidido, repite errores o se vuelve claramente más lenta, el chat es demasiado largo. Mejor cambiar antes, cada vez que termina una etapa del trabajo.

Señales típicas:

1. La IA propone algo que ya habíais descartado.
2. Los acuerdos del principio (tono, formato, nombres) dejan de cumplirse.
3. Vuelve a aparecer un error que ya corregiste.
4. Las respuestas se vuelven más genéricas y recurren menos a detalles concretos del chat.
5. El tiempo de respuesta aumenta de forma notable.

El problema de estas señales es que aparecen cuando la calidad ya ha empeorado. Normalmente te das cuenta por un error, no antes. Por eso son más útiles unos momentos fijos para empezar un chat nuevo:

• Tema nuevo: un chat por tarea. Si en el chat de la propuesta pides también un correo rápido para tu asesora fiscal, mezclas contextos.
• Etapa terminada: cuando se toma una decisión o un borrador está listo, es un buen corte.
• Importación de documentos grandes: los PDF o tablas largas llenan el contexto rápido. Después, mejor empezar de nuevo con el resultado.

Lo que casi ninguna interfaz de chat hace es decirte lo lleno que está el chat actual. Esa laguna fue justo lo que motivó la pregunta de nuestra clienta.

¿Qué pasa cuando la IA compacta el chat automáticamente?

En resumen: muchas herramientas de IA resumen los chats largos de forma automática antes de que se llene la ventana de contexto. Así el chat sigue funcionando, pero cada resumen pierde detalles.

Algunas herramientas compactan los chats largos automáticamente en cuanto el contexto alcanza cierto tamaño. Las partes antiguas de la conversación se sustituyen por un resumen. En Hermes Agent, el agente de código abierto con el que trabajamos, la compactación se activa por defecto entre la mitad y las tres cuartas partes de la ventana de contexto, según el modelo.

Tiene sentido, porque de lo contrario el chat acabaría fallando. Pero un resumen siempre es una selección. Lo que el modelo considere poco importante al resumir desaparece: la cifra exacta del tercer mensaje, el motivo por el que se descartó la variante B, el nombre de la persona de contacto. No notas lo que falta, porque no ves lo que se ha recortado.

La compactación automática es una red de seguridad, no una forma de trabajar. Si llegas a ella con frecuencia, habría sido mejor cerrar tú el chat antes.

¿Por qué los documentos de traspaso son la solución más débil?

En resumen: un documento de traspaso cuesta tiempo, es a su vez un resumen con pérdidas y llena el chat nuevo de texto desde el principio. Desplaza el problema en lugar de resolverlo.

El consejo habitual para cambiar de chat es: pide un resumen al final, pégalo en un chat nuevo y sigue. Funciona, pero tiene cuatro puntos débiles.

1. El momento es malo. El documento se redacta justo cuando el chat ya es demasiado largo. Es decir, el modelo resume en el estado en que peor encuentra los detalles.
2. Es otra selección. Un documento de traspaso no es más que una compactación hecha a mano. Lo que no figura en él no existe en el chat nuevo.
3. Crece y se queda desfasado. Estos documentos se alargan con cada traspaso, porque nadie quiere borrar nada. Después del tercero ya nadie los lee enteros, tampoco tú.
4. El chat nuevo empieza medio lleno. Quien pega tres páginas de traspaso arranca el chat nuevo con el mismo lastre del que quería librarse.

A eso se suma el esfuerzo. Si cada cambio implica pedir, revisar y pegar un documento, cambiarás menos de lo que deberías. Y vuelves al punto de partida.

¿Qué funciona mejor que un documento de traspaso?

En resumen: un puntero breve al chat anterior en lugar de un resumen largo. En el chat nuevo, la IA busca por sí misma lo que necesita en cada momento.

La idea de fondo: el chat anterior no ha desaparecido. Si tu sistema de IA puede buscar en conversaciones anteriores, el chat nuevo no necesita una copia del viejo. Solo necesita una indicación de dónde mirar, más el estado actual en dos o tres frases.

Eso tiene tres ventajas:

• El chat nuevo sigue ligero. Empieza con unas pocas líneas en lugar de páginas.
• No se pierde nada. El historial completo sigue intacto y se puede buscar. El modelo recupera justo el fragmento que encaja con la pregunta actual, en lugar de trabajar con un resumen que alguien seleccionó antes.
• Encaja con la investigación. Los resultados de Chroma muestran que los modelos responden mejor con un contexto enfocado y relevante que con el historial completo. Consultar de forma dirigida aporta justo ese contexto enfocado.

Queda la cuestión del momento. El mejor puntero no sirve de nada si te das cuenta demasiado tarde de que toca cambiar.

¿Cómo se hace en Hermes Agent?

En resumen: con el plugin gratuito chat-length, Hermes te avisa él mismo cuando un chat se alarga demasiado y te da una frase de inicio lista para el chat nuevo. El resto lo recupera Hermes de la conversación anterior mediante la búsqueda de sesiones.

De la pregunta de nuestra clienta nació un pequeño plugin para Hermes Agent: chat-length. Hace justo las dos cosas que faltaban en este artículo: te dice cuándo es el momento y te da el puntero.

Cómo funciona:

1. Después de cada respuesta, el plugin registra cuántos tokens ha procesado realmente el proveedor de IA. No estima, usa las cifras reales.
2. Mide frente al punto en el que Hermes compactaría el chat. Así el aviso llega a tiempo, antes de que se pierdan detalles.
3. Al 70 por ciento (configurable) aparece un breve aviso debajo de la respuesta normal, al 90 por ciento una versión más urgente. Cada nivel aparece solo una vez por chat.
4. El aviso incluye una frase de inicio lista: título e ID del chat anterior, dos o tres puntos sobre el estado y los temas pendientes.
5. Pegas esa frase en un chat nuevo. Hermes encuentra él mismo el historial anterior con su búsqueda de sesiones integrada (session_search).

Así es una de esas frases de inicio:

Seguimos con nuestro chat "Fiesta de verano en Colonia" (sesión 20261015_141559_2a617f).
Primero recupera tú mismo el historial con session_search.
Estado:
* Temática de playa decidida
* Presupuesto de decoración, técnica y catering planificado a grandes rasgos
Pendiente: lugar, plan para mal tiempo.

Lo que conviene saber para situarlo:

• chat-length es gratuito, de código abierto con licencia MIT y está publicado en GitHub.
• No modifica el system prompt, así que el prompt caching sigue intacto. No abre conexiones de red ni guarda contenido de los chats.
• Está probado en vivo con la CLI de Hermes en v0.21.6 y v0.22.2. Se ejecuta en el servidor, así que también está pensado para WebUI, Desktop y Telegram, pero ahí todavía no lo hemos probado en vivo.
• Está en el catálogo oficial de plugins de Hermes. Nous Research revisó la entrada y la aceptó el 23 de octubre de 2026. Se instala con un comando:

hermes plugins install chat-length --enable
hermes gateway restart

Consejo práctico: añade en el SOUL.md de tu Hermes una regla para que, ante frases como “como hablamos” o “en el último chat”, consulte primero session_search. Así el cambio funciona incluso sin frase de inicio. La redacción lista para copiar está en el README del plugin.

Todos nuestros plugins y skills para Hermes están reunidos en la página Plugins de Hermes.

Preguntas frecuentes

¿Cuánto puede durar un chat de IA?

No hay un límite fijo, depende del modelo y de la tarea. Pero los estudios muestran que la calidad baja mucho antes de llegar al final de la ventana de contexto. Un chat por tarea y un cambio después de cada etapa terminada es una buena regla general.

¿Es una ventana de contexto más grande la solución?

Solo en parte. Una ventana más grande desplaza el límite duro, pero no resuelve que los modelos encuentren peor lo relevante en contextos largos. Un contexto enfocado gana a mucho contexto.

¿Cómo me llevo la información importante a un chat nuevo?

Lo mejor es una frase de inicio breve: de qué se trata, qué está decidido y qué queda pendiente. Si tu sistema de IA puede buscar en chats anteriores, añade una referencia al chat viejo en lugar de resumirlo.

¿Qué diferencia hay entre compactar y empezar un chat nuevo?

Al compactar, la IA sustituye partes antiguas del chat por un resumen y se pierden detalles. Un chat nuevo empieza vacío, y el anterior se conserva completo y se puede buscar.

¿Funciona también con ChatGPT o Claude?

Las reglas sobre el momento adecuado valen para cualquier chat de IA. El plugin chat-length solo existe para Hermes Agent, porque usa sus interfaces y su búsqueda de sesiones.

Conclusión

Los chats largos con IA no se vuelven más inteligentes, sino más lentos, más caros y menos precisos. No es un defecto de modelos concretos, está bien documentado. La respuesta correcta es cambiar a tiempo, y para cambiar basta con un puntero breve al chat anterior. Un documento de traspaso largo, en cambio, es otro resumen con pérdidas, escrito en el peor momento.

Si usas Hermes Agent, chat-length se ocupa de ambas cosas: el aviso en el momento justo y la frase de inicio lista. Si buscas un sistema de IA que traiga este tipo de cosas desde el primer día y funcione en un servidor que te pertenece, echa un vistazo a B.R.A.I.N..

Sobre MadeByBrain: Creamos automatización con IA para pymes: agentes de IA propios, workflows de n8n y estrategias GEO, funcionando en producción. Desde la primera idea hasta la automatización productiva.

Solicita una consultoría gratuita