Ventana deslizante
Estrategia para gestionar conversaciones más largas que el contexto.
Explicación completa
Consiste en conservar los mensajes más recientes y resumir o descartar los antiguos, de modo que la conversación siga cabiendo en la ventana de contexto sin perder el hilo esencial.
Ejemplo
Resumir cada 20 mensajes y mantener solo el resumen.
Última actualización:
Términos relacionados
RAG (Retrieval-Augmented Generation)
Técnica que combina búsqueda de documentos con generación de texto.
Embedding
Representación numérica del significado de un texto o imagen.
Base de datos vectorial
Base de datos optimizada para buscar por similitud de embeddings.
Fine-tuning
Reentrenar un modelo base con datos propios para especializarlo.
RLHF
Aprendizaje por refuerzo con retroalimentación humana.
Destilación
Entrenar un modelo pequeño para imitar a uno grande.