Alucinación
Respuesta inventada que el modelo presenta como cierta.
Explicación completa
Una alucinación ocurre cuando el modelo genera información plausible pero falsa: citas inexistentes, datos erróneos o funciones de software que no existen. Es consecuencia de que el modelo optimiza coherencia estadística, no veracidad. Se mitiga con RAG, con verificación humana y pidiendo fuentes.
Ejemplo
Un modelo que inventa una sentencia judicial con número de expediente falso.
Última actualización:
Términos relacionados
Deepfake
Contenido sintético que suplanta la imagen o voz de una persona real.
Sesgo algorítmico
Distorsión sistemática heredada de los datos de entrenamiento.
Guardrails
Reglas y filtros que limitan lo que la IA puede responder.
Prompt injection
Ataque que manipula a la IA con instrucciones ocultas.
Marca de agua IA
Señal invisible que identifica contenido generado por IA.