Guardrails
Reglas y filtros que limitan lo que la IA puede responder.
Explicación completa
Los guardrails se aplican antes o después del modelo para bloquear contenido prohibido, evitar fugas de datos o forzar un formato de salida. Son imprescindibles en productos de cara al público.
Ejemplo
Un filtro que impide al bot dar consejos médicos.
Última actualización:
Términos relacionados
Alucinación
Respuesta inventada que el modelo presenta como cierta.
Deepfake
Contenido sintético que suplanta la imagen o voz de una persona real.
Sesgo algorítmico
Distorsión sistemática heredada de los datos de entrenamiento.
Prompt injection
Ataque que manipula a la IA con instrucciones ocultas.
Marca de agua IA
Señal invisible que identifica contenido generado por IA.