Sesgo algorítmico
Distorsión sistemática heredada de los datos de entrenamiento.
Explicación completa
Si los datos reflejan desigualdades históricas, el modelo las reproduce y amplifica. El sesgo puede afectar a selección de personal, concesión de créditos o diagnósticos médicos, y su detección requiere auditorías específicas.
Ejemplo
Un modelo de contratación que penaliza currículos de mujeres.
Última actualización:
Términos relacionados
Alucinación
Respuesta inventada que el modelo presenta como cierta.
Deepfake
Contenido sintético que suplanta la imagen o voz de una persona real.
Guardrails
Reglas y filtros que limitan lo que la IA puede responder.
Prompt injection
Ataque que manipula a la IA con instrucciones ocultas.
Marca de agua IA
Señal invisible que identifica contenido generado por IA.