GPU
Procesador gráfico usado para entrenar y ejecutar modelos.
Explicación completa
Las GPU realizan miles de operaciones matriciales en paralelo, lo que las hace idóneas para redes neuronales. La disponibilidad de GPU es hoy el principal cuello de botella del sector.
Ejemplo
Una NVIDIA H100 para entrenar modelos de gran escala.
Última actualización:
Términos relacionados
API
Interfaz que permite a un programa usar una IA desde código.
Inferencia
Ejecutar un modelo ya entrenado para obtener una predicción.
Cuantización
Reducir la precisión numérica de un modelo para que ocupe menos.
Vibe coding
Programar describiendo en lenguaje natural lo que quieres.
Coste por token
Modelo de precios habitual de las APIs de IA.
Latencia
Tiempo que tarda el modelo en devolver una respuesta.