Token

Unidad mínima de texto que procesa un modelo de lenguaje.

Explicación completa

Los modelos no leen letras ni palabras, sino tokens: fragmentos de entre uno y varios caracteres. En español, un token equivale de media a unos 0,75 caracteres menos que en inglés, por lo que un mismo texto consume más tokens. El precio de las APIs se calcula por millón de tokens de entrada y salida.

Ejemplo

"Inteligencia" puede dividirse en los tokens "Intel", "igen", "cia".

Última actualización:

Términos relacionados