Unité de base traitée par un LLM. Un token correspond à environ ¾ d’un mot en français. Les modèles facturent généralement au nombre de tokens traités (entrée + sortie).
Token
Le token est l'unité de base traitée par un LLM ; il correspond à environ trois quarts d'un mot en français. Les modèles facturent généralement au nombre de tokens traités, en entrée comme en sortie : la longueur de vos textes influe donc directement sur le coût d'utilisation.