Token LLMs

Um token é um pedaço de texto que pode ser uma palavra, parte de uma palavra ou um símbolo usado pelos modelos de linguagem para processar entradas e gerar saídas.

O custo de uso de um modelo de texto é calculado com base na quantidade de tokens processados. Tanto os textos que você envia quanto o histórico da conversa (no caso de interagir com um assistente) são tokenizados (divididos em tokens) e incluídos nesse cálculo.