Quando fazemos uma pergunta a uma inteligência artificial, o sistema precisa processar o texto antes de formular uma resposta. Nesse caminho, as frases são divididas em unidades menores, chamadas tokens.

Embora o conceito já exista há décadas na computação e no processamento de linguagem natural, um evento recente — o Google I/O, realizado em maio de 2026 — mostrou como algo pequeno e técnico, nascido décadas antes dos chatbots, virou métrica de uso de uma indústria inteira.

Chamando os tokens de “unidades fundamentais de dados que nossos modelos processam”, o CEO da empresa, Sundar Pichai, revelou que o Google processa 3,2 quatrilhões de tokens por mês, contra 9,7 trilhões dois anos antes — uma alta de cerca de 330 vezes.

Esse volume dá a medida da escala, mas não do que acontece em cada conversa. Basta um histórico longo para a inteligência artificial esquecer o começo, ou um texto grande demais para a resposta ser cortada. É que todo modelo de linguagem trabalha dentro de um limite de tokens, e esse limite define o que cabe em cada pedido.

Confira, a seguir, como os textos viram tokens, como os modelos trabalham com eles e por que o limite existe.

O que são tokens em inteligência artificial?

Tokens são as menores unidades de texto que um modelo de linguagem processa: uma palavra inteira, um pedaço de palavra, um caractere ou um sinal de pontuação.

Antes de calcular a resposta, um programa separado do modelo — o tokenizador — divide o texto em tokens e converte cada um em um número, etapa conhecida como tokenização.

As palavras longas ou pouco comuns costumam ser divididas. Em um exemplo ilustrativo da NVIDIA, fabricante de chips para IA, “darkness” vira “dark” e “ness”, e “brightness” vira “bright” e “ness”: o pedaço repetido pode ajudar o modelo a perceber o que as duas palavras têm em comum.

O token também funciona como régua do modelo: o texto enviado a ele (prompt), o histórico da conversa e o limite de cada pedido são medidos em tokens.

Quantas palavras equivalem a um token?

Em inglês, a OpenAI estima que 1 token corresponde a cerca de quatro caracteres, ou três quartos de uma palavra: 100 tokens rendem aproximadamente 75 palavras. Em escala maior, a documentação do Google dá uma ideia do que cabe em 1 milhão de tokens:

• 50 mil linhas de código;
• todas as mensagens de texto que uma pessoa enviou nos últimos cinco anos;
• oito romances de tamanho médio em inglês;
• transcrições de mais de 200 episódios de podcast.

Essas contas são aproximações, porque o mesmo texto rende contagens diferentes conforme o tokenizador que o modelo usa. No GPT-4, por exemplo, “inteligência” no meio de uma frase ocupa dois tokens (“intelig” e “ência”); já no GPT-4o, apenas um.

Como os tokens são usados pelos modelos de IA?

O modelo não monta a frase inteira antes de mostrá-la. Ele vai gerando a resposta aos poucos, prevendo qual token deve vir em seguida. Para isso, calcula as probabilidades dos possíveis tokens com base na pergunta, no histórico da conversa e no trecho que já produziu.

A cada etapa, o token escolhido é acrescentado à sequência e passa a fazer parte do contexto usado no cálculo seguinte. O processo continua até a resposta terminar ou algum limite ser atingido.

É por isso que muitas interfaces exibem o texto progressivamente, como se a IA estivesse digitando. Na prática, os tokens podem chegar à tela em pequenos blocos, e não necessariamente um por um.

Tokens no treinamento dos modelos

Durante o treinamento, o modelo aprende padrões da linguagem ao ler bilhões ou trilhões de tokens, descreve a NVIDIA. Quando recebe uma pergunta, ele usa o que aprendeu para calcular a sequência de tokens que formará a resposta.

É nessa segunda etapa — chamada de inferência — que o limite de tokens afetam diretamente a interação: o modelo só consegue considerar uma quantidade máxima de tokens por pedido, e isso vale tanto para o que ele recebe quanto para o que responde.

Por que existe um limite de tokens nas IAs?

Processar textos demanda memória e poder computacional. Quanto mais tokens um modelo precisa considerar, mais recursos pode consumir para relacioná-los e gerar uma resposta.

Como esses recursos são limitados, cada modelo tem uma janela de contexto: o número máximo de tokens que ele consegue considerar por pedido. Tudo precisa caber nesse espaço — a pergunta, o histórico da conversa, os arquivos anexados e a própria resposta. Funciona como uma mesa de trabalho: o que não cabe sobre ela fica de fora.

Nos modelos baseados em transformers, arquitetura criada por pesquisadores do Google, cada token é comparado com todos os outros da janela para o modelo descobrir quais pesam mais na resposta. Esse processo é chamado de mecanismo de atenção.

Por isso a conta cresce de dois lados: há mais tokens, e cada um faz mais comparações. Com mil tokens, são mil vezes mil, ou 1 milhão de comparações; com 2 mil, 4 milhões.

Na atenção do transformer original, dobrar os tokens quadruplica o custo computacional — a chamada complexidade quadrática, uma relação descrita no artigo “Attention Is All You Need”, apresentado na conferência NeurIPS de 2017.

O que acontece quando a janela de contexto é excedida?

Conforme a documentação da API da OpenAI, quando o pedido passa da janela de contexto, o sistema tem duas saídas: recusar o pedido com um erro ou descartar as partes mais antigas da conversa para que o restante caiba. A segunda opção ajuda a explicar por que a IA às vezes “esquece” o começo de um papo longo.

A OpenAI sugere quatro soluções:

• encurtar ou reformular o prompt;
• remover contexto repetido ou desnecessário;
• dividir entradas grandes em partes menores;
• resumir o texto antes do envio.

Qual a diferença entre tokens de entrada e de saída?

Quando alguém faz uma pergunta a um chatbot, ela gasta tokens de entrada, e a resposta gasta tokens de saída. Na maioria das APIs, ambos contam para a mesma janela de contexto: quanto mais espaço o pedido ocupa, menos sobra para a resposta.

Quem desenvolve com a API paga por tokens, com preços diferentes para entrada e saída; já quem usa o chatbot geralmente paga uma mensalidade fixa.

• Entrada: pergunta, histórico da conversa, anexos e instruções do sistema;
• Saída: o texto da resposta;
• Raciocínio: etapas internas de modelos que “pensam” antes de responder — ocultas na tela, mas cobradas como saída.

A resposta também tem um teto próprio de tokens, que quem desenvolve pode ajustar na API, segundo a OpenAI. Os dois limites valem ao mesmo tempo: o que for atingido primeiro interrompe a geração.

O português gasta mais tokens do que o inglês?

Um estudo da Universidade de Oxford, apresentado na conferência NeurIPS em 2023, mostrou que o mesmo texto traduzido pode render até 15 vezes mais tokens em um idioma do que em outro.

No tokenizador do GPT-4, o português é o que chega mais perto do inglês, mas ainda precisa de cerca de 50% mais tokens para dizer a mesma coisa. Os autores atribuem parte da diferença ao viés dos textos usados para criar os tokenizadores.

Isso acontece porque o tokenizador não nasce pronto: ele é criado a partir de uma enorme coleção de textos. Nessa coleção, tudo o que se repete o tempo todo, seja palavra inteira ou pedaço de palavra, ganha um token só. O que quase nunca aparece fica sem esse atalho e é montado com vários tokens.

Janelas de contexto maiores resolvem o problema?

Quando alguém cola um contrato de 200 páginas em um chatbot e pede um resumo, a janela de contexto é posta à prova. Janelas maiores ampliam o que cabe numa conversa, mas não zeram o custo de processar cada token. Segundo a documentação do Google, muitos modelos do Gemini já trabalham com janelas de 1 milhão de tokens ou mais.

Para o dia a dia, esse espaço já sobra. Segundo a NVIDIA, alguns milhares de tokens comportam poucas páginas; dezenas de milhares podem bastar para resumir um romance inteiro.

O problema é que os usos mais recentes não se contentam com o cotidiano. Modelos de raciocínio, aqueles que geram tokens extras enquanto “pensam”, podem exigir mais de 100 vezes a computação da resposta direta de um modelo tradicional.

Os agentes de IA, programas que planejam e executam tarefas em várias etapas, também gastam mais. Nos dados da Anthropic, criadora do Claude, eles consomem cerca de 4 vezes mais tokens que uma conversa comum, e em sistemas com vários agentes trabalhando juntos, cerca de 15 vezes mais. Uma janela maior ajuda, mas não resolve a conta.

As janelas de contexto cresceram, mas os usos cresceram junto: modelos que raciocinam e agentes que executam tarefas consomem tokens em uma escala muito além de algumas páginas de texto. O limite não desapareceu: só ficou mais distante, e mais caro de alcançar.

Se as janelas continuarem crescendo, o limite deixará de incomodar quem usa a IA ou apenas mudará de lugar, do tamanho do texto para o tamanho da conta?

E você? Sabe quantos tokens tem uma frase sua? Spoiler: o Tokenizer, ferramenta gratuita da OpenAI, revela essa conta. Compartilhe esta matéria nas suas redes sociais e fique ligado no TecMundo para entender mais conceitos que movem a inteligência artificial.