{"id":69478,"date":"2026-10-21T20:15:00","date_gmt":"2026-10-21T23:15:00","guid":{"rendered":"https:\/\/jornal24horas.com.br\/?p=69478"},"modified":"2026-10-21T20:15:00","modified_gmt":"2026-10-21T23:15:00","slug":"tokens-em-ia-o-que-sao-e-por-que-existe-um-limite","status":"publish","type":"post","link":"https:\/\/jornal24horas.com.br\/?p=69478","title":{"rendered":"Tokens em IA: o que s\u00e3o e por que existe um limite?"},"content":{"rendered":"<div class=\"mm_conteudo blog-multimidia foto\">\n<figure class=\"n--noticia__image modulo-noticia\">\n                                    <img decoding=\"async\" class=\"size-full lazyload\" data-src=\"https:\/\/www.estadao.com.br\/resizer\/v2\/6XBP57DWEFGENCZPCMOJGE5QQY.jpg?quality=80&amp;auth=7117d3f4d8335eab9b88898519d6af9f95e8ff6b8cf2669fa4102eddd7d49007&amp;width=710\" alt=\"Magnific\/Divulga\u00e7\u00e3o\" src=\"data:image\/svg+xml;base64,PHN2ZyB3aWR0aD0iMSIgaGVpZ2h0PSIxIiB4bWxucz0iaHR0cDovL3d3dy53My5vcmcvMjAwMC9zdmciPjwvc3ZnPg==\" \/><figcaption>Pain\u00e9is de IA medem o uso em tokens, a unidade que tamb\u00e9m define limites e custos. Foto: Magnific\/Divulga\u00e7\u00e3o<\/figcaption><\/figure>\n<\/div>\n<p>Quando fazemos uma pergunta a uma intelig\u00eancia artificial, o sistema precisa processar o texto antes de formular uma resposta. Nesse caminho, as frases s\u00e3o divididas em unidades menores, chamadas tokens.<\/p>\n<p>Embora o conceito j\u00e1 exista h\u00e1 d\u00e9cadas na computa\u00e7\u00e3o e no processamento de linguagem natural, um evento recente \u2014 o Google I\/O, realizado em maio de 2026 \u2014 mostrou como algo pequeno e t\u00e9cnico, nascido d\u00e9cadas antes dos chatbots, virou m\u00e9trica de uso de uma ind\u00fastria inteira.<\/p>\n<p>Chamando os tokens de <b>\u201cunidades fundamentais de dados que nossos modelos processam\u201d<\/b>, o CEO da empresa, Sundar Pichai, revelou que o Google processa 3,2 quatrilh\u00f5es de tokens por m\u00eas, contra 9,7 trilh\u00f5es dois anos antes \u2014 uma alta de cerca de 330 vezes. <\/p>\n<p>Esse volume d\u00e1 a medida da escala, mas n\u00e3o do que acontece em cada conversa. Basta um hist\u00f3rico longo para a <a href=\"https:\/\/www.estadao.com.br\/tecmundo\/inteligencia-artificial\/1039-o-que-e-inteligencia-artificial-\/\" target=\"_blank\" rel=\"\" title=\"https:\/\/www.estadao.com.br\/tecmundo\/inteligencia-artificial\/1039-o-que-e-inteligencia-artificial-\/\">intelig\u00eancia artificial<\/a> esquecer o come\u00e7o, ou um texto grande demais para a resposta ser cortada. \u00c9 que todo modelo de linguagem trabalha dentro de um limite de tokens, e esse limite define o que cabe em cada pedido. <\/p>\n<p>Confira, a seguir, como os textos viram tokens, como os modelos trabalham com eles e por que o limite existe.<\/p>\n<h2>O que s\u00e3o tokens em intelig\u00eancia artificial?<\/h2>\n<p>Tokens s\u00e3o as menores unidades de texto que um modelo de linguagem processa: uma palavra inteira, um peda\u00e7o de palavra, um caractere ou um sinal de pontua\u00e7\u00e3o.<\/p>\n<p>Antes de calcular a resposta, um programa separado do modelo \u2014 o tokenizador \u2014 divide o texto em tokens e converte cada um em um n\u00famero, etapa conhecida como tokeniza\u00e7\u00e3o.<\/p>\n<p>As palavras longas ou pouco comuns costumam ser divididas. Em um exemplo ilustrativo da NVIDIA, fabricante de chips para IA, \u201cdarkness\u201d vira \u201cdark\u201d e \u201cness\u201d, e \u201cbrightness\u201d vira \u201cbright\u201d e \u201cness\u201d: o peda\u00e7o repetido pode ajudar o modelo a perceber o que as duas palavras t\u00eam em comum.<\/p>\n<p>O token tamb\u00e9m funciona como r\u00e9gua do modelo: <b>o texto enviado a ele (prompt), o hist\u00f3rico da conversa e o limite de cada pedido s\u00e3o medidos em tokens<\/b>.<\/p>\n<h3>Quantas palavras equivalem a um token?<\/h3>\n<p>Em ingl\u00eas, a OpenAI estima que 1 token corresponde a cerca de quatro caracteres, ou tr\u00eas quartos de uma palavra: 100 tokens rendem aproximadamente 75 palavras. Em escala maior, a documenta\u00e7\u00e3o do Google d\u00e1 uma ideia do que cabe em 1 milh\u00e3o de tokens:<\/p>\n<ul>\n<li>50 mil linhas de c\u00f3digo;<\/li>\n<li>todas as mensagens de texto que uma pessoa enviou nos \u00faltimos cinco anos;<\/li>\n<li>oito romances de tamanho m\u00e9dio em ingl\u00eas;<\/li>\n<li>transcri\u00e7\u00f5es de mais de 200 epis\u00f3dios de podcast.<\/li>\n<\/ul>\n<p>Essas contas s\u00e3o aproxima\u00e7\u00f5es, porque o mesmo texto rende contagens diferentes conforme o tokenizador que o modelo usa. No GPT-4, por exemplo, \u201cintelig\u00eancia\u201d no meio de uma frase ocupa dois tokens (\u201cintelig\u201d e \u201c\u00eancia\u201d); j\u00e1 no GPT-4o, apenas um.<\/p>\n\n<h2>Como os tokens s\u00e3o usados pelos modelos de IA?<\/h2>\n<p>O modelo n\u00e3o monta a frase inteira antes de mostr\u00e1-la. Ele vai gerando a resposta aos poucos, prevendo qual token deve vir em seguida. Para isso, calcula as probabilidades dos poss\u00edveis tokens com base na pergunta, no hist\u00f3rico da conversa e no trecho que j\u00e1 produziu.<\/p>\n<p>A cada etapa, o token escolhido \u00e9 acrescentado \u00e0 sequ\u00eancia e passa a fazer parte do contexto usado no c\u00e1lculo seguinte. O processo continua at\u00e9 a resposta terminar ou algum limite ser atingido.<\/p>\n<p><b>\u00c9 por isso que muitas interfaces exibem o texto progressivamente, como se a IA estivesse digitando<\/b>. Na pr\u00e1tica, os tokens podem chegar \u00e0 tela em pequenos blocos, e n\u00e3o necessariamente um por um.<\/p>\n<h3>Tokens no treinamento dos modelos<\/h3>\n<p>Durante o treinamento, o modelo aprende padr\u00f5es da linguagem ao ler bilh\u00f5es ou trilh\u00f5es de tokens, descreve a NVIDIA. Quando recebe uma pergunta, ele usa o que aprendeu para calcular a sequ\u00eancia de tokens que formar\u00e1 a resposta.<\/p>\n<p>\u00c9 nessa segunda etapa <b>\u2014 chamada de infer\u00eancia \u2014<\/b> que o limite de tokens afetam diretamente a intera\u00e7\u00e3o: o modelo s\u00f3 consegue considerar uma quantidade m\u00e1xima de tokens por pedido, e isso vale tanto para o que ele recebe quanto para o que responde.<\/p>\n<h2>Por que existe um limite de tokens nas IAs?<\/h2>\n<p>Processar textos demanda mem\u00f3ria e poder computacional. Quanto mais tokens um modelo precisa considerar, mais recursos pode consumir para relacion\u00e1-los e gerar uma resposta. <\/p>\n<p><b>Como esses recursos s\u00e3o limitados, cada modelo tem uma janela de contexto<\/b>: o n\u00famero m\u00e1ximo de tokens que ele consegue considerar por pedido. Tudo precisa caber nesse espa\u00e7o \u2014 a pergunta, o hist\u00f3rico da conversa, os arquivos anexados e a pr\u00f3pria resposta. Funciona como uma mesa de trabalho: o que n\u00e3o cabe sobre ela fica de fora.<\/p>\n<p><a href=\"https:\/\/www.estadao.com.br\/tecmundo\/stem\/415696-internet-quantica-o-que-e-e-por-que-pode-mudar-a-comunicacao\/\" target=\"_blank\" rel=\"\">Nos modelos baseados em <i>transformers<\/i>, arquitetura criada por pesquisadores do Google<\/a>, cada token \u00e9 comparado com todos os outros da janela para o modelo descobrir quais pesam mais na resposta. Esse processo \u00e9 chamado de mecanismo de aten\u00e7\u00e3o.<\/p>\n<p>Por isso a conta cresce de dois lados: h\u00e1 mais tokens, e cada um faz mais compara\u00e7\u00f5es. Com mil tokens, s\u00e3o mil vezes mil, ou 1 milh\u00e3o de compara\u00e7\u00f5es; com 2 mil, 4 milh\u00f5es. <\/p>\n<p>Na aten\u00e7\u00e3o do <i>transformer <\/i>original, dobrar os tokens quadruplica o custo computacional \u2014 a chamada complexidade quadr\u00e1tica, uma rela\u00e7\u00e3o descrita no artigo \u201cAttention Is All You Need\u201d, apresentado na confer\u00eancia NeurIPS de 2017.<\/p>\n<h3>O que acontece quando a janela de contexto \u00e9 excedida?<\/h3>\n<p>Conforme a documenta\u00e7\u00e3o da API da OpenAI, quando o pedido passa da janela de contexto, o sistema tem duas sa\u00eddas: <b>recusar o pedido com um erro ou descartar as partes mais antigas da conversa<\/b> para que o restante caiba. A segunda op\u00e7\u00e3o ajuda a explicar por que a IA \u00e0s vezes \u201cesquece\u201d o come\u00e7o de um papo longo.<\/p>\n<p>A OpenAI sugere quatro solu\u00e7\u00f5es:<\/p>\n<ul>\n<li>encurtar ou reformular o prompt;<\/li>\n<li>remover contexto repetido ou desnecess\u00e1rio;<\/li>\n<li>dividir entradas grandes em partes menores;<\/li>\n<li>resumir o texto antes do envio.<\/li>\n<\/ul>\n<h2>Qual a diferen\u00e7a entre tokens de entrada e de sa\u00edda?<\/h2>\n<p>Quando algu\u00e9m faz uma pergunta a um chatbot, ela gasta tokens de entrada, e a resposta gasta tokens de sa\u00edda. Na maioria das APIs, ambos contam para a mesma janela de contexto: quanto mais espa\u00e7o o pedido ocupa, menos sobra para a resposta. <\/p>\n<p>Quem desenvolve com a API paga por tokens, com pre\u00e7os diferentes para entrada e sa\u00edda; j\u00e1 quem usa o chatbot geralmente paga uma mensalidade fixa.<\/p>\n<ul>\n<li><b>Entrada:<\/b> pergunta, hist\u00f3rico da conversa, anexos e instru\u00e7\u00f5es do sistema;<\/li>\n<li><b>Sa\u00edda:<\/b> o texto da resposta;<\/li>\n<li><b>Racioc\u00ednio:<\/b> etapas internas de modelos que \u201cpensam\u201d antes de responder \u2014 ocultas na tela, mas cobradas como sa\u00edda.<\/li>\n<\/ul>\n<p>A resposta tamb\u00e9m tem um teto pr\u00f3prio de tokens, que quem desenvolve pode ajustar na API, segundo a OpenAI. Os dois limites valem ao mesmo tempo: <b>o que for atingido primeiro interrompe a gera\u00e7\u00e3o<\/b>.<\/p>\n\n<div class=\"mm_conteudo blog-multimidia foto\">\n<figure class=\"n--noticia__image modulo-noticia\">\n                                    <img decoding=\"async\" class=\"size-full lazyload\" data-src=\"https:\/\/www.estadao.com.br\/resizer\/v2\/V3X5QYH2EVDR5ONLSZ3KOOHAOE.png?quality=80&amp;auth=9983ed06110097d095518ec46b45f191eba493290eca3694ae07de2d4ec47712&amp;width=710\" alt=\"OpenAI\/Divulga\u00e7\u00e3o\" src=\"data:image\/svg+xml;base64,PHN2ZyB3aWR0aD0iMSIgaGVpZ2h0PSIxIiB4bWxucz0iaHR0cDovL3d3dy53My5vcmcvMjAwMC9zdmciPjwvc3ZnPg==\" \/><figcaption>No tokenizador do GPT-4, \u201cintelig\u00eancia\u201d vira dois tokens; no do GPT-4o, cabe em um s\u00f3. Fonte: elabora\u00e7\u00e3o pr\u00f3pria com a biblioteca gpt-tokenizer. Foto: OpenAI\/Divulga\u00e7\u00e3o<\/figcaption><\/figure>\n<\/div>\n<h3>O portugu\u00eas gasta mais tokens do que o ingl\u00eas?<\/h3>\n<p>Um estudo da Universidade de Oxford, apresentado na confer\u00eancia NeurIPS em 2023, mostrou que o mesmo texto traduzido pode render at\u00e9 15 vezes mais tokens em um idioma do que em outro. <\/p>\n<p>No tokenizador do GPT-4, o portugu\u00eas \u00e9 o que chega mais perto do ingl\u00eas, <b>mas ainda precisa de cerca de 50% mais tokens para dizer a mesma coisa<\/b>. Os autores atribuem parte da diferen\u00e7a ao vi\u00e9s dos textos usados para criar os tokenizadores. <\/p>\n<p>Isso acontece porque o tokenizador n\u00e3o nasce pronto: ele \u00e9 criado a partir de uma enorme cole\u00e7\u00e3o de textos. Nessa cole\u00e7\u00e3o, tudo o que se repete o tempo todo, seja palavra inteira ou peda\u00e7o de palavra, ganha um token s\u00f3. O que quase nunca aparece fica sem esse atalho e \u00e9 montado com v\u00e1rios tokens. <\/p>\n<h2>Janelas de contexto maiores resolvem o problema?<\/h2>\n<p>Quando algu\u00e9m cola um contrato de 200 p\u00e1ginas em um chatbot e pede um resumo, a janela de contexto \u00e9 posta \u00e0 prova. Janelas maiores ampliam o que cabe numa conversa, mas n\u00e3o zeram o custo de processar cada token. Segundo a documenta\u00e7\u00e3o do Google, <b>muitos modelos do Gemini j\u00e1 trabalham com janelas de 1 milh\u00e3o de tokens ou mais<\/b>.<\/p>\n<p>Para o dia a dia, esse espa\u00e7o j\u00e1 sobra<b>.<\/b> Segundo a NVIDIA, alguns milhares de tokens comportam poucas p\u00e1ginas; dezenas de milhares podem bastar para resumir um romance inteiro.<\/p>\n<p>O problema \u00e9 que os usos mais recentes n\u00e3o se contentam com o cotidiano. Modelos de racioc\u00ednio, aqueles que geram tokens extras enquanto \u201cpensam\u201d, podem exigir mais de 100 vezes a computa\u00e7\u00e3o da resposta direta de um modelo tradicional.<\/p>\n<p><a href=\"https:\/\/www.estadao.com.br\/tecmundo\/inteligencia-artificial\/406877-agente-de-ia-o-que-e-e-como-pode-revolucionar-o-trabalho\/\" target=\"_blank\" rel=\"\">Os agentes de IA, programas que planejam e executam tarefas em v\u00e1rias etapas<\/a>, tamb\u00e9m gastam mais. Nos dados da Anthropic, criadora do Claude, eles consomem cerca de 4 vezes mais tokens que uma conversa comum, e em sistemas com v\u00e1rios agentes trabalhando juntos, cerca de 15 vezes mais. Uma janela maior ajuda, mas n\u00e3o resolve a conta.<\/p>\n<p><b>As janelas de contexto cresceram, mas os usos cresceram junto:<\/b> modelos que raciocinam e agentes que executam tarefas consomem tokens em uma escala muito al\u00e9m de algumas p\u00e1ginas de texto. O limite n\u00e3o desapareceu: s\u00f3 ficou mais distante, e mais caro de alcan\u00e7ar.<\/p>\n<p>Se as janelas continuarem crescendo, o limite deixar\u00e1 de incomodar quem usa a IA ou apenas mudar\u00e1 de lugar, do tamanho do texto para o tamanho da conta?<\/p>\n<p>E voc\u00ea? Sabe quantos tokens tem uma frase sua? Spoiler: <a href=\"https:\/\/platform.openai.com\/tokenizer\" target=\"_blank\" rel=\"\">o Tokenizer, ferramenta gratuita da OpenAI, revela essa conta<\/a>. Compartilhe esta mat\u00e9ria nas suas redes sociais e fique ligado no TecMundo para entender mais conceitos que movem a intelig\u00eancia artificial.<\/p>\n<p>[[{&#8220;value&#8221;:&#8221;Pain\u00e9is de IA medem o uso em tokens, a unidade que tamb\u00e9m define limites e custos. Foto: Magnific\/Divulga\u00e7\u00e3o<\/p>\n<p>                            Quando fazemos uma pergunta a uma intelig\u00eancia artificial, o sistema precisa processar o texto antes de formular uma resposta. Nesse caminho, as frases s\u00e3o divididas em unidades menores, chamadas tokens.Embora o conceito j\u00e1 exista h\u00e1 d\u00e9cadas na computa\u00e7\u00e3o e no processamento de linguagem natural, um evento recente \u2014 o Google I\/O, realizado em maio de 2026 \u2014 mostrou como algo pequeno e t\u00e9cnico, nascido d\u00e9cadas antes dos chatbots, virou m\u00e9trica de uso de uma ind\u00fastria inteira.Chamando os tokens de \u201cunidades fundamentais de dados que nossos modelos processam\u201d, o CEO da empresa, Sundar Pichai, revelou que o Google processa 3,2 quatrilh\u00f5es de tokens por m\u00eas, contra 9,7 trilh\u00f5es dois anos antes \u2014 uma alta de cerca de 330 vezes. Esse volume d\u00e1 a medida da escala, mas n\u00e3o do que acontece em cada conversa. Basta um hist\u00f3rico longo para a intelig\u00eancia artificial esquecer o come\u00e7o, ou um texto grande demais para a resposta ser cortada. \u00c9 que todo modelo de linguagem trabalha dentro de um limite de tokens, e esse limite define o que cabe em cada pedido. Confira, a seguir, como os textos viram tokens, como os modelos trabalham com eles e por que o limite existe.O que s\u00e3o tokens em intelig\u00eancia artificial?<br \/>\nTokens s\u00e3o as menores unidades de texto que um modelo de linguagem processa: uma palavra inteira, um peda\u00e7o de palavra, um caractere ou um sinal de pontua\u00e7\u00e3o.Antes de calcular a resposta, um programa separado do modelo \u2014 o tokenizador \u2014 divide o texto em tokens e converte cada um em um n\u00famero, etapa conhecida como tokeniza\u00e7\u00e3o.As palavras longas ou pouco comuns costumam ser divididas. Em um exemplo ilustrativo da NVIDIA, fabricante de chips para IA, \u201cdarkness\u201d vira \u201cdark\u201d e \u201cness\u201d, e \u201cbrightness\u201d vira \u201cbright\u201d e \u201cness\u201d: o peda\u00e7o repetido pode ajudar o modelo a perceber o que as duas palavras t\u00eam em comum.O token tamb\u00e9m funciona como r\u00e9gua do modelo: o texto enviado a ele (prompt), o hist\u00f3rico da conversa e o limite de cada pedido s\u00e3o medidos em tokens.Quantas palavras equivalem a um token?<br \/>\nEm ingl\u00eas, a OpenAI estima que 1 token corresponde a cerca de quatro caracteres, ou tr\u00eas quartos de uma palavra: 100 tokens rendem aproximadamente 75 palavras. Em escala maior, a documenta\u00e7\u00e3o do Google d\u00e1 uma ideia do que cabe em 1 milh\u00e3o de tokens:50 mil linhas de c\u00f3digo;todas as mensagens de texto que uma pessoa enviou nos \u00faltimos cinco anos;oito romances de tamanho m\u00e9dio em ingl\u00eas;transcri\u00e7\u00f5es de mais de 200 epis\u00f3dios de podcast.Essas contas s\u00e3o aproxima\u00e7\u00f5es, porque o mesmo texto rende contagens diferentes conforme o tokenizador que o modelo usa. No GPT-4, por exemplo, \u201cintelig\u00eancia\u201d no meio de uma frase ocupa dois tokens (\u201cintelig\u201d e \u201c\u00eancia\u201d); j\u00e1 no GPT-4o, apenas um.Como os tokens s\u00e3o usados pelos modelos de IA?<br \/>\nO modelo n\u00e3o monta a frase inteira antes de mostr\u00e1-la. Ele vai gerando a resposta aos poucos, prevendo qual token deve vir em seguida. Para isso, calcula as probabilidades dos poss\u00edveis tokens com base na pergunta, no hist\u00f3rico da conversa e no trecho que j\u00e1 produziu.A cada etapa, o token escolhido \u00e9 acrescentado \u00e0 sequ\u00eancia e passa a fazer parte do contexto usado no c\u00e1lculo seguinte. O processo continua at\u00e9 a resposta terminar ou algum limite ser atingido.\u00c9 por isso que muitas interfaces exibem o texto progressivamente, como se a IA estivesse digitando. Na pr\u00e1tica, os tokens podem chegar \u00e0 tela em pequenos blocos, e n\u00e3o necessariamente um por um.Tokens no treinamento dos modelos<br \/>\nDurante o treinamento, o modelo aprende padr\u00f5es da linguagem ao ler bilh\u00f5es ou trilh\u00f5es de tokens, descreve a NVIDIA. Quando recebe uma pergunta, ele usa o que aprendeu para calcular a sequ\u00eancia de tokens que formar\u00e1 a resposta.\u00c9 nessa segunda etapa \u2014 chamada de infer\u00eancia \u2014 que o limite de tokens afetam diretamente a intera\u00e7\u00e3o: o modelo s\u00f3 consegue considerar uma quantidade m\u00e1xima de tokens por pedido, e isso vale tanto para o que ele recebe quanto para o que responde.Por que existe um limite de tokens nas IAs?<br \/>\nProcessar textos demanda mem\u00f3ria e poder computacional. Quanto mais tokens um modelo precisa considerar, mais recursos pode consumir para relacion\u00e1-los e gerar uma resposta. Como esses recursos s\u00e3o limitados, cada modelo tem uma janela de contexto: o n\u00famero m\u00e1ximo de tokens que ele consegue considerar por pedido. Tudo precisa caber nesse espa\u00e7o \u2014 a pergunta, o hist\u00f3rico da conversa, os arquivos anexados e a pr\u00f3pria resposta. Funciona como uma mesa de trabalho: o que n\u00e3o cabe sobre ela fica de fora.Nos modelos baseados em transformers, arquitetura criada por pesquisadores do Google, cada token \u00e9 comparado com todos os outros da janela para o modelo descobrir quais pesam mais na resposta. Esse processo \u00e9 chamado de mecanismo de aten\u00e7\u00e3o.Por isso a conta cresce de dois lados: h\u00e1 mais tokens, e cada um faz mais compara\u00e7\u00f5es. Com mil tokens, s\u00e3o mil vezes mil, ou 1 milh\u00e3o de compara\u00e7\u00f5es; com 2 mil, 4 milh\u00f5es. Na aten\u00e7\u00e3o do transformer original, dobrar os tokens quadruplica o custo computacional \u2014 a chamada complexidade quadr\u00e1tica, uma rela\u00e7\u00e3o descrita no artigo \u201cAttention Is All You Need\u201d, apresentado na confer\u00eancia NeurIPS de 2017.O que acontece quando a janela de contexto \u00e9 excedida?<br \/>\nConforme a documenta\u00e7\u00e3o da API da OpenAI, quando o pedido passa da janela de contexto, o sistema tem duas sa\u00eddas: recusar o pedido com um erro ou descartar as partes mais antigas da conversa para que o restante caiba. A segunda op\u00e7\u00e3o ajuda a explicar por que a IA \u00e0s vezes \u201cesquece\u201d o come\u00e7o de um papo longo.A OpenAI sugere quatro solu\u00e7\u00f5es:encurtar ou reformular o prompt;remover contexto repetido ou desnecess\u00e1rio;dividir entradas grandes em partes menores;resumir o texto antes do envio.Qual a diferen\u00e7a entre tokens de entrada e de sa\u00edda?<br \/>\nQuando algu\u00e9m faz uma pergunta a um chatbot, ela gasta tokens de entrada, e a resposta gasta tokens de sa\u00edda. Na maioria das APIs, ambos contam para a mesma janela de contexto: quanto mais espa\u00e7o o pedido ocupa, menos sobra para a resposta. Quem desenvolve com a API paga por tokens, com pre\u00e7os diferentes para entrada e sa\u00edda; j\u00e1 quem usa o chatbot geralmente paga uma mensalidade fixa.Entrada: pergunta, hist\u00f3rico da conversa, anexos e instru\u00e7\u00f5es do sistema;Sa\u00edda: o texto da resposta;Racioc\u00ednio: etapas internas de modelos que \u201cpensam\u201d antes de responder \u2014 ocultas na tela, mas cobradas como sa\u00edda.A resposta tamb\u00e9m tem um teto pr\u00f3prio de tokens, que quem desenvolve pode ajustar na API, segundo a OpenAI. Os dois limites valem ao mesmo tempo: o que for atingido primeiro interrompe a gera\u00e7\u00e3o.<\/p>\n<p>                                    No tokenizador do GPT-4, \u201cintelig\u00eancia\u201d vira dois tokens; no do GPT-4o, cabe em um s\u00f3. Fonte: elabora\u00e7\u00e3o pr\u00f3pria com a biblioteca gpt-tokenizer. Foto: OpenAI\/Divulga\u00e7\u00e3o<\/p>\n<p>                            O portugu\u00eas gasta mais tokens do que o ingl\u00eas?<br \/>\nUm estudo da Universidade de Oxford, apresentado na confer\u00eancia NeurIPS em 2023, mostrou que o mesmo texto traduzido pode render at\u00e9 15 vezes mais tokens em um idioma do que em outro. No tokenizador do GPT-4, o portugu\u00eas \u00e9 o que chega mais perto do ingl\u00eas, mas ainda precisa de cerca de 50% mais tokens para dizer a mesma coisa. Os autores atribuem parte da diferen\u00e7a ao vi\u00e9s dos textos usados para criar os tokenizadores. Isso acontece porque o tokenizador n\u00e3o nasce pronto: ele \u00e9 criado a partir de uma enorme cole\u00e7\u00e3o de textos. Nessa cole\u00e7\u00e3o, tudo o que se repete o tempo todo, seja palavra inteira ou peda\u00e7o de palavra, ganha um token s\u00f3. O que quase nunca aparece fica sem esse atalho e \u00e9 montado com v\u00e1rios tokens. Janelas de contexto maiores resolvem o problema?<br \/>\nQuando algu\u00e9m cola um contrato de 200 p\u00e1ginas em um chatbot e pede um resumo, a janela de contexto \u00e9 posta \u00e0 prova. Janelas maiores ampliam o que cabe numa conversa, mas n\u00e3o zeram o custo de processar cada token. Segundo a documenta\u00e7\u00e3o do Google, muitos modelos do Gemini j\u00e1 trabalham com janelas de 1 milh\u00e3o de tokens ou mais.Para o dia a dia, esse espa\u00e7o j\u00e1 sobra. Segundo a NVIDIA, alguns milhares de tokens comportam poucas p\u00e1ginas; dezenas de milhares podem bastar para resumir um romance inteiro.O problema \u00e9 que os usos mais recentes n\u00e3o se contentam com o cotidiano. Modelos de racioc\u00ednio, aqueles que geram tokens extras enquanto \u201cpensam\u201d, podem exigir mais de 100 vezes a computa\u00e7\u00e3o da resposta direta de um modelo tradicional.Os agentes de IA, programas que planejam e executam tarefas em v\u00e1rias etapas, tamb\u00e9m gastam mais. Nos dados da Anthropic, criadora do Claude, eles consomem cerca de 4 vezes mais tokens que uma conversa comum, e em sistemas com v\u00e1rios agentes trabalhando juntos, cerca de 15 vezes mais. Uma janela maior ajuda, mas n\u00e3o resolve a conta.As janelas de contexto cresceram, mas os usos cresceram junto: modelos que raciocinam e agentes que executam tarefas consomem tokens em uma escala muito al\u00e9m de algumas p\u00e1ginas de texto. O limite n\u00e3o desapareceu: s\u00f3 ficou mais distante, e mais caro de alcan\u00e7ar.Se as janelas continuarem crescendo, o limite deixar\u00e1 de incomodar quem usa a IA ou apenas mudar\u00e1 de lugar, do tamanho do texto para o tamanho da conta?E voc\u00ea? Sabe quantos tokens tem uma frase sua? Spoiler: o Tokenizer, ferramenta gratuita da OpenAI, revela essa conta. Compartilhe esta mat\u00e9ria nas suas redes sociais e fique ligado no TecMundo para entender mais conceitos que movem a intelig\u00eancia artificial.&#8221;}]]\u00a0\u00a0Inteligencia Artificial\u00a0Novidades do TecMundo | Estad\u00e3o\u00a0<\/p>","protected":false},"excerpt":{"rendered":"<p>Pain\u00e9is de IA medem o uso em tokens, a unidade que tamb\u00e9m define limites e custos. Foto: Magnific\/Divulga\u00e7\u00e3o Quando fazemos uma pergunta a uma intelig\u00eancia artificial, o sistema precisa processar o texto antes de formular uma resposta. Nesse caminho, as frases s\u00e3o divididas em unidades menores, chamadas tokens. Embora o conceito j\u00e1 exista h\u00e1 d\u00e9cadas [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":69479,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"inline_featured_image":false,"footnotes":""},"categories":[15],"tags":[],"class_list":["post-69478","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/posts\/69478","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=69478"}],"version-history":[{"count":0,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/posts\/69478\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=\/wp\/v2\/media\/69479"}],"wp:attachment":[{"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=69478"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=69478"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/jornal24horas.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=69478"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}