Há uma limitação silenciosa que afeta todos os sistemas de inteligência artificial modernos: o custo de “pensar”. Cada vez que um agente de IA toma uma decisão, processa texto, analisa contexto ou executa uma tarefa, consome uma quantidade de recursos chamada tokens. Pense nos tokens como as letras e palavras que a IA lê e escreve a cada momento. Quanto mais complexa a tarefa, mais tokens são consumidos e, por consequência, mais caro e lento fica tudo.
Este problema torna se especialmente crítico quando falamos de agentes de IA, que são sistemas autónomos capazes de executar sequências longas de tarefas sem intervenção humana. Um agente pode pesquisar informação, tomar decisões intermédias, verificar resultados e agir em conformidade, tudo de forma encadeada. O problema é que cada um desses passos multiplica o consumo de tokens de forma exponencial.
O que é que a Alibaba fez de diferente?
A equipa de investigação da Alibaba apresentou um novo framework, chamado THEANINE, que resolve este problema com uma abordagem que se aproxima mais da forma como os seres humanos organizam o trabalho do que da forma como os computadores tradicionalmente o fazem.
Em vez de obrigar o agente a “relembrar” toda a conversa e contexto anterior a cada passo, o THEANINE utiliza um sistema de memória estruturada em árvore. A analogia mais próxima é a de um índice de livro: em vez de reler o livro inteiro para encontrar uma informação, consultamos apenas o índice e vamos diretamente à página certa. O agente deixa de carregar todo o historial de interações e passa a aceder apenas ao que é estritamente relevante para o passo seguinte.
O que significa uma redução de 99% no consumo de tokens?
Os números apresentados pelos investigadores da Alibaba são difíceis de ignorar. Em testes comparativos, o THEANINE conseguiu executar as mesmas tarefas de agentes de IA com uma redução de até 99% no número de tokens consumidos, mantendo ou até melhorando a qualidade dos resultados.
Para tornar esta proporção concreta: se uma tarefa típica de um agente custava o equivalente a ler 10 000 palavras de contexto a cada passo, com este sistema passa a custar o equivalente a ler apenas 100 palavras. O resultado prático é triplo: os custos operacionais caem drasticamente, a velocidade de resposta aumenta de forma significativa e torna se possível executar agentes mais complexos em hardware mais acessível.
Por que é que isto importa para além das grandes empresas?
Durante muito tempo, os agentes de IA avançados foram território exclusivo de organizações com orçamentos elevados. O custo de tokens em sistemas como o GPT4 ou o Claude pode acumular rapidamente quando os agentes trabalham em ciclos longos, tornando inviável o uso intensivo por parte de pequenas empresas, criadores independentes ou equipas com poucos recursos.
Uma redução desta magnitude democratiza o acesso. Ferramentas que antes exigiam infraestruturas caras passam a poder ser executadas de forma muito mais económica. Isto abre caminho para que mais criadores, agências e programadores em Portugal e em todo o mundo possam construir e utilizar agentes de IA sofisticados sem que o custo seja um obstáculo de entrada.
O estado da tecnologia e o que falta saber
É importante contextualizar que o THEANINE ainda se encontra na fase de investigação académica. Os resultados foram publicados e submetidos à comunidade científica, mas ainda não existe um produto final disponível ao público em geral. O caminho entre um framework de investigação e uma ferramenta pronta a usar pode ser longo e cheio de adaptações.
Ainda assim, o impacto desta publicação já se faz sentir na comunidade de desenvolvimento de IA. Outros investigadores e empresas irão inevitavelmente estudar e adaptar estas ideias. É assim que o progresso tecnológico funciona: uma descoberta num laboratório transforma se, meses ou anos depois, numa funcionalidade que chega aos produtos que todos usamos no dia a dia.
Na Arena Digital, acompanhamos de perto estas evoluções precisamente porque acreditamos que compreender a tecnologia antes de ela chegar ao mercado é uma vantagem real para quem trabalha no mundo digital.
Fonte: Notícia Original
