Pensando em ACE? IBM Research Prova que é Possível Fazer com Menos Tokens

O progresso acelerado no ecossistema de inteligência artificial trouxe um novo foco para a eficiência de inferência. Enquanto arquiteturas de agentes e estratégias como Agentic Context Extension (ACE) expandem as capacidades dos sistemas modernos, o custo computacional associado à geração extensiva de tokens tornou-se um gargalo crítico para a implantação em escala.

Para enfrentar esse desafio, pesquisadores da IBM Research revelaram uma nova abordagem por meio da biblioteca ALTK (Agentic Learning ToolKit) e da metodologia Evolve-SLDD, demonstrando ser possível atingir um desempenho de ponta em tarefas complexas consumindo uma fração dos tokens exigidos por métodos convencionais.

O Desafio da Eficiência em Agentes de IA

Sistemas baseados em agentes dependem do processamento contínuo de contextos longos, cadeias de pensamento (Chain-of-Thought) e chamadas sucessivas de ferramentas. Embora esse processo eleve a precisão em raciocínios avançados, a quantidade massiva de tokens necessária inflaciona os custos operacionais e aumenta a latência de resposta em produção.

O conceito de ACE surge como uma estrutura promissora para organizar e estender o contexto operacional desses sistemas. No entanto, sua implementação tradicional costuma ser altamente dispendiosa quando aplicada diretamente sobre LLMs gigantescas e proprietárias.

A Metodologia Evolve-SLDD

A resposta da IBM a esse problema é o Evolve-SLDD (Small Language Model-driven Decoding com evolução contínua). Em vez de delegar todas as etapas de planejamento e síntese a um único modelo denso, a estrutura introduz uma dinâmica otimizada de cooperação entre modelos menores com Fine-tuning específico e mecanismos de decodificação guiada.

Essa arquitetura permite que o sistema execute etapas intermediárias de raciocínio usando Open-Weights altamente eficientes, acionando estratégias de Raciocínio Híbrido apenas quando estritamente necessário. O resultado é uma drástica compressão da quantidade de tokens de contexto gerados e processados durante o ciclo de vida da tarefa.

Resultados em Benchmarks

Nos testes e Benchmarks conduzidos pela equipe, a abordagem baseada no ALTK / Evolve-SLDD demonstrou resultados equivalentes — e em alguns casos superiores — a fluxos de trabalho tradicionais de agentes, reduzindo significativamente a taxa de geração de tokens desnecessários.

Ao focar na qualidade estrutural do contexto transmitido a cada etapa do agente, o modelo elimina redundâncias e preserva a assertividade da resposta final. Essa eficiência é vital para empresas que buscam adotar agentes inteligentes sem comprometer seus orçamentos de infraestrutura de nuvem.

O Impacto para o Ecossistema Open-Source

A iniciativa da IBM Research reforça a tendência de acelerar o desenvolvimento com modelos Open-Weights e arquiteturas modulares. Disponibilizada no Hugging Face, a ferramenta capacita desenvolvedores e pesquisadores a construir fluxos de agentes mais sustentáveis, acessíveis e escaláveis para cenários do mundo real.