Posfácio: de volta a Agente = LLM + Contexto + Ferramentas¶

Este livro começou com uma fórmula: Agente = LLM + Contexto + Ferramentas. Todos os dez capítulos se desenvolvem a partir desses três termos.

O Capítulo 1 estabelece uma compreensão da fórmula em três níveis — implementação, intuição e teoria — e apresenta o espectro de orquestração, dos fluxos de trabalho aos agentes autônomos. Os capítulos seguintes avançam gradualmente pela sequência “Construção — Avaliação e evolução — Colaboração”.

Construção de agentes (Capítulos 2–6). A engenharia de contexto determina o que um agente vê durante uma tarefa, enquanto a memória e as bases de conhecimento estendem as informações por várias sessões. As ferramentas definem o que ele pode fazer, a geração de código oferece a metacapacidade de criar novas ferramentas e sistemas, e o capítulo sobre interação amplia os espaços de observação e ação para além da alternância de turnos em texto, abrangendo voz, GUIs e o mundo físico.
Avaliação e evolução (Capítulos 7–9). A avaliação transforma o desempenho em sinais confiáveis, o pós-treinamento incorpora capacidades de alta dimensionalidade aos parâmetros do modelo, e a evolução contínua converte a experiência em produção em atualizações controladas de conhecimentos, instruções, programas ou parâmetros.
Colaboração (Capítulo 10). A colaboração multiagente também transforma a forma como contexto, ferramentas e responsabilidades são organizados.

Esses três níveis não são compartimentos independentes. O Capítulo 9, em particular, depende de todos os fundamentos anteriores: sem trajetórias e sistemas de conhecimento, não há onde armazenar a experiência; sem capacidade de programação, um agente não consegue modificar ferramentas e o próprio harness; e, sem avaliação, o sistema não consegue determinar se uma alteração representa avanço ou regressão. Assim, o Capítulo 9 é o ponto de convergência em que o livro passa de “como construir um agente” para “como fazer um agente melhorar no longo prazo”.

Duas nuvens¶

Em 1900, Lord Kelvin afirmou que ainda pairavam duas nuvens sobre o céu claro da física — mais tarde, uma se transformaria na teoria da relatividade e a outra, na mecânica quântica. Hoje, o céu dos agentes tampouco pode ser considerado claro, e eu também vejo duas nuvens.

A primeira nuvem é como os agentes podem interagir com o ambiente de forma contínua e em tempo real. Hoje, a grande maioria dos agentes ainda opera por turnos, no modo de “solicitação e resposta”: você termina uma frase, ele pensa em um parágrafo inteiro e então entrega o resultado de uma só vez. Mas o mundo real não para à espera de que ele termine de pensar — falas são interrompidas, as cenas mudam continuamente e novos e-mails não param de chegar. Um agente verdadeiramente “vivo” deveria ser capaz de ouvir enquanto pensa e falar enquanto pensa, começar a planejar quando você ainda está no meio de uma frase e perceber por conta própria que “este e-mail precisa ser tratado”, mesmo sem ninguém pedir. Há dois caminhos rumo a essa capacidade em tempo real, geralmente percorridos em paralelo. Um deles é a separação arquitetural entre o rápido e o lento — capacidade de resposta em tempo real e inteligência são eixos quase ortogonais, difíceis de conciliar em um único modelo; por isso, um modelo rápido no frontend mantém o ritmo da conversa, enquanto um modelo lento no backend se encarrega do raciocínio aprofundado. O outro é acelerar a própria inferência — quando a velocidade de decodificação é suficientemente alta, a espera entre os turnos se torna tão curta que praticamente desaparece, diluindo a fronteira entre a interação por turnos e aquela “em tempo real”. Chips e mecanismos de inferência vêm impulsionando rapidamente esse caminho: o Xiaomi MiMo já fez um modelo de 1 trilhão de parâmetros superar 1.000 tokens/s em um único nó com oito GPUs¹, enquanto soluções dedicadas que incorporam todo o modelo diretamente ao chip, como o Taalas HC1, levam um modelo de 8 bilhões de parâmetros a cerca de 17.000 tokens/s, com tempo de resposta inferior a 100 milissegundos². Quando um modelo consegue produzir milhares de palavras por segundo, a diferença de experiência entre “pensar e depois falar” e “pensar enquanto fala” simplesmente desaparece.

A segunda nuvem é como os agentes podem, à semelhança dos humanos, acumular continuamente experiência com os sucessos e fracassos de suas interações com o ambiente. Os modelos atuais se parecem mais com um gênio de memória extraordinária, mas incapaz de aprender algo novo: durante o treinamento, memorizam minuciosamente o conhecimento humano, porém quase não evoluem depois que entram em operação. Ao fim de cada tarefa, os obstáculos que encontraram e os truques que descobriram são, em sua maioria, descartados junto com o contexto. A resposta para a questão de isso ser ou não um problema real depende de duas hipóteses opostas.

Uma delas é a “Hipótese do Mundo Pequeno”: um modelo suficientemente grande — com trilhões de parâmetros, por exemplo — já comportaria praticamente todo o conhecimento geral relevante sobre o mundo físico; bastaria aprender uma vez. Os defensores dessa visão, entre eles pesquisadores da OpenAI e da Anthropic, argumentariam que a programação é hoje a área em que a IA mais se destaca não porque o código tenha alguma característica especial para os modelos, mas porque a programação é o campo mais aberto da atividade humana: há um enorme volume de código aberto disponível para aprendizado, enquanto a maioria dos setores simplesmente não dispõe de informações ou dados públicos. Portanto, o que os laboratórios de ponta estão realmente fazendo é estabelecer parcerias com diferentes setores, um a um, para “destilar” suas capacidades profissionais em um mesmo modelo de linguagem de grande porte (LLM). Segundo essa visão, o gargalo não está na capacidade do modelo nem em sua aptidão para aprender, mas na disponibilidade de dados: basta fornecer os dados, treinar uma vez e o problema estará resolvido.

A “Hipótese do Mundo Grande”, porém, aponta para uma camada que não pode ser suprida por um único treinamento: o conhecimento específico de determinado usuário ou empresa. Os padrões de código e o estilo de apresentações de uma empresa, assim como o temperamento peculiar de certo cliente, não aparecem em nenhum corpus de treinamento e mudam o tempo todo. Para se adaptar a esse “mundo grande”, composto de incontáveis situações específicas, o modelo precisa continuar aprendendo depois de entrar em operação; não há como sair de fábrica com tudo configurado. Essa é precisamente a direção investigada pela memória no Capítulo 3 e pela evolução contínua no Capítulo 9: a experiência deve ser registrada em documentos de conhecimento, instruções ou programas, ou experiências selecionadas devem ser usadas para atualizar os parâmetros do modelo? Em um horizonte mais amplo, tanto a “RSI (melhoria recursiva de si mesmo)” quanto a “AI for Science” estão levando os agentes a fronteiras nas quais não existem respostas prontas. Nelas, um agente só pode aprender de forma autônoma com os sucessos e fracassos de experimentos repetidos, em vez de recorrer a humanos a cada decisão. Portanto, a capacidade mais importante de um modelo acabará não sendo memorizar, mas aprender e se adaptar.

Nenhuma dessas nuvens será dissipada por uma única atualização de modelo. Para compreender como elas serão enfim superadas, primeiro é preciso enxergar com clareza um ponto: modelos e agentes nunca ocuparam posições sucessivas em uma cadeia; eles avançam juntos.

A coevolução de modelos e agentes¶

Ao examinar as sucessivas camadas de lógica de contingência desses harnesses — compressão de contexto em vários níveis, tentativas repetidas que só acionam um circuit breaker após milhares de falhas, verificações de permissão que, por precaução, consideram tudo “inseguro” por padrão —, vemos que cada trecho de “código espaguete” aparentemente feio registra um ponto em que o modelo ainda não é confiável. Quando a próxima geração de modelos internalizar essas restrições, o código correspondente poderá ser removido. E os modelos só conseguem internalizá-las justamente porque os agentes já enfrentaram essas dificuldades em situações reais de negócios, transformando as lições em sinais para a próxima rodada de treinamento. Os usuários apresentam desafios reais; a camada de aplicação usa harnesses para compensar o que o modelo ainda não faz bem; e essas soluções paliativas, por sua vez, tornam-se sinais de treinamento para a próxima iteração do modelo. Esse é um ciclo virtuoso que se reforça continuamente.

Esse ciclo também responde à pergunta deixada em aberto no Capítulo 1: os modelos acabarão absorvendo o harness? A visão deste livro é que sim — mas não de uma só vez. Eles o absorverão camada por camada, e esse processo nunca terminará. Cada capacidade que um modelo internaliza de forma confiável permite remover a camada correspondente do harness. O modelo de interação do Capítulo 6 é um exemplo: comportamentos como interrupções e intervenções, que antes precisavam ser montados por meio de um harness externo, agora são incorporados diretamente ao modelo. Mas essa “absorção” jamais se completará. Primeiro, o treinamento leva meses: o modelo pode esperar, mas os negócios não. Segundo, um modelo não consegue internalizar todas as restrições e preferências de negócios reais; sempre haverá uma nova fronteira que exigirá lógica externa como salvaguarda. Terceiro, cada geração de modelos abre uma nova fronteira de capacidades, e é justamente nela que o modelo se mostra menos confiável. Portanto, o harness não desaparecerá; ele apenas continuará migrando, junto com o modelo, para cada nova fronteira. É também assim que a Lição Amarga deve ser interpretada na era dos agentes: os métodos gerais acabarão prevalecendo, mas cada trecho do caminho até esse “acabarão” será pavimentado pelo harness.

E o ciclo gira mais depressa nas mãos de quem controla as duas pontas. É exatamente isso que a Anthropic faz com o Claude Code: permite que seu próprio modelo e seu próprio harness se alimentem mutuamente e coevoluam. O modelo sabe como o harness o chamará; o harness conhece os limites do modelo; e cada mudança em qualquer uma das pontas produz feedback imediato para a outra. Em um experimento, sem trocar o modelo e alterando apenas o harness, a precisão nas tarefas saltou de 52,8% para 66,5%. Isso mostra a enorme alavancagem que o harness oferece hoje, mas também serve de alerta: ela é tão grande justamente porque o modelo ainda não chegou lá. Pela mesma razão, esse ciclo é a maior vantagem competitiva desta era: quanto mais estreita for a integração entre negócios reais, dados de feedback e iterações do modelo, mais difícil será para alguém de fora alcançá-los.

O significado disso para você depende da ponta do ciclo em que você está. Se você desenvolve modelos, sua vantagem competitiva consiste em colocar esse ciclo para girar, fazendo o feedback de cenários reais retornar ao treinamento o mais rápido possível. Se você desenvolve aplicações sobre modelos, o harness é sua ferramenta técnica mais poderosa no curto prazo, mas é preciso ter clareza: cada vez que o modelo internalizar uma camada de restrições, eliminará de passagem uma série de vantagens construídas apenas com o harness. As vantagens competitivas realmente duradouras da camada de aplicação costumam estar fora da tecnologia: dados exclusivos, canais de distribuição sólidos, confiança dos usuários, efeitos de rede e situações do mundo físico que exigem a colaboração entre pessoas e agentes. A estratégia mais prudente é usar o harness para ganhar tempo e aproveitar esse período para erguer barreiras além da tecnologia.

Portanto, não se preocupe se o framework em suas mãos ficará obsoleto. Os modelos passam por novas iterações a cada poucos meses; APIs, produtos e rankings específicos serão substituídos. Mas as três perguntas — o que o sistema vê, o que pode fazer e como verificar se está agindo corretamente — não ficarão obsoletas. Elas não descrevem o uso de um modelo específico, mas a forma fundamental como um sistema inteligente interage com o mundo. Ao dominá-las, você saberá onde encaixar na fórmula qualquer nova capacidade trazida pela próxima geração de modelos e perceberá de imediato quanto ainda falta para que ela dissipe aquelas duas nuvens.

A tecnologia de agentes continua evoluindo em ritmo acelerado, e nenhum livro consegue acompanhar todas as mudanças. Mas, se este livro lhe deixar não o modo específico de usar determinada API, e sim a capacidade de avaliar com lucidez as ondas tecnológicas, terá cumprido sua missão. Todo o texto, as ilustrações e o código dos experimentos complementares deste livro são de código aberto. Visite o repositório, execute os experimentos por conta própria e envie issues e PRs. E o aspecto mais fascinante dos agentes é justamente sua capacidade de criar novas competências escrevendo código e até de aprimorar a si mesmos. A esta altura, você já conhece os princípios da “criação”. Agora, vá criar alguma coisa.

Por meio do codesign entre modelo e sistema, com quantização FP4, decodificação especulativa paralela DFlash e o sistema de inferência TileRT, o Xiaomi MiMo-V2.5-Pro-UltraSpeed elevou, pela primeira vez, a velocidade de geração de um modelo de 1 trilhão de parâmetros para mais de 1.000 tokens/s em um único nó de propósito geral com 8 GPUs. Consulte o blog técnico oficial do Xiaomi MiMo, “Pushing 1T-Parameter Model Generation Speed to 1000 TPS”, 2026. https://mimo.xiaomi.com/blog/mimo-tilert-1000tps ↩
O Taalas HC1 incorpora todo o modelo Llama 3.1 8B em um chip de 6 nm, alcançando aproximadamente 17.000 tokens/s e tempo de resposta inferior a 100 milissegundos. Em contrapartida, o chip só consegue executar o modelo nele incorporado, e qualquer atualização exige uma nova fabricação do chip. Consulte Karl Freund, “Taalas Launches Hardcore Chip With ‘Insane’ AI Inference Performance”, Forbes, 2026. https://www.forbes.com/sites/karlfreund/2026/02/19/taalas-launches-hardcore-chip-with-insane-ai-inference-performance/ ↩