Spring AI
Ir para notas que citam estaSpring AI é um framework Java do ecossistema Spring que integra aplicações a vários provedores de modelos por uma API única de chat, com starters prontos para RAG, banco vetorial e MCP.
A proposta segue a filosofia do Spring Boot: quem já tem uma aplicação Java adiciona uma dependência e ganha um modelo configurado, sem trocar de linguagem nem de stack. Para times Java, é a alternativa ao ecossistema Python de frameworks de agentes (LangChain, LangGraph, CrewAI), com a vantagem de organizar o código em orientação a objetos de forma estruturada, inclusive com Arquitetura Hexagonal separando o domínio dos adaptadores de modelo.
Abstração multi-provedor e starters
O centro da biblioteca é o Chat Client, apoiado na abstração de Chat Model. OpenAI, Ollama, Hugging Face, Amazon Bedrock e outros provedores ficam atrás da mesma interface, então trocar de provedor não exige reescrever a lógica da aplicação. Basta adicionar o starter do provedor, informar as configurações e injetar o Chat Model. A documentação traz uma página comparando o que cada chat model suporta.
A integração com Ollama permite rodar tudo na própria máquina, sem custo de token e sem enviar dados a terceiros, e aceita configurar qual modelo baixar automaticamente se ele ainda não estiver disponível (um Llama 3.2 de 3 bilhões de parâmetros, por exemplo). Além de chat, há abstrações para embeddings e áudio.
Spring AI não é equivalente ao Amazon Bedrock. O Bedrock dá acesso a um conjunto de modelos na AWS; o Spring AI é uma biblioteca para plugar qualquer provedor, inclusive o próprio Bedrock, de forma padronizada numa aplicação Java.
RAG, banco vetorial e tradução de consultas
O suporte a RAG vem pronto, com exemplos em código para o RAG simples e o avançado, e recuperação de vetores filtrada por metadata. Há suporte a vários vector stores, cada um com sua documentação. O PGVector é uma escolha comum; por não ser uma extensão nativa do PostgreSQL, exige uma imagem de banco com a extensão instalada.
A funcionalidade de Query Transformation inclui o Translate Query: em vez de traduzir manualmente o texto de entrada, o próprio framework usa um modelo para converter a consulta ao idioma necessário antes da busca, com resultado mais exato.
MCP com configuração pronta
Duas bibliotecas trazem starters para servidor e cliente MCP. A configuração de baixo nível já vem feita, e o desenvolvedor implementa só as ferramentas de negócio que o servidor expõe. Para montar um servidor, é preciso adicionar também um starter web, porque o starter de MCP sozinho não expõe os endpoints. A documentação descreve cada classe e parâmetro, com exemplos do mais simples à configuração manual completa.
Tratamento de erros na construção de agentes
Um fluxo de dois agentes, um analisador de história de usuário e um gerador de critérios de aceite, cabe num serviço com o Chat Client e prompts que pedem JSON válido. O tratamento de erros embutido reduz o código manual necessário para evitar respostas vazias e alucinações, ponto em que o LangChain exige mais verificação à mão. O serviço pode devolver só o conteúdo da mensagem ou a resposta completa com os tokens consumidos. Temperatura zero serve a tarefas técnicas; um valor um pouco maior deixa o texto mais amigável. Esse mesmo fluxo expôs a necessidade de um Agente Roteador com fallback.
Trade-offs frente a outros frameworks
Num ranking informal entre os frameworks de agentes já testados, o Spring AI ficou em segundo, atrás do LangGraph, considerado mais completo e mais complexo. Ele sobe para primeiro quando já existe uma aplicação Java: basta pôr a dependência e criar o serviço. O suporte pronto a MCP reforça essa posição. Em relação ao LangFlow, as customizações que lá travam aqui saem com mais facilidade.
Nas versões anteriores à 1.0 estável (milestones como a M6), é preciso adicionar à mão os repositórios de snapshot, que o Spring Initializr não inclui. E a abstração que baixa a barreira para quem já domina a injeção de dependência do Spring também esconde o que acontece por trás, o que pesa em aplicações corporativas que exigem controle fino.