Envenenamento de Contexto
Ir para notas que citam estaEnvenenamento de contexto é a piora das respostas de um modelo quando a janela de contexto acumula informação demais e pouco filtrada, levando-o a misturar assuntos. O termo vem da expressão em inglês context poisoning, usada pela comunidade sem tradução fixada em português.
O fenômeno está ligado ao limite e ao funcionamento da Janela de Contexto. Quanto mais conteúdo entra numa mesma interação, e quanto mais distante esse conteúdo fica do problema original, maior a chance de o modelo construir coisas que não deveria, associar ideias que não se relacionam e perder de vista o que é essencial. Não se trata apenas de estourar o limite de tokens: mesmo dentro do limite, um contexto grande e heterogêneo dilui a parte útil.
Como o excesso de contexto degrada a resposta
Há dois caminhos típicos para o envenenamento. O primeiro é enviar um documento inteiro no prompt, sem seleção prévia do que interessa à pergunta. Diante de um manual de centenas de páginas, o modelo tende a tratar o conjunto todo como o resumo do que precisa saber, e as poucas partes realmente relevantes perdem peso. A atenção do modelo também tende a pesar mais o final do contexto, de modo que uma instrução importante perdida no meio de um volume grande de texto tem menos chance de ser seguida.
O segundo caminho é a conversa longa que muda de assunto. Uma conversa que começa falando de sorvete e depois passa a tratar de atendimento ao cliente pode levar o modelo a confundir os dois temas. Em agentes com memória, o mesmo acontece quando o histórico cresce sem controle ao longo das interações.
O caso da Especialização de LLM para Linguagem de Programação Proprietária ilustra o primeiro caminho. Usar como contexto a documentação oficial completa de uma ferramenta, com 589 páginas que explicavam também a interface e onde clicar, produziu código confuso e misturado com outras linguagens. Reduzir para uma parte de 147 páginas, mais focada em código, ainda falhou por outro motivo: a própria documentação tinha pontos finais soltos que o modelo interpretou como sintaxe. Volume menor não compensa fonte com erro.
Sintomas típicos
- Respostas que misturam assuntos distintos tratados na mesma conversa.
- Associações incorretas e conteúdo inventado a partir de partes irrelevantes do contexto.
- Saída fora do padrão esperado, como código de uma linguagem de nicho confundido com linguagens mais conhecidas.
- Comportamento em loop: em conversas longas, o modelo passa a repetir a mesma resposta mesmo quando se pede algo novo.
Estratégias para evitar o envenenamento
A mitigação central é não acumular tudo num único prompt e escolher a técnica pelo tipo de uso do conhecimento:
- Recuperar só o relevante. Para busca de conhecimento em produção, a RAG traz apenas os trechos ligados à pergunta, em vez do documento inteiro. Variantes mais restritas, como o Graph RAG, direcionam a busca para a área temática certa.
- Colocar o documento inteiro só quando o volume é administrável. A CAG faz sentido quando se quer que o modelo considere um material conhecido por completo. Com muitos documentos, o contexto cresce e o risco volta; nesse caso, a saída é limitar o que entra no prompt ou recorrer a um modelo com janela bem maior, na casa de um milhão de tokens.
- Controlar a memória. Em agentes, pontos de controle decidem o que é mantido ou descartado do histórico, e embeddings podem guardar o que precisa ser lembrado entre interações sem reenviar tudo.
- Tirar da janela o conhecimento que se repete. Quando o mesmo conteúdo é recuperado a toda chamada, migrá-lo para Fine-tuning reduz o consumo de contexto.
- Curar os dados antes de entregá-los. Uma tabela enxuta de perguntas, funções e saídas esperadas gerou resultado muito melhor do que a documentação bruta.
Ao analisar muitas conversas relacionadas, como um atendimento transferido entre dezenas de atendentes, agregar tudo de uma vez pode esbarrar nesse limite prático. Vale decidir antes se a análise será feita item a item ou em conjunto.