Pular para o conteúdo
LabS Atlas
Generative AI
Entrar

Envenenamento de Contexto

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

Envenenamento de contexto é a piora das respostas de um modelo quando a janela de contexto acumula informação demais e pouco filtrada, levando-o a misturar assuntos. O termo vem da expressão em inglês context poisoning, usada pela comunidade sem tradução fixada em português.

O fenômeno está ligado ao limite e ao funcionamento da Janela de Contexto. Quanto mais conteúdo entra numa mesma interação, e quanto mais distante esse conteúdo fica do problema original, maior a chance de o modelo construir coisas que não deveria, associar ideias que não se relacionam e perder de vista o que é essencial. Não se trata apenas de estourar o limite de tokens: mesmo dentro do limite, um contexto grande e heterogêneo dilui a parte útil.

Como o excesso de contexto degrada a resposta

Há dois caminhos típicos para o envenenamento. O primeiro é enviar um documento inteiro no prompt, sem seleção prévia do que interessa à pergunta. Diante de um manual de centenas de páginas, o modelo tende a tratar o conjunto todo como o resumo do que precisa saber, e as poucas partes realmente relevantes perdem peso. A atenção do modelo também tende a pesar mais o final do contexto, de modo que uma instrução importante perdida no meio de um volume grande de texto tem menos chance de ser seguida.

O segundo caminho é a conversa longa que muda de assunto. Uma conversa que começa falando de sorvete e depois passa a tratar de atendimento ao cliente pode levar o modelo a confundir os dois temas. Em agentes com memória, o mesmo acontece quando o histórico cresce sem controle ao longo das interações.

O caso da Especialização de LLM para Linguagem de Programação Proprietária ilustra o primeiro caminho. Usar como contexto a documentação oficial completa de uma ferramenta, com 589 páginas que explicavam também a interface e onde clicar, produziu código confuso e misturado com outras linguagens. Reduzir para uma parte de 147 páginas, mais focada em código, ainda falhou por outro motivo: a própria documentação tinha pontos finais soltos que o modelo interpretou como sintaxe. Volume menor não compensa fonte com erro.

Sintomas típicos

  • Respostas que misturam assuntos distintos tratados na mesma conversa.
  • Associações incorretas e conteúdo inventado a partir de partes irrelevantes do contexto.
  • Saída fora do padrão esperado, como código de uma linguagem de nicho confundido com linguagens mais conhecidas.
  • Comportamento em loop: em conversas longas, o modelo passa a repetir a mesma resposta mesmo quando se pede algo novo.

Estratégias para evitar o envenenamento

A mitigação central é não acumular tudo num único prompt e escolher a técnica pelo tipo de uso do conhecimento:

  • Recuperar só o relevante. Para busca de conhecimento em produção, a RAG traz apenas os trechos ligados à pergunta, em vez do documento inteiro. Variantes mais restritas, como o Graph RAG, direcionam a busca para a área temática certa.
  • Colocar o documento inteiro só quando o volume é administrável. A CAG faz sentido quando se quer que o modelo considere um material conhecido por completo. Com muitos documentos, o contexto cresce e o risco volta; nesse caso, a saída é limitar o que entra no prompt ou recorrer a um modelo com janela bem maior, na casa de um milhão de tokens.
  • Controlar a memória. Em agentes, pontos de controle decidem o que é mantido ou descartado do histórico, e embeddings podem guardar o que precisa ser lembrado entre interações sem reenviar tudo.
  • Tirar da janela o conhecimento que se repete. Quando o mesmo conteúdo é recuperado a toda chamada, migrá-lo para Fine-tuning reduz o consumo de contexto.
  • Curar os dados antes de entregá-los. Uma tabela enxuta de perguntas, funções e saídas esperadas gerou resultado muito melhor do que a documentação bruta.
Lote ou um a um

Ao analisar muitas conversas relacionadas, como um atendimento transferido entre dezenas de atendentes, agregar tudo de uma vez pode esbarrar nesse limite prático. Vale decidir antes se a análise será feita item a item ou em conjunto.