Pular para o conteúdo
LabS Atlas
Agentic AI
Entrar

Riscos de Privacidade e Vazamento de Dados em IA

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

Riscos de privacidade e vazamento de dados em IA são as formas pelas quais informação pessoal ou confidencial escapa do perímetro de quem a forneceu ao usar modelos e ferramentas de IA generativa.

O risco não está em um ataque sofisticado, e sim no uso cotidiano: o dado sai pela porta da frente, dentro de um prompt, de um log ou de uma integração, e passa a existir num lugar sobre o qual quem o enviou não tem mais controle. Em sistemas com agentes o problema se multiplica, porque o volume de chamadas a serviços externos cresce e cada chamada é uma oportunidade de exposição que ninguém está observando.

Por onde o dado escapa

  • Memória persistente entre conversas. Informação pessoal dada a um assistente num contexto pode reaparecer meses depois, num assunto sem nenhuma relação, trazida de volta pelo próprio modelo. Quem forneceu o dado não sabe quando nem em que contexto ele volta à superfície.
  • Conversas compartilhadas por link. Houve um período em que plataformas de IA permitiam compartilhar uma conversa por link direto sem controle de acesso adequado; essas conversas acabaram indexadas por buscadores e ficaram publicamente pesquisáveis. Mais de um provedor passou pelo mesmo problema, na corrida por lançar antes.
  • Prompt e log enviados a provedor externo. O conteúdo do prompt trafega para fora, e o traço de execução guardado para fins de observabilidade pode conter a conversa inteira, incluindo dado pessoal que nunca deveria ter sido registrado.
  • Ferramentas de terceiros que indexam documentação. Serviços que recebem uma base documental e a transformam em fonte de conhecimento para um agente, no estilo RAG, são convenientes e gratuitos porque o dado entregue tem valor. Indexar documentação confidencial dessa forma é entregá-la a um serviço externo sem saber o que acontece com ela depois.
  • Chamadas a servidores remotos. Ferramentas expostas por MCP deixaram de rodar apenas localmente, e existe pouca instrumentação sobre o que é enviado a servidores de terceiros. Um agente com dezenas de ferramentas disponíveis e nenhum filtro pode submeter parâmetros a qualquer uma delas, descartar o retorno inútil e nunca registrar o que mandou.
  • Modelos gratuitos que cobram em dado. Quando o acesso ao modelo não custa nada, a telemetria costuma ser forte e o conteúdo enviado tende a alimentar novos treinos. É o padrão descrito em Modelos Gratuitos em Troca de Telemetria.

Contramedidas que dependem de observabilidade

A primeira medida é saber o que está saindo, e isso é trabalho de Observabilidade de Agentes: registrar quais ferramentas o agente aciona, para que endereços e com que conteúdo. Sem esse registro, política de privacidade é declaração de intenção.

Sobre essa base vêm as demais: mascarar dado pessoal antes de compor o prompt, definir retenção dos traços em vez de guardar tudo para sempre, restringir quais ferramentas cada agente pode alcançar, e usar serviços com contrato explícito de proteção de dados em vez dos gratuitos quando o material é de terceiros. Para o que não pode sair de casa, a alternativa é processar com Modelos de Linguagem Locais em Agentes, aceitando a troca de qualidade por controle.

Warning

A pergunta prática antes de colar qualquer coisa num prompt ou de apontar uma ferramenta para uma base interna é simples: quem mais vai poder ler isso, e por quanto tempo. Se não houver resposta, o dado não deveria ir.