Pular para o conteúdo
LabS Atlas
Solutis LabS
Entrar

Alucinação

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

Alucinação é a tendência de modelos de IA generativa apresentarem, com aparência de certeza, informação inventada ou incorreta, como citações, números e fontes que não existem.

A causa está no objetivo do modelo. Ele não busca a verdade factual, busca a continuação mais plausível para o que já foi escrito. Quando a informação correta não está disponível, a alternativa não é o silêncio, é uma resposta bem formada e falsa, entregue no mesmo tom seguro de qualquer outra. Essa é a manifestação mais visível de IA como Ferramenta Não Determinística, e a que mais rapidamente vira dano quando o resultado sai da mesa de quem pediu.

Alucinar não é exceção de modelos ruins nem sinal de uso incorreto. É um comportamento esperado que só se administra com verificação sistemática.

Como a invenção aparece no uso cotidiano

Os exemplos mais comuns são pequenos e passam despercebidos. Pedir que uma letra de música existente seja reaproveitada e receber uma letra inventada. Pedir um poema real e receber um texto atribuído a uma obra que existe, mas que não corresponde ao original. Montar uma apresentação e receber números que não batem com a realidade quando alguém decide conferir.

Existe também uma variação do fenômeno no plano da própria execução: uma resposta afirmativa dizendo que algo será preparado, sem que material nenhum chegue depois. A confirmação de que a tarefa foi aceita não é evidência de que ela foi feita.

O risco reputacional é a consequência que mais dói. Um relatório publicado por uma grande consultoria com fontes que, ao serem checadas, não existiam, mostrou o custo de delegar sem conferência: o dano à imagem no mercado é imediato e não se desfaz com correção posterior.

Verificar fonte, número e citação antes de repassar

A contramedida é banal e por isso é a que mais se pula: revisar tudo que será repassado a terceiros ou usado em decisão. Fontes citadas precisam ser abertas e lidas. Números precisam ser conferidos contra a origem. Citações precisam existir no texto de onde foram supostamente tiradas.

Engenharia de Contexto ajuda de forma concreta aqui. Quando o material de base vem junto com o pedido, em vez de ser buscado na memória do modelo, o espaço para invenção diminui, porque a resposta tem onde se ancorar. Isso reduz a frequência do problema, não o elimina, e não dispensa a conferência.

O tom de certeza não é sinal de correção

A resposta inventada chega com a mesma confiança da resposta correta. A ausência de hesitação não pode ser usada como critério de confiabilidade.

Ausência de personalidade nos textos gerados

Um efeito irmão da alucinação aparece na produção de texto: o modelo não imprime personalidade própria. O resultado é correto em forma e genérico em voz, o que pesa especialmente em conteúdo criativo, de marca ou de comunicação institucional, onde o valor está exatamente na identidade.

Textos gerados sem cuidado soam iguais aos de qualquer outro emissor e diluem aquilo que distingue uma marca ou um profissional. Imprimir a identidade humana ou de marca no resultado, reescrevendo tom, escolhas de palavra e ângulo, é parte do trabalho, não um refinamento opcional. Delegar a redação sem essa etapa entrega velocidade e devolve algo que não representa quem assina, um custo que se soma ao Custo Invisível da Produtividade com IA.