Alucinação
Ir para notas que citam estaAlucinação é a tendência de modelos de IA generativa apresentarem, com aparência de certeza, informação inventada ou incorreta, como citações, números e fontes que não existem.
A causa está no objetivo do modelo. Ele não busca a verdade factual, busca a continuação mais plausível para o que já foi escrito. Quando a informação correta não está disponível, a alternativa não é o silêncio, é uma resposta bem formada e falsa, entregue no mesmo tom seguro de qualquer outra. Essa é a manifestação mais visível de IA como Ferramenta Não Determinística, e a que mais rapidamente vira dano quando o resultado sai da mesa de quem pediu.
Alucinar não é exceção de modelos ruins nem sinal de uso incorreto. É um comportamento esperado que só se administra com verificação sistemática.
Como a invenção aparece no uso cotidiano
Os exemplos mais comuns são pequenos e passam despercebidos. Pedir que uma letra de música existente seja reaproveitada e receber uma letra inventada. Pedir um poema real e receber um texto atribuído a uma obra que existe, mas que não corresponde ao original. Montar uma apresentação e receber números que não batem com a realidade quando alguém decide conferir.
Existe também uma variação do fenômeno no plano da própria execução: uma resposta afirmativa dizendo que algo será preparado, sem que material nenhum chegue depois. A confirmação de que a tarefa foi aceita não é evidência de que ela foi feita.
O risco reputacional é a consequência que mais dói. Um relatório publicado por uma grande consultoria com fontes que, ao serem checadas, não existiam, mostrou o custo de delegar sem conferência: o dano à imagem no mercado é imediato e não se desfaz com correção posterior.
Verificar fonte, número e citação antes de repassar
A contramedida é banal e por isso é a que mais se pula: revisar tudo que será repassado a terceiros ou usado em decisão. Fontes citadas precisam ser abertas e lidas. Números precisam ser conferidos contra a origem. Citações precisam existir no texto de onde foram supostamente tiradas.
Engenharia de Contexto ajuda de forma concreta aqui. Quando o material de base vem junto com o pedido, em vez de ser buscado na memória do modelo, o espaço para invenção diminui, porque a resposta tem onde se ancorar. Isso reduz a frequência do problema, não o elimina, e não dispensa a conferência.
A resposta inventada chega com a mesma confiança da resposta correta. A ausência de hesitação não pode ser usada como critério de confiabilidade.
Ausência de personalidade nos textos gerados
Um efeito irmão da alucinação aparece na produção de texto: o modelo não imprime personalidade própria. O resultado é correto em forma e genérico em voz, o que pesa especialmente em conteúdo criativo, de marca ou de comunicação institucional, onde o valor está exatamente na identidade.
Textos gerados sem cuidado soam iguais aos de qualquer outro emissor e diluem aquilo que distingue uma marca ou um profissional. Imprimir a identidade humana ou de marca no resultado, reescrevendo tom, escolhas de palavra e ângulo, é parte do trabalho, não um refinamento opcional. Delegar a redação sem essa etapa entrega velocidade e devolve algo que não representa quem assina, um custo que se soma ao Custo Invisível da Produtividade com IA.