Indicador de Confiança em Respostas de IA
Ir para notas que citam estaIndicador de Confiança em Respostas de IA é o elemento de interface que exibe, junto a cada resposta de um assistente de IA, uma porcentagem de quanto aquela resposta merece confiança.
Ele resolve um problema de expectativa. Por padrão, um modelo tenta sempre acertar e responder, mesmo sem contexto suficiente, e é essa tendência que produz alucinações. Uma resposta sem nenhum sinal de incerteza passa ao usuário a falsa impressão de garantia. Com o indicador, o sistema deixa claro que usa IA e que pode errar, e ganha uma saída aceitável para admitir dúvida em vez de fabricar certeza.
Como o indicador se comporta
Numa pergunta dentro do escopo, com o sistema funcionando bem, o percentual tende a ficar alto. Quando algo foge do esperado, ele deve cair: uma pergunta feita em russo num assistente pensado para português deveria vir com confiança baixa, não com uma resposta com aparência de certeza. Num protótipo de assistente virtual para acompanhar o processo de habilitação de motoristas, cada resposta, gerada por chamada real a uma API de IA, vinha com o percentual na tela, e pergunta e resposta ficavam gravadas no banco do sistema.
O limite apareceu numa pergunta fora do conhecimento fornecido: o assistente devolveu uma resposta padrão dizendo que não tinha a informação, em vez de inventar. É melhor que alucinar, mas o ideal seria buscar o dado faltante no próprio banco do sistema.
O que o número garante e o que não garante
O percentual vem do próprio sistema de IA, não de uma medição externa e calibrada de acerto. Serve como gatilho de atenção, não como garantia. O uso mais útil é operacional: abaixo de um limiar, o sistema deixa de seguir sozinho e encaminha a resposta para revisão, o que faz do indicador uma porta de entrada para Human in the Loop. Ele complementa os Guardrails, que limitam o que o modelo pode fazer, mostrando ao usuário quando a resposta merece desconfiança.