Pular para o conteúdo
LabS Atlas
Agentic AI
Entrar

Indicador de Confiança em Respostas de IA

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

Indicador de Confiança em Respostas de IA é o elemento de interface que exibe, junto a cada resposta de um assistente de IA, uma porcentagem de quanto aquela resposta merece confiança.

Ele resolve um problema de expectativa. Por padrão, um modelo tenta sempre acertar e responder, mesmo sem contexto suficiente, e é essa tendência que produz alucinações. Uma resposta sem nenhum sinal de incerteza passa ao usuário a falsa impressão de garantia. Com o indicador, o sistema deixa claro que usa IA e que pode errar, e ganha uma saída aceitável para admitir dúvida em vez de fabricar certeza.

Como o indicador se comporta

Numa pergunta dentro do escopo, com o sistema funcionando bem, o percentual tende a ficar alto. Quando algo foge do esperado, ele deve cair: uma pergunta feita em russo num assistente pensado para português deveria vir com confiança baixa, não com uma resposta com aparência de certeza. Num protótipo de assistente virtual para acompanhar o processo de habilitação de motoristas, cada resposta, gerada por chamada real a uma API de IA, vinha com o percentual na tela, e pergunta e resposta ficavam gravadas no banco do sistema.

O limite apareceu numa pergunta fora do conhecimento fornecido: o assistente devolveu uma resposta padrão dizendo que não tinha a informação, em vez de inventar. É melhor que alucinar, mas o ideal seria buscar o dado faltante no próprio banco do sistema.

O que o número garante e o que não garante

O percentual vem do próprio sistema de IA, não de uma medição externa e calibrada de acerto. Serve como gatilho de atenção, não como garantia. O uso mais útil é operacional: abaixo de um limiar, o sistema deixa de seguir sozinho e encaminha a resposta para revisão, o que faz do indicador uma porta de entrada para Human in the Loop. Ele complementa os Guardrails, que limitam o que o modelo pode fazer, mostrando ao usuário quando a resposta merece desconfiança.