Pular para o conteúdo
LabS Atlas
Generative AI
Entrar

Human in the Loop

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

Human in the loop é o princípio de manter uma pessoa revisando, validando e respondendo por decisões apoiadas por IA, em vez de deixar o sistema decidir sozinho.

A pergunta que o princípio responde é até onde é aceitável delegar decisões automáticas em áreas como contratação, saúde e justiça. Delegar uma decisão complexa pressupõe confiar que o sistema julga como um humano julgaria, o que é arriscado enquanto o modelo pode carregar viés e errar sem que ninguém perceba. O cenário típico: um candidato bem formado, com boas recomendações, tem o currículo descartado por uma triagem automática e nunca fica sabendo o motivo.

Onde a automação é aceitável

Uma divisão pragmática separa critérios objetivos de julgamento. A IA pode verificar requisitos obrigatórios e óbvios: se a vaga exige formação em direito e registro na OAB, se exige residência fixa no país, se o paciente já fez os exames antes de marcar o retorno. Tudo o que pede análise além do óbvio fica com uma pessoa.

A triagem de currículos já é realidade em empresas de TI, em maior ou menor grau, e ilustra o limite: o ranqueamento tende a premiar o currículo mais bem escrito, não necessariamente o mais verdadeiro. Por isso decisões importantes devem passar por um crivo humano, embora definir o que é importante seja em si uma decisão.

A IA como acelerador, não como decisor

A medicina oferece o modelo. Um aplicativo treinado com cerca de 100 mil radiografias indica em segundos uma possível lesão, e há algoritmos que reconhecem sinais de Parkinson pelo jeito de caminhar antes dos médicos. Mas o ato médico exige que um profissional revise e assine o laudo: o relatório chega pronto, e alguém responde por ele.

Em TI não existe um equivalente formal ao ato médico, mas a lógica é a mesma. A IA produz, e as pessoas supervisionam, validam e aprimoram. Ela substitui bem o trabalho de copiar, colar e ajustar, como gerar código a partir do esquema de um banco de dados ou preencher massas de teste. Um padrão recorrente mostra o risco de pular a validação: ao mapear campos que precisavam mudar em várias aplicações, a IA agilizou a busca, mas a conferência manual revelou pontos que ela deixou passar e gerou retrabalho. Produtividade só compensa quando a saída é conferida, tema que se aprofunda em Confiabilidade de Código Gerado por IA.

Validar sempre

Se a saída não é confiável, a IA atrapalha em vez de acelerar. Testar o máximo de possibilidades antes de aceitar o resultado é o que evita o retrabalho.

A fronteira muda com a confiança

O que é inaceitável num momento pode virar rotina pouco depois. Pagar boletos já exigiu ir ao caixa do banco ou à lotérica para garantir a compensação; a confiança nos aplicativos veio com o uso. A automação de decisões tende a seguir o mesmo caminho, e uma posição firme pode parecer equivocada seis meses depois.

Dois cuidados acompanham essa transição. Primeiro, a decisão humana também falha e pode ser manipulada, como mostra o Deepfake usado em golpes. Segundo, dar autonomia a agentes sem saber se são capazes de agir corretamente é uso imprudente; é provável que muitas regras nasçam depois de decisões erradas de sistemas autônomos. Limitar o escopo do que o agente pode decidir sozinho, com Guardrails, é a forma de manter o humano no circuito onde ele importa.