Pular para o conteúdo
LabS Atlas
AI For Devs
Entrar

Revisão Humana de Saídas de IA

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

Revisão humana de saídas de IA é o princípio de que código, testes e documentos gerados por IA precisam ser entendidos e validados por um profissional antes do uso.

O princípio existe por três razões. O modelo aprende com código público de qualidade variada. Ele tende a concordar com quem pergunta. E sempre devolve uma resposta, mesmo quando não tem base para isso. Somadas, essas tendências produzem saídas plausíveis e erradas, da Alucinação pura a soluções que funcionam no momento e viram dívida técnica depois. Daí a ideia de que a IA complementa o profissional e não o substitui: quem sabe usar a ferramenta rende mais, mas quem assina o resultado continua sendo a pessoa.

Por que a saída de IA não merece confiança cega

Boa parte do código público usado no treino vem de portfólios de faculdade, programas de brinquedo e soluções incompletas postadas em fóruns como o Stack Overflow. A primeira resposta nem sempre presta. É preciso garimpar, direcionando o contexto e o prompt até o código ficar bom.

O modelo também raramente admite que não sabe. Como o candidato que nunca responde "não sei" numa entrevista, ele entrega algo com confiança. E tende ao viés de confirmação: responde de acordo com o que percebe que o usuário quer ouvir, não com o que é tecnicamente mais correto. Por isso quem valida precisa saber tanto quanto a IA, ou mais.

A falta de contexto é o gatilho mais comum. Na Documentação de Requisitos com IA Generativa, sem conhecer o esquema real do banco, o assistente inventou uma tabela tb_aluno onde o nome certo era tb_discente, e reintroduziu um requisito que tinha sido excluído. O discernimento mínimo é ler o que foi gerado e conferir com a realidade.

Vibe coding e a responsabilidade pelo merge

Vibe coding é aceitar as modificações sugeridas pela IA sem entender o código alterado, confiando que a ferramenta sabe o que faz. O risco cresce com ferramentas que editam arquivos diretamente, como o Aider e outros Assistentes de Código com IA: uma mudança aceita às cegas pode quebrar outras partes do projeto sem que ninguém perceba. O sintoma típico é usar IA para resolver um problema sem dominar o básico do próprio editor.

A programação se automatiza cada vez mais, mas a responsabilidade não muda de mãos. Aprovar um pull request para produção continua sendo decisão de um desenvolvedor humano.

Código gerado em escala e dívida técnica

As estimativas sobre quanto código a IA já escreve divergem muito. Uma empresa de IA falou em cerca de 90% do código produzido em 2025. Empresas com processo de desenvolvimento mais maduro estimaram algo entre 20% e 30%, justamente porque já reaproveitam e refatoram mais o próprio código.

O risco técnico mais citado é a duplicação. A IA resolve o problema que recebeu, muitas vezes repetindo lógica em vários lugares em vez de reaproveitar o que já existe, e deixa para depois um trabalho humano de limpeza e refatoração. É como pedir uma rota a quem dá várias voltas até chegar ao mesmo destino. Fica em aberto se a IA acompanha a refatoração evolutiva que uma arquitetura precisa quando a base de usuários salta de milhares para milhões.

A IA eleva o patamar, não substitui

Qualquer papel da engenharia de software ganha qualidade com IA, desde que haja alguém capaz de julgar o resultado. Em QA, a IA pode assumir a geração de testes de nível júnior ou pleno e liberar o profissional para requisitos e visão de negócio, mas só aprende bem com exemplos de teste bem construídos. Testes gerados por LLMs ainda saem com qualidade estrutural baixa em boa parte dos casos, como mostra a Avaliação de Testes Gerados por LLMs.

Experiência de domínio faz diferença no resultado

Com a mesma ferramenta, quem conhece o domínio escreve prompts mais direcionados e recebe respostas mais detalhadas e assertivas. Quem assume um papel que não é o seu, como um desenvolvedor fazendo as vezes de analista de requisitos, chega a um resultado de qualidade dentro de um escopo bem definido. O valor vem de saber conduzir a interação e reconhecer o que está errado.