Deepfake
Ir para notas que citam estaDeepfake é a técnica de IA que troca rostos em vídeo e sincroniza voz, lábios e expressões para simular uma pessoa real dizendo ou fazendo algo que nunca fez.
O resultado combina imagem e áudio de forma coerente, o que o aproxima da Inteligência Artificial Multimodal. A matéria-prima é o material que a própria vítima deixou disponível: fotos, vídeos e gravações de voz, o que liga o tema à Privacidade de Dados em IA Generativa. Quanto mais horas de vídeo e áudio uma pessoa publica, mais fácil é cloná-la. A parte sonora do problema, com clones feitos a partir de poucos segundos de gravação, está em Clonagem de Voz.
Golpes e desinformação com deepfake
Um caso emblemático aconteceu numa multinacional em Hong Kong. Criminosos invadiram um e-mail corporativo, obtiveram informações confidenciais e convocaram o diretor financeiro para uma videoconferência em que todos os outros participantes eram deepfakes de funcionários reais. Convencido, ele fez 15 transferências que somaram quase R$ 130 milhões. O golpe só foi descoberto quando o funcionário consultou diretamente a sede, e seis criminosos acabaram presos.
O caso mostra que o deepfake raramente age sozinho: as informações do e-mail invadido davam credibilidade à conversa, num clássico de engenharia social. Outras táticas reforçam o efeito, como baixar a qualidade da chamada para mascarar defeitos. A vítima também não precisa ser ingênua ou idosa; um executivo experiente caiu.
Na política, eleitores de New Hampshire, nos Estados Unidos, receberam ligações com a voz clonada do presidente Joe Biden orientando a não votar nas primárias democratas. Em um único ano, 16 países identificaram o uso dessas ferramentas para gerar dúvidas sobre candidatos. Imagem de terceiros também serve para abrir contas e contratar empréstimos.
Sinais de detecção e seu prazo de validade
Vídeos gerados por IA ainda costumam deixar marcas: número errado de dedos, microfones que parecem flutuar, olhos arregalados demais, pele sem poros nem textura e movimentos corporais exagerados. A expectativa é que esses sinais deixem de ser confiáveis em algo entre seis meses e um ano, à medida que os modelos de vídeo evoluem. E revisar um vídeo gravado com calma é muito diferente de examinar quinze rostos numa chamada ao vivo.
Provar que um vídeo é falso também depende de quem precisa ser convencido. Uma pessoa comum consegue explicar ao seu círculo próximo que aquele vídeo não é dela. Com uma figura pública, o estrago pode ficar mesmo depois do desmentido, porque o desmentido não chega a todos e nem todos acreditam nele.
O custo, não a possibilidade, é o que mudou
Manipular mídia não é novidade da IA. Em 2019, uma emissora de TV exibiu por engano um trecho do jogo GTA V como se fosse um treino real de motoristas presidenciais americanos. Com incentivo suficiente, sempre foi possível modelar em 3D uma pessoa convincente. A diferença é o preço: sem IA, isso exige semanas de modelagem, cenário, equipe de produção e alguém capaz de imitar a voz; com IA, um vídeo com o rosto e o timbre de alguém sai rápido e barato. Quem ataca continua sendo uma pessoa mal-intencionada, que passou a ter uma ferramenta acessível.
Defesas em discussão
- Desconfiança social: assim como já se aprendeu a ignorar SMS suspeito de número desconhecido, chamadas de voz e vídeo tendem a passar pelo mesmo filtro.
- Confirmação por canal independente: foi o que desmontou o golpe de Hong Kong.
- Presença física para operações críticas: há quem exija em contrato com o banco que transferências só ocorram presencialmente, justamente por ter muito vídeo e áudio público.
- Biometria facial e de voz, que evolui para acompanhar os geradores.
- Um intermediário digital confiável, possivelmente baseado em blockchain, que ateste a autenticidade de um vídeo como um intermediário confiável faz no mundo analógico. É uma possibilidade, não uma solução existente.
Deepfake ataca exatamente o ponto em que se confia no julgamento de uma pessoa. Manter supervisão humana só protege se quem decide souber reconhecer uma interação manipulada.