Pular para o conteúdo
LabS Atlas
Generative AI
Entrar

Dark Patterns

Ir para notas que citam esta
atualizado há 25 diasEntre para perguntar ao Labinho sobre esta notaO Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

Dark patterns são padrões de design que usam persuasão para induzir o usuário a decisões de consumo que servem mais à plataforma do que às necessidades dele.

Também chamados de dark UX, eles não são novos, mas ganham força com a hiperpersonalização das Interfaces Inteligentes. Quanto mais a interface sabe sobre a pessoa, mais precisamente consegue antecipar o que ela vai querer e, no lado errado dessa linha, empurrá-la para o que dá mais receita. A personalização foi pensada para aproximar a interface do usuário; o dark pattern é essa mesma personalização aplicada no sentido oposto.

Retenção disfarçada de recomendação

Em plataformas de filmes e música, a recomendação parece um benefício puro, mas o objetivo de negócio é reter o usuário e manter o consumo contínuo. O efeito colateral é a bolha: quem assiste a um filme de terror passa a ver dezenas de outros do mesmo gênero, e a diversidade de opções encolhe. Há um benefício real, porque o conteúdo tende a ser mais relevante para o histórico da pessoa, e as mesmas plataformas oferecem trilhas de novidades. O dark pattern começa quando a retenção passa a valer mais do que o interesse do usuário.

Em lojas online o mecanismo é o mesmo: pesquisar uma panela faz o usuário ser bombardeado por panelas de todo tipo. Plataformas são produtos, e a ordem dos resultados também pode ser influenciada por quem paga mais para aparecer, como no caso hipotético de uma versão recente e patrocinada de uma música antiga aparecer antes da original.

Técnicas de indução mais comuns

  • Imagem melhorada: fotos de produto tratadas ou geradas por IA aumentam a intenção de compra sem que o produto mude.
  • Atalho cognitivo explorado: o cérebro evita esforço e aceita o que pode delegar, princípio explorado no livro Não Me Faça Pensar. Cansada, a pessoa só quer o problema resolvido e aceita a primeira sugestão.
  • Sugestão do item mais caro: se a plataforma de delivery sabe que alguém gosta de comida japonesa, uma das categorias de ticket mais alto, passa a destacar essas ofertas primeiro.
  • Insistência: cupons e anúncios que reaparecem assim que são dispensados.

Rastreamento e o preço da personalização

O aplicativo instalado coleta mais do que o site aberto no navegador, onde é possível bloquear cookies e apagar o histórico. Mesmo sem compartilhar a localização, um aplicativo pode inferir o domicílio pelo IP do roteador e cruzar os pedidos de todos que moram ali. O resultado aparece em sugestões vindas do histórico de compra de outra pessoa da casa, uma personalização indesejada que expõe dados de terceiros e toca diretamente na Privacidade de Dados em IA Generativa. A ficção já explorou esse limite: um episódio de Black Mirror, Joan Is Awful, imagina um serviço de streaming que usa os dados autorizados da assinante para produzir uma série sobre a vida dela.

Como reduzir a exposição

Usar o serviço pelo navegador em vez do aplicativo limita a coleta. Outra saída é rodar modelos abertos na própria máquina, via Execução Local de Modelos de Linguagem. Mesmo aberto, porém, um modelo pode enviar dados para servidores externos, e a escolha exige cuidado.

Do lado de quem constrói, o antídoto são as Heurísticas para IA Responsável em Interfaces, em especial visibilidade e controle, e o hábito de desconfiar de uma interface que decide rápido demais pelo usuário.