Pular para o conteúdo
LabS Atlas
Generative AI
Entrar
Sessões

Debate Estamos Preparados para a IA Generativa (2025-06-30)

30 jun 20251h 18min
Assistir gravação

Entre para ler os trechos da transcrição de cada capítulo e perguntar ao Labinho sobre esta sessão.

O Labinho é o assistente que responde com as notas e as sessões do LabS e mostra de onde tirou cada resposta.

atualizado há 25 dias
Resumo da sessão

A sessão debateu se pessoas, profissionais e empresas estão preparados para os impactos da IA generativa, com foco em privacidade, segurança e ética. No tema da privacidade, discutiu-se o uso de dados públicos e pessoais por empresas para treinar modelos e personalizar conteúdos. Parte dos participantes considerou aceitável autorizar esse uso como forma de colaboração e melhoria das ferramentas, enquanto outros demonstraram preocupação com a falta de controle, a reprodução de imagem e voz e o uso comercial indevido das informações. Também se destacou que muitos dados já são coletados, mesmo sem autorização clara, tornando difícil controlar ou até saber como são utilizados.

Na discussão sobre segurança, foram analisados golpes com deepfakes, clonagem de voz e vídeos falsos usados para obter transferências financeiras ou influenciar eleições. O grupo concluiu que a evolução e o baixo custo dessas ferramentas dificultam a identificação de conteúdos manipulados e exigem novos mecanismos de verificação, como autenticação, biometria ou registros de origem. No eixo ético, prevaleceu a visão de que a IA deve apoiar, e não substituir integralmente, decisões em áreas como contratação, saúde e justiça. Sistemas podem fazer triagens e tarefas objetivas, mas decisões complexas precisam de supervisão humana, testes, transparência e responsabilização. Permaneceram em aberto os limites legais e éticos para uso de dados, direitos autorais, autonomia dos sistemas e formas confiáveis de distinguir conteúdos reais de artificiais.

Gerado por IA a partir da transcrição.
Capítulos · 26
07:28
Abertura e conversa inicial
Assistir
10:07
Objetivos e formato do debate sobre IA
Assistir
11:23
IA, ética e produtividade em tarefas repetitivas
Assistir
12:39
Tema da sessão: estamos preparados para a IA generativa?
Assistir
15:13
Apresentação dos três tópicos do debate
Assistir
16:28
Privacidade, segurança e ética no uso da IA
Assistir
20:25
Vídeo e provocação sobre privacidade de dados
Assistir
23:06
Debate: autorização para uso de dados pessoais
Assistir
33:28
Dados pessoais como colaboração para melhores respostas
Assistir
38:39
Encerramento do debate sobre privacidade
Assistir
40:00
Golpes com deepfakes e ataques de engenharia social
Assistir
42:36
Debate: como comprovar que um vídeo é falso?
Assistir
49:00
Mecanismos de defesa contra vídeos e vozes falsas
Assistir
50:20
Tecnologias de autenticação e confiança digital
Assistir
51:38
Evolução dos vídeos gerados por IA e deepfakes
Assistir
54:09
Uma nova era de confiança nas interações virtuais
Assistir
56:45
Acessibilidade da IA e o risco de uso criminoso
Assistir
58:02
Ética e responsabilidade no uso da inteligência artificial
Assistir
59:17
Aplicações médicas, privacidade e poder das big techs
Assistir
1:01:50
Decisões automatizadas em recrutamento e áreas críticas
Assistir
1:03:06
Limites da automação e importância da análise humana
Assistir
1:06:56
Validação humana e riscos de retrabalho com IA
Assistir
1:09:30
Fraudes com voz, imagem e engenharia social
Assistir
1:10:51
IA como aceleradora, não substituta dos profissionais
Assistir
1:13:23
Confiança em serviços digitais e desafios de copyright
Assistir
1:15:57
Encerramento e reflexões sobre o futuro da IA
Assistir
Cortes · 6
Privacidade e uso de dados pela IA
O debate discute se as pessoas deveriam autorizar empresas de IA a usar seus dados, fotos, textos, voz e preferências para treinar modelos e gerar conteúdos. Os participantes ponderam os benefícios da personalização e da colaboração com sistemas de IA, além dos riscos de reprodução indevida de imagem, voz e comportamento e da falta de controle sobre dados já publicados.
20:25 – 40:00Assistir
Deepfakes, golpes e como provar a autenticidade
A partir de um caso de golpe envolvendo uma videoconferência criada com deepfake, o grupo debate os riscos de fraudes financeiras, manipulação política e clonagem de voz e imagem. Os participantes discutem como identificar vídeos falsos, os limites das evidências visuais e possíveis mecanismos de proteção, como autenticação, biometria e intermediários digitais confiáveis.
40:00 – 51:38Assistir
Deepfakes cada vez mais acessíveis
O grupo discute como a evolução da inteligência artificial torna mais simples e barato criar vídeos, vozes e modelos 3D falsos convincentes. A conversa aborda o uso mal-intencionado dessas ferramentas, a dificuldade de distinguir conteúdos reais e os possíveis impactos nas interações virtuais e na confiança entre as pessoas.
51:38 – 58:02Assistir
Ética e decisões automatizadas
A discussão parte de exemplos do uso de IA na medicina, na análise de dados privados e em processos seletivos. Os participantes refletem sobre os limites de delegar decisões a algoritmos em áreas como contratação, saúde e justiça, defendendo supervisão humana e atenção aos vieses.
58:02 – 1:06:56Assistir
IA como apoio, não substituição
Os participantes relatam experiências práticas com ferramentas de IA e destacam que seus resultados precisam ser conferidos manualmente. Também discutem golpes com vídeos e áudios falsos, a vulnerabilidade de pessoas diante de conteúdos convincentes e a ideia de usar a IA como aceleradora, mas não como substituta da validação humana.
1:06:56 – 1:13:23Assistir
Confiança, autoria e responsabilidade na IA
A conversa compara a adoção gradual de novas tecnologias, como aplicativos de pagamento, com os desafios atuais da inteligência artificial. Em seguida, aborda direitos autorais sobre imagens e códigos gerados ou modificados por IA, além da necessidade de criar regras para responsabilizar decisões erradas tomadas por sistemas autônomos.
1:13:23 – 1:15:57Assistir
Perguntas desta sessão
O que acontece se um usuário não consentir com o uso de seus dados pessoais por aplicativos da Meta?
Segundo a discussão, a pessoa pode perder o acesso aos aplicativos, pois o consentimento pode ser apresentado como condição para continuar usando os serviços.
25:14 – 25:18Assistir
Como um sistema de IA verifica se uma foto enviada pertence realmente à pessoa que afirma ser retratada?
A discussão indica que o sistema pode não conseguir verificar a identidade ou a autorização do retratado: qualquer pessoa pode enviar a foto de outra pessoa, e a imagem pode ser usada na geração sem consentimento.
25:47 – 25:56Assistir
Como é possível provar que um vídeo foi gerado por inteligência artificial?
A verificação é difícil porque os vídeos estão cada vez mais verossímeis. Podem ser observados sinais como movimentos exagerados, mãos ou objetos deformados e outros defeitos visuais, além de confirmar a informação diretamente com a pessoa retratada.
43:38 – 46:08Assistir
Como uma pessoa pode provar que um vídeo falso não é autêntico?
A comprovação depende do contexto e de quem precisa ser convencido. Para pessoas próximas, pode ser possível esclarecer diretamente a situação; para desconhecidos, a crescente qualidade dos vídeos gerados por IA torna a prova muito mais difícil.
46:30 – 46:46Assistir
Como as pessoas podem se proteger do uso mal-intencionado da inteligência artificial para criar deepfakes?
A proteção exige reconhecer que ferramentas de IA estão baratas e acessíveis, permitindo que pessoas mal-intencionadas produzam falsificações com facilidade. É necessário compreender os riscos e adotar medidas adequadas ao contexto para reduzir a exposição a esses ataques.
54:09 – 54:25Assistir
Como o uso de dados privados por grandes empresas de tecnologia se relaciona com as preocupações éticas sobre privacidade?
As empresas de tecnologia podem usar dados privados em grande escala, o que gera riscos de invasão de privacidade e exige limites para o uso ético dessas informações.
1:01:26 – 1:01:46Assistir
Até que ponto decisões automatizadas em áreas como saúde, justiça e contratação de pessoas são aceitáveis?
Decisões importantes devem passar por avaliação humana. A IA pode apoiar tarefas simples e objetivas, mas não deve substituir a análise humana em situações complexas ou de alto impacto.
1:02:33 – 1:04:19Assistir
Como deve ser definido o limite aceitável para decisões automatizadas?
O limite deve considerar a importância da decisão: quanto maior o impacto, maior a necessidade de revisão humana. Esse limite pode mudar com a evolução da tecnologia e da sociedade.
1:05:48 – 1:06:34Assistir
Que exemplos mostram como as pessoas passam a confiar em novas tecnologias e formas de interação?
O pagamento de boletos ilustra essa evolução: as pessoas passaram do atendimento presencial, que transmitia segurança, para aplicativos e outros meios digitais, nos quais passaram a confiar gradualmente por serem mais convenientes.
1:13:18 – 1:14:02Assistir