DEEPFAKE COMO DESAFIO JURÍDICO E SOCIAL ANÁLISE JURÍDICO COMPARADA EM PERSPECTIVA INTERNACIONAL

Deepfake as a Legal and Social Challenge a Comparative International Analysis

Autores

  • Ana Carolina Fukuha FAE Centro Universitario
  • João Victor Archegas
  • Maria Eduarda Fürst

DOI:

https://doi.org/10.55388/rdf.v10i2.179

Palavras-chave:

Análise comparativa. Deepfake. Direitos fundamentais. Inteligência artificial. Regulação jurídica.

Resumo

O avanço das tecnologias de inteligência artificial, especialmente aquelas voltadas à geração de conteúdos audiovisuais sintéticos como as deepfakes, tem imposto novos desafios ao Direito e à sociedade. Ao manipular de forma hiper-realista imagens, vozes e vídeos, tais ferramentas suscitam riscos relevantes à privacidade, à honra, à integridade informacional e à própria estabilidade democrática. O presente trabalho tem como objetivo analisar o fenômeno das deepfakes sob uma perspectiva jurídico-comparada, identificando impactos sociais e riscos jurídicos, bem como avaliando as iniciativas normativas em curso no Brasil, na União Europeia, nos Estados Unidos e na China. A pesquisa, de natureza qualitativa, fundamenta-se em revisão bibliográfica e documental de fontes acadêmicas, legislativas e institucionais. A análise contempla não apenas os riscos associados às deepfakes, mas também a forma como sua regulação pode afetar direitos fundamentais, em especial a privacidade, a proteção de dados, a liberdade de expressão e a tutela da imagem e da personalidade. Os resultados evidenciam que, embora haja esforços significativos em diferentes jurisdições — como o AI Act europeu, as normas chinesas de síntese profunda e os projetos legislativos brasileiros — ainda persistem lacunas regulatórias quanto à transparência, à responsabilização de provedores e à proteção da identidade digital. Conclui-se que a regulação das deepfakes exige um equilíbrio entre inovação e proteção de direitos fundamentais, com ênfase em medidas preventivas, educação digital e governança cooperativa entre Estados, plataformas e sociedade civil.

Biografia do Autor

João Victor Archegas

Professor de Direito na FAE e Coordenador no ITS Rio. Mestre e Doutorando em Direito pela UFPR e Master of Laws pela Harvard Law School, onde foi Gammon Fellow de excelência acadêmica.

Referências

ABBA. Abba Voyage. 2021. Disponível em: https://abbavoyage.com/. Acesso em: 20 set. 2025.

AGÊNCIA SENADO. Projeto das fake news: entenda pontos da proposta em análise no Congresso. Senado Notícias, 2020. Disponível em: https://www12.senado.leg.br/noticias/infomaterias/2020/12/projeto-das-fake-news-entenda-pontos-da-proposta-em-analise-no-congresso. Acesso em: 20 set. 2025.

AGÊNCIA SENADO. Projetos buscam restringir manipulação de imagens com inteligência artificial. Senado Notícias, 7 fev. 2024b. Disponível em: https://www12.senado.leg.br/noticias/materias/2024/02/07/projetos-buscam-restringir-manipulacao-de-imagens-com-inteligencia-artificial. Acesso em: 20 set. 2025.

AGÊNCIA SENADO. Senado aprova regulamentação da inteligência artificial; texto vai à Câmara. Senado Notícias, 10 dez. 2024a. Disponível em: https://www12.senado.leg.br/noticias/materias/2024/12/10/senado-aprova-regulamentacao-da-inteligencia-artificial-texto-vai-a-camara. Acesso em: 20 set. 2025.

AGUIAR, Victor. Uso de IA e deepfakes para constranger mulheres poderá dar até 4 anos de cadeia, prevê projeto. CNN Brasil, 24 maio 2024. Disponível em: https://www.cnnbrasil.com.br/politica/uso-de-ia-e-deepfakes-para-constranger-mulheres-podera-dar-ate-4-anos-de-cadeia-preve-projeto/. Acesso em: 20 set. 2025.

AL JAZEERA. How AI is resurrecting dead Indian politicians as election looms. 12 fev. 2024. Disponível em: https://www.aljazeera.com/economy/2024/2/12/how-ai-is-used-to-resurrect-dead-indian-politicians-as-elections-loom. Acesso em: 19 maio 2025.

AMERINI, I. et al. Deepfake Media Forensics: Status and Future Challenges. Journal of Imaging, v. 11, n. 3, p. 73, 2025. DOI: https://doi.org/10.3390/jimaging11030073.

ARCHEGAS, João Victor. Constitucionalismo Digital: limites constitucionais na nova fronteira do poder. Belo Horizonte: Fórum, 2025.

ARTIFICIAL INTELLIGENCE ACT. Artificial Intelligence Act – The EU Artificial Intelligence Regulation. 2024. Disponível em: https://artificialintelligenceact.eu/. Acesso em: 19 set. 2025.

BIONI, Bruno Ricardo. Proteção de Dados Pessoais: a função e os limites do consentimento. 3. ed. Rio de Janeiro: Forense, 2021.

BORGES, Rebeca. Câmara aprova projeto que pune divulgação de “deepfake” com conteúdo sexual. CNN Brasil, 19 fev. 2025. Disponível em: https://www.cnnbrasil.com.br/politica/camara-aprova-projeto-que-pune-divulgacao-de-deepfake-com-conteudo-sexual/. Acesso em: 20 set. 2025.

BRASIL. Agência Câmara de Notícias. Projeto exige consentimento prévio para uso de deepfake de pessoa falecida. Rep.: Emanuelle Brasil, 7 ago. 2023. Disponível em: https://www.camara.leg.br/noticias/983623-projeto-exige-consentimento-previo-para-uso-de-deepfake-de-pessoa-falecida/. Acesso em: 20 set. 2025.

BRASIL. Código Civil. Lei nº 10.406, de 10 de janeiro de 2002.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD).

BRASIL. Senado Federal. Projeto de Lei nº 2338/2023. Dispõe sobre o uso de sistemas de Inteligência Artificial. Brasília, 2023. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/162439. Acesso em: 20 set. 2025.

BRASIL. Supremo Tribunal Federal. Informação à sociedade: decisão sobre a inconstitucionalidade parcial e progressiva do artigo 19 do Marco Civil da Internet (Lei nº 12.965/2014). Recursos Extraordinários nº 1.037.396 (Tema 987) e nº 1.057.258 (Tema 533). Relatores: Ministros Dias Toffoli e Luiz Fux. Julgado em 26 jun. 2025. Brasília, DF: STF, 2025. Disponível em: https://portal.stf.jus.br/processos/detalhe.asp?incidente=5160549. Acesso em: 24 out. 2025.

BRASIL. Tribunal Superior Eleitoral. Resolução nº 23.732, de 27 de fevereiro de 2024. Altera a Resolução-TSE nº 23.610, de 18 de dezembro de 2019, dispondo sobre a propaganda eleitoral. Brasília, DF: TSE, 2024. Disponível em: https://www.tse.jus.br/legislacao/compilada/res/2024/resolucao-no-23-732-de-27-de-fevereiro-de-2024. Acesso em: 24 out. 2025.

CAPORUSSO, N. Deepfakes for the good: a beneficial application of contentious artificial intelligence technology. In: International Conference on Applied Human Factors and Ergonomics. Orlando: Springer, 2020. p. 235–241.

CASTELLS, Manuel. A sociedade em rede. 9. ed. São Paulo: Paz e Terra, 2015.

CHESNEY, Robert; CITRON, Danielle Keats. Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review, v. 107, n. 6, p. 1753–1820, 2019. DOI: https://doi.org/10.2139/ssrn.3213954.

CHINA. Cyberspace Administration of China (CAC). Provisions on the Administration of Algorithmic Recommendation for Internet Information Services. Pequim, 2022. Disponível em: http://www.cac.gov.cn/2022-01/04/c_1642894606364257.htm. Acesso em: 19 set. 2025.

CHINA. Cyberspace Administration of China (CAC). Provisions on the Administration of Deep Synthesis Internet Information Services. Pequim, 2022. Disponível em: http://www.cac.gov.cn/2022-12/11/c_1672221536394086.htm. Acesso em: 19 set. 2025.

CHINA. Data Security Law of the People’s Republic of China (DSL). Congresso Nacional do Povo, Pequim, 2021. Disponível em: http://www.npc.gov.cn/. Acesso em: 19 set. 2025.

CHINA. Ethical Norms for New Generation Artificial Intelligence. Ministério da Ciência e Tecnologia (MOST), Pequim, 2021. Disponível em: http://www.most.gov.cn/. Acesso em: 19 set. 2025.

CHINA. Interim Measures for the Management of Generative Artificial Intelligence Services. CAC; Conselho de Estado; Ministério da Indústria e TI, 2023. Disponível em: http://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm. Acesso em: 19 set. 2025.

CHINA. Measures for Ethical Review of Science and Technology Related to Humans. MOST, Pequim, 2023. Disponível em: https://www.most.gov.cn/. Acesso em: 19 set. 2025.

CHINA. New Generation Artificial Intelligence Development Plan. Conselho de Estado da RPC, Pequim, 2017. Disponível em: http://www.gov.cn/. Acesso em: 19 set. 2025.

CHINA. Personal Information Protection Law of the People’s Republic of China (PIPL). Congresso Nacional do Povo, Pequim, 2021. Disponível em: http://www.npc.gov.cn/. Acesso em: 19 set. 2025.

CLEGG, Nick. Labeling AI-generated images on Facebook, Instagram and Threads. About.fb.com, 6 fev. 2024. Disponível em: https://about.fb.com/news/2024/02/labeling-ai-generated-images-on-facebook-instagram-and-threads/. Acesso em: 20 set. 2025.

CNN BRASIL. Câmara aprova projeto que pune divulgação de deepfake com conteúdo sexual. 10 set. 2024. Disponível em: https://www.cnnbrasil.com.br/politica/camara-aprova-projeto-que-pune-divulgacao-de-deepfake-com-conteudo-sexual/. Acesso em: 20 set. 2025.

EUROPOL. Facing reality? Law enforcement and the challenge of deepfakes. Europol Innovation Lab, 2022. Disponível em: https://www.europol.europa.eu/cms/sites/default/files/documents/Europol_Innovation_Lab_Facing_Reality_Law_Enforcement_And_The_Challenge_Of_Deepfakes.pdf. Acesso em: 7 maio 2025.

ESTADOS UNIDOS. California Consumer Privacy Act (CCPA). Califórnia, 2018.

ESTADOS UNIDOS. Children’s Online Privacy Protection Act (COPPA). 1998.

ESTADOS UNIDOS. Executive Order 14110 – Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence. 30 out. 2023.

ESTADOS UNIDOS. Executive Order 14179 – Removing Barriers to American Leadership in Artificial Intelligence. 23 jan. 2025.

ESTADOS UNIDOS. Health Insurance Portability and Accountability Act (HIPAA). 1996.

ESTADOS UNIDOS. Tennessee. Ensuring Likeness Voice and Image Security (ELVIS) Act. Tenn. Code Ann. §47-25-1101 et seq., 2024.

ESTADOS UNIDOS. Take It Down Act. Congress Bill no. 118-78, 2025.

FORBES. Celebridades brasileiras são vítimas da IA: aprenda a reconhecer conteúdos falsos. São Paulo, jan. 2025. Disponível em: https://forbes.com.br/forbes-tech/2025/01/celebridades-brasileiras-sao-vitimas-de-ia-aprenda-a-reconhecer-conteudos-falsos/. Acesso em: 6 maio 2025.

FORTIS, Savannah. TikTok to automatically label AI-generated content. CoinTelegraph, 9 mai. 2024. Disponível em: https://cointelegraph.com/news/tiktok-auto-labeling-ai-generated-content. Acesso em: 20 set. 2025.

G1 PERNAMBUCO. Alunas de colégio particular do Recife denunciam divulgação de “nudes” falsos criados com inteligência artificial; polícia investiga. G1, nov. 2023. Disponível em: https://g1.globo.com/pe/pernambuco/noticia/2023/11/07/alunas-de-colegio-particular-do-recife-denunciam-divulgacao-de-nudes-falsos-criados-com-inteligencia-artificial-policia-investiga.ghtml. Acesso em: 3 maio 2025.

G1 RIO GRANDE DO SUL. Adolescentes são suspeitos de criar falsos vídeos com inteligência artificial de alunas nuas no RS; polícia investiga. G1, mar. 2024. Disponível em: https://g1.globo.com/rs/rio-grande-do-sul/noticia/2024/03/19/policia-civil-investiga-videos-de-nudez-de-adolescentes-produzidos-por-inteligencia-artificial-em-porto-alegre.ghtml. Acesso em: 3 maio 2025.

G7. Hiroshima Leaders’ Communiqué. Hiroshima: G7 Summit, 2023. Disponível em: https://www.g7hiroshima.go.jp/en/documents/. Acesso em: 20 set. 2025.

GEORGE WASHINGTON UNIVERSITY. US states struggle to define deepfakes and related terms as technically complex legislation proliferates. GW Law, 2023. Disponível em: https://www.law.gwu.edu/us-states-struggle-define-deepfakes-and-related-terms-technically-complex-legislation-proliferates. Acesso em: 19 maio 2025.

GPAI. Working Group on Misinformation and Synthetic Media. Paris: GPAI, 2023. Disponível em: https://gpai.ai/workstreams/. Acesso em: 20 set. 2025.

ILLINOIS. Biometric Information Privacy Act (BIPA), 740 ILCS 14. Springfield, 2008. Disponível em: https://www.ilga.gov/legislation/ilcs/ilcs3.asp?ActID=3004&ChapterID=57. Acesso em: 19 set. 2025.

INTERNATIONAL TELECOMMUNICATION UNION (ITU). Report on AI-driven deepfakes and global elections. Genebra: ITU, 2025.

KARNOUSKOS, S. Artificial Intelligence in Digital Media: The Era of Deepfakes. IEEE Transactions on Technology and Society, v. 1, n. 3, p. 138–147, set. 2020. DOI: 10.1109/TTS.2020.3001312.

KOBISCHKO, Mariane; HEISS, Robert. Regulating Deepfakes in the EU and Germany: Approaches and Perspectives. Journal of Data Protection & Privacy, v. 6, n. 2, p. 130–145, 2023.

KWOK, A. O.; KOH, S. G. Deepfake: a social construction of technology perspective. Current Issues in Tourism, v. 24, n. 13, p. 1798–1802, 2021.

MAGNO, Jeaniel Carlos; MAGELA PIERONI, Geraldo. Os perigos do deepfake para a democracia brasileira. Anais de Artigos do Seminário Internacional de Pesquisas em Midiatização e Processos Sociais, v. 1, n. 6, 2024. ISSN 2675-4290.

MIGUEL, Raquel. Platforms AI Policy Updates in 2024: Labelling as the Silver Bullet. Disinfo.eu, 2024. Disponível em: https://www.disinfo.eu/publications/platforms-ai-policy-updates-in-2024-labelling-as-the-silver-bullet/. Acesso em: 20 set. 2025.

MIT SLOAN SCHOOL OF MANAGEMENT. Deepfakes explained. Ideas Made to Matter, 2020. Disponível em: https://mitsloan.mit.edu/ideas-made-to-matter/deepfakes-explained. Acesso em: 19 maio 2025.

MOLINA, Adriano Cezar; BERENGUEL, Orlando Leonardo. Deepfake: a evolução das fake news. Research, Society and Development, v. 11, n. 6, e56211629533, 2022. DOI: http://dx.doi.org/10.33448/rsd-v11i6.29533. Acesso em: 19 maio 2025.

MOURA, Tarcísio. Direito e desinformação: fake news, deepfakes e a erosão da esfera pública digital. Revista Brasileira de Políticas Públicas, v. 9, n. 2, p. 289–312, 2019.

OLHAR DIGITAL. Nova York aprova lei pioneira que regula o uso de IA em contratações. 5 jul. 2023. Disponível em: https://olhardigital.com.br/2023/07/05/pro/nova-york-aprova-lei-pioneira-que-regula-o-uso-de-ia-em-contratacoes/. Acesso em: 19 set. 2025.

PATEL, Y. et al. Deepfake Generation and Detection: Case Study and Challenges. IEEE Access, v. 11, p. 143296–143323, 2023. DOI: 10.1109/ACCESS.2023.3342107.

REUTERS. Illinois governor approves business-friendly overhaul of biometric privacy law. 5 ago. 2024. Disponível em: https://www.reuters.com/legal/government/illinois-governor-approves-business-friendly-overhaul-biometric-privacy-law-2024-08-05/. Acesso em: 19 set. 2025.

SANTOS, Pedro Henrique. EUA adotam novas diretrizes para IA. Data Privacy Brasil, 31 out. 2023. Disponível em: https://www.dataprivacybr.org/eua-adotam-novas-diretrizes-para-ia/. Acesso em: 19 set. 2025.

SATO, Mia. YouTube adds new AI-generated content labeling tool. The Verge, 18 mar. 2024. Disponível em: https://www.theverge.com/2024/3/18/24104743/youtube-ai-generated-content-disclosure-label. Acesso em: 20 set. 2025.

SIQUEIRA, João Pedro; ANDRADE, Camila. Deepfake e Privacidade: uma análise jurídica acerca da manipulação da imagem dos usuários. Revista de Direito, Tecnologia e Sociedade, v. 10, n. 2, p. 55–78, 2024.

SIQUEIRA, M. de; ANDRADE, E. J. de. Deepfake e privacidade: uma análise jurídica acerca da manipulação da imagem dos usuários. Revista Foco, v. 17, n. 8, e5679, 2024. DOI: https://doi.org/10.54751/revistafoco.v17n8-014.

TECH POLICY PRESS. US states struggle to define deepfakes and related terms as technically complex legislation proliferates. 2023. Disponível em: https://www.techpolicy.press/us-states-struggle-to-define-deepfakes-and-related-terms-as-technically-complex-legislation-proliferates/. Acesso em: 19 maio 2025.

UNIÃO EUROPEIA. Diretrizes Éticas para uma IA Confiável. High-Level Expert Group on Artificial Intelligence. Bruxelas, 2019. Disponível em: https://digital-strategy.ec.europa.eu/. Acesso em: 19 set. 2025.

UNIÃO EUROPEIA. Regulamento (UE) 2022/1925 do Parlamento Europeu e do Conselho, de 14 de setembro de 2022, relativo a mercados digitais contestáveis e equitativos (Digital Markets Act). Jornal Oficial da União Europeia, Bruxelas, 12 out. 2022. Disponível em: https://eur-lex.europa.eu/. Acesso em: 19 set. 2025.

UNIÃO EUROPEIA. Regulamento (UE) 2022/2065 do Parlamento Europeu e do Conselho, de 19 de outubro de 2022, relativo a um mercado único de serviços digitais (Digital Services Act). Jornal Oficial da União Europeia, Bruxelas, 27 out. 2022. Disponível em: https://eur-lex.europa.eu/. Acesso em: 19 set. 2025.

UNIÃO EUROPEIA. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 12 de julho de 2024, relativo à Inteligência Artificial (AI Act). Jornal Oficial da União Europeia, Bruxelas, 12 jul. 2024. Disponível em: https://eur-lex.europa.eu/. Acesso em: 19 set. 2025.

UNIÃO EUROPEIA. AI Liability Directive – proposta de Diretiva de Responsabilidade Civil em IA. Bruxelas, 2024. Disponível em: https://eur-lex.europa.eu/. Acesso em: 19 set. 2025.

UNESCO. Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO, 2021. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000381137. Acesso em: 2 maio 2025.

UOL. De Ísis Valverde a Anitta: quem já foi vítima de nudes falsos feitos em IA. 30 abr. 2025. Disponível em: https://www.uol.com.br/splash/noticias/2025/04/30/de-isis-valverde-a-anitta-famosas-sao-vitimas-de-nudes-falsos-feitos-em-ia.htm. Acesso em: 7 maio 2025.

UOL. De William Bonner a Anitta: veja famosos vítimas de deepfakes criminosas. São Paulo, 26 mar. 2025. Disponível em: https://www.uol.com.br/splash/noticias/2025/03/26/de-william-bonner-a-anitta-veja-famosos-vitimas-de-deepfakes-criminosas.htm. Acesso em: 6 maio 2025.

VALOR. Deepfake: criminosos usam IA para roubar R$ 129 milhões. Valor Econômico, 26 fev. 2024. Disponível em: https://valor.globo.com/patrocinado/dino/noticia/2024/02/26/deepfake-criminosos-usam-ia-para-roubar-r-129-milhoes.ghtml. Acesso em: 7 maio 2025.

VEJA. Casos de falsos nudes expõem lado sombrio da inteligência artificial. 3 nov. 2023. Disponível em: https://veja.abril.com.br/brasil/casos-de-falsos-nudes-expoem-lado-sombrio-da-inteligencia-artificial/. Acesso em: 7 maio 2025.

VERIFACT. Crimes com uso de deepfake disparam no Brasil. 14 abr. 2025. Disponível em: https://www.verifact.com.br/crimes-com-uso-de-deepfake/. Acesso em: 7 maio 2025.

WESTERLUND, Mika. The Emergence of Deepfake Technology: A Review. 2019.

WHITE HOUSE. FACT SHEET: Biden-Harris Administration Secures Voluntary Commitments from Leading Artificial Intelligence Companies to Manage the Risks Posed by AI. Washington, D.C., 21 jul. 2023. Disponível em: https://www.whitehouse.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai/. Acesso em: 20 set. 2025.

VIANA, Natalia. Inteligência Artificial: EUA podem virar terra sem lei para IA. Agência Pública, São Paulo, 19 maio 2025. Disponível em: https://apublica.org/2025/05/inteligencia-artificial-eua-podem-virar-terra-sem-lei-para-ia/. Acesso em: 19 set. 2025.

Y. PATEL et al. Deepfake Generation and Detection: Case Study and Challenges. IEEE Access, v. 11, p. 143296–143323, 2023. DOI: 10.1109/ACCESS.2023.3342107.

Publicado

2026-05-19

Como Citar

FUKUHA DOS SANTOS, A. C., Archegas, J. V., & Fürst , M. E. (2026). DEEPFAKE COMO DESAFIO JURÍDICO E SOCIAL ANÁLISE JURÍDICO COMPARADA EM PERSPECTIVA INTERNACIONAL: Deepfake as a Legal and Social Challenge a Comparative International Analysis. Revista De Direito Da FAE, 10(2), 166–232. https://doi.org/10.55388/rdf.v10i2.179

Artigos Semelhantes

<< < 1 2 3 4 5 6 7 8 > >> 

Você também pode iniciar uma pesquisa avançada por similaridade para este artigo.