Na era dos deepfakes, que são conteúdos falsos criados com inteligência artificial, a frase “é preciso ver para crer” se tornou altamente suspeita. Não se pode mais confiar no que os olhos veem. Muito menos em procedimentos de apresentação de provas na Justiça que, supostamente, terá mais problemas para se manter cega.
ReproduçãoNo deepfake, inteligência artificial cria áudio e imagem falsas com cada vez mais realismo
“Os deepfakes, gerados por inteligência artificial (IA), estão se tornando tão sofisticados que ficará cada vez mais difícil determinar a autenticidade de provas em áudio e vídeo apresentadas em julgamentos”. A declaração foi dada por executivos da OpenAI e da Meta a operadores do Direito em evento da Conferência Judicial dos EUA.
Em um recente encontro em Boston (Massachusetts), o comitê consultivo da Conferência Judicial, encarregado de fiscalizar as regras de apresentação de provas em julgamentos, avaliou o problema que vídeos e áudios falsificados, os chamados deepfakes, vêm trazendo para julgamentos.
Esse é um problema que o comitê vem discutindo desde 2023, sem chegar a uma solução viável. Nesse aspecto, os executivos das empresas de IA pintaram um cenário nebuloso para a Justiça. E advertiram que as coisas tendem a piorar:
“Os modelos de IA podem clonar um rosto, roubar uma voz e fabricar conversações que não se consegue distinguir de um conteúdo autêntico. A clonagem de voz, especialmente, chegou a um ponto em que bastam apenas alguns segundos de áudio para gerar um clone convincente, dotado de entonação natural, ritmo, emoção e até mesmo sons de respiração”.
Os vídeos estão se tornando “hiper-realistas”. A IA consegue imitar microexpressões, sombras e movimentos naturais da boca, eliminando falhas reveladoras (como piscadas não naturais ou iluminação estranha) que, antigamente, denunciavam os deepfakes, disseram os executivos.
O diretor de gestão de produtos na Meta, Davin Norder, falou sobre a alta acessibilidade e o baixo custo da produção de deepfakes:
“Antigamente, criar vídeos ou áudios falsos, de alta qualidade, exigia um orçamento digno de Hollywood, softwares de edição avançados e um enorme conhecimento técnico. Hoje, qualquer pessoa com acesso à internet pode utilizar ferramentas de inteligência artificial para gerar provas falsas extremamente convincentes, em questão de minutos, e a um custo irrisório — ou sem custos”.
O volume expressivo de possíveis falsificações torna mais difícil para o sistema jurídico examinar minuciosamente cada material que lhe é apresentado. De uma maneira geral, o volume de deepfakes online cresceu explosivamente nos últimos anos: de aproximadamente 500 mil em 2023 para cerca de 8 milhões em 2025 — um crescimento de quase 900%.
A acessibilidade também explodiu porque a produção de deepfakes se tornou muito simples e fácil, com a eliminação de barreiras técnicas. “Qualquer um pode descrever uma ideia para a inteligência artificial, que irá gerar uma mídia audiovisual em minutos. Há uma ferramenta disponível virtualmente a qualquer um que tenha um laptop e uma intenção na cabeça”.
A consultora jurídica de políticas da OpenAI, Shira Anderson, disse ao comitê que não existe — e provavelmente não haverá no futuro — um método científico totalmente capaz de detectar imagens geradas por IA, porque elas estão próximas da perfeição. Não existe uma solução mágica, no âmbito da tecnologia, para isso. Portanto, os tribunais não podem simplesmente depender de software para resolver o problema.
O que fazer, então?
Algumas empresas de tecnologia, entre as quais a OpenAI e a Meta, vêm desenvolvendo uma ferramenta conhecida para identificação visual de conteúdo: a marca d’água (watermark), tal como a usada em dinheiro, documentos e imagens digitais.
Porém, cada empresa usa seu próprio sistema e, portanto, não há um método universal confiável para detectar marcas d’água ou verificar a autenticidade de conteúdos visuais, disse Shira Anderson. “Marcas d’água podem ser eliminadas. Técnicas como assinaturas criptográficas ou inserção de marcas d’água digitais podem ser removidas, alteradas ou contornadas por agentes sofisticados”, ela disse.
“Os modelos de IA usados para criar deepfakes são desenvolvidos muito mais rapidamente do que as ferramentas projetadas para os detectar. Uma ferramenta de detecção que funciona hoje pode ser totalmente obsoleta no mês seguinte”, acrescentou.
Diante desse cenário de adversidades tecnológicas, a juíza federal Valerie Caproni sugeriu que “os juízes devem confiar nos métodos tradicionais de autenticação de provas, os que vêm usando desde Caim e Abel” — ou seja, desde a existência de crimes.
O comitê consultivo da Conferência Judicial decidiu considerar uma nova regra de apresentação de provas na justiça federal. De acordo com a proposta, se um oponente apresentar evidência suficiente de que uma prova é deepfake, a parte que apresentou a prova deve comprovar sua autenticidade. Ou seja, a nova regra muda o critério tradicional do ônus da prova digital nos EUA.
Historicamente, sob as normas federais, o critério para a admissão de provas em vídeo ou áudio em um processo judicial é pouco rigoroso. Basta que uma das partes (a “parte proponente”) apresente uma demonstração básica — como, por exemplo, o depoimento de uma testemunha afirmando que a gravação reflete com precisão o que aconteceu — para autenticá-la.
No entanto, essa solução proposta cria um risco duplo, chamado de “O dividendo do mentiroso” (the Liar’s Dividend) para juízes e jurados, que agora sabem que existem deepfakes hiper-realistas. Portanto, é muito fácil para uma parte culpada alegar que uma prova real e incriminadora é, na verdade, uma falsificação gerada por IA.
Isso cria o risco duplo para o Judiciário: 1) existe o perigo de provas falsas serem aceitas como autênticas; 2) mas também existe o risco de provas genuínas serem falsamente contestadas e descartadas sob a alegação de serem deepfakes.
Nova proposta
O comitê consultivo da Conferência Judicial explica que a nova regra — a Rule 901(c) — altera o status quo, ao exigir que as duas partes cumpram padrões de prova específicos e mais rigorosos, antes mesmo que o material seja apresentado ao júri. O primeiro passo é transferir o ônus da prova a quem a contesta.
“Uma parte não pode simplesmente apontar para um vídeo incriminador e, sem qualquer fundamento, gritar ‘deepfake’, para que ele seja descartado. Nos termos da Regra 901(c), o ônus inicial recai sobre a parte que apresenta a objeção (a parte contestante)”, diz o comitê.
O novo critério passa a ser: A parte que contesta deve apresentar provas circunstanciais ou forenses suficientes para demonstrar a possibilidade razoável de que o áudio ou vídeo tenha sido alterado ou fabricado, no todo ou em parte, por meio de IA generativa.
Se a parte que contesta não apresentar essa prova inicial de manipulação, o tribunal prossegue aplicando as regras probatórias habituais. Caso obtenha êxito, o ônus da prova é integralmente transferido para a outra parte. Esse seria, então, o segundo passo: se a corte determina que a alegação de deepfake é crível, o ônus probatório para a admissão da prova torna-se muito mais rigoroso para a parte que a apresenta.
O novo critério passa a ser: a parte que apresenta a prova não pode mais se basear apenas no depoimento de uma testemunha que, ao assistir ao vídeo, afirma que ele parece autêntico. Em vez disso, é preciso demonstrar ao juiz que a autenticidade da prova é “mais provável do que improvável” (critério jurídico conhecido como “preponderância das provas”).
O resultado é que isso obriga a parte a apresentar elementos probatórios mais robustos — como cadeias de custódia digital, metadados de software ou o testemunho de um perito — para atender a essa exigência mais rigorosa. Caso não consiga cumprir esse critério, a parte terá a prova integralmente excluída do processo.
A nova regra também transfere a responsabilidade de avaliar a autenticidade da prova apresentada em vídeo ou áudio do júri para o juiz. Atualmente, caso surja uma disputa sobre a autenticidade de um vídeo, os juízes costumam admiti-lo como prova, deixando a cargo do júri decidir em quem acreditar.
A nova regra atribui ao juiz o dever de avaliar a análise forense de conteúdos gerados por IA e decidir sobre a sua admissibilidade, antes mesmo que sejam apresentados aos jurados.
Estados agem por conta própria
Como novas regras federais de apresentação de provas podem levar anos para serem formalmente implementadas, os estados estão tomando suas próprias medidas legislativas para punir a fabricação de provas falsas com a ajuda de inteligência artificial.
Historicamente, a fabricação de provas está sujeita à acusação de falso testemunho ou de falsificação. No entanto, os estados têm se dado conta de que as leis tradicionais não cobrem, claramente, o uso de um algoritmo que gera um vídeo (ou áudio) falso a partir do zero.
Por isso, estão expandindo seus códigos penais, para incluir novas categorias de crimes, específicas para punir a produção de deepfakes. Os estados de Minnesota, Flórida e Texas, por exemplo, passaram a definir especificamente em seus códigos as categorias de crime (ou contravenção penal) de produção e mau uso de deepfakes.
Alguns estados estão impondo aos advogados das partes. que apresentam vídeos e áudios como prova, a exigência de assinar um “Certificado de IA” — um documento em que certificam a autenticidade da prova, antes mesmo que ela seja apresentada ao juiz. A exigência vem com as ameaças de cancelamento da licença profissional e de penalidades, caso deepfakes sejam identificados.
Com informações adicionais das publicações Yahoo!finance, Investing.com, JD Supra, Pardue Global Law School, University of Illinois Chicago, Berkeley Technology Law Journal, Complete Legal, National Conference of State Legislatures, National Center for State Courts.
O post Justiça dos EUA tenta conter <i>deepfakes</i> na apresentação de provas apareceu primeiro em Consultor Jurídico.
