A ameaça representada pelos deepfakes, vídeos gerados por IA que criam representações convincentes de pessoas, lugares e eventos, é agora confrontada de frente pela legislação da Louisiana, nos EUA. A partir de 1º de agosto, a lei SB175, de autoria do governador John Bel Edwards, tornará crime a produção, disseminação e posse de deepfakes que ilustram abuso sexual de crianças.
Este movimento legislativo ocorre após o surgimento de casos perturbadores. Em maio, deepfakes de crianças vítimas de assassinato ganharam grande visibilidade nas redes sociais, depois de serem divulgados no TikTok. Isso levou a uma consciência crescente sobre o papel potencial da IA e dos deepfakes para alimentar ódio e violência, conforme destacado pelo secretário-geral da ONU, António Guterres, em junho.
Apesar dos avanços na IA tornarem os deepfakes cada vez mais difíceis de detectar, o que representa um desafio substancial para a segurança cibernética e a aplicação da lei, a resposta da Louisiana é definitiva. A condenação por violações desta nova lei acarretará uma pena obrigatória de 5 a 20 anos de prisão, além de uma multa de até US$ 10.000.
Além disso, a lei SB175 reserva um tratamento ainda mais severo para aqueles que usam deepfakes para propósitos especialmente nefastos. Qualquer pessoa que conscientemente anuncie, distribua ou venda deepfakes sexuais envolvendo uma pessoa sem o seu consentimento, ou que apresente um menor, pode enfrentar uma pena de 10 a 30 anos de prisão, uma multa de até US$ 50.000, ou ambos.
O estado da Louisiana, que possui uma classificação preocupante de 49º lugar em bem-estar infantil e ocupa o segundo lugar em pobreza entre os estados americanos, segue o exemplo de outros estados, como Califórnia, Texas e Virgínia. Esses estados já haviam implementado regulamentações ou proibições para deepfakes.
O alarme já foi soado pelas agências de aplicação da lei sobre a exploração de deepfakes para golpes e extorsão. A preocupação é tão profunda que a Meta optou por não divulgar ao público sua plataforma de voz IA, Voicebox, citando a necessidade de encontrar o equilíbrio certo entre abertura e responsabilidade.
