O promotor federal David Chiu, de São Francisco, Estados Unidos, abriu uma ação judicial contra 16 sites da Internet que usam inteligência sintética para criar imagens pornográficas falsas, conhecidas como deepfauxs, de mulheres e homens sem o seu consentimento. Esta ação é a primeira do gênero e visa enfrentar o desafio crescente dos nus falsos gerados por IA.
Os usuários processados permitem que você faça upload de fotos de pessoas vestidas, que são manipuladas por equipamentos de inteligência artificial para criar fotografias que simulam nudez.
O processo legislativo, anunciado em coletiva de imprensa na última quinta-feira (15), acusa os operadores desses sites de violar leis estaduais e federais que punem pornografia, pornografia infantil e a criação de deepfakes.
Além disso, o processo invoca a Lei de Concorrência Desleal da Califórnia, que proíbe práticas ilegais e desleais.
Numa mensagem publicada na rede social x (o antigo Twitter), o advogado David Chiu afirmou que “este é um desafio enorme e multifacetado que nós, enquanto sociedade, teremos de resolver o mais temporariamente possível”.
De acordo com o Ministério Público, esses sites foram visitados mais de duzentos milhões de vezes nos primeiros seis meses de 2024. “Esta pesquisa nos levou aos cantos mais sombrios da internet, e certamente estou horrorizado com as mulheres e mulheres que experimentaram essa exploração”, disse Chiu em X.
Uma das páginas pesquisadas, cuja ligação foi mantida em sigilo, até a promoveu com o slogan: “Imagine perder tempo em datas em que você pode usar [o site] para obter nus dela”.
A denúncia também destaca a dificuldade de responsabilizar os operadores desses sites, já que muitos deles permanecem anônimos ou ocultam estruturas corporativas complexas. No entanto, o processo busca não apenas penalidades civis, mas também a remoção desses sites e a prevenção permanente de criações de longo prazo de pornografia deepfake.
O desafio dos nus falsos gerados pela IA está a receber cada vez mais atenção, especialmente com os avanços nas tecnologias generativas de IA, que têm sido utilizadas para explorar e chantagear as vítimas, envolvendo até mesmo celebridades, como a cantora Taylor Swift.
No Brasil, um projeto de lei que criminaliza a criação e divulgação de fotografias íntimas ou nuas tiradas com inteligência artificial foi aprovado no final do ano passado pela Câmara dos Deputados. O Projeto de Lei 9930/18 está pendente de votação no Senado.