No ano passado, havia mais de 21.000 vídeos pornográficos deepfake online – um aumento de mais de 460% em relação ao ano anterior. Mas o Congresso poderá em breve tornar ilegal o compartilhamento de imagens adulteradas.

Liderando a acusação estão a senadora de New Hampshire Maggie Hassan, uma democrata, e o senador do Texas John Cornyn, um republicano, que foram coautores de legislação bipartidária destinada a reprimir as pessoas que compartilham imagens deepfake íntimas não consensuais on-line. A legislação proposta prevê penalidades criminais que incluem multa e até dois anos de prisão, e as penalidades civis podem chegar a US$ 150.000.

“É ultrajante”, disse Hassan. “E precisamos ter certeza de que nossas leis acompanham essa nova tecnologia e que protegemos os indivíduos”.

Breeze Liu disse que ficou chocada quando uma amiga descobriu seu rosto sobreposto a imagens pornográficas.

“E eu realmente sinto que todo o meu mundo desabou naquele momento”, disse Liu. “Você tem que ver quantas opiniões existem e quantas pessoas violaram você. Eu simplesmente não queria mais viver, porque a vergonha era demais para eu suportar.”

Liu, que disse saber quem era o autor do crime, decidiu levar o caso à polícia.

“A polícia realmente não fez nada a respeito”, disse Liu. “A polícia realmente me chamou de prostituta. Eles me envergonharam.”

Liu disse que quando as autoridades não investigaram o assunto, o perpetrador criou mais deepfakes dela, criando mais de 800 links na Internet. Liu disse que o FBI agora está investigando o caso dela e ela também faz parte de uma ação coletiva contra o Pornhub.

O Pornhub disse à CBS News que remove rapidamente qualquer material não consensual de sua plataforma, incluindo deepfakes. O site também disse que possui protocolos para evitar o upload de material não consensual.

As pessoas também criaram imagens íntimas de celebridades geradas artificialmente como Taylor Swift. Em janeiro, o site de mídia social X desativou as buscas relacionadas ao cantor, em um esforço para remover e impedir a circulação de imagens pornográficas deepfake de a estrela pop.

Os adolescentes de todo o país também estão enfrentando um problema cada vez mais comum. Alguns estudantes estão criando pornografia falsa de colegas e espalhando-a entre amigos e familiares, às vezes até extorquindo-os. Em Nova Jersey no início deste ano, um adolescente processou outro estudante, acusando-o de criar e compartilhar imagens pornográficas deles e de outras pessoas geradas por IA.

Hassan disse que o Congresso está trabalhando para criminalizar a criação de imagens íntimas não consensuais.

“Há trabalho em andamento no Congresso agora sobre como configurar esse tipo de proteção, mas o que sabemos é que a maioria das pessoas não sabe sobre o deepfake que existe até que alguém tente distribuí-lo, certo? realmente atacar esse problema no ponto em que ele se torna óbvio e é provável que alguém tome medidas”, disse Hassan.

Cornyn disse que embora possa levar meses para que o projeto seja aprovado no Senado, ele está confiante de que será aprovado com apoio bipartidário.

“Não vamos tirar o pé do acelerador”, disse Cornyn. “Vamos continuar pressionando esse assunto, porque aí, enquanto o projeto de lei não sair, tem gente aproveitando a ausência desse tipo de punição para explorar quem usa esses deepfakes.”

Nesse ínterim, Liu criou uma startup chamada Alecto AI para ajudar outras pessoas a identificar e remover rapidamente deepfakes que encontrarem online.

“Cheguei à conclusão de que, a menos que eu mude o sistema, a menos que mude o mundo, a justiça nem sequer seria uma opção para mim”, disse ela.