Projeto de lei de pornografia deepfake de IA exigiria grande tecnologia para policiar e remover imagens

WASHINGTON – Os legisladores no Capitólio estão lutando para enfrentar o boom de imagens pornográficas de IA falsas, que têm como alvo todos, desde celebridades até estudantes do ensino médio.

Agora, um novo projeto de lei buscará responsabilizar as empresas de mídia social pelo policiamento e remoção imagens pornográficas falsas publicados em seus sites. A medida criminalizaria a publicação ou ameaça de publicação de pornografia deepfake.

O senador Ted Cruz, republicano do Texas, é o principal patrocinador do projeto. O escritório de Cruz forneceu à CNBC detalhes exclusivos sobre o projeto.

A Lei Take It Down também exigiria que os operadores de plataformas de redes sociais desenvolvessem um processo para remover as imagens no prazo de 48 horas após receberem um pedido válido de uma vítima. Além disso, os sites também teriam que fazer um esforço razoável para remover quaisquer outras cópias das imagens, incluindo aquelas compartilhadas em grupos privados.

A tarefa de fazer cumprir estas novas regras caberia à Comissão Federal de Comércio, que regulamenta regras de proteção ao consumidor.

A legislação de Cruz será formalmente apresentada na terça-feira por um grupo bipartidário de senadores. Eles serão acompanhados no Capitólio por vítimas de pornografia deepfake, incluindo estudantes do ensino médio.

O aumento das imagens não consensuais geradas por IA impactaram celebridades como Taylor Swiftpolíticos como a deputada Alexandria Ocasio-Cortez, DN.Y., e estudantes do ensino médio cujos colegas tiraram fotos de seus rostos e, usando aplicativos e ferramentas de IA, criaram fotos nuas ou pornográficas.

“Ao criar condições equitativas em nível federal e atribuir aos sites a responsabilidade de implementar procedimentos para remover essas imagens, nosso projeto de lei protegerá e capacitará todas as vítimas deste crime hediondo”, disse Cruz em comunicado à CNBC.

Em 2023, os produtores de pornografia deepfake aumentaram a sua produção em 464% ano após ano, de acordo com um relatório de 2023 da Heróis da segurança doméstica.

No entanto, embora exista um amplo consenso no Congresso sobre a necessidade de abordar a pornografia deepfake de IA, não há acordo sobre como fazê-lo.

Em vez disso, há dois projetos de lei concorrentes no Senado.

Senador Dick Durbin, D-Ill., apresentou um projeto de lei bipartidário no início deste ano, isso permitiria que vítimas de deepfakes não consensuais processassem pessoas que detiveram, criaram, possuíram ou distribuíram a imagem.

De acordo com o projeto de lei de Cruz, a pornografia deepfake de IA é tratada como conteúdo on-line extremamente ofensivo, o que significa que as empresas de mídia social seriam responsáveis ​​por moderar e remover as imagens.

Quando Durbin tentou obter uma votação plenária de seu projeto na semana passada, a senadora Cynthia Lummis bloqueou o projeto, dizendo que era “de escopo excessivamente amplo” e poderia “sufocar a inovação tecnológica americana”.

Durbin defendeu seu projeto de lei, dizendo que “não há responsabilidade sob esta proposta de lei para plataformas tecnológicas”.

Lummis é um dos co-patrocinadores originais do projeto de Cruz, junto com a senadora republicana Shelley Moore Capito e os senadores democratas Amy Klobuchar, Richard Blumenthal e Jacky Rosen.

O novo projeto também surge quando o líder da maioria no Senado, Chuck Schumer, DN.Y. está pressionando sua câmara para aprovar uma legislação sobre IA. No mês passado, uma força-tarefa sobre IA lançou um “roteiro” sobre questões-chave de IA, que incluíam o desenvolvimento de legislação para abordar a “distribuição não consensual de imagens íntimas e outros deepfakes prejudiciais”.