Justiça de São Francisco processa 16 sites por uso de IA para criar deepfakes de nudez

Postado em: 23/08/2024 | Por: Emerson Alves

A Procuradoria de São Francisco, liderada por David Chiu, processa 16 sites por uso indevido de inteligência artificial para “despir” pessoas digitalmente.

A Procuradoria da cidade de São Francisco, nos Estados Unidos, anunciou o processo contra dezesseis sites que utilizam inteligência artificial para criar deepfakes de nudez, uma prática que tem gerado grande preocupação entre autoridades e a sociedade em geral. De acordo com o procurador da cidade, David Chiu, esses sites foram visitados mais de 200 milhões de vezes apenas no primeiro semestre de 2024, destacando a amplitude do problema.

Leia também: Cientistas desenvolvem IA que pode revolucionar a pesquisa científica.

Acusações contra os operadores dos sites

Os sites em questão permitem que os usuários façam o upload de imagens de pessoas reais, vestidas, e utilizem ferramentas de IA para “remover” digitalmente as roupas dessas pessoas, criando imagens de nudez sem o consentimento delas. Essa prática tem sido amplamente condenada, especialmente pelo fato de que essas imagens são frequentemente usadas para fins de pornografia de vingança e pornografia infantil, conforme citado na denúncia.

Os operadores desses sites estão sendo acusados de violar várias leis estaduais e federais dos Estados Unidos, incluindo aquelas que proíbem a criação e distribuição de deepfakes pornográficos e práticas relacionadas à pornografia de vingança. Além disso, eles estão sendo processados por infringir a lei de concorrência desleal da Califórnia. De acordo com a ação, o prejuízo causado aos consumidores por essas práticas supera em muito qualquer benefício potencial que os sites possam alegar.

Consequências legais e morais

As ações legais contra esses sites podem resultar em penalidades civis severas, incluindo a retirada dos sites do ar e a proibição permanente de que seus operadores criem ou distribuam deepfakes pornográficos no futuro. O procurador Chiu destacou a gravidade do problema em um post na rede social X (antigo Twitter), expressando sua profunda preocupação com as mulheres e meninas que foram vítimas dessa exploração digital.

“Esta investigação nos levou aos cantos mais sombrios da internet, e estou absolutamente horrorizado com as mulheres e meninas que tiveram que suportar essa exploração. Este é um problema grande e multifacetado que nós, como sociedade, precisamos resolver o mais rápido possível”, afirmou Chiu.

Impacto social e necessidade de regulamentação

O uso de inteligência artificial para a criação de deepfakes de nudez levanta sérias questões éticas e jurídicas. A tecnologia, que pode ser usada para fins benignos, como no entretenimento ou educação, tem sido deturpada para fins maliciosos, causando danos irreparáveis às vítimas. Especialistas em direito e tecnologia argumentam que é urgente a criação de regulamentações mais rígidas que abordem o uso inadequado de IA, especialmente em contextos que envolvem a privacidade e a dignidade das pessoas.

Este caso em São Francisco pode servir como um precedente importante para outras jurisdições que enfrentam desafios semelhantes. Ao processar esses sites, a Procuradoria de São Francisco está enviando uma mensagem clara sobre as consequências legais e sociais do uso indevido da inteligência artificial para criar conteúdos prejudiciais.

Próximos passos e desafios

Embora a ação da Procuradoria de São Francisco seja um passo significativo, ainda existem muitos desafios pela frente na luta contra o uso indevido da tecnologia de IA. A natureza global da internet torna difícil a aplicação de leis locais a sites e operadores que podem estar baseados em outras partes do mundo. No entanto, ações como esta podem incentivar a cooperação internacional e a criação de padrões globais para combater o abuso tecnológico.

A sociedade como um todo precisa estar atenta ao desenvolvimento e uso de novas tecnologias, garantindo que inovações não sejam usadas para fins prejudiciais. A conscientização pública, aliada a uma legislação forte e eficaz, será fundamental para enfrentar os desafios trazidos pela era digital.