IA: o comércio ilegal de imagens de abuso sexual infantil geradas por inteligência artificial

A empresa afirmou ter uma política de “tolerância zero” contra esse tipo de imagens em seu site.

O Conselho Nacional de Chefes de Polícia do Reino Unido (NPCC) declarou que era “ultrajante” que algumas plataformas estivessem recebendo “lucros enormes” por não adotarem “responsabilidade moral”.

Por seu lado, a agência britânica de inteligência e segurança cibernética GCHQ respondeu ao relatório dizendo: “Os criminosos de abuso sexual infantil abraçam todas as tecnologias e alguns acreditam que o futuro do material de abuso sexual infantil reside no conteúdo gerado pela IA”.

Os produtores das imagens de abuso estão utilizando um programa de IA chamado Stable Diffusion, cuja função original era gerar imagens para arte ou design gráfico.

A IA permite que os computadores executem tarefas que normalmente requerem inteligência humana.

O software Stable Diffusion permite aos usuários descrever a imagem que procuram, por meio de palavras-chavepara que o programa gere essa imagem.

Mas a BBC descobriu que está a ser usada para criar imagens realistas de abuso sexual infantil, incluindo a violação de bebés e menores.

As equipes policiais britânicas que investigam o abuso infantil online dizem que já encontraram esse tipo de conteúdo.

A jornalista freelance Octavia Sheepshanks investigou o assunto durante vários meses. Ele contatou a BBC por meio da instituição de caridade Sociedade para a Prevenção da Crueldade contra Crianças (NSPCC) para divulgar seu trabalho.

“Desde que a geração de imagens com IA se tornou possível, houve uma enorme inundação… não só de meninas muito jovens, trata-se de (pedófilos) falando sobre menores”, disse ele.

Uma “pseudoimagem” gerada por computador mostrando abuso sexual infantil é considerada uma imagem real no Reino Unido e a sua posse, publicação ou transferência é ilegal.

O diretor de proteção infantil do NPCC, Ian Critchley, disse que seria errado afirmar que nenhum dano está sendo causado a ninguém porque nenhuma criança real é retratada em tais imagens “sintéticas”.

Critchley alertou que um pedófilo poderia “progredir nessa escala de ofensa, do pensamento, ao sintético, até o abuso real de uma criança real”.

Imagens de abuso são compartilhadas por meio de um processo de três etapas:

Alguns dos criadores das imagens estão colocando-as em uma popular plataforma de mídia social chamada Pixiv.que é usado principalmente por artistas de mangá e anime.

Porém, como o site tem sede no Japão, onde o compartilhamento de desenhos e ilustrações sexuais de menores não é ilegal, os criadores o utilizam para divulgar seus trabalhos em grupos e por meio de tags, que criam índices de temas de acordo com as palavras.

Um porta-voz da Pixiv observou que o site dá muita ênfase à abordagem desse problema. Afirmou que em 31 de maio proibiu qualquer representação realista de conteúdo sexual envolvendo menores.

A empresa afirmou que reforçou proativamente os seus sistemas de monitorização e que está a alocar recursos substanciais para neutralizar questões relacionadas com o desenvolvimento da IA.

Octavia Sheepshanks disse à BBC que os usuários pareciam estar produzindo imagens de abuso sexual infantil em escala industrial.

“O volume é imenso, a ponto de (os criadores) dizerem ‘pretendemos produzir pelo menos 1.000 imagens por mês’”, relatou o jornalista independente.

Os comentários dos usuários em imagens individuais no Pixiv deixam claro que eles têm interesse sexual por menores, e alguns deles até se oferecem para contribuir com imagens e vídeos de abuso que não foram gerados pela IA.

Sheepshanks tem monitorado alguns desses grupos na plataforma.

“Entre esses grupos, que terão 100 membros, as pessoas estarão compartilhando: ‘Oh, olhe, aqui está um link para a coisa real’”, diz ele.

“As coisas mais horríveis, eu nem sabia que essas palavras (descrições) existiam.”

Muitas das contas no Pixiv incluem links para suas biografias que direcionam as pessoas para o que elas chamam de “conteúdo sem censura” no site de compartilhamento de conteúdo Patreon, com sede nos EUA.

O Patreon está avaliado em US$ 4 bilhões e afirma ter mais de 250.000 criadores, a maioria dos quais são contas legítimas pertencentes a celebridades, jornalistas e escritores conhecidos.

Seus seguidores podem apoiar os criadores aderindo a uma assinatura que lhes dá acesso a blogs, podcasts, vídeos e imagens por um custo a partir de US$ 3,85.

Mas nossa investigação encontrou contas do Patreon oferecendo a venda de imagens fotorrealistas obscenas de criançascom diferentes níveis de preços dependendo do tipo de material necessário.

Um deles escreveu em seu relato: “Eu treino minhas meninas no meu PC”, acrescentando que elas exibem “submissão”. Por US$ 8,30 por mês, outro usuário ofereceu “arte exclusiva e sem censura”.

A BBC enviou um exemplo ao Patreon, que a plataforma confirmou como “semi-realista e viola nossas políticas”. Ele disse que a conta foi imediatamente retirada.

Patreon afirmou que tem uma política de “tolerância zero”insistindo que: “Os criadores não podem financiar conteúdo dedicado a temas sexuais envolvendo menores”.

A empresa disse que o aumento de conteúdo prejudicial gerado por IA na Internet era “real e preocupante”, acrescentando que “identificou e removeu “quantidades crescentes” desse tipo de material.

“Já proibimos material sintético de exploração infantil gerado por IA”, disse ele, descrevendo o site como “muito pró-ativo”, com equipes, tecnologia e parceiros dedicados a “proteger os adolescentes”.

O gerador de imagens Stable Diffusion AI foi criado como uma colaboração internacional entre acadêmicos e uma série de empresas, liderada pela empresa Stability AI.

Várias versões foram lançadas, com restrições escritas na codificação que controlam o tipo de conteúdo que pode ser criado.

Mas no ano passado, Uma versão anterior de “código aberto” foi lançada publicamente e permitia aos usuários remover quaisquer filtros e ser treinado para produzir qualquer imagem, inclusive as ilegais.

A Stability AI disse à BBC que “proíbe qualquer uso indevido para fins ilegais ou imorais em nossa plataforma, e nossas políticas deixam claro que isso inclui (material de abuso sexual infantil)”.

“Apoiamos fortemente os esforços de aplicação da lei contra aqueles que abusam dos nossos produtos para fins ilegais ou nefastos.”

À medida que a IA se desenvolve rapidamente, têm sido levantadas questões sobre os riscos futuros que poderá representar para a privacidade, os direitos humanos e a segurança das pessoas.

Jo (um pseudónimo por razões de segurança), chefe da missão de abuso sexual infantil do GCHQ, disse à BBC: “O GCHQ apoia as agências policiais para se anteciparem às ameaças emergentes, como o conteúdo gerado pela IA, e garantirem que não há refúgio para os infratores”. ”

Ian Critchley, do NPCC, afirmou que também estava preocupado com o fato de A enxurrada de IA realista ou imagens “sintéticas” pode dificultar o processo de identificação de vítimas reais de abuso.

“Isso cria um requisito adicional, em termos de vigilância policial e de agências de aplicação da lei, para identificar onde uma criança atual, onde quer que esteja no mundo, está sendo abusada, em oposição a uma criança artificial ou sintética”, explicou.

Critchley observou ainda que acreditava que era um ponto de viragem para a sociedade.

“Podemos garantir que a internet e a tecnologia nos permitem criar oportunidades fantásticas para os jovens, ou que estes se tornem um lugar muito mais prejudicial”, concluiu.

Lembre-se que você pode receber notificações da BBC News Mundo. Baixe a versão mais recente do nosso aplicativo e ative-os para não perder nosso melhor conteúdo.