Tudo sobre Inteligência Artificial
ver mais
O X, plataforma de Elon Musk, continua apresentando material de abuso sexual infantil, segundo análises do Canadian Center for Child Protection e do The New York Times. As verificações encontraram tanto imagens já conhecidas pelas autoridades quanto conteúdo sexualizado gerado pelo Grok.
Continua após a publicidade
Os resultados revelam problemas na remoção de material ilegal pela plataforma. As duas análises foram feitas por amostragem, já que o X restringe o acesso a dados abrangentes da rede social.
Mais de 75 imagens de abuso sexual infantil foram encontradas em uma análise do The New York Times no X. – Imagem: PhotoGranary02/Shutterstock
Grok gerou imagens de crianças
O Canadian Center for Child Protection identificou 65 casos em que o Grok criou imagens sexualizadas ou exploratórias de crianças. Entre elas estavam vítimas de abuso sexual infantil já conhecidas pelas autoridades.
Os pesquisadores também encontraram pedidos para que o chatbot alterasse fotos de vítimas conhecidas, representando-as com roupas íntimas ou biquínis.
Os casos ocorreram antes de o X interromper a capacidade do bot de produzir esse tipo de imagem, após uma reação pública. Em dezembro e janeiro, a conta do Grok no X havia produzido milhões de imagens de pessoas sem roupas em resposta a pedidos de usuários.
Imran Ahmed, CEO do Center for Countering Digital Hate, classificou as descobertas como “uma das maiores falhas corporativas da minha vida”.
Imagens conhecidas reapareceram
O The New York Times realizou uma análise própria entre janeiro e junho. Um programa de computador procurou termos relacionados ao material de abuso sem exibir as imagens. Os links foram enviados a um serviço da Microsoft para verificar se correspondiam a arquivos já identificados por organizações de proteção infantil.
A busca encontrou mais de 75 imagens. Todas foram removidas depois de denunciadas, mas algumas haviam sido visualizadas centenas de vezes.
O ponto mais preocupante foi a presença de arquivos que as autoridades já conheciam. Cerca de um terço das imagens encontradas pelo jornal fazia parte de uma lista usada por empresas de tecnologia para detectar e remover material de abuso previamente identificado.
Entre os resultados das duas análises estão:
- 65 casos de imagens sexualizadas ou exploratórias de crianças geradas pelo Grok;
- mais de 75 imagens encontradas pelo The New York Times;
- arquivos já conhecidos pelas autoridades que continuaram disponíveis no X;
- imagens que chegaram a receber centenas de visualizações.
Algumas imagens encontradas na plataforma haviam sido visualizadas centenas de vezes antes de serem removidas. Imagem gerada por IA via DALL-E/Olhar Digital
X afirma ter tolerância zero
O X afirmou que continua utilizando filtros automáticos e tecnologia própria para identificar material de abuso sexual infantil.
“Levamos a sério nossa responsabilidade de proteger menores de idade”, afirmou a empresa. “O X tem tolerância zero com material de abuso sexual infantil, incluindo material de abuso sexual infantil gerado por IA.”
Continua após a publicidade
Leia mais:
- Califórnia aprova novas leis para proteger crianças na internet
- Discord demora para remover servidores denunciados por crimes graves
- Meta teria aprovado mais de 50 anúncios com abuso infantil gerado por IA
A companhia também disse que bloqueia usuários que publicam ou interagem com esse conteúdo e os denuncia às autoridades. Segundo o X, 780 mil usuários foram denunciados no último mês, enquanto 1,3 milhão de imagens foram encaminhadas ao National Center for Missing and Exploited Children neste ano.
Musk comprou o então Twitter em 2022 e classificou a remoção desse material como “Prioridade nº 1”. Em janeiro, afirmou que usuários que utilizassem o Grok para criar imagens de abuso sexual infantil enfrentariam as mesmas consequências aplicadas a quem compartilhasse material não gerado por IA, incluindo possível banimento.
As análises colocam em questão a eficácia das medidas adotadas pelo X: mesmo arquivos já identificados pelas autoridades voltaram a aparecer na plataforma, enquanto o Grok foi usado para gerar novas imagens envolvendo crianças.
Valdir Antonelli
Valdir Antonelli é jornalista com especialização em marketing digital e consumo.
Ver todos os artigos →
Tags: abuso sexual infantil grok Inteligência Artificial redes sociais
