Enquanto os depoimentos de mulheres vítimas de publicações delas nuas por Grok, a inteligência artificial (IA) da rede social de Elon Musk “indignado com os pedidos de #GrokAI para despir meninas e mulheres”. Para o antigo Ministro da Criança, Juventude e Família“se a imagem for artificial, o dano é muito real”.
Este novo uso da IA permite que um usuário da rede social formule consultas como “Coloque ela de biquíni” Ou “tire a roupa dele” a partir de uma simples foto publicada no X. Os internautas obtêm instantaneamente imagens modificadas mostrando a pessoa com a roupa desejada. A hashtag #Grok apareceu na nona posição de tendências no X do meio da tarde, com 1,43 milhão de publicações.
O porta-voz do Partido Socialista, Arthur Delaporte, reagiu ao “um relatório” que será entregue ao governo “a primeira quinzena de janeiro” de“proibir essas funções”. “Compartilhar esse tipo de conteúdo, que já é ilegal, é assédio cibernético”sublinhou, prestando apoio a uma estudante de doutoramento vítima “e a todos os outros [femmes] “.
Arcom apreendido pelo governo
Um pouco mais tarde, os ministros da economia, Roland Lescure, a ministra responsável pela inteligência artificial e tecnologia digital, Anne Le Hénanff, e a ministra da igualdade entre mulheres e homens, Aurore Bergé, denunciada ao Ministério Público e também à plataforma Pharos, destinada a vítimas de fraudes na Internet, “nos termos do artigo 40.º do código de processo penal, são proibidos conteúdos manifestamente ilícitos gerados pela inteligência artificial generativa Grok e divulgados na plataforma X, a fim de obter a sua retirada imediata”.
Condenando “com a maior firmeza” lá “geração e divulgação de conteúdos de natureza sexista e sexual, nomeadamente sob a forma de vídeos falsos (deepfakes), visando pessoas sem o seu consentimento”os ministros enfatizam que “Os crimes sexuais cometidos online constituem crimes por direito próprio e estão totalmente sujeitos à lei, da mesma forma que os cometidos offline.”
Além disso, o governo remeteu o assunto à Autoridade Reguladora da Comunicação Audiovisual e Digital (Arcom) relativamente a possíveis violações por parte de
“Falhas nos sistemas de segurança”
Além disso, a xAI, empresa que publica Grok, anunciou na sexta-feira que falhas de segurança levaram à geração de imagens sexualizadas de menores no X em resposta a solicitações de usuários, violando assim sua própria política de usuário que proíbe a sexualização de crianças. As imagens ofensivas foram removidas, acrescentou ela.
“Identificamos vulnerabilidades nos sistemas de segurança e estamos corrigindo-as com urgência”, xAI disse na sexta-feira, acrescentando que os documentos relativos à pornografia infantil são “ilegal e proibido”relata a agência Bloomberg.
A Internet Watch Foundation, uma organização sem fins lucrativos que identifica pornografia infantil online, relatou um aumento de 400% nessas imagens geradas por IA durante o primeiro semestre de 2025.
Grok, considerado mais permissivo do que outros modelos convencionais de IA, introduziu um recurso no verão passado chamado “Modo Picante”, permitindo nudez adulta parcial e conteúdo sexual. O serviço proíbe – em teoria – pornografia com pessoas reais e conteúdo sexual envolvendo menores, cuja criação e distribuição são ilegais.