Durante vários dias, o feed do X foi inundado com fotos de mulheres “ despido » por Grok. O chatbot, sob o pretexto de “ liberdade de expressão » e recusa da censura « acordou ”, abriu as comportas para grandes disparates.
Durante vários dias, qualquer usuário X pode responder à foto de uma mulher, seja ela uma celebridade, uma pessoa desconhecida ou mesmo menor, pedindo a Grok para “ tire a roupa dela » ou o “ colocar biquíni “. E quer saber? IA Grok faz isso.
A ferramenta está integrada diretamente na interface do X, é pública e assustadoramente simples. A foto editada aparece em resposta, visível para todos.
Confrontado com a explosão de reportagens e uma controvérsia crescente (particularmente na Índia, onde as atrizes têm sido alvo massivo), a xAI está a começar a entrar em pânico e a apertar o parafuso. Mas o estrago está feito. E a explicação técnica por trás deste desastre é ainda mais irritante do que o resultado.
Fluxo, ou liberdade sem o cérebro
Para entender como chegamos aqui, temos que olhar por baixo do capô. Grok não usa um mecanismo interno para suas imagens, mas depende muito de Fluxo.1o modelo do Black Forest Labs.
Ao contrário do DALL-E 3 (OpenAI) ou Midjourney, que são carregados com filtros de segurança paranóicos que se recusam a gerar uma imagem se você digitar a palavra ” bikini “, Flux é vendido como modelo” abrir » e pouco censurado. É tecnicamente impressionante, mas sem segurança é uma bomba-relógio. Elon Musk, em sua cruzada pela IA “ busca da verdade » (buscador da verdade) e “ menos censurado », optou deliberadamente por deixar estas salvaguardas ao mínimo sindical.
O problema? Os filtros de Grok foram calibrados para bloquear o ” pornografia explícita » (atos sexuais, nudez frontal completa). Mas a IA, tão estúpida quanto os seus pés, não classificou “ uma mulher de biquíni gerada a partir de uma foto vestida » como pornografia. Esta é a brecha do “biquíni”. Usuários maliciosos entenderam isso imediatamente: ao pedir lingerie ou moda praia, obtêm um resultado que serve como material de assédio, ao mesmo tempo em que caem no radar dos filtros automáticos básicos do xAI.
A desculpa de “ é apenas uma ferramenta » não se sustenta mais
Já podemos ver os defensores da plataforma se aproximando: “ É como o Photoshop, você não culpa a Adobe se alguém o edita. » Isto é falso.
A diferença é fundamental. Photoshop é uma ferramenta passiva. Grok é um agente ativo. Quando um usuário pergunta “ coloque um biquíni nela “, a IA não apenas executa um script, ela interpreta uma solicitação de assédio, analisa a imagem de origem e gera uma nova imagem sintética para atender a essa solicitação.
Pior ainda, isso está acontecendo em praça pública. X não é apenas o editor da ferramenta, é também o emissor. Ao permitir que esses comandos sejam executados diretamente em threads, a plataforma facilita a humilhação pública. É ilegal, perigoso e moralmente indefensável.
A realidade jurídica atingirá duramente
Enquanto Elon Musk faz o papel de aprendiz de feiticeiro com moderação, o mundo real prepara a resposta. eu’APLICAR Lei 2025 nos Estados Unidos eLei de IA na Europa não estão lá para compensar os números.
Gerar imagens de pornografia infantil ou sugeri-las fortemente a menores é crime federal. Ao deixar sua IA “ alucinar » lingerie em crianças porque seus filtros são muito frouxos, a xAI está exposta a processos criminais massivos.
A reação da xAI desde ontem, 31 de dezembro de 2025, é típica: tapamos os buracos com urgência. Solicitações contendo “ bikini “,” despir ” Ou ” lingerie » começar a ser bloqueado ou gerar mensagens de erro.