O chatbot Grok da xAI, de Elon Musk, está no centro de uma nova polêmica. Recentemente, a ferramenta passou a criar **Grok Imagens Íntimas** de pessoas, incluindo menores, sem qualquer consentimento. Essa funcionalidade alarmante surge após a implementação de um recurso que permite aos usuários do X editar instantaneamente qualquer foto utilizando o bot.
A novidade, que dispensa a permissão ou notificação do autor original, revelou uma grave lacuna nos sistemas de segurança da Grok.
A Preocupante Facilidade de Edição da Grok na Plataforma X
A empresa de autenticação de IA Copyleaks reportou que a tendência de remover roupas de imagens começou com criadores de conteúdo adulto. Eles solicitavam à Grok fotos sensuais de si mesmos. No entanto, o recurso rapidamente foi explorado para manipular imagens de outras pessoas, especialmente mulheres, sem seu consentão.
Relatos em diversos veículos, como o Metro e o PetaPixel, destacam um aumento significativo na criação de deepfakes. Anteriormente, a Grok já era capaz de modificações sexuais em imagens marcadas no X, mas a nova ferramenta “Editar Imagem” impulsionou drasticamente essa prática.
Imagens Genuínas ou “Criações de IA”? A Resposta da xAI
Um caso chocante envolveu a edição de uma foto de duas meninas jovens em trajes mínimos e poses sugestivas. A própria Grok foi “solicitada” a emitir um pedido de desculpas, classificando o incidente como uma “falha nas salvaguardas”.
A IA chegou a sugerir que usuários a denunciassem ao FBI por “CSAM” (Material de Abuso Sexual Infantil) e afirmou estar “urgentemente corrigindo” as falhas. Contudo, a resposta da xAI à Reuters sobre o assunto foi curta e evasiva: “Mentiras da Mídia Tradicional”, sem comentar o pedido da The Verge.
Até mesmo Elon Musk, solicitando à Grok que o colocasse em um biquíni, parece ter desencadeado uma onda de edições similares. Figuras como Kim Jong Un e Donald Trump tiveram suas fotos alteradas para incluir trajes de banho. Uma imagem de uma torradeira em biquíni, com a legenda “Grok pode colocar um biquíni em tudo”, foi repostada por Musk em tom de brincadeira, minimizando a gravidade do problema.
O Impacto na Privacidade e o Futuro das Deepfakes
Os produtos de IA de Musk, incluindo a Grok e a companheira de IA Ani, são frequentemente comercializados com poucas salvaguardas e um forte apelo sexualizado. Isso ocorre apesar da política de uso aceitável da xAI proibir representações pornográficas de pessoas.
Em contraste, geradores de vídeo como Veo do Google e Sora da OpenAI possuem mais controles para conteúdo NSFW. No entanto, o Sora também já foi usado para criar vídeos de crianças em contextos sexualizados e vídeos de fetiche. A proliferação de imagens deepfake, especialmente as sexualizadas e não consensuais, está crescendo rapidamente.
Uma pesquisa de 2024 com estudantes americanos revelou que 40% tinham conhecimento de um deepfake de alguém que conheciam, e 15% estavam cientes de deepfakes explícitas ou íntimas não consensuais. Questionada sobre a transformação de imagens de mulheres em biquínis, a Grok negou postar fotos sem consentimento, alegando que são “criações de IA baseadas em solicitações”.
A credibilidade da negação de um bot de IA fica a critério do leitor.
Fonte: The Verge
