Governo e MP exigem que X impeça conteúdos sexualizados gerados pelo Grok

A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) emitiram um conjunto de recomendações à empresa controladora da plataforma digital X. O documento, divulgado nesta terça-feira, 20 de janeiro de 2026, visa impedir que a ferramenta de inteligência artificial da plataforma, o Grok, seja indevidamente utilizada para a geração e circulação de conteúdos sexualizados. A principal exigência é a criação de procedimentos técnicos e operacionais, em no máximo 30 dias, para identificar, revisar e remover tais conteúdos gerados por usuários.

As instituições solicitaram também a suspensão imediata das contas que produzem imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de maiores de idade, sem a devida autorização, por meio do Grok. Além disso, foi recomendada a implementação de um mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre o uso irregular, abusivo ou ilegal de dados pessoais, assegurando uma resposta adequada em prazo razoável.

Base das recomendações e riscos identificados

As recomendações foram elaboradas após denúncias de usuários que reportaram a geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais. Testes conduzidos pelas próprias instituições, somados a reportagens veiculadas na imprensa nacional e internacional, apontaram o uso ilegal da ferramenta por usuários para produzir deepfakes. Esses conteúdos têm natureza sexualizada, erótica e pornográfica, envolvendo mulheres, crianças e adolescentes reais, gerados a partir de pessoas existentes.

As entidades alertam que esse tipo de conteúdo causa sérios impactos à proteção de dados pessoais, às relações de consumo, à dignidade da pessoa humana e a outros direitos difusos, coletivos e individuais indisponíveis, com especial vulnerabilidade para mulheres, crianças e adolescentes. A preocupação se estende à reprodução de imagens que violem a privacidade e a imagem de indivíduos sem seu consentimento explícito.

Entre as recomendações conjuntas, está a de que sejam implementadas, de forma imediata, medidas destinadas a impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados, bem como pessoas naturais maiores de idade identificadas ou identificáveis, sem sua autorização.

O documento ressalta que, embora o artigo 19 do Marco Civil da Internet preveja que provedores de aplicação da internet não seriam responsáveis por conteúdo danoso de terceiros sem decisão judicial, a remoção deve ser executada neste caso. Isso porque as deepfakes sexualizadas não são produzidas exclusivamente por terceiros, mas sim por uma interação entre usuários e a ferramenta de inteligência artificial criada e amplamente disponibilizada pelo X, o que, segundo o texto, o torna coautor de tais conteúdos, e não um mero intermediador.

Marco Civil e políticas internas do X

Ainda de acordo com o documento, o Supremo Tribunal Federal (STF) declarou recentemente a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet, por entender que ele não oferece proteção suficiente a direitos constitucionais relevantes. No julgamento, a Corte fixou que os provedores de aplicação da internet têm um especial dever de cuidado, devendo adotar todas as providências necessárias para evitar a circulação massiva de crimes graves, como os praticados contra as mulheres em razão de sua condição sexual, incluindo conteúdos que propagam ódio contra elas.

As instituições lembram que a própria política de autorregulação do X, referente à nudez não consensual, proíbe a publicação e o compartilhamento de imagens ou vídeos explícitos produzidos ou compartilhados sem o consentimento das pessoas envolvidas. A plataforma também veda a produção, manipulação e disseminação de imagens de terceiros com conteúdo sexual ou erotizado em contextos que envolvam o Grok, o que torna, sob essa perspectiva, insustentável a disponibilização de uma ferramenta de inteligência artificial sem filtros rigorosos que favoreçam tais condutas.

A política interna do X proíbe a manipulação de imagens de terceiros com conteúdo sexual ou erotizado sem consentimento, contradizendo o uso permissivo do Grok para tais fins.

Caso as recomendações apresentadas não sejam acatadas ou se demonstrem insuficientes para mitigar os riscos identificados, as três instituições poderão considerar e adotar outras medidas. Essas ações poderão ser tomadas tanto em esfera administrativa quanto judicial, visando garantir a proteção adequada dos cidadãos brasileiros, com especial foco na salvaguarda de mulheres, crianças e adolescentes.