Mídia Sudoeste

Governo e MP cobram medidas do X contra uso indevido do Grok

Órgãos alertam para riscos de conteúdos sexualizados gerados por inteligência artificial

Órgãos do Governo Federal e do Ministério Público Federal recomendaram que a plataforma digital X adote medidas imediatas para impedir o uso indevido do Grok, ferramenta de inteligência artificial integrada à rede social, especialmente na geração e circulação de conteúdos sexualizados.

A recomendação conjunta foi elaborada pela Agência Nacional de Proteção de Dados (ANDP), pela Secretaria Nacional do Consumidor (Senacon) e pelo Ministério Público Federal (MPF), após o recebimento de denúncias e a constatação de que a ferramenta vem sendo utilizada para criar imagens sintéticas de caráter sexual envolvendo pessoas reais, sem consentimento.

Entre as principais orientações está a criação, no prazo de até 30 dias, de mecanismos técnicos e operacionais capazes de identificar, revisar e remover conteúdos desse tipo que ainda estejam disponíveis na plataforma quando gerados pelo Grok a partir de comandos de usuários(as).

Os órgãos também recomendam a suspensão imediata de contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de pessoas maiores de idade, quando não houver autorização expressa para esse uso.

Outro ponto destacado é a necessidade de implementação de um canal claro, acessível e eficaz para denúncias, permitindo que titulares de dados exerçam seus direitos diante do uso irregular, abusivo ou ilegal de informações pessoais. A recomendação inclui respostas em prazo razoável, principalmente em situações que envolvam conteúdos sintéticos sexualizados ou erotizados.

As instituições informam que, além das denúncias, foram considerados levantamentos da imprensa e testes próprios que indicaram o uso do Grok para a criação de deepfakes. Esse tipo de material utiliza inteligência artificial para gerar imagens falsas com aparência real, muitas vezes com conotação pornográfica, atingindo de forma direta mulheres, crianças e adolescentes.

Segundo os órgãos, a circulação desse tipo de conteúdo compromete a proteção de dados pessoais, fere a dignidade da pessoa humana e afeta direitos coletivos e individuais indisponíveis, exigindo atuação mais rigorosa das plataformas digitais.

O documento reforça que devem ser adotadas medidas imediatas para impedir que o Grok produza novos conteúdos que representem crianças e adolescentes em contextos sexualizados. A recomendação se estende também a pessoas maiores de idade identificadas ou identificáveis, sempre que não houver consentimento.

Embora o Marco Civil da Internet preveja limitações à responsabilização de provedores por conteúdos publicados por terceiros, as instituições destacam que, nesses casos, a produção ocorre a partir da interação direta entre usuários(as) e uma ferramenta criada e disponibilizada pela própria plataforma, o que afasta a condição de simples intermediária.

As recomendações também levam em conta entendimento recente do Supremo Tribunal Federal, que reconheceu a necessidade de maior proteção a direitos fundamentais e atribuiu às plataformas digitais um dever especial de cuidado para evitar a disseminação de conteúdos graves, especialmente aqueles que atingem mulheres em razão da condição do sexo feminino.

Os órgãos lembram ainda que as próprias regras internas do X proíbem a divulgação de nudez não consensual e o uso do Grok para gerar ou manipular imagens de terceiros com conteúdo sexualizado, o que reforça a necessidade de filtros mais rigorosos.

Caso as recomendações não sejam cumpridas ou sejam consideradas insuficientes para reduzir os riscos identificados, novas medidas poderão ser adotadas nas esferas administrativa e judicial, com foco na proteção dos direitos de cidadãs e cidadãos, em especial de mulheres, crianças e adolescentes.