Governo e MPF alertam X sobre uso indevido de IA para produzir conteúdos sexualizados

A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) emitiram uma série de recomendações à empresa responsável pela plataforma X, antigo Twitter, para coibir o uso indevido do Grok, ferramenta de inteligência artificial integrada à rede social, na criação e disseminação de conteúdos sexuais e erotizados sem consentimento.

O documento, divulgado nesta terça-feira (20), estabelece que a empresa implemente, no prazo máximo de 30 dias, procedimentos técnicos e operacionais capazes de identificar, analisar e remover conteúdos sexualizados indevidos ainda disponíveis na plataforma quando eles tiverem sido gerados pelo Grok a partir de comandos de usuários.

Entre as medidas apontadas está a suspensão imediata de contas envolvidas na produção de imagens de caráter sexual ou erótico, tanto de crianças e adolescentes quanto de adultos, quando feitas sem autorização. Entre as recomendações conjuntas está a adoção imediata de medidas que impeçam o Grok de gerar novas imagens, vídeos ou áudios que representem crianças e adolescentes em contextos sexualizados ou erotizados. O mesmo bloqueio deve valer para conteúdos que retratem adultos identificados ou identificáveis sem autorização prévia.

As recomendações foram elaboradas após denúncias de usuários que relataram a geração de imagens sexualizadas a partir de fotos de pessoas reais. Reportagens da imprensa nacional e internacional, além de testes conduzidos pelos próprios órgãos, também embasaram o documento. Segundo as instituições, as apurações indicaram o uso do Grok para a criação de deepfakes — técnica que utiliza inteligência artificial para produzir imagens falsas — com conotação sexual ou pornográfica, envolvendo mulheres, crianças e adolescentes reais.

Para os órgãos, a circulação desse tipo de material afeta diretamente a proteção de dados pessoais, as relações de consumo e a dignidade da pessoa humana, além de atingir direitos coletivos e individuais indisponíveis, com impacto mais grave sobre mulheres, crianças e adolescentes.

As instituições também defendem a criação de um mecanismo considerado “transparente, acessível e eficaz” para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais. A recomendação prevê, ainda, respostas adequadas em prazo razoável, especialmente em casos de conteúdos sintéticos sexualizados produzidos sem consentimento.

O documento também aborda o Marco Civil da Internet. Embora o artigo 19 preveja que provedores só seriam responsabilizados por conteúdos de terceiros após decisão judicial, as instituições argumentam que, nesse caso, a retirada é necessária. Isso porque, segundo o texto, as deepfakes sexualizadas não são produzidas apenas por usuários, mas resultam da interação direta com a ferramenta de inteligência artificial criada e disponibilizada pelo próprio X, o que caracterizaria a plataforma como coautora do conteúdo, e não mera intermediadora.

As recomendações citam ainda decisão recente do Supremo Tribunal Federal (STF), que declarou a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet, ao entender que o dispositivo não garante proteção suficiente a direitos constitucionais relevantes. No julgamento, o STF estabeleceu que provedores têm um dever especial de cuidado para evitar a circulação em massa de crimes graves, incluindo conteúdos que atentem contra mulheres em razão de sua condição de gênero.

Os órgãos lembram que as próprias regras internas do X proíbem a publicação e o compartilhamento de nudez não consensual, bem como a produção, manipulação e disseminação de imagens sexualizadas de terceiros sem autorização, inclusive no uso do Grok. Para as instituições, disponibilizar uma ferramenta de inteligência artificial sem filtros rigorosos, diante dessas normas, torna-se insustentável.

Caso as recomendações não sejam atendidas ou sejam consideradas insuficientes para reduzir os riscos apontados, a ANPD, a Senacon e o MPF informam que outras medidas poderão ser adotadas, tanto na esfera administrativa quanto judicial, com o objetivo de assegurar a proteção adequada dos cidadãos, especialmente de mulheres, crianças e adolescentes.

Leia mais

1. Advogado preso por morte de idosa na avenida da FEB já foi condenado por 2 mortes

2. Operação mira dirigentes do São Paulo em investigação sobre venda ilegal de camarotes

3. Funcionários são presos tentando desviar toneladas de linguiça da JBS