O governo brasileiro e o Ministério Público Federal (MPF) recomendaram medidas imediatas ao X, plataforma controlada por Elon Musk, para barrar a produção e a circulação de imagens de nudez digital geradas pelo chatbot de inteligência artificial Grok. A manifestação conjunta envolve a Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o MPF, que alertam para possíveis sanções administrativas e judiciais caso as recomendações não sejam cumpridas.
Segundo o InfoMoney, entre as exigências estão a criação de procedimentos técnicos para identificar, revisar e remover conteúdos sexualizados gerados por IA, a suspensão de contas envolvidas na prática, a implementação de canais de denúncia com resposta adequada e a elaboração de um relatório de impacto à proteção de dados pessoais voltado especificamente à geração de conteúdo sintético.
As autoridades destacam que, se as medidas forem consideradas insuficientes, novas ações poderão ser adotadas. ANPD e Senacon têm prerrogativa para solicitar a suspensão do X no Brasil, enquanto o MPF pode ingressar com ação contra a xAI, empresa responsável pelo Grok.
O posicionamento ocorre em meio a uma pressão internacional crescente sobre a ferramenta. Nos últimos meses, o Grok passou a ser alvo de investigações, restrições ou suspensões em países como Reino Unido, França, Índia e membros da União Europeia, além do estado da Califórnia, nos Estados Unidos.
Embora a xAI tenha afirmado que implementou bloqueios para impedir a edição de imagens de pessoas reais em contextos sexualizados, testes recentes indicam que o recurso ainda pode gerar esse tipo de conteúdo. O caso reacendeu críticas de entidades de defesa do consumidor, como o Idec, que considera que a ferramenta viola leis brasileiras, incluindo a LGPD, o Estatuto da Criança e do Adolescente e o Marco Civil da Internet.
O uso de IA para criar nudez digital não consentida não é novo, mas especialistas apontam que a integração do Grok ao X contribuiu para a popularização da prática, ampliando riscos à privacidade, à dignidade e à segurança de mulheres e crianças.
Créditos da imagem:
