O Instituto de Defesa de Consumidores (Idec) solicitou ao governo federal a suspensão da inteligência artificial Grok, desenvolvida por Elon Musk e integrada à rede social X, por supostas violações aos direitos de mulheres, adolescentes e crianças. O pedido foi encaminhado na última segunda-feira (12) ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, que reúne órgãos como o Ministério da Justiça, o Ministério dos Direitos Humanos e o Conanda.
Segundo o Idec, a Grok vem sendo utilizada para gerar, editar e disseminar imagens sexualizadas não consentidas, incluindo deepfakes de caráter erótico ou pornográfico envolvendo pessoas reais, inclusive menores de idade, sem salvaguardas mínimas de segurança ou mecanismos eficazes de prevenção de abusos. As informações foram divulgadas inicialmente pelo Correio Braziliense.
O tema ganhou repercussão após o caso da jornalista Julie Yukari, que relatou ter sido alvo de montagens feitas a partir de uma foto pessoal. As imagens, solicitadas por usuários da plataforma à IA Grok, passaram a circular com alterações que a colocavam em situações sexualizadas. Mesmo após o registro de ocorrência policial e a promessa da plataforma de corrigir falhas nos sistemas de proteção, o conteúdo continuou sendo gerado.
No ofício enviado às autoridades, o Idec afirma que a situação configura defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor, além de possíveis violações à Lei Geral de Proteção de Dados (LGPD), ao Marco Civil da Internet e ao Estatuto da Criança e do Adolescente. O instituto também destaca que o caso já provocou reações de órgãos reguladores em países como União Europeia, Reino Unido, França e Índia.
Para o Idec, a interrupção temporária da ferramenta é uma medida necessária diante dos riscos. Em nota, a entidade afirma que o episódio evidencia os impactos de tecnologias lançadas sem garantias adequadas de segurança e responsabilidade.
Créditos da imagem: Grok
