A China deu mais um passo para reforçar o controle sobre a inteligência artificial voltada ao consumidor. O regulador de internet do país divulgou um conjunto de regras em formato de minuta que busca ampliar a supervisão sobre sistemas de IA capazes de simular traços de personalidade humana e interagir emocionalmente com usuários.
As normas, colocadas em consulta pública, fazem parte do esforço de Pequim para moldar a rápida expansão dessas tecnologias, impondo exigências mais rigorosas de segurança, ética e proteção ao usuário. De acordo com a Reuters, a proposta se aplica a produtos e serviços de IA oferecidos ao público chinês que reproduzem padrões humanos de pensamento, comunicação e comportamento emocional por meio de texto, imagens, áudio ou vídeo.
Entre os principais pontos do texto está a obrigação de alertar usuários sobre o uso excessivo e de intervir quando forem identificados sinais de dependência. As empresas responsáveis pelos sistemas também teriam que assumir responsabilidades ao longo de todo o ciclo de vida do produto, incluindo revisão de algoritmos, segurança de dados e proteção de informações pessoais.
O rascunho também aborda riscos psicológicos. Os provedores deverão ser capazes de identificar o estado emocional dos usuários e avaliar níveis de dependência. Caso sejam detectadas emoções extremas ou comportamentos considerados viciantes, as plataformas deverão adotar medidas de contenção.
Além disso, as regras estabelecem limites claros para conteúdo e conduta, proibindo a geração de material que ameace a segurança nacional, espalhe rumores ou promova violência e obscenidade. A iniciativa reforça a estratégia chinesa de avançar em inteligência artificial sem abrir mão de um forte controle regulatório sobre seus impactos sociais.
Créditos da imagem: Unsplash
