O CEO da Microsoft AI, Mustafa Suleyman, alertou para os riscos sociais do surgimento da chamada “IA aparentemente consciente” (SCAI, na sigal em inglês), em ensaio publicado em 19 de agosto. Para ele, sistemas com traços de consciência — como linguagem fluente, empatia e memória — podem levar usuários a acreditarem que essas IAs são seres conscientes, exigindo direitos e até cidadania. As informações foram publicadas pelo Observer.
Para ele, a crença exagerada na consciência da IA pode gerar delírios e dependência emocional, especialmente com o avanço dos modelos generativos.
“Alguns já tratam a IA como Deus ou se apaixonam por ela”, afirmou. O fenômeno, apelidado de “psicose da IA”, preocupa também o CEO da OpenAI, Sam Altman, que vê riscos no apego excessivo dos usuários aos conselhos do ChatGPT.
Suleyman defende que os desenvolvedores devem evitar projetar IAs com sinais de consciência. “Devemos criar IA para ajudar pessoas — não para parecer uma pessoa”, concluiu.
Crédito da imagem: Pexels
