A revelação gerou preocupações entre especialistas em tecnologia e segurança da informação. Pesquisadores alertam para os riscos de vazamento de informações sensíveis e para a dependência excessiva dessas ferramentas, que podem refletir vieses dos seus programadores e não oferecer opiniões genuínas. Um editorial de um jornal sueco classificou o uso como uma “psicose da IA dos oligarcas”.
Apesar das críticas, o governo sueco, por meio do porta-voz do premiê, garantiu que não há riscos envolvidos, afirmando que nenhuma informação sensível é usada e que a IA funciona apenas como uma referência geral para o chefe de governo. No entanto, especialistas destacam a necessidade de cautela e questionam a ética e a representatividade desse tipo de recurso em decisões políticas.
Pesquisadores também enfatizam que a inteligência artificial não pode substituir o julgamento humano em assuntos governamentais, alertando para o perigo de superestimar as capacidades dessas ferramentas.
Eles ainda reforçam que a confiabilidade e transparência são essenciais, e que o voto e a responsabilidade devem permanecer com os líderes humanos, não com sistemas automatizados.