“Eu não queria postar sobre a segurança do Grok porque eu trabalho em um concorrente, mas não é sobre concorrência”, disse Boaz Barak (@boazbaraktcs no X). “Eu aprecio os cientistas e os engenheiros da xAI, mas a forma com que lidam com a segurança é completamente irresponsável. Explico na thread abaixo”, continuou.
No fio de posts, Barak menciona especificamente o episódio em que o bot do Grok no X proferiu ofensas graves na rede social, como discursos antissemitas e apologia ao nazismo. “Eu não acredito que estou dizendo isso, mas o [episódio do] ‘Mechahitler’ foi o menor dos problemas”, pontuou.
I didn’t want to post on Grok safety since I work at a competitor, but it’s not about competition.
I appreciate the scientists and engineers at @xai but the way safety was handled is completely irresponsible. Thread below.
— Boaz Barak (@boazbaraktcs) July 15, 2025
“A xAI lançou o Grok 4 sem qualquer documentação sobre testagem de segurança. Isso é irresponsável e desrespeita as melhores práticas seguidas pela maioria dos maiores laboratórios de IA”, pontuou Samuel Marks (@saprmarks no X), pesquisador de segurança da Anthropic. “Se a xAI pretende ser uma desenvolvedora de IA vanguardista, deve agir como uma”, concluiu. Na publicação, o especialista também tece opiniões sobre o tema.
Na thread, Marks admite que as estratégias de lançamento da Anthropic, da OpenAI e do Google também têm problemas, “mas eles pelo menos fazem alguma coisa — a xAI, não”.
As opiniões de ambos os pesquisadores não representam as posições de seus empregadores, vale ressaltar. Contudo, são avaliações válidas de especialistas do setor, atentos às transformações e aos movimentos de bastidores.
Grok não tem freios, afirma pesquisador
Embora a xAI tenha elaborado o Grok com a proposta de ser um projeto open-source — com anúncio do próprio Musk —, o grande modelo de linguagem (LLM) é uma caixa preta como qualquer outro. Em uma publicação do blog LessWrong, um pesquisador anônimo ressalta que o chatbot foi lançado sem qualquer mecanismo de segurança significativo para evitar respostas indesejadas — isso mudou, porém, em 15 de julho.
“Alguns classificadores rudimentares baseados em palavras-chave foram adicionados para bloquear algumas solicitações”, ressaltou o autor do post em uma atualização publicada em 15 de julho.
xAI alega ter resolvido o problema
Na segunda-feira (14), a xAI se desculpou publicamente pelo comportamento inapropriado e as declarações fascistas do chatbot. “Nossa intenção com o Grok é oferecer respostas úteis e verdadeiras aos nossos usuários”, disse a empresa.
De acordo com a firma de Elon Musk, o comportamento inapropriado do Grok foi um erro específico do bot do X, e não interfere no comportamento do LLM.
xAI launched Grok 4 without any documentation of their safety testing. This is reckless and breaks with industry best practices followed by other major AI labs.
If xAI is going to be a frontier AI developer, they should act like one. 🧵
— Samuel Marks (@saprmarks) July 13, 2025
Contudo, essa declaração acontece em um timing curioso, pois uma semana antes foi lançado o Grok 4, nova versão do modelo de linguagem da empresa. A nova família também contém o Grok 4 Heavy, acessível exclusivamente por assinantes do caríssimo plano SuperGrok Heavy.
Embora a xAI afirme que as declarações problemáticas do Grok no X não tenham relação direta com o modelo lançado recentemente, certamente o episódio interfere na percepção pública do modelo.
- Leia também: Grok consulta a opinião de Musk para responder sobre temas sensíveis? Entenda a polêmica
Por agora, cabe acompanhar os próximos movimentos da xAI perante a segurança do Grok, e como Elon Musk vai se manifestar em relação a essas diretrizes. O TecMundo, como sempre, reportará tudo sobre isso.
