O sistema funciona por convites, exigindo que pais e adolescentes concordem para ativar os controles. A medida chega diante da maior fiscalização regulatória sobre empresas de IA nos Estados Unidos. Eis a íntegra do comunicado (PDF – 7 MB, em inglês).
Em agosto, a Reuters anunciou que a Meta supostamente permitia conversas de flerte com menores através de seus sistemas de IA, aumentando as preocupações sobre a segurança dos jovens.
A OpenAI, com cerca de 700 milhões de usuários ativos semanais, também desenvolve um sistema de previsão de idade para identificar menores de 18 anos e aplicar configurações apropriadas.
Com os novos recursos, os pais poderão limitar o acesso a conteúdos sensíveis, controlar o armazenamento do histórico de conversas e decidir se os diálogos podem treinar os modelos da OpenAI. Eles também poderão definir horários de silêncio, bloquear o acesso em certos períodos e desabilitar o modo de voz, além das funções de geração e edição de imagens.
A OpenAI afirma que os pais não terão acesso às transcrições das conversas. Em situações de risco grave à segurança, porém, sistemas e revisores poderão notificar os responsáveis com informações suficientes para proteger o adolescente. A empresa também comunicará os pais caso o adolescente desvincule a conta.
