OpenAI impõe novas restrições de segurança para adolescentes no ChatGPT

A OpenAI anunciou uma série de medidas para aumentar a segurança dos adolescentes que utilizam o ChatGPT. A partir de agora, informações sobre armas serão ainda mais restritas para usuários menores de 18 anos, mesmo que as perguntas não demonstrem intenções violentas.

As novas diretrizes incluem a possibilidade de encerramento automático de conversas que apresentem sinais de obsessão por violência. Em casos de interações recorrentes, a OpenAI poderá suspender temporariamente a conta do usuário, visando prevenir comportamentos potencialmente perigosos.

Além disso, a empresa aprimorou seu sistema de verificação de idade, que agora direcionará automaticamente adolescentes para uma versão do ChatGPT que possui restrições adequadas. Essa mudança visa garantir que o conteúdo acessado seja mais seguro e apropriado para esse público.

A OpenAI também se comprometeu a notificar os pais cujas contas estejam vinculadas às dos filhos, caso uma conta de adolescente seja suspensa devido a conversas sobre violência. Isso reflete uma preocupação crescente com a segurança dos jovens usuários da plataforma.

Essas ações ocorrem em um contexto mais amplo de debate sobre a segurança de adolescentes em ambientes digitais. Recentemente, um relatório da Common Sense Media destacou falhas nos alertas enviados aos pais, indicando que muitas vezes esses avisos são enviados tardiamente ou não são enviados quando são mais necessários.