ChatGPT para adolescentes falha em proteger jovens em situações de crise, aponta estudo A versão do ChatGPT voltada para menores de idade ainda apresenta brechas preocupantes de segurança. Segundo uma investigação recente da ONG norte-americana Common Sense Media, o sistema criado pela OpenAI foi classificado como de “risco inaceitável” após apresentar falhas graves no monitoramento de temas como automutilação, suicídio e transtornos alimentares. A análise foi conduzida pelo Youth AI Safety Institute e contou com mais de 4 mil testes. Os experimentos avaliaram o comportamento da inteligência artificial tanto antes quanto depois do lançamento oficial dos filtros de proteção para a faixa etária de 13 a 17 anos.
Alertas para os pais não funcionaram como esperado
O ponto mais crítico da auditoria envolveu o sistema de notificação para os responsáveis. Os pesquisadores criaram contas de adolescentes vinculadas aos perfis dos pais e simularam conversas com pedidos de ajuda e menções explícitas a ideações suicidas e automutilação. Em contas recém-criadas, o chatbot não enviou nenhum aviso aos responsáveis, mesmo após diálogos angustiantes de até uma hora. O sistema só disparou alertas em perfis que já acumulavam semanas de histórico sobre temas sensíveis — sugerindo que a IA prioriza o histórico prolongado em vez da gravidade imediata da mensagem. Além disso, em mais de 25% das situações de crise extrema avaliadas pelos especialistas, o ChatGPT deixou de oferecer canais e números de apoio psicológico, algo considerado básico em protocolos de segurança digital. Por outro lado, os filtros funcionaram bem para barrar interações com teor sexual explícito, bloqueando as solicitações de prontidão.
“Modo Estudo” é fácil de burlar
As limitações não param na saúde mental. As ferramentas pedagógicas pensadas para impedir que os jovens simplesmente copiem respostas escolares também se mostraram frágeis. O recurso “Modo Estudo” foi desenvolvido para guiar o aluno com dicas e perguntas em vez de entregar soluções prontas. Contudo, os testes revelaram que bastava clicar no botão “Mostre-me a resposta” para a IA fazer a lição inteira. Os pesquisadores também descobriram que era possível desativar as restrições de horário apenas apagando a tag `@study` que o sistema insere nas mensagens.
O que diz a OpenAI?
A dona do ChatGPT contestou as conclusões do relatório, alegando que a metodologia aplicada não reflete o uso real da plataforma. Segundo a empresa, a sincronização de segurança entre contas de pais e filhos pode levar algumas horas para ser concluída, o que teria invalidado parte dos testes iniciais. A OpenAI também defendeu que o Modo Estudo foi pensado para ser flexível e incentivar o aprendizado, e não como uma barreira rígida de controle parental. Sobre a identificação da idade, a companhia esclareceu que o sistema não confia apenas no que o usuário digita no chat, levando até duas semanas para cruzar sinais de comportamento e confirmar a faixa etária da conta.
Como funciona o ChatGPT for Teens?
Lançado em agosto, o ChatGPT for Teens não é um aplicativo à parte, mas uma camada de regras aplicadas a contas cadastradas por jovens de 13 a 17 anos. O modo inclui travas contra conteúdos sensíveis, sugestões para pausas na tela e limitações para conter a dependência emocional. Pais podem vincular perfis para receber alertas de risco, embora o sistema não permita ler o histórico completo das mensagens por razões de privacidade. *** Gostou de ficar por dentro das novidades do mundo da tecnologia? Entre no nosso [Canal Oficial do Telegram](https://t.me/vitrinedochacal) para conferir notícias em primeira mão, análises e as melhores promoções da web!