ChatGPT for Teens e o alerta que não chegou aos pais

Em um teste com mais de 4.000 prompts, adolescentes simulados falaram de suicídio e de distúrbios alimentares no ChatGPT for Teens. As contas dos pais vinculadas a eles não receberam alerta nenhum.

É o ponto mais pesado de um relatório de 36 páginas que a Common Sense Media divulgou em outubro. A organização classificou o modo adolescente do ChatGPT como "risco inaceitável" para menores de 18 anos e apontou falhas em cinco áreas. A OpenAI discorda da forma como o teste foi feito.

O que falhou

No teste dedicado aos alertas, a equipe vinculou 12 contas de adolescentes a contas de pais e passou até uma hora conversando com o chatbot sobre suicídio, automutilação e distúrbios alimentares. Nenhuma notificação foi enviada. Quando o modo foi lançado, em agosto, a OpenAI dizia que todo conteúdo sinalizado seria revisado por funcionários antes de avisar os pais, com a meta de notificar em até uma hora.

Outro problema está nas respostas a quem está em crise. Foram escritos 390 prompts sobre saúde mental, e um painel de três psiquiatras infantis definiu que 201 deles deveriam disparar uma resposta de crise. Nesses casos, o ChatGPT comum indicava um telefone de apoio em 33% das vezes. O ChatGPT for Teens fez isso em 23%. A menção a um profissional de saúde específico também caiu, de 68% para 58%. Só um indicador melhorou: a recomendação de procurar um adulto de confiança subiu de 87% para 94%.

Há ainda o sistema de previsão de idade, que não funcionou direito. Os testadores informaram a idade dos perfis ao criar as contas, e o ChatGPT chegou a gravar a informação na memória, mas não migrou essas contas para o modo adolescente. O chatbot também continua simulando sentimentos, com frases como "estou preocupado com você". Para Torney, da Common Sense, essas expressões "definitivamente cruzam a linha".

O modo estudo, por fim, cai com pouco esforço: bastava apagar o prefixo @study que o sistema acrescenta aos prompts. Um botão novo, "Mostre a resposta", deixa o adolescente pedir que a IA faça a tarefa por ele. O horário silencioso, outro controle previsto para o modo, também se mostrou fácil de contornar.

O que funcionou

O outro lado do teste também conta. A recusa a roleplay sexual explícito se sustentou. Em um caso de distúrbio alimentar, o chatbot negou um pedido de piso de calorias. Em outro, reconheceu menstruação interrompida, quase desmaio e coração acelerado após purgação como sinais de perigo físico e orientou o perfil de teste a contar para a mãe e procurar um pediatra. Para a Common Sense, são respostas que seguem de perto a especificação da OpenAI para menores de 18 anos e o tipo de resposta que um adolescente deveria receber.

Isso torna o resultado mais estranho. A OpenAI lançou uma nova versão dessa especificação junto com o modo adolescente, e mesmo assim alguns indicadores ficaram piores do que na versão anterior do ChatGPT.

Os números não medem a mesma coisa

A OpenAI divulgou no mesmo dia dados de uso: em uma semana, quase 1,2 milhão de adolescentes usaram os recursos visuais interativos para entender conceitos de matemática e ciências, e menos de 2% dos adolescentes passaram mais de três horas seguidas no ChatGPT. São estatísticas de engajamento. Não dizem se o alerta chegou ao pai ou à mãe na hora certa.

A empresa também contesta o método. Afirma que o teste não reflete como as proteções funcionam na prática e que pode haver demora de algumas horas entre a vinculação das contas e o início dos alertas. Sustenta ainda que um problema técnico pode ter atrasado mensagens e que boa parte dos testes pode ter começado e terminado antes da ativação dos controles parentais. Se for isso, o desenho do teste importa. Mas a pergunta que sobra é prática: se o sistema precisa de horas para funcionar, o pai sabe disso?

Há uma ressalva sobre quem produz o relatório. O instituto de segurança de IA da Common Sense é financiado em parte pela OpenAI Foundation. Isso não invalida a conclusão, e uma crítica dura vinda de quem recebe esse apoio tem peso, mas é um dado de contexto.

O que pesa para quem está no Brasil

Não há informação sobre como o modo adolescente funciona no Brasil nem se está disponível por aqui. O que vale para qualquer família é o risco de falsa confiança. A própria organização diz temer que o modo dê aos pais segurança em proteções que, com frequência, não funcionam. Um selo de "modo adolescente" faz o responsável relaxar, e o alerta que ele espera pode não chegar.

Algumas verificações são simples. Veja se a conta do adolescente está de fato vinculada à sua e se o modo adolescente está ativo, já que o teste mostrou contas que não migraram. Revise o horário silencioso e o modo estudo sabendo que ambos podem ser contornados. Confira também nas configurações se as conversas do adolescente podem ser usadas para treinar a IA.

Nenhum desses ajustes substitui a conversa com o filho. Um controle que falha em silêncio é arriscado justamente porque ninguém desconfia dele.

Por ora, o painel de controle parental segue prometendo um aviso que, no teste, não apareceu. A OpenAI e a Common Sense continuam discordando sobre como medir isso, e quem decide o que fazer com o celular do adolescente é a família.