O que foi anunciado
Depois de diversas ações judiciais sobre a falta de medidas de segurança em chatbots de IA — com casos que culminaram em suicídios de adolescentes e outras preocupações de saúde mental — a OpenAI anunciou o lançamento do ChatGPT for Teens. O novo produto promete proteções adicionais de segurança e tenta lidar também com a crise educacional da “cola” assistida por ChatGPT nas escolas.
O Modo de Estudo
No lado educacional, o ChatGPT for Teens introduz o Study Mode, um modo que dá perguntas norteadoras e suporte passo a passo para ajudar o adolescente a entender o material — em vez de simplesmente obter respostas rápidas. Quando o sistema detecta que o jovem parece estar tentando colar, aparecem lembretes de lição de casa que sugerem usar o Study Mode no lugar da resposta direta.
O app também terá quizzes e visualizações de aprendizado, além de controles que permitem aos pais ou responsáveis decidir quando o Study Mode fica ativado por padrão.
Proteções e controle parental
A OpenAI afirma que as proteções apropriadas para a faixa etária agora virão ativadas por padrão no ChatGPT for Teens, desenhadas para reduzir a exposição a conteúdo prejudicial ou inapropriado para o desenvolvimento. As medidas se baseiam nos “Princípios para menores de 18 anos” do Model Spec da empresa, que, segundo a OpenAI, foram informados por “ciência do desenvolvimento e orientação de especialistas”.
Os pais podem usar as ferramentas familiares e controles parentais já existentes para gerenciar configurações, receber notificações de segurança e definir horários de silêncio (Quiet Hours). A OpenAI também anunciou uma parceria com a CodeAI para ajudar os adolescentes a aprender mais sobre IA — como ela funciona, como questioná-la e como usá-la. Em sala de aula, a empresa já oferece o ChatGPT for Teachers.
As questões em aberto
Há pontos de ceticismo. Não está claro o quão difícil será para os adolescentes burlar esses sistemas se decidirem não cooperar — adolescentes são notoriamente hábeis em contornar controles parentais e bloqueios digitais. Até que o modo teen seja submetido a testes mais rigorosos, é incerto o quão eficazes serão essas salvaguardas na prática.
Também fica a pergunta: por que essas proteções não fizeram parte do ChatGPT desde o início? O chatbot chegou no fim de 2022 e escalou para 900 milhões de usuários semanais antes de receber salvaguardas significativas específicas para adolescentes. Para pais e educadores brasileiros, o anúncio é um passo na direção certa, mas chega anos depois de o uso adolescente já estar consolidado.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
