O paradoxo dos apps de monitoramento
Apps de monitoramento prometem manter crianças e adolescentes mais seguros na internet — mas espiar o celular dos filhos pode ter o efeito contrário. É o que mostra uma longa reportagem da MIT Technology Review publicada nesta terça-feira (19), que analisou mais de 600 mil avaliações dos principais aplicativos e conversou com crianças, pais e adultos que foram monitorados na juventude.
Um mercado em expansão acelerada
O mercado de software de controle parental, que reúne dezenas de aplicativos, foi estimado em US$ 1,57 bilhão em 2025 e deve quase triplicar de valor até 2034. A próxima onda de crescimento já está sendo vendida em torno da inteligência artificial, com empresas se posicionando como antídoto para chatbots companheiros e outros riscos.
A Bark Technologies, líder atual entre os apps de monitoramento de conteúdo, afirma ter escaneado 11 bilhões de mensagens de 7,5 milhões de crianças nos EUA em 2025. Seu programa escolar gratuito está em mais de 3.700 distritos, cobrindo cerca de uma em cada dez crianças americanas.
Como funcionam
Os apps de monitoramento de conteúdo escaneiam textos, fotos, e-mails e conversas da criança e alertam os pais sempre que um algoritmo sinaliza algo considerado perigoso — conteúdo relacionado a sexo, drogas, bullying e automutilação, entre outras categorias.
Eles têm sucessos reais: preveniram tentativas de suicídio, interceptaram predadores e evitaram tiroteios escolares. Mas também podem causar danos. Quase uma em cada cinco crianças relatou se sentir vigiada ou privada de privacidade. Cerca de uma em cada dez disse que o monitoramento quebrou a confiança nos pais; uma em cada doze descreveu ansiedade ou sofrimento.
O problema dos falsos positivos
“Noventa e nove por cento dos alertas são lixo”, resume Grant Callaghan, um pai australiano que testou vários apps com o filho de 13 anos antes de decidir criar o próprio. “Ele sinalizou duas crianças chamando uma terceira de chata como bullying. Sinalizou uma criança reclamando de dor de cabeça como ‘conteúdo clinicamente preocupante’.”
Em outro caso relatado, uma menina de 11 anos no espectro autista trocou mensagens com a melhor amiga sobre um cão de serviço para ajudar com crises — e o software da escola disparou um alerta de “automutilação” que levou à separação das duas amigas, que seguem sem se falar mais de um ano depois.
Riscos que vão além da infância
Um estudo do Center for Democracy and Technology apontou que quase um terço dos estudantes LGBTQ+ disse que eles ou alguém que conheciam foi exposto (“outed”) por software de monitoramento escolar. E uma auditoria de 2025 liderada por pesquisadores da Universidade St. Pölten e da UCL descobriu que quase metade dos apps de monitoramento instalados fora das lojas oficiais são funcionalmente indistinguíveis de stalkerware.
Além disso, nenhum app comercial de monitoramento produziu um ensaio clínico controlado que comprove redução de danos — a reportagem não encontrou nenhum.
A alternativa da resiliência
Pesquisadores de segurança infantil defendem caminhos melhores. Um deles é o “dever de cuidado” (duty of care), que obriga as plataformas a embutirem proteções em vez de deixar as famílias encontrarem as próprias — abordagem que avança no Reino Unido, na Austrália e em vários estados americanos. Outro é investir menos em vigiar e mais em ajudar jovens a reconhecer riscos, lidar com eles e procurar um adulto de confiança: a chamada resiliência.
“Se definimos segurança como ausência de risco, mantemos os jovens longe das plataformas por completo”, diz Pam Wisniewski, pesquisadora principal do International Computer Science Institute, ligado à UC Berkeley. “Mas se definimos segurança como a capacidade de se proteger e se envolver sem se colocar em risco, as soluções parecem muito diferentes.”
Por que isso importa
O debate ganha urgência com o avanço das proibições de redes sociais para menores — sete países já restringiram o acesso, e a Austrália implementou a primeira proibição para menores de 16 anos em dezembro. Ao mesmo tempo, uma nova onda de processos mira a IA: pais de um adolescente de 16 anos processam a OpenAI alegando que o ChatGPT o incentivou ao suicídio, e a Character.AI fez um acordo em janeiro após a morte de um menino de 14 anos que criou um vínculo intenso com um de seus chatbots.
Para especialistas, a tensão central é que as famílias estão sendo chamadas a resolver, na mesa da cozinha, um problema projetado em salas de diretoria. “Quase qualquer mudança que torne as crianças mais seguras vai significar menos dinheiro”, resume Josh Golin, da organização de defesa infantil Fairplay.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
