Busca por IA da Flock vigia multidões para a polícia — e as salvaguardas não impedem o abuso

O que a Flock vende para a polícia

A Flock Safety, empresa americana conhecida pelas câmeras de leitura de placas que espalhou por milhares de cidades dos Estados Unidos, foi além: agora vende às polícias uma busca por IA que vigia multidões. Entre as ferramentas está uma “watchlist” movida a inteligência artificial — um policial pode cercar uma área do mapa e fazer as câmeras ali dentro rodarem uma busca automática e contínua por qualquer pessoa que corresponda a uma descrição escrita.

Uma investigação da WIRED reconstruiu a ferramenta a partir do código que a empresa envia ao navegador de um policial antes mesmo do login. A conclusão central: as salvaguardas que a Flock prometeu podem desencorajar e registrar abusos, mas não os impedem.

O contexto: uma onda de reação

No último ano, a Flock enfrentou forte resistência. Departamentos de polícia cancelaram contratos, conselhos municipais que antes aprovaram as câmeras votaram pela retirada delas, e dois membros do Congresso escreveram ao CEO Garrett Langley depois que um policial do Texas buscou mais de 83 mil câmeras em nome de uma mulher que havia feito um aborto. Em Illinois, descobriu-se que a empresa permitiu que agentes federais de imigração acessassem dados de câmeras estaduais, violando a lei local.

Em resposta, em agosto a Flock anunciou mudanças: encurtou o período padrão de retenção de dados, passou a exigir um código de caso para cada busca e adicionou auditoria automatizada. Mas a análise da WIRED mostrou que boa parte do que governa uma busca acontece nos servidores da empresa — fora do alcance de quem deveria fiscalizar.

Como a moderação funciona (e onde ela falha)

O sistema de moderação da Flock avalia a descrição escrita pelo policial em oito categorias de conteúdo sensível antes de rodar a busca, devolvendo um de três vereditos: permitir, bloquear ou avisar. Categorias bloqueadas incluem raça, religião, nacionalidade, “termos subjetivos ou tendenciosos” e “conteúdo ofensivo” (conteúdo sexual, xingamentos e insultos).

Mas há uma assimetria que especialistas consideram grave: “expressão política, social e cultural” é a única categoria que recebe um aviso em vez de um bloqueio. Na prática, o policial clica em “continuar mesmo assim”, registra um comentário e segue com a busca.

• Tom Bowman, do Center for Democracy and Technology, nota que a categoria que a Flock protege com um “quebra-molas” em vez de uma barreira é justamente a que os tribunais mais protegem sob a Primeira Emenda.
• Kate Ruane, também do CDT, lembra que a busca por “expressão política” pode servir para identificar quem participou de um protesto — algo que já aconteceu.
• O pesquisador Deepak Kumar (UCSD) argumenta que um aviso só impede os policiais que já não estavam determinados a fazer a busca: o registro funciona “menos como dissuasão e mais como um arquivo”.

O abuso não é hipotético

Segundo o Washington Post, pelo menos 50 policiais americanos foram recentemente acusados de usar indevidamente leitores de placas — e 46 desses casos envolvem a Flock. Em mais da metade, o alvo era uma esposa, namorada, ex-parceiro ou alguém que o policial queria encontrar.

Um oficial de Milwaukee buscou uma mulher com quem namorava 124 vezes e o ex-parceiro dela 55 vezes, registrando cada busca como “investigação”. Um chefe de polícia da Geórgia rodou o nome da ex-namorada e da filha dela 600 vezes. Casos assim se repetem em Kansas, na Carolina do Norte e em dezenas de outros departamentos.

Jay Stanley, da ACLU, resume: a moderação é “um grão na garupa de uma máquina gigante de vigilância”, cuja base de dados pode ser sondada por IA em “expedições de pesca limitadas apenas pela imaginação”.

Por que isso importa agora

O caso da Flock concentra as principais tensões da IA aplicada à segurança pública: sistemas que rodam fora da vista de quem os contrata, moderação automatizada que ninguém de fora consegue medir, e a transferência de responsabilidade — a própria empresa avisa que resultados “podem ser imprecisos”, mas coloca o “risco de qualquer imprecisão” sobre o policial que faz a busca.

Para o público brasileiro, que acompanha debates crescentes sobre reconhecimento facial e câmeras corporais, a investigação oferece um alerta concreto: quando a decisão de vigiar é automatizada e opaca, as salvaguardas de superfície tendem a proteger a empresa da responsabilidade — não a proteger os cidadãos da vigilância.