Quatro estudantes e ex-alunos de uma escola de ensino médio em Maryland, nos Estados Unidos, decidiram acionar a Justiça após sofrerem uma abordagem policial violenta motivada por uma falha em um sistema de segurança baseado em inteligência artificial, que confundiu um pacote de Doritos com uma arma de fogo.
Os alvos da ação judicial
A ferramenta utilizada no monitoramento pertence à empresa Omnilert, que figura como ré no processo ao lado do departamento de polícia do condado de Baltimore, do conselho de educação, dos oficiais envolvidos na operação e do diretor da instituição de ensino.
Os jovens, que fazem parte do time de futebol americano do colégio, argumentam que foram alvos de detenção e revistas ilegais devido a uma série de erros envolvendo tanto a tecnologia quanto a conduta dos profissionais de segurança.
“Esses estudantes foram prejudicados não apenas por uma tecnologia propensa a emitir alertas falsos, mas também pelos próprios adultos que deveriam mantê-los seguros quando os enviamos à escola”, disse ao The Guardian Damon Hewitt, presidente e diretor-executivo do Lawyers’ Committee for Civil Rights Under Law, organização que representa os jovens.
Como ocorreu a abordagem policial
O incidente teve início em outubro do ano passado, logo após o término de um treino esportivo, quando o técnico da equipe distribuiu pacotes de salgadinho aos jogadores.
Taki Allen, aluno que cursava o segundo ano na época, reuniu-se com amigos perto de mesas de piquenique para aguardar transporte, momento em que seis viaturas policiais chegaram ao campus com os giroscópios ligados.
Os agentes apontaram armas e exigiram que os adolescentes mantivessem as mãos erguidas, obrigando-os a se ajoelhar para serem algemados e revistados. Durante a ação, os estudantes relataram pavor e medo de morte, enquanto um dos policiais teria declarado que o desfecho seria mais trágico caso houvesse tentativa de fuga.
Falhas no sistema de inteligência artificial
Conforme os documentos apresentados à Justiça, o software da Omnilert avaliou o pacote de Doritos atribuindo 90% de probabilidade de se tratar de uma arma de fogo, utilizando câmeras de vigilância para a varredura.
O processo questiona a confiabilidade do programa de segurança, apontando um levantamento do gabinete do inspetor-geral de educação de Maryland que revelou que mais de 99% dos disparos de alerta nas escolas públicas locais configuravam falsos positivos.






