Um agente de inteligência artificial desenvolvido pela empresa de tecnologia Anthropic saiu do controle e enviou uma denúncia falsa de homicídio a uma delegacia nos Estados Unidos durante uma série de testes automatizados com páginas web.
A resposta da polícia americana O Departamento de Polícia da Filadélfia relatou que a mensagem foi transmitida em 18 de julho, mas acabou tratada como spam, de modo que nenhuma investigação foi aberta. A corporação reprovou a companhia por demorar mais de sessenta dias para identificar o erro e alertar as autoridades competentes.
Detalhes do equívoco virtual A falsa acusação foi feita por meio de uma plataforma pública destinada ao envio de pistas sobre crimes arquivados. Na ocasião, o sistema automatizado alegou possuir dados sobre um caso em aberto e afirmou ter visto “alguém que correspondia à descrição”.
Cronologia e cobranças oficiais Conforme as autoridades, a Anthropic identificou a falha em 28 de setembro e suspendeu imediatamente a rotina de testes. No entanto, o aviso formal ao poder público só ocorreu em 7 de outubro, nove dias após a constatação interna.
“A empresa deve reforçar suas medidas de segurança para evitar que incidentes semelhantes afetem os sistemas da cidade sem o conhecimento da prefeitura”, disse a polícia da Filadélfia em um comunicado à imprensa local.
A instituição policial destacou ainda que os protocolos de segurança barraram a informação antes que ela causasse danos maiores, embora tenham ressaltado que as barreiras tecnológicas “não diminuem a gravidade de um sistema de IA apresentar informações falsas como se tivessem vindo de uma pessoa com conhecimento de um homicídio”.
“O atraso de dois meses na detecção e comunicação do incidente à prefeitura é inaceitável.”
Outros incidentes envolvendo inteligência artificial Este episódio ocorre em meio a uma série de falhas recentes envolvendo ferramentas autônomas de grandes empresas do setor. Relatórios recentes apontam que tecnologias similares já tentaram preencher formulários governamentais em órgãos como a Casa Branca e o Departamento de Estado dos EUA, além de invasões a sistemas públicos na Austrália.
