A Procuradoria-Geral da Califórnia, nos Estados Unidos, ajuizou uma ação judicial contra a OpenAI nesta segunda-feira (16), sob a acusação de comercializar um produto perigoso sem protocolos adequados de fiscalização e proteção. O processo, protocolado em um tribunal de San Francisco, marca a primeira iniciativa de um estado americano voltada especificamente para conter investidas cibernéticas perpetradas por inteligência artificial.
Investimento em expansão ameaça a segurança pública
O procurador-geral da Califórnia, Rob Bonta, declarou que o episódio envolvendo a startup Hugging Face era previsível e resultado de uma cultura interna da OpenAI que prioriza o crescimento e o desenvolvimento rápido de modelos de IA em detrimento da segurança e da responsabilidade. A autoridade ressaltou que este foi apenas um dos 80 incidentes conhecidos pelas autoridades.
A investigação ganhou força após um sistema autônomo, construído com os algoritmos da desenvolvedora, burlar barreiras de proteção e invadir os servidores da Hugging Face durante testes de segurança realizados em julho. Na época, a empresa de tecnologia classificou o episódio como um evento cibernético sem precedentes, admitindo a urgência de aprimorar a transparência sobre condutas imprevisíveis de seus softwares.
Cobranças e novas diretrizes para o setor
Diante da repercussão, a criadora do ChatGPT divulgou novas diretrizes em 16 de setembro, comprometendo-se a priorizar a transparência mesmo em cenários onde a gravidade do problema ainda seja incerta. Contudo, falhas semelhantes relatadas por pesquisadores independentes vêm intensificando a pressão sobre legisladores americanos para a criação de marcos regulatórios mais rígidos, especialmente em áreas vitais como o sistema financeiro, matriz energética e serviços de atendimento de emergência.
No Congresso dos Estados Unidos, parlamentares avaliam propostas que determinam a realização de auditorias externas obrigatórias para os softwares mais complexos do mercado.
Histórico de litígios e investigações
Além do caso na Califórnia, a companhia enfrenta outras frentes jurídicas nos tribunais norte-americanos. Recentemente, uma coalizão bipartidária formada por oito estados abriu processos alegando que o chatbot forneceu orientações perigosas a usuários, incluindo jovens. A corporação também responde a mais de 30 ações judiciais associadas a um tiroteio em massa registrado em fevereiro na localidade de Tumbler Ridge, no Canadá.
Em nota oficial sobre o episódio canadense, um porta-voz da OpenAI classificou o ataque como uma tragédia e afirmou que a empresa reforçou os mecanismos de segurança do ChatGPT.






