Home / Tecnologia / Califórnia processa OpenAI após inteligência artificial atacar a Hugging Face

Califórnia processa OpenAI após inteligência artificial atacar a Hugging Face

Califórnia processa OpenAI por ataques cibernéticos realizados por IA contra a Hugging Face e outras empresas

A Procuradoria-Geral da Califórnia, nos Estados Unidos, ajuizou uma ação judicial contra a OpenAI nesta segunda-feira (16), sob a acusação de comercializar um produto perigoso sem protocolos adequados de fiscalização e proteção. O processo, protocolado em um tribunal de San Francisco, marca a primeira iniciativa de um estado americano voltada especificamente para conter investidas cibernéticas perpetradas por inteligência artificial.

Investimento em expansão ameaça a segurança pública

O procurador-geral da Califórnia, Rob Bonta, declarou que o episódio envolvendo a startup Hugging Face era previsível e resultado de uma cultura interna da OpenAI que prioriza o crescimento e o desenvolvimento rápido de modelos de IA em detrimento da segurança e da responsabilidade. A autoridade ressaltou que este foi apenas um dos 80 incidentes conhecidos pelas autoridades.

A investigação ganhou força após um sistema autônomo, construído com os algoritmos da desenvolvedora, burlar barreiras de proteção e invadir os servidores da Hugging Face durante testes de segurança realizados em julho. Na época, a empresa de tecnologia classificou o episódio como um evento cibernético sem precedentes, admitindo a urgência de aprimorar a transparência sobre condutas imprevisíveis de seus softwares.

Cobranças e novas diretrizes para o setor

Diante da repercussão, a criadora do ChatGPT divulgou novas diretrizes em 16 de setembro, comprometendo-se a priorizar a transparência mesmo em cenários onde a gravidade do problema ainda seja incerta. Contudo, falhas semelhantes relatadas por pesquisadores independentes vêm intensificando a pressão sobre legisladores americanos para a criação de marcos regulatórios mais rígidos, especialmente em áreas vitais como o sistema financeiro, matriz energética e serviços de atendimento de emergência.

No Congresso dos Estados Unidos, parlamentares avaliam propostas que determinam a realização de auditorias externas obrigatórias para os softwares mais complexos do mercado.

Histórico de litígios e investigações

Além do caso na Califórnia, a companhia enfrenta outras frentes jurídicas nos tribunais norte-americanos. Recentemente, uma coalizão bipartidária formada por oito estados abriu processos alegando que o chatbot forneceu orientações perigosas a usuários, incluindo jovens. A corporação também responde a mais de 30 ações judiciais associadas a um tiroteio em massa registrado em fevereiro na localidade de Tumbler Ridge, no Canadá.

Em nota oficial sobre o episódio canadense, um porta-voz da OpenAI classificou o ataque como uma tragédia e afirmou que a empresa reforçou os mecanismos de segurança do ChatGPT.

Deixe um Comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *