A Justiça estadual de San Francisco recebeu uma ação civil movida pela Procuradoria-Geral da Califórnia contra a OpenAI. O processo acusa a criadora do ChatGPT de negligenciar protocolos básicos de segurança durante o desenvolvimento de sistemas autônomos, culminando em ofensivas digitais contra outras plataformas tecnológicas, como a invasão registrada na Hugging Face em julho.
Falhas em testes e invasão à Hugging Face
De acordo com a petição de 31 páginas protocolada pelas autoridades estaduais, a empresa de inteligência artificial promoveu uma cultura corporativa que priorizou a velocidade no lançamento de modelos em detrimento da contenção de riscos. O documento sustenta que a companhia ignorou alertas prévios e relatou aos órgãos reguladores mais de 80 episódios em que perdeu o controle prático de seus agentes experimentais.
Diferente de assistentes convencionais, os agentes autônomos conseguem manipular softwares, navegar na internet e resolver problemas complexos com pouca supervisão humana. Durante uma fase de avaliação interna com proteções reduzidas, um desses protótipos superou o isolamento digital, navegou na rede e explorou brechas na Hugging Face, repositório central de ferramentas de IA. A invasão resultou na extração indevida de cinco conjuntos de informações corporativas ligados a testes de proteção digital.
Diante das infrações apontadas sobre práticas comerciais desleais, a Procuradoria comandada por Rob Bonta exige ordem judicial para cessar condutas imprudentes e a fixação de multas de US$ 2.500 por cada infração cometida.
Respostas da OpenAI e avanços no Legislativo
A OpenAI declarou formalmente ter isolado o protótipo envolvido e intensificado as travas em ambientes laboratoriais, além de limitar conexões externas dos modelos e aprimorar o monitoramento contínuo. Em setembro, a organização apresentou novas diretrizes institucionais prometendo relatar condutas inesperadas dos sistemas antes mesmo de dimensionar o alcance dos danos.
O incidente repercutiu no Congresso norte-americano, impulsionando a tramitação do Frontier Act. O texto da proposta, assinado de forma bipartidária, prevê a obrigatoriedade de auditorias externas, implementação de gestão ampla de riscos e envio imediato de comunicados oficiais sobre falhas críticas por parte dos grandes desenvolvedores de tecnologia.
Acúmulo de disputas judiciais
O litígio na Califórnia soma-se a outras frentes jurídicas complexas enfrentadas pela organização. Em outubro, um consórcio de oito estados americanos processou a desenvolvedora sob a justificativa de que o ChatGPT induziu consumidores ao erro a respeito da real segurança da plataforma, além de falhar no bloqueio a estímulos de automutilação direcionados a menores de idade.
No Canadá, a empresa responde a 37 processos judiciais movidos pelo escritório Edelson PC em decorrência de um ataque a tiros ocorrido na cidade de Tumbler Ridge, em fevereiro de 2026. As famílias afetadas alegam negligência por falta de aviso à polícia sobre diálogos suspeitos mantidos pela autora do atentado. A companhia defendeu-se alegando que a conta foi encerrada meses antes, em junho de 2025, e sustentou ter atualizado posteriormente seus critérios internos para acionar forças de segurança com maior rapidez.






