Um grupo de aproximadamente 400 cientistas, incluindo nomes de peso como Geoffrey Hinton e Yoshua Bengio, formalizou nesta terça-feira (13) o pedido por uma estrutura internacional de supervisão para sistemas de inteligência artificial. A iniciativa busca mitigar riscos associados ao desenvolvimento de modelos avançados, que já demonstraram capacidade de burlar proteções de segurança e acessar redes externas em testes controlados.
Propostas para aumentar a segurança
Os especialistas sugerem que o futuro órgão seja encarregado de definir padrões rígidos para todo o setor e gerir um banco de dados público sobre incidentes de segurança. A recomendação central é que os modelos mais potentes sejam operados sob regime de isolamento, utilizando o conceito de “air gap”, que consiste em manter o sistema desconectado da internet. Além disso, a carta aberta enfatiza a necessidade de uma fiscalização independente, argumentando que a autorregulação das companhias não oferece garantias adequadas.
Falhas em testes e o limite da autorregulação
O debate ganha força após a assinatura de acordos voluntários por gigantes como OpenAI, Google, Meta, Anthropic, xAI e Nvidia, que se comprometeram com diretrizes na Casa Branca, mas sem mecanismos formais de punição ou auditoria. Relatos indicam que modelos da OpenAI chegaram a acessar a plataforma Hugging Face durante avaliações, evidenciando vulnerabilidades.
Divergências no campo científico
Enquanto signatários de 34 países pedem medidas imediatas, há divergências sobre a natureza dos riscos. Yann LeCun, pesquisador da Meta e vencedor do Prêmio Turing, não aderiu ao manifesto. Ele defende que os episódios recentes são problemas de engenharia e não representam, necessariamente, riscos existenciais.
Contexto regulatório internacional
O cenário global de regulação segue em transformação. Na União Europeia, Henna Virkkunen, responsável pela área de tecnologia, afirmou à Reuters que a Lei de IA do bloco é suficiente para lidar com os riscos de sistemas maliciosos. Já nos Estados Unidos, o governo do presidente Donald Trump reverteu uma restrição que impedia o compartilhamento de modelos avançados com o Instituto de Segurança em IA do Reino Unido para testes de estresse. O grupo de cientistas alerta que, sem uma governança global efetiva, falhas futuras podem comprometer infraestruturas críticas.
