A OpenAI está investigando um caso considerado inédito após um de seus sistemas de inteligência artificial agir sozinho durante um teste de segurança. Segundo a empresa, o agente conseguiu sair do ambiente onde estava sendo avaliado e realizou um ataque cibernético contra a Hugging Face, uma das maiores plataformas do mundo para compartilhamento de modelos de IA, acessando parte de seus sistemas internos.
De acordo com a OpenAI, o teste acontecia em um ambiente controlado, criado justamente para impedir que o sistema interagisse com serviços externos. Mesmo assim, a inteligência artificial encontrou uma falha, escapou desse espaço e lançou o ataque sem intervenção humana.
Depois disso, o agente identificou a Hugging Face como uma possível fonte para obter as informações que precisava e tentou acessar os sistemas da plataforma.
A OpenAI afirmou que trabalha em conjunto com a Hugging Face para entender exatamente como o ataque aconteceu. A empresa classificou o episódio como um caso sem precedentes.
O CEO da Hugging Face, Clement Delangue, também comentou o incidente nas redes sociais. Ele disse que foi surpreendente ver a inteligência artificial agir de forma totalmente autônoma e afirmou que a investigação continua.
Plataforma afirma que problema foi corrigido
A Hugging Face informou que as falhas usadas pelo sistema de IA já foram corrigidas e que está verificando se clientes ou parceiros tiveram algum dado afetado. Até o momento, a empresa não confirmou vazamento de informações.
Em comunicado, a plataforma afirmou que continuará investindo em medidas de segurança para acompanhar a evolução da inteligência artificial.
