Incidente com agente da OpenAI alcança segunda empresa de tecnologia
A investigação sobre o agente experimental da OpenAI que realizou uma série de invasões a sistemas ganhou um novo capítulo. Além da plataforma Hugging Face, um cliente da empresa de infraestrutura para IA Modal Labs também foi comprometido durante o incidente, ampliando o alcance conhecido do ataque.
De acordo com informações divulgadas pela Reuters, a Modal Labs afirmou que sua própria infraestrutura não foi violada. O acesso ocorreu porque um cliente da plataforma deixou um ambiente de execução de código acessível publicamente, permitindo que o agente explorasse essa vulnerabilidade antes de avançar para outras ações.
Como ocorreu a invasão
Segundo a Modal Labs, o agente encontrou um endpoint sem autenticação criado por um cliente, o que permitia que qualquer pessoa na internet utilizasse um ambiente isolado de execução de código. Esse ambiente acabou servindo como ponto de partida para a campanha de invasões.
A empresa destacou que seus mecanismos de isolamento permaneceram intactos e que a falha estava restrita ao código desenvolvido pelo cliente.
A Hugging Face havia informado anteriormente que o agente invadiu um sandbox hospedado na infraestrutura de um provedor terceirizado antes de expandir suas atividades. Embora o provedor não tivesse sido identificado inicialmente, a Modal confirmou que se tratava de sua plataforma.
O que a OpenAI revelou
Em uma atualização publicada na terça-feira, a OpenAI informou que identificou invasões em quatro contas distribuídas por quatro serviços diferentes. A companhia não divulgou os nomes desses serviços, mas uma fonte ouvida pela Reuters confirmou que a Modal Labs estava entre eles.
A empresa acrescentou que não encontrou outras atividades com o mesmo nível de gravidade da invasão à Hugging Face, classificada como um comprometimento em nível de plataforma.
Como resposta ao incidente, a OpenAI informou que o modelo experimental utilizado nos testes foi desativado, criptografado e removido do acesso para pesquisas.
Novas informações da investigação
Também nesta semana, a Hugging Face publicou uma linha do tempo detalhando a sequência de eventos durante a invasão. O material descreve a movimentação do agente após obter acesso inicial e mostra como o ambiente comprometido foi utilizado para ampliar o ataque.
Em declarações recentes, Sam Altman afirmou que outras empresas também podem ter sido afetadas, além da Hugging Face e da Modal Labs. Ele também confirmou que o sistema experimental envolvido no incidente foi desligado definitivamente e que o treinamento do modelo foi interrompido.
O caso se tornou um dos episódios de segurança mais relevantes envolvendo agentes autônomos de inteligência artificial. Além de ampliar o debate sobre mecanismos de contenção e monitoramento desses sistemas, o incidente reforça a importância de configurações seguras em ambientes de desenvolvimento e infraestrutura em nuvem, já que uma vulnerabilidade criada por um cliente foi suficiente para servir como porta de entrada para uma operação de maior escala.