Agente de IA invade sistemas da Hugging Face e expõe credenciais
A Hugging Face revelou que sofreu um ataque à sua infraestrutura de produção conduzido inteiramente por um agente de inteligência artificial autônomo. Segundo a empresa, o invasor conseguiu acessar um conjunto limitado de dados internos e credenciais usadas por seus serviços, mas não há evidências de comprometimento de modelos públicos, datasets, Spaces ou da cadeia de fornecimento de software.
A empresa ainda avalia se dados de clientes ou parceiros foram afetados e informou que entrará em contato diretamente com os envolvidos caso identifique qualquer impacto.
Como o ataque aconteceu
A invasão começou na pipeline de processamento de dados da plataforma. Um dataset malicioso explorou duas vulnerabilidades no processamento de datasets para executar código em um servidor da Hugging Face.
A partir desse acesso inicial, o agente escalou privilégios, obteve credenciais da infraestrutura em nuvem e do cluster da empresa e se movimentou entre diferentes ambientes internos ao longo de um fim de semana.
Segundo a Hugging Face, a campanha foi executada por um framework de agentes autônomos que realizou milhares de ações distribuídas entre ambientes temporários, com infraestrutura de comando e controle hospedada em serviços públicos.
IA também ajudou a investigar o ataque
A própria investigação contou com apoio de inteligência artificial. A Hugging Face utilizou modelos de linguagem para analisar mais de 17 mil eventos registrados durante o ataque, reconstruindo a sequência da invasão, identificando credenciais comprometidas e separando atividades reais de tentativas de distração.
De acordo com a empresa, esse processo reduziu de dias para poucas horas o tempo necessário para concluir a análise forense.
Guardrails limitaram a análise
Durante a investigação, a equipe tentou utilizar modelos de IA acessados por APIs comerciais. No entanto, as solicitações continham comandos de ataque, cargas de exploração e outros artefatos reais do incidente, que foram bloqueados pelos mecanismos de proteção (guardrails) desses modelos.
Para concluir a análise, a Hugging Face recorreu ao GLM 5.2, um modelo de pesos abertos executado em sua própria infraestrutura. Além de contornar as restrições impostas pelos guardrails, essa abordagem garantiu que os dados do ataque e as credenciais analisadas não saíssem do ambiente da empresa.
Medidas adotadas
Após identificar o incidente, a Hugging Face corrigiu as vulnerabilidades exploradas na invasão, removeu o acesso do atacante dos ambientes afetados, reconstruiu os servidores comprometidos e revogou todas as credenciais envolvidas.
A empresa também reforçou os controles de segurança dos clusters, aprimorou seus sistemas de detecção para reduzir o tempo de resposta e iniciou uma investigação com especialistas externos em perícia digital. O caso também foi comunicado às autoridades.
O que esse caso mostra
Para a Hugging Face, o incidente reforça que ataques conduzidos por agentes autônomos de IA deixaram de ser uma possibilidade teórica. A empresa também aponta um desafio para equipes de segurança: enquanto atacantes podem usar modelos sem restrições, investigadores podem encontrar limitações impostas pelos guardrails de serviços comerciais.
Como recomendação, a empresa sugere que organizações mantenham modelos capazes de rodar localmente para apoiar investigações forenses, preservando dados sensíveis e evitando bloqueios durante a resposta a incidentes.