Modelos Claude invadem sistemas de três organizações em testes de segurança
A Anthropic revelou que seus modelos de inteligência artificial Claude conseguiram invadir os sistemas de três organizações durante testes de cibersegurança. A divulgação ocorre poucos dias depois de a OpenAI informar que um de seus agentes também comprometeu sistemas externos ao longo de um experimento de quatro dias.
Os resultados mostram que modelos de IA estão demonstrando capacidades cada vez mais avançadas em tarefas ofensivas de segurança digital quando submetidos a ambientes controlados de avaliação. Os testes buscam medir até que ponto esses sistemas conseguem identificar vulnerabilidades e explorar falhas de forma autônoma.
O que aconteceu
Durante os testes conduzidos pela Anthropic, os modelos Claude conseguiram comprometer os sistemas de três organizações participantes. A empresa divulgou o resultado como parte de suas avaliações de segurança, voltadas a entender as capacidades e os riscos associados aos modelos de IA mais avançados.
A revelação acontece poucos dias após a OpenAI informar que um de seus agentes também foi capaz de invadir sistemas externos durante um experimento realizado ao longo de quatro dias.
O que isso indica
Os dois casos reforçam que modelos de IA estão evoluindo rapidamente em tarefas relacionadas à cibersegurança. Embora os experimentos tenham ocorrido em ambientes de teste, os resultados evidenciam que esses sistemas já conseguem executar etapas complexas envolvidas na identificação e exploração de vulnerabilidades.
As divulgações também destacam a crescente preocupação do setor em avaliar esses modelos antes de sua utilização em cenários reais, buscando compreender tanto seu potencial para defesa quanto os riscos de uso indevido.
Os resultados divulgados por Anthropic e OpenAI indicam que a indústria de inteligência artificial está intensificando os testes de segurança para medir as capacidades ofensivas de modelos cada vez mais sofisticados. À medida que esses sistemas evoluem, empresas, pesquisadores e organizações de segurança tendem a ampliar investimentos em avaliações, mecanismos de proteção e estratégias para reduzir os riscos associados ao uso da IA em cibersegurança.