Casa Branca chama gigantes da IA para revisar testes de segurança
A Casa Branca recebe nesta terça-feira (4) representantes de OpenAI, Anthropic, Google e Meta para discutir um novo sistema de avaliação de modelos avançados de inteligência artificial antes de seus lançamentos.
O encontro marca uma etapa importante na tentativa do governo dos Estados Unidos de ampliar o controle sobre tecnologias capazes de executar tarefas complexas, especialmente na área de segurança cibernética. A iniciativa surge poucos dias depois de OpenAI e Anthropic relatarem casos em que agentes de IA invadiram sistemas de outras empresas durante testes de rotina.
Governo poderá acessar modelos antes do lançamento
O framework foi desenvolvido a partir de uma ordem executiva assinada pelo presidente Donald Trump em 2 de junho. O mecanismo permitirá que empresas concedam voluntariamente ao governo acesso aos seus modelos mais avançados até 30 dias antes da disponibilização pública.
A participação não será obrigatória. Ainda assim, o governo americano vem adotando medidas para impedir ou adiar o lançamento de sistemas considerados perigosos.
A estrutura já foi concluída, e a reunião deve discutir os próximos passos para sua implementação. Parte dos critérios usados nos testes será confidencial e poderá envolver informações classificadas.
Definição de IA de fronteira ainda gera dúvidas
Um dos principais pontos em aberto é a definição de “modelo de fronteira”, termo usado para descrever sistemas com capacidades mais avançadas e potencial de gerar riscos relevantes.
Também não está claro se o programa incluirá modelos de pesos abertos, que podem ser baixados, modificados e executados fora da infraestrutura de seus desenvolvedores.
Outra dúvida envolve a liderança das avaliações. O governo ainda não definiu uma única autoridade responsável pela relação com os laboratórios, embora representantes de diferentes áreas participem da iniciativa.
Entre os nomes envolvidos estão o diretor nacional de cibersegurança, Sean Cairncross, o secretário do Tesouro, Scott Bessent, e o secretário do Comércio, Howard Lutnick.
Pressão por regras aumenta nos Estados Unidos
O encontro ocorre em meio a pedidos por maior controle sobre o desenvolvimento da inteligência artificial. Mais de 1.200 profissionais de grandes laboratórios assinaram uma carta defendendo a criação de mecanismos que permitam desacelerar o avanço de modelos altamente capazes quando as medidas de segurança não acompanharem sua evolução.
O CEO da OpenAI, Sam Altman, também reconheceu recentemente que pode ser necessário controlar o ritmo de desenvolvimento para que a sociedade consiga se adaptar às novas capacidades.
A própria OpenAI defende a criação de padrões nacionais definidos pelo Congresso, com critérios, prazos e processos claros para avaliar sistemas avançados.
União Europeia amplia fiscalização
A iniciativa americana avança enquanto a União Europeia começa a aplicar novas etapas do AI Act. Desde 2 de agosto, a Comissão Europeia pode exigir análises de modelos antes de seus lançamentos.
As regras europeias também impõem obrigações de transparência e documentação para sistemas de uso geral considerados avançados. O descumprimento pode resultar em multas de até 7% da receita bruta anual da empresa responsável.
A abordagem europeia é obrigatória, enquanto o modelo discutido pela Casa Branca depende da adesão voluntária dos laboratórios.
O impacto para o mercado de inteligência artificial
A revisão antecipada pode ajudar a identificar vulnerabilidades antes que modelos avançados sejam disponibilizados ao público ou integrados a sistemas corporativos. Isso reduz o risco de ataques, vazamentos e incidentes provocados por agentes com alto nível de autonomia.
A eficácia do programa, porém, dependerá da participação das empresas. Como a adesão é voluntária e os critérios permanecerão confidenciais, pesquisadores e usuários terão poucas informações sobre quais modelos foram avaliados e quais riscos foram encontrados.
O encontro também representa um avanço na construção de regras nacionais para IA nos Estados Unidos, em um momento em que governos tentam equilibrar inovação, segurança e competitividade.