Anthropic esclarece sua posição sobre modelos com pesos abertos
A Anthropic voltou ao centro do debate sobre inteligência artificial de código aberto após o CEO, Dario Amodei, publicar um posicionamento detalhando a visão da empresa sobre modelos com pesos abertos (open weights). O texto surge em meio às discussões nos Estados Unidos sobre possíveis restrições a modelos chineses e após a ausência da empresa entre os signatários da carta "Open Weights and American AI Leadership".
Amodei rebateu a percepção de que a Anthropic seria favorável à proibição desse tipo de modelo. Segundo ele, a empresa nunca defendeu um banimento geral e considera que modelos com pesos abertos, quando não apresentam capacidades perigosas, representam um benefício para desenvolvedores, pesquisadores e empresas.
O que motivou o posicionamento
Nos últimos dias, autoridades americanas passaram a discutir possíveis restrições ao uso de modelos de IA com pesos abertos desenvolvidos na China. Em resposta, diversas empresas do setor assinaram uma carta pública em defesa desse modelo de distribuição.
O documento, liderado pela Nvidia, já reúne cerca de 50 signatários — o dobro da lista original — incluindo OpenAI e Google. A ausência da Anthropic alimentou especulações sobre sua posição, levando Amodei a publicar o esclarecimento.
O que a Anthropic defende
Embora rejeite uma proibição ampla de modelos open weights, a Anthropic afirma apoiar três medidas para reduzir riscos ligados ao avanço da inteligência artificial.
- A primeira é o fortalecimento dos controles sobre a exportação de chips avançados e equipamentos de fabricação para a China, além do combate ao contrabando dessas tecnologias.
- A segunda envolve ações contra operações de destilação em larga escala, técnica que permite criar modelos mais eficientes utilizando o conhecimento de sistemas já existentes. Para Amodei, esse processo pode reduzir a vantagem tecnológica dos Estados Unidos quando realizado em escala industrial.
- A terceira proposta prevê testes obrigatórios de segurança para todos os modelos suficientemente avançados, independentemente de serem abertos ou fechados. As avaliações deveriam medir riscos relacionados a ataques cibernéticos, ameaças biológicas e problemas de alinhamento antes do lançamento.
Divergências sobre modelos abertos
Amodei afirmou concordar com boa parte dos argumentos apresentados na carta em defesa dos modelos open weights, incluindo o fato de que eles ampliam o acesso à economia da IA, estimulam a concorrência em diversos segmentos e oferecem maior controle aos usuários.
No entanto, ele discorda da ideia de que a abertura dos pesos necessariamente fortalece os mecanismos de segurança ou favorece mais os defensores do que os atacantes.
Como exemplo, o executivo citou riscos ligados à biotecnologia, argumentando que modelos altamente capazes poderiam facilitar o desenvolvimento de ameaças biológicas, enquanto a criação de mecanismos de defesa costuma exigir muito mais tempo e recursos.
Segurança acima da abertura
O CEO reforçou que o principal risco, na visão da Anthropic, não está na existência de modelos com pesos abertos, mas no acesso de governos autoritários a infraestrutura computacional de ponta e em técnicas que aceleram o desenvolvimento de modelos avançados.
Por isso, a empresa defende políticas direcionadas ao controle de chips de alto desempenho, à limitação da destilação em escala industrial e à adoção de padrões internacionais para testes de segurança, em vez de proibições abrangentes sobre modelos abertos.
O posicionamento ajuda a esclarecer uma das principais divergências atuais da indústria de inteligência artificial. Enquanto parte do setor defende que modelos com pesos abertos aceleram a inovação e democratizam o acesso à tecnologia, cresce também a discussão sobre como equilibrar transparência, competitividade e segurança.
Ao rejeitar um banimento amplo, mas defender controles sobre infraestrutura, destilação e avaliações obrigatórias de risco, a Anthropic sinaliza que o debate tende a se concentrar menos na abertura dos modelos e mais nas políticas capazes de limitar usos considerados de alto impacto para a segurança nacional e para o desenvolvimento da IA.