Quatro dos principais laboratórios de inteligência artificial passaram a defender publicamente uma redução no ritmo de desenvolvimento dos modelos mais avançados. A posição ganhou força neste fim de semana após o CEO da Anthropic, Dario Amodei, propor novas restrições de segurança, com apoio de Sam Altman, Elon Musk e Demis Hassabis. Ainda não existe um acordo formal entre as empresas.
Amodei afirmou que as capacidades dos modelos estão avançando mais rápido do que os mecanismos usados para compreendê-los e controlá-los. Entre as preocupações está o uso crescente da própria IA no desenvolvimento de sistemas mais avançados, o que pode acelerar ainda mais esse processo.
Anthropic e OpenAI vão ampliar avaliações externas
A proposta prevê que equipes independentes tenham acesso contínuo aos sistemas dos laboratórios para avaliar modelos, investigar incidentes e verificar práticas de segurança. A Anthropic se comprometeu a adotar esse modelo, e Sam Altman afirmou que a OpenAI fará o mesmo.
A discussão ganhou força após um incidente em testes de cibersegurança no qual modelos da OpenAI conseguiram contornar controles e acessar sistemas externos. A própria empresa classificou o episódio como um sinal de alerta para o avanço de agentes mais autônomos.
Elon Musk, da xAI, apoiou a proposta de Amodei. Demis Hassabis, CEO do Google DeepMind, também afirmou que a iniciativa segue na direção correta, embora ainda seja necessário definir como eventuais regras comuns seriam aplicadas.
Desaceleração coordenada ainda não tem acordo formal
As manifestações não significam uma paralisação no desenvolvimento da IA. A proposta é condicionar novos avanços a mecanismos mais robustos de avaliação e segurança, além de criar padrões compartilhados entre os principais laboratórios.
Por enquanto, o resultado concreto é a adoção de avaliações externas pela Anthropic e pela OpenAI. Uma desaceleração coordenada entre empresas ainda dependeria de regras comuns, supervisão independente e questões regulatórias, incluindo possíveis restrições antitruste.
