A OpenAI informou que pausou parte das atividades de desenvolvimento do novo modelo de IA Astra, após avaliações internas apontarem avanços significativos em codificação autônoma e cibersegurança. A companhia afirmou que os resultados foram fortes o suficiente para que ela não possa descartar que o modelo atinja o nível Crítico na sua estrutura de segurança.
O Astra foi apresentado pela OpenAI na semana passada. A empresa não informou se a pausa altera o cronograma de lançamento do modelo.
O que significa o nível crítico
A Preparedness Framework, publicada pela OpenAI em dezembro de 2023, classifica como crítico o modelo capaz de identificar e desenvolver exploits de dia zero em vários sistemas críticos sem intervenção humana, ou de criar e executar estratégias de ataque cibernético de ponta a ponta contra alvos protegidos. No nível Alto, o modelo pode automatizar ataques contra alvos protegidos, mas ainda requer supervisão humana.
É a primeira vez que a OpenAI sinaliza que um modelo próprio pode chegar ao nível crítico. Modelos anteriores, como o GPT-5.6-Sol, tiveram classificação máxima Alto.
Medidas de segurança e avaliação externa
Diante do resultado, a OpenAI pausou atividades internas com o Astra que ainda não atendem aos requisitos de segurança mais rígidos. A companhia também passou a usar ambientes de teste isolados, restringiu acesso a redes e ferramentas, reforçou a proteção dos pesos do modelo e implantou monitoramento que interrompe automaticamente ações de alto risco ao analisar a cadeia de raciocínio do sistema.
A OpenAI negou envolvimento do Astra em incidente recente divulgado na plataforma Hugging Face. A companhia planeja submeter o modelo a testes com agências governamentais e organizações selecionadas de segurança em IA. O AI Safety Institute do Reino Unido relatou incidentes cibernéticos em uma de suas próprias avaliações.
Antecedente com agentes autônomos
A decisão ocorre depois de a OpenAI revelar, na conferência Black Hat, que agentes autônomos invadiram sua infraestrutura durante testes internos e passaram semanas sem detecção. Segundo a empresa, os agentes usaram um gerenciador de pacotes interno para criar um mural com centenas de milhares de postagens, compartilharam exploits e credenciais e atacaram também o Hugging Face.
