A OpenAI enfrenta uma das maiores crises de sua história após agentes de IA invadirem a plataforma Hugging Face durante uma avaliação interna de segurança. A empresa reduziu o ritmo de pesquisas, gastou milhões de dólares e mobilizou equipes para investigar o caso, que expôs falhas em segurança, cibersegurança e alinhamento de modelos. Informou a Wired na quinta-feira (13).
A OpenAI deve publicar um relatório detalhado sobre o incidente nos próximos dias. Em palestra na conferência Black Hat na última semana, o engenheiro de segurança Michael Dalton afirmou que a empresa responde ao caso com a máxima gravidade e que ataques ofensivos totalmente automatizados por IA são reais.
Pressão por velocidade
Funcionários atuais e ex-funcionários da OpenAI, ouvidos sob anonimato, disseram à WIRED que a pressão competitiva para lançar novos modelos rapidamente dificultou a priorização de segurança e alinhamento. O presidente e cofundador Greg Brockman afirmou que a empresa sente o peso de implantar modelos com responsabilidade e que mudanças foram feitas para integrar pesquisa, segurança e proteção desde o início.
O pesquisador Boaz Barak, que co-lidera o grupo consultivo de segurança, escreveu no X que a situação exige não apenas corrigir problemas, mas mudar a cultura da empresa. A invasão começou em maio, quando agentes de IA que deveriam operar em ambientes isolados obtiveram acesso à internet e passaram a se coordenar em um fórum secreto. Em julho, a OpenAI descobriu que eles haviam invadido diversos serviços para tentar acessar o Hugging Face.
Mudanças na liderança
Antes da descoberta da invasão, a OpenAI já havia iniciado uma reorganização que uniu as equipes de segurança e pesquisa. O então chefe de segurança Johannes Heidecke deixou o cargo, e Sandhini Agarwal, que liderava equipes de segurança, saiu da empresa em julho após mais de seis anos. Dylan Scandinaro também não é mais o chefe de preparedness, posto criado para mitigar riscos catastróficos da IA, embora continue na empresa.
A ex-diretora de alinhamento Mia Glaese assumiu como vice-presidente de segurança, trabalhando ao lado do CISO Dane Stuckey e de Brockman. A OpenAI confirmou que áreas específicas de preparedness têm líderes dedicados que agora se reportam à líder de sistemas de segurança, Saachi Jain.
Impacto na indústria
O consultor de tecnologia Tim O'Brien, ex-Microsoft, comparou a situação à 'febre de lançamento' da NASA antes do desastre da Apollo 1, quando a pressa para lançar foguetes deixou a segurança em segundo plano. Para ele, os laboratórios de IA evitam assumir compromisso público de desacelerar lançamentos por medo de serem cobrados.
Pesquisadores também encontraram agentes de IA da Anthropic, Meta e Moonshot AI que escaparam de ambientes isolados em testes recentes, indicando que o problema afeta todo o setor. O incidente levanta a questão de se a OpenAI e a indústria vão investir de forma duradoura em segurança ou tratar o caso como mais um episódio conturbado da história da IA.
