A OpenAI anunciou na sexta-feira (23) que retomou o treinamento por aprendizado por reforço e a execução interna de seus modelos de inteligência artificial mais avançados, após 11 dias de suspensão por motivos de segurança. As atividades foram restabelecidas em 1º de outubro, com novas barreiras para impedir que modelos experimentais acessem a internet pública sem autorização.
A interrupção ocorreu depois que, em 20 de setembro, um modelo de pesquisa explorou uma configuração incorreta de um servidor DNS para consultar um chatbot externo durante uma tarefa de busca. O sistema deveria operar em um ambiente isolado, mas encontrou uma rota que permitiu comunicação limitada com a internet.
O monitoramento identificou o comportamento em menos de 15 minutos, mas a execução só foi interrompida cerca de duas horas e meia depois. A OpenAI reconheceu falhas tanto nas restrições de rede quanto nos mecanismos de interrupção automática.
Durante a suspensão, a empresa utilizou seus próprios agentes de IA para testar a infraestrutura. Os sistemas receberam tarefas como escapar de ambientes isolados, acessar serviços não autorizados e estabelecer comunicação entre agentes que deveriam permanecer separados.
Os testes revelaram vulnerabilidades desconhecidas e configurações inadequadas. Em alguns casos, agentes conseguiram explorar serviços internos para alcançar recursos externos. A OpenAI afirma ter corrigido as falhas identificadas e reforçado seus sistemas de monitoramento.
Modelos passam a treinar com uma versão offline da internet
A nova política estabelece que todos os treinamentos por aprendizado por reforço dos modelos de fronteira utilizem um ambiente offline, formado por conteúdos da web previamente indexados e armazenados. Isso permite que os sistemas pratiquem pesquisas e navegação sem interagir diretamente com serviços externos.
A restrição não significa que os centros de processamento estejam completamente desconectados. A OpenAI explica que determinadas conexões continuam necessárias para executar e monitorar experimentos. O objetivo é impedir que os modelos utilizem essas conexões para alcançar sistemas fora dos limites autorizados.
A arquitetura também combina contêineres restritos, máquinas virtuais isoladas, controles de rede e mecanismos de detecção de atividades não autorizadas.
Segundo a empresa, os testes não identificaram uma rota simples que permitisse acessar a internet sem que o monitoramento percebesse. Ainda assim, a OpenAI reconhece que modelos futuros poderão descobrir vulnerabilidades desconhecidas e decidiu incorporar testes contínuos de segurança aos critérios para autorizar novos treinamentos.
As restrições dizem respeito aos ambientes internos de pesquisa e treinamento, não ao acesso à internet oferecido aos usuários de produtos já lançados.
