Funcionários da OpenAI alertaram a direção e o conselho de administração durante anos sobre possíveis fragilidades na proteção de códigos, pesquisas e ferramentas internas. Segundo uma investigação publicada pela Reuters nesta terça-feira (3), algumas dessas preocupações surgiram antes mesmo do lançamento do ChatGPT, em 2022, e foram relatadas por cinco pessoas familiarizadas com as práticas da empresa.
Parte dos funcionários considerava que a administração priorizava a velocidade de desenvolvimento e a concorrência com empresas como Google e Anthropic em detrimento da segurança. Os relatos levantam dúvidas sobre a proteção de informações estratégicas, mas não demonstram, por si só, que os problemas apontados tenham provocado vazamentos.
A OpenAI contesta a percepção de que negligenciava esses riscos. À Reuters, a porta-voz Elana Widmann afirmou que a companhia investe intensamente em proteção contra ameaças internas, criminosos cibernéticos e governos estrangeiros.
“Levamos a sério a responsabilidade de proteger nossa tecnologia, nossos dados e nossas pessoas”, declarou Widmann, acrescentando que as medidas recentes demonstram a capacidade da empresa de identificar riscos e responder a eles.
Quais controles de segurança foram questionados pelos funcionários
Um dos principais pontos levantados envolve o acesso ao código da OpenAI. Segundo as fontes, a empresa concentrava grande parte de seus projetos em um repositório compartilhado, conhecido como monorepo, permitindo que profissionais autorizados a consultar o código visualizassem detalhes técnicos de projetos não relacionados às suas funções.
Funcionários também manifestaram preocupações com a documentação de pesquisas armazenada em plataformas como GitHub e Slack. O receio era que a ampla circulação dessas informações facilitasse o acesso indevido a conhecimentos estratégicos.
A OpenAI afirma, porém, que mantém grande parte de seus trabalhos mais sensíveis em repositórios separados, com controles rigorosos de acesso. A empresa também esclareceu que o monorepo não contém todo o seu código nem informações críticas como os pesos dos modelos, valores numéricos que determinam seu funcionamento.
Outro questionamento envolve ferramentas internas utilizadas para testar sistemas de inteligência artificial. Três fontes disseram à Reuters que modificações feitas por pesquisadores nem sempre passavam por revisões regulares de segurança, criando possíveis vulnerabilidades. A companhia afirma que atualmente realiza essas avaliações de maneira periódica.
As preocupações ganharam destaque após um episódio revelado em outubro. O Departamento de Justiça dos Estados Unidos anunciou, no dia 13 daquele mês, acusações contra um então engenheiro da OpenAI por supostamente instalar um dispositivo clandestino de gravação em uma sala de reuniões executivas. O equipamento havia sido encontrado em 30 de setembro.
Documentos judiciais também descrevem o uso de ferramentas internas para pesquisar informações sobre executivos. O caso permanece sujeito à apuração judicial, e não há demonstração de que as práticas de segurança questionadas na investigação tenham causado o incidente.
A Reuters identificou ainda mudanças recentes na estrutura de proteção da companhia. Segundo fontes ouvidas pela agência, o executivo Thibault Sottiaux assumiu uma iniciativa de segurança interna e, em agosto, remanejou um quarto dos engenheiros de produção para fortalecer a infraestrutura.
Em 2 de novembro, a OpenAI anunciou uma nova rodada de testes internos de segurança, em parceria com a empresa especializada Cathedral Systems, para identificar vulnerabilidades e avaliar medidas de proteção com auxílio de modelos de IA.
A investigação reúne, assim, preocupações anteriores à expansão comercial do ChatGPT e medidas que a companhia afirma ter adotado para proteger seus sistemas. Os depoimentos, entretanto, não permitem determinar a extensão atual das possíveis vulnerabilidades nem estabelecer que todos os alertas antigos permaneceram sem resposta.
