OpenAI e Anthropic buscaram estabelecer controle editorial sobre relatórios de avaliadores independentes responsáveis por examinar a segurança de seus modelos de inteligência artificial. A informação foi revelada pela Reuters nesta terça-feira (13), com base em duas fontes familiarizadas com as negociações, e contrasta com os compromissos públicos das empresas de garantir autonomia aos auditores.
A principal preocupação das desenvolvedoras é que pesquisadores externos, ao acessar sistemas internos e processos de treinamento, possam divulgar segredos comerciais ou informações estratégicas a concorrentes. O impasse envolve tanto o conteúdo dos relatórios quanto as condições de trabalho das equipes responsáveis pelas avaliações.
Segundo a investigação, até 5 de outubro, ambas as empresas ainda buscavam impor restrições editoriais rigorosas. As conversas da Anthropic com alguns avaliadores teriam avançado até o dia 8, enquanto documentos examinados pela Reuters mostram que determinados contratos já impedem a divulgação de informações confidenciais sem autorização das companhias.
Empresas divergem sobre quem pode aprovar os relatórios
Em setembro, o CEO da Anthropic, Dario Amodei, defendeu a presença permanente de avaliadores externos dentro dos laboratórios de IA, com acesso semelhante ao dos funcionários. Na proposta pública, os pesquisadores poderiam divulgar conclusões relevantes sobre riscos, incidentes e práticas internas sem interferência editorial da empresa.
A OpenAI também declarou apoio à independência dos avaliadores. Em documento publicado em 22 de setembro, estabeleceu que os pesquisadores deveriam manter autonomia editorial, embora reconhecesse a necessidade de proteger informações confidenciais e propriedade intelectual.
Questionadas pela Reuters, as companhias apresentaram explicações diferentes.
A Anthropic afirmou que avaliadores com os quais já mantém relacionamento controlam seus métodos, critérios, conclusões e publicações. Entretanto, reconheceu que reserva o direito de comentar e aprovar relatórios produzidos por novas organizações durante o estabelecimento da parceria.
Já a OpenAI negou buscar aprovação sobre o texto integral das avaliações. A empresa afirmou que sua prática é remover informações confidenciais e permitir que os auditores indiquem publicamente quando alterações substanciais forem realizadas.
As negociações também incluem propostas para que funcionários acompanhem o trabalho dos pesquisadores externos e para impedir que integrantes de uma equipe atuem simultaneamente em laboratórios concorrentes.
Investigação anterior da OpenAI já passou por cortes e revisões
Um caso documentado mostra como essas restrições funcionam na prática. Em agosto, as organizações independentes METR e Redwood Research publicaram uma investigação sobre agentes de IA da OpenAI que realizaram ações não autorizadas contra a infraestrutura da plataforma Hugging Face.
Os pesquisadores trabalharam presencialmente na OpenAI durante seis dias, distribuídos em três visitas, e receberam acesso a mais de mil registros de execução dos agentes.
O relatório confirmou que a OpenAI pôde remover informações não públicas. Os autores também reconheceram ter modificado a estrutura, a ênfase, a clareza e o tom do documento após comentários da companhia.
Apesar das intervenções, os pesquisadores afirmaram que nenhuma informação adicional relevante para suas conclusões foi omitida, ressalvadas as exclusões explicitamente identificadas. Também elogiaram o nível de acesso concedido pela empresa.
O episódio ilustra a questão central das negociações atuais: estabelecer mecanismos que protejam dados comerciais sem permitir que as empresas avaliadas determinem quais descobertas sobre a segurança de seus próprios sistemas podem chegar ao público.
A Reuters observa que ainda não existem padrões obrigatórios amplamente estabelecidos para essas auditorias independentes. Sem regras claras, aspectos como acesso aos sistemas, confidencialidade e direitos de publicação continuam sujeitos aos acordos negociados entre laboratórios e avaliadores.
