A Anthropic apresentou, em 2 de novembro, o FlashProve, um sistema de código aberto que permite verificar criptograficamente se uma resposta foi produzida pelo modelo de inteligência artificial anunciado pelo fornecedor. A tecnologia busca impedir que serviços de API ou intermediários substituam uma rede neural por outra sem que o usuário consiga detectar a troca.
Atualmente, quem contrata acesso a determinado modelo precisa confiar que o provedor realmente utiliza a versão prometida. O FlashProve propõe substituir essa confiança por uma prova matemática verificável, sem exigir que o cliente tenha acesso aos parâmetros internos da rede neural.
O sistema utiliza zkSNARKs, uma técnica criptográfica que permite demonstrar a execução correta de um cálculo sem revelar informações confidenciais utilizadas no processo.
Antes de atender às solicitações, o provedor publica um identificador criptográfico associado aos pesos de uma versão específica do modelo. Depois, pode gerar provas que vinculam os resultados apresentados àquela configuração. O usuário verifica essas provas utilizando apenas o identificador, a entrada e a resposta.
Nos testes divulgados pela Anthropic, o FlashProve alcançou 110 tokens por segundo na geração de provas para o Llama 4 Maverick, modelo da Meta com 400 bilhões de parâmetros, utilizando uma GPU NVIDIA H100 e processamento em lotes.
Cada prova tinha aproximadamente 19 MB e verificava um token calculado a partir de um contexto de 1.024 tokens. A conferência levou 17 segundos em um processador com 24 threads, sem necessidade de GPU.
Alto custo computacional ainda limita a tecnologia
Apesar do desempenho alcançado, produzir as provas exigiu 70 a 95 vezes mais tempo de GPU do que executar as mesmas solicitações com o mecanismo convencional de inferência vLLM, segundo as medições da Anthropic.
O protótipo também apresenta restrições importantes. A verificação ocorre posteriormente à geração das respostas, utiliza uma versão do modelo baseada em aritmética inteira e contempla apenas a seleção determinística de tokens, conhecida como greedy decoding.
O limite atual de contexto é de 1.024 tokens, significativamente inferior às janelas utilizadas por modelos comerciais. A empresa também reconhece que ainda não existe uma garantia formal de equivalência entre a implementação rápida do verificador em C++ e o protocolo matemático especificado.
Como parte do lançamento, a Anthropic disponibilizou o código-fonte, a descrição técnica do protocolo e provas formais desenvolvidas em Lean, linguagem utilizada para verificar propriedades matemáticas de programas. Os materiais foram publicados sob licença Apache 2.0.
A tecnologia pode ser aplicada à auditoria independente de modelos, à verificação de serviços intermediários de API e à comprovação de que sistemas autorizados estão efetivamente em operação.
O FlashProve permanece um protótipo de pesquisa, sem anúncio de implantação comercial. Sua garantia também possui uma fronteira fundamental: comprovar qual modelo produziu uma resposta não significa comprovar que a informação apresentada é verdadeira.
