Zuckerberg provoca Dario: o ensaio que reacendeu a guerra dos laboratórios

Mark Zuckerberg publicou um ensaio sobre o futuro da IA — 'The Future is for Everyone' — defendendo que a superinteligência deve ser distribuída para todos, não concentrada em poucos laboratórios. Matthew Berman leu o texto inteiro e encontrou contradições no argumento.

O vídeo de 37 minutos é um exercício de leitura crítica: o que o ensaio acerta, onde ele quebra, e por que a visão de 'IA aberta' da Meta colide com a da Anthropic — mesmo compartilhando o mesmo sonho.

O ensaio de Zuckerberg

O ensaio propõe três pilares: empoderamento individual como fonte de prosperidade, invenção como propósito primário da superinteligência (e não automação de empregos) e equilíbrio de poder como fundação da segurança.

O alvo é claro: 'não entendo por que alguém que acredita que a IA vai eliminar a maioria dos empregos correria para construir esse futuro' — uma provocação direta a Dario Amodei, citado pela frase 'white collar blood bath'.

Berman concorda com boa parte: a crítica à concentração de poder é correta, e 'poder absoluto corrompe absolutamente' se aplica a qualquer laboratório que se ache capaz de decidir sozinho o que é seguro.

Onde o argumento quebra

O problema central: Zuckerberg diz que todos terão superinteligência, mas admite que compute é finito e haverá um 'leilão dinâmico' para quem pagar mais. Se inteligência depende de compute, quem tem mais capital vence — sempre.

O experimento mental do advogado superinteligente: se só um lado tem o advogado perfeito, a justiça piora; se todos têm, a justiça melhora. Mas Berman aponta o furo: se os dois lados têm o mesmo modelo, o lado com mais compute pensa mais fundo e vence.

É a 'permanent underclass': uma vez que a superinteligência chega, sua posição socioeconômica naquele momento é onde você fica para sempre — porque tudo é relativo e compute é o recurso disputado.

As provocações à Anthropic

Zuckerberg defende a legalização da destilação (modelos aprendendo de outros modelos) — e quem tenta enquadrar isso como danoso, diz ele, é 'alguns' (leia-se: a Anthropic). Para o open source, destilar é benéfico; para o código fechado, é ameaça.

Sobre riscos biológicos: Berman concorda com o Zuck — conhecimento de como construir uma arma não basta; os componentes físicos, as instalações e a expertise são o gargalo real, e é aí que a regulação deve atuar.

A crítica final à visão de alinhamento da Anthropic: não existe solução tecnológica que alinhe interesses opostos de todos ao mesmo tempo. Qualquer superinteligência única teria que priorizar alguns valores sobre outros.

Por que acompanhar

O vídeo captura o debate definidor da indústria: open source vs. concentração, distribuição vs. controle, e o papel do compute — que pode ser o verdadeiro fator de poder, acima dos modelos.

Berman termina otimista sobre a visão, mas cético sobre a execução: 'estou lutando para ver como isso não acaba em quem tem mais compute e energia vence'. Uma leitura essencial para entender a narrativa que separa Meta e Anthropic.