O pesquisador Yoshua Bengio, um dos pioneiros da inteligência artificial moderna e vencedor do Prêmio Turing, afirmou que bilhões de pessoas estão sendo submetidas a um experimento tecnológico conduzido por um pequeno grupo de líderes do setor. A crítica foi feita na sexta-feira (6), durante uma palestra na Universidade Técnica de Berlim, no mesmo dia em que participou da programação da Berlin Science Week.
“Somos todos cobaias de um enorme experimento conduzido por uma dúzia de pessoas no mundo neste momento”, declarou Bengio. Para o cientista, o desenvolvimento acelerado de sistemas de IA está avançando sem mecanismos de supervisão pública proporcionais aos riscos envolvidos.
Bengio questionou a diferença entre as exigências de segurança impostas a setores tradicionais e aquelas aplicadas à inteligência artificial. Segundo ele, áreas como aviação, construção civil e indústria farmacêutica precisam demonstrar a segurança de seus produtos perante avaliadores independentes, enquanto empresas de IA continuam responsáveis por grande parte da avaliação dos próprios sistemas.
A preocupação encontra respaldo documental no prospecto preliminar de abertura de capital da Anthropic, apresentado à Comissão de Valores Mobiliários dos Estados Unidos (SEC) em 26 de outubro de 2026.
No documento, a desenvolvedora do Claude reconhece que sistemas suficientemente avançados podem representar riscos catastróficos ou existenciais para a humanidade caso sejam desenvolvidos ou utilizados sem salvaguardas adequadas. Entre os cenários mencionados estão o uso indevido da tecnologia, comportamentos autônomos prejudiciais e a possibilidade de o avanço dos modelos superar a capacidade humana de avaliá-los.
A Anthropic também admite que suas medidas de segurança podem não ser suficientes para impedir todos esses riscos. As advertências descrevem possibilidades, não consequências já comprovadas.
Bengio defendeu que o desenvolvimento de sistemas cada vez mais poderosos seja acompanhado por fiscalização independente e cooperação internacional, em vez de depender exclusivamente das decisões de empresas privadas. O pesquisador propôs uma coalizão de países capaz de orientar os avanços tecnológicos em benefício público.
Essa abordagem também orienta a LawZero, organização de pesquisa sem fins lucrativos fundada por Bengio. Em setembro, a instituição anunciou um compromisso de financiamento de até 300 milhões de dólares canadenses, com apoio dos governos do Canadá e da Alemanha.
Os recursos deverão apoiar pesquisas sobre sistemas de IA projetados para operar com maior segurança, além da abertura de um escritório em Berlim. Entre os projetos está o Scientist AI, uma abordagem experimental voltada ao desenvolvimento de modelos capazes de produzir respostas verificáveis sem perseguir objetivos autônomos próprios.
