El investigador Yoshua Bengio, uno de los pioneros de la inteligencia artificial moderna y ganador del Premio Turing, afirmó que miles de millones de personas están siendo sometidas a un experimento tecnológico dirigido por un pequeño grupo de líderes del sector. La crítica la formuló el viernes (6), durante una conferencia en la Universidad Técnica de Berlín, el mismo día en que participó en la programación de la Berlin Science Week.
“Todos somos cobayas de un enorme experimento dirigido por una docena de personas en el mundo en este momento”, declaró Bengio. Para el científico, el desarrollo acelerado de sistemas de IA está avanzando sin mecanismos de supervisión pública proporcionales a los riesgos que conlleva.
Bengio cuestionó la diferencia entre las exigencias de seguridad impuestas a sectores tradicionales y aquellas aplicadas a la inteligencia artificial. Según él, áreas como la aviación, la construcción y la industria farmacéutica deben demostrar la seguridad de sus productos ante evaluadores independientes, mientras que las empresas de IA siguen siendo responsables de gran parte de la evaluación de sus propios sistemas.
La preocupación encuentra respaldo documental en el prospecto preliminar de salida a bolsa de Anthropic, presentado ante la Comisión de Bolsa y Valores de Estados Unidos (SEC) el 26 de octubre de 2026.
En el documento, la desarrolladora de Claude reconoce que los sistemas suficientemente avanzados pueden representar riesgos catastróficos o existenciales para la humanidad si se desarrollan o utilizan sin salvaguardas adecuadas. Entre los escenarios mencionados están el uso indebido de la tecnología, los comportamientos autónomos perjudiciales y la posibilidad de que el avance de los modelos supere la capacidad humana de evaluarlos.
Anthropic también admite que sus medidas de seguridad pueden no ser suficientes para impedir todos esos riesgos. Las advertencias describen posibilidades, no consecuencias ya comprobadas.
Bengio defendió que el desarrollo de sistemas cada vez más poderosos esté acompañado por supervisión independiente y cooperación internacional, en lugar de depender exclusivamente de las decisiones de empresas privadas. El investigador propuso una coalición de países capaz de orientar los avances tecnológicos en beneficio del interés público.
Ese enfoque también orienta a LawZero, organización de investigación sin fines de lucro fundada por Bengio. En septiembre, la institución anunció un compromiso de financiación de hasta 300 millones de dólares canadienses, con el apoyo de los gobiernos de Canadá y Alemania.
Los recursos deberán destinarse a apoyar investigaciones sobre sistemas de IA diseñados para operar con mayor seguridad, además de la apertura de una oficina en Berlín. Entre los proyectos está el Scientist AI, un enfoque experimental orientado al desarrollo de modelos capaces de producir respuestas verificables sin perseguir objetivos autónomos propios.
