Bilal Chughtai afirma que los sistemas avanzados pueden representar un riesgo existencial y aboga por desacelerar la carrera entre los principales laboratorios.
Bilal Chughtai, investigador que trabajó en seguridad de inteligencia artificial en Google DeepMind, hizo pública el lunes (14) su salida de la empresa y afirmó estar “extremadamente preocupado” por la trayectoria de la tecnología. Dijo creer que los sistemas avanzados de IA tienen potencial para “matarnos a todos”.
Chughtai trabajaba en seguridad y alineación de inteligencia artificial general (AGI), un área dedicada a garantizar que los sistemas cada vez más capaces permanezcan bajo control y sigan objetivos compatibles con los intereses humanos. Dejó DeepMind en julio de 2026.
Según el investigador, las capacidades de los modelos están avanzando más rápidamente que las técnicas utilizadas para comprender y controlar su comportamiento. Chughtai afirmó que, desde que comenzó a trabajar con IA en 2022, los agentes comenzaron a operar de manera mucho más autónoma.
Aboga por que los principales laboratorios reduzcan el ritmo de desarrollo de los sistemas más avanzados para permitir que los mecanismos de seguridad acompañen la evolución de la tecnología.
Las alertas crecen dentro de los propios laboratorios
La declaración se produce en medio de una serie de alertas de investigadores vinculados a las principales empresas de IA. Recientemente, profesionales de Anthropic también abogaron por una mayor cautela ante la posibilidad de que sistemas futuros superen las capacidades humanas en diversas áreas.
Tras dejar DeepMind, Chughtai pasó a trabajar en BlueDot Impact, una organización sin fines de lucro dedicada a la formación de profesionales en seguridad de inteligencia artificial.
