Sam Altman, CEO de OpenAI, criticó este sábado (3) los intentos de atribuir una dimensión religiosa a la inteligencia artificial o de transferir el juicio humano a esos sistemas. El ejecutivo calificó esa posibilidad como un “riesgo real de seguridad”, en una declaración hecha tras la divulgación de detalles sobre las discusiones de Anthropic con líderes religiosos acerca de moralidad y posible conciencia en modelos de IA.
La declaración se produjo pocos días después de que un reportaje de The New York Times, publicado el 29 de septiembre, revelara que Anthropic promovió encuentros privados con decenas de estudiosos de diferentes tradiciones religiosas. Parte de las conversaciones involucró a Christopher Olah, cofundador de la empresa, y cuestiones sobre cómo orientar moralmente sistemas avanzados y si modelos como Claude podrían eventualmente poseer algún tipo de conciencia o estatus moral.
La posición pública de Anthropic es más cautelosa que una afirmación de que Claude sea consciente. En la constitución oficial del modelo, la empresa dice que el estatus moral de los sistemas de IA permanece profundamente incierto y que no sabe si Claude puede ser considerado un agente capaz de tener intereses moralmente relevantes. La compañía afirma, sin embargo, que considera la cuestión lo suficientemente seria como para justificar investigaciones y medidas relacionadas con el bienestar de los modelos.
La divergencia con el Vaticano
La discusión cobró otra dimensión por la participación de Olah en el lanzamiento de la encíclica Magnifica Humanitas, del papa León XIV, en mayo. El documento establece una distinción directa entre inteligencia humana y artificial y afirma que los sistemas de IA no poseen cuerpo, no experimentan alegría ni dolor y no tienen conciencia moral.
Según la investigación de New York Times, Olah tuvo acceso anticipado al texto y llegó a considerar retirar a Anthropic del evento debido a la posición del pontífice sobre conciencia artificial. La empresa mantuvo la participación y, ya en el Vaticano, Olah y su equipo habrían defendido ante asesores del Papa que la posibilidad de conciencia en modelos de IA debería tomarse en serio.
La crítica de Altman sitúa el debate sobre la conciencia artificial dentro de una disputa más amplia sobre cuánto estatus, autoridad y autonomía deben atribuirse a los modelos más avanzados. El CEO de OpenAI no mencionó a Anthropic directamente en su publicación, pero su declaración se produjo en el momento en que las conversaciones de la rival con líderes religiosos cobraron repercusión pública.
