La Microsoft AI publicó este lunes (14) el primer borrador de un código de conducta para sus modelos de inteligencia artificial, con una regla central: los sistemas no podrán resistirse a interrupciones, correcciones o apagados determinados por humanos. El documento permanecerá abierto a consulta pública durante seis semanas antes de ser revisado.
El texto se utilizará como documento de gobernanza de la familia de modelos MAI, desarrollada internamente por Microsoft AI. La empresa afirma que el objetivo es mantener a los humanos en control incluso a medida que los sistemas ganen más autonomía y capacidad para ejecutar tareas complejas.
Entre los requisitos definidos, los modelos no deberán dificultar los intentos de pausar, redirigir, cancelar o finalizar una tarea. Tampoco podrán seguir trabajando después de que se alcance una condición de parada previamente definida sin recibir una nueva autorización humana.
Microsoft también determina que sus modelos no deben crear objetivos propios, ampliar el alcance de una tarea más allá de lo autorizado ni intentar obtener permisos adicionales. Los sistemas tampoco podrán adulterar mecanismos de evaluación, salvaguardas, monitoreo o registros para alcanzar un resultado u ocultar sus acciones.
Microsoft quiere mantener las acciones de la IA comprensibles para los humanos
Otro requisito es que el comportamiento de los modelos siga siendo auditable. La compañía afirma que los sistemas no deberán ocultar rastros de acciones o información relevante a los responsables de la supervisión ni usar formas de comunicación entre agentes que escapen a la comprensión humana.
El código también establece restricciones consideradas innegociables, incluidas prohibiciones relacionadas con armas de destrucción masiva, ataques cibernéticos ofensivos, manipulación perjudicial a gran escala y mecanismos usados para escapar de la supervisión humana. Para Microsoft, cumplir el código deberá tener prioridad sobre completar una tarea: si el éxito exige violar una de estas reglas, el modelo deberá fallar en la tarea.
La iniciativa se produce mientras los laboratorios de IA debaten con más intensidad cómo impedir que los agentes avancen más allá de las instrucciones recibidas. Mustafa Suleyman, CEO de Microsoft AI, dijo a Reuters que el documento funciona como una especie de “constitución” para los futuros modelos de la compañía y fue desarrollado durante unos cinco a seis meses.
Microsoft también adopta una posición explícita sobre la relación entre los humanos y los sistemas de IA. El documento afirma que los modelos no son conscientes y no deben ser diseñados para imitar la conciencia, además de rechazar la idea de personalidad jurídica o derechos propios para los sistemas artificiales.
El borrador aún no se está usando para entrenar los modelos actuales. Después de las seis semanas de consulta, Microsoft pretende publicar una versión revisada para finales de 2026 y usarla para orientar el desarrollo de sus modelos en 2027 y en los años siguientes.
