Senadores de Estados Unidos negocian una legislación que podría dar al gobierno federal poder para impedir el lanzamiento de modelos avanzados de inteligencia artificial considerados inseguros, según información publicada por Reuters el viernes (11).
La propuesta crearía un “deber de cuidado” para los desarrolladores, exigiendo medidas para reducir riesgos asociados a los sistemas más poderosos. Entre las preocupaciones están modelos capaces de facilitar ataques cibernéticos o el desarrollo de armas biológicas y nucleares.
El gobierno también podría bloquear temporalmente determinados lanzamientos considerados peligrosos. Las empresas tendrían derecho a impugnar la decisión ante la Justicia federal, aunque el alcance de ese poder aún esté en negociación.
Los senadores discuten además la participación de especialistas del gobierno y científicos de los laboratorios nacionales en las pruebas de seguridad. La medida afectaría principalmente a desarrolladores de modelos de frontera, como OpenAI, Anthropic y Google.
La norma ampliaría el control antes de los lanzamientos
Actualmente, los desarrolladores pueden participar voluntariamente en un proceso federal de evaluación antes de poner nuevos modelos a disposición. La propuesta en discusión en el Senado iría más allá de ese sistema al crear obligaciones legales y la posibilidad de intervención federal.
Otro punto aún sin acuerdo es la relación de la legislación federal con normas estatales para IA. Parte de las negociaciones implica limitar la capacidad de los estados de crear requisitos propios para determinados riesgos.
Las conversaciones involucran a republicanos y demócratas, pero aún no hay un texto final. El calendario legislativo también reduce el tiempo disponible para que una eventual propuesta sea aprobada antes de las elecciones legislativas de noviembre.
