Representantes de OpenAI, Anthropic, Google y Meta fueron presionados por concejales de Nueva York sobre los riesgos de sistemas avanzados de inteligencia artificial durante una audiencia realizada el lunes (5). Bajo juramento, las cuatro empresas evitaron presentar una estimación numérica de la posibilidad de un evento catastrófico provocado por la tecnología.
La audiencia reunió a los 51 integrantes del Concejo Municipal de Nueva York y discutió seguridad, responsabilidad jurídica y propuestas que pueden imponer nuevas exigencias a empresas que desarrollan u ofrecen modelos de IA en la ciudad.
Las compañías no enviaron a sus CEOs. OpenAI, Anthropic, Google y Meta fueron representadas por ejecutivos de las áreas de políticas públicas, seguridad y legislación, todos por videoconferencia.
Uno de los principales momentos ocurrió cuando la presidenta del Concejo, Julie Menin, pidió a las empresas que cuantificaran el riesgo de un fallo catastrófico. Ninguna presentó un porcentaje. La representante de OpenAI afirmó que no podría estimar la probabilidad y argumentó que incluso los riesgos bajos serían inaceptables ante la gravedad de determinados escenarios.
Los ejecutivos también evitaron compromisos absolutos sobre responsabilidad legal en caso de daños graves y sobre la suspensión automática de modelos reprobados en evaluaciones independientes de seguridad.
Exfuncionarios del sector también participaron. Jacob Coxon, que dejó Anthropic, afirmó que las empresas están asumiendo riesgos excesivos en el desarrollo de sistemas más capaces. Daniel Kokotajlo, exinvestigador de OpenAI, llamó la atención sobre avances de IA en ciberseguridad.
Nueva York debate validación independiente y multas
El Concejo analiza un paquete de diez propuestas relacionadas con la inteligencia artificial. Una de ellas exigiría validación independiente antes de que determinados modelos sean comercializados o desplegados en la ciudad y obligaría a la existencia de un mecanismo que permita la interrupción por un operador humano.
Las violaciones podrían generar multas de US$ 25 mil por ocurrencia. Otra propuesta permitiría demandas contra empresas cuando daños previsibles no estuvieran acompañados de salvaguardas consideradas razonables.
OpenAI, Google y Anthropic confirmaron su participación después de que el Concejo amenazara con usar su poder de citación. Meta ya había acordado anteriormente. SpaceXAI no compareció a pesar de haber sido citada, y Menin afirmó que el Concejo pretende buscar el cumplimiento judicial de la orden.
Las propuestas siguen en trámite y aún no hay decisión final sobre las medidas.
