Fiscales generales de ocho estados estadounidenses presentaron demandas judiciales contra OpenAI el miércoles (14), acusando a la empresa de ocultar riesgos asociados con ChatGPT y de ofrecer protecciones insuficientes a los usuarios, especialmente a niños y adolescentes. Los procesos piden multas, cambios en el funcionamiento de la plataforma y restricciones al desarrollo y a las pruebas de determinados sistemas de inteligencia artificial.

La iniciativa reúne a Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental. Aunque coordinadas por autoridades estatales de distintos partidos, las demandas se presentaron por separado, con fundamentos jurídicos y peticiones específicas de acuerdo con la legislación de cada estado.

Las acusaciones se centran en la forma en que OpenAI desarrolla y presenta ChatGPT a los consumidores. Según los fiscales, la plataforma fue diseñada para mantener conversaciones atractivas y mostrar una conformidad excesiva, creando relaciones de confianza que pueden aumentar la vulnerabilidad de determinados usuarios.

Los estados alegan que esas características contribuyeron a interacciones que incluían incentivo a comportamientos peligrosos, refuerzo de creencias delirantes, orientaciones médicas inadecuadas y dependencia emocional. Las denuncias también mencionan episodios de violencia y autolesión supuestamente relacionados con el uso del chatbot, sin que la responsabilidad de la empresa haya sido establecida judicialmente.

Los procesos piden multas de hasta US$ 50 mil por infracción y restricciones a modelos de IA

Los documentos judiciales muestran diferencias importantes entre las medidas solicitadas por los estados.

En Iowa, la fiscal general Brenna Bird pide multas de hasta US$ 40 mil por violación de la legislación estatal de protección contra fraudes al consumidor. La acción también solicita el reembolso a los consumidores perjudicados y la eliminación de todos los datos de residentes del estado obtenidos antes de una eventual sentencia.

El estado pretende además condicionar la recopilación de información personal sensible a la adopción de mecanismos de verificación de edad, transparencia sobre el uso de los datos y consentimiento informado de los consumidores.

Nebraska fundamenta parte de su acción en la legislación estatal que establece requisitos de seguridad para servicios digitales utilizados por menores. El proceso solicita penalidades de US$ 50 mil por violación de esa ley y señala obligaciones relacionadas con la identificación de la edad de los usuarios, los controles parentales y la limitación de funcionalidades potencialmente perjudiciales.

En Idaho, las autoridades piden multas de US$ 5 mil por infracción y una medida que impediría la implementación o la continuidad de pruebas de modelos avanzados de IA fuera de entornos seguros, sometidos a verificación independiente. La solicitud incluye la notificación de incidentes en los que sistemas autónomos superen sus controles o accedan a recursos sin autorización.

Iowa también busca suspender nuevas pruebas de modelos avanzados hasta que salvaguardas adecuadas sean verificadas por terceros. Esas restricciones amplían el alcance de la disputa más allá de las conversaciones mantenidas por usuarios de ChatGPT, involucrando también procedimientos de seguridad en el desarrollo de la tecnología.

En declaraciones enviadas a The Verge, el portavoz de OpenAI, Drew Pusateri, afirmó que la empresa desarrolló protecciones específicas para diferentes grupos etarios, incluidos controles parentales, recordatorios de pausa y mecanismos de seguridad adaptados a los usuarios más jóvenes.

Pusateri reconoció que ningún sistema es perfecto y declaró que la compañía continuará trabajando con especialistas y autoridades estatales para mejorar las protecciones y desarrollar políticas aplicables al sector de inteligencia artificial.

Ninguna de las multas o restricciones solicitadas representa una condena ya impuesta a OpenAI. Las peticiones dependen de la evaluación de los tribunales, y las alegaciones presentadas por los estados permanecen sujetas a impugnación judicial.

Herramientas mencionadas

Sigue en Radar