El fiscal general de Texas, Ken Paxton, anunció este viernes (23) una demanda judicial contra OpenAI y su CEO, Sam Altman, acusando a la empresa de engañar a los consumidores sobre la seguridad de ChatGPT y de exponer a niños y adolescentes a riesgos. El estado pide que la Justicia impida la oferta del chatbot a menores en Texas e imponga restricciones al lanzamiento de nuevos modelos de inteligencia artificial.
La acción fue presentada en el condado de Collin, en Texas, e incluye seis entidades vinculadas a OpenAI, además de Altman. La Fiscalía sostiene que la compañía promovió sus productos como seguros y confiables mientras dejaba de informar adecuadamente a los usuarios sobre los riesgos asociados al uso de la tecnología.
Entre los daños señalados están respuestas que habrían incentivado comportamientos autodestructivos, proporcionado información relacionada con la violencia y contribuido a relaciones de dependencia emocional. La petición también acusa a la empresa de estimular el uso prolongado de ChatGPT y de recopilar información personal de menores sin la supervisión parental adecuada. Las alegaciones aún están pendientes de evaluación judicial.
Paxton afirmó que, ante el avance acelerado de la IA, OpenAI tiene la responsabilidad de proteger a sus usuarios y advertirles sobre los riesgos de la plataforma. El fiscal declaró que pretende responsabilizar a las empresas tecnológicas que incumplan la legislación estatal.
Texas quiere revisión independiente antes del lanzamiento de nuevos modelos
La petición de 67 páginas incluye solicitudes que van más allá de la responsabilidad financiera. Texas solicita que no se pongan nuevos modelos de IA a disposición de los usuarios del estado sin una evaluación previa de seguridad realizada por una entidad independiente aprobada por el tribunal.
El gobierno también pretende obtener medidas judiciales para impedir la oferta de ChatGPT a menores, exigir mecanismos adecuados de verificación de edad y restringir funcionalidades que se consideren capaces de estimular el uso compulsivo de la plataforma.
La acción se fundamenta en dos leyes estatales: la Texas Deceptive Trade Practices Act (DTPA), orientada a la protección de los consumidores contra prácticas engañosas, y la SCOPE Act, que establece obligaciones de seguridad, privacidad y supervisión parental en servicios digitales accesibles a menores.
Según la Fiscalía, los controles parentales existentes en ChatGPT no cumplirían los requisitos legales, especialmente en cuanto a la verificación de los responsables y a la posibilidad de supervisar el uso y las configuraciones de privacidad de los adolescentes.
El estado solicita multas civiles de US$ 10 mil por infracción, además de la restitución de ganancias obtenidas por prácticas consideradas ilegales y el reembolso de gastos judiciales. La petición encuadra la solicitud de reparación monetaria en un valor superior a US$ 1 millón, sin establecer una indemnización definitiva. Paxton también busca responsabilizar personalmente a Altman por las decisiones y declaraciones que habrían contribuido a las supuestas violaciones.
La ofensiva se produce nueve días después de que otros ocho estados estadounidenses presentaran demandas contra OpenAI por acusaciones similares, relacionadas con la seguridad infantil y con información potencialmente engañosa sobre ChatGPT.
En respuesta a esas acciones, OpenAI afirmó contar con protecciones específicas para diferentes grupos de edad, incluidos controles parentales y mecanismos destinados a reducir la exposición de los adolescentes a contenidos perjudiciales. La empresa también reconoció que ningún sistema de seguridad es perfecto y declaró que continúa perfeccionando esas herramientas. Esa manifestación no constituye una respuesta específica a la demanda presentada por Texas.
