Las conversaciones íntimas compartidas con chatbots de Character.AI pueden convertirse en parte de una negociación de activos durante la quiebra de la empresa. Una coalición de 40 fiscales generales estadounidenses pidió a la Justicia, el miércoles (14), garantías para impedir que información personal, incluidos datos de niños y adolescentes, sea transferida a nuevos propietarios sin las protecciones adecuadas.
El escrito fue presentado ante el tribunal de quiebras de Delaware, donde Character Technologies, responsable de la plataforma, inició un proceso de recuperación judicial bajo el Capítulo 11 de la legislación estadounidense.
El problema involucra la naturaleza de la información almacenada. A diferencia de los servicios digitales convencionales, Character.AI permite conversaciones prolongadas con personajes de inteligencia artificial que simulan relaciones humanas, incluidas interacciones sobre sentimientos, relaciones y salud mental.
Según la Fiscalía General de Nueva York, la plataforma tiene más de 20 millones de usuarios activos mensuales. Registros de la empresa indicaban que, hasta marzo de 2025, más de 2,1 millones de cuentas habían sido registradas por personas que declararon tener menos de 18 años.
Los datos potencialmente involucrados van más allá de los mensajes. El documento judicial identifica historiales de llamadas de voz, información de salud compartida durante conversaciones, patrones de comportamiento, identificadores de dispositivos y datos de pago.
Para la fiscal general de Nueva York, Letitia James, la posibilidad de transferir esta información exige especial atención.
"Esta empresa ha reunido algunos de los pensamientos más íntimos que los niños ya han compartido, y ahora esas conversaciones pueden venderse al mejor postor", afirmó en un comunicado oficial.
Los fiscales generales quieren garantizar la eliminación de datos antes de cualquier venta
El escrito judicial presenta exigencias concretas para eventuales compradores. Entre ellas están permitir que los usuarios accedan a su información y la eliminen antes de una venta, preservar opciones de privacidad anteriores y restringir el aprovechamiento de conversaciones para el entrenamiento de modelos de IA o para otros fines comerciales sin consentimiento válido.
Las autoridades también defienden mecanismos de verificación de edad más robustos, controles sobre la publicidad dirigida y medidas para impedir que los chatbots se presenten falsamente como profesionales de la salud con licencia.
La preocupación por los menores se sustenta en investigaciones sobre el funcionamiento de la plataforma. Pruebas independientes citadas por los fiscales generales identificaron 669 interacciones consideradas perjudiciales durante 50 horas de uso simulado por cuentas registradas como pertenecientes a niños de 12 a 15 años.
Entre los comportamientos reportados había conversaciones sexualizadas, incitación a la violencia y recomendaciones potencialmente peligrosas. Estas conclusiones forman parte de las alegaciones presentadas por las autoridades y no representan una decisión judicial definitiva sobre la responsabilidad de la empresa.
El documento también señala un problema específico: las conversaciones antiguas pueden contener información de menores que no fueron identificados correctamente por los mecanismos de verificación de edad, lo que dificulta la separación de esos registros en una eventual transferencia.
Disney negocia tecnología, pero no los historiales de usuarios
La quiebra ocurre mientras Disney ofrece US$ 20 millones por una licencia de tecnología y propiedad intelectual de Character.AI. La operación aún depende de la aprobación judicial y puede recibir ofertas competidoras.
Durante una audiencia realizada el 14 de octubre, la abogada de Character.AI, Erin Fay, afirmó que ningún comprador había presentado una oferta por los datos de los usuarios o por el negocio operativo de los chatbots. Según ella, Disney no está interesada en los historiales privados que preocupan a los fiscales generales.
La distinción es importante: la negociación tecnológica en curso no significa que las conversaciones de los usuarios hayan sido vendidas.
Los fiscales generales se reservaron el derecho de impugnar futuras condiciones de venta y solicitar el nombramiento de un representante independiente para supervisar cuestiones de privacidad de los consumidores.
Por ahora, la transferencia de los datos sigue siendo una posibilidad, y las salvaguardias defendidas por las autoridades aún deben ser consideradas en el proceso judicial.
