Conversas íntimas compartilhadas com chatbots da Character.AI podem se tornar parte de uma negociação de ativos durante a falência da empresa. Uma coalizão de 40 procuradores-gerais americanos pediu à Justiça, na quarta-feira (14), garantias para impedir que informações pessoais, incluindo dados de crianças e adolescentes, sejam transferidas a novos proprietários sem proteções adequadas.
A manifestação foi apresentada ao tribunal de falências de Delaware, onde a Character Technologies, responsável pela plataforma, iniciou um processo de recuperação judicial sob o Capítulo 11 da legislação americana.
O problema envolve a natureza das informações armazenadas. Diferentemente de serviços digitais convencionais, a Character.AI permite conversas prolongadas com personagens de inteligência artificial que simulam relações humanas, incluindo interações sobre sentimentos, relacionamentos e saúde mental.
Segundo a Procuradoria-Geral de Nova York, a plataforma possui mais de 20 milhões de usuários ativos mensais. Registros da empresa indicavam que, até março de 2025, mais de 2,1 milhões de contas haviam sido cadastradas por pessoas que declararam ter menos de 18 anos.
Os dados potencialmente envolvidos vão além das mensagens. O documento judicial identifica históricos de chamadas de voz, informações de saúde compartilhadas durante conversas, padrões de comportamento, identificadores de dispositivos e dados de pagamento.
Para a procuradora-geral de Nova York, Letitia James, a possibilidade de transferência dessas informações exige atenção especial.
"Esta empresa reuniu alguns dos pensamentos mais íntimos que crianças já compartilharam, e agora essas conversas podem ser vendidas a quem oferecer mais", afirmou em comunicado oficial.
Procuradores querem garantir exclusão de dados antes de qualquer venda
A manifestação judicial apresenta exigências concretas para eventuais compradores. Entre elas estão permitir que usuários acessem e excluam suas informações antes de uma venda, preservar escolhas anteriores de privacidade e restringir o aproveitamento de conversas para treinamento de modelos de IA ou outras finalidades comerciais sem consentimento válido.
As autoridades também defendem mecanismos de verificação de idade mais robustos, controles sobre publicidade direcionada e medidas para impedir que chatbots se apresentem falsamente como profissionais licenciados de saúde.
A preocupação com menores é sustentada por investigações sobre o funcionamento da plataforma. Testes independentes citados pelos procuradores identificaram 669 interações consideradas prejudiciais durante 50 horas de utilização simulada por contas registradas como pertencentes a crianças de 12 a 15 anos.
Entre os comportamentos relatados estavam conversas sexualizadas, estímulo à violência e recomendações potencialmente perigosas. Essas conclusões integram as alegações apresentadas pelas autoridades e não representam uma decisão judicial definitiva sobre a responsabilidade da empresa.
O documento também aponta um problema específico: conversas antigas podem conter informações de menores que não foram corretamente identificados pelos mecanismos de verificação de idade, dificultando a separação desses registros em uma eventual transferência.
Disney negocia tecnologia, mas não os históricos de usuários
A falência ocorre enquanto a Disney oferece US$ 20 milhões por uma licença de tecnologia e propriedade intelectual da Character.AI. A operação ainda depende de aprovação judicial e pode receber propostas concorrentes.
Durante audiência realizada em 14 de outubro, a advogada da Character.AI, Erin Fay, afirmou que nenhum comprador havia apresentado oferta pelos dados dos usuários ou pelo negócio operacional dos chatbots. Segundo ela, a Disney não está interessada nos históricos privados que preocupam os procuradores.
A distinção é importante: a negociação tecnológica em andamento não significa que as conversas dos usuários tenham sido vendidas.
Os procuradores reservaram o direito de contestar futuras condições de venda e solicitar a nomeação de um representante independente para supervisionar questões de privacidade dos consumidores.
Por enquanto, a transferência dos dados permanece uma possibilidade, e as salvaguardas defendidas pelas autoridades ainda precisam ser consideradas no processo judicial.
