O procurador-geral do Texas, Ken Paxton, anunciou nesta sexta-feira (23) uma ação judicial contra a OpenAI e seu CEO, Sam Altman, acusando a empresa de enganar consumidores sobre a segurança do ChatGPT e de expor crianças e adolescentes a riscos. O estado pede que a Justiça impeça a oferta do chatbot a menores no Texas e imponha restrições ao lançamento de novos modelos de inteligência artificial.
A ação foi apresentada no condado de Collin, no Texas, e inclui seis entidades ligadas à OpenAI, além de Altman. A Procuradoria sustenta que a companhia promoveu seus produtos como seguros e confiáveis enquanto deixava de informar adequadamente os usuários sobre riscos associados ao uso da tecnologia.
Entre os danos apontados estão respostas que teriam incentivado comportamentos autodestrutivos, fornecido informações relacionadas à violência e contribuído para relações de dependência emocional. A petição também acusa a empresa de estimular o uso prolongado do ChatGPT e coletar informações pessoais de menores sem supervisão parental adequada. As alegações ainda dependem de avaliação judicial.
Paxton afirmou que, diante do avanço acelerado da IA, a OpenAI tem a responsabilidade de proteger seus usuários e alertá-los sobre os riscos da plataforma. O procurador declarou que pretende responsabilizar empresas de tecnologia que descumpram a legislação estadual.
Texas quer revisão independente antes do lançamento de novos modelos
A petição de 67 páginas apresenta pedidos que ultrapassam a responsabilização financeira. O Texas solicita que novos modelos de IA não sejam disponibilizados a usuários do estado sem uma avaliação prévia de segurança conduzida por uma entidade independente aprovada pelo tribunal.
O governo também pretende obter medidas judiciais para impedir a oferta do ChatGPT a menores, exigir mecanismos adequados de verificação de idade e restringir funcionalidades consideradas capazes de estimular o uso compulsivo da plataforma.
A ação se fundamenta em duas leis estaduais: a Texas Deceptive Trade Practices Act (DTPA), voltada à proteção dos consumidores contra práticas enganosas, e a SCOPE Act, que estabelece obrigações de segurança, privacidade e supervisão parental em serviços digitais acessíveis a menores.
Segundo a Procuradoria, os controles parentais existentes no ChatGPT não atenderiam às exigências legais, especialmente quanto à verificação dos responsáveis e à possibilidade de supervisionar o uso e as configurações de privacidade dos adolescentes.
O estado solicita multas civis de US$ 10 mil por infração, além da restituição de ganhos obtidos por práticas consideradas ilegais e do ressarcimento de despesas judiciais. A petição enquadra o pedido de reparação monetária em valor superior a US$ 1 milhão, sem estabelecer uma indenização definitiva. Paxton também busca responsabilizar pessoalmente Altman pelas decisões e declarações que teriam contribuído para as supostas violações.
A ofensiva acontece nove dias depois de oito outros estados americanos apresentarem processos contra a OpenAI por acusações semelhantes, envolvendo segurança infantil e informações potencialmente enganosas sobre o ChatGPT.
Em resposta àquelas ações, a OpenAI afirmou possuir proteções específicas para diferentes faixas etárias, incluindo controles parentais e mecanismos destinados a reduzir a exposição de adolescentes a conteúdos prejudiciais. A empresa também reconheceu que nenhum sistema de segurança é perfeito e declarou continuar aprimorando essas ferramentas. Essa manifestação não constitui uma resposta específica ao processo apresentado pelo Texas.
