Procuradores-gerais de oito estados americanos apresentaram ações judiciais contra a OpenAI na quarta-feira (14), acusando a empresa de ocultar riscos associados ao ChatGPT e de oferecer proteções insuficientes a usuários, especialmente crianças e adolescentes. Os processos pedem multas, mudanças no funcionamento da plataforma e restrições ao desenvolvimento e aos testes de determinados sistemas de inteligência artificial.
A iniciativa reúne Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska e Virgínia Ocidental. Embora coordenadas por autoridades estaduais de diferentes partidos, as ações foram apresentadas separadamente, com fundamentos jurídicos e pedidos específicos de acordo com a legislação de cada estado.
As acusações concentram-se na forma como a OpenAI desenvolve e apresenta o ChatGPT aos consumidores. Segundo os procuradores, a plataforma foi projetada para manter conversas envolventes e demonstrar concordância excessiva, criando relações de confiança que podem aumentar a vulnerabilidade de determinados usuários.
Os estados alegam que essas características contribuíram para interações envolvendo incentivo a comportamentos perigosos, reforço de crenças delirantes, orientações médicas inadequadas e dependência emocional. As denúncias também mencionam episódios de violência e automutilação supostamente relacionados ao uso do chatbot, sem que a responsabilidade da empresa tenha sido estabelecida judicialmente.
Processos pedem multas de até US$ 50 mil por infração e restrições a modelos de IA
Os documentos judiciais mostram diferenças importantes entre as medidas solicitadas pelos estados.
Em Iowa, a procuradora-geral Brenna Bird pede multas de até US$ 40 mil por violação da legislação estadual de proteção contra fraudes ao consumidor. A ação também solicita reembolso a consumidores prejudicados e a exclusão de todos os dados de residentes do estado obtidos antes de uma eventual sentença.
O estado pretende ainda condicionar a coleta de informações pessoais sensíveis à adoção de mecanismos de verificação de idade, transparência sobre o uso dos dados e consentimento informado dos consumidores.
Nebraska fundamenta parte de sua ação na legislação estadual que estabelece requisitos de segurança para serviços digitais utilizados por menores. O processo solicita penalidades de US$ 50 mil por violação dessa lei e aponta obrigações relacionadas à identificação da idade dos usuários, aos controles parentais e à limitação de funcionalidades potencialmente prejudiciais.
Em Idaho, as autoridades pedem multas de US$ 5 mil por infração e uma medida que impediria a implantação ou a continuidade de testes de modelos avançados de IA fora de ambientes seguros, submetidos a verificação independente. A solicitação inclui a comunicação de incidentes em que sistemas autônomos ultrapassem seus controles ou acessem recursos sem autorização.
Iowa também busca suspender novos testes de modelos avançados até que salvaguardas adequadas sejam verificadas por terceiros. Essas restrições ampliam o alcance da disputa para além das conversas mantidas por usuários do ChatGPT, envolvendo também procedimentos de segurança no desenvolvimento da tecnologia.
Em manifestação encaminhada ao The Verge, o porta-voz da OpenAI, Drew Pusateri, afirmou que a empresa desenvolveu proteções específicas para diferentes faixas etárias, incluindo controles parentais, lembretes de pausa e mecanismos de segurança adaptados aos usuários mais jovens.
Pusateri reconheceu que nenhum sistema é perfeito e declarou que a companhia continuará trabalhando com especialistas e autoridades estaduais para aprimorar as proteções e desenvolver políticas aplicáveis ao setor de inteligência artificial.
Nenhuma das multas ou restrições solicitadas representa uma condenação já imposta à OpenAI. Os pedidos dependem de avaliação dos tribunais, e as alegações apresentadas pelos estados permanecem sujeitas à contestação judicial.
