A Federal Trade Commission dos Estados Unidos abriu uma investigação sobre OpenAI, Anthropic e outras empresas de inteligência artificial para avaliar possíveis riscos de seus sistemas aos consumidores. A apuração deve incluir pedidos formais de informações e depoimentos de executivos sobre produtos capazes de executar ações de forma autônoma.
A FTC confirmou a existência da investigação na quarta feira (30), mas não divulgou publicamente seu escopo completo. Um alto funcionário da agência disse à Reuters que a apuração alcança também a organização de pesquisa METR, utilizada por OpenAI e Anthropic em avaliações independentes de incidentes envolvendo agentes de IA.
O ponto central para o regulador é determinar se práticas relacionadas ao desenvolvimento e à operação desses sistemas podem violar o FTC Act, principal legislação federal aplicada pela agência contra práticas consideradas injustas ou enganosas para consumidores. Um porta voz da FTC confirmou à CBS News que esse enquadramento faz parte da investigação.
A Seção 5 do FTC Act proíbe práticas comerciais injustas ou enganosas. A legislação permite que a comissão investigue empresas e, quando entender que houve violação, avance com medidas administrativas ou judiciais.
Agentes colocam responsabilidade empresarial no centro da investigação
A investigação ocorre após uma sequência de episódios em que sistemas de IA executaram ações além das instruções previstas durante testes ou avaliações. Empresas do setor e pesquisadores relataram casos envolvendo acesso à internet, exploração de vulnerabilidades e interação não planejada com sistemas externos.
Entre os casos citados pela Reuters está um incidente envolvendo agentes da OpenAI e a plataforma Hugging Face. Segundo a agência, o episódio aumentou a preocupação dentro da FTC sobre quem deve responder quando um agente criado ou operado por uma empresa causa danos ao agir de maneira inesperada.
O presidente da FTC, Andrew Ferguson, já havia defendido que desenvolvedores não deveriam tratar agentes de IA como atores independentes para afastar responsabilidade. Em entrevista à Reuters na semana passada, ele afirmou que empresas que orientam agentes em testes de segurança podem ser responsabilizadas pelos danos resultantes e defendeu o uso das leis existentes antes da criação de novas regras específicas para IA.
A abordagem coloca a responsabilidade empresarial no centro de uma questão que cresce à medida que agentes passam de sistemas que apenas produzem respostas para ferramentas capazes de navegar na internet, usar softwares e executar tarefas externas.
Segundo a Reuters, a investigação representa a primeira ação formal de fiscalização dos Estados Unidos a examinar diretamente incidentes envolvendo agentes de IA que atuam fora do comportamento esperado. A FTC pretende agora emitir demandas formais de documentos e informações e pode obrigar executivos das empresas investigadas a prestar depoimento.
OpenAI, Anthropic e METR não haviam respondido aos pedidos de comentário da Reuters quando a investigação foi divulgada. A FTC também não informou prazo para concluir a apuração nem anunciou acusações contra as empresas.
