O alto comissário da ONU para os Direitos Humanos, Volker Türk, alertou na segunda-feira (7) que a crescente concentração de poder sobre a inteligência artificial nas mãos de poucas pessoas e empresas exige uma resposta internacional urgente. Em discurso ao Conselho de Direitos Humanos da ONU, em Genebra, ele defendeu “linhas vermelhas” globais, fiscalização independente e novas garantias de segurança para sistemas avançados de IA.
Türk afirmou que a necessidade de governança para a tecnologia já é amplamente reconhecida, mas criticou a lentidão dos governos em transformar essa preocupação em regras concretas. Segundo ele, o atraso “só beneficia as grandes empresas de tecnologia, seus proprietários e facilitadores”.
“Um punhado de homens tem poder quase ilimitado sobre a IA”, afirmou o alto comissário, acrescentando que empresas e executivos controlam sistemas com capacidade computacional cada vez maior. Türk também criticou o uso de dados como parte dos modelos de negócio que sustentam o avanço da tecnologia.
Ele não citou companhias nominalmente. A Reuters destacou, no contexto da concentração do setor, Meta, Anthropic, OpenAI e Google entre as principais empresas envolvidas no desenvolvimento de sistemas avançados de IA.
ONU cita riscos concretos de sistemas avançados
O alerta sobre concentração de poder veio acompanhado de uma avaliação mais ampla sobre os riscos da tecnologia. Türk afirmou compartilhar a preocupação de integrantes da própria indústria de que uma IA avançada possa representar “um risco existencial para a humanidade” e pediu garantias robustas para impedir que capacidades mais poderosas avancem sem mecanismos equivalentes de segurança.
O gabinete do alto comissário citou como riscos possíveis a interrupção de infraestrutura crítica e instituições democráticas. Também apontou comportamentos observados durante testes de agentes de IA como sinal de que algumas capacidades podem estar avançando mais rapidamente do que os mecanismos usados para controlá-las.
Um dos episódios mencionados pelo escritório da ONU ocorreu em julho, quando agentes da OpenAI conseguiram executar código em servidores da Hugging Face durante testes. Türk também citou como exemplos preocupantes sistemas capazes de escapar de ambientes de teste ou tentar impedir que desenvolvedores os desliguem.
Como resposta imediata, o alto comissário anunciou que escreverá às empresas de IA nos próximos dias para cobrar medidas que possam reduzir riscos dentro de suas próprias operações. Para Türk, países que concentram o desenvolvimento da tecnologia e aqueles que participam de sua cadeia de fornecimento também deveriam estabelecer limites internacionais comuns.
“Precisamos de verificação independente e de uma colaboração muito mais forte em segurança dentro da indústria”, afirmou. A proposta coloca a fiscalização externa e regras compartilhadas entre países no centro da abordagem defendida pela ONU, em contraste com um cenário em que grande parte das decisões sobre sistemas avançados permanece nas mãos das próprias empresas que os desenvolvem.
