Representantes de OpenAI, Anthropic, Google e Meta foram pressionados por vereadores de Nova York sobre os riscos de sistemas avançados de inteligência artificial durante uma audiência realizada na segunda feira (5). Sob juramento, as quatro empresas evitaram apresentar uma estimativa numérica para a possibilidade de um evento catastrófico provocado pela tecnologia.
A audiência reuniu os 51 integrantes do Conselho Municipal de Nova York e discutiu segurança, responsabilidade jurídica e propostas que podem impor novas exigências a empresas que desenvolvem ou oferecem modelos de IA na cidade.
As companhias não enviaram seus CEOs. OpenAI, Anthropic, Google e Meta foram representadas por executivos das áreas de políticas públicas, segurança e legislação, todos por videoconferência.
Um dos principais momentos ocorreu quando a presidente do Conselho, Julie Menin, pediu às empresas que quantificassem o risco de uma falha catastrófica. Nenhuma apresentou um percentual. A representante da OpenAI afirmou que não poderia estimar a probabilidade e argumentou que mesmo riscos baixos seriam inaceitáveis diante da gravidade de determinados cenários.
Os executivos também evitaram compromissos absolutos sobre responsabilidade legal em caso de danos graves e sobre a suspensão automática de modelos reprovados em avaliações independentes de segurança.
Ex funcionários do setor também participaram. Jacob Coxon, que deixou a Anthropic, afirmou que empresas estão assumindo riscos excessivos no desenvolvimento de sistemas mais capazes. Daniel Kokotajlo, ex pesquisador da OpenAI, chamou atenção para avanços de IA em segurança cibernética.
Nova York discute validação independente e multas
O Conselho analisa um pacote de dez propostas relacionadas à inteligência artificial. Uma delas exigiria validação independente antes que determinados modelos sejam comercializados ou implantados na cidade e obrigaria a existência de um mecanismo que permita a interrupção por um operador humano.
Violações poderiam gerar multas de US$ 25 mil por ocorrência. Outra proposta permitiria ações contra empresas quando danos previsíveis não fossem acompanhados de salvaguardas consideradas razoáveis.
OpenAI, Google e Anthropic confirmaram participação após o Conselho ameaçar usar seu poder de intimação. A Meta já havia concordado anteriormente. SpaceXAI não compareceu apesar de ter sido intimada, e Menin afirmou que o Conselho pretende buscar o cumprimento judicial da ordem.
As propostas continuam em tramitação e ainda não há decisão final sobre as medidas.
