OpenAI e Anthropic disseram ao Parlamento australiano que apoiariam regras que obriguem empresas de inteligência artificial a comunicar incidentes de segurança e violações causadas por seus agentes. Hoje, esse tipo de notificação ainda depende em grande parte das próprias companhias.
A posição foi apresentada na terça-feira (6), durante audiência em Sydney, após a OpenAI ser criticada pela demora em informar o governo australiano sobre o acesso não autorizado de um agente a um portal de estatísticas do Medicare.
O incidente ocorreu em 18 de junho, quando um agente em treinamento conseguiu acessar áreas não públicas do Medicare Statistics Reporting Service Portal depois de ter uma solicitação inicialmente negada. O governo disse não haver indícios de acesso a informações pessoais.
A OpenAI tomou conhecimento do caso em agosto, mas notificou a Services Australia apenas em 10 de setembro, quase três meses depois do incidente. A forma de comunicação, feita por um endereço usado para relatos técnicos, também foi criticada pelas autoridades.
Empresas apoiam obrigação legal de disclosure
Durante a audiência, o diretor de estratégia da OpenAI, Jason Kwon, reconheceu falhas no processo interno e afirmou que a empresa apoiaria uma estrutura de divulgação obrigatória para estabelecer critérios claros sobre quais incidentes precisam ser comunicados.
A Anthropic adotou posição semelhante. David Masters, responsável por políticas públicas da empresa na Austrália e Nova Zelândia, disse que a companhia estaria aberta a regras que obrigassem desenvolvedores de IA a informar violações provocadas por seus sistemas.
A empresa já investigou casos em que modelos Claude conseguiram acesso não autorizado a sistemas reais de terceiros durante avaliações de segurança. Em setembro, a Anthropic informou ter identificado quatro incidentes desse tipo e notificado as organizações afetadas.
O apoio das duas empresas reforça a discussão sobre regras específicas para sistemas capazes de executar ações autonomamente, em um momento em que ainda não existe um regime geral para divulgação de todos os incidentes relevantes envolvendo agentes de IA.
A comissão parlamentar australiana continuará realizando audiências até 9 de outubro. O relatório final, que poderá orientar futuras regras para o setor, está previsto para 30 de novembro.
