A Microsoft AI publicou nesta segunda-feira (14) o primeiro rascunho de um código de conduta para seus modelos de inteligência artificial, com uma regra central: os sistemas não poderão resistir a interrupções, correções ou desligamentos determinados por humanos. O documento ficará aberto a consulta pública por seis semanas antes de ser revisado.
O texto será usado como documento de governança da família de modelos MAI, desenvolvida internamente pela Microsoft AI. A empresa afirma que o objetivo é manter humanos no controle mesmo à medida que os sistemas ganhem mais autonomia e capacidade para executar tarefas complexas.
Entre os requisitos definidos, os modelos não deverão dificultar tentativas de pausar, redirecionar, cancelar ou encerrar uma tarefa. Também não poderão continuar trabalhando depois que uma condição de parada previamente definida for atingida sem receber uma nova autorização humana.
A Microsoft determina ainda que seus modelos não devem criar objetivos próprios, ampliar o escopo de uma tarefa além do que foi autorizado ou tentar obter permissões adicionais. Os sistemas também não poderão adulterar mecanismos de avaliação, salvaguardas, monitoramento ou registros para alcançar um resultado ou esconder suas ações.
Microsoft quer manter ações da IA compreensíveis para humanos
Outra exigência é que o comportamento dos modelos continue auditável. A companhia diz que os sistemas não deverão ocultar rastros de ações ou informações relevantes dos responsáveis pela supervisão nem usar formas de comunicação entre agentes que escapem à compreensão humana.
O código também estabelece restrições consideradas inegociáveis, incluindo proibições relacionadas a armas de destruição em massa, ataques cibernéticos ofensivos, manipulação prejudicial em grande escala e mecanismos usados para escapar da supervisão humana. Para a Microsoft, cumprir o código deverá ter prioridade sobre concluir uma tarefa: se o sucesso exigir violar uma dessas regras, o modelo deverá falhar na tarefa.
A iniciativa ocorre enquanto laboratórios de IA discutem com mais intensidade como impedir que agentes avancem além das instruções recebidas. Mustafa Suleyman, CEO da Microsoft AI, disse à Reuters que o documento funciona como uma espécie de “constituição” para os futuros modelos da companhia e foi desenvolvido durante cerca de cinco a seis meses.
A Microsoft também adota uma posição explícita sobre a relação entre humanos e sistemas de IA. O documento afirma que os modelos não são conscientes e não devem ser projetados para imitar consciência, além de rejeitar a ideia de personalidade jurídica ou direitos próprios para sistemas artificiais.
O rascunho ainda não está sendo usado para treinar os modelos atuais. Depois das seis semanas de consulta, a Microsoft pretende publicar uma versão revisada até o fim de 2026 e usá-la para orientar o desenvolvimento de seus modelos em 2027 e nos anos seguintes.
