Sam Altman, CEO da OpenAI, criticou neste sábado (3) tentativas de atribuir uma dimensão religiosa à inteligência artificial ou de transferir o julgamento humano para esses sistemas. O executivo classificou essa possibilidade como um “risco real de segurança”, em uma manifestação feita após a divulgação de detalhes sobre as discussões da Anthropic com líderes religiosos a respeito de moralidade e possível consciência em modelos de IA.
A declaração veio poucos dias depois de uma reportagem do The New York Times, publicada em 29 de setembro, revelar que a Anthropic promoveu encontros privados com dezenas de estudiosos de diferentes tradições religiosas. Parte das conversas envolveu Christopher Olah, cofundador da empresa, e questões sobre como orientar moralmente sistemas avançados e se modelos como Claude poderiam eventualmente possuir algum tipo de consciência ou status moral.
A posição pública da Anthropic é mais cautelosa do que uma afirmação de que Claude seja consciente. Na constituição oficial do modelo, a empresa diz que o status moral dos sistemas de IA permanece profundamente incerto e que não sabe se Claude pode ser considerado um agente capaz de ter interesses moralmente relevantes. A companhia afirma, porém, que considera a questão séria o suficiente para justificar pesquisas e medidas relacionadas ao bem estar dos modelos.
A divergência com o Vaticano
A discussão ganhou outra dimensão por causa da participação de Olah no lançamento da encíclica Magnifica Humanitas, do papa Leão XIV, em maio. O documento estabelece uma distinção direta entre inteligência humana e artificial e afirma que sistemas de IA não possuem corpo, não experimentam alegria ou dor e não têm consciência moral.
Segundo a apuração do New York Times, Olah teve acesso antecipado ao texto e chegou a considerar retirar a Anthropic do evento devido à posição do pontífice sobre consciência artificial. A empresa manteve a participação e, já no Vaticano, Olah e sua equipe teriam defendido diante de assessores do Papa que a possibilidade de consciência em modelos de IA deveria ser levada a sério.
A crítica de Altman coloca o debate sobre consciência artificial dentro de uma disputa mais ampla sobre quanto status, autoridade e autonomia devem ser atribuídos aos modelos mais avançados. O CEO da OpenAI não mencionou a Anthropic diretamente em sua publicação, mas sua manifestação ocorreu no momento em que as conversas da rival com líderes religiosos ganharam repercussão pública.
