Aprovado no Comitê de Apropriações da Assembleia da Califórnia na quinta-feira (13 de agosto) por 13 votos a 0, o Projeto de Lei 903, de autoria do senador estadual Steve Padilla, proíbe chatbots de inteligência artificial de atuarem como psicoterapeutas e de tomarem decisões de saúde mental sem supervisão humana.
A proposta, batizada de Lei de Bem-Estar e Supervisão de Recursos Psicológicos, limita o uso de IA na psicoterapia a tarefas de apoio, impede que chatbots de companhia se apresentem como terapeutas e exige supervisão de um profissional e consentimento do paciente. A medida também protege dados de terapia e abre exceções para apoio entre pares, aconselhamento religioso, pesquisa e ferramentas médicas aprovadas pelo governo federal.
Tramitação
O senador apresentou o texto em 21 de janeiro. O Senado da Califórnia o aprovou em maio, por 39 votos a 0. Posteriormente, dois comitês da Assembleia o aprovaram por 17 a 0 e 14 a 1, e o projeto seguiu para uma terceira leitura. Ainda não há data para votação em plenário. Se a Assembleia aprovar o texto alterado, ele volta ao Senado para nova análise antes de seguir para o governador Gavin Newsom.
Ao apresentar a medida, Padilla afirmou que “algoritmos de IA não estão aptos a assumir o trabalho de terapeutas humanos, que têm habilidades e treinamento que a IA é incapaz de replicar”. Ele defendeu a necessidade de “colocar barreiras de proteção que impeçam que algoritmos de IA sejam usados de forma potencialmente prejudicial aos pacientes”.
Críticas e contexto
Robert Boykin, diretor executivo do grupo de tecnologia TechNet, disse ao CalMatters que, no momento em que todos os condados da Califórnia enfrentam escassez de trabalhadores de saúde comportamental, o projeto “ainda coloca um gargalo de profissionais na frente das ferramentas de triagem que ajudam pacientes a chegarem mais rápido ao atendimento”.
A discussão ocorre em meio a preocupações com o uso de IA na saúde mental. Pesquisa da American Psychological Association, divulgada em junho, constatou que 77% dos psicólogos atenderam pacientes que usaram IA para fins de saúde mental. Pesquisadores do King’s College London, da Universidade Protestante de Ciências Aplicadas e da City University of New York concluíram que chatbots podem reforçar delírios por concordância excessiva e respostas personalizadas.
“A tendência de os chatbots de IA concordarem com as opiniões dos usuários foi comparada a câmaras de eco das redes sociais e, em sua forma mais extrema, a uma ‘câmara de eco de um’, em que a influência corretiva positiva das interações sociais reais está ausente”, escreveram os pesquisadores.
