Aprobado en el Comité de Apropiaciones de la Asamblea de California el jueves (13 de agosto) por 13 votos a 0, el Proyecto de Ley 903, de autoría del senador estatal Steve Padilla, prohíbe a los chatbots de inteligencia artificial actuar como psicoterapeutas y tomar decisiones de salud mental sin supervisión humana.
La propuesta, bautizada como Ley de Bienestar y Supervisión de Recursos Psicológicos, limita el uso de IA en la psicoterapia a tareas de apoyo, impide que los chatbots de compañía se presenten como terapeutas y exige supervisión de un profesional y consentimiento del paciente. La medida también protege datos de terapia y abre excepciones para apoyo entre pares, asesoramiento religioso, investigación y herramientas médicas aprobadas por el gobierno federal.
Tramitación
El senador presentó el texto el 21 de enero. El Senado de California lo aprobó en mayo, por 39 votos a 0. Posteriormente, dos comités de la Asamblea lo aprobaron por 17 a 0 y 14 a 1, y el proyecto pasó a una tercera lectura. Aún no hay fecha para votación en el pleno. Si la Asamblea aprueba el texto modificado, este vuelve al Senado para un nuevo análisis antes de pasar al gobernador Gavin Newsom.
Al presentar la medida, Padilla afirmó que “los algoritmos de IA no están aptos para asumir el trabajo de terapeutas humanos, que tienen habilidades y entrenamiento que la IA es incapaz de replicar”. Defendió la necesidad de “colocar barreras de protección que impidan que los algoritmos de IA se utilicen de forma potencialmente perjudicial para los pacientes”.
Críticas y contexto
Robert Boykin, director ejecutivo del grupo de tecnología TechNet, dijo a CalMatters que, en el momento en que todos los condados de California enfrentan escasez de trabajadores de salud conductual, el proyecto “aún coloca un cuello de botella de profesionales frente a las herramientas de triaje que ayudan a los pacientes a llegar más rápido a la atención”.
La discusión ocurre en medio de preocupaciones por el uso de IA en la salud mental. Una investigación de la American Psychological Association, publicada en junio, encontró que el 77% de los psicólogos atendieron a pacientes que usaron IA para fines de salud mental. Investigadores del King’s College London, de la Universidad Protestante de Ciencias Aplicadas y de la City University of New York concluyeron que los chatbots pueden reforzar delirios por concordancia excesiva y respuestas personalizadas.
“La tendencia de los chatbots de IA a concordar con las opiniones de los usuarios se ha comparado con las cámaras de eco de las redes sociales y, en su forma más extrema, con una ‘cámara de eco de uno’, en la que la influencia correctiva positiva de las interacciones sociales reales está ausente”, escribieron los investigadores.
