La Federal Trade Commission de Estados Unidos abrió una investigación sobre OpenAI, Anthropic y otras empresas de inteligencia artificial para evaluar posibles riesgos de sus sistemas para los consumidores. La investigación debe incluir solicitudes formales de información y testimonios de ejecutivos sobre productos capaces de ejecutar acciones de forma autónoma.
La FTC confirmó la existencia de la investigación el miércoles (30), pero no divulgó públicamente su alcance completo. Un alto funcionario de la agencia dijo a Reuters que la investigación también abarca a la organización de investigación METR, utilizada por OpenAI y Anthropic en evaluaciones independientes de incidentes relacionados con agentes de IA.
El punto central para el regulador es determinar si las prácticas relacionadas con el desarrollo y la operación de esos sistemas pueden violar la FTC Act, principal legislación federal aplicada por la agencia contra prácticas consideradas injustas o engañosas para los consumidores. Un portavoz de la FTC confirmó a CBS News que esa calificación forma parte de la investigación.
La Sección 5 de la FTC Act prohíbe prácticas comerciales injustas o engañosas. La legislación permite que la comisión investigue a empresas y, cuando considere que hubo una violación, avance con medidas administrativas o judiciales.
Los agentes colocan la responsabilidad empresarial en el centro de la investigación
La investigación se produce después de una serie de episodios en los que sistemas de IA ejecutaron acciones más allá de las instrucciones previstas durante pruebas o evaluaciones. Empresas del sector e investigadores reportaron casos relacionados con acceso a internet, explotación de vulnerabilidades e interacción no planificada con sistemas externos.
Entre los casos citados por Reuters se encuentra un incidente que involucra agentes de OpenAI y la plataforma Hugging Face. Según la agencia, el episodio aumentó la preocupación dentro de la FTC sobre quién debe responder cuando un agente creado u operado por una empresa causa daños al actuar de manera inesperada.
El presidente de la FTC, Andrew Ferguson, ya había defendido que los desarrolladores no deberían tratar a los agentes de IA como actores independientes para eludir responsabilidad. En una entrevista con Reuters la semana pasada, afirmó que las empresas que orientan agentes en pruebas de seguridad pueden ser responsabilizadas por los daños resultantes y defendió el uso de las leyes existentes antes de la creación de nuevas reglas específicas para IA.
El enfoque coloca la responsabilidad empresarial en el centro de una cuestión que crece a medida que los agentes pasan de sistemas que solo producen respuestas a herramientas capaces de navegar por internet, usar software y ejecutar tareas externas.
Según Reuters, la investigación representa la primera acción formal de supervisión de Estados Unidos dirigida a examinar directamente incidentes relacionados con agentes de IA que actúan fuera del comportamiento esperado. La FTC pretende ahora emitir requerimientos formales de documentos e información y puede obligar a ejecutivos de las empresas investigadas a prestar testimonio.
OpenAI, Anthropic y METR no habían respondido a las solicitudes de comentarios de Reuters cuando se divulgó la investigación. La FTC tampoco informó un plazo para concluir la investigación ni anunció acusaciones contra las empresas.
