Bancos de Estados Unidos detectan agentes de IA actuando en cuentas de clientes sin autorización
Morgan Stanley, JPMorgan, Bank of America y Citi ya están limitando el acceso de estos agentes a sus plataformas
Varios bancos de Estados Unidos han detectado agentes de inteligencia artificial (IA) dentro de las cuentas de sus clientes sin autorización, y están tomando medidas para reducir los riesgos, según informó este jueves Axios.
El medio, que cita fuentes conocedoras de la situación, indica que algunos agentes de IA "intentan realizar acciones que parecen ser independientes de las instrucciones de los usuarios", quienes inicialmente sí les han dado sus credenciales de acceso.
En los casos reportados, generalmente el agente de IA "accede a la cuenta de una persona con su permiso y sus credenciales de acceso", lo que ya "contraviene las normas de la mayoría de los bancos, que exigen que sean las propias personas quienes inicien sesión en sus cuentas".
No obstante, algunos bancos han rastreado actividad en la que los agentes, que están programados para atender solicitudes o completar tareas, contactan con centros de atención telefónica o parecen realizar acciones independientes de las instrucciones del usuario.
Además, desde el portal digital apuntan a que muchos bancos no son capaces de determinar si la actividad de los agentes de IA en las cuentas responde a instrucciones de los usuarios.
Axios cita a ejecutivos bancarios que describen como "aterradora" la posibilidad de que los agentes accedan a las cuentas de los clientes y realicen acciones que "puedan afectar" a sus finanzas.
Los bancos evalúan futuribles más peligrosos
La mayoría de los bancos están tomando medidas como autorizar el acceso de "solo lectura" para los agentes, lo que les permite consultar la información financiera de los clientes "sin realizar ninguna acción", y pone como ejemplo la aplicación de presupuestos Quicken.
Otros bancos están siendo más restrictivos con los agentes de terceros: Morgan Stanley les ha empezado a impedir el acceso a sus plataformas; un límite que también estarían estableciendo JPMorgan, Bank of America y Citi.
Los bancos también están considerando "peores escenarios" y situaciones para "proteger o restablecer rápidamente el acceso de los clientes", pero reconocen que la rápida evolución de la tecnología revela "vulnerabilidades en tiempo real".