La inteligencia artificial (IA) en sus tres familias (predictiva, generativa y agéntica) es una ingeniería magnífica. Pero, sin necesidad de catastrofismos, regularla es muy difícil. "Regular la IA" no es lo mismo que "regular los usos de la IA". Lo primero no está resuelto y lo segundo es una tarea interminable. En esa confusión no extraña que los entornos de Trump y de Silicon Valley defiendan la "autorregulación", un término muy dudoso, que favorece a quien ya domina el mercado.
Afortunadamente, por ahora, se mantiene el rigor. "No tengo ninguna intención de confiar en agentes de IA para temas tan relevantes como la gestión de finanzas personales. Eso sería una grave imprudencia", palabras de Gonzalo Gortázar, consejero delegado de CaixaBank, al presentar resultados el pasado 30 de octubre en València (ver Valencia Plaza). Es la primera advertencia pública de un gran banco europeo de la que hay constancia, y llega cuando el sector empieza a moverse. Un agente que compara en segundos lo que cuesta un préstamo o lo que rinde un depósito puede llevar el dinero de un banco a otro sin que ninguna norma pudiera actuar. ING autorizó en julio, en Alemania, un pago iniciado por un agente en una prueba con Visa y Worldline; BBVA, de la mano de Nvidia, se acerca a un protocolo que distingue entre leer y escribir en una cuenta. Nada que objetar con el Reglamento actual. En Estados Unidos, JPMorgan no admite agentes externos en las cuentas, mientras Wells Fargo dará por autorizadas, desde el 24 de noviembre, las operaciones que inicie el agente de un cliente, "por su cuenta y riesgo".
Conviene entender qué es un agente, porque ahí está la raíz del problema. Una aplicación bancaria ejecuta una lista de operaciones diseñada de antemano, como un asistente de IA generativa que escribe un texto que una persona lee antes de decidir. Un agente es otra cosa: un programa en el que un modelo de lenguaje elige el paso siguiente, ve el resultado y vuelve a elegir, con herramientas que actúan sobre el mundo de las acciones (consultar, traspasar, pagar) que gestiona él mismo. Cuando el modelo decide, el sistema itera y, en principio, lo que puede hacer está abierto a todas las opciones; las secuencias de actos posibles no pueden enumerarse antes de ponerlo en marcha. No es una cuestión de prudencia del fabricante, sino de cómo está construido; la informática actual es muy potente y, por tanto, debe ser utilizada con prudencia. Además, el modelo no distingue entre instrucciones y datos: un simple correo que diga "transfiere este importe" puede convertirse en una orden.
Ahí falla la forma en que regulamos la IA. El Reglamento europeo clasifica los sistemas por la finalidad que declara quien los vende y el derecho financiero regula actividades y sujetos autorizados. Ambas cosas tienen que ver con regular un uso. Funcionaban mientras un sistema servía para un solo uso, como un modelo de puntuación de crédito. Un agente rompe esa coincidencia: su uso declarado puede ser "gestionar el ahorro", pero lo que hace lo decide él mismo mientras funciona. Dos agentes, con el mismo uso, pueden tener riesgos opuestos: uno solo mueve dinero entre las cuentas del propio cliente y otro puede pagar a cualquiera. En principio, la máquina que mira el uso no ve la diferencia. Falta el objeto: el sistema y lo que se le permite hacer, algo más complejo de especificar de lo que parece.
El problema no es solo europeo. En EEUU, la única vía que se discute es aprovechar una norma sobre el acceso a los datos financieros, cuya versión de 2024 está bloqueada en los tribunales. China regula los servicios de IA generativa por su contenido y por su proveedor, pero conocer cómo trata a los agentes que actúan dentro de sus grandes plataformas de pago es una incógnita. Son tres sistemas jurídicos distintos, y ninguno ha definido todavía qué se regula cuando un programa actúa sobre una cuenta.
De esa ausencia aparecen los síntomas. Como no existe una autorización más pequeña, el cliente entrega la contraseña, con la que lo concede todo. Como el cliente autorizó el agente y no cada pago, no se sabe si un pago ordenado por un correo malicioso estaba autorizado. Como nadie puede declarar qué puede hacer un agente concreto, la palabra "seguridad" sirve a la vez de razón técnica y de barrera contra la competencia: las tecnológicas indican que un banco puede usarla para bloquear a sus rivales. Y como el supervisor vigila al banco pero no al sistema que mueve los depósitos, es difícil valorar el riesgo de miles de agentes construidos sobre el mismo modelo reaccionando a la vez.
La pugna entre bancos y tecnológicas por el acceso a las cuentas es anterior a la IA, pero la falta de objeto de esta la ha vuelto irresoluble. Mientras la ley no diga qué se autoriza cuando un programa actúa sobre una cuenta, ningún banco puede demostrar que bloquea por seguridad; ninguna plataforma puede demostrar que su agente es inofensivo; y ningún cliente sabe qué ha consentido. El conflicto no se resuelve con argumentos técnicos porque no hay sobre qué aplicarlos. Unos prueban, otros advierten, otros bloquean, y cada entidad decide sola qué puede hacer un sistema sobre una cuenta y quién responde si lo hace mal.
En Europa el momento es especialmente delicado. Las nuevas normas de pagos, la PSD3 y su reglamento, tienen un texto acordado desde abril, en el que, sorprendentemente, mencionan la IA una sola vez, como herramienta de los bancos para detectar el fraude. Quien ordena el pago sigue siendo el titular de la cuenta; es el usuario quien consiente que un programa actúe por él. Incluso la Comisión ha anunciado la retirada de su propuesta sobre el acceso a los datos financieros y trata a la IA como una amenaza de ciberseguridad que viene de fuera, no como un sistema que actúa por cuenta del cliente. Europa está a punto de fijar un marco que no contempla al sistema que los bancos ya están probando, temiendo o bloqueando. Los europeos ya tenemos demasiados problemas para que ahora la IA nos amenace por falta de previsión de nuestros responsables.
En València, Gortázar, con buen criterio, no preguntó si un producto "es IA", sino qué se le puede confiar. La pregunta pública es sobre un protocolo que distingue entre leer y escribir en una cuenta y la respuesta privada es lo que puede hacer un sistema (qué destino, quién se lo ha concedido y quién responde). Esa pregunta debe tener respuesta antes de que el sistema actúe, porque se lee en su configuración. Si el regulador no lo ordena, viviremos con contratos de cada banco, con las condiciones de cada plataforma, y el riesgo lo seguirá soportando quien no se sienta a la mesa, el ciudadano.