Los bancos tienen derecho a evaluarte, y tú, a pedir explicaciones

Desde hace tiempo creo que los debates sobre inteligencia artificial no llegan al público general. Hay muchas razones para ello, pero la fundamental será que probablemente no sepamos enfocar bien la importancia de esta disciplina, ni explicar bien en qué consiste. Por ende, la gente ve lejana su aplicación en sistemas reales que afecten a nuestras vidas.

Sin embargo, la entrada de hoy pretende demostrar que sí, ya hace un tiempo que nos está afectando. ¿En qué? En que ahora, ya no tienes que convencer a tu director del banco de que te mereces un préstamo, sino que tienes que convencer al algoritmo. Y esta afirmación no es mía, sino que es ni más ni menos, que del BBVA, uno de los principales bancos de España y Europa.

Esta imagen se puede ver en esta web del banco, a fecha de redacción del artículo

No lo he visto anunciado de esta manera en más bancos, pero supongo que será una cuestión de invertir más tiempo. Volviendo a la citada web de este banco, en ella se cita qué empresas de IA usan para decidir sobre la concesión de tu préstamo o no. En este caso, son Earnest, Zestfinance, Affirm y Upstart.

Según he leído, las sucursales no evalúan a sus clientes a la hora de solicitar un préstamo, sino que los clientes están permanente evaluados. Es lo que se llama el credit scoring. En otras palabras, el banco internamente maneja cómo de buen cliente eres para ellos desde el minuto 0. 

No obstante, no he logrado encontrar en ningún artículo científico ni en ningún sitio el algoritmo que siguen estas empresas para evaluarte con una nota numérica. Obviamente, se me ocurren cosas de sentido común, como si soy un buen pagador, si ingreso mi nómina en ese banco, de cuánto es esa nómina, si tengo otros productos, etc. Pero luego, si preguntamos un poco más, hay demasiadas lagunas: ¿cuánto importa cada una de las variables (nómina, otros productos)? ¿importa cuántas veces consulto el saldo? ¿importa que detecten que viajo mucho? ¿si detectan que tengo facturas de juegos de azar, es automático denegarme el crédito para mi algoritmo, a pesar de que mi nómina sea de 5 cifras?

Todas estas son preguntas que no se pueden resolver hasta que no se hagan públicos los algoritmos según los cuales nuestro banco nos ponen nota. Por ejemplo, aquí de nuevo el BBVA explica qué es el scoring, pero no cómo lo calculan ellos. Y es llamativa la frase con la que cierran el artículo: 'Y estáte seguro: estás escorinizado'.

Creo que un préstamo sobre nuestra vivienda, coche o emprendimiento de negocio ya es un algoritmo real que nos afecta de lleno en nuestra vida, y sobre el que no sé cómo de conscientes somos.


Querido lector, fíjate otra vez en la imagen que he colgado, por favor. En mi opinión, lo preocupante de este tipo de mensajes es la frivolidad con la que se anuncia, como si el banco escurriera el bulto respecto a la decisión sobre tu préstamo. Es decir, 'tú, cliente, me has pedido un préstamo, no te lo doy, pero no es culpa mía, sino que es de un algoritmo que no es de mi empresa y por lo tanto no tengo ni idea. Solo lo dice la máquina'.

Pues querido cliente, SÍ que tenemos derecho a pedir transparencia respecto a estas decisiones, tanto en Europa como en América. Vayamos primero por el Viejo Continente: el célebre reglamente de protección de datos GDPR que aprobó la UE, establece en su artículo 22 que como ciudadanos europeos tenemos derecho a cualquier algoritmo que decida sobre nosotros con inteligencia artificial, incluso si ese algoritmo está en posesión de una empresa no europea (dediqué una entrada a este artículo).

En el caso de Estados Unidos, tienen el Equal Credit Opportunity Act, una ley redactada en 1974 que da el poder a los ciudadanos de conocer los motivos de la concesión/denegación del crédito.

Es importante defender como ciudadanos este tipo de derechos, de lo contrario, cada vez estaremos más a merced de los bancos. Además, el mayor enemigo de este tipo de empresas hoy en día, son las empresas tecnológicas. PayPal, Google, Amazon, Facebook... están dando pasos para operar como entidades crediticias a escala global, y probablemente ellos tienen muchos más datos sobre nosotros que nuestros bancos. ¿Os imagináis que 'el algoritmo' dictamine que Google no os conceda el crédito porque ha detectado que escribís muchas veces en el email 'pelotazo'? Si lo hace, tenemos derecho a saberlo.

Ayer hablaba con Ekaitz Zarraga sobre inteligencias artificiales. Él afirmaba que el mundo tiene que ser mucho más sencillo para que pueda estar dominado por un algoritmo como AlphaZero, y que hacer el mundo más simple, es más rápido que diseñar una inteligencia artificial al estilo Terminator. El hecho de externalizar las decisiones sobre nuestros préstamos bancarios me parece una bonita metáfora de simplificar este mundo.