Seguro que habéis escuchado la polémica de que Amazon solo contrataba hombres para sus almacenes. O que una herramienta informática del sistema de justicia de EEUU, llamada COMPAS, penalizaba a las minorías étnicas y a los afroamericanos a la hora de dictar sentencias inculpatorias.
Se trata de los algoritmos de decisión automática. El auge silencioso del empleo de reglas, datos y criterios subjetivos de una serie de empresas y gobiernos, para decidir por nosotros en aspectos tan relevantes como:
- ¿Mereces el crédito del banco que has solicitado?
- ¿Según las respuestas del test psicotécnico que has respondido para esa oferta de trabajo, pasas a la siguiente fase de selección de personal?
- ¿Cuánto te cobrará tu seguro de coche, según cómo conduces?
A menudo se oye que estos algoritmos recogen el reflejo mismo de la realidad, y en consecuencia, obran según ese escenario. No es que el algoritmo esté sesgado, sino que la realidad lo está, y no es ideal.
El libro Armas de destrucción matemática (Capitán Swing), es una gran obra bajo la pluma de Cathy O'Neil, quien se dio cuenta del abuso de estas herramientas matemáticas allá por 2011, cuando trabajaba en un fondo de inversión. O'Neil no opina sin criterio, sino que es doctora en matemáticas por la universidad de Harvard. El libro está estructurado en capítulos sueltos, a lo largo de los cuales estudia un tipo de problema dominado por estas cajas negras de matemáticas.
 |
| Imagen del libro (Capitán Swing) |
Uno de sus capítulos se basa en responder a la siguiente pregunta: ¿En qué se basan los actuales algoritmos de predicción de crímenes que emplea la policía de numerosas ciudades en el mundo para decidir qué barrios patrullar con más intensidad? ¿Cuál es la consecuencia en esos barrios?
La respuesta corta es que se mediante estos sistemas digitales, se están perpetuando la presencia policial en barrios humildes, y en esos barrios, los agentes no previenen asesinatos ni atracos, sino que debido a su mayor presencia, arrestan a trapicheros cualquiera de droga, a chavales que molestan y rompen cristales... haciendo que la espiral de malestar contra la policía en esos barrios sea aún mayor, y condenando a sus ciudadanos a repetir su historia de pequeños delitos una y otra vez.
Otra pregunta: ¿qué se logra haciendo que en los rankings de universidades internacionales aparezcan en los primeros lugares siempre las mismas? ¿Qué motivaciones tienen los que no están en esas posiciones para mejorar? ¿Cuál es la evidencia de empleabilidad de esas universidades del podio, frente a otras universidades más económicas, ocultas en la larga lista? ¿Qué universidades recibirán más y menos financiación económica de las instituciones, perpetuando el ranking sin dar opción a plantear una reordenación?
El libro Armas de destrucción matemática me ha parecido una joya maestra, que explica en un lenguaje sencillo y de lectura fácil, que los algoritmos es una herramienta para la perpetuación de desigualdades y estructuras de poder. Creo que es una obra imprescindible para entender un gran debate que como sociedad tendremos en muy poco tiempo.
¡Feliz lectura!
0 comentarios:
Publicar un comentario