No queremos sentirnos en nuestra ciudad como en un capítulo de Black Mirror

Con estas palabras del título, el concejal de Nueva York Ben Kallos, anunció la aplicación de la llamada POST Act (Public Oversight of Surveillance Technology) en la ciudad, de manera que la policía local se verá obligada a dar muchas más explicaciones sobre sus métodos de vigilancia tecnológica

Si la pandemia del COVID-19 ya era el telón de fondo de una novela de George Orwell, a eso podemos añadir la progresiva incorporación de tecnología robótica a los cuerpos y fuerzas de seguridad de multitud de ciudades y países. Pero centrémonos en el caso de Nueva York. En esta ciudad, está atrayendo el debate público el uso del robot de Boston Dynamics, Digidog. Una especie de perro mecánico de 30kg de peso.

La primera vez que apareció este robot fue en octubre de 2020, por unos disparos en Brooklyn. Tras los primeros tiros, la policía liberó al autómata. Y semanas más tarde, en diciembre, volvió a aparecer. En esta ocasión, para llevar comida a unos secuestradores en el barrio de Queens.

Y ha sido en su tercera intervención conocida, cuando se ha levantado bastante revuelo en torno a esta tecnología. Todo comenzó el 23 de febrero del año en curso: en un apartamento de la calle 227, en el barrio del Bronx, dos hombres estaban siendo torturados y permanecían secuestrados por unos delincuentes. Una de las víctimas, logró escapar y en su huida alertó a la policía, quien acudió inmediatamente.

Tras analizar la situación, la policía decidió desplegar el Digidog. El ingenio está equipado con cámaras de visión nocturna, inteligencia artificial y cuenta con la posibilidad de recoger y transmitir mensajes de audio, y según declaró la propia policía, se empleó para despejar y hacer una inspección del escenario: los secuestradores y las víctimas no se encontraban ya en el apartamento. Pero no ha trascendido nada más.

Tras este episodio, una de las congresistas demócratas más activas, Alexandria Ocasio-Cortez, denunció en Twitter el sesgo de barrios de clase baja en los que se estaba patrullando con esta unidad mecánica, y encendió un debate público sobre estas tácticas policiales.

A fecha de la redacción de este artículo, los medios también recogieron una cuarta intervención, en abril de 2021, en la que el robot entró en una casa en la que un hombre mantenía secuestrados a una mujer y a su bebé. La policía declaró que el robot no tuvo una parte activa en esta operación, y que el asaltante fue arrestado.

En las cuatro actuaciones citadas, las explicaciones de los agentes del orden de Nueva York han sido más bien escasas, por lo que el empleo de este tipo de armas presenta serias dudas sobre la proporcionalidad policial, métodos de vigilancia y transparencia que requiere todo tipo de seguridad ciudadana.

El Digidog no representa el primer intento de esta privatización y tecnificación de la vigilancia: la policía de este estado ya contaba con un software de inteligencia artificial para predecir las localizaciones donde se iban a producir un delito, al más puro estilo Minority Report. Sin embargo, tal y como revelan obras como Weapons of Math Destruction, este tipo de algoritmos están entrenados con datos históricos, por lo que una zona conflictiva, para un algoritmo de machine-learning, nunca dejará de serlo.

El cuerpo de policía se escuda alegando que desde 1970 emplean algún tipo de robot que ayudan a salvar vidas, y que el Digidog en cuestión no está armado. Sin embargo, diferentes grupos activistas han demostrado lo fácil que es equiparle con un arma. Es más, este escenario, ya ha acontecido.

Ocurrió en julio de 2016, en Dallas. Un francotirador había matado ya a 5 policías, y herido a otros 7. En estas circunstancias, el cuerpo de seguridad afirma que se vio obligado a enviar a un robot hacia el criminal (en la imagen de la derecha), y cuando éste estuvo lo suficientemente cerca, explotar mediante la carga de C-4 que llevaba y matar al asesino. Se cree que fue la primera víctima mortal de la policía, con estas técnicas. Casualmente, el criminal, Micah Johnson, era de raza negra. En 2018 se dictaminó que los policías fueran absueltos. Y un año antes, en 2015, la policía detuvo a otro francotirador blanco, Dylann Roof, y lo llevó a un Burger King.

¿O por qué no imaginar que un día, a una escena de un francotirador atrincherado en una azotea, la policía no enviase a un robot Packbot, el cual ya se ha empleado en conflictos militares? Packbot tiene la particularidad de detectar la procedencia de los disparos de francotirador, y disparar de manera automática hacia su origen. ¿Se imaginan que un telediario abriera con este titular? ¿Tuvo realmente alguna oportunidad de justicia el francotirador?

La adquisición de estas soluciones tecnológicas están, además, bajo la sombra de la sospecha de corrupción, que no ayuda precisamente a tranquilizar a los ciudadanos. La pasada semana, Jamaal Bowman, congresista de Nueva York, puso en duda la necesidad de inversión en este tipo de iniciativas, antes que en otras más sociales y necesarias. ¿Hay intereses comerciales o de corrupción, aparte de los civiles?

Además de los ejércitos más poderosos del mundo, también los diferentes cuerpos de seguridad del estado están empleando cada vez armas más tecnológicas. Lo correcto es preservar las correctas actuaciones policiales y la seguridad ciudadana, sin incumplir las condiciones de vigilancia masiva, sesgo de datos o desproporcionalidad de la que he hablado antes. El futuro era esto, y si no lo regulamos, será un futuro distópico. 

Este artículo salió originalmente publicado en la revista de investigación, DYNA, a la que recomiendo que echéis un vistazo

 

ACTUALIZACIÓN (10 de mayo):

El 29 de abril de 2021, la policía de NY finalizó unilateralmente el contrato con Boston Dynamics y no usarán más el perro robot. (Fuente, fuente)