¿Cuántas vidas se pierden por el principio de precaución en la ciencia?

Por difícil que parezca, es extremadamente difícil argumentar la correcta toma de decisiones de cara a futuro. Tomo hoy una decisión, ya que en caso de no hacerla, preveo que tendré un problema en el futuro.

En efecto, en el mejor de los casos, esa dificultad no acontecerá gracias a nuestra previsión. Por esa misma razón, será más costoso convencer a cualquier observador que la ausencia de problemas es gracias a nuestro buen hacer. Una suerte de efecto Edipo, tal y como lo definió Karl Popper en su obra La miseria del historicismo, por el que el Oráculo jugaba un papel determinante en la secuencia de eventos que llevaban a la realización de la profecía.

En esas estamos, cuando desde el instituto Future of Life se publicó hace unos días una carta abierta, pidiendo que se paralizasen los grandes experimentos de inteligencia artificial con grandes modelos de lenguaje (LLM, Large Language Models) durante al menos 6 meses, e impedir que se creen soluciones más poderosas que GPT-4. En los instantes en los que estoy escribiendo estas líneas, el total de firmantes de este documento es de 18.980 personas. Elon Musk, un habitual en estos debates tecnológicos, también apoyó tal iniciativa.

No es objeto de este artículo orientar al lector a un lado u otro. Varias personalidades y expertos en la materia ya se han posicionado, y siendo sinceros, no creo que esta iniciativa cambie nada, al igual que ha ocurrido con tantas otras cosas en inteligencia artificial. Es un ejemplo perfecto del dilema del prisionero, en el que el único resultado positivo para ambos presos es que colaboren (sin conocer lo que está haciendo su compañero de fechorías) y se nieguen a declarar.

¿Cómo se puede asegurar que Elon Musk no aprovecharía una tregua tecnológica temporal para acelerar él sus propios desarrollos y poner su propio sistema de LLM al día? Parece que las empresas más poderosas de internet, en su legítima búsqueda de maximizar beneficios, se han volcado en una carrera alocada sobre lanzar cada vez productos más novedosos, sin pararse a pensar en las consecuencias que esto podría desencadenar, o tener una correcta regulación.

Muchos científicos argumentan que el ritmo de aparición de estas herramientas no permite a la sociedad que se adapte lo suficientemente rápido para que no sufra, como podría ser en el tejido laboral sujeto a ser sustituido por esta tecnología. John Rawls decía que la desigualdad puede justificarse si todos en la sociedad se benefician de ella. ¿Quién pondrá el cascabel al gato y dirá a miles de personas que da igual lo que se reciclen profesionalmente, que siempre irán un paso por detrás de una máquina? Tengo claro que la robotización es imparable, y que sustituirá ciertos puestos de trabajo. Pero quizás, la peor decisión para nuestro futuro sea no robotizar.

Hagamos un ejercicio de lógica, y sustituyamos por un momento el objeto «detener los experimentos de inteligencia artificial» por «detener los experimentos de terapia genética», o «detener los experimentos de nuevas fuentes de energía». ¿Qué diríamos?

Un polémico artículo científico de 2019 concluyó que el gobierno japonés provocó muchas más muertes entre su población al abandonar la central de Fukushima, debido al aumento de costes de energía que ocurrieron posteriormente y las temperaturas más frías. Un exceso del principio de precaución.

En 2017, el think tank Mercatus Center publicó otro estudio titulado Death by Regulation: How Regulations Can Increase Mortality Risk, según el cual la sobrerregulación puede aumentar la tasa de fallecidos en cualquier tipo de actividad o patología, en lugar de reducirla.

Tal y como intento demostrar, la aparición de nuevas tecnologías y la actitud de la sociedad ante los cambios que provoca no es un tema menor. Es llamativo que en inglés exista una diferencia de significado entre safety y security. La historia recoge que el ser humano se alarmó con el auge del coche, del telégrafo, de la locomotora de vapor, de los aviones, e incluso del telégrafo.

Y en el caso de la nueva tecnología de LLMs, puede que nos encontremos ante la misma situación. O quizás ésta sea una nueva disyuntiva. Quizás la humanidad necesite acelerar su adaptación a estas tecnologías o se deba tomar una decisión colectiva para frenar el desarrollo de estas tecnologías. E incluso haciendo ambas cosas, quizás no sea suficiente.

En todo caso, acertar respecto a las decisiones a tomar de cara al futuro, y poder defenderlo, no será fácil.

Este artículo se publicó originalmente en Naukas.com, blog de imprescindible lectura

Leer más

¿Por qué tardaron tanto en extenderse las maletas con ruedas?

Os recomiendo encarecidamente leer los libros "Claves de la innovación" (Matt Ridley, autor del famoso blog The Rational Optimist) y "Innovation and its enemies", de Calestous Juma. Una delicia de libro, pero mucho más desconocido.

En estas obras no hace falta que os descubra lo que se cuenta, y a mí me sigue pareciendo fascinante el caldo de cultivo que tiene que acontecer para que la innovación o un invento tenga éxito. La emprendeduría y las ideas maravillosas no son fáciles, pero llevarlas a la práctica y que tengan éxito comercial, ni lo imagino.

En el primero de los citados libros, una historia que disfruté fue, por fin, una respuesta a la pregunta de por qué esperamos tanto por la maleta con ruedas, inventada por Bernard Sadow en 1970. A la gente le encanta mencionar este ejemplo en el contexto de "ideas detrás de su tiempo". Yo mismo recuerdo viajar a Madrid con pesadas maletas de cuero marron sin ruedas, y que en mi familia concebimos las maletas con ruedas como una auténtica revolución y un producto de lujo a nuestros humildes viajes.
Resulta que la necesidad de ruedas en las maletas estaba lejos de ser obvia:
  

… cuando Sadow llevó su tosco prototipo a los minoristas, uno por uno lo rechazaron. Las objeciones fueron muchas y variadas. ¿Por qué agregar el peso de las ruedas a una maleta cuando podría ponerla en un carrito de equipaje o entregársela a un mozo? ¿Por qué agregar al coste?

Además, como sucede a menudo (¿o siempre?) en la historia de la invención, Sadow no fue el primero; Ridley enumera cinco patentes anteriores que se remontan a 1925.

Entonces, ¿por qué esperamos tanto?    

… lo que parece haber impedido que las maletas con ruedas se hicieran populares fue principalmente la arquitectura de las estaciones y los aeropuertos. Los porteros eran numerosos y dispuestos, especialmente para los ejecutivos. Las plataformas y los vestíbulos eran cortos y estaban cerca de los puntos de entrega donde los automóviles podían subir. Abundaban las escaleras. Los aeropuertos eran pequeños. Viajaban más hombres que mujeres, y les preocupaba no parecer lo suficientemente fuertes para levantar maletas. Las ruedas eran pesadas, se rompían con facilidad y aparentemente tenían voluntad propia. Los reacios fabricantes de maletas pueden haber tardado en darse cuenta, pero no estaban del todo equivocados. La rápida expansión de los viajes aéreos en la década de 1970 y la distancia cada vez mayor que los pasajeros tenían que caminar crearon un punto de inflexión cuando las maletas con ruedas se hicieron realidad.

Lección que me parece acertadísima de cara a todas esos augurios y hype que rodea a todas las herramientas de inteligencia artificial de estos días, y que como he dicho, no tienen por qué tener su mejor baza en el producto.

Leer más

Drones, un aliado bélico inesperado

Lo mismo que la aviación hace más de un siglo, los drones empleados en el conflicto de Ucrania han demostrado que algo está cambiando en el modo de hacer la guerra. Esto planteará nuevos retos técnicos, humanos y una nueva geopolítica que aún está por ver. Las principales potencias militares ya han comenzado a mover sus fichas.

 “¿Tienes algún dron? ¡Dáselo a un piloto experimentado! ¿Sabes pilotarlo tú mismo? Entonces, ¡únete a la patrulla conjunta con unidades de la 112ª Brigada de Defensa de Kiev! ¡Kiev es nuestra casa, y defenderla es una tarea conjunta!”. Con estas palabras, el 24 de febrero de 2022, el ministro de Defensa ucraniano llamó a las armas a la población mediante un singular mensaje de Facebook.

Su llamamiento no cayó en saco roto. Desde ese mismo día, a Ucrania comenzaron a llegar miles drones desde multitud de puntos geográficos, tanto de dentro como de fuera de sus fronteras. Donaciones de empresas, de aficionados, de simpatizantes a la causa… la diferencia era que estos aparatos no constituían per se un arma militar. Eran drones de aficionado, algunos de los cuales cuestan alrededor de 100€ y son adquiribles por cualquiera con un clic.

Parafraseando a Delibes en su obra El camino: «las cosas podían haber sucedido de cualquier otra manera, y sin embargo, sucedieron así». Y las cosas no estarían en el punto de la guerra en el que estamos ahora sin el impacto de estos drones.

Tecnología low-cost al servicio de la guerra

No debería sorprendernos la petición de armamento del gobierno ucraniano. A fin de cuentas, aunque el conflicto entre Ucrania y Rusia lleve acaparando titulares más de un año, la guerra se inició mucho antes, en 2014. Ya en aquellos primeros meses de guerra, comenzaron a aparecer estas pequeñas máquinas voladoras. En ausencia de una industria de defensa potente, el país de Zelenski pronto vio que su mayor baza era el aprovechamiento de sus pocos recursos económicos, y sobre todo, el de sus mentes.

Aquella frase del ministro ucraniano Oleksii Réznikov sirvió para que grupos de voluntarios, entre los cuales figuraban ingenieros, soldadores, economistas, torneros y cualquier persona capaz de arrimar un hombro, se organizaran para el despliegue de estructuras de ciberdefensa y el montaje de drones. Y estos drones, también llamados UAVs, eran construidos, manipulados y arreglados por estos mismos voluntarios. Entre esos grupos de voluntarios, destacan organizaciones como Aerorozvidka, Army SOS y Zgraya. A falta de que en 2014 Ucrania tuviera un UAV bélico moderno, lo más fácil era emplear y adaptar drones económicos de aficionado. Tecnología low-cost al servicio de la guerra.

Probablemente, nadie se esperase un escenario como el que se ha vivido en los primeros meses del conflicto y el impacto que los drones han tenido sobre él. Las funciones principales que han desempeñado estos robots aéreos son las siguientes:

1. Exploración y reconocimiento del terreno.

2. Ayuda indispensable para la mayor eficacia de la artillería, ya que los drones adelantados y desde el cielo, informaban a las tropas de tierra sobre cómo mejorar la puntería de los cañones y aumentar los daños.
3. Lanzamientos de pequeñas granadas y otros explosivos. A menudo, los UAVs son modificados y se les añaden pequeños accesorios realizados con impresoras 3D para lograr, por ejemplo, que la granada que portan caiga verticalmente.
4. Desgaste anímico de las tropas enemigas e imposibilidad de descanso. Con tantos UAVs en los cielos y su zumbido eléctrico característico, si estas máquinas sobrevuelan el campamento enemigo mientras los soldados descansan o duermen, provoca una alarma permanente y una crispación de nervios en las tropas, que lleva a una desmoralización e imposibilidad de descanso. Algunos drones pueden ser solo de observación y reconocimiento, pero otros drones pueden ser el último objeto que oigan.
5. Realización de campañas de marketing y vídeos en redes sociales.

No es de extrañar que el bando ruso optase por enfrentar fuego con fuego y que también comenzase a emplear UAVs entre sus armas.

Un prestigioso grupo de expertos británicos en defensa, RUSI (Royal United Services Institute), publicó en noviembre del pasado año un informe con las conclusiones preliminares del conflicto entre Rusia y Ucrania, abarcando los seis primeros meses de guerra. A lo largo de sus líneas llama la atención la gran presencia de estos UAVs no militares. No son un arma infalible, se destruyeron el 90% de ellos (de ambos ejércitos) y se calcula que cada multirrotor realiza una media de tres vuelos. Un uso fugaz, un consumible, a fin de cuentas. Se han empleado miles y miles. Algunos días, el ejército ucraniano ha perdido hasta 100 de estos aparatos y ojo que algunos de estos modelos, como el drone DJI Mavic, cuesta más de 1.000€. Ya avanzó Napoleón que, para hacer una guerra, hacen falta tres cosas: dinero, dinero y dinero.

Pero no pensemos que los drones anuncian el ocaso de los tanques, ni mucho menos. El ejército ruso también implementó su estrategia de diseño y construcción de drones. Aunque los vídeos que nos han llegado sobre estos drones caídos o derribados, han mostrado que la drónica rusa tenía bastantes carencias y “chapuzas” en su diseño. De hecho, han tenido que recurrir a tecnología de los Pasdarán iraníes, un grupo paramilitar que protege al régimen y su revolución y controlan la industria de drones en el país.

El conflicto no solo se ha nutrido de UAVs civiles, sino también de militares. La diferencia entre ambos es más que evidente, empezando por su coste y terminando por el resto de capacidades técnicas, como autonomía, capacidad de carga o seguridad de comunicaciones. La guerra no es una realidad estática. Las estrategias, las armas y los escenarios cambian continuamente. Prueba, error, prueba, error. Por cada arma aérea que desarrollaba una nación, la otra diseñaba algún sistema defensivo. Entonces, la primera actualizaba el arma para eludir esa defensa. Y así, hasta que los dos bandos firmen la paz. E iterar en la fabricación de estas obras de ingeniería tan rápido en plena guerra no es nada sencillo.

Sin embargo, entre los UAVs militares más mediáticos no han estado estas nuevas armas, sino los TB2 Bayraktar turcos, que ya cuentan con unos años de antigüedad y fueron adquiridos por el ejército ucraniano. Estas naves cosecharon tal éxito en los primeros meses de la guerra que hasta crearon una canción sobre ellas, que obviamente inmediatamente se viralizó.

Inteligencia artificial. Probablemente mucho ruido y pocas nueces

En 2021, cientos de titulares declararon que un dron había asesinado mediante inteligencia artificial, de manera totalmente autónoma, a una víctima por primera vez. La identificó, seleccionó y asesinó fuera de la cadena de mando. Es decir, sin ningún tipo de intervención humana.

Sin embargo, la aclaración inmediata de la empresa fabricante de estos UAVs, alegando que era imposible tal posibilidad, no llegó tan lejos mediáticamente. Según el experto español en tecnología militar, Juan Luis Chulilla, no es nada extraño que los ejércitos exageren y mientan sobre sus capacidades.

Y es que el uso militar de la inteligencia artificial (IA) en los robots tiene otros objetivos más prioritarios. Uno de ellos es dotar a las máquinas, tanto terrestres como aéreas, de la mayor navegación autónoma posible, algo a lo que también se aspira en la robótica civil: detección automática de obstáculos mediante visión artificial o consumo optimizado de la batería, decidiendo el robot por sí mismo según lo que ve, cuándo es momento de exprimir todo su potencial y cuándo no.

Lo más probable es que ninguno de los robots y drones empleados en el conflicto ucraniano haya estado equipado con inteligencia artificial. Además, el nivel de secretismo que existe en ambos bandos no permite realizar demasiadas afirmaciones contundentes. Siendo la navegación autónoma un objetivo técnico muy complejo, una cosa es realizarlo en ciudades tranquilas y despejadas y otra rodeado de fuego enemigo.

Actualmente, en la Organización de las Naciones Unidas se está debatiendo la regulación sobre las armas autónomas. Pero en el terreno legal, ¿qué es exactamente un arma autónoma? (Taddeo, 2022) ¿Podríamos considerar a un misil anti-aéreo de defensa un arma autónoma, que se dispara y dirige hacia el blanco que ha decidido por sí mismo? Este tipo de armas son conocidas como Sense and React to Military Objects (SARMO).

Las principales potencias militares del globo se oponen a la prohibición de las armas autónomas, como es el caso de Estados Unidos o China, y defienden una flexibilización de las normas para poder desarrollar esta tecnología. La automatización de la guerra parece imparable, y las principales potencias ven en su empleo una ventaja táctica, una salvaguardia para las vidas de sus soldados –lo que ayuda mucho de cara a la opinión pública- y una reducción de costes muy efectiva respecto al equipamiento de un soldado y, más allá, respecto a los costes de manutención de un soldado herido.

Probablemente, la próxima utopía militar consista en emplear robots en enjambre, capaces de desarrollar una inteligencia emergente colectiva. Androides soldados que sean capaces de superar obstáculos, tomar decisiones, razonar o explorar territorio, sin necesidad de una intervención humana directa. El desarrollo de una inteligencia colectiva emergente que permita que, cuando un grupo de robots tenga que explorar un terreno, y uno de ellos sea derribado, decidan entre ellos el nuevo reparto de las zonas a explorar, siendo un miembro menos. Una toma de decisión que ha sido programada por humanos, pero que no puedan predecir cuál va a ser. Ese desarrollo de inteligencia colectiva será un paso adelante en la IA tan relevante, como los diferentes softwares de chat y generación de imágenes que estamos viendo estos días.

El enfrentamiento de la sociedad ante estas tecnologías está perfectamente recogido en el dilema de Collingridge: «cuando el cambio es fácil, su necesidad no puede ser anticipada; cuando la necesidad de cambio es aparente, el cambio ya se ha vuelto caro, difícil y laborioso»

Este artículo se publicó por primera vez en la Revista Telos, de Fundación Telefónica. Un medio ente recomendable.

Leer más

Tinder entra en campaña electoral

Tras unos ciertos ciclos solares y voluntades oscuras de nuestros políticos, nos aproximamos de nuevo a unas nuevas elecciones, en este caso municipales y autonómicas. Sobra sabiduría a los lectores de este blog para adivinar que en estos días no pararán de haber promesas, debates, discusiones, insultos y demás sarta de productos mediáticos, antes de las elecciones. A veces no se sabe si un político dice algo porque realmente lo crea, o porque simplemente, es una descabellada, pero logra marcar el debate público alrededor de esa propuesta.

Hace un par de días, Mónica García, la candidata de Mas Madrid a la Comunidad de Madrid, se pronunció en algo que claramente atrae miradas y titulares: la aplicación de citas Tinder.

Decía Francisco Quevedo que nadie ofrece tanto como el que no va a cumplir. No son pocos los medios de comunicación que han entrado al trapo, y se han reído de la ocurrencia de esta política, tanto medios a derechas como a izquierdas. Y como un servidor es un habitual en charlas sobre amor digital y Tinder, no podía dejar pasar esta oportunidad.

Según la obra en favor del feminismo El fin del amor, de Tamara Tenenbaum:

...es uno de los logros más importantes de la revolución sexual: coger con alguien ya no quiere decir nada, ni bueno ni malo. No suponen un compromiso, ni un lazo, aunque no lo excluye. Una noche de buen sexo puede ser el comienzo de algo

Tinder no funciona como lo hace porque en la aplicación haya gente peligrosa, obscena del sexo, o potencialmente acosadora sexual. No. También hay bellísimas personas. Pero Tinder, o cualquier aplicación que se invente para hacer match, o la magia de cupido, está más influenciado por factores como:

1- desequilibrio de cantidad de hombres y mujeres. Lo ideal es 50%-50%.

2- la posibilidad de deslizar infinitamente

3- el puntuaje automático de las imágenes mediante inteligencia artificial

4- la gamificación que hay cuando surge un match entre dos personas, animando a que se obtengan más matches, y no hablar con más gente.

Esto lo expliqué en una serie de artículos, que es de lo que más ha gustado hasta ahora del blog, humildemente:

 1- Apps de citas online (I): el problema matemático
2- Apps de citas online (II): los patrones oscuros
3- Apps de citas online (III): los usuarios como mercado y un poco de teoría de juegos 
4- Apps de citas online (IV): puntuación de usuarios y subasta de datos online

¿Podría existir un Tinder en texto plano, sin efectos visuales, premios, corazoncitos... algo tan soso como el teletexto de la TV? En mi opinión, posiblemente pudo haber existido, pero ahora se me antoja muy difícil.

Además, parece que esta política vaya a favor de un tipo de mojigatería, o parece que tienda a sugerir que el sexo solo será consentido en una relación muy estable. Estar en Tinder no implica dar ningún tipo de consentimiento sexual, ni siquiera coincidir en la calle físicamente.

Sin embargo, casi nadie habla de uno de los grandes problemas a los que llevan las apps de citas, y es a la pérdida total de autoestima, depresiones e incluso suicidios. Cifras que probablente nunca sabremos.

Por cierto, recordad la máxima de que Tinder no quiere que encuentres pareja. Tinder quiere que tindees®. Y en estas estamos, que esta omnipresente aplicación está perdiendo usuarios. Parece que los usuarios más jóvenes, los centenials (o como se llamen los de 18 a 24 años, que me pierdo) están yéndose a Bumble y Hinge, que según ellos, ofrece matches y gente más seria, más estabilidad en las citas, y no tanta morralla. Es decir, ya no buscan el aquí te pillo y aquí te mato, sino que quieren una relación menos volátil y duradera. Tan grave es el panorama que se le pinta a la app de corazones, que ha comenzado a emitir anuncios en la tele.

Y eso está haciendo que baje el precio de la acción de la empresa matriz, Match.com. Y este valor de Bolsa es en definitiva, lo que tanto Tinder, como Match, como cualquier otra gran aplicación comercial quieren que suba, no el número de matrimonios que generen sus aplicaciones.

Como vemos, los usuarios que buscan pareja son suficientemente inteligentes para elegir a qué app irse si una no les gusta. Regular cualquier app es un absurdo, ya que hay cientos de alternativas a Tinder, y si ha tenido tanto éxito, es por algo. Si hay cualquier tipo de acoso digital, ya hay vías legales adecuadas para tramitarlas. Así que veremos en qué queda esta promesa o globo sonda electoral.

Leer más