Inteligencia artificial, robótica, historia y algo más.

31/1/18

En Naukas: cómo Isaac Newton se arruinó con una burbuja financiera

Aquí os dejo mi última entrada en la plataforma Naukas. Una mezcla de historia y ciencia. ¡Que la disfrutéis!




"Puedo calcular el movimiento de las estrellas, pero no la locura de los hombres". Esta frase se le atribuye a Sir Isaac Newton en un contexto al que no estamos acostumbrados a situar al genio. Aunque no haya dejado evidencia por escrito de esta frase para la historia, dicen que el científico la pronunció tras perder su fortuna en la burbuja de la Compañía de los Mares del Sur, una manía de especulación que arruinó a muchos inversores británicos en 1720, y una de los factores históricos para que la Primera Revolución Industrial ocurriera tal y como hoy la conocemos. Aunque muchos no la conozcan hoy en día, esta compañía ha sido una de las más grandes de la historia, capaz de ridiculizar a los gigantes tecnológicos de hoy en día. 

La Compañía de los Mares del Sur, South Sea Company, nació en 1711, y fue una empresa estatal que creó el gobierno británico bajo la suposición de que la Guerra de Sucesión española, que estaba por finalizar, terminaría con un tratado que permitiría intercambios comerciales con las colonias españolas en el Nuevo Mundo. Las acciones de la firma, con un interés garantizado del 6%, se vendieron muy bien, gracias a la promesa de las inmensas riquezas que albergaba Sudamérica.

Sin embargo, aunque España no salió nada bien parada de esta Guerra, Felipe V nunca tuvo intención de admitir a los ingleses en sus puertos americanos y el Tratado de Utrecht de 1713 fue menos favorable de lo esperado: otorgó a Reino Unido el derecho a ser el único proveedor de esclavos de las colonias de España en América del Sur durante 30 años, pero también imponía una tasa anual sobre estos esclavos importados, y solo le permitía a la empresa enviar un barco al año para comerciar con tres países: México, Chile y Perú. 

Pero como lo que se lleva en las burbujas no son los hechos, sino las especulaciones, las acciones de la empresa y su popularidad no bajaron. Tanto fue así que cuando falleció la reina británica Ana, que tenía el 22,5% de acciones de la compañía, su sucesor, Jorge I, heredó sus acciones y compró más. Y su hijo se convirtió en inversor y gobernador de la compañía. Y con esta fama y respaldo, invirtió en la compañía gran parte de la aristocracia, los políticos, los comerciantes, y hasta sus sirvientes. Hasta Isaac Newton.

Corrían rumores y especulaciones de que la compañía y sus accionistas se harían de oro. Lo cierto es que el Gobierno Británico de la época lo que necesitaba era financiarse, que por algo las guerras cuestan lo que cuestan, y el tipo de interés estaba por las nubes, lo que no facilitaba las cosas. 
 
Esta es la evolución de las acciones de la Compañía y cómo invirtió Newton en ese período:


Tal y como se ve, la Compañía de los Mares del Sur es un gran ejemplo de burbuja especulativa en la historia. Dicen que el ser humano es el único animal que tropieza dos veces en la misma piedra, y hemos podido ver fenómenos especulativos muy similares en nuestros días. Por ejemplo, en 2015, con la bolsa China:



Pero volviendo a la compañía británica, hubo otras celebridades que tuvieron mucho más acierto que Isaac Newton. Entre ellos, el gran compositor anglo-alemán George Handel, quien invirtió en las acciones originales en 1716, pero vendió a tiempo y luego volvió a invertir, en 1723, sólo 3 años después del colapso. En términos actuales, invirtió 24.000€ y a fecha de su fallecimiento, acumulaba casi 2.300.000€.

Sin embargo, tras la quiebra de la compañía, el Banco de Inglaterra había tomado las riendas de la empresa para reflotarla, y sus actividades estaban mucho más supervisadas. ¿No os suena todo esto?
A pesar de que económicamente este acontecimiento fue un completo desastre financiero, sus consecuencias han sido muy importantes hasta nuestros días. Merced a una buena inversión en esta empresa, al comercio de esclavos y a la gran actividad comercial de la época, muchas personas se hicieron muy ricas, y una de ellas fue la que invirtió en 1769-70 en la patente de James Watt que mejoraba el motor de vapor hasta entonces.




Fuentes: 1, 2, 3



Comparte:

6/1/18

Sobre la robotización y la renta básica universal

La renta básica universal (RBU) es un concepto que en mi opinión, cada vez será de más actualidad, y preveo que en unos pocos años se sucederán debates sobre su idoneidad más frecuentemente que ahora. ¿Y qué hago yo hablando de todo esto? Porque en cierta manera, sí que está relacionada con la robotización, la pérdida de empleos, el envejecimiento de la población, y otros factores, y se ha propuesto como posible solución.

Por centrar un poco el tiro, hablaremos de RBU cuando un Estado pague a todos sus cuidadanos una cantidad de dinero mínima. Es importante lo de "a todos", ya que no se distinguirían entre parados, jubilados, trabajadores, inmigrantes, etc. Simplemente, por ser ciudadano de cierto país, tienes una cantidad de dinero todos los meses en tu cuenta. Sin embargo, no sería una cantidad tan grande como para hacerte rico, sino que permitiría cubrir las necesidades básicas indispensables y que te asegurase un techo, comida, etc. A cambio de esta ayuda, desaparecerían todo el resto de ayudas complementarias, como prestación por desempleo, pensiones, ayuda para vivienda, etc. 

Hay bastante polémica sobre la viabilidad de la implementación de esta ayuda. Aquí, un botón: artículo 1, 2, 3, 4 o 5. En España, se estima que la asignación por habitante estaría entre los 400 y 550€. Ya el partido político Podemos ya la propuso para unas recientes elecciones. En general, lo que se propone para financiar esta medida es subir el IRPF, de manera que tendríamos que dar una parte más amplia de nuestro sueldo a impuestos para financiar esta medida. 

Pero no son los únicos que lo proponen: Klaus Schwab, famoso fundador del World Economic Forum y organizador del Foro de Davos, la defiende públicamente, así como Mark Zückerberg, Elon Musk, Jeff Bezos, Bill Gates o Pierre Omidyar. Los argumentos principales que esgrimen son los siguientes:
 
Mucha gente se va a quedar sin interés para el mercado debido a la robotización. A este sector normalmente se le llama white collar, y a pesar de que encuentren nuevos empleos, en un corto plazo de tiempo van a volver a ser sustituidos por máquinas. Por eso, la RBU permitiría que cubriesen sus necesidades mínimas mientras se reciclan para otro tipo de puestos de trabajo.Incluso la RBU podría permitir que mucha más gente se aventurase a crear proyectos empresariales, ya que no se arruinaría.

Por otro lado, la sociedad está envejeciendo y la tasa de natalidad bajando. Por ello, la RBU podría hacer que las familias se decantasen por formar una familia, o que incluso hubiera gente dedicada a cuidar no solo de sus mayores, sino de los mayores de otras familias.

Los motivos estos están mucho más extendidos en el libro The rise of the robots (Martin Ford)

De hecho, ya en marzo de 2016, en Suiza se votó en referéndum si los ciudadanos querían o no una RBU de 2.250€, y básicamente, alegaban que eso permitiria resistir a la robotización del país. Pero el resultado fue mayoritariamente de rechazo, y en consecuencia hubo varias manifestaciones. ¿Si tan buena idea, por qué se rechazó? Según Julen Bollain, los partidos políticos, los mass media y los agentes sociales estaban en contra. Aquí tenéis los resultados por regiones. 



Para implementar un sistema de RBU y saber cómo funcionaria, lo mejor es realizar experimentos previos con una muestra de la población de esa región para ver el comportamiento social, financiero y laboral de las personas, y eso es lo que se ha hecho en el mundo en distintas partes (Uganda, India, Kenya, Canada, y actualmente se lleva a cabo en Finlandia y Estados Unidos). Los componentes culturales, de panorama laboral, de macroeconomía o educación de cada país pueden ser claves para que cambien los resultados del experimento de un sitio a otro. Hay un sector importante de la población que piensa que una RBU haría a sus ciudadanos muy perezosos, y sin ánimo de buscar empleo.

A finales de 2018 se publicarán los primeros resultados de Finlandia, los cuales son muy esperados por tratarse de un país desarrollado (los de Canadá ocurrieron en los 70). Sin embargo, a mi parecer estos resultados no van a ser relevantes. En Finlandia se les ha asignado una ayuda a 2.000 personas desempleadas, y para mí esa es el principal fallo del experimento. Tenéis más información sobre el fallo en cuestión aquí. Eso no es una RBU (Universal), sino que está condicionado a estar desempleado. Eso más bien se denomina una renta garantizada, y de ese tipo de ayudas, la mayoría de países de Europa tienen una amplia experiencia. Lo que diferencia a renta garantizada de universal significa que la recibe cierto sector de la población (normalmente, carente de recursos) y que habitualmente es complementaria a otro tipo de ayudas públicas, como la de la acceso a vivienda.

Es crucial entender qué buscamos con la RBU o cualquier ayuda social. ¿Es igualdad entre la población, o cubrir las necesidades esenciales de todo el mundo, o que los ricos financien a los pobres...? La premisa que se persiga en cada estado definirá por completo otros condicionantes de la ayuda. 

No puedo meterme en demasiados detalles, ya que no es mi ámbito, pero según Joseba Zalakain, director de un centro de estudios sociales en Donostia una RBU es innecesaria si se logra diseñar una renta garantizada que ayude a la población objetivo, o genere el efecto que necesita un país. Como ejemplo, ponía distintos tipos de alternativas a la RBU, como una ayuda desde el nacimiento hasta los 18 años por hijo (como lo hace Alemania), o una garantía legal de condiciones laborales, o ayudas complementarias si no se llega a cierto poder adquisitivo, etc. Por ejemplo, en ayudas por hijo, se llevan realizando en Europa desde hace tiempo, pero en esto conviene que recordemos que lo mejor no suele ser dar la mayor cuantía de ayuda, sino que un país sea capaz de llegar a toda la gente que se ha planteado como objetivo.

Es decir, la RBU actualmente puede parecer la mejor solución para arreglar muchos problemas próximos, pero eso se puede deber simplemente a que todavía no se conocen exactamente los problemas de esta ayuda por no haber sido implementada antes en la mayor parte del mundo. Y no, a pesar de que se esgrima a Thomas Hayek habitualmente como baluarte del liberalismo y defensor de la RBU, no lo fue así.
Comparte:

4/1/18

Charla: una de piratas

El pasado noviembre impartí una pequeña charla enmarcada en la Semana de la Ciencia, y celebrada en Donostia.

En ella, hablé del contexto  social, político y económico que hizo falta para que el éxito del motor de vapor de James Watt y Thomas Newcomen haya sido el que conocemos. No bastan con las ideas felices y las mentes brillantes.

Varias ideas que cuento están basadas en el libro de William Rosen, The most powerful idea in the World.

Gracias a los asistentes y a los responsables del acto.


Julián Estevez Zientziaclub 2017 from UPV/EHU on Vimeo.


Comparte:

31/12/17

2017, un año de lecturas

Este año reconozco que no me ha dado el tiempo para cuidar lo suficiente de este rincón web. Diversas obligaciones y proyectos cada vez me quitan más tiempo, y me asusta la asíntota a la que parece asemejarse el número de artículos a lo largo de los años de vida de este blog. Pero no quería dejar escapar las últimas horas del año sin algo que se ha vuelto un clásico en mi pequeño sitio para expresarme: lista de algunas lecturas de 2017.

1984 (George Orwell)
Un 10 para este libro, y no creo yo que sea el único que se lo daría. Una obra maestra, que describe a la perfección ciertos fenómenos sociales, aun en boga hoy en día. La lectura a mí me resultó muy amena.

Todo es cuestión de química (Deborah García Bello)
Un gran libro de divulgación científica, principalmente química, que además ha sido galardonado con el premio Prismas de divulgación en 2017. Su autora no es precisamente una inexperta en divulgación, tal y como podréis constatar en su blog, y su libro constituyen distintos aspectos fundamentales de química en cada capítulo.
 
Cat's cradle (Kurt Vonnegut)
No me ha gustado nada, y creo que tampoco me ha sido nada fácil su lectura. Lo recomiendo a los que estén muy acostumbrados a leer ciencia-ficción, o por lo menos más que yo. El autor trata de hablar del futuro de la tecnología, religión y ciencia a la par que satiriza la carrera armamentística de los países.

Seveneves (Neal Stepehenson)
No me termina de enganchar este autor. Probablemente mi error es la falta de costumbre en la sci-fi. A pesar de recibir muy buenas críticas, lo dejé a medias en las primeras páginas, ya que la acción transcurría muy lenta, los pasajes eran muy descriptivos y no era mi estilo de lectura. Según el ávido lector, @daniEPAP, no era yo el único que decía eso.

El problema de los 3 cuerpos (Liu Cixin)
Sin embargo, este libro sí que me enganchó y le doy 5 estrellas. A pesar de ser también sci-fi, aquí la narrativa, la historia, los personajes y las historias que contaba sobre la China popular crearon un cóctel que me hizo leer el libro de una patada. Y por supuesto, no tiene desperdicio el problema matemático de los tres cuerpos.

Cruzar el Rubicón (Steven Saylor)
A partir de la mitad de año, me dio por leer distintas partes de historia, y esta constituye la de las romanos. Concretamente, la del final del Imperio Romano. El libro describe esos días a través de un detective de la época que intentará resolver un asesinato.

La tabla de Flandes (Pérez-Reverte)
Pensaba que este libro iba a ser de historia, pero no XD. Aún así, no me arrepentí de haber elegido este ejemplar de Pérez-Reverte, quien a través de un cuadro antiguo en el cual aparece representado una partida de ajedrez, guía a unos personajes en la resolución de un asesinato.

El ojo Desnudo (Antonio Martínez Ron)
Una obra maestra de la divulgación. No hace más que estar atento a todos los trabajos del ínclito @aberron, y las buenas críticas y ventas que está recibiendo este libro. Os transportará en la historia de los antiguos científicos, desde las civilizaciones más antiguas hasta nuestros días, pasando por Newton y Rutherford, en la búsqueda de la observación de eventos, en la mejora de instrumentos ópticos y en el entendimiento del fenómeno de la luz.

The most powerful idea in the World (William Rosen)
Aunque me cueste mucho, este sería el que calificaría como el mejor libro de lectura de este año. William Rosen explica el desarrollo de la Primera Revolución Industrial, basada en el vapor. A lo largo de las páginas, habla de los pequeños desarrollos de científicos previos a Thomas Newcomen, James Watt, Thevithick... que permitieron transformar el mundo. Este libro me permitió entender que una revolución industrial no nace de una idea, o un invento, sino que necesita muchos más factores, como buena economía, sociedad preparada, un gobierno que aproveche la oportunidad, etc.

No culpes al Karma de lo que te pasa por gilipollas (Laura Norton)
Una novela hilarante, llena de humor y acción rápida que cuenta las andanzas y caminos entrecruzados de algunos jóvenes y sus estrambóticas vidas. Se lee muy rápido, y la historia ha sido llevada al cine, si mal no recuerdo.

La era de la revolución (Eric Hobsbawm)
Describe cómo era la sociedad inglesa en tiempos previos a la Primera Revolución Industrial. Este libro pretende complementar al de William Rosen, y se centra más en cómo vivían las personas, el tipo de gobierno y sociedad que había. Es un poco espeso, pero interesante.

Noche de Reyes (Jesús Zamora Bonilla)
Una novela entretenida, se lee muy rápido, y Jesús Zamora Bonilla es un gran contador de historias. Os lo recomiendo ávidamente.

Paul and Jesus, how the apostle transformed christianity (James Tabor)
Es un libro sobre religión, escrito por un acádemico universitario y que recoge las evidencias e historias que explican la expansión del cristianismo, su mensaje y otros acontecimientos a partir de los datos que manejan los expertos. Ha sido, junto al libro de William Rosen, uno de los libros más didácticos de este año.

El sueño del celta (Mario Vargas Llosa)
El celebérrimo escritor recibió un Nobel por esta obra, y me animé a leerle a partir de ella, pero para mí no ha sido todo lo brillante que me esperaba, y se me ha hecho una lectura muy pesada y larga. Me han hablado que La Ciudad y los Perros es una novela más apropiada para aficionarse a este gran escritor.

Patria (Fernando Aramburu)
No podía faltar este bestseller este año, y menos si habla de la historia social de mi tierra (Euskadi). Patria narra las aventuras de dos familias de algún pueblo pequeño de la región, y que tienen que convivir con el miedo del terrorismo de ETA, los clamores populares, la violencia, las amenazas, y cómo todo eso es imposible separarlo de su vida sentimental o social de entonces. Un gran libro y muy humano.

The Euro (Joseph Stiglitz) 
Este libro también me ha resultado muy didáctico. El premio Nobel de Economía, Joseph Stiglitz, describe las hipótesis que se realizaron para formar el euro, y por qué ahora no se están cumpliendo y hay dos Europas a dos velocidades, se dice. Explica de una manera muy accesible qué ha fallado, por qué ha habido tanto paro en unas regiones y otras no, y cuál es la postura de ciertos países frente al futuro de la Unión Europea en materia económica.

Historia de España para escépticos (Juan Eslava Galán)
Si queréis tener pinceladas, narradas de una manera muy entretenida, de todo lo que ha ocurrido importante en España desde la Antigüedad hasta nuestros días, este es vuestro libro. El autor narra los acontecimientos en un ritmo muy rápido y sarcástico en ocasiones. No esperéis aprender o retener en el memoria muchos datos, ya que cada episodio de reyes en España puede durar 3 páginas como mucho, y ha habido unos cuantos. Pero es un buen libro para entender en su conjunto cómo hemos llegado aquí.



¡FELIZ 2018 A TODOS!



Comparte:

26/10/17

Desmontando los grandes hitos de la inteligencia artificial

Es posible que los lectores de este humilde blog hayan leído este mes el nuevo avance de Google: AlphaGo Zero. Este algoritmo es la evolución del programa que se hizo famosa por ganar en 2016 en el juego Go a campeones mundiales. Básicamente, los titulares que me he encontrado son poco sugerentes de la realidad, o tientan a crear cierto alarmismo en torno a esta disciplina.






Y así en más sitios web. 

¿Qué se ha conseguido en la realidad? Las versiones previa de AlphaGo, denominadas AlphaGo Master y AlphaGo Lee, aprendían a jugar a Go observando jugar a grandes jugadores profesionales y a amateurs. Ahora, en octubre 2017, el paso que se ha dado es que AlphaGo Zero no necesita ver esas partidas para aprender, sino que haciendo él mismo movimientos aleatorios, termina descubriendo cuál es la mejor estrategia para ganar un juego bajo una gran abánico de posibilidades y situaciones de partida.

Es decir, la grabación de los datos hasta ahora la hacían unos humanos, y ahora simplemente se ha demostrado que no hace falta ese input, sino que con redes neuronales suficientemente grandes, AlphaGo puede jugar 30 millones de partida contra sí mismo y descubrir cuáles son las mejores jugadas. Para esto, se emplea el aprendizaje por refuerzo, donde el refuerzo positivo lo dan las estrategias de Go que llevan a la victoria. 

Es decir, a pesar de que a este acontecimiento se le ha dado más bombo y platillo del que yo hubiera atribuido, AlphaGo Zero no es más que el mismo programa anterior, pero con mayor potencia de cálculo. El artículo de @emulenews al respecto lo deja también bastante claro.

Y me gustaría llamar la atención sobre estos avances que se anuncian con más grandilocuencia de lo que realmente aportan. Desde hace décadas, los algoritmos de la inteligencia artificial no han variado mucho. Fue el gran Geoffrey Hinton en 1986 cuando desarrolló el gran avance para el aprendizaje profundo

Los algoritmos que Google o Facebook emplean ahora tienen su base ahí. Son eso, algortimos, y consiguen victorias aparentemente más importantes, entre otras cosas porque hay más investigadores que emplean deep learning y porque ha mejorado muchísimo la capacidad de computación de las máquinas.

Los algoritmos actuales manejan datos, y dicho rápido y mal, da lo mismo que los datos los obtenga viendo a humanos jugar partidas, que probando a hacer movimientos por sí mismo. Además, muchos de los pasos que se dan son por prueba y error: tienes unos datos, y pruebas un algoritmo. ¿No funciona? Prueba con otro algoritmo. Y así, hasta que tengas un titular de periódico.

¿Otro ejemplo? Este: la IA aprende a distinguir voces dentro de una conversación. De nuevo, alguien puede pensar que la IA es como un bebé, que a medida que desarrolla sus sentidos, entiende a sus dos padres, aunque le hablen a la vez haciéndole carantoñas. Y no, no se parece en nada a esto. 

Imaginaos que tenéis un archivo de audio lo suficientemente grande: aplicando distintos filtros y búsqueda de patrones (aislar tonos, juntar timbres, un poco de procesamiento de lenguaje natural...) una empresa con suficientes recursos sería capaz de conseguirlo con suficiente tiempo.

Todavía tiene que avanzar bastante la parte matemática de la inteligencia artificial para lograr los siguientes grandes hitos. Y resolver esa parte matemática, implica resolver cuestiones como las que planteé aquí. Hasta entonces, y quizás más tarde, podéis estar seguros de que no tendremos nada medio parecido a Terminator.


Comparte:

17/10/17

Evidencias del impacto de la Inteligencia Artificial en la sociedad

El pasado julio, el Parlamento Británico convocó a cualquier persona a aportar su opinión sobre evidencias del impacto de la inteligencia artificial en la sociedad, y sus directrices de regulación. Esta información era recibida por el comité científico sobre IA de dicha institución para su lectura y análisis. Aquí podéis encontrar la convocatoria correspondiente.

Las public calls de este tipo son habituales, y pueden ser de distintas disciplinas y aspectos de la sociedad, tal y como se demuestra en la lista de las últimas convocatorias.


Para el caso que nos ocupa, estas son las propuestas aceptadas, y en esta ocasión, la mía también ha sido admitida. Y es su contenido lo que trataré brevemente en este artículo.





Básicamente, enfaticé mi preocupación y necesidad de regulación hacia tres aspectos muy concretos:

1) La caja negra de los algoritmos y el uso de datos para uso discriminatorio.

2) El panóptico digital.

3) Los hackeos sobre sistemas inteligentes.


1) La caja negra de los algoritmos y el uso de datos para uso discriminatorio

Si pensamos en el momento en el que somos candidatos para una oferta de trabajo, está socialmente aceptado que el responsable de esa empresa nos diga que no somos aptos, sin profundizar demasiado en los detalles que le han llevado a esa decisión. O cuando solicitamos un préstamo a un banco, y nos lo deniegan. Recibimos contestaciones del tipo "el equipo de riesgos no lo ha considerado oportuno", sin entrar en detalle de qué es lo que exactamente ha declinado la balanza en nuestra contra. 

No es aceptable este nivel de ambigüedad en los sistemas inteligentes que pasen a formar parte de nuestras vidas. Si fuera un robot el que elige el ganador en el proceso de selección de un puesto de trabajo, es altamente exigible conocer en qué aspectos se ha fijado, y lo mismo si decidiera sobre nuestro préstamo financiero. En el caso de no ser transparente en la política de decisión de estos sistemas, corremos el riesgo como sociedad de ver atropellados nuestros derechos más básicos, y ser rechazados por nuestra orientación sexual, procedencia, trabajo, u otro aspecto. El término blackbox no es una excusa para todo para no revelar el funcionamiento más general de una máquina que toma decisiones.

Si un mismo sistema inteligente dice que no podemos optar a un préstamo en un banco X, ¿cómo sabemos que tampoco nos permitirá obtenerlo en el banco Y?

Además, este tipo de máquinas inteligentes pueden llegar a hacer diagnósticos médicos, recomendar tratamientos o conducir por nosotros, y por lo tanto, una transparencia sobre los criterios que usa es imprescindible.

El secreto industrial lleva existiendo desde hace mucho tiempo entre nosotros, y a pesar de que hay máquinas totalmente integradas en nuestra vida, como aviones y coches, que no revelan totalmente todo el código que emplean (véase, Dieselgate) sí que hay tests en la industria perfectamente estandarizados para comprobar cómo funcionan esas máquinas bajo una gran variedad de situaciones de funcionamiento. Algo así podría ser aplicable y exigible legalmente para sistemas inteligentes que tengan poder sobre nuestra vida. En este caso, estoy pensando que el algoritmo de recomendación de canciones de Spotify no toma este tipo de decisiones transcendentales, por ejemplo.


2) El panóptico digital
Creo que este aspecto es, de los tres que presenté, el menos tratado en la bibliografía y opinión pública. El panóptico es una idea creada por el filósofo Jeremy Bentham al final del siglo XVIII. El concepto intenta explicar cómo se altera el comportamiento de una sociedad o un colectivo cuando se siente observado. Imaginaos que tuvieráis cámaras en vuestra casa. ¿Os comportaríais de la misma manera?

Los sistemas de control de producción en fábricas son bastante recientes. Se encargan de detectar ritmo de producción, piezas defectuosas, tiempos muertos, etc. Actualmente se habla de fábricas inteligentes, donde muchos brazos robóticos y sensores controlan la producción de toda la fábrica. Ya no hace falta un supervisor que vigile si un equipo de trabajadores se emplea a fondo o no. Basta con sensores, y con aumentar el ritmo al que trabajan los robots y distintos automatismos, tal y como se refleja en la recomendable película Tiempos modernos

Me parece que la inteligencia artificial da un gran salto en esta vigilancia, ya que pone a disposición de los responsables una serie de herramientas y tratamiento de datos masivos muy avanzado. Ahora parece mucho más fácil detectar ineficiencias de trabajadores, o quién es el "manazas" que más piezas estropea, o dónde exactamente se pierde ritmo de producción. 

El panóptico de Bentham defendía que este tipo de vigilancia lleva a una especie de alienación de la gente, y es lo que habría que tener en cuenta para la incorporación de la IA a las fábricas. Creo que en lugar de emplear la información del tratamiento de datos para expulsar a los empleados, se puede usar e incentivar una formación más personalizada, y una adaptación de la disciplina de Prevención de Riesgos Laborales a este nuevo marco tecnológico.


3) Los hackeos sobre sistemas inteligentes
Este punto está relacionado con el primero de mi exposición. El aprendizaje máquina adverso (adversarial machine learning) es una rama de la ciberseguridad que estudia la alteración de señales para el engaño de sistemas inteligentes. Estas señales pueden ser imágenes, texto o audio, y la existencia de este fenómeno fue descubierto a finales de 2010. 

Actualmente, se conocen distintas técnicas de manipulación de imágenes que engañan a cámaras o sistemas inteligentes. Por ejemplo, que alguien con unas gafas de sol con lentes coloreadas no sea identificado, o la alteración pequeña de señales de tráfico para que el coche autónomo no reconozca o confunda la indicación de tráfico. Lo preocupante es que muchos de estos cambios visuales no son percibibles por el ojo humano. En este artículo se muestran algunas alteraciones que cambian totalmente la interpretación de las máquinas.


¿Qué os parecen estas amenazas? ¿Añadiríais alguna más?
Comparte:

Nos leemos:

descripción descripción descripción

Recibe las entradas por correo

En mi mesilla

Blog Archive

Licencia Creative Commons