El primer aerotaxi certificado del mundo es el eHang EH216-S

Ya por la feria CES 2016, en Las Vegas, eHang asombró al mundo con un concepto de octacóptero autónomo para el transporte de pasajeros. Siete años más tarde, este concepto se ha transformado en el primer taxi aéreo eléctrico de despegue y aterrizaje vertical (eVTOL) totalmente certificado del mundo, aprobado para uso comercial desde octubre de 2023.

El regulador chino aceptó formalmente la solicitud de certificación de tipo de EHang para su taxi aéreo de pasajeros en 2021. Desde entonces, la empresa ha trabajado para completar una serie de objetivos -adaptados a las características específicas de la aeronave- establecidos por el regulador. En febrero de 2022, la CAAC publicó las "condiciones especiales" para el EH216-S, proporcionando una base de cumplimiento para esos objetivos.

Esta aeronave autónoma puede transportar a dos pasajeros hasta 30km entre recargas de batería, alcanzando una velocidad máxima de aproximadamente 130km/h.

Aunque sus especificaciones puedan parecer modestas comparadas con las de competidores como el Joby S4, con una autonomía de 320 km y una velocidad de 320 km/h, el eHang 216 es idóneo para trayectos urbanos cortos y vuelos turísticos panorámicos (ya comentamos en este blog que el modelo de negocio de las empresas eVTOL no es el mismo siempre). La certificación para este tipo de naves aéreas, expedida por la Autoridad de Aviación Civil china, pone de relieve el compromiso de China de liderar el sector de los eVTOL comerciales. Una pequeña carrera espacial moderna. Es importante señalar que esta certificación sólo es aplicable en China, ya que no se espera que la FAA estadounidense y la EASA europea concedan certificaciones eVTOL hasta al menos 2024, siendo más probable en 2025 o 2026.

Además, la plena autonomía del eHang 216 puede retrasar aún más las certificaciones en estos mercados, donde la mayoría de los demás taxis aéreos que aspiran a la certificación llevarán pilotos a bordo. La descripción del eHang 216 como "vehículo aéreo no tripulado (UAV) de transporte de pasajeros" añade un toque divertido a su ya notable trayectoria.

En algunos aspectos, esta certificación no supone un cambio significativo; eHang lleva varios años realizando "vuelos de demostración" con pasajeros por toda China, un hito que muchas compañías occidentales de taxis aéreos eVTOL, con Volocopter como rara excepción, aún no han logrado. Joby Aviation acaba de celebrar sus primeros vuelos de prueba con un piloto a bordo.

La principal transformación reside en el hecho de que eHang está ahora autorizada a cobrar a los pasajeros por sus servicios, lo que allana el camino para que la empresa amplíe sus operaciones comerciales, de fabricación y de transporte a mayor escala.

La rápida introducción de esta tecnología punta en el mercado chino es discutible: algunos la consideran una medida arriesgada que podría poner en peligro vidas humanas. Sin embargo, el estado del EH216 ya ha realizado más de 40.000 vuelos de prueba, cumpliendo todos los requisitos reglamentarios de seguridad, incluidas demostraciones públicas con pasajeros a bordo. Aun así, hay un recelo innegable: en caso de accidente grave del avión eHang, el incidente podría no llegar a conocimiento público. Dado el panorama de los medios de comunicación en China, donde predomina el control estatal, los incidentes considerados potencialmente embarazosos podrían quedar sin informar. Incluso se especula con la posibilidad de que se hayan producido varios accidentes de eHang sin que se hayan hecho públicos.

Los eVTOL utilizan propulsión distribuida a través de varios motores, y además, el sistema cuenta con mucha redundancia. En caso de avería del motor del EH216, otros 15 están preparados para compensar, garantizando la finalización del vuelo de forma segura.

Desde esta perspectiva, el enfoque acelerado de China puede parecer sensato, sugiriendo que el resto del mundo podría estar enredándose innecesariamente en trámites burocráticos. Pero, como suele decirse, cada subcláusula de cada norma del reglamento de aviación se ha escrito con sangre.

A partir de ahora, EHang intensificará la fabricación en su planta de producción de Yunfu, en la provincia china de Guangdong. Sin embargo, hace unos días una empresa de ventas en corto, Hindenburg Research, publicó un detallado informe de 8.000 palabras sobre EHang que aportaba más pruebas para estas dudas. El informe detallaba que gran parte de la cartera de pedidos de más de 1.300 unidades de EHang parecía "casi todo humo" y que las primeras ventas "activan todas las alarmas de unos ingresos falsos".

Leer más

Tesla gana el primer juicio de una víctima mortal de tráfico y el Autopilot

En una decisión histórica, el pasado 31 de octubre un jurado de California falló a favor de Tesla en una demanda derivada de un accidente de 2019 que involucró a un Model 3 que funcionaba con su sistema Autopilot. El demandante, la familia del conductor fallecido, Micah Lee, alegó que el diseño defectuoso del Autopilot provocó que el vehículo se saliera de la carretera, chocando con una palmera y provocando la muerte de Lee.

Tesla, por su lado, siempre sostuvo que el accidente fue atribuible a un error humano, enfatizando el consumo de alcohol informado por Lee antes del incidente. Además, Tesla incluso cuestionó si el Autopilot estaba activado en el momento del accidente.

Después de deliberar, el jurado se puso del lado de Tesla y concluyó en un veredicto de 9 a 3 que la compañía no era responsable del trágico accidente. Este fallo marca la segunda victoria de Tesla en una serie de casos relacionados con accidentes relacionados con el "piloto automático".

Estos veredictos aclaran el debate legal sobre las responsabilidades de los fabricantes de automóviles en relación a los accidentes y los sistemas de conducción autónoma. A medida que la tecnología ADAS se vuelve cada vez más frecuente, los tribunales se enfrentan a la compleja cuestión de repartir la responsabilidad en caso de accidentes. Y lo creáis o no, yo sí que estoy convencido de que estos hitos legales son tan importantes como los avances tecnológicos hacia una hipotética adopción masiva de vehículos autónomos en un futuro a medio plazo.

A principios de este año, otro jurado falló en contra de la demandante Justine Hsu, quien demandó a Tesla después de que su vehículo chocara contra una mediana en Los Ángeles mientras usaba el Autopilot. Sin embargo, esta mujer no estuvo involucrada en un accidente mortal. Tesla ganó el juicio defendiendo que les dice a los conductores que su tecnología requiere constante supervisión humana, a pesar de los nombres de “Autopilot” y “conducción totalmente autónoma”. Este punto es un uso bastante cínico de la cosa tecnológica para el marketing, y no podemos garantizar que todos los conductores de Tesla conozcan los conceptos básicos de ingeniería de la conducción autónoma. Ahora la compañía está nuevamente bajo investigación debido a algunos ADAS que permiten a los conductores usar el sistema durante períodos prolongados de tiempo sin pedirle que coloque las manos en el volante, el llamado modo Elon. Ya veremos. Volviendo al juicio, la empresa propiedad de Elon Musk afirma que
    

“Todo conductor debe estar preparado para tomar el control total del coche en cualquier momento”

El abogado de la empresa afirma que el sistema avisa con tiempo suficiente para que el conductor reaccione, siempre y cuando concentrado en la carretera. Nada nuevo bajo el sol.

En todos los accidentes mortales en los que interviene el célebre sistema de Tesla, resulta evidente que el conductor no prestó atención a la carretera. En el accidente de Huang, por ejemplo, los investigadores de la NTSB determinaron que una víctima estaba jugando con su teléfono cuando murió.

Todo esto de Tesla, su publicidad y su realidad me recuerda la muy castellana expresión haz lo que diga, y no lo que haga.

Por cierto, que Ford, con muchísima menos fanfarria, es el primer fabricante que permite legalmente circular sin las manos en el volante en Europa.

Leer más

Los robotaxis hacen trampas: la conducción autónoma podría no serlo tanto

Los vehículos autónomos han sufrido un verano muy intenso, particularmente las empresas Waymo y Cruise, propiedades de los gigantes Google y General Motors, respectivamente. Se trata de dos de las startup más adelantadas en la carrera por dominar esta tecnología que, sin embargo, han tenido que frenar en seco en los últimos meses.

El 11 de agosto de 2023 ambas compañías obtuvieron la aprobación del estado de California para comenzar a ofrecer servicios de taxis autónomos 24 horas al día, los 7 días a la semana, y cobrando (hasta entonces, su actividad estaba restringida a unos horarios de poca densidad de tráfico). La ciudad de San Francisco se abría por primera vez a estos servicios.

Poco les duró la alegría. Unos días más tarde, el 19 de agosto, las autoridades estatales penalizaron a Cruise por varios fallos graves ocurridos la noche anterior. Primero, un robotaxi se empotró contra un camión de bomberos que acudía una emergencia. En otro incidente, unas horas más tarde, fue un coche normal, pilotado por un humano, el que se saltó un semáforo y arrolló a uno de estos robotaxis.

En total, Cruise tuvo que reducir los 300 vehículos que tenía circulando por la ciudad a la mitad. Sin embargo, aún le faltaba la puntilla a la startup de General Motors, y ésta llegó hace unos días, cuando saltó la noticia de que el estado de California le retiraba la licencia de vehículos autónomos después de que uno de sus modelos no detectara que tenía a una persona atropellada debajo. Tras ello, Cruise anunció que cancelaba todas sus operaciones en Estados Unidos. Waymo ha optado por frenar su ritmo de expansión.

La cruda realidad es que una startup que no circula es una startup que no genera beneficios. Esto es un problema cuando estás inmerso en una carrera empresarial y tecnológica por quemar dinero, demostrar resultados, y seguir quemando dinero de inversores, todo ello hasta que a estos se les agote la paciencia o una de las empresas se erija vencedora.

¿Cuál es la situación ahora?

Tecnológicamente, el hecho de que hayan estado circulando por ciudad cientos de vehículos autónomos es una gran hazaña. Waymo y Cruise han recorrido un total de casi 13 millones de kilómetros sin conductor, incluidos más de 6,4 millones de kilómetros en San Francisco desde principios de 2023. Debido a que la ley de California exige que las empresas de vehículos autónomos informen de cada accidente importante de forma pública, sabemos mucho sobre su desempeño.

En total, las dos empresas han informado de algo más de 100 accidentes con vehículos sin conductor. Puede parecer mucho, pero ocurrieron en unos 10 millones de kilómetros de conducción. Eso equivale a un accidente cada 100 000 kilómetros, unos cinco años de conducción para un automovilista habitual.

Sin embargo, en estas estadísticas no se cuentan otros incidentes también importantes, como atropellos a perros, golpes de chapa en los que el robotaxi huye, o que el vehículo autónomo arda espontáneamente.

Si echamos la vista atrás, lo que las grandes tecnológicas nos prometían eran transportes en ciudad más baratos, rápidos y seguros. Uno de los mayores críticos de esta tecnología es el investigador Filip Piekniewski, quien ya advirtió que, después de 100 000 millones de dólares invertidos en esta tecnología, seis empresas han quebrado, tres están intentando sobrevivir y solo a dos parece irles bien.

Probablemente, la actitud de Piekniewski sea demasiado radical. En mi caso, estoy convencido de que la conducción autónoma se logrará, aunque quizás necesitemos cambios más profundos.

En muchos medios se puede encontrar el dato de que entre el 90 y 94 % de los accidentes en carretera se deben a errores humanos. La historia de esta cifra se remonta nada menos que a 1979. Posteriormente, la autoridad en seguridad vial de EE UU, la NHTSA, publicó en 2015 un documento de dos páginas que decía que “la razón crítica, que es el último evento en la cadena causal del accidente, fue asignada al conductor en el 94 % de los accidentes”. Un poco más adelante, el organismo subrayaba que, “aunque la razón crítica es una parte importante de la descripción de los eventos que condujeron al accidente, no debe interpretarse como la causa del accidente”.

El argumento de sustituir al conductor por un algoritmo para reducir ese 94 % de causas humanas es, por lo tanto, falso. Numerosas voces autorizadas en seguridad vial han levantado la voz sobre este uso tramposo de las estadísticas.

Quizás, por lo tanto, los vehículos autónomos no deban reflejar como métrica principal el número de accidentes, sino que debieran tener sus propias métricas. Y probablemente también sea importante recordar que cada vehículo autónomo en la vía pública tiene un conductor humano de seguridad a bordo o en algún lugar observando y controlando de forma remota.

Los vehículos autónomos podrían no serlo tanto

Precisamente hace unos días, el New York Times publicó un artículo que saca los colores a Cruise y a estos conductores de seguridad.

Según los periodistas del New York Times, la empresa de vehículos autónomos empleaba una media de 1,5 conductores de seguridad por vehículo, y tenían que intervenir en la conducción muy frecuentemente. Si esto fuera cierto, sería lógico cuestionarse si el resto de startup de robotaxis están haciendo las mismas trampas. Siendo así, estaríamos aún muy lejos de la conducción autónoma del imaginario popular.

Quizás la conducción autónoma no sea la solución a nuestros problemas de tráfico. Tal vez haya que pensar en una conducción tecnológicamente asistida, que complemente al humano y que le ayude a no fallar. Al fin y al cabo, puede que la viabilidad técnica de vehículos tan complejos que rocen la inteligencia e intuición humana sea imposible en los marcos de movilidad urbana de nuestras ciudades.

Probablemente, también sea importante entender que los robotaxis no son solo un invento tecnológico, sino uno en gran medida socioeconómico.

Este artículo se publicó originalmente en The Conversation

Leer más

Los robotaxis echan el freno: la compañía Cruise suspende todas sus operaciones

Ayer saltó la noticia de que el estado de California retiraba la licencia a una empresa de taxis sin conductor después de que uno de sus vehículos no detectara que tenía una persona atropellada bajo él. Se trata de la empresa Cruise, propiedad de General Motors, y una de las que más avanzadas estaban en la carrera por dominar la conducción autónoma. En palabras de Carlos del Castillo, periodista de ElDiario.es:

"Son las nueve y media de la noche en San Francisco. Con su semáforo en rojo, una transeúnte cruza un paso de cebra en una de las zonas de más actividad de la ciudad, resultando atropellada por un conductor que se da a la fuga. El impacto hace que la víctima salga despedida al carril adyacente, por donde circula un vehículo de Cruise, uno de los dos servicios de taxis sin conductor activos en San Francisco. El coche autónomo frena en seco pero no consigue evitarla, pasándole por encima. Según recoge el informe de las autoridades, el robotaxi intenta entonces hacer una “maniobra de giro mientras el peatón estaba debajo del vehículo”, arrastrando bajo él a la mujer unos seis metros.".

El accidente y posterior actuación del vehículo de Cruise han provocado la inmediata suspensión de las 400 licencias que la compañía tenía para operar taxis sin conductor en San Francisco. Las autoridades de transporte de California acusan a la empresa (propiedad de General Motors y en la que también han invertido Honda o Microsoft) de haber “falseado información relacionada con la seguridad de la tecnología autónoma de sus vehículos” y ocultar el vídeo del accidente.

El verano ha sido particularmente intenso en las noticias de estos vehículos, particularmente para Waymo (propiedad de Google) y Cruise. En una evolución de noticias con ritmo de montaña rusa, el 11 de agosto de 2023, ambas empresas obtuvieron la aprobación de la Comisión de Servicios Públicos de California, con lo que pudieron comenzar a ofrecer servicios de taxi 24 horas al día, los 7 días a la semana, y cobrando (hasta entonces, su actividad estaba restringida a unos horarios de poca densidad de tráfico). Cruise y Waymo ya prestaban servicios de transporte de pago sin conductor en el área metropolitana de Phoenix, donde el gobierno del estado de Arizona optó por no regular la tecnología de los vehículos autónomos. Pero el clima estable de California, sus ciudades densamente pobladas, su excedente de talento tecnológico y su normativa sobre este tipo de autos, la hacían un reto comercial muy goloso. La concesión de esta licencia no recibió la aprobación de muchos de los ciudadanos de San Francisco, que ya estaban un poco hartos de las robotaxis, incluso en su horario limitado.

Poco les duró la alegría, y es que unos días más tarde, el 19 de agosto de 2023, las autoridades californianas redujeron a la mitad de flota de vehículos Cruise, tras unos incidentes que habían ocurrido la noche anterior del 17 de ese mes: un taxi se empotró contra un camión de bomberos que acudía en una emergencia, y en otro incidente unas horas más tarde, fue un coche "normal", pilotado por un humano, el que se saltó un semáforo y arrolló a uno de estos robotaxis. En total, Cruise pasó de unos 300 vehículos que tenía circulando en la ciudad a la mitad.

Desde que que se concedió las licencias a las empresas de General Motors como a la de Google, distintos han sido las noticias que se han hecho virales sobre estos vehículos. Probablemente en parte por el hartazgo de la población, por la risa, por la falta de noticias en verano, y por hacer leña del árbol caído. Estas noticias fueron la de diez vehículos Cruise que dejaron de funcionar y provocaron un atascazo (según la compañía, debido a problemas de conectividad), y la de un robot de la misma compañía se quedó atascado en cemento fresco que había en una zona de obras del asfalto.

Todo esto da para reflexionar mucho en mi oficio, pero será en un siguiente post que quiero redactar para expresar mi opinión al respecto.

Leer más

Taller de inteligencia artificial y casos prácticos para centros educativos

Siguiendo con la entrada anterior, en ésta quería aportar mi pequeño granito de arena a la odisea que está siendo en algunos centros educativos implementar algo sobre inteligencia artificial, adquirir competencias digitales, etc.

Hace unos años, en 2019, un compañero de mi universidad y yo propusimos un sencillo taller para enseñar y desmitificar ideas fundamentales sobre inteligencia artificial. El taller duraba 1h 30 a lo sumo, tiene los contenidos fundamentales para entender qué es inteligencia artificial y algunos algoritmos matemáticos sencillos y en los ensayos en institutos que hicimos, fue un completo éxito. Tanto es así, que el taller fue aceptado como artículo de investigación educativa en una prestigiosa revista científica. Es decir, que hay otros investigadores que han certificado que el taller funciona y está bien estructurado. Y además, ¿sabéis qué es lo mejor? Que el taller se fundamenta en la programación por bloques Scratch, y todo es totalmente abierto y gratuito. El taller lo podéis encontrar en mi repositorio GitHub.

El funcionamiento de este pequeño taller, consiste en que en los 15 primeros minutos de actividad, a los estudiantes se les impartieron los siguientes conceptos de una manera muy sintética:
              - Introducción a la inteligencia artificial
              - En qué consiste el algoritmo de clusterización K-means
              -  Cómo funciona una red neuronal

Posteriormente, los chavales tuvieron 45 minutos para realizar dos ejercicios y poner en práctica las nociones básicas que se les había impartido hace unos minutos. La metodología de esta parte práctica se implementó de la siguiente manera: los alumnos trabajaron en parejas, y tenían a su disposición el archivo de un algoritmo de inteligencia artificial implementado en Scratch. En este archivo estaba implementado casi todo el código necesario, salvo un par de huecos que tenían que rellenar para que todo el programa se ejecutase correctamente. Para que fuera un poco más fácil, en una esquina de la zona de trabajo de Scratch, los alumnos tenían las piezas de código que había que encajar en los huecos, pero desordenadas. Una vez que completaban el código, los estudiantes podían comprobar si habían acertado o no ejecutándolo en el mismo Scratch.

A los estudiantes se les asignó dos problemas, uno detrás de otro:

1) El algoritmo de clusterización K-means, donde tenían que conseguir clasificar una nube de puntos en tantos clusters como quisieran. Los clusters estaban definidos por 'puntos gordos' de colores, y la clasificación consistía en pintar los puntitos según el color del 'punto gordo' más cercano que tuvieran.

2) Posteriormente se asignó una red neuronal muy sencilla (dos entradas y una salida), entrenada con los datos de entrada y salida de una puerta lógica AND. Para cada ejercicio disponían de 20 minutos como máximo.

A continuación incluyo una imagen representativa de estos problemas:

En 2020, llegó el COVID, conocido por todos. Lo que nos obligó a encerrarnos en casa, y nos obligó a todos los docentes en el mundo a replantear nuestros temarios de manera online y digital. Lo cual aceleró la estrategia de digitalización de la educación que estaba preparando la Comisión Europea. El llamado Plan de Acción de Educación Digital. Y tal y como os conté en el blog, yo participé entre los años 2021 y 2022 en el Grupo de Expertos de la Comisión Europea para la implantación ética de herramientas de inteligencia artificial en la enseñanza. Éramos unos 15 expertos, uno por cada país de la Eurozona, más o menos. Así que de estos temas, humildemente, algo sé.

El curso pasado, más de una docena de institutos en toda España se pusieron en contacto conmigo para que les ayudara a entender e implementar el taller de IA del que os he hablado. Las edades de los estudiantes iban desde los 14 años hasta los 18. Y francamente, tras ponerme en contacto con ellos para ver qué tal les había ido, estaban muy contentos con el material.

Así que a lo largo del año pasado y de este, en mi grupo de investigación hemos seguido trabajando en crear más ejercicios accesibles, sencillos, entendibles por alumnado y profesorado, y adaptables a cualquier tipo de dificultad en el aula. Gracias a todo lo que he aprendido con mis colegas europeos, ahora tenemos mucho más claro qué es lo que funciona, y qué no. Tenemos ejercicios que se adaptan a la velocidad de aprendizaje de cada alumno, ejercicios que permiten crear enunciados numéricos diferentes para cada uno de ellos, ejercicios que miden la velocidad y nivel de aprendizaje de una tarea concreta... y por supuesto, todo ello, sin entrar en complejos softwares ni programas informáticos. Todo estará abierto.

Los profesores y los centros están haciendo un trabajo ingente por adaptarse a toda la burocracia, acreditaciones y evaluación por competencias que les piden desde las administraciones. Adoptar la IA como una herramienta, sin pensar que el profesor pierda protagonismo, es el camino. Hagámosles la vida más fácil y no intentamos oponernos a esta tecnología, que ya se ha quedado.

Leer más

Dejad de oponeros a la inteligencia artificial en la Educación

Probablemente, este curso escolar que hace ya unas semanas que hemos comenzado, sea más difícil de lo habitual. Una opinión particularmente tóxica que me estoy encontrando en X, antiguo Twitter, es que su peor pesadilla es que un estudiante emplee un programa de inteligencia artificial para copiar un ejercicio y engañar al profesor. Eso parece peor que el hecho de que toda la clase engañe al docente.

También hay diseñadores de inteligencia artificial que siguen vendiendo que su software ayuda a identificar texto escrito con esta tecnología. Puede que no funcione siempre, pero según ellos, eso es siempre mucho mejor que no tener ningún programa informático. Y creo que estamos poniendo el foco de atención en un argumento del debate totalmente erróneo.

Los profesores están cediendo a la opción más fácil, posiblemente bajo la ilusión de que los detectores de texto de IA como GPTZero son lo suficientemente buenos (aquí uso “detector de IA” como una herramienta de IA diseñada para detectar IA hecha a partir de texto creado por humanos).

Están, con razón, ansiosos y preocupados: el año escolar que comienza este otoño será más difícil de lo habitual. Nadie puede predecir el impacto que tendrá la IA generativa en la educación. Todos lo estamos descubriendo sobre la marcha.

Esta acción preventiva de los docentes (utilizando indiscriminadamente herramientas de detección defectuosas a su disposición) por bien intencionada que sea, no hace más que añadir otro problema a la próxima epidemia de trampas de la IA. La sistematización de este tema no sólo es un profundo fracaso social y educativo sino verdaderamente frustrante y desalentador para los estudiantes y profesores, que se ven ansiosos y atrapados en un aparente sistema educativo que solo se rige por el copiado de contenido, sin salida a nuevas metodologías docentes para aquellos que quieren seguir aprendiendo.

Pero, ¿no deberían los detectores de IA detectar la IA? ¿Por qué sucede todo esto en primer lugar?

Comencemos con la dura verdad obvia, pero quizás no tan obvia: no podemos confiar en los detectores de IA y ni siquiera deberían comercializarse ni promocionarse.

Existe la necesidad de encontrar un remedio a la ola de herramientas de inteligencia artificial que están haciendo que la redacción de ensayos (bueno, prácticamente cualquier tarea de escritura que implique generación y creatividad) quede obsoleta. Por tanto, es comprensible que los profesores hayan encontrado alivio en los detectores de IA.

En algunos casos, son conscientes de que los detectores no son perfectos y, después de un análisis apropiado de coste-beneficio, consideran que vale la pena correr el riesgo de algunos falsos positivos (es decir, acusaciones injustificadas) si eso garantiza que no obtengan falsos negativos (es decir, que no haya trampas). Pero estoy casi seguro de que se trata de una minoría; en la mayoría de los casos, los profesores tienen ingenuamente buenas intenciones: simplemente no tienen en cuenta la posibilidad de que los detectores de IA tengan fallos y no sean perfectos.

Esto es culpa suya por no hacer un esfuerzo adicional para comprender la tecnología que están utilizando, pero también culpa de los medios de comunicación y de las empresas fabricantes de detectores por su tendencia a exagerar las capacidades de estos detectores en un intento de ganar la pelea por nuestra atención. y convencernos de que el problema del texto generado por IA que inunda nuestros canales de información no es tan grave. Y además, realmente desean que los detectores funcionen perfectamente.

Creo que es seguro asumir que la mayoría de los profesores no sólo quieren que los detectores detecten a los tramposos de la IA, sino que lo hagan de manera infalible y confiable. Ésta es, por supuesto, una posición loable, pero no tan alcanzable como podría parecer a partir del supuesto superficial y lógico pero erróneo de que la relación semántica entre “generador” y “detector” implica capacidades iguales pero opuestas.

Los generadores no sólo existen unos pasos por delante en términos tecnológicos que los detectores, sino que el tipo de tarea que realizan se vuelve aceptable desde el punto de vista de la calidad en un umbral mucho más bajo. La precisión requerida para que un detector sea considerado una herramienta utilizable es casi del 100%.

Para mí, la posibilidad de emplear esta técnica es un rotundo NO. Los detectores de IA no son una solución. No siempre atrapan a los tramposos. A veces acusan falsamente a los que no hacen trampa. Y no hay forma de evitar esto, como pronto lo veremos. Funcionan muchísimo peor que los generadores en la tarea que se supone que deben realizar (y están mal diseñados).

Todos los intentos de construir un detector de IA han fracasado. Sin embargo, esto no impidió que los investigadores lo intentaran.

Después de probar varios enfoques, los peores augurios se hicieron realidad y la evidencia se centró en la falta de falta de fiabilidad e inexactitud de los detectores: ni las universidades, ni las empresas, ni los investigadores independientes han logrado, en los siete meses transcurridos desde que OpenAI puso el mundo patas arriba, crear un detector de IA que coincide con la calidad y capacidad de los generadores de IA, incluso aquellos mucho peores que ChatGPT.

Para el que quiera leer un análisis más profundo de cómo funcionan y fallan exactamente los detectores, le recomiendo que consulte este artículo del investigador en int. artificial Sebastian Raschka, donde revisa los cuatro tipos principales de detectores y explica en qué se diferencian. O este otro artículo, donde se explica por qué los detectores de antiplagio consideran que la constitución de EEUU está escrita por una inteligencia artificial.

Los generadores de texto de IA como ChatGPT se entrenan, luego se ajustan y luego se refuerzan en texto escrito por humanos, por lo que a medida que mejoran, se espera que parte del texto escrito por humanos se marque inevitablemente como escrito por IA y viceversa.

Quizás la solución radique en hacer que el texto generado por IA sea intrínsecamente detectable mediante algoritmos. ¿Se pueden poner marcas de agua a las herramientas de IA? ¿Pueden las empresas diseñar una especie de estilo digital en sus productos? De nuevo, malas noticias. Incluso OpenAI, que de open no tiene nada, ya anunció que la marca de agua no funciona como antiplagio. Además, crear esa señal sería una excusa perfecta para inundar todo de fake-news y falsificar precisamente eso, la marca identificativa.

Mi humilde opinión es que tenemos que seguir trabajando para integrar la IA en la educación. Nadie, y repito, nadie, tiene la respuesta a cómo se transformará esta actividad tan importante de nuestra sociedad. Pero soy optimista. Y sobre cómo hacerlo, hablaré en los próximos artículos.

Leer más