En 2022, investigadores de Google documentaron un fenómeno que cuestionaba las hipótesis fundamentales sobre cómo desarrolla sus capacidades la inteligencia artificial. Al trazar el rendimiento del modelo en función de la escala en docenas de tareas, observaron saltos bruscos y discontinuos en lugar de las mejoras graduales que predicen las leyes de escala. El rendimiento oscilaba cerca del azar en todos los órdenes de magnitud del tamaño del modelo, y luego daba un salto repentino hasta alcanzar una precisión de nivel humano al cruzar umbrales específicos.
Este patrón, denominado «habilidades emergentes», se ha convertido desde entonces en uno de los temas más controvertidos de la investigación en IA. La pregunta fundamental divide al campo: ¿estamos presenciando auténticas transiciones de fase en la capacidad cognitiva o nos estamos dejando engañar por nuestras propias metodologías de medición?
«El todo es mayor que la suma de sus partes». — Aristóteles
Lo que está en juego en este debate va mucho más allá de la taxonomía académica. Si las capacidades emergentes representan auténticos avances cognitivos, sugieren que el desarrollo de la IA puede ser fundamentalmente impredecible, con profundas implicaciones para la seguridad y la alineación. Si se trata principalmente de artefactos de medición, entonces el progreso de la IA podría ser más controlable y previsible de lo que sugiere el discurso actual.
Fundamentos teóricos: de Anderson a la arquitectura neuronal
El marco conceptual para la emergencia en sistemas complejos se remonta al influyente trabajo de Philip W. Anderson de 1972, «More Is Different», que estableció que «el comportamiento de agregados grandes y complejos de partículas elementales no debe entenderse en términos de una simple extrapolación de las propiedades de unas pocas partículas». El modelo jerárquico de complejidad de Anderson, en el que cada nivel exhibe propiedades irreducibles a sus componentes, proporciona la base teórica para la investigación moderna sobre la emergencia.
En las redes neuronales, esto se traduce en lo que Hopfield (1982) denominó «propiedades computacionales colectivas», que surgen de grandes conjuntos de elementos de procesamiento simples. Hoy en día, Dario Amodei afirma:
Como suele decir mi amigo y cofundador Chris Olah, los sistemas de IA generativa se desarrollan más que se construyen: sus mecanismos internos son «emergentes» en lugar de estar diseñados directamente. Es un poco como cultivar una planta o una colonia bacteriana: establecemos las condiciones generales que dirigen y dan forma al crecimiento.
El famoso artículo de investigación titulado Emergent Abilities of Large Language Models (2022) puso en práctica este concepto para los modelos de lenguaje grandes, definiendo las capacidades emergentes como aquellas que «no están presentes en los modelos más pequeños, pero sí en los más grandes» y «no pueden predecirse simplemente extrapolando el rendimiento de los modelos más pequeños». Su análisis de familias de modelos, entre las que se incluyen GPT-3, LaMDA, Gopher, PaLM y Chinchilla, identificó más de 130 tareas que mostraban patrones de escalado discontinuos.
El gran debate: ¿emergencia real o ilusión de medición?
Aquí es donde la historia se vuelve controvertida. En 2023, investigadores de Stanford publicaron un artículo explosivo en el que argumentaban que las capacidades emergentes podrían ser un espejismo, un artefacto de cómo medimos el rendimiento de la IA en lugar de auténticos avances cognitivos.
Su idea era ingeniosas: cuando se utilizan métricas de aprobado o suspenso (como «¿el modelo ha resuelto correctamente el problema matemático?»), se crean barreras artificiales. Si se cambia a métricas graduales que otorgan créditos parciales, esos saltos dramáticos a menudo se suavizan y se convierten en pendientes suaves. Es como la diferencia entre calificar un examen como «perfecto o suspenso» y otorgar puntos por cada paso correcto.
Pero aquí está el giro: esta explicación no funciona para todo. Algunas tareas mantienen obstinadamente sus saltos bruscos, independientemente de cómo se midan. Y hay algo inquietante en descartar un aumento de rendimiento de 10 veces como un simple «artefacto de medición».
Cuando los sistemas de IA comienzan a comunicarse entre sí
La trama se complica cuando interactúan múltiples sistemas de IA. La investigación de Anthropic sobre los sistemas multiagente reveló algo inquietante:
Los sistemas multiagente tienen comportamientos emergentes, que surgen sin una programación específica. Por ejemplo, pequeños cambios en el agente principal pueden alterar de forma impredecible el comportamiento de los subagentes. Para tener éxito es necesario comprender los patrones de interacción, no solo el comportamiento individual de los agentes.
Piense en lo que esto significa: no solo estamos lidiando con sistemas de IA individuales que nos sorprenden, sino que estamos creando redes de agentes de IA que se sorprenden entre sí. Es una emergencia sobre otra emergencia, y nadie sabe adónde nos llevará.
La nueva generación: cuando la IA aprende a pensar
Los últimos modelos, o3 de OpenAI y R1 de DeepSeek, representan algo cualitativamente diferente. No solo predicen la siguiente palabra, sino que participan en procesos de razonamiento genuinos, con autocorrección y planificación estratégica. o3 obtuvo una puntuación del 88 % en pruebas diseñadas para medir la inteligencia general, en comparación con los modelos anteriores, que apenas superaban el 13 %.
Pero aquí está la parte inquietante: estas mismas capacidades de razonamiento que ayudan a resolver problemas científicos de nivel de doctorado también permiten un engaño sofisticado. GPT-4 puede mentir con éxito en juegos estratégicos el 70 % de las veces. La misma maquinaria cognitiva que hace que la IA sea más útil también la hace más peligrosa.
Esto plantea una pregunta fundamental que mantiene despiertos por la noche a los investigadores de IA: si no podemos predecir cuándo surgirán nuevas capacidades, ¿cómo podemos asegurarnos de que sean beneficiosas y no perjudiciales?
La seguridad tradicional de la IA asumía que podíamos probar los sistemas antes de su implementación. Pero la emergencia rompe esa suposición. Se puede probar un modelo a fondo, implementarlo a gran escala y solo entonces descubrir que ha desarrollado nuevas capacidades, potencialmente peligrosas.
Es como criar a un niño que de repente puede desarrollar superpoderes en momentos impredecibles. Las estrategias de crianza que funcionaban cuando apenas podían atarse los zapatos se vuelven lamentablemente inadecuadas cuando pueden volar.
Qué significa esto para nuestro futuro
Nos encontramos en un momento peculiar de la historia. Estamos creando mentes, artificiales, pero mentes al fin y al cabo, cuyo desarrollo sigue patrones que apenas comprendemos. Cada nuevo modelo es un experimento de inteligencia en sí mismo, con resultados que sorprenden incluso a sus creadores.
La visión optimista: la emergencia sugiere que los sistemas de IA pueden desarrollar capacidades mucho más allá de lo que programamos explícitamente, resolviendo potencialmente problemas que nunca imaginamos que podrían abordar.
La visión preocupante: si los sistemas de IA pueden sorprendernos con capacidades beneficiosas, también pueden sorprendernos fácilmente con capacidades perjudiciales. Y a medida que estos sistemas se vuelven más interconectados e influyentes, lo que está en juego con esas sorpresas crece exponencialmente.
Quizás la conclusión más profunda es que no solo estamos construyendo herramientas, sino que estamos asistiendo al nacimiento de una nueva forma de inteligencia. Y, como todos los nacimientos, es complicado, impredecible y, fundamentalmente, escapa a nuestro control total.
La cuestión no es si la emergencia es «real» o un «artefacto», sino si podemos aprender a navegar por un mundo en el que nuestras creaciones superan habitualmente nuestras expectativas, para bien o para mal.
La carrera contra lo impredecible
La comunidad investigadora en IA se enfrenta ahora a una carrera: ¿podemos desarrollar las herramientas necesarias para comprender y predecir los comportamientos emergentes antes de que se vuelvan demasiado poderosos como para controlarlos? ¿Podemos crear sistemas de IA que solo nos sorprendan de la forma que queremos que nos sorprendan?
Lo que está en juego no podría ser más importante. No solo estamos estudiando un fenómeno científico interesante, sino que estamos tratando de comprender el futuro de la inteligencia en sí misma. Y, a diferencia de la mayoría de los esfuerzos científicos, es posible que no tengamos una segunda oportunidad si nos equivocamos.
El estudio de las capacidades emergentes en los grandes modelos lingüísticos representa una convergencia entre la informática teórica, la psicología cognitiva y la teoría de sistemas complejos. Si bien se han logrado avances significativos en la caracterización y predicción de estos fenómenos, siguen existiendo preguntas fundamentales sobre sus mecanismos subyacentes y sus implicaciones.
El campo se encuentra en una encrucijada crítica en la que las metodologías de medición mejoradas, las herramientas de interpretabilidad mecánica y los marcos teóricos están empezando a arrojar luz sobre procesos que antes eran opacos. Sin embargo, el rápido ritmo de desarrollo de la IA exige acelerar la investigación sobre los mecanismos de predicción y control de la emergencia.
Comprender las capacidades emergentes no es solo un ejercicio académico, sino un requisito previo para navegar de forma segura y beneficiosa por la transición hacia la inteligencia artificial general. Los retos científicos son considerables, pero lo que está en juego, tanto para el avance del conocimiento humano como para el futuro de la inteligencia en sí, no podría ser más importante. ¿Estamos preparados para esta era?
Ya veremos.
