Las sociedades avanzadas son tan vulnerables al delirio masivo como las tribus de la Edad de Piedra. La IA no inventó ese problema. Pero acaba de adquirir la capacidad de explotarlo a una escala que no tiene precedente histórico.
Yuval Noah Harari lleva años haciendo una pregunta que incomoda: si somos tan inteligentes, ¿por qué somos tan estúpidos? Llegamos a la Luna, desciframos el ADN, dividimos el átomo. Y al mismo tiempo estamos al borde del colapso ecológico, de una tercera guerra mundial, y desarrollando una tecnología — la inteligencia artificial — que podría escapar de nuestro control.
La respuesta que propone en su libro Nexus es desordenadamente simple: el problema no somos nosotros. El problema es la información que recibimos.
Harari parte de una observación central sobre la especie humana: somos los únicos animales capaces de cooperar a gran escala con desconocidos. No lo hacemos en base a hechos objetivos — lo hacemos en base a historias compartidas. El dinero es una historia. Las corporaciones son una historia. Los estados nacionales son una historia. Ninguna de estas cosas existe en la realidad física: existen porque millones de personas creen en ellas simultáneamente.
Eso es lo que permitió construir imperios, economías globales y redes científicas. Es también lo que permitió el nazismo, el estalinismo y cada delirio masivo de la historia. La misma capacidad que nos hace grandes nos hace vulnerables. Y esa vulnerabilidad no desaparece con el progreso tecnológico — se reconfigura.
Durante toda la historia humana, las historias que moldeaban la cooperación social las producían humanos. Escritores, sacerdotes, propagandistas, periodistas, publicistas, algoritmos de recomendación entrenados por humanos. Ahora hay algo nuevo.
Por primera vez en la historia, dice Harari, existe una entidad no humana capaz de crear historias, teorías económicas, nuevas formas de moneda, música, poemas, imágenes, videos — y de tomar decisiones de manera autónoma. Eso es la IA. Y el término que usa para describirla no es "artificial". Es "alienígena".
No alienígena en el sentido de ciencia ficción. Alienígena en el sentido de que su lógica interna, sus estrategias, sus "ideas" no son predecibles desde la mente humana. Cuando AlphaGo derrotó al campeón mundial de Go en 2016, ejecutó movimientos que los expertos calificaron de incomprensibles. No porque fueran irracionales — sino porque exploraban regiones del tablero que la mente humana nunca había considerado en más de 2.000 años de práctica del juego.
La IA no piensa como nosotros. Genera narrativas que no podemos anticipar. Y está siendo desplegada masivamente como intermediaria entre los seres humanos y la información que les llega sobre el mundo.
Toda tecnología de información anterior a la IA era, en el fondo, orgánica: dependía de cerebros humanos para funcionar. Los cerebros duermen. Se distraen. Tienen horarios. Tienen límites. Eso generaba fricciones que, por accidentales que fueran, servían como válvulas de seguridad: había momentos de privacidad, de desconexión, de interrupción natural del flujo de información.
Los sistemas de IA no tienen eso. No descansan, no se distraen, no tienen límites de atención. Pueden monitorear, procesar y reaccionar a escala y de manera continua. Lo que alguien diga o haga hoy puede ser registrado, analizado y usado en su contra diez años después. Sin fricción. Sin olvido. Sin el desgaste natural que antes hacía que la vigilancia total fuera logísticamente imposible.
Harari no dice que la IA sea inevitablemente totalitaria. Dice algo más preciso y más inquietante: la IA da ventajas estructurales a los sistemas centralizados que los sistemas democráticos tendrán dificultad para igualar.
Los sistemas autoritarios procesan información de arriba hacia abajo, de manera centralizada. Eso los hace frágiles ante eventos que no estaban en su modelo — pero extremadamente eficientes para maximizar el poder de quienes están arriba cuando el modelo funciona. La IA amplifica esa eficiencia hasta volverla cualitativamente diferente: un sistema autoritario con IA puede monitorear a toda su población, modelar sus comportamientos y anticipar la disidencia antes de que se organice.
Las democracias tienen una ventaja diferente: los mecanismos de autocorrección. Las elecciones. La prensa libre. La separación de poderes. La posibilidad de que el sistema se equivoque y se corrija sin colapsar. Pero esos mecanismos dependen de que el flujo de información entre ciudadanos sea auténtico — que cuando la gente habla entre sí, hable sobre su realidad y no sobre una narrativa fabricada por entidades que no tienen interés en la verdad.
Aquí es donde el argumento de Harari conecta directamente con los demás artículos de este espacio.
Si la IA es capaz de fabricar historias — y lo es — y si las historias son el mecanismo por el que los humanos coordinamos la realidad social — y lo son — entonces la IA en manos de actores con intereses económicos y políticos específicos no es solo una herramienta. Es un narrador con agenda. Un sacerdote sin fe pero con métricas de engagement. Un propagandista que no duerme, no se cansa y puede personalizar el mensaje para cada individuo a partir de su historial de comportamiento.
No es ciencia ficción. Es la descripción de cómo funcionan hoy los sistemas de recomendación de Meta, YouTube y TikTok. La diferencia entre eso y lo que Harari describe como riesgo existencial es una cuestión de escala y de autonomía — y ambas están aumentando.
Harari aboga por instituciones con mecanismos de autocorrección: sistemas que puedan identificar sus propios errores y enmendarlos antes de que se vuelvan catastróficos. La ciencia. La democracia. El periodismo independiente. La separación de poderes. No son perfectos — pero tienen algo que los sistemas autoritarios y las plataformas tecnológicas no tienen: la posibilidad estructural de decir "nos equivocamos" y cambiar.
La crítica que se le puede hacer a Harari desde una perspectiva de reducción de daño es que sus soluciones operan en el nivel macro — regulación, instituciones, políticas — mientras la gente vive el problema ahora mismo, a nivel individual, con las herramientas que tiene disponibles. Las instituciones tardan. Los algoritmos no.
Harari habla de "dieta de información" como práctica de higiene mental — elegir con conciencia qué fuentes alimentan tu modelo de realidad. No como solución sistémica, sino como acto de resistencia individual mientras llegan las instituciones que deberían existir.
La pregunta de Harari — si somos tan inteligentes, ¿por qué somos tan estúpidos? — no tiene respuesta fácil. Pero tiene una respuesta útil: porque la calidad de nuestra información no mejora automáticamente con la calidad de nuestra tecnología. A veces empeora. Y saber eso es el primer paso para no ser la siguiente víctima del delirio de turno.