Skynet acecha

Cada década suele elegir su pensador de moda. Después de la caída del Muro de Berlín, Francis Ford Fukuyama nos persuadía del fin de la historia. En los primeros años del siglo XXI, todos aludíamos a la modernidad líquida que Zigmunt Bauman había establecido (y estirado la idea luego hasta el absurdo). Llegó el colapso financiero de 2008 y un economista francés de izquierdas se convirtió en el nuevo gurú. Algunos medios tan frívolos como influyentes, incluso, designaron a Thomas Pikkety como “el nuevo Marx” que asustaba a Occidente con un espantajo: la tasa de rendimiento del capital supera de modo constante la tasa de crecimiento de la producción y del ingreso, y eso socava las democracias.

Hoy podríamos decir que el historiador israelí Yuval Noah Harari (Kiryat Atta, 1976) es el intelectual más leído y comentado de nuestra época. Sus ensayos, modelo de claridad conceptual y expositiva, examinan los macroprocesos desde las estadísticas de masas. El darwinismo y la psicología evolutiva son dos de sus herramientas favoritas.

Harari, un autor para todos los públicos, entregó a la imprenta en 2024 un ensayo formidable, que aquí queremos recomendar. Nexus (Editorial Debate, 602 páginas) resume la historia de las redes de información desde la Edad de las cavernas hasta la Inteligencia Artificial, prodigio que el ensayista vislumbra con extrema desconfianza pues se trataría de la mayor revolución tecnológica de la historia, la primera que puede escapar completamente de nuestras manos.

¿Podemos confiar en los algoritmos informáticos para tomar decisiones sensatas y construir un mundo mejor?, nos interpela el autor.

El libro abre con un baño de humildad: “A pesar de la ingente capacidad de información que tenemos a nuestra disposición, somos tan susceptibles a la fantasía y al delirio como nuestros antepasados más lejanos...” ¿Y eso por qué, profesor? Porque somos “muy buenos a la hora de acumular información y poder pero tenemos mucho menos éxito a la hora de adquirir sabiduría”.

Una añosa fábula griega ha anticipado nuestra imperfecta naturaleza mental: El mito de Faetón. Un muchacho que persuade a su padre Helios de que le permita el privilegio de conducir el carro del Sol y termina causando una catástrofe planetaria. El riesgo fatal de manipular las fuerzas que nos exceden. Como la Inteligencia No Humana.

JUSTO CENTRO

Por supuesto, hay cierto abuso macluhiano en el último libro de Harari (aunque resulta inevitable la simplificación) al querer sostener toda la historia de la humanidad sobre un sólo pilar: el desarrollo de las redes de información. Pero el recorrido es fascinante y las conclusiones, útiles.

El pensador pretende colocarse en un punto medio entre "la idea ingenua de la información" (el libre flujo os hará sabios pues conduce a la verdad) y la visión populista-marxista de que “toda información que circula masivamente es mero engaño de los poderosos”.

El argumento principal de su libro es que la humanidad consiguió prosperar mediante la construcción de grandes redes de cooperación, pero la forma en que se construyen dichas redes las ha predispuesto a hacer un uso imprudente del poder. “Por lo tanto las redes son también un problema”.

El rasgo decisivo de la red es la conexión y no la representación (es decir la verdad) y la información es cualquier cosa que conecte puntos diferentes en una red, lo que crea nuevas realidades.

LA NOBLE MENTIRA

La primera tecnología de la información que desmenuza Harari en este ensayo fascinante es el relato. Sin él, los Homo Sapiens no nos hubiésemos convertido en la especie dominante del planeta, al conferirnos una ventaja decisiva no solo sobre leones y mamuts sino también sobre otras especies humanas remotas como los neandertales. De todos los tipos de relato los que crean realidades intersubjetivas han sido los más fundamentales para el desarrollo de redes humanas a gran escala. Es el caso de las grandes religiones, el dinero o las naciones, por ejemplo. La noble mentira, en palabras de Platón. Todo sistema político humano se basa en ficciones, pero unos lo admiten y otros no, sentencia Harari descarnadamente.

A menudo, la historia es moldeada no tanto por relaciones deterministas de poder -como sostiene el marxismo- como por errores trágicos que derivan de creer en relatos cautivadores pero dañinos, explica el pensador israelí.

Uno de los grandes atractivos de los libros de Harari es que nos examina como especie. Aquí señala un rasgo decisivo de nuestra psiquis: la memoria humana a largo plazo está particularmente adaptada a la retención de relatos (los políticos y las empresas se aprovechan de ello). Es decir, pensamos en términos de relatos. Nos encanta encontrar en el arte y el entretenimiento de masas los llamados dramas biológicos, héroes que enfrentan depredadores, adversarios amorosos, rivalidades fraternales, etc.

Pero con la memoria no alcanza, la segunda gran tecnología de la información que ha creado el Homo Sapiens es el documento escrito.

El subproducto (muchas veces indeseable) del texto escrito es la burocracia, que le ha impuesto al mundo un orden nuevo y artificial. Cuando un sistema burocrático nos coloca una etiqueta, aunque ésta pueda no ser más que una convención, determina en muchos casos nuestro destino. Lo hace en pro del orden, por buenas y malas razones.

Históricamente hablando, hay un aspecto benigno en la burocracia, que es proporcionarnos asistencia sanitaria, seguridad y justicia. Pero todos conocemos sus tremendos excesos, que han costado cientos de millones de vidas. Hacemos un salto de varios capítulos del libro para destacar una de las grandes amenazas que las nuevas tecnologías plantean a la humanidad: reforzará las burocracias estatales y privadas en detrimento de las libertades individuales. La IA es un banquero o un policía que puede trabajar las 24 horas del día y que, lo que es más grave, podrá tomar sus propias decisiones.

El historiador de moda quiere que usted sepa que los algoritmos de inteligencia artificial pueden aprender por sí mismos cosas que ningún ingeniero humano ha programado, y pueden decidir cosas, que ningún ejecutivo humano ha previsto. “Esta es la esencia de la revolución de la IA”, avisa.

El otro gran peligro que vislumbra este sofisticado pensador refiere a la manipulación de las conciencias. La inteligencia artificial está adquiriendo también la capacidad de componer relatos mejor que la mayoría de los humanos. Y los algoritmos crean nuevas mitologías. Información no es per se verdad, martillea el libro.

Para que la verdad tenga éxito -explica Harari- es necesario crear instituciones de organización y conservación con el poder de inclinar la balanza a favor de los hechos. El diario que esta leyendo, que duramente sobrevive hoy con todos los vientos en contra, es una de esas instituciones, amigo lector. Es una tecnología creada en la Edad Contemporánea como mecanismo de autocorrección de las Repúblicas.

Los medios de comunicación claro está, no son el único mecanismo de autocorrección institucional. También podemos mencionar al Poder Judicial y a las entidades científicas y profesionales que contribuyen año tras año para mantener ese delicado equilibrio entre verdad y orden que ha hecho nuestras vidas más dichosas en las repúblicas liberales.

AUTOCORRECCION

Para Harari, la diferencia entre democracia y dictadura es, básicamente, entre tipos opuestos de redes de información. El totalitarismo es una red de información centralizada que carece de mecanismos de autocorrección sólidos. Una democracia es "una conversación constante entre diversos nodos de información", que, a su manera y con fallos, buscan la verdad. Mientras seamos capaces de conversar podremos encontrar un relato compartido que nos acerque, enseña Harari a los argentinos.

La IA, con su pavorosa eficacia, podría apuntalar a las dictaduras de nuestra era, nos advierte el libro. Allí donde fracasaron Hitler o Stalin, las computadoras podrían tener éxito. Pero no solo eso. Hay una posibilidad incluso más aterradora que Harari desea anticipar: "...en la política del siglo XXI la división principal podría no darse entre democracias y regímenes totalitarios sino entre seres humanos y agentes no orgánicos". Se vislumbra en el horizonte un Telón de Silicio. Es hora de actuar. La historia no es determinista.