En 1957 Ernest Jungër, un militar alemán altamente condecorado en la Primera Guerra Mundial y escritor de que había merecido el Premio Goethe de Literatura, publicó Las abejas de cristal, una novela que advierte sobre el peligro del dominio estratégico de la industria de la información y el entretenimiento en manos de una oligarquía de tecnócratas.
Hombres al fin, esta conducción comete errores, se deja arrastrar por pasiones y cae en excesos que, en su caso, tienen el efecto multiplicador propio de un gobierno de algoritmos.
Poco después de la publicación de este texto, en 1962, la Academia de Ciencias de Moscú propuso la creación de una red informativa para controlar la economía (que es lo mismo que controlar al trabajo de los hombres). En 1971, el gobierno de Salvador Allende llevó adelante el proyecto Cybersyn con la finalidad de mejorar la gestión de la economía chilena.
En el 2006, el abogado Lawrence Lessig, especialista en informática, escribió: "La mano invisible del ciberespacio está construyendo una arquitectura que perfeccionará el control y hará posible una regulación altamente eficaz”.
Desde el año 2000, existen algoritmos diseñados y utilizados para analizar videos de vigilancia con reconocimiento facial. También por celulares y caras esparcidas estratégicamente podemos controlar la ubicación geoespacial de una persona y por sus rastros en las redes sociales sus preferencias e inclinaciones ideológicas.
INFORMACION
Ya los asirios y los caldeos, pasando por los egipcios, los persas y los romanos, y todos los imperios de la historia, han tratado de tener la mayor información posible sobre su población, tanto para el control de la economía como para velar por la “corrección política” de sus súbditos.
Hasta bien entrado el siglo XX la tecnología requería una enorme masa de burócratas y fuerzas del orden para controlar a una población, con el inconveniente de tener que controlar a los controladores.
Para mantener estás estructuras fue necesario crear normas para velar por la ortodoxia ideológica. La contraparte subversiva tuvo las mismas necesidades para explicar porqué y cómo luchar contra las autoridades. Esto generó un relato impreciso y tendencioso de la realidad. Las fake news no son producto exclusivo de la tecnología; son una necesidad de los hombres para dar verosimilitud al relato de cada una de las partes en pugna.
La literatura se adelanta a la ciencia porque valora al hombre (y no los algoritmos, en los que uno puede confiar o no). El nuevo Prometeo fue el título alternativo de Frankenstein de Mary Shelley, autora que vio en la tecnología la posibilidad de crear un “nuevo hombre”, aunque los resultados de la criatura fueron desastrosos y la criatura intentó asesinar a su creador.
Julio Verne, por su parte, transmitió un relato más gentil y optimista del futuro y se detuvo a mostrar las ventajas de la tecnología para hacer un mundo mejor. Contrario a las utopías de Tomás Moro aparecieron las distopías, un futuro de características negativas, reflejado en obras como Los viajes de Gulliver de Jonathan Swift, en 1726.
Al comienzo del siglo XX encontramos la obra Nosotros del escritor ruso YevgueZamiatin, y El señor del Mundo de Robert H . Benson. La tríada fundacional de las distopías son Un mundo feliz, de Huxley; 1984, de George Orwell; y Fahrenheit 457, de Ray Bradbury. Estas obras fueron escritas cuando las computadoras eran una novedad y los algoritmos el alma de esa creación.
Todas estas obras comienzan presentando utopías idílicas en las que el hombre parece beneficiado por estos adelantos. Sin embargo, un análisis más profundo demuestra una distopía como valores negativos pero necesarios para que ese mundo funcione: manipulación de información económica y genética además de la necesaria detección del pensamiento ideológico que se aparte de los cánones oficiales.
Sin embargo, y por más que lo intuyeran, ni Orwell ni Huxley hablaron de una inteligencia artificial como la que sugiere Arthur C .Clark en su 2001, Odisea del espacio y más aún en la inquietante película de Stanley Kubrick cuando la computadora de la nave toma el control del viaje.
La gran incógnita del futuro la abre la IA que prefigura según las distintas perspectivas como la gran aliada del progreso o el camino al apocalipsis. Nunca antes la sociedad ha vivido un cambio tan profundo en tan poco tiempo.
EL GRAN SALTO
Hace apenas 30 años estábamos encantados con la Comodore 64, cuando hoy un celular tiene una capacidad muy superior a las computadoras que llevaron el hombre a la luna. A pesar de este prodigioso progreso el hombre es esencialmente el mismo que hace miles de años, con los mismos vicios y algunas virtudes.
Hemos aceptado sin chistar esta tecnología sin plantearnos quiénes son los hombres que conducen este cambio tecnológico y hacia dónde nos dirigimos como sociedad. Hace apenas unos días vimos cómo asumía Donald Trump una vez más la presidencia de los Estados Unidos. Con cierto asombro que despertó suspicacias vimos que la primera fila de invitados estaba conformado por los zares de las redes: Elon Musk, Jeff Bezos y Mark Zuckerberg, entre otros.
Minutos más tarde escuchamos que la primera medida de este gobierno era invertir una suma fabulosa para el desarrollo de la inteligencia artificial, algo que cuando Trump concluyó su primera presidencia apenas dejaba de ser una fantasía.
La pandemia nos obligó a recurrir a la realidad digital para gestionar nuestra vida y cada día, cada uno de nosotros genera 1.7 MB de data por segundo dejando nuestra huella en el ciberespacio que muestran nuestros gustos, inclinaciones políticas y aspiraciones. Este perfil digital marca nuestra preferencias y, a su vez, los puntos débiles y sensibles de nuestro ser.
Cada día manejamos más información y cada día estamos más desinformados (o mejor dicho, menos formados) porque nuestra capacidad es limitada y la sobreestimulación por noticias y fake news actúan como un factor alienante.
Existe un experimento hecho en 1954 en el que mostraba cómo una rata tenía acceso a una palanca conectada a los centros del placer en el cerebro. La rata cada vez que apretaba esa palanca recibía un estímulo gratificante. Esto lo empujaba a presionar la palanquita una y otra vez hasta que la rata moría porque dejaba de comer.
Quizás resulta simplista compararnos con ratas de laboratorio pero en la pandemia lo fuimos y lo seguimos siendo en forma insospechada. Muchos expertos anuncian que la IA mejorará nuestras vidas y también, periódicamente, se anuncia la eliminaciones de oficios y precarización de las profesiones. ¿Cómo va a influenciar esto nuestras vidas? ¿Seremos eternamente ociosos cuidando de no caer en depresiones y decadencia?
Se tienen los mecanismos para individualizar a cada persona y reconocer su perfil a fin de "orientarla y corregir” sus desvíos para conducirlos por las sendas del “bien” o lo que consideren como tal esta cibercracia de plutócratas.
Desde los albores de la humanidad los pensadores han temido ser prisioneros de un mundo de ilusiones. A ellos se refería Platón con su mito de la caverna o al demonio malicioso como creador de un mundo imaginario al que temía Descartes .
Esta revolución digital conducida por una oligarquía está cada día está más cerca de crear este mundo de ilusiones. La gente que construye estas redes tecnológicas conocen mucho mejor sus posibilidades que las personas que la regulan y así que siempre estarán un paso más allá de las autoridades y podrán evitar límites legales y éticos.
Los mismos empresarios que lideran la revolución de la inteligencia artificial ya se encargarán de bombardear al público con predicciones “color de rosa sobre el destino utópico que nos depara el futuro” (estas son palabras de Yuval Noah Harari de su libro Nexus) .
De allí a caer en la tiranía del algoritmo impuesta por esta plutocracia, hay un paso. ¿Lo hemos dado?