IA, el nuevo Dios. ¿O el nuevo Diablo?

En 1968, años luz antes de Netflix y aún del Cable, los cinéfilos se conmovieron con una obra del icónico Stanley Kubrick, quién coguionó y dirigió su inolvidable 2001: Odisea del Espacio, sobre el cuento The Sentinel de otro autor icónico, Arthur C. Clarke, un grande de la de ciencia ficción, que, como ocurriera con el ruso-americano Isaac Asimov, su coetáneo Ray Bradbury, el visionario H.G. Wells, y el mismísimo Jules Verne, tuvieron la virtud no sólo de conmover  y sorprender con sus obras, sino de –sin proponérselo, quizás – anticipar sistemas, temáticas y tecnologías que después terminaron pareciéndose notablemente a la realidad.  

Seguramente las lectoras más empecinadas se desilusionarían si no se recordase aquí la versión radial de Orson Welles de La Guerra de los mundos del gran escritor profético inglés, cuya obra habría que releer para poner en su justo contexto muchos procedimientos de manipulación de masas que parecen hoy de última generación.  Justamente, el mismo Orson dio cátedra de ello en 1938 cuando por la emisora de la CBS convenció con esa pieza a medio Estados Unidos de que efectivamente se trataba de una real invasión de marcianos. Algo que podría evitar la invención de muchas pandemias para justificar tantos Hermanos Mayores despóticos o tantas inflaciones, tantos encierros y tiranías, tantas rentas universales, tantos derechos conculcados y tantos meteoritos gigantes chocando contra la tierra. 

Retornando al filme de Kubrick, y sin temor a spoilear algo archiconocido, se recordará que trata de una nave ultramoderna, tripulada, que se dirige secretamente a Júpiter en pos de detectar el origen de una señal de radio, supuestamente de un monolito negro que se cree encierra la historia y el origen del pensamiento humano, acaso de todo el universo. Su derrotero está guiado por una supercomputadora HAL9000, que lo guía con un programa rígido inexorable e infalible, como se concebía en esa época. El nombre HAL se inventó usando las letras previas a IBM en el alfabeto. (Curiosamente, 20 y 30 años después la empresa de los hombres de traje azul usaría dos veces la marca IBM 9000 para designar a sus computadores, entonces líderes en su rubro)

El momento crucial ocurre cuando HAL decide que sus tripulantes están siguiendo un procedimiento y un camino equivocado y toma control de la nave, desconociendo y hasta atacando a los astronautas, a quienes llega a leer los labios en una conversación en voz baja que mantienen. Bajo la influencia de las tres leyes de la robótica pergeñadas por Asimov en I Robot, (Yo robot) su libro de ficción que en 1950 sentó sin querer las bases de la robótica real futura, los críticos cinematográficos y aun el autor y el director, trataron la osadía de HAL como un error de la máquina, y no se les ocurrió, tal vez, que estaban ante un caso de un artefacto capaz de pensar por sí mismo y de tomar decisiones por su cuenta y sin cumplir una pauta prefijada, un camino de hierro del que no puede salir, un juego de reglas que no puede ignorar ni saltearse, sin elección posible. Queda como una incógnita discernir si HAL 9000 estaba cometiendo un error al decidir por su cuenta, o si se estaba describiendo sin querer lo que hoy sería un caso extremo de inteligencia general artificial. 

EL GENIO INGLES

El concepto de IA, o inteligencia artificial, no es nuevo, aunque sí lo es su desarrollo y evolución. Ya en 1950 en su artículo publicado en la revista Mind, bajo el título Computer Machinery and Intelligence, Alan Turing, el brillante criptógrafo, matemático, teórico cibernético, renacentista del conocimiento y runner británico planteaba lo que se conoció como La prueba de Turing, según la cual –en esencia-  se estaba ante la presencia de inteligencia artificial si una persona era incapaz de distinguir el razonamiento y el lenguaje humano del creado por una computadora. Se recordará que el genio inglés pasó a la historia por haber descifrado los códigos hitlerianos compilados con la máquina Enigma, para lo que usó en muchos puntos criterios que serían hoy pautas básicas de la IA, lo mismo que al desarrollar su extraña computadora, que se basaba en algoritmos casi físicos y en recursos mecánicos para su aplicación, que no incluían ninguna capacidad de teorización o independencia ideológica en su sistema. No puede dejar de conectarse esos métodos con el descubrimiento del halicín, el antibiótico de última generación desarrollado por modernas computadoras con programación basada en los algoritmos de inteligencia artificial, que no se apoyaron en estudios químicos, sino en el súper análisis de los datos empíricos que posibilita la actual capacidad de memoria y velocidad. Es justamente esa infinita capacidad de análisis lo que hace que en la actualidad la IA esté a un paso de reemplazar al ser humano con ventaja. 

¿Qué es la Inteligencia Artificial? Es la combinación de software multidisciplinario y de hardware y potencia de procesamiento, que permite que un sistema de computación de uno o varios procesadores aprenda o se autoenseñe, no sólo para actuar como un humano, sino para hacerlo muy por encima de esas capacidades, a velocidades y niveles ilimitados tanto en cantidad como en calidad como en innovación.  Para facilitar la comprensión por parte de los mortales comunes y legos en la materia, (entre los que el autor se encolumna orgullosamente por derecho propio) es útil recordar un proceso muy conocido, aunque no tenga efectos prácticos ni cambie la historia. Las partidas de ajedrez, (también de go) entre los humanos y las máquinas. 

Un viejo sueño considerado imposible. Ya en el siglo XVIII existía El Turco, un aparato seudo autómata que ganaba partidas a celebridades. Más tarde se descubrió que era un timo y en su interior había un hombre. Pero en 1997 Deep Blue, la computadora diseñada especialmente, propiedad de IBM a esa altura, logra, tras varios intentos y estudios, vencer a Garry Kasparov, campeón del mundo de ajedrez. Vale la pena entrar en los detalles. El sistema había “aprendido” miles y miles de aperturas, celadas, partidas, teorías, finales, y había contado con el aporte del propio Kasparov, contratado al efecto por los desarrolladores. Gozaba de una enorme ventaja: la velocidad y profundidad de análisis. Siempre pareció y parece un acto de soberbia darle el mismo tiempo de juego a una persona que a un computador. Sería como jugarle a Excel a hacer cálculos con un límite de tiempo. En algún lugar debe haber influido el ego del Oso de Bakú, o su bolsillo.

Un Kasparov desconocido y desconcertado en la partida definitoria haría luego del match varios planteos a IBM, algunos con razón, motivados por algunas imperfecciones y algo más. También es cierto que Garry comete algún error en alguna partida que le podría haber dado el triunfo. Pero la carrera se había lanzado. Es cierto que esa inteligencia artificial era una inteligencia enseñada bajo control humano, con pautas humanas y alcances humanos. A partir de ese momento el desarrollo fue muy importante, hasta llegar al mejor programa de esas características conocido hasta hoy, Stockfish, prácticamente imbatible. 

Pero cuando parecía terminada la discusión una empresa, DeepMind, desarrolla un concepto totalmente distinto, audaz y señero. Un programa dentro de un sistema especializado de hardware también especializado, que no aprende ninguna apertura, ninguna partida, ninguna celada, ni requiere de ningún trainer campeón del mundo. Se le enseñan solamente las reglas del ajedrez, del go chino y del shogi indojaponés, mucho más estratégicos estos dos últimos que el ajedrez. Se le da pocas horas a la máquina para que juegue contra sí misma y practique. Juega en 24 horas cientos de miles de partidas contra sí misma. Y llega a ganarle a todas las otras máquinas y programas, sin tener ningún antecedente, o conocer ninguna apertura, ningún match, sólo utilizando sus algoritmos y su velocidad de aprendizaje, que van más allá del pensamiento humano, no solamente en velocidad. El ajedrez deja de ser dominio del individuo, la Inteligencia Artificial autosostenible y autónoma acaba de nacer. Su representante es este programa: AlphaZero. Las máquinas juegan entre ellas. DeepMind es adquirida por Alphabet (Google), que aporta un invento potentísimo: un hardware-software inteligente, el tensor processor unit o TPU, con el que AlphaZero aprendió a integrarse. Un ser no humano pensante. Un cerebro superior al del hombre. 

La importancia de este programa radica además en que no tiene un tutor, en que no “piensa” de modo convencional, no aprende lo que el entrenador quiere. Crea su ilimitado marco de pensamiento sin control ni frontera alguna. Es una inteligencia artificial independiente, que aprende y hace lo que quiere. Indómita. Poderosa. Infinita. Una chispa Divina. 

RESPETO Y RESQUEMOR

El público se ha aproximado al concepto de la IA con bastante respeto y resquemor. Respeto por lo que puede alcanzar y hacer la innovación, resquemor por lo que la velocidad del cambio que puede implicar. Pero en todos los casos, su percepción del fenómeno se centra en un sistema enseñado, guiado, con pautas y límites tutelados. Lo que con tanta claridad, conocimiento y pensamiento de anticipación ha descripto en sus libros el intelectual y filósofo israelí también multifácético Yuval Noah Harari, autor entre otros libros de los deslumbrantes Homo Deus y 21 Lessons for the 21st. Century, donde describe el cambio apasionante que vivirán quienes nazcan ahora y los desafíos sociales, económicos y políticos que ello significará en las sociedades. 

Pero ahora aparece en escena el libro que escribió Henry Kissinger en colaboración con el ex CEO de Google durante los diez años fundamentales de su desarrollo y actual Chairman y asesor, y con el fundador de la escuela de computación en el MIT y en Cornell University: The Age of AI and Our Human Future, que ofrece una perspectiva adicional a la de Harari, mucho más estratégica, mucho más terrorífica, mucho más reflexiva, y definitivamente rayando en lo teológico. O en la nanoteología, para acuñar un término representativo. 

Kissinger comienza por sus obsesiones. Recuerda que el Orden Mundial del último siglo se dirimió con herramental bélico atómico, que era casi exhibido pomposamente para amedrentar al enemigo ideológico o bélico. Eso valía para el ataque como para la defensa. La pelea entre Estados Unidos y la URSS se dirimió por un acuerdo de destrucción de las armas atómicas ofensivas y sobre todo las defensivas. Hasta llegó a prohibirse a los países no atómicos el desarrollo de armas nucleares en dictadura compartida entre las mayores potencias bélicas. Nada de eso ocurre hoy. El poderío no es visible. Y no es exhibible. Al contrario. Se oculta. No se ve, no hay silos de misiles. No hay bravuconadas ni amenazas. No se puede acordar destruir conocimiento, como ocurrió con el SALT, donde se pactó la destrucción simultánea de armamento.  

El ex secretario de Estado sostiene que muchos de los episodios que se conocen hoy, hackeos, sistemas de troles y bots, alteración de la opinión pública con mensajes subliminales, (de los que republicanos y demócratas se acusaron según el caso y según el resultado en las elecciones americanas) son o bien actos de cuentapropismo o apenas muestras de la importancia que puede tener la IA para cambiar o predisponer el pensamiento de una sociedad, no sólo en la elección de determinado candidato, sino en las ideologías, y aún en la idiosincrasia. Quienes tienen un miedo histérico a que les implanten algún chip, tipo Matrix, vía vacunas o por otros métodos, deberían preocuparse del lavado de cerebro potencial de la Inteligencia Artificial, que con la capacidad de hablar como un humano, pero con razonamientos y alcances dialécticos ilimitados, más poderosos que los de cualquier ser vivo, pueden convencer a cualquiera de cualquier cosa. Un modesto pero generalizado ejemplo lo dan las agencias de publicidad, cuyos presupuestos de gastos se concentran en un 80% en el uso de esos recursos. No es casualidad que cuanto más totalitario sea un pensamiento político o una ideología, más se insista en la democracia directa instantánea o en la toma de la calle, mecanismo ideal para la acción así estimulada. 
 
SKYNET

Si se permite que la IA controle el poderío bélico de un país, se corre el riesgo de que las computadoras tomen decisiones que excluyan el pensamiento y aún el sentimiento humano, algo nada menor. ¿Qué pasa si una máquina decide que debe destruir a otro país porque es conveniente para los fines de quién la empoderó, más allá de que sea amigo o no? Semejante posibilidad, que antes era una remota hipótesis, ahora es real y factible, sobre todo cuando se excluyen las condiciones de humanidad, culpa, respeto, compasión, o la capacidad de pactar, negociar, que en definitiva es un acto de imperfecciones e insatisfacciones mutuas, todas manifestaciones de debilidad que la Inteligencia Artificial no tolera. 

No hay manera de conocer el poderío del rival o del enemigo. No hay manera de impedir que un sistema energético, educativo, financiero, aéreo, bélico, o cualquier otro que dependa de la computación y aún sin ella no pueda ser dañado, saboteado, controlado o destruído por quienes usen esa Inteligencia o por la Inteligencia misma, por su cuenta. No hay capacidad de disuasión posible, y, aún más grave, no hay mecanismo fácil de negociación para limitar la acción o excluir ciertas acciones, como fue el gas mostaza en la primera guerra o el ataque a hospitales, escuelas ambulancias. O los campos minados. Y aún si se pactaran no serían verificables. Ni siquiera controlables, dada las características de la programación. 

Porque Kissinger plantea otro fenómeno. La inteligencia y el nivel de “pensamiento” de la IA son hoy mismo varios niveles superiores al del ser humano, y lo son más cuando más se trate de un sistema del estilo AlphaZero antes descripto, donde la máquina sigue aprendiendo y tomando decisiones por su cuenta, y como HAL, decide de pronto que los tripulantes están equivocados. ¿Qué moral, qué ética, que reglas tendrá esa Inteligencia? ¿Quién se las pautará y la controlará?  ¿Como? Y, sobre todo: ¿cómo se podrá encuadrar o limitar su uso o abuso cuando pertenezca a otro país? Y aunque hubiera un pacto, ¿qué pasaría si las computadoras no lo aceptaran o cumplieran? ¿Quién apagaría el sistema, como en Odisea del Espacio? 

Por supuesto que el campo de los beneficios que ofrece es muy grande, y sería insensato no aprovechar esas posibilidades. Pero en todos los casos, el peligro de la no limitación, o el libre albedrío de la IA supera las ventajas que puede ofrecer. Kissinger aboga por esas limitaciones. Advierte contra lo que denomina la Inteligencia General Artificial.  Odia las AlphaZero, sugiere que las máquinas deben estar más cerca de las leyes de los robots de Asimov que siguen otorgando el centro de la creación al ser humano. Porque, ¿dónde queda el hombre hecho a imagen y semejanza de Dios? ¿Dónde queda la filosofía? Es cual si de pronto surgiera un escalón entre el hombre y su Creador. Como si una inteligencia infinita diera las órdenes. No hay filosofía sin Dios en su centro, como enseñaron Baruch y Schopenhauer. 

FENOMENOS ZOMBICOS

Suena fantasiosa la idea, pero no lo es desde el punto de vista de las posibilidades que la evolución técnica permite hoy. Lucirá fantasiosa, pero no es inviable. Ni descartable.  Tal vez las sociedades ya están controladas y no se dan cuenta. Cuando se observan los fenómenos populares irracionales que se producen en países con sistemas, problemáticas, éticas y etnias, leyes, gobiernos y costumbres diferentes, no es difícil imaginar que cumplen una orden que los transforma en zombies. Como temiera H.G. Wells, como esbozara Bradbury, como se sorprendiera Kasparov. Máxime cuando esos fenómenos zómbicos son confluyentes, o convergentes y funcionales.  

La combinación de la Inteligencia Artificial con el deseo de regir el Orden Mundial es tal vez la amenaza mayor concreta, en una guerra virtual que ha transformado el poderío atómico en obsoleto, incómodo e ineficiente. Pero peor es el concepto del hombre dominado por la máquina, que pasará a ser su Dios, o su Demonio. AlphaZero es una advertencia y una profecía. El ajedrez, símbolo de la lógica y la inteligencia, ya ha dejado de ser humano. 

Tiene sentido recordar el final de 2001, Odisea del espacio: preso de la máquina, el hombre viaja hasta el límite del infinito, y allí involuciona hacia la nada, hasta transformarse en un feto horrendo astronáutico del estilo de los dibujos mayas extraterrestres de von Däniken, un monigote que no tiene ningún parecido con la criatura preferida de Dios.

Usted ya se dio cuenta de que cuando mira su notebook o su celular, como en la orwelliana 1984, ellos lo están mirando a usted. ¡Cuidado! También le pueden estar ordenando cómo pensar y cómo sentir.