POR ROBERT MUGGAH *
Si bien la inteligencia artificial (IA) promete una revolución en el gobierno, las empresas y la sociedad, también presenta enormes riesgos, como la aceleración de la desinformación, los ciberataques sofisticados y el aumento del consumo de energía. Otros riesgos, como la posibilidad de que máquinas superinteligentes tomen decisiones sin supervisión humana, son todavía un poco menos graves. Además, existen peligros que aún no han sido identificados.
A pesar de los mensajes tranquilizadores del sector tecnológico, crece la preocupación por el impacto negativo de la rápida adopción de la IA en la sociedad, también en el entorno global. El año pasado, el Instituto Igarapé (Brasil) y la Fundación Nueva América convocaron a un grupo de trabajo global , formado por expertos en IA de toda América, África y Asia, para debatir formas prácticas de mejorar la seguridad.
En 2024, este grupo de trabajo publicó un documento con una serie de estrategias para mitigar riesgos y mejorar la resiliencia, así como para reducir las brechas en entre el norte y el sur global.
MENOS EMPLEOS
Uno de los grandes riesgos que destaca el grupo de trabajo es la automatización masiva y eliminación de áreas de trabajo. Se espera que el despliegue de la IA afecte a la fuerza laboral en sectores que van desde la agricultura, la industria y el comercio minorista hasta áreas legales y médicas y consultorías de gestión.
Aunque inevitablemente se crearán nuevas formas de empleo, se estima que el trabajo de al menos 800 millones de personas corre el riesgo de automatizarse de aquí a 2030.
Una preocupación real es que los sectores poco calificados de los países en desarrollo se vean afectados de manera desproporcionada. La Organización Internacional del Trabajo estima que más del 56% de todos los empleos en países con ingresos bajos y medios corren un “alto riesgo” de automatización.
EXCLUSION DIGITAL
Otro riesgo asociado a la IA es la profundidad de la exclusión digital y el aumento de la desigualdad. Es probable que la brecha entre quienes tienen acceso a tecnologías avanzadas y quienes no aumenten en los próximos años, lo que conducirá a una menor productividad, un menor crecimiento económico y una mayor desigualdad social y económica.
Esto es especialmente preocupante en los países de bajos ingresos que enfrentan déficits de talento digital y servicios relacionados. Una de las principales razones es la relativa dificultad de acceder a la infraestructura digital y la escasa alfabetización digital de grandes zonas del sur global.
Otra amenaza importante es la intensificación del daño y la discriminación. Los sistemas de IA desarrollados en Estados Unidos, China y la Unión Europea pueden perpetuar y amplificar el daño presente en los datos utilizados para entrenar la IA. Esto puede dar lugar a resultados discriminatorios en áreas como la calificación crediticia, la contratación de personal, las primas de seguros, la vigilancia policial y la justicia penal.
Los algoritmos siguen basándose en gran medida en conjuntos de datos proporcionados por los países más ricos. Como resultado, los trabajadores, estudiantes y empresarios de los países en desarrollo pueden verse injustamente excluidos de oportunidades en el mercado laboral, los prestamos o los brindamos servicios de salud debido a algoritmos deficientes. Todo esto, a su vez, refuerza la discriminación estructural, incluidos los prejuicios raciales, de género y de clase.
VIGILANCIA
La intensificación de la vigilancia y la violación de la privacidad también son motivo de preocupación. La integración de la IA en la vigilancia –desde las ciudades inteligentes hasta la aplicación de la ley– puede violar intencionalmente la privacidad, las libertades civiles y los derechos humanos. Esto es especialmente preocupante en países con instituciones democráticas más débiles, protecciones legales insuficientes y mecanismos de supervisión deficientes.
Una de las principales preocupaciones es que los regímenes autoritarios desplieguen sistemas basado en inteligencia artificial para monitorear a sus oponentes políticos, reprimir la disidencia y atacar a comunidades marginadas por razones étnicas, religiosas o ideológicas. Incluso en entornos democráticos, las plataformas de IA han contribuido a una vigilancia policial excesiva, la creación de perfiles discriminatorios y detenciones injustas.
SOBERANIA NACIONAL
Otro riesgo está relacionado con la excesiva dependencia de los actores globales de las tecnologías y el conocimiento extranjero. Aunque en gran medida es inevitable, existe una fuerte dependencia de las tecnologías e innovaciones de IA de Estados Unidos, China y Europa pueden reducir los incentivos para que algunos países desarrollen sus propios sectores tecnológicos nacionales.
Estas dependencias podrían degradar su poder de negociación y generar mayores costos para la tecnología.
La erosión de la soberanía de los datos es una realidad, y la dependencia de proveedores extranjeros significa que los datos pueden ser más fácilmente accesibles, controlados, manipulados y explotados por actores externos. Esto, a su vez, puede aumentar vulnerabilidades como las violaciones de la privacidad y el robo de propiedad intelectual, además de reducir el control sobre las infraestructuras tecnológicas críticas.
QUE HACER
Ante todos estos riesgos, ¿cuáles son las posibles soluciones? Cada vez hay más voces que abogan por estándares globales, cooperación internacional y programas específicos, como los propuestos en una resolución de la Asamblea General de la ONU de 2024 sobre la inclusión de la IA y el recientemente acordado Pacto Digital.
Se proponen una serie de estrategias para mitigar los riesgos:
1 - Formación y cualificación.
Ante la automatización y la reducción de las cargas de trabajo, se reconoce la urgente necesidad de invertir en educación y formación profesional. Los trabajadores actuales y futuros deben poseer habilidades adecuadas para el mercado laboral en evolución, así como conocimientos del mundo digital y la ciencia de datos, o el desarrollo de habilidades interpersonales.
Esto requiere la puesta en marcha de centros de formación profesional y cursos online, recursos de reciclaje, servicios de recolocación y prestaciones progresivas por desempleo, así como programas de renta básica universal .
Algunos ejemplos prometedores son la iniciativa AI for All en India, los embajadores digitales de Ruanda y el programa Conecta en Brasil, que está ayudando a personas y empresas a hacer la transición a la economía digital.
Mientras tanto, países como Kenia, Namibia e India están experimentando con la renta básica universal, con algunos resultados prometedores.
2. Ampliación de infraestructura y conexión
En cuanto a las desigualdades digitales, los agentes públicos y privados tendrán que realizar una importante inversión en infraestructura digital. Esto incluye ampliar el acceso a Internet y el ancho de banda a 2.600 millones de personas en todo el mundo que aún no están conectadas, así como apoyar la creación y gestión de centros tecnológicos, especialmente en zonas desatendidas.
También son esenciales políticas que promuevan el acceso equitativo a servicios digitales y programas tecnológicos de bajo costo. Los socios internacionales y regionales, incluidos los bancos multilaterales de desarrollo y las empresas multinacionales, desempeñan un papel importante.
3. Transparencia algorítmica y protección de la privacidad.
Las pérdidas y la discriminación pueden reducirse estableciendo y aplicando directrices y estándares éticos para el desarrollo y la aplicación de la IA. Como lo demostró, entre otros, el grupo de trabajo global del Instituto Igarapé, los países y las empresas deben apoyar marcos normativos que requieran transparencia algorítmica y auditorías periódicas.
Abordar de manera integral las violaciones de privacidad y vigilancia que requieren la creación y aplicación de leyes sólidas de protección de datos y privacidad para proteger la información personal. De estas cuestiones se están ocupando la Unión Europea y países como Brasil , India , Kenia , Sudáfrica y Tanzania , entre otros.
También se necesita una regulación clara sobre el uso de la IA para la vigilancia con el fin de minimizar las prácticas invasivas, así como campañas de sensibilización pública junto con la defensa por parte de la sociedad civil de protecciones más estrictas.
4 - Apoyo a la investigación y la innovación
Por último, para reducir la dependencia excesiva de los proveedores de tecnología extranjeros, sería necesaria una inversión importante no solo en la investigación y el desarrollo de la IA local, sino también en la formulación de políticas de IA. Una de las prioridades es ampliar las subvenciones e incentivos para aceleradores, startups e instituciones de investigación locales.
También juegan un papel clave las asociaciones y colaboraciones internacionales, así como los centros dedicados a la formación y educación en el trabajo práctico.
Si bien es necesario abordar preocupaciones estructurales como la legislación antimonopolio, existe una necesidad urgente de aumentar la inversión y la innovación en IA en el entorno global.
* Cofundador del Instituto Igarapé y Profesor de la Pontificia Universidad Católica de Río de Janeiro (PUC-Rio).