Por Robert Muggah *
Aunque la inteligencia artificial (IA) promete una revolución en la gobernanza, los negocios y la sociedad, también conlleva enormes riesgos, como la aceleración de la desinformación, los ciberataques sofisticados y el aumento del consumo energético. Otros riesgos, como la posibilidad de que máquinas superinteligentes tomen decisiones sin supervisión humana, están todavía un poco más lejos. Además, hay peligros que aún no se han identificado.
A pesar de los mensajes tranquilizadores del sector tecnológico, crece la preocupación por el impacto negativo de la rápida adopción de la IA en la sociedad, también en el sur global. El año pasado, el Instituto Igarapé (Brasil) y la Fundación New America convocaron un grupo de trabajo global, formado por expertos en IA de toda América, África y Asia, para debatir formas prácticas de mejorar la seguridad de la IA.
En 2024, este grupo de trabajo ha publicado un documento con una serie de estrategias para mitigar los riesgos y mejorar la resiliencia, así como para reducir las brechas de gobernanza y regulación de la IA entre el norte y el sur globales.
MENOS EMPLEO
Uno de los mayores riesgos destacados por el grupo de trabajo es la automatización masiva y la eliminación de puestos de trabajo. Se espera que el despliegue de la IA afecte a la mano de obra en sectores que van desde la agricultura, la industria y el comercio minorista hasta los ámbitos jurídico y médico y las consultorías de gestión.
Aunque inevitablemente se crearán nuevas formas de empleo, se calcula que el trabajo de al menos 800 millones de personas corre el riesgo de ser automatizado de aquí a 2030.
Una preocupación real es que los sectores poco cualificados de los países en desarrollo se vean desproporcionadamente afectados. La Organización Internacional del Trabajo estima que más del 56% de todos los empleos en los países de ingresos bajos y medios corren un “alto riesgo” de automatización. Sin las salvaguardias adecuadas, esto podría exacerbar la desigualdad económica y excluir a los trabajadores jóvenes y poco cualificados.
Otro riesgo asociado a la IA es la profundización de la exclusión digital y el aumento de la desigualdad. Es probable que la brecha entre los que tienen acceso a las tecnologías avanzadas y los que no aumente en los próximos años, lo que conducirá a una menor productividad, un menor crecimiento económico y una mayor desigualdad social y económica.
Esto es especialmente preocupante en los países de renta baja y media que ya se enfrentan a déficits de talento digital y servicios relacionados. Una de las principales razones es la relativa dificultad de acceso a la infraestructura digital y la escasa alfabetización digital de amplias zonas del sur global.
Otra amenaza importante es la intensificación de los prejuicios y la discriminación. Los sistemas de IA desarrollados en Estados Unidos, China y la Unión Europea pueden perpetuar y amplificar los prejuicios ya presentes en los datos utilizados para entrenar la IA. Esto puede dar lugar a resultados discriminatorios en ámbitos como la puntuación crediticia, la contratación de personal, las primas de seguros, la vigilancia policial y la justicia penal.
Los algoritmos siguen siendo en gran medida entrenados con conjuntos de datos proporcionados por los países más ricos. Como consecuencia, los trabajadores, estudiantes y empresarios de los países en desarrollo pueden verse injustamente excluidos de las oportunidades en el mercado laboral, los préstamos, las becas o los servicios sanitarios debido a algoritmos sesgados. Todo ello, a su vez, refuerza la discriminación estructural, incluidos los prejuicios raciales, de género y de clase.
VIGILANCIA Y PRIVACIDAD
La intensificación de la vigilancia y la violación de la privacidad también son motivo de preocupación. La integración de la IA en la vigilancia –desde ciudades inteligentes hasta la aplicación de la ley– puede vulnerar, intencionadamente o no, la privacidad, las libertades civiles y los derechos humanos. Esto es especialmente preocupante en países con instituciones democráticas más débiles, protecciones legales insuficientes y mecanismos de supervisión deficientes.
Una de las principales preocupaciones es que los regímenes autoritarios desplieguen sistemas basados en IA para vigilar a sus oponentes políticos, reprimir la disidencia y atacar a las comunidades marginadas por motivos étnicos, religiosos o ideológicos. Incluso en entornos democráticos, las plataformas de IA han contribuido al exceso de vigilancia policial, la elaboración de perfiles discriminatorios y las detenciones injustas.
Otro riesgo está relacionado con la excesiva dependencia de los actores del sur global de las tecnologías y los conocimientos extranjeros. Aunque en gran medida inevitable, la fuerte dependencia de las tecnologías e innovaciones de IA de Estados Unidos, China y Europa puede reducir los incentivos para que algunos países desarrollen sus propios sectores tecnológicos nacionales.
Estas dependencias podrían degradar su poder de negociación, dar lugar a costes más elevados para la tecnología y disminuir el control sobre las normas.
La erosión de la soberanía de los datos es una realidad, y la dependencia de proveedores extranjeros significa que los datos pueden ser más fácilmente accesibles, controlados, manipulados y explotados por actores externos. Esto, a su vez, puede aumentar vulnerabilidades como las violaciones de la privacidad y el robo de propiedad intelectual, además de reducir el control sobre infraestructuras tecnológicas críticas.
SOLUCIONES
Ante todos estos riesgos, ¿cuáles son las posibles soluciones para el sur global? Cada vez son más las voces que abogan por normas mundiales, cooperación internacional y programas específicos, como los propugnados en una resolución de la Asamblea General de la ONU de 2024 sobre inclusión de la IA y el recientemente acordado Pacto Digital, cuyo objetivo es superar las desigualdades digitales, de datos y de innovación.
El enviado tecnológico de la ONU y un órgano consultivo de alto nivel sobre IA han instado a gobiernos, empresas e investigadores a diseñar, desarrollar y desplegar tecnologías de IA de forma equitativa, inclusiva y sensible a los retos específicos a los que se enfrentan los países del sur global.
Estos y otros grupos han propuesto una serie de estrategias para mitigar los riesgos:
1- Formación y capacitacin: frente a la automatización y la reducción de puestos de trabajo, se reconoce la necesidad urgente de invertir en educación y formación profesional. Los trabajadores actuales y futuros deben poseer las competencias adecuadas para el mercado laboral en evolución, ya sea el conocimiento del mundo digital y la ciencia de datos, o el desarrollo de habilidades interpersonales.
2- Expansión de infraestructuras y conexión: en cuanto a las desigualdades digitales, los agentes públicos y privados tendrán que realizar una inversión significativa en infraestructura digital. Esto incluye ampliar el acceso a internet y a la banda ancha a los 2.600 millones de personas del sur global que aún no están conectadas, así como apoyar la creación y gestión de centros tecnológicos, especialmente en zonas desatendidas.
3- Transparencia algorítmica y protección de la privacidad: los prejuicios y la discriminación pueden reducirse estableciendo y aplicando directrices y normas éticas para el desarrollo y la aplicación de la IA. Como ha demostrado, entre otros, el grupo de trabajo global del Instituto Igarapé, los países y las empresas deben apoyar marcos normativos que exijan transparencia algorítmica y auditorías periódicas. También es necesaria una normativa clara sobre el uso de la IA para la vigilancia con el fin de minimizar las prácticas invasivas.
4- Apoyo a la investigación e innovación: para reducir la dependencia excesiva de los proveedores de tecnología extranjeros es necesaria una gran inversión no sólo en investigación y desarrollo locales de IA, sino también en la formulación de políticas de IA. Una de las prioridades es ampliar las subvenciones y los incentivos para las aceleradoras, las startups y las instituciones de investigación locales. Las asociaciones y la colaboración internacionales también desempeñan un papel clave, al igual que los centros dedicados a formar y educar a la mano de obra.
GOBERNANZA
Para hacer frente a estos riesgos y ampliar la aplicación de soluciones, es esencial reducir la diferencia en la gobernanza de la IA entre el norte y el sur global. Esta diferencia se manifiesta no sólo en las capacidades tecnológicas y la infraestructura digital y energética subyacente, sino también en el acceso a los recursos, el talento e incluso la formulación de políticas.
Como mínimo, esto requiere aumentar la participación de responsables de la toma de decisiones y expertos del sur global en el desarrollo, la regulación e incluso la formulación de políticas de IA, incluso en los contextos del G20 y la Ocde. También es fundamental promover el desarrollo de capacidades y el intercambio de conocimientos a través de institutos y centros de investigación especializados en IA.
El Pacto Mundial Digital se compromete a crear un fondo internacional bajo los auspicios de la ONU para estimular el uso de la IA para el desarrollo sostenible, así como a establecer un panel científico independiente y un diálogo mundial para anclar la IA en los derechos humanos.
* Cofundador del Instituto Igarapé, Pontificia Universidad Católica de Río de Janeiro.