La IA, la democracia y el futuro en juego

El Foro DemocracIA, recientemente concluido en el Museo de Arte Moderno de Buenos Aires, dejó una estela de reflexiones urgentes sobre el impacto de la inteligencia artificial (IA) en la democracia y las elecciones, particularmente en el contexto latinoamericano. Expertos de diversas disciplinas y regiones geográficas convergieron en un llamado a la acción: la necesidad de una regulación responsable y contextualizada de la IA, la importancia de innovar con transparencia y la defensa de la integridad de la información en la era digital. El consenso en torno a la urgencia de regular la IA resonó con fuerza en el foro. Stephen King, CEO de Luminate, advirtió que "la ventana de gobernanza para la IA se está cerrando" y que América Latina debe actuar con celeridad para evitar que la tecnología profundice las desigualdades sociales existentes. La región enfrenta el desafío de adaptar marcos regulatorios que tengan en cuenta sus particularidades, evitando la simple copia de modelos externos.

La participación activa del Sur Global en los debates internacionales sobre la regulación de la IA también se erigió como un imperativo. Vanina Martínez, del Instituto de Investigación en Inteligencia Artificial de Barcelona, subrayó el riesgo de que los intereses de los países líderes en tecnología se impongan sobre los de la humanidad en su conjunto. América Latina, con su rica diversidad cultural y sus desafíos socioeconómicos específicos, tiene una voz crucial que aportar en la construcción de un futuro digital equitativo y justo.

Por otra parte, la innovación responsable emergió como un eje central de las discusiones. Claudia López, investigadora del Centro Nacional de Inteligencia Artificial en Chile, instó a reconocer y transparentar los límites y fallas de la IA. “Es muy importante que los países del Sur Global nos apropiemos de la IA y que dejemos de ser solo usuarios y proveedores de datos. Esto requiere infraestructura, habilidad y dominio de nuestros datos. Debemos repensar cómo distribuimos los beneficios y los costos de la IA”, señaló.

En tanto, Luciana Benotti, de la Universidad Nacional de Córdoba, alertó sobre los "sesgos emergentes" que ocurren cuando los modelos de IA se entrenan en un contexto y se aplican en otro, lo que puede resultar en discriminación y discursos de odio. “Para mitigarlos, es clave el diseño participativo y comunitario, hacer análisis de error discriminado por distintos grupos sociales, documentar los datos de entrenamiento y educar a quienes menos poder tienen”, señaló la académica al público presente.

La profesora asociada del Centro Berkman Klein para Internet y Sociedad de la Universidad de Harvard, Paola Ricaurte, advirtió que América Latina provee recursos naturales, datos y mano de obra barata para el desarrollo de la IA, y que las personas usuarias y los gobiernos de la región pagan costos muy altos por estas tecnologías. “Si no cambiamos radicalmente las condiciones del juego, veremos un crecimiento de la desigualdad en América Latina y a nivel global”, sentenció Ricaurte.

Stephen King, CEO de Luminate.

ELECCIONES EN LA ERA DE IA

El impacto de la IA en las elecciones fue otro tema candente en el foro. Menno Cox, de la Comisión Europea, compartió el éxito de la Ley de Servicios Digitales (DSA) de la UE en la prevención de incidentes graves de desinformación durante las elecciones europeas de este año. El DSA es la legislación europea para las plataformas de redes sociales, y por eso es central al lidiar con los temas de diseminación de desinformación y discursos de odio en línea, incluso con IA.

Cox destacó que la ley permitió a las instituciones prepararse para las elecciones, y afirmó que no se registraron incidentes graves de desinformación. Asimismo, explicó que es fundamental tener instituciones electorales independientes y sostuvo que, gracias a la nueva regulación, las compañías están obligadas dentro de la Unión Europea a responder pedidos de acceso a la información y rendir cuentas a instancias de la Comisión.

Además, Fernanda Martins, de InternetLab en Brasil, advirtió sobre la "desinformación generificada" y cómo esta afecta de manera desproporcionada a las candidatas mujeres. La IA puede ser utilizada para crear y difundir noticias falsas y contenido manipulado a una escala sin precedentes, lo que plantea serias amenazas para la integridad de los procesos electorales y la participación política equitativa.

BALUARTE DE LA VERDAD

Durante el encuentro, el periodismo y los medios de comunicación fueron reconocidos como actores fundamentales en la defensa de la democracia en la era de la IA. Se enfatizó la necesidad de que los medios adopten un enfoque crítico hacia la tecnología, evitando caer en el sensacionalismo y promoviendo la alfabetización mediática entre los ciudadanos. La verificación de la información, la transparencia sobre las fuentes y la contextualización de los datos son más cruciales que nunca en un entorno donde la desinformación se propaga a la velocidad de la luz.

Finalmente, el Foro DemocracIA dejó el mensaje entre los oyentes que la IA no es un destino inevitable, sino una herramienta que se puede moldear para servir a los valores democráticos. América Latina tiene la oportunidad de liderar una revolución tecnológica centrada en los derechos humanos, la inclusión y la justicia social. Para ello, la regulación, la transparencia, la rendición de cuentas y la participación ciudadana serán los pilares sobre los que se debe construir un futuro digital que fortalezca, en lugar de debilitar, las democracias.