El artículo de Marcelo Figueroa examina los apartados 102 a 110 del capítulo III de la encíclica Magnifica Humanitas, que tratan sobre responsabilidad, transparencia y gobernanza de la inteligencia artificial, y su aplicación en América Latina.
El artículo titulado «Responsabilidad, transparencia y gobernanza de la IA: una mirada latinoamericana de ‘Magnifica Humanitas'», escrito por Marcelo Figueroa, analiza la sección «Responsabilidad, transparencia y gobernanza de la IA» de la Carta Encíclica Magnifica Humanitas, específicamente los apartados #102 a #110 del capítulo III, titulado «Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA».
El texto sostiene que, para que la IA respete la dignidad humana y sirva al bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes confían en ellos para tomar decisiones concretas. Según el autor, no se puede considerar a la IA como un hecho puramente técnico ni revestirla de una moralidad, objetividad y neutralismo moral cuando puede haber usos antihumanos. Afirma que es necesario tomar la iniciativa axiomática que exceda la invocación moral y ética para que existan responsabilidades claras y gobernanza limitante para cuidar la familia humana. Además, considera urgente «desarmar a la IA», no solo desde las carreras armamentísticas, sino desde la dialéctica dominante para cuidar la Casa común.
En el contexto latinoamericano, el autor señala que estos conceptos de gobernanza, ética algorítmica y la necesidad de «desarmar la IA» tienen suma actualidad y presentan nuevos desafíos desde el punto de vista humano, jurídico, social, económico, político y ecológico. Menciona la presencia inesperada de discursos de odio étnico, descarte social e intolerancia religiosa que se multiplican a una velocidad virtual nunca conocida, lo que, en países mayormente pobres, construye «ideologías» impensadas hace pocos años y homogeneizadas sin ningún debate ético o moral. Sostiene que esta artillería algorítmica carece de los valores espirituales, culturales y políticos que nuestros pueblos han mantenido desde siglos como la compasión, la misericordia, la esperanza y el perdón.
El artículo cita textualmente varios pasajes de la encíclica. Por ejemplo, el apartado #102: «Las decisiones delicadas…, corren el riesgo de ser confiadas completamente a sistemas automatizados que no conocen «la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo», pudiendo así producir nuevas formas de descarte». El #103: «Puede haber usos evidentemente antihumanos, pero puede haber también un engaño menos evidente, cuando los sistemas de IA, presentándose como neutrales y objetivos, reflejan y refuerzan estereotipos o posiciones ideológicas de quienes los han diseñado y programado». El #104: «…el descarte de los débiles queda revestido de una neutralidad y una objetividad ante las cuales es imposible protestar. Y, de ese modo, la injusticia se realiza silenciosamente y la compasión, la misericordia y el perdón, no como simple apariencia, sino como gestos políticos, desaparecen del horizonte». Y concluye: «De esto se deriva una consecuencia sencilla pero apremiante: no podemos considerar a la IA como moralmente neutra».
Figueroa afirma que existe actualmente una tendencia en esferas de poder y gobierno de algunos países latinoamericanos a dejar que la IA se desarrolle privadamente sin control, sin regulaciones públicas responsables y a la velocidad que sea capaz. Señala que en muchos casos se argumentan valores genuinos como la libertad y el derecho al futuro, pero que la enorme asimetría entre los poderes económicos y políticos que dominan la IA y la escasez de recursos de nuestros pueblos, sumado a economías populares y nacionales diezmadas, hace de esto una distorsión distópica muy dañina. Sostiene que los gobiernos democráticos necesitan tener discernimiento ético, responsabilidad, rendición de cuentas, prudencia, educación y marcos jurídicos adecuados.
El autor también cita los apartados #105 a #108 de la encíclica, que abordan la necesidad de marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios y una política que no renuncie a su tarea. El #105: «Para que la IA respete la dignidad humana y sirva realmente al bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas». El #106: «Pedir prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana». El #107: «No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea». El #108: «No podemos limitarnos a invocar la moralización de la máquina, la denominada ‘alineación’ de la IA con los valores humanos, sin tener la valentía de poner una condición ulterior: la posibilidad de discutir el código ético que debe ser usado, sometiéndolo a criterios de justicia social compartida». Y agrega: «No serviría de nada una IA más moral, si esta moral es decidida por unos pocos».
Respecto de América Latina, el artículo señala que en el «continente moreno» no hay guerras, ni carrera armamentística ni utilización de la tecnología bélica para dominar. Sin embargo, afirma que desde otras latitudes han logrado incursionar quienes con poder tecnológico hallaron ambientes propicios para lograr que esto equivalga a tener derecho a tomar decisiones económicas, ecológicas, sociales y hasta políticas. Sostiene que este armamento tecnológico que ha migrado hasta nosotros necesita ser desarmado para que, sin desconocer su existencia, se lo haga asimilable y acogedor a nuestras culturas.
Finalmente, el autor cita el apartado #110 de la encíclica, que usa la palabra «desarmar»: «Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás. Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida. La tarea, hoy, no es sólo ética o técnica; es ecológica en el sentido más radical, porque interpela una nueva dimensión de nuestra Casa común. La IA es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta regularla; es necesario desarmarla y hacerla acogedora».
El artículo concluye con una adhesión al llamamiento del Papa León XIV en el apartado 111 de la encíclica, para que la innovación tecnológica sea «una forma humana de participación en el acto divino de la creación… con transparencia, con responsabilidad hacia las comunidades involucradas y con atención a verificar que lo que se cultiva sea realmente un bien».