Ei Ai… ¡huuuy!

Luis Rodolfo Morán Quiroz*

Robert Francis Prevost (nacido en 1955), ducentésimo sexagésimo séptimo papa de la Iglesia (autodenominada) católica, noveno soberano de la Ciudad del Vaticano a partir del 8 de mayo de 2025, a un año y una semana de asumir el cargo, publicó su encíclica Magnifica Humanitas, sobre la custodia de la persona humana en el tiempo de la inteligencia artificial (https://www.vatican.va/content/leo-xiv/es/encyclicals/documents/20260515-magnifica-humanitas.html). No es casualidad que el actual Papa, conocido por algunos como ”BoB Pope”, quien optó por el nombre de León XIV, remita a la doctrina social de la Iglesia de Roma en esta encíclica, pues adoptó ese nombre en honor de León XIII (Gioacchino Vincenzo Raffaele Luigi Pecci; 1810-1903), promotor del tomismo como fundamento político, teológico y filosófico de la Iglesia y, notablemente, de la doctrina social de la Iglesia en encíclicas que son citadas con frecuencia en el contexto de la relación entre religión y sociedad, como son Aeterni Patri (1879), Humanus Genus (1884) y Rerum Novarum (1891). Si León XIII pone como precepto en la relación entre patrones y obreros “unir una clase con la otra por la aproximación y la amistad” y señala que los ricos habrán de “dar cuenta severísima al divino juez del uso de las riquezas”, León XIV advierte también de cómo la humanidad habrá de dar cuenta severísima del uso de la inteligencia. Especialmente de la artificial.

Es claro que estos papas, como en general los líderes religiosos de cualquier organización humana que se asume como vinculación con los poderes divinos y sobrenaturales, han de hacer llamados a la sensatez cada vez que se dirigen a sus audiencias, por más distraídas que estén o sordas que se finjan. Señala Robert Prevost en la mencionada encíclica que estos sistemas que imitan ciertas funciones de la inteligencia humana no residen en el horizonte afectivo, relacional y espiritual en el que el ser humano se vuelve sabio (…) La imitación artificial de la relación de cuidado o de acompañamiento puede ser peligrosa cuando se introduce en un contexto pobre de relaciones y de afectos reales; entonces el riesgo no es tanto que una persona crea que está hablando con otra persona, sino que pierda el deseo mismo de buscar realmente al otro y (…) De esto se deriva una consecuencia sencilla, pero apremiante: no podemos considerar a la IA como moralmente neutra (99, 100, 104).

Podríamos apuntar: “Pues tiene razón el Papa”, como sucede cada vez que es razonable (y cuando no, pues no). En un artículo publicado cuatro días después de que fuera nombrado el papa León XIV, Ulises Suárez Estavillo (2025) se pregunta: “¿La inteligencia artificial en la educación: ¿transformación o infoxicación? Un análisis crítico de la nueva frontera educativa” (https://www.scielo.org.mx/scielo.php?script=sci_arttext&pid=S2594-16822025000100069). Sin pretender un mensaje Urbi et Orbi, Suárez “explora la relación entre la inteligencia artificial (IA) y la infoxicación en la educación, analizando cómo la sobrecarga de información afecta la percepción y adopción de la IA entre educadores y estudiantes en la Universidad Autónoma de Sinaloa”. Algo muy local y a la vez, de moda por las recientes noticias sobre esa entidad federativa y por el estado de las tecnologías. Y señala que desarrollar competencia mediática “en educadores y estudiantes es fundamental para navegar el vasto mar de información disponible y discernir la información útil y confiable”. La infoxicación describe la sobrecarga de información que experimentan las personas en la era digital, en especial en contextos educativos. Sin que Robert Prevost haya copiado el texto de Suárez, mi opinión es que ambos coinciden en que algunas personas y los educadores entrevistados por Suárez en Sinaloa” prefieren evitar el uso de tecnologías que no comprenden completamente o que consideran potencialmente disruptivas, un fenómeno que pone de manifiesto la necesidad de filtros más efectivos y de una mayor educación sobre cómo gestionar y procesar la información disponible”.

La discusión va mucho más atrás. Las distopías en las que los robots y las computadoras se apropian del planeta y sus recursos y comienzan a hostigar, explotar o exterminar a los humanos son bastante más viejas, y recordaremos que históricamente sabemos de muchos profesores que no querían (o no quieren) trabajos mecanografiados ni en computadora, sino de puño y letra de cada estudiante, para asegurarse de que ellos mismos los hubieran pensado, elaborado, desarrollado y escrito con la caligrafía prescrita. Cabe apuntar que eso no significa que el cerebro del escribiente estuviera directamente conectado a la mano calígrafa, pues existe la posibilidad de que hubiese recurrido a sus sabios ancestros, a la enciclopedia o a alguna persona con capacidad y ánimos de dictadora. El filósofo y matemático León Olivé Morett (1950-2017) consigna en su libro El bien, el mal y la razón. Facetas de la ciencia y de la tecnología (2000): el “asunto Sokal”. En apretada síntesis, el físico Alan D. Sokal, profesor de física de la Universidad de Nueva York, publicó, en 1996, un texto en la revista Social Text intitulado “Traspasando las fronteras: hacia una hermenéutica transformativa de la gravedad cuántica” (he buscado el texto original, en inglés, pero —todavía— no he dado con él). Apunta Olivé que Sokal incluyó en su artículo deliberadamente afirmaciones erróneas o carentes de sentido, “lo cual podía ser detectado por cualquiera con un conocimiento de matemáticas de nivel universitario”. Sokal publicó también un artículo en donde explicaba la broma: “A Physicist Experiments with Cultural Studies” en la revista Lingua Franca, también en 1996. En ese segundo artículo, se preguntaba: “Would a leading North American journal of cultural studies -whose editorial collective includes such luminaries as Fredric Jameson and Andrew Ross- publish an article liberally salted with nonsense if (a) it sounded good and (b) it flattered the editors’ ideological preconceptions?” (https://physics.nyu.edu/faculty/sokal/lingua_franca_v4/lingua_franca_v4.html).

En otras contribuciones al análisis (de las que señalo dos: Romano, Berenice y Sonja Stajnfeld, (2022) “Caso Sokal: apuntes en el margen” www.revistaorbis.org/núm. 51 (año 17), abril 2022, 34-51 y Clara Márques Scotti e Ignacio Vilaró Luna (2014) “La resistencia al programa fuerte en la sociología del conocimiento: la asepsia científica y la amenaza del relativismo”, la discusión respecto a los aportes de quienes pretenden ofrecer una explicación social del producto de la actividad científica (intención denominada “programa fuerte de sociología del conocimiento”) resulta más amplia y prolongada en torno a las mediaciones, las construcciones y los alcances del conocimiento. Los problemas del conocimiento insuficiente y la honestidad intelectual a los que se alude en esos dos textos parecen remitir a lo que ya señalaban todos los demás autores aludidos previamente: la “Ei Ai” como se pronuncia en inglés, la inteligencia artificial, requiere que se le aproxime cum grano salis, es decir, ser escépticos respecto a los resultados que arroje. Cualquiera que haya probado usar alguna de las versiones de la IA se habrá dado cuenta de que suele ser bastante mentirosa, motivo por el cual podríamos estar fácilmente de acuerdo con lo que apunta Robert Prevost en el sentido de que no es moralmente neutra.

¿Qué implica esto para los usos de la IA en la educación? Mucho se ha discutido acerca de cómo se podría utilizar para elaborar escritos de fin de curso, tesis, artículos y otros pretendidos productos y reportes de investigación (empírica, literaria o filosófica). Combinada con los servicios anunciados para la elaboración de tesis (¿recuerdan los lectores cómo eran difundidos en las estaciones de radio tapatía los servicios de un tal profesor Estrada que ofrecía sacar a los estudiantes de ese embrollo de la tesis hace décadas?), en internet y en diversas plataformas, la IA puede dar lugar no sólo a la posibilidad de plagios, sino a la producción de textos sin sentido, lógica, cerebro, corazón, pies ni panza, que podrían ser revisados y analizados (¡o no!) por quienes evaluarán los productos y los aprendizajes de quienes se apertrechen detrás de esas elaboraciones que combinen un poco de inteligencia natural de quien se pasa de listo con una gran dosis de inteligencia artificial de gran velocidad y rango de búsqueda.

Ciertamente, el peligro que se cierne sobre los estudiosos y exploradores de la información es la posibilidad de que se encuentren recomendaciones inadecuadas, como en las sesiones de psicoterapia con una forma de IA (“ve y saca a tu persona amada de su rancho en tu fiel corcel”, por citar un consejo que todavía se da y obedece en el siglo XXI). Los riesgos incluyen la posibilidad de que los evaluadores y docentes no lean ni analicen los productos de la IA y simplemente confíen en la honestidad de los estudiantes, sea que los transcriban a mano o los dejen como salieron escritos en la computadora.

La IA puede ser objeto de llamados a la sensatez. Pero también lo pueden ser muchas otras de las creaciones de la humanidad: “Mucho cuidado con los textos encriptados”; “mucho cuidado con el uso del fuego”; “es riesgoso utilizar electricidad”; los teléfonos pueden servir para conjuraciones”; “los textos transmitidos por las pantallas de los celulares y las computadoras pueden facilitar acuerdos que deriven en actos ilícitos o adulterios”; “las armas de fuego, las bombas y los drones pueden matar a personas inocentes”. ¿De quién son los errores y de quién las responsabilidades? Robert Prevost, en su carácter de León XIV y ex cathedra, lo plantea así: “El discernimiento ético no se puede limitar a preguntarse si usamos un determinado sistema para un fin bueno o malo, sino que debe interrogarse también sobre el modo en el que está diseñado y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que lo guían” (otra vez el §104). Olivé, en su discusión del constructivismo kuhniano y el constructivismo devastador, advierte que “el único mundo que nosotros conocemos (…) no es un mundo visto desde la nada, sino siempre observado desde algún punto de vista”. (Olivé, 2000: 178). Las preguntas que quedan pendientes por resolver, y probablemente no serán respondidas de manera definitiva y contundente: ¿conviene utilizar la IA? ¿Autorizaremos o promoveremos su uso en el contexto escolar, como ya se aplican las pantallas y las computadoras con toda naturalidad y como se usaron las calculadoras y los ábacos en otros tiempos? ¿Consideramos las consecuencias para el aprendizaje de los estudiantes y para las responsabilidades de los docentes y las instituciones escolares de los distintos niveles? ¿La promoveremos en algunos niveles y la prohibiremos en otros? Por lo pronto, podemos escuchar los ecos de estupefacción y desconcierto: Ei Ai, ¡huuuy!

*Doctor en Ciencias Sociales. Profesor del Departamento de Sociología de la Universidad de Guadalajara. rmoranq@gmail.com