COLUMNA DE OPINIÓN | CUIDANDO LOS ROSTROS HUMANOS Y SUS VOCES

​La tecnología, en todas sus áreas, es una obra maravillosa del ingenio humano que busca mejorar las condiciones de vida, de producción, aprovechar los recursos y ofrecer herramientas ante nuevos desafíos que se presentan a la vida humana. Pero cada tecnología tiene su “lado B”; pensemos en la crisis ecológica que nos tiene al borde del colapso planetario y que es consecuencia de las tecnologías vinculadas a la producción industrial. El producto estelar la tecnología actual es la Inteligencia Artificial (IA), que ofrece notables herramientas en las comunicaciones y la gestión de la información. Hoy la Iglesia celebra la Jornada de las Comunicaciones Sociales, y con ocasión de ella el Papa ofrece un mensaje relativo a las comunicaciones. Este año, el Papa León ofrece una reflexión sobre la IA, titulada “Custodiar voces y rostros humanos”, donde valorando los aportes que la IA ofrece, señala también, los riesgos que implica cuando se la asume con “una confianza ingenuamente acrítica como ‘amiga’ omnisciente, dispensadora de toda información, archivo de toda memoria, ‘oráculo’ de todo consejo”. Dice el Papa, “aunque la IA puede proporcionar apoyo y asistencia en la gestión de tareas comunicativas, eludir el esfuerzo de pensar por nosotros mismos y conformarnos con una recopilación estadística artificial, corre el riesgo de erosionar nuestras capacidades cognitivas, emocionales y comunicativas”. El desafío de la IA no es tecnológico, en el sentido de qué es lo que llegará a realizar la máquina, sino que es un desafío antropológico acerca de “qué podemos o podremos hacer nosotros, creciendo en humanidad y conocimiento, con un sabio uso de instrumentos tan poderosos a nuestro servicio”, señala el Papa León. Quizás todos hemos visto como la IA reproduce rostros y voces, haciendo “real” la ficción, pero señala el Papa: “en los últimos años, los sistemas de IA están asumiendo cada vez más el control de la producción de textos, música y vídeos. Gran parte de la industria creativa humana corre así el riesgo de ser desmantelada y sustituida por la etiqueta ‘Powered by AI’, convirtiendo a las personas en meros consumidores pasivos de pensamientos no pensados, de productos anónimos, sin autoría, sin amor”. El asunto es aún más serio, porque “simulando voces y rostros humanos, sabiduría y conocimiento, conciencia y responsabilidad, empatía y amistad, los sistemas conocidos como inteligencia artificial no solo interfieren en los ecosistemas informativos, sino que también invaden el nivel más profundo de la comunicación, el de la relación entre las personas”. Pero, en el rostro humano y la voz se encuentra la identidad personal: “el rostro y la voz son sagrados. Nos han sido dados por Dios, que nos ha creado a su imagen y semejanza, llamándonos a la vida con la Palabra que Él mismo nos ha dirigido […] Por tanto, custodiar rostros y voces humanas significa conservar este sello, este reflejo indeleble del amor de Dios. No somos una especie hecha de algoritmos bioquímicos definidos de antemano. Cada uno de nosotros tiene una vocación insustituible e inimitabile que surge de la vida y que se manifiesta precisamente en la comunicación con los demás […] El poder de la simulación es tal que la inteligencia artificial también puede engañarnos con la fabricación de ‘realidades’ paralelas, apropiándose de nuestros rostros y nuestras voces. Estamos inmersos en una multidimensionalidad, donde cada vez es más difícil distinguir la realidad de la ficción”. Es un gran desafío. El “lado B” de las tecnologías que aceleraron el proceso de industrialización es la crisis ecológica; ahora, el “lado B” de la tecnología de la IA puede ser una crisis antropológica, una crisis de humanidad. Es necesario que aprendamos a usar con sabiduría y en clave de humanización, y con una adecuada regulación, lo que esta herramienta nos ofrece. El Papa León propone tres caminos para una alianza con la IA: primero, responsabilidad personal, social, estatal y empresarial; segundo, cooperación que se traduzca en una legislación en la que “todas las partes interesadas -desde la industria tecnológica a los legisladores, desde las empresas creativas al mundo académico, desde los artistas a los periodistas y a los educadores- se impliquen en construir y hacer efectiva una ciudadanía digital consciente y responsable”, y en tercer lugar, educación que “aumente nuestras capacidades personales de reflexión crítica; evaluar la credibilidad de las fuentes y los posibles intereses que están detrás de la selección de información que nos llega, y comprender los mecanismos psicológicos que se activan ante ello”. Acerca de la necesidad de cultivar el pensamiento crítico, el Papa León ha dicho: “en el contexto de la revolución digital en curso, es necesario redescubrir, explicitar y cultivar el mandato de educar al sentido crítico, contrarrestando las tentaciones opuestas, que también pueden atravesar el cuerpo eclesial”. 17 mayo 2026