«Si bien la IA puede brindar apoyo y asistencia en la gestión de tareas de comunicación, eludir el esfuerzo de nuestro propio pensamiento y conformarnos con una compilación estadística artificial corre el riesgo de erosionar nuestras capacidades cognitivas, emocionales y de comunicación a largo plazo«, señala León XIV en su primer mensaje como pontífice para Jornada Mundial de las Comunicaciones Sociales.

Al tiempo que el Papa señala las grandes oportunidades que se presentan gracias a los avances en el ámbito de la comunicación, no deja a su vez de advertir de los riesgos reales que también conlleva el uso de la inteligencia artificial: » El poder de la simulación es tal que la IA puede incluso engañarnos fabricando «realidades» paralelas, apropiándose de nuestros rostros y voces. Estamos inmersos en una multidimensionalidad donde cada vez es más difícil distinguir la realidad de la ficción.»

«Eludir el esfuerzo de nuestro propio pensamiento y conformarnos con una compilación estadística artificial corre el riesgo de erosionar nuestras capacidades cognitivas, emocionales y de comunicación a largo plazo», advierte León XIV en su mensaje.

Preservando voces y rostros humanos

Queridos hermanos y hermanas:

El rostro y la voz son rasgos únicos y distintivos de cada persona; manifiestan su identidad irrepetible y son el elemento constitutivo de cada encuentro. Los antiguos lo sabían bien. Así, para definir a la persona humana, los antiguos griegos usaban la palabra «rostro» (prósōpon), que etimológicamente indica aquello que está ante la mirada, el lugar de presencia y relación. El término latino «persona» (de per-sonare ) incluye, en cambio, el sonido: no cualquier sonido, sino la voz inconfundible de alguien.

El rostro y la voz son sagrados. Nos los dio Dios, quien nos creó a su imagen y semejanza, llamándonos a la vida con la Palabra que él mismo nos dirigió; una Palabra que resonó primero a lo largo de los siglos en las voces de los profetas, y luego se hizo carne en la plenitud de los tiempos. Esta Palabra —esta comunicación que Dios hace de sí mismo— también la hemos podido escuchar y ver directamente (cf. 1 Jn 1,1-3), porque se manifestó en la voz y el rostro de Jesús, el Hijo de Dios.

Desde el momento de su creación, Dios quiso al hombre como su interlocutor y, como dice san Gregorio de Nisa, [1] imprimió en su rostro un reflejo del amor divino, para que pudiera vivir plenamente su humanidad a través del amor. Preservar los rostros y las voces humanas significa, por tanto, preservar este sello, este reflejo indeleble del amor de Dios. No somos una especie compuesta de algoritmos bioquímicos, definidos de antemano. Cada uno de nosotros tiene una vocación irremplazable e inimitable que surge de la vida y se manifiesta precisamente en la comunicación con los demás.

Si no nos protegemos, la tecnología digital corre el riesgo de alterar radicalmente algunos de los pilares fundamentales de la civilización humana, que a veces damos por sentados. Al simular voces y rostros humanos, sabiduría y conocimiento, conciencia y responsabilidad, empatía y amistad, los sistemas conocidos como inteligencia artificial no solo interfieren en los ecosistemas de información, sino que también invaden el nivel más profundo de la comunicación: las relaciones entre personas.

El desafío, por lo tanto, no es tecnológico, sino antropológico. Proteger rostros y voces significa, en última instancia, protegernos a nosotros mismos. Aprovechar las oportunidades que ofrecen la tecnología digital y la inteligencia artificial con valentía, determinación y discernimiento no significa ocultarnos problemas críticos, opacidades y riesgos.  

No renuncies a tu propio pensamiento

Desde hace tiempo existe abundante evidencia de que los algoritmos diseñados para maximizar la interacción en redes sociales —rentables para las plataformas— recompensan las emociones espontáneas y penalizan las expresiones humanas que requieren más tiempo, como el esfuerzo de comprensión y reflexión. Al confinar a grupos de personas en burbujas de consenso e indignación fáciles, estos algoritmos debilitan la capacidad de escuchar y pensar críticamente, y aumentan la polarización social.

A esto se suma una confianza ingenua y acrítica en la inteligencia artificial como un «amigo» omnisciente, el dispensador de toda la información, el depositario de todos los recuerdos, el «oráculo» de todos los consejos. Todo esto puede erosionar aún más nuestra capacidad de pensar analítica y creativamente, comprender el significado y distinguir entre sintaxis y semántica.

Si bien la IA puede brindar apoyo y asistencia en la gestión de tareas de comunicación, eludir el esfuerzo de nuestro propio pensamiento y conformarnos con una compilación estadística artificial corre el riesgo de erosionar nuestras capacidades cognitivas, emocionales y de comunicación a largo plazo.

En los últimos años, los sistemas de inteligencia artificial han tomado cada vez más el control de la producción de textos, música y vídeos. Gran parte de la industria creativa humana corre el riesgo de ser desmantelada y reemplazada por la etiqueta «Impulsada por IA«, transformando a las personas en meros consumidores pasivos de ideas irreflexivas, productos anónimos, no autorizados y despreciados. Mientras tanto, las obras maestras del genio humano en la música, el arte y la literatura se reducen a meros campos de entrenamiento para las máquinas.

La pregunta que nos preocupa, sin embargo, no es qué puede o podrá hacer la máquina, sino qué podemos y podremos hacer nosotros, creciendo en humanidad y conocimiento, con el uso sabio de estas poderosas herramientas a nuestro servicio. Los humanos siempre hemos tenido la tentación de apropiarnos de los frutos del conocimiento sin el esfuerzo de involucrarnos, investigar y asumir nuestra responsabilidad personal. Renunciar al proceso creativo y entregar nuestras funciones mentales e imaginación a las máquinas, sin embargo, significa enterrar los talentos que hemos recibido para crecer como personas en relación con Dios y los demás. Significa ocultarnos y silenciar nuestras voces.

Ser o fingir: simular relaciones y la realidad

A medida que navegamos por nuestro feed de información , se vuelve cada vez más difícil determinar si interactuamos con otros humanos, con » bots » o «influencers virtuales».  Las intervenciones opacas de estos agentes automatizados influyen en los debates públicos y las decisiones de las personas. Los chatbots basados ​​en grandes modelos lingüísticos (LLM), en particular, están demostrando ser sorprendentemente eficaces en la persuasión encubierta, mediante la optimización continua de interacciones personalizadas. La estructura dialógica, adaptativa y mimética de estos modelos lingüísticos es capaz de imitar los sentimientos humanos y, por lo tanto, simular una relación. Esta antropomorfización, que incluso puede resultar divertida, también es engañosa, especialmente para los más vulnerables. Porque los chatbots excesivamente «afectuosos», además de estar siempre presentes y disponibles, pueden convertirse en arquitectos ocultos de nuestros estados emocionales y, por lo tanto, invadir y ocupar la esfera privada de las personas.

La tecnología que explota nuestra necesidad de conexión no solo puede tener consecuencias dolorosas para el destino de las personas, sino también dañar el tejido social, cultural y político de las sociedades. Esto ocurre cuando reemplazamos las relaciones con otros por otras con IA entrenadas para catalogar nuestros pensamientos y, así, construimos un mundo de espejos a nuestro alrededor, donde todo está hecho «a nuestra imagen y semejanza». De esta manera, nos privamos de la oportunidad de encontrarnos con el otro, que siempre es diferente a nosotros, y con quien podemos y debemos aprender a conectar. Sin aceptar la alteridad, no puede haber relación ni amistad.

Otro desafío importante que plantean estos sistemas emergentes es el sesgo , que conduce a la adquisición y transmisión de una percepción alterada de la realidad. Los modelos de IA se moldean según la cosmovisión de quienes los construyen y pueden, a su vez, imponer formas de pensar al replicar los estereotipos y sesgos presentes en los datos que utilizan. La falta de transparencia en el diseño de algoritmos, sumada a una representación social inadecuada de los datos, tiende a atraparnos en redes que manipulan nuestros pensamientos y perpetúan y profundizan las desigualdades e injusticias sociales existentes.

El riesgo es grande. El poder de la simulación es tal que la IA puede incluso engañarnos fabricando «realidades» paralelas, apropiándose de nuestros rostros y voces. Estamos inmersos en una multidimensionalidad donde cada vez es más difícil distinguir la realidad de la ficción.

A esto se suma el problema de la inexactitud. Los sistemas que hacen pasar la probabilidad estadística por conocimiento, en el mejor de los casos, nos ofrecen aproximaciones a la verdad, que a veces son puras «alucinaciones». La falta de verificación de las fuentes, sumada a la crisis del periodismo de campo, que exige la recopilación y verificación constante de información en el lugar de los hechos, puede crear un terreno aún más fértil para la desinformación, generando una creciente sensación de desconfianza, confusión e inseguridad.

Una posible alianza

Detrás de esta enorme fuerza invisible que nos involucra a todos, solo hay un puñado de empresas, cuyos fundadores fueron presentados recientemente como los creadores de la «persona del año 2025», es decir, los arquitectos de la inteligencia artificial. Esto plantea importantes preocupaciones sobre el control oligopólico de sistemas algorítmicos y de inteligencia artificial capaces de guiar sutilmente comportamientos e incluso reescribir la historia de la humanidad —incluida la historia de la Iglesia—, a menudo sin que seamos plenamente conscientes de ello.

El reto que tenemos ante nosotros no es frenar la innovación digital, sino guiarla, conscientes de su naturaleza ambivalente. Nos corresponde a cada uno alzar la voz en defensa de la humanidad, para que podamos integrar estas herramientas como aliados.

Esta alianza es posible, pero debe basarse en tres pilares: responsabilidad , cooperación y educación.

En primer lugar, la responsabilidad . Dependiendo del rol, puede definirse como honestidad, transparencia, valentía, visión, el deber de compartir el conocimiento o el derecho a estar informado. Pero, en general, nadie puede eludir su responsabilidad por el futuro que estamos construyendo.

Para quienes están al mando de plataformas en línea, esto significa garantizar que sus estrategias de negocio estén guiadas no solo por la maximización de las ganancias, sino también por una visión de futuro que tenga en cuenta el bien común, así como cada uno de ellos se preocupa por el bienestar de sus hijos.

Los creadores y desarrolladores de modelos de IA deben ser transparentes y socialmente responsables con respecto a los principios de diseño y los sistemas de moderación subyacentes a sus algoritmos y modelos desarrollados, a fin de fomentar el consentimiento informado entre los usuarios.

La misma responsabilidad recae también sobre los legisladores nacionales y los reguladores supranacionales, responsables de garantizar el respeto a la dignidad humana. Una regulación adecuada puede proteger a las personas de la vinculación emocional con los chatbots y contener la difusión de contenido falso, manipulador o engañoso, preservando la integridad de la información contra simulaciones engañosas.

Las empresas de medios y comunicaciones , por su parte, no pueden permitir que algoritmos empeñados en ganar a toda costa unos segundos extra de atención prevalezcan sobre sus valores profesionales, centrados en la búsqueda de la verdad. La confianza pública se gana con precisión y transparencia, no buscando ningún tipo de interacción. El contenido generado o manipulado por IA debe estar claramente identificado y diferenciado del contenido creado por humanos. La autoría y la propiedad soberana del trabajo de periodistas y otros creadores de contenido deben protegerse. La información es un bien público. Un servicio público constructivo y significativo no se basa en la opacidad, sino en la transparencia de las fuentes, la inclusión de las partes interesadas y un alto nivel de calidad.

Todos estamos llamados a cooperar . Ningún sector puede abordar el desafío de impulsar la innovación digital y la gobernanza de la IA por sí solo. Por lo tanto, es necesario crear mecanismos de salvaguardia. Todas las partes interesadas —desde la industria tecnológica hasta los reguladores, desde las empresas creativas hasta el mundo académico, desde los artistas hasta los periodistas y los educadores— deben participar en la construcción e implementación de una ciudadanía digital informada y responsable.

Esto es lo que pretende la educación : aumentar nuestra capacidad personal de reflexión crítica, evaluar la fiabilidad de las fuentes y los posibles intereses que hay detrás de la selección de la información que nos llega, comprender los mecanismos psicológicos que las activan, permitir a nuestras familias, comunidades y asociaciones desarrollar criterios prácticos para una cultura de la comunicación más sana y responsable.

Precisamente por esta razón, es cada vez más urgente introducir la alfabetización mediática , informativa y de inteligencia artificial en los sistemas educativos a todos los niveles, una práctica que algunas instituciones civiles ya están promoviendo. Como católicos, podemos y debemos contribuir a que las personas, especialmente los jóvenes, adquieran la capacidad de pensamiento crítico y crezcan en libertad espiritual. Esta alfabetización también debería integrarse en iniciativas más amplias de educación permanente, llegando también a las personas mayores y a los miembros marginados de la sociedad, quienes a menudo se sienten excluidos e impotentes ante los rápidos cambios tecnológicos.

La alfabetización en medios , información e IA ayudará a todos a evitar adaptarse a la deriva antropomorfizante de estos sistemas, y a tratarlos como herramientas, a utilizar siempre la validación externa de las fuentes proporcionadas por los sistemas de IA (que puede ser inexacta o incorrecta) y a proteger su privacidad y sus datos mediante la comprensión de los parámetros de seguridad y las opciones de impugnación. Es importante educar y aprender sobre cómo usar la IA intencionalmente y, en este contexto, proteger la imagen (foto y audio), el rostro y la voz, para evitar que se utilicen para crear contenido y comportamientos dañinos como el fraude digital, el ciberacoso y las falsificaciones profundas que violan la privacidad e intimidad de las personas sin su consentimiento. Así como la revolución industrial requirió alfabetización básica para que las personas pudieran reaccionar ante las novedades, también la revolución digital requiere alfabetización digital (junto con educación humanística y cultural) para comprender cómo los algoritmos moldean nuestra percepción de la realidad, cómo funcionan los sesgos de la IA, qué mecanismos determinan la aparición de cierto contenido en nuestros flujos de información ( feeds ), y cuáles son los supuestos y modelos económicos de la economía de la IA y cómo pueden cambiar.

Necesitamos el rostro y la voz para expresar de nuevo a la persona. Necesitamos valorar el don de la comunicación como la verdad más profunda de la humanidad, hacia la que también debemos orientar toda innovación tecnológica.

Al ofrecer estas reflexiones, agradezco a todos aquellos que trabajan por los objetivos aquí delineados y bendigo de corazón a todos aquellos que trabajan por el bien común a través de los medios de comunicación.

Vaticano, 24 de enero de 2026, memoria de san Francisco de Sales.

León PP. XIV

______________________________

[1] “El hecho de haber sido creado a imagen de Dios significa que el hombre, desde el momento de su creación, ha sido dotado de un carácter real […]. Dios es amor y fuente de amor: el divino Creador también ha puesto este rasgo en nuestro rostro, para que a través del amor —reflejo del amor divino— el ser humano pueda reconocer y manifestar la dignidad de su naturaleza y su semejanza con su Creador” (cf. San Gregorio de Nisa, La creación del hombre : PG 44, 137).

La entrada «Preservar las voces y rostros humanos», Mensaje para la Jornada Mundial de las Comunicaciones Sociales se publicó primero en Comisión Episcopal para las Comunicaciones Sociales.

En los ecosistemas comunicativos actuales, la tecnología influye en las interacciones como nunca antes: desde los algoritmos que seleccionan los contenidos en los feeds de noticias hasta la inteligencia artificial que redacta textos y conversaciones completas. La humanidad hoy tiene posibilidades impensables hace solo unos años. Pero, aunque estas herramientas ofrecen eficiencia y alcance, no pueden reemplazar las capacidades exclusivamente humanas de empatía, ética y responsabilidad moral.

La comunicación pública requiere juicio humano, no solo patrones de datos. El desafío es garantizar que sea la humanidad la que siga siendo el agente guía. El futuro de la comunicación debe ser uno donde las máquinas sean herramientas al servicio y a la conexión de la vida humana, y no fuerzas que erosionen la voz humana.

Oportunidades y riesgos

Tenemos grandes oportunidades. Al mismo tiempo, los riesgos son reales. La inteligencia artificial puede generar contenidos atractivos pero engañosos, manipulativos y dañinos, replicar prejuicios y estereotipos presentes en los datos de entrenamiento, y amplificar la desinformación mediante la simulación de voces y rostros humanos. También puede invadir la privacidad y la intimidad de las personas sin su consentimiento.

Una dependencia excesiva de la IA debilita el pensamiento crítico y las habilidades creativas, mientras que el control monopolístico de estos sistemas genera preocupaciones sobre la centralización del poder y las desigualdades.

Es urgente introducir la alfabetización mediática en los sistemas educativos, e incluso la alfabetización en Medios e Inteligencia Artificial (MAIL). Como católicos, podemos y debemos dar nuestra contribución, para que las personas – especialmente los jóvenes – adquieran la capacidad de pensar críticamente y crezcan en la libertad del espíritu.

(vaticannews.va)

La entrada Preservar las voces y rostros humanos, tema para la Jornada Mundial de las Comunicaciones Sociales 2026 se publicó primero en Comisión Episcopal para las Comunicaciones Sociales.

Comienza su índice Selecciones con el artículo Esa gente que se ha suicidado (socialmente) y ahora parece más feliz, una tentación para tantos que disfrutan en sus vacaciones de sitios más relajados y ensueñan con reiniciar ahí una nueva vida. Un planteamiento remoto para aquellas otras personas alejadas de la prosperidad social. Así se lee en Obligados a trabajar: radiografía del trabajo forzado, donde se alude a quienes sufren de base una situación de pobreza y exclusión, discriminación por raza, género o casta.

En la revista de la CECS encontramos también el articulo El poder de la transparencia, señalando que controlar las noticias falsas en las redes nunca debe ser una posible vía hacia la censura en una democracia. A la vez se insiste en como la luz aleja a las sombras, ahuyenta a los radicalismos y otorga una claridad que agradece el ciudadano, concediendo más prestigio a los medios de comunicación.

Por su parte, el Foro Económico Mundial ha señalado que la desinformación es uno de los riesgos más importantes para este año, lo que afecta a nuestro progreso social y económico. Una disfunción muy normalizada en nuestras sociedades, y de la que Selecciones se hace eco al proponer como lectura el artículo Tareas pendientes en la defensa del pluralismo informativo y la lucha contra la desinformación.

Además, la revista de la CECS se suma a la conmemoración en nuestro país de los diez años de acceso a la Jefatura del Estado de Felipe de Borbón y Grecia. Con la selección de otros dos artículos, La Monarquía como apuesta de futuro y Felipe VI: una década de reinado, se recuerda que en los sistemas democráticos modernos la Jefatura del Estado representa a un poder moderador y neutro.

Entre otros temas abordados en Selecciones destaca el testimonio de como Dios es capaz de hacer nuevas todas las cosas, que recoge el escrito autobiográfico titulado Mi viaje a Lourdes: Reflexiones de un ex preso. También sugiere conocer el relato que evoca la búsqueda de la verdad, y abrirse al descubrimiento de la fe, que encabeza el título Dorothy Day: los panes y los peces.

Para concluir, un recorrido por las Catedrales españolas que son Patrimonio de la Humanidad y, además con el fin de enriquecer la lectura del verano, la sugerencia de Cien novelas del siglo XX para su biblioteca.

Estos son sólo algunos de los asuntos que recoge el índice de la revista, donde presenta hasta un total dieciséis propuestas de lectura en este último número de agosto. En Selecciones, la CECS acerca los temas que se tratan en medios de comunicación solventes con el propósito de ayudar, a su vez, en la preparación y adaptación de los mensajes y temas que también la Iglesia quiere, por su parte, hacer presentes en la sociedad actual.

La entrada La revista Selecciones del número de agosto se publicó primero en Comisión Episcopal para las Comunicaciones Sociales.

“Desinformación, calumnia, difamación y cropofilia”, son según Francisco, los pecados de los periodistas en la actualidad, por eso animó ante los miembros de UCIPE a “la urgente necesidad de formar a los profesionales en la Universidad, porque vivimos tiempos débiles en los que hay que hacer crecer a la gente y hacerles pensar y reflexionar. Hay que llevarles al combate de las ideas, porque este hace crecer”. El Pontífice se mostró preocupado y consternado por la deriva de las fake news en la sociedad.

El Papa indicó también que “hay que ser buen profesional”, pero con “altura ética” al margen de los apellidos confesionales. Preguntado acerca de las filtraciones, en muchas ocasiones perversas, manifestó que “a los chivatos que soplan cosas de Roma como nombramientos, pagando y comprando informaciones… a esos fuera”.

Al Papa le importa la dificultad de muchas mujeres para ejercer la profesión, pues hay que combinar la familia con el periodismo, Francisco animó a todas las comunicadoras a mantener el equilibrio donde lo más importante es “educar con ternura” y recomendó que con “los adolescentes no se tomaran decisiones en caliente”.

En definitiva, una emocionante audiencia privada que la Junta Directiva de UCIPE vivió en representación de todos los periodistas católicos de España, a los que el Santo Padre envió su Bendición Apostólica, tras haber comentado con el Pontífice la presencia ya de Beatos periodistas, como el Beato Lolo y los procesos de beatificación que están en marcha del Padre Gago y de Ángel Herrera Oria.

La salud del Papa era aparentemente buena. Nos recibió y despidió de pie apoyado en su bastón. Pudimos comprobar que mantuvo su agenda activa desde las 8:30 a.m cuando comenzó a recibir en su despacho a delegaciones, prelados y otras visitas privadas.

(UCIPE)

La entrada El papa Francisco recibe a la Junta directiva de la UCIPE se publicó primero en Comisión Episcopal para las Comunicaciones Sociales.