Días atrás circuló en redes sociales una imagen del Papa Francisco con un abrigo de invierno acolchado blanco. Varios usuarios preguntaron si se trataba de una imagen real y otros la compartieron como si fuera verdadera. En Estados Unidos, el influencer Ian Miles Cheong tuiteó la foto junto al texto: «El Papa es un ícono de la moda. Respeto». La imagen circuló en distintos países y varios usuarios, como la actriz y comediante argentina Malena Pichot, preguntaron si se trataba de una imagen real. 

Sin embargo, esta imagen —que fue tendencia en Twitter— es falsa y se trata de un deepfake: imágenes, videos y pistas de audio manipulados o generados sintéticamente con tecnología basada en inteligencia artificial (IA). El objetivo es crear imágenes falsas, pero que sean creíbles. En ellas, suelen aparecer rostros, cuerpos o voces humanas que pueden parecer auténticas y naturales.

Según la revista Forbes, la imagen del Papa abrigado se creó utilizando Midjourney, una herramienta de inteligencia artificial que permite generar imágenes falsas increíblemente realistas. Luego, la imagen se compartió el viernes 24 de marzo en Reddit antes de llegar a Twitter durante el fin de semana.

¿Cómo reconocer un deepfake?

Como te explicamos en esta nota de los deepfakes sobre un supuesto arresto de Donald Trump, una buena forma para determinar si una imagen o un video podría haber sido generado por IA es mirarle las manos a la persona que aparece en el contenido. Midjourney tiene dificultades para generar manos, como se puede ver en la mano derecha del Papa. 

El medio argentino Chequeado se comunicó con @ElMalaguero, un diseñador argentino que trabaja en redes sociales, quien explicó: «Cuando vi la imagen lo primero que pensé fue ‘está creada con Midjourney’, así que fui a chequear los detalles de la foto: los anteojos, qué es lo que lleva en la mano, la cruz y los anillos. Lo primero que llama la atención es que el Papa (por tradición) sólo usa un anillo llamado ‘Anillo del Pescador’ en la mano derecha. Esa fue la primera cosa que delató que era una imagen generada por IA». 

Luego, @ElMalaguero decidió recrear la foto en Midjourney. «La idea era demostrar que era una imagen generada por IA», señaló. 

El MIT Media Lab, el laboratorio dentro de la Escuela de Arquitectura y Planificación en el Instituto de Tecnología de Massachusetts, aconseja también prestar atención a la cara de quien aparece en el video o en la imagen y hacerse algunas preguntas como estas: «¿La piel parece demasiado suave o demasiado arrugada? ¿El envejecimiento de la piel es similar al del cabello y los ojos?».

También recomienda fijarse en los ojos, las cejas y los lentes. Por ejemplo, si aparecen sombras en los lugares esperados, si la persona parpadea demasiado o muy poco, o si cambia el ángulo del resplandor en los cristales de las lentes cuando la persona se mueve, en el caso de videos.

Además de observar los movimientos de los labios y ver si se sincronizan con la voz, el MIT Media Lab sugiere prestar atención al vello facial o a la falta del mismo. «¿Parece real? Los deepfakes pueden agregar o quitar bigote, patillas o barba. Pero pueden no lograr que las transformaciones del vello facial sean completamente naturales», destaca.

La foto viral del Papa con el abrigo invernal blanco no fue la única que circuló en redes sociales. Se le sumaron otras similares con diferentes modelos de la prenda, como muestra este tuit del sitio cultural Mixtapez. 

Recuerda que apenas una semana atrás, se usó una foto del supuesto arresto del expresidente Trump, creada por Midjourney. Además, el propio Trump compartió una imagen falsa generada por IA de sí mismo arrodillado para orar.