En los últimos meses, el desarrollo de la inteligencia artificial ha tenido un impacto realmente importante en diversos campos, incluyendo la generación de imágenes. La capacidad de esta tecnología para generar imágenes realistas y convincentes ha avanzado de manera increíble, lo que ha abierto un mundo de posibilidades en la creación y manipulación de este contenido.

El problema es cuando algunos deciden darle un uso malintencionado y aquí es donde radica su gran peligro. Estas imágenes generadas por IA pueden ser utilizadas para la propagación de desinformación, el engaño en campañas publicitarias o incluso en actividades delictivas. 

Por ejemplo, se podrían crear imágenes falsas de políticos o líderes mundiales en situaciones comprometedoras para difamarlos o influir en la opinión pública. También se podrían utilizar para engañar a sistemas de reconocimiento de imágenes y seguridad, como los sistemas de vigilancia o los sistemas de reconocimiento facial.

¿Cómo puedes detectar imágenes falsas generadas por IA?

Detectar este tipo de imágenes puede resultar complejo, ya que se diseñan específicamente para engañar al ojo humano y se aprovechan de la falta de interés de muchos de comprobar si es cierta o no. Sin embargo, existen algunos consejos para evitar caer en la trampa.

“Es importante tener en cuenta que la detección de imágenes generadas por IA puede llegar a ser difícil, ya que los algoritmos continúan evolucionando y mejorando. Es fundamental mantener un pensamiento crítico y utilizar varias fuentes de información para verificar la autenticidad de las imágenes”, explica para Computer Hoy Óscar Castillo, Responsable global de la práctica de BigData & IA.

Muy atento a las manos, los dedos y los dientes

Dado que los conjuntos de datos que entrenan los sistemas de IA tienden a capturar solo partes de manos, esta tecnología a menudo no logra crear manos humanas realistas. Esto puede dar lugar a imágenes con manos enormes, muñecas extrañamente largas, dedos con formas raras o 4 dedos en lugar de 5.

En la imagen viral del Papa Francisco, su mano derecha —y la taza de café que sostiene— se ve aplastada y torcida. Mencionar que los dientes también pueden plantear problemas y en muchas ocasiones —si en la imagen aparece una persona sonriendo— suele ser el punto más conflictivo.

Cuidado con las texturas demasiado suaves

Algunos generadores de imágenes de IA producen texturas que son excesivamente suaves o una piel de aspecto plástico con un brillo excesivo. Esto significa que en una chaqueta —por ejemplo el abrigo del Papa— puede parecer demasiado perfecta.

Poniendo otro ejemplo, en una imagen manipulada el pelo puede tener una apariencia poco realista, con texturas que se repiten o áreas donde los detalles se han suavizado o eliminado. Busca contornos poco definidos o bordes irregulares entre las diferentes partes de la imagen. Si hay una falta de coherencia en la iluminación y los reflejos o si los colores se intuyen algo extraños, sospecha.

Busca detalles que no encajen

Es recomendable analizar cuidadosamente la imagen en busca de elementos que no parezcan encajar correctamente. Pueden ser objetos que estén flotando o superpuestos de manera poco realista en la fotografía. 

Fíjate también en las sombras, ya que suelen proporcionar información importante sobre la iluminación y la coherencia de la imagen y muy atento o atenta a las perspectivas incorrectas, como objetos que parecen estar en ángulos extraños o distorsionados en relación al entorno. 

Investiga por tu cuenta

Aparte de estos trucos visuales, es importante que realices búsquedas de la imagen en diferentes webs y plataformas para ver si aparece en otros contextos. 

“Podemos recurrir rápidamente a Google para obtener más información sobre lo que estamos viendo. Aunque es cierto que existen indicios sutiles que podemos observar en una imagen, es fundamental ejercitar nuestro pensamiento crítico e investigar más a fondo”, añade el experto entrevistado.

Si la encuentras usada en diferentes lugares o con información visual contradictoria, es probable que haya sido manipulada. También puedes buscar imágenes similares o relacionadas para tener una referencia adicional y determinar si la fotografía en cuestión se desvía de lo esperado.

“La generación de imágenes por IA se ha vuelto cada vez más sofisticada, lo que significa que las señales de manipulación pueden ser más sutiles. El momento en que estas imágenes se vuelvan aún más indistinguibles de la realidad puede estar más cerca de lo que algunas personas querrían, pero como sociedad debemos ser más conscientes de que las cosas que vemos, incluyendo las imágenes, pueden no ser una representación fiel de la realidad”, finaliza Óscar Castillo.