En un mundo cada vez más engullido por la tecnología, en la que cualquier persona ya puede acceder a todo tipo de herramientas o aplicaciones, los jóvenes se enfrentan a nuevas realidades en lo que respecta a la manipulación de fotos, especialmente en el contexto de la inteligencia artificial. 

Como seguramente ya conozcas, menores —entre 12 y 14 años— de Almendralejo, Extremadura, han denunciado la circulación de imágenes falsas de desnudos, creadas con la ayuda de la IA, lo que ha abierto un preocupante debate en la sociedad española.

25 aniversario de Computer Hoy: Inteligencia Artificial, todo lo que nos puede ofrecer en el futuro

A medida que la policía identifica a varios de los presuntos autores de estos montajes tras las alertas de las familias, parece más necesario que nunca analizar los peligros asociados a esta práctica y considerar cómo abordar este tema que ya forma parte de la realidad actual.

"Existe una tremenda facilidad en el acceso y falta de responsabilidad en su uso que demuestran algunos jóvenes. ¿Debe ser realmente tan sencillo el acceso a estas herramientas? ¿No deberíamos regular su utilización y establecer medidas de control al respecto? ¿Cuentan los padres y las instituciones educativas con los conocimientos y medios para formar adecuadamente a nuestros jóvenes en el uso de las herramientas disponibles en Internet?", se pregunta en una entrevista para Computer Hoy Miguel López, Director General de Barracuda Networks.

Crece el número de casos de ciberacoso relacionados con la difusión de imágenes creadas con IA

Uno de los peligros más evidentes de la manipulación de fotos por IA es su potencial para causar daño emocional y psicológico a los jóvenes. 

La adolescencia, al fin y al cabo, es una etapa de la vida en la que la construcción de la autoimagen y la aceptación por parte de los demás son fundamentales y la creación y difusión de imágenes falsas pueden tener un impacto devastador en la autoestima y la salud mental de los adolescentes.

Además, existe la preocupación de que estas imágenes manipuladas sean utilizadas para el acoso, el chantaje o la humillación pública, lo que puede tener consecuencias aún más graves. En este sentido, se ha observado un aumento de los casos de ciberacoso relacionados con la difusión de imágenes creadas con IA, lo que subraya la urgencia de que este problema tenga alguna solución.

"Probablemente muchos de los jóvenes que acceden a estas aplicaciones ni siquiera son realmente conscientes de todas sus implicaciones y, si lo son, demuestran una falta de empatía y civismo realmente alarmante. Son estos los factores que como sociedad deberíamos plantearnos…", añade el experto.

Una solución que debe comenzar con educación y una regulación de la IA de forma inminente

Las escuelas y los padres deben trabajar juntos para sensibilizar a los jóvenes sobre los riesgos asociados con la creación y difusión de imágenes falsas. Es esencial enseñarles a discernir entre imágenes auténticas y manipuladas, así como a comprender las consecuencias éticas y legales de participar en tales prácticas.

"Una regulación responsable y clara de la IA es imprescindible, tanto por los problemas mencionados como por sus posibles implicaciones en otros campos. Desde el entorno militar al político, pasando por la economía, los derechos humanos, la ciberseguridad… La IA tiene el potencial de crear un auténtico terremoto en estos y otros muchos aspectos de nuestra vida y cada vez es más evidente la necesidad de una regulación que, además, ha de ser internacional para que tenga algún sentido", comenta Miguel López.

Las plataformas en línea también tienen una gran responsabilidad en esta lucha. Deben implementar políticas rigurosas contra la difusión de imágenes falsas o comprometedoras y tomar medidas para eliminar este contenido cuando se identifique. Además, es importante que estas plataformas promuevan la denuncia de abusos y el respeto a la privacidad en línea.

Con todo esto, parece que los gobiernos de forma urgente deberían promulgar leyes específicas que prohíban la creación y la difusión de este tipo de imágenes—o cualquier otro— con el propósito de dañar la reputación de alguien o cometer un delito. Estas leyes deben incluir sanciones claras para los infractores y considerar las circunstancias de cada caso, sea o no menores.

Tu creatividad a buen recaudo: cómo proteger tu contenido del plagio de la inteligencia artificial

"La prioridad para la presidencia española es concluir la negociación del reglamento de Inteligencia Artificial. Un reglamento que, entre otros elementos, va a establecer la obligación de incluir una marca de agua siempre que haya alguna imagen modificada por inteligencia artificial", explica la vicepresidenta primera del gobierno español, Nadia Calviño.

Por supuesto, se debe fomentar el desarrollo ético de la IA, alentando a las empresas a implementar prácticas responsables en la creación y distribución de algoritmos de manipulación de imágenes.

"Sin embargo, mucho me temo que, de llevarse a cabo, esta regulación no estará disponible en el corto o medio plazo, lo que obliga a tomar medidas que, si bien pueden ser parciales, ayudarían a mitigar los efectos indeseables que puede tener un mal uso de la IA. Por ejemplo, en el caso concreto de los falsos desnudos, parece claro que tenemos que modernizar algunos de los contenidos de nuestro sistema de enseñanza para incluir una formación responsable en el uso de las nuevas tecnologías (no solo la IA)", añade.

"Es un tema muy complejo al que habría que dar una respuesta tanto legislativa como técnica (implementar las herramientas adecuadas de ciberseguridad, cosa que actualmente brilla por su ausencia) pero también desde la mayor implicación en el problema de educadores y padres (la solución para que 'el niño' coma tranquilo no debería ser 'enchufarle' a ver vídeos uno detrás de otro en una red social en la que desconocemos los contenidos que terminan siéndole mostrados)", finaliza Miguel López.