La guerra entre los artistas y la IA: nuevas aplicaciones para adulterar el entrenamiento y defender los derechos de autor
- Los artistas pierden la batalla contra la IA, pero lejos de rendirse, cada vez tienen más armas listas para plantar batalla
- Nightshade puede adulterar el entrenamiento de la Inteligencia artificial que aprende utilizando su arte, pero podría abrir un nuevo camino en ciberataques
- La última frontera de la IA es la salud personal: ¿qué riesgos implica?
El arte y la tecnología se entrecruzan más que nunca, y por una vez, los artistas contraatacan. Han descubierto una herramienta novedosa que les da una ventaja en la lucha contra la apropiación indebida de sus obras por parte de las empresas de inteligencia artificial.
Se llama Nightshade, y aunque puede sonar a una película de ciencia ficción, es real y tiene el potencial de poner patas arriba el mundo del entrenamiento de modelos de IA. Según el MIT Technology Review, esta herramienta permite a los artistas hacer cambios imperceptibles en los píxeles de su arte.
¿La razón? Si las imágenes alteradas son capturadas por sistemas de inteligencia artificial para entrenamiento, el resultado puede ser un caos impredecible. Un perro se transforma en un gato, un coche se convierte en una vaca en la mente de la IA y así consecutivamente.
Esta arma digital surge como respuesta al problema creciente de las empresas que utilizan, sin permiso, las obras de los artistas para entrenar a sus modelos de IA. Es una forma de equilibrar la balanza de poder, devolviendo algo de control a los artistas, o así lo afirman ellos.
Nightshade no solo ataca una palabra o concepto. Si una imagen adulterada está etiquetada como "arte fantástico", entonces conceptos relacionados como "dragón" o "castillo del Señor de los Anillos" podrían verse alterados de igual forma, explican en MIT.
¿Una nueva forma de vulnerabilidad en ciberseguridad?
Pero, ¿qué hay de la defensa contra tales ataques? Pues lo cierto es que todavía no existen defensas robustas y este tipo de herramienta podría estar señalándonos precisamente como serán los nuevos virus informáticos. ¿Troyanos que entrenan maliciosamente a una IA?
Volviendo a la cuestión de los derechos de autor, el mensaje para las empresas de IA parece claro. Los artistas se han armado con herramientas como Nightshade y Glaze (otra aplicación que protege el estilo personal de los artistas), y están reclamando su espacio y derechos. La guerra artistas—IA continua.
Como era de esperar, no todos ven esto con buenos ojos. Algunos argumentan que podría haber un uso indebido de estas herramientas para fines maliciosos. Sin embargo, el consenso es claro: es una llamada de atención para las empresas de IA. Los artistas están dispuestos a luchar por sus derechos y, con herramientas como Nightshade, tienen una nueva forma de hacerlo.
Otros artículos interesantes:
- Un viaje a los orígenes de la inteligencia artificial: ¿Sabes realmente cuándo nació esta tecnología?
- ¿Qué es una alucinación de la inteligencia artificial y por qué resulta tan peligrosa?
- Silla ergonómica Sihoo Doro S300: la tecnología más avanzada al servicio del mejor diseño y la máxima comodidad
Descubre más sobre Raúl Barrón, autor/a de este artículo.
Conoce cómo trabajamos en Computerhoy.