La Inteligencia Artificial (IA) ha demostrado su capacidad para crear arte, generar imágenes y emular estilos pictóricos. Sin embargo, este proceso a menudo se basa en el uso de obras de artistas reales, quienes rara vez son compensados por su trabajo en el entrenamiento de estas IA. Ante esta problemática, los artistas están tomando medidas para combatir a la IA, y próximamente tendrán una nueva arma en su arsenal: Nightshade.
Nightshade es un software de código abierto desarrollado por investigadores de la Universidad de Chicago y será parte de Glaze, una herramienta más amplia creada por los mismos investigadores. Glaze estaba diseñada para evitar que las IA fueran entrenadas con obras de arte, modificando las imágenes de manera imperceptible para el ojo humano y dificultando que las IA aprendieran de ellas. Nightshade da un paso más allá y contraataca.
La diferencia clave entre Glaze y Nightshade radica en que esta última “sabotea” el funcionamiento de la IA. Su enfoque consiste en clasificar incorrectamente los elementos presentes en una obra de arte para que la máquina los interprete erróneamente. Por ejemplo, se puede hacer que la IA confunda un perro con un gato y viceversa.
En pruebas, Nightshade logró que las IA generativas confundieran perros con gatos. Las primeras 50 pruebas mostraban perros con un aspecto extraño en lugar de gatos cuando se les pedía dibujar un perro. Después de 100 imágenes, las IA generaban gatos en lugar de perros. Finalmente, después de 300 pruebas, las IA generaban perros en lugar de gatos. Además, la IA ya no podía generar perros o gatos con precisión incluso cuando se le proporcionaban instrucciones específicas utilizando etiquetas como “cachorros” o razas de perros concretas.
Esta nueva herramienta permitirá a los artistas “envenenar” la IA, aunque aún no se ha anunciado cuándo estará disponible la versión final para uso generalizado. El proceso de enseñar a una IA es costoso y lleva tiempo, lo que dificultará su recuperación en caso de ser “envenenada” en gran medida. El uso de IA en el arte está rodeado de controversia y se extiende más allá de las imágenes, afectando también a la música, con esfuerzos por parte de plataformas como YouTube para regularlo.
