Violencia digital e IA generativa: el fallo «UndressHer.app» como punto de inflexión en materia de tutela judicial, por M. Paula Carril y Leonardo S. Calvó

I. INTRODUCCIÓN

La irrupción de tecnologías basadas en inteligencia artificial generativa modificó de manera sustancial los modos de generación, producción, circulación y consumo de imágenes, ampliando los márgenes para la creación de contenido manipulado con una apariencia real. En particular, las aplicaciones que permiten la simulación de desnudez mediante superposición facial o corporal representan una nueva forma de violencia digital, especialmente lesiva cuando sus víctimas son niñas o adolescentes. Este fenómeno, alimentado por modelos como las redes generativas antagónicas (GANs) (1), pone en jaque las herramientas clásicas de tutela jurídica e interpela la capacidad del sistema judicial para brindar respuestas eficaces, oportunas y respetuosas de los derechos humanos.

El acceso a los entornos digitales -especialmente a redes sociales, plataformas de mensajería y aplicaciones de edición de imágenes- se presenta habitualmente como un espacio de interacción, ocio o recreación. Sin embargo, dichas herramientas comenzaron a ser empleadas por ciertos usuarios como instrumentos de agresión simbólica, emocional o reputacional, transformándose en medios para ejercer nuevas formas de daño interpersonal, muchas veces invisibilizadas o minimizadas por su carácter no físico, pero no por ello menos invasivo o traumático.