Intimidad robada: El acoso digital en la era de la IA

La inteligencia artificial de creación de imágenes es la nueva moda debido a que podemos pedirle a los sistemas que generen cualquier imagen que se nos venga a la mente. Sin embargo, representa un nuevo método de generación de pornografía del que nadie se encuentra a salvo y produce acoso en quienes son víctimas de la misma.

---

La famosa imagen del Papa Francisco que se hizo viral en marzo del 2023.

Comenzaba como un simple juego creativo la generación de imágenes con IA donde veíamos al Papa con una campera blanca muy a la moda o a Donald Trump siendo arrestado por la policía. Pero ahora, son cada vez más las denuncias y reclamos de personas que reciben acoso por imágenes falsas de desnudos. “Cualquier persona con una foto de una red social puede ser una víctima”, indicó Página 12 en su artículo “Fotos falsas de IA, una nueva variante del acoso”.

La pornografía deepfake como se la conoce, es la creación de imágenes pornográficas convincentes mediante algoritmos a partir de otra imagen original que no es un desnudo. Sin tener el consentimiento de la persona el atacante genera un desnudo y filtra el contenido como verídico. “La inteligencia artificial (IA) hace que los llamados "deepfakes" sean cada vez más realistas. Y con eso, nació y creció una nueva variante del acoso.”, informó Página 12.

Por otro lado, se encuentran los “Face Swapping” en los cuales un usuario puede intercambiar la cara de una persona que haya realizado un desnudo por la cara de aquella a la que quiere realizarle el delito. O simplemente “desvestir” a alguien con unos cuantos clics.

Imagen ilustrativa sobre cómo funciona el Face Swapping.

Entre los años 2022 y 2023 se produjo un incremento del 464% en la cantidad de vídeos pornográficos manipulados, según el informe State of deepfakes 2023 de la organización Home Security. Taylor Swift la famosa cantante estadounidense fue una de las víctimas del deepfake con el que se vio evidenciado uno de los mayores defectos de la  Inteligencia Artificial.

El generador de imágenes no entiende lo que es el porno. Los filtros del software no pueden distinguir entre estas imágenes inocentes y la pornografía, en cambio, hay que prohibir indicaciones al usuario pero “al cambiar ciertas palabras se genera de igual forma” demostró 404 Media luego de probar diferentes descripciones sin utilizar términos sexuales.

Este problema también conllevó a la pornografía infantil y al acoso en las escuelas. En Texas, Estados Unidos, dos adolescentes de 14 años observaron cómo se filtraron fotos falsas de desnudos de ambas. "Parecía real, como si los cuerpos (desnudos) fueran cuerpos reales”, detalló una de las afectadas.

La culpable fue una compañera de ellas que tomó las fotos del Instagram de las víctimas y luego de retocarlas las viralizó por Snapchat. Sin embargo, una de las adolescentes “vive con ansiedad y pidió cambiarse de colegio”, indicó Página 12. Además el medio hizo hincapié en que este fenómeno de creación de imágenes falsas con IA afecta mayormente a las mujeres y niñas de todo el mundo e informó que es muy sencillo realizar este mal debido a que quienquiera que tenga "un teléfono inteligente y unos pocos dólares" puede tomar las imágenes.

La experta en políticas de ONU Mujeres afirmó: “Es posible que se encuentren en una posición en la que tengan menos conocimiento sobre sus derechos o a quién informar. Muchos se culpan a sí mismos, y debido al potencial de la tecnología para acumular, compartir y volver a compartir estas imágenes, el impacto en la salud mental es enorme y ha llevado al suicidio de varias niñas".

La inteligencia artificial de creación de imágenes ha dejado de ser una simple herramienta creativa para convertirse en un peligroso mecanismo de acoso y generación de pornografía no consentida. La alarmante facilidad con la que se pueden crear y distribuir deepfakes pornográficos constituye una amenaza grave y persistente a la privacidad y la dignidad de las personas. Esta tecnología no solo invade la intimidad de las víctimas, sino que también les impone un daño psicológico profundo, exponiéndolas a un acoso implacable.

Leé también: El riesgo de no decir adiós