Inicio Noticiero Digital El origen de los deepfakes porno de Taylor Swift: usuarios probando los...

El origen de los deepfakes porno de Taylor Swift: usuarios probando los límites de los modelos IA

Taylor Swift no necesita ayuda para ser trending topic, pero hace unos días lo fue por algo en lo que que ella no tuvo absolutamente nada que ver: un aluvión de imágenes explícitas con ella como protagonista se difundieron en redes sociales. Eran todas deepfakes generados con inteligencia artificial.

Aunque en 404 ya indicaron que las imágenes se originaron en 4chan y luego se propagaron en canales privados de Telegram antes de difundirse en Twitter, no se conocían detalles sobre esa explosión de imágenes explícitas generadas por IA y centradas en Taylor Swift.

Sin embargo, una investigación de la consultora de medios sociales Graphika citada en Rolling Stone revela precisamente cómo empezó todo. Y la sorpresa es que todo empezó como un juego.

En uno de los foros de la comunidad 4chan alguien propuso un reto: intentar crear prompts para superar las barreras que los modelos de IA tienen y que normalmente impiden crear imágenes pornográficas de gente famosa. Las imágenes de Taylor Swift se originaron allí, pero hubo más celebridades afectadas.

Cristina López G., analista de Graphika, explicaba que «aunque las imágenes pornográficas virales de Taylor Swift han llamado la atención sobre el problema de las imágenes íntimas no consentidas generadas por la IA, no es ni mucho menos la única víctima».

Otras actrices, cantantes y políticas fueron objeto de este tipo de deepfakes incluso con más frecuencia de Taylor Swift. Entre los ejemplos están Ariana Grande, Billie Eilish o Emma Watson.

Según The New York Times, los usuarios de 4chan fueron compartiendo trucos y consejos para superar los filtros de plataformas como DALL-E, Microsoft Designer y Bing Image Creator. Las imágenes creadas se iban compartiendo en ese foro y los usuarios votaban a favor o en contra según la calidad o realismo que se conseguía con esos prompts.

Así, ese singular concurso para superar las barreras de estos modelos fue precisamente la motivación de los usuarios para «derrotar» esos mecanismos de protección. Como apuntaba López G., «es importante entender la naturaleza ludificada de sta actividad maliciosa para poder prevenir futuros abusos en el origen [de la generación de imágenes por IA]».

Las primeras imágenes de Swift comenzaron a aparecer en el foro el 6 de enero, pero tardaron algo más de una semana en acabar difundiéndose en Telegram y X (antes Twitter). La explosión viral de dichas imágenes provocó que ‘Taylor Swift’ se convirtiera en trending topic en X durante varios días. La red social tuvo que bloquear esas búsquedas para al mismo tiempo ir borrando las imágenes que se detectaban, lo que finalmente mitigó gran parte de los problemas.

Imagen | Javier Pastor con Visual Electric

En Xataka | En una videollamada le ordenaron a un empleado que transfiriese 25 millones de dólares. Todos eran deepfakes menos él