El porno deepfake ahora es una corriente principal. Y los sitios principales están cobrando

hace 4 años

El porno deepfake ahora es una corriente principal. Y los sitios principales están cobrando

Los deepfakes pornográficos no consensuales se dirigen casi exclusivamente a mujeres

Getty Images / Kieran Walsh

Cada mes, se suben a los sitios web de pornografía más grandes del mundo cientos de videos explícitos de deepfake con celebridades, actrices y músicos, según muestra un nuevo análisis. Los videos no consensuados acumulan millones de visitas y las empresas de pornografía siguen sin eliminarlos de sus sitios web.

Se han subido hasta 1,000 videos deepfake en sitios pornográficos cada mes, ya que se hicieron cada vez más populares durante 2020, según muestran las cifras de la compañía de detección de deepfake Sensity. Los videos continúan separándose de las comunidades dedicadas a la pornografía deepfake y hacia la corriente principal.

Los videos de deepfake alojados en tres de los sitios web pornográficos más grandes, XVideos, Xnxx y xHamster, se han visto millones de veces. Los videos están rodeados de anuncios, lo que ayuda a generar ingresos para los sitios. XVideos y Xnxx, ambos propiedad del mismo holding checo, son el número uno y los tres sitios web de pornografía más grandes del mundo y se encuentran entre los diez sitios más grandes de toda la web. Cada uno tiene, o supera, tantos visitantes como Wikipedia, Amazon y Reddit.

Un video de 30 segundos, que aparece en los tres sitios anteriores y usa el rostro de la actriz Emma Watson, ha sido visto más de 23 millones de veces, siendo visto 13 millones de veces en Xnxx. Otros videos deepfake, que tienen cientos de miles o millones de reproducciones, incluyen celebridades como Natalie Portman, Billie Eilish, Taylor Swift y la actriz india Anushka Shetty. Muchas de las celebridades han sido continuamente objeto de deepfakes desde que surgieron por primera vez en 2018.

“La actitud de estos sitios web es que realmente no consideran que esto sea un problema”, dice Giorgio Patrini, director ejecutivo y científico jefe de Sensity, que hasta hace poco se llamaba DeepTrace. En general, se considera que los videos de pornografía deepfake apuntan, dañan y humillan a las mujeres ubicadas en su núcleo. Patrini agrega que Sensity ha visto cada vez más que se hacen deepfakes para otras personas en el ámbito público, como Instagram, Twitch y personas influyentes de YouTube, y le preocupa que el avance de la tecnología deepfake inevitablemente vea a miembros del público objetivo.

“Hasta que no haya una razón sólida para que ellos [los sitios web pornográficos] intenten eliminarlos y filtrarlos, creo firmemente que no va a pasar nada”, dice Patrini. “La gente seguirá siendo libre de subir este tipo de material sin consecuencias para estos sitios web que son vistos por cientos de millones de personas”.

Muchos de los videos están ocultos a la vista; después de todo, se cargan para verlos. Algunos videos incluyen "fake" o "deepfake" en sus títulos y están etiquetados como deepfake. Por ejemplo, las páginas de etiquetas en XVideos y Xnxx enumeran cientos de videos.

Sin embargo, se desconoce la escala total del problema en los sitios web de pornografía. Probablemente nunca habrá una imagen real de cuántos de estos videos se crean sin el permiso de las personas.

A pesar de los repetidos intentos de contactar a representantes de XVideos y Xnxx, los propietarios no respondieron solicitudes de comentarios sobre sus actitudes y políticas hacia los deepfakes.

Alex Hawkins, vicepresidente de xHamster, dice que la empresa no tiene una política específica para deepfakes, pero "trátelo como cualquier otro contenido no consensuado". Hawkins dice que el proceso de moderación de la empresa implica varios pasos diferentes y eliminará los videos si las imágenes de las personas se usan sin permiso.

“Entendemos absolutamente la preocupación por los deepfakes, por lo que facilitamos su eliminación”, dice Hawkins. "El contenido subido sin obtener el permiso necesario infringe nuestros Términos de uso y se eliminará una vez identificado". Hawkins agrega que las docenas de videos que aparecen como deepfakes en xHamster, que fueron resaltados por Mundo Informático, se pasaron a su equipo de moderación para su revisión.

Las cifras de carga de deepfake vistas Mundo Informático no incluyeron Pornhub, que es el segundo sitio web porno más grande y, a pesar de prohibir deepfakes en 2018, todavía tiene problemas con los videos.

"Tiene que haber algún tipo de pensamiento sobre lo que hacemos al respecto cuando las mujeres se sienten avergonzadas, humilladas y degradadas de esta manera en Internet, y realmente es como una pregunta sobre privacidad y seguridad", dice Nina Schick, una locutora política. y el autor de Deepfakes y el Infocalipsis.

Desde que surgieron los primeros deepfakes de Reddit a principios de 2018, la tecnología de inteligencia artificial subyacente necesaria para hacerlos ha avanzado. Cada vez es más barato y fácil para las personas hacer videos deepfake y, en un ejemplo reciente, un investigador de seguridad creó video y audio de Tom Hanks usando software de código abierto y gastando menos de $ 100.

Los avances tecnológicos han provocado un aumento de los temores sobre el uso de deepfakes para manipular conversaciones políticas. Si bien ha habido algunos ejemplos tempranos de esto, la amenaza no se ha materializado en gran medida. Sin embargo, el porno deepfake, donde se inventó la tecnología por primera vez, ha florecido. La actriz de Hollywood Kristen Bell dijo que estaba "sorprendida" cuando descubrió que los deepfakes se hacían con su imagen. "‘ Incluso si está etiquetado como, 'Oh, esta no es realmente ella', es difícil pensar en eso, estoy siendo explotada ", dijo. Vox en junio.

Los deepfakes ya están rompiendo la democracia. Pregúntale a cualquier mujer

La cantidad de deepfakes online está creciendo exponencialmente. Un informe de Sensity publicado el año pasado encontró 14,678 videos deepfake en línea en julio de 2019: el 96 por ciento de estos eran porno y casi todos están enfocados en mujeres. En junio de este año, la cantidad de deepfakes había subido a 49.081.

La mayoría de la pornografía deepfake se encuentra y es creada por comunidades específicas. Los cuatro principales sitios web de pornografía deepfake habían recibido más de 134 millones de visitas el año pasado, muestra el análisis de Sensity de 2019. Un sitio web de pornografía deepfake está lleno de videos con celebridades y contiene videos de actrices indias que se han visto millones de veces. Algunos videos afirman que fueron solicitados, mientras que sus creadores dicen que se les puede pagar en Bitcoin.

"Parte de esta tecnología está mejorando muy rápido, porque hay mucha energía e impulso, desafortunadamente, del lado de los creadores", dice Patrini. "Creo que veremos que se aplicará muy pronto con una intención mucho mayor para los particulares". Él cree que cuando la tecnología sea fácil de usar para cualquiera, habrá un “punto de inflexión” en el que los legisladores se darán cuenta de los problemas.

Clare McGlynn, profesora de la Facultad de Derecho de Durham que se especializa en regulaciones de pornografía e imágenes de abuso sexual, está de acuerdo. “Lo que esto muestra es el problema que se avecina para las personas que no son celebridades”, dice. “Este es un problema serio para las celebridades y otras personas en el ojo público. Pero mi preocupación desde hace mucho tiempo, al hablar con sobrevivientes individuales que no son celebridades, es el riesgo de que esto sea lo que se avecina. "

Por el momento, las opciones legales para las personas que aparecen en videos deepfake no se han mantenido al día con la tecnología. De hecho, nunca estuvo preparado para el impacto de la pornografía generada por IA. “Si una foto o un video pornográfico tuyo aparece en línea, tus opciones legales para eliminarlo varían enormemente”, dice Aislinn O'Connell, profesora de derecho de la Universidad Royal Holloway en Londres.

Las personas pueden realizar cargas no consentidas por difamación, según las leyes de derechos humanos, reclamos de derechos de autor y otras formas. Sin embargo, la mayoría de estos procesos son onerosos, consumen muchos recursos y, por lo general, no se aplican a los deepfakes. “Necesitamos más y mejores soluciones ahora”, dice O'Connell.

En los estados de EE. UU. Se han aprobado algunas leyes de deepfake, pero estas se centran principalmente en la política e ignoran el impacto que ya están teniendo en la vida de las personas. En el Reino Unido, la Comisión Jurídica está llevando a cabo una revisión del intercambio de imágenes íntimas en línea, que incluye deepfakes, pero se espera que pasen años hasta que se puedan realizar cambios. O'Connell propone que Inglaterra adopte leyes de derechos de imagen para que las personas puedan protegerse adecuadamente.

Sin embargo, si bien los legisladores no resuelven el problema, la tecnología se convertirá en más barata y más fácil de usar para todos. “Veo la evolución de las falsificaciones profundas en el espacio pornográfico como en realidad el presagio de los problemas más importantes de libertades civiles que van a surgir”, dice Schick.

“Esta tecnología existe y está evolucionando a un ritmo mucho más rápido de lo que la sociedad puede seguir”, agrega. “No estamos preparados para la era de los medios sintéticos donde incluso el video se convierte en algo que casi cualquiera puede corromper”. Para combatir esto, dice Schick, es necesario involucrar a varias personas: tecnólogos, el público, expertos en dominios específicos, funcionarios de políticas y legisladores. En este momento, sin embargo, eso no está sucediendo.

Matt Burgess es el editor digital adjunto de Mundo Informático. El tuitea desde @ mattburgess1

Más historias geniales de Mundo Informático

? ¿No puedes concentrarte? A continuación, le indicamos cómo concentrarse cuando trabaja desde casa

? Los clubes nocturnos ilegales de Airbnb están causando estragos en todo Londres

? Si comenzaste a correr durante el bloqueo, estas son las mejores zapatillas para correr en 2020

? Escuche The Mundo Informático Podcast, la semana de ciencia, tecnología y cultura, que se entrega todos los viernes

? Siga Mundo Informático en Gorjeo, Instagram, Facebook y LinkedIn

Si quieres conocer otros artículos parecidos a El porno deepfake ahora es una corriente principal. Y los sitios principales están cobrando puedes visitar la categoría Otros.

Otras noticias que te pueden interesar

Subir