Gfycat, con sede en San Francisco, dijo que cree que los videos son "objetables". La creación de dichos videos se ha vuelto más común después del lanzamiento de una herramienta gratuita, que salio a principios de este mes de enero, esta app hace que el proceso sea relativamente simple y facil de elaborar, el desarrollador dice que "FakeApp" se ha descargado más de 100.000 veces.

Funciona mediante el uso de un algoritmo de aprendizaje automático para crear una versión generada por computadora de la cara del sujeto. Para ello, se requieren varios cientos de fotos de la celebridad en cuestión para su análisis y un video clip de la persona cuyas características deben ser reemplazadas.

Los resultados, conocidos como deepfakes, difieren en calidad

Pero en algunos casos, cuando las dos personas involucradas son de una construcción similar, pueden ser bastante convincentes. Algunas personas han usado la tecnología para crear contenido no pornográfico. Estos incluyen un video en el que la cara de la canciller alemana, Angela Merkel, ha sido reemplazada por la del presidente de EE. UU., Donald Trump [VIDEO], y varias en las que las características de una estrella de cine han sido intercambiadas con las de otra. Pero el uso más común de la herramienta aparentemente ha sido revertir la pornografía para presentar actrices y cantantes populares. Muchos de estos clips han sido posteriormente compartidos en línea y criticados por otros.

Muchos creadores subieron sus clips a Gfycat.

El servicio se usa comúnmente para alojar videos cortos que luego se publican en el sitio web social Reddit y en otros lugares. Gfycat permite contenido para adultos, pero comenzó a eliminar algunos de los deepfakes a principios de esta semana, un asunto que fue reportado por primera vez por el sitio de noticias Motherboard. "Nuestros términos de servicio nos permiten eliminar contenido que consideramos objetable. Estamos eliminando activamente este contenido", dijo Gfycat en una breve declaración.

Reddit todavía tiene que comentar sobre el asunto

Todavía proporciona acceso a los clips que Gfycat aún no ha eliminado, así como deepfakes alojados por otros. Su política de contenido prohíbe la [VIDEO] "pornografía involuntaria". Pero no está claro si reconocería los deepfakes como tales. Además, requiere que el sujeto involucrado presento una queja. Sin embargo, Gfycat no es la única parte que ha forzado parte del material fuera de línea.

El propietario de los derechos de algunos de los contenidos explícitos ha exigido que los clips se bloqueen por motivos de copyright .Además, el servicio de chat Discord cerró un grupo dedicado a compartir los clips, diciendo que habían violado sus reglas sobre la pornografía no consensual.