CREADOR DE DEEPFAKE

Si estás usando Kapwing con una cuenta gratuita, todas las exportaciones —incluyendo el Deepfake Maker de Kapwing— tendrán una marca de agua. Una vez que actualices a una cuenta Pro, la marca de agua se eliminará por completo de tus creaciones.

El término 'deepfake' es una combinación de 'deep learning' (un subconjunto de IA) y 'fake', reflejando el método usado para crear el contenido y su naturaleza engañosa. Los avances en tecnología de IA han permitido la creación de imágenes, vídeos y audio increíblemente realistas que parecen auténticos pero están manipulados o completamente fabricados. En formato de vídeo y audio, los deepfakes suelen implicar reemplazar o alterar la cara, voz o movimientos de una persona de manera que parezca que está diciendo o haciendo algo que nunca realmente hizo. Aunque los deepfakes se usan a menudo para fines creativos, de entretenimiento y educativos, también plantean preocupaciones éticas y legales debido a su capacidad para difundir desinformación y violar la privacidad. Por esta razón, Kapwing garantiza que todo el contenido de deepfake esté claramente etiquetado con una marca de agua no removible de 'generado por IA'.

No, los vídeos deepfake no son ilegales y no existe legislación federal en Estados Unidos que los prohíba o regule. Sin embargo, diez estados de EE.UU. tienen legislación que se dirige específicamente a quienes crean y comparten contenido deepfake explícito, incluyendo California, donde Kapwing está ubicada.

En enero de 2024, Taylor Swift fue víctima de una filtración deepfake. Vídeos falsos que engañaron al público en general se extendieron por redes sociales, con un vídeo alcanzando 47 millones de visualizaciones en X (Twitter) antes de ser eliminado. El incidente provocó una protesta de políticos estadounidenses pidiendo nueva legislación. No obstante, siete meses después, en agosto de 2024, Donald Trump compartió una colección de imágenes generadas por IA que falsamente mostraban a Taylor Swift y sus fans respaldando su campaña presidencial. La investigación de IA de Kapwing también encontró que Taylor Swift ocupa el tercer lugar entre las 10 celebridades más deepfakeadas de internet.

Kapwing apoya el control y la seguridad del contenido deepfake, y nuestros ingenieros trabajan duro para garantizar que el contenido de IA no pueda usarse para temas explícitos, engañosos o inapropiados.

Consulta nuestros Términos de Servicio para leer más sobre cómo evitamos que el contenido de IA cause daño.

Es super difícil para el usuario medio de social media detectar contenido deepfake: solo el 17% de las personas han completado Kapwing's AI Quiz que requiere responder si los discursos de celebridades son reales o falsos. Algunos de los indicios más obvios son discursos desincronizados, detalles de fondo inconsistentes, movimientos raros de extremidades o rostros, fallos de vídeo y desenfoque. Investigadores, empresas tecnológicas y expertos en vídeo usan análisis fotograma a fotograma junto con software de detección de deepfake para ayudar a identificar contenido deepfake y mantener internet como un espacio seguro. También puedes señalar contenido deepfake dañino en la aplicación o sitio web donde aparezca.

La historia del contenido deepfake se puede rastrear hasta principios de los años 90, cuando el desarrollo de los CGI actuó como catalizador para el camino de los deepfakes por delante. Sin embargo, no fue hasta finales de 2017 cuando un usuario de Reddit acuñó el término 'deepfake', compartiendo vídeos generados por A que reemplazaban caras normales con las de celebridades. Este fue el momento en que se 'inventaron' los deepfakes.

Puedes usar la sección 'Educativa' de Kapwing para entender mejor cómo se genera contenido deepfake utilizando las últimas tecnologías de sincronización labial de código abierto. Celebridades como Taylor Swift, Elon Musk y Donald Trump han sido seleccionados como casos de estudio. Los usuarios solo pueden publicar videos Persona utilizando personas para las que tienen permiso. Usa un video tuyo, elige un Persona de stock aprobado, o consigue permiso explícito al usar un video de otra persona para entrenar como Persona. Usar a una celebridad o a cualquier otra persona sin permiso está prohibido y va contra los Términos de Servicio de Kapwing.

La tecnología deepfake usa IA súper avanzada, específicamente algoritmos de aprendizaje profundo como las Redes Generativas Antagónicas (GANs), para crear vídeos, imágenes o audio falsos súper realistas. Funciona entrenando un modelo con un montón de datos del rostro o la voz de una persona, lo que le permite copiar sus expresiones, movimientos y forma de hablar. El resultado es un contenido que parece o suena como la persona real, aunque esté totalmente inventado.

Sí, los deepfakes están ganando popularidad por todo el mundo. Kapwing analizó el interés global en los deepfakes y descubrió que Corea del Sur (13.399), República Checa (11.356) y Suecia (10.443) fueron los únicos países con más de 10.000 búsquedas relacionadas con deepfakes por millón de habitantes.