डीपफेक मेकर

अगर तुम Kapwing को फ्री अकाउंट पर इस्तेमाल कर रहे हो, तो सभी एक्सपोर्ट्स — Kapwing के Deepfake Maker सहित — में वॉटरमार्क होगा। जब तुम प्रो अकाउंट में अपग्रेड करते हो, तो वॉटरमार्क पूरी तरह से हट जाएगा।

'डीपफेक' शब्द 'डीप लर्निंग' (AI का एक उपसमूह) और 'फेक' के संयोजन से बना है, जो सामग्री बनाने की विधि और उसकी भ्रामक प्रकृति को दर्शाता है। AI तकनीक में प्रगति ने अत्यंत यथार्थवादी चित्र, वीडियो और ऑडियो बनाने की अनुमति दी है जो मूल रूप से प्रतीत होते हैं लेकिन हेरफेर किए गए या पूरी तरह से बनावटी होते हैं। वीडियो और ऑडियो में, डीपफेक अक्सर किसी व्यक्ति के चेहरे, आवाज या हलचल को बदलने या बदलने में शामिल होते हैं ताकि ऐसा लगे कि वे कुछ कह या कर रहे हैं जो उन्होंने वास्तव में कभी नहीं किया। हालांकि डीपफेक अक्सर रचनात्मक, मनोरंजन और शैक्षिक उद्देश्यों के लिए उपयोग किए जाते हैं, वे गलत सूचना फैलाने और गोपनीयता का उल्लंघन करने की क्षमता के कारण नैतिक और कानूनी चिंताएं भी उठाते हैं। इसके कारण, Kapwing सुनिश्चित करता है कि सभी डीपफेक सामग्री को स्पष्ट रूप से हटाए न जा सकने वाले 'AI-जनित' वाटरमार्क के साथ चिह्नित किया जाए।

नहीं, डीपफेक वीडियो गैरकानूनी नहीं हैं और अमेरिका में डीपफेक को रोकने का कोई राष्ट्रीय कानून नहीं है। हालांकि, दस राज्यों में ऐसे कानून हैं जो विशेष रूप से उन लोगों को निशाना बनाते हैं जो स्पष्ट डीपफेक सामग्री बनाते और शेयर करते हैं, जिनमें Kapwing वाला कैलिफोर्निया भी शामिल है।

जनवरी 2024 में, टेलर स्विफ्ट डीपफेक लीक का शिकार हुईं। फर्जी वीडियो जिन्होंने लोगों को धोखा दिया, सोशल मीडिया पर फैल गए, जिनमें से एक वीडियो ने X पर 47 मिलियन व्यूज़ पाए जब तक कि इसे हटाया नहीं गया। इस घटना ने अमेरिकी नेताओं को नए कानून के लिए दबाव डालने को मजबूर किया। फिर भी, आठ महीने बाद अगस्त 2024 में, डोनाल्ड ट्रंप ने AI-जनित तस्वीरों का एक संग्रह शेयर किया जिसमें गलत तरीके से टेलर स्विफ्ट और उनके फैंस को राष्ट्रपति अभियान का समर्थन करते हुए दिखाया गया। Kapwing के AI अनुसंधान में यह भी पाया गया कि टेलर स्विफ्ट इंटरनेट पर 10 सबसे ज्यादा डीपफेक्ड सेलिब्रिटीज़ में तीसरे स्थान पर हैं।

Kapwing डीपफेक सामग्री के नियंत्रण और सुरक्षा का समर्थन करता है, और हमारे इंजीनियर कड़ी मेहनत करते हैं ताकि AI सामग्री का इस्तेमाल साफ़, भ्रामक या अनुचित विषयों के लिए न किया जा सके।

हमारी सेवा शर्तें पढ़ें ताकि आप जान सकें कि हम कैसे सुनिश्चित करते हैं कि AI सामग्री किसी को नुकसान न पहुंचाए।

औसत सोशल मीडिया उपयोगकर्ता के लिए डीपफेक सामग्री का पता लगाना काफी मुश्किल है — बस 17% लोगों ने Kapwing का AI क्विज़ पूरा किया है जिसमें सेलिब्रिटी के भाषणों को असली या फर्जी पहचानना होता है। कुछ सबसे स्पष्ट संकेत हैं अजीब बोली, बैकग्राउंड में बेतुके विवरण, अनोखे अंग या चेहरे की हरकतें, वीडियो में गड़बड़ी, और धुंधलापन। शोधकर्ता, टेक कंपनियां, और वीडियो विशेषज्ञ फ्रेम-दर-फ्रेम विश्लेषण और डीपफेक पहचान सॉफ्टवेयर का इस्तेमाल करके डीपफेक सामग्री को पकड़ने और इंटरनेट को सुरक्षित रखने में मदद करते हैं। तुम भी ऐप या वेबसाइट पर जहां यह दिखाई देता है, हानिकारक डीपफेक सामग्री को रिपोर्ट कर सकते हो।

डीपफेक की कहानी 1990 के दशक में शुरू होती है, जब सीजीआई के विकास ने डीपफेक की यात्रा को एक नई दिशा दी। लेकिन असली मशहूरी 2017 में आई, जब एक Reddit यूजर ने 'डीपफेक' शब्द गढ़ा और सेलिब्रिटी के चेहरों को अन्य चेहरों में बदलने वाले एआई वीडियो शेयर किए। यही वो पल था जब डीपफेक ने असली पहचान हासिल की।

तुम Kapwing के 'शैक्षणिक' हिस्से का इस्तेमाल यह समझने के लिए कर सकते हो कि नवीनतम ओपन-सोर्स लिप सिंक तकनीकों से डीपफेक कंटेंट कैसे बनाया जाता है। टेलर स्विफ्ट, एलन मस्क और डोनाल्ड ट्रंप जैसे सेलेब्स को केस स्टडी के तौर पर चुना गया है। यूज़र्स सिर्फ उन्हीं वीडियो को पोस्ट कर सकते हैं जिनके लिए उन्हें इजाजत मिली है। अपना वीडियो इस्तेमाल करो, एक अप्रूव्ड स्टॉक Persona चुनो, या जब किसी और के वीडियो से Persona बनाते हो तो साफ़ अनुमति लो। किसी सेलेब या दूसरे व्यक्ति का इस्तेमाल जिसके लिए तुम्हारे पास अनुमति नहीं है, मना है और Kapwing के सेवा की शर्तों के खिलाफ़ है।

डीपफेक तकनीक उन्नत AI का मजेदार इस्तेमाल करती है, खास तौर पर जेनरेटिव एडवर्सेरियल नेटवर्क (GANs) जैसे डीप लर्निंग एल्गोरिदम, जो बेहद असली जैसे फर्जी वीडियो, चित्र या ऑडियो बनाते हैं। यह किसी व्यक्ति के चेहरे या आवाज के बड़े डेटासेट पर एक मॉडल को प्रशिक्षित करके काम करता है, जिससे वह उनके भावों, हलचल और बोली को नकल कर सकता है। नतीजा ऐसी सामग्री होती है जो असली व्यक्ति जैसी दिखती या सुनाई देती है, हालांकि यह पूरी तरह से बनावटी होती है।

बिल्कुल, डीपफेक पूरी दुनिया में तेजी से फैल रहे हैं। Kapwing ने डीपफेक में वैश्विक रुचि का अध्ययन किया और पाया कि दक्षिण कोरिया (13,399), चेक गणराज्य (11,356), और स्वीडन (10,443) वे कुछ ऐसे देश हैं जहाँ हर मिलियन लोगों में 10,000 से ज्यादा डीपफेक से जुड़ी खोजें हुईं।