जनवरी 2026 में, सैन्य कार्रवाई की घोषणा करने वाले एक मौजूदा राष्ट्राध्यक्ष का एक डीपफेक वीडियो आधिकारिक तौर पर खारिज होने से पहले 47 मिनट तक प्रसारित किया गया था। उस खिड़की में, बाज़ार चले गए, राजनयिक केबल भेजे गए, और लाखों लोगों ने उस चीज़ पर विश्वास किया जो कभी नहीं हुआ था। यह वह दुनिया है जिसमें हम अब रहते हैं - और इसे रोकने के लिए डिज़ाइन किए गए उपकरण दौड़ में हार रहे हैं।

डिटेक्शन विफल क्यों हो रहा है?

वीडियो संश्लेषण मॉडल की नवीनतम पीढ़ी - जिसमें सोरा 3, रनवे जेन -4 और कई ओपन-सोर्स विकल्प शामिल हैं - ऐसे वीडियो का उत्पादन करते हैं जो हर मौजूदा डिटेक्शन टूल को मात देते हैं। मूलभूत समस्या यह है कि पता लगाने वाले उपकरणों को पिछली पीढ़ी के संश्लेषण मॉडल की कलाकृतियों पर प्रशिक्षित किया जाता है। जैसे-जैसे संश्लेषण में सुधार होता है, पता लगाने में 6-12 महीने की देरी हो जाती है। जब तक एक डिटेक्शन मॉडल को वर्तमान पीढ़ी की कलाकृतियों पर प्रशिक्षित किया जाता है, तब तक संश्लेषण मॉडल आगे बढ़ चुके होते हैं।

वाशिंगटन विश्वविद्यालय की सुरक्षा और गोपनीयता अनुसंधान प्रयोगशाला द्वारा अप्रैल 2026 में प्रकाशित एक अध्ययन में पांच सबसे सक्षम वर्तमान संश्लेषण मॉडल द्वारा उत्पन्न वीडियो के खिलाफ 14 वाणिज्यिक और ओपन-सोर्स डीपफेक डिटेक्शन टूल का परीक्षण किया गया। किसी भी पता लगाने वाले उपकरण ने 65% से अधिक सटीकता हासिल नहीं की - और कई ने नवीनतम मॉडलों पर यादृच्छिक अवसर से भी बदतर प्रदर्शन किया। शोधकर्ताओं ने निष्कर्ष निकाला कि दृश्य-कलाकृति-आधारित पहचान वर्तमान संश्लेषण प्रौद्योगिकी के मुकाबले "मौलिक रूप से अपर्याप्त" है।

उद्गम दृष्टिकोण

सबसे आशाजनक समाधान पता लगाना नहीं है - यह उद्गम है। Adobe, Microsoft, BBC और 2,000 से अधिक सदस्य संगठनों द्वारा समर्थित कंटेंट ऑथेंटिसिटी इनिशिएटिव ने C2PA नामक एक क्रिप्टोग्राफ़िक हस्ताक्षर मानक विकसित किया है जो कैप्चर के बिंदु पर मीडिया फ़ाइलों में छेड़छाड़-स्पष्ट मेटाडेटा को एम्बेड करता है। कैमरे, फोन और रिकॉर्डिंग सॉफ्टवेयर जो C2PA को लागू करते हैं, कैप्चर से प्रकाशन तक हिरासत की एक अटूट श्रृंखला बनाते हैं।

Sony, Nikon और Leica ने C2PA-सक्षम कैमरे भेजे हैं। Apple का iPhone 17 Pro अपने मूल कैमरा ऐप में कैप्चर की गई तस्वीरों और वीडियो के लिए C2PA लागू करता है। न्यूयॉर्क टाइम्स, रॉयटर्स और बीबीसी ने प्रमाणित सामग्री पर C2PA सत्यापन बैज प्रदर्शित करने के लिए अपनी सामग्री प्रबंधन प्रणालियों को अपडेट किया है।

गोद लेने की समस्या

C2PA तकनीकी रूप से मजबूत है, लेकिन इसे अपनाना खंडित है। प्रमुख समाचार संगठनों ने इसे लागू किया है; सोशल मीडिया प्लेटफॉर्म ने नहीं किया है। मेटा, टिकटॉक और एक्स सभी ने C2PA सत्यापन का समर्थन करने की योजना की घोषणा की है लेकिन अभी तक इसे बड़े पैमाने पर तैनात नहीं किया है। जब तक जिन प्लेटफार्मों पर अधिकांश लोग समाचारों का उपभोग करते हैं, उन्हें C2PA सत्यापन की आवश्यकता नहीं होती, तब तक मानक अपनी क्षमता को पूरा नहीं कर सकता।

एक बुनियादी अंतर भी है: C2PA यह सत्यापित कर सकता है कि एक वीडियो एक विशिष्ट उपकरण द्वारा एक विशिष्ट समय पर कैप्चर किया गया था, लेकिन यह सत्यापित नहीं कर सकता कि वीडियो में व्यक्ति वही है जो वे दिखाई देते हैं। किसी स्क्रिप्टेड दृश्य का प्रदर्शन करने वाले अभिनेता का वास्तविक वीडियो C2PA सत्यापन पास कर लेगा। मानक निर्माण को संबोधित करता है, प्रतिरूपण को नहीं।

विधायी प्रतिक्रियाएँ

सरकारें कानून बनाकर प्रतिक्रिया दे रही हैं, हालांकि गति में काफी भिन्नता है। EU के AI अधिनियम के तहत कुछ संदर्भों में AI-जनित सामग्री के प्रकटीकरण की आवश्यकता होती है। कैलिफ़ोर्निया के एबी 602 और एबी 730 में एआई-जनित राजनीतिक विज्ञापन और यौन संदर्भों में वास्तविक लोगों को चित्रित करने वाले सिंथेटिक मीडिया का खुलासा करने की आवश्यकता है। गैर-सहमति वाली डीपफेक पोर्नोग्राफ़ी को कवर करने के लिए ऑस्ट्रेलिया के ऑनलाइन सुरक्षा अधिनियम में संशोधन किया गया है। लेकिन प्रवर्तन अनियमित है, और जो कानून मौजूद हैं वे निवारक के बजाय प्रतिक्रियाशील हैं।

व्यक्ति क्या कर सकते हैं

विश्वसनीय तकनीकी समाधानों के अभाव में, मीडिया साक्षरता सबसे महत्वपूर्ण बचाव है। किसी सार्वजनिक हस्ती के किसी भी आश्चर्यजनक वीडियो को तब तक संदेह की नज़र से देखें जब तक कि उसे कई स्वतंत्र स्रोतों द्वारा सत्यापित न कर लिया जाए। प्रकाशन दिनांक और स्रोत की जाँच करें. C2PA सत्यापन बैज वहां खोजें जहां वे मौजूद हों। और याद रखें: सबसे खतरनाक डीपफेक वे हैं जो उस बात की पुष्टि करते हैं जिस पर आप पहले से विश्वास करते हैं - पुष्टि करने वाली जानकारी को बिना जांच के स्वीकार करने की हमारी प्रवृत्ति वह कमजोरी है जिसका डीपफेक सबसे प्रभावी ढंग से फायदा उठाते हैं।

मंच की जिम्मेदारी

अंततः, डीपफेक संकट एक प्लेटफ़ॉर्म गवर्नेंस समस्या के साथ-साथ एक तकनीकी समस्या भी है। सोशल मीडिया प्लेटफ़ॉर्म में राजनीतिक सामग्री के लिए C2PA सत्यापन की आवश्यकता करने, AI-जनित मीडिया को लेबल करने और वास्तविक लोगों का प्रतिरूपण करने वाली सिंथेटिक सामग्री को हटाने की क्षमता है। यूरोपीय संघ के डिजिटल सेवा अधिनियम को प्रणालीगत जोखिमों के लिए जोखिम शमन उपायों को लागू करने के लिए बड़े प्लेटफार्मों की आवश्यकता होती है - जिसमें दुष्प्रचार भी शामिल है - और यूरोपीय आयोग ने उन प्लेटफार्मों के खिलाफ प्रवर्तन कार्यवाही शुरू कर दी है जो अनुपालन करने में विफल रहे हैं। ऑस्ट्रेलिया में, ऑनलाइन सुरक्षा अधिनियम ई-सेफ्टी आयुक्त को हानिकारक सिंथेटिक मीडिया को हटाने के लिए प्लेटफार्मों की आवश्यकता की शक्तियाँ देता है। उपकरण मौजूद हैं; सवाल यह है कि क्या इनका उपयोग करने की राजनीतिक इच्छाशक्ति पर्याप्त है।

स्रोत और आगे पढ़ना