क्या एक लेबल वास्तव में इंटरनेट की डीपफेक समस्या को ठीक कर सकता है?

पिछली बार आपने कब ऑनलाइन किसी फोटो को देखा था और 100% यकीन किया था कि वह असली है? इस रविवार से, यूरोपीय संघ यह दांव लगा रहा है कि एक साधारण लेबल उस खोए हुए आत्मविश्वास को बहाल कर सकता है। ईयू एआई अधिनियम (EU AI Act) अब तकनीकी कंपनियों के लिए डीपफेक और एआई-जनरेटेड सामग्री की स्पष्ट रूप से पहचान करना अनिवार्य बनाता है। इसका मतलब है कि डिजिटल दुनिया को पारदर्शिता के लिए नियमों का एक नया सेट मिल गया है, लेकिन कानून से लेकर एक साफ-सुथरे सोशल मीडिया फीड तक का रास्ता तकनीकी बाधाओं से भरा है।

आपके डिजिटल जीवन पर अदृश्य वॉटरमार्क

एआई को एक ऐसे अथक इंटर्न के रूप में सोचें जो हर घंटे लाखों उच्च-गुणवत्ता वाले जालसाजी (forgeries) करने में सक्षम है। अब तक, यह इंटर्न पूरी तरह से गुमनामी में काम करता था। नए ईयू नियम सॉफ्टवेयर के पीछे की कंपनियों को एक 'पेपर ट्रेल' छोड़ने के लिए मजबूर करके इसे बदलते हैं। यदि चैटजीपीटी (ChatGPT) या क्लाउड (Claude) जैसा सिस्टम मीडिया का कोई टुकड़ा बनाता है, तो उस मीडिया में एक ऐसा मार्कर होना चाहिए जिसे सॉफ्टवेयर पढ़ सके और इंसान देख सकें।

यह आवश्यकता टूल बनाने वालों और पेशेवर उपयोगकर्ताओं दोनों पर लागू होती है। यदि कोई मार्केटिंग फर्म कपड़ों के विज्ञापन के लिए एआई-जनरेटेड मॉडल का उपयोग करती है, तो कानून कहता है कि उन्हें इसका खुलासा करना होगा। यह हमारे मीडिया उपभोग के तरीके में एक प्रणालीगत बदलाव है। लक्ष्य यह सुनिश्चित करना है कि जब आप किसी विश्व नेता या सेलिब्रिटी का वीडियो देखें, तो आपके पास यह सत्यापित करने का एक ठोस तरीका हो कि क्या यह वास्तव में हुआ था या यह किसी प्रॉम्प्ट का परिणाम था। यह डिजिटल फिंगरप्रिंटिंग सिंथेटिक मीडिया पर लगाम लगाने का पहला वास्तविक प्रयास है, इससे पहले कि वह वास्तविकता को पूरी तरह से बदल दे।

अथक इंटर्न अपने काम पर हस्ताक्षर कैसे करता है

कोई कंपनी डीपफेक को लेबल करने के लिए दो मुख्य तरीके अपना सकती है। पहला आपको दिखाई देता है: वीडियो के कोने में एक टेक्स्ट टैग या लोगो। दूसरा आंखों के लिए अदृश्य है लेकिन कंप्यूटर द्वारा पठनीय है। यह मेटाडेटा (metadata) है। मेटाडेटा एक भौतिक फोटो के पीछे लगे उस डिजिटल स्टिकर की तरह है जो आपको बताता है कि इसे कब और कहाँ लिया गया था।

कई उद्योग जगत के नेता C2PA नामक मानक का उपयोग करते हैं। यह एक तकनीकी ढांचा है जो किसी फ़ाइल के साथ उसका इतिहास जोड़ता है। जब एआई एक छवि बनाता है, तो सॉफ्टवेयर फ़ाइल के कोड में एक क्रिप्टोग्राफ़िक हस्ताक्षर एम्बेड करता है। जब वह छवि इंस्टाग्राम या एक्स (X) जैसे प्लेटफॉर्म पर अपलोड की जाती है, तो प्लेटफॉर्म हस्ताक्षर को पढ़ता है और एक लेबल प्रदर्शित करता है। यह प्रक्रिया पारदर्शी है और उपयोगकर्ता के अनुभव को खराब किए बिना संदर्भ प्रदान करने के लिए पर्दे के पीछे काम करती है। हालाँकि, मेटाडेटा को हटाना आसान है। यदि आप एआई छवि का स्क्रीनशॉट लेते हैं, तो मेटाडेटा अक्सर खो जाता है। यह वास्तविकता अदृश्य हस्ताक्षर को समर्पित बुरे तत्वों के खिलाफ एक कमजोर बचाव बनाती है।

मेटाडेटा दिखने में जितना नाजुक क्यों है

डिजिटल निशान स्थायी नहीं होते हैं। जब आप किसी मैसेजिंग ऐप पर उच्च-रिज़ॉल्यूशन वाली फोटो अपलोड करते हैं, तो ऐप अक्सर जगह बचाने के लिए फ़ाइल को कंप्रेस (दबाना) कर देता है। यह कंप्रेशन प्रक्रिया उन मेटाडेटा लेबल को मिटा सकती है जिनकी ईयू एआई अधिनियम को आवश्यकता है। औसत उपयोगकर्ता के लिए, इसका मतलब है कि एक प्रतिष्ठित स्रोत से लेबल की गई छवि केवल एक ग्रुप चैट में साझा किए जाने से एक बिना लेबल वाला डीपफेक बन सकती है।

वॉटरमार्किंग एक अधिक लचीला विकल्प है। मेटाडेटा के विपरीत, जो कोड का एक अलग ब्लॉक है, वॉटरमार्क छवि के वास्तविक पिक्सेल या ऑडियो फ़ाइल की फ्रीक्वेंसी में रचा-बसा होता है। कुछ कंपनियाँ इन निशानों को छिपाने के लिए "स्टेग्नोग्राफी" (steganography) का उपयोग करती हैं। ये ऐसे पैटर्न हैं जो इंसानों के लिए अदृश्य हैं लेकिन स्कैनर द्वारा पहचाने जा सकते हैं। भले ही आप फोटो को क्रॉप करें या रंग बदलें, निशान बना रहता है। समस्या यह है कि इन वॉटरमार्क के लिए कोई एक वैश्विक मानक नहीं है। गूगल द्वारा बनाया गया स्कैनर ओपन-सोर्स मॉडल द्वारा बनाए गए वॉटरमार्क को नहीं पहचान सकता है। एक सामान्य भाषा की यह कमी एक अपारदर्शी वातावरण बनाती है जहाँ नियमों को लागू करना कठिन होता है।

एक मजाक और एक हथियार के बीच का अंतर

यूरोपीय संघ रचनात्मकता पर प्रतिबंध लगाने की कोशिश नहीं कर रहा है। कानून हानिरहित व्यंग्य और खतरनाक हेरफेर के बीच एक स्पष्ट अंतर पैदा करता है। जब डिजाइनर पफर जैकेट में पोप फ्रांसिस की एआई-जनरेटेड छवि वायरल हुई, तो वह एक मजाक था। अधिकांश लोग समझ गए कि यह नकली था क्योंकि यह बेतुका था। नए नियमों के तहत, ऐसी कलात्मक या व्यंग्यात्मक सामग्री को आम तौर पर सख्त लेबलिंग के समान स्तर की आवश्यकता नहीं होती है।

इसके विपरीत, उन सामग्रियों के लिए नियम बहुत सख्त हैं जो सार्वजनिक हित के मामलों में जनता को धोखा दे सकती हैं। हम पहले ही देख चुके हैं कि इससे कितना नुकसान हो सकता है। 2022 में, यूक्रेन पर आक्रमण के दौरान राष्ट्रपति ज़ेलेंस्की का अपनी सेना को आत्मसमर्पण करने के लिए कहने वाला एक डीपफेक वीडियो ऑनलाइन दिखाई दिया। हालांकि इसे जल्दी ही खारिज कर दिया गया था, लेकिन इसने दिखाया कि कैसे एआई युद्ध का एक उपकरण हो सकता है। इसी तरह, टेलर स्विफ्ट जैसी हस्तियों की स्पष्ट एआई-जनरेटेड छवियों ने दिखाया है कि कैसे इस तकनीक का उपयोग उत्पीड़न के लिए किया जा सकता है। ईयू एआई अधिनियम पेशेवर उपयोगकर्ताओं को उनकी सामग्री की उत्पत्ति के बारे में ईमानदार होने की आवश्यकता बताकर इन हानिकारक उपयोगों को लक्षित करता है। लब्बोलुआब यह है कि छवि का संदर्भ उतना ही मायने रखता है जितना कि इसे बनाने के लिए उपयोग की गई तकनीक।

आपके दैनिक स्क्रॉल के लिए इसका क्या अर्थ है

उपभोक्ता के लिए, इस कानून के परिणामस्वरूप आपके सोशल मीडिया फीड पर अधिक लेबल और चेतावनियां दिखाई देंगी। आप किसी समाचार कहानी या प्रोफ़ाइल चित्र के बगल में एक छोटा "Generated by AI" टैग देख सकते हैं। यह आपको एक मानसिक फिल्टर बनाने में मदद करने के लिए है। बड़ी तस्वीर को देखें तो, यह डिजिटल साक्षरता के बारे में है। हम उस युग से दूर जा रहे हैं जहाँ "जो दिखता है वही सच है" से उस युग की ओर बढ़ रहे हैं जहाँ सत्यापित होने तक सब कुछ संदिग्ध है।

व्यावहारिक रूप से कहें तो, आपको हर डीपफेक के रातों-रात गायब होने की उम्मीद नहीं करनी चाहिए। यूरोपीय संघ केवल उन कंपनियों को विनियमित कर सकता है जो उसकी सीमाओं के भीतर व्यापार करती हैं। यूरोपीय संघ के बाहर के देश में एक गुमनाम निर्माता अभी भी वैश्विक प्लेटफार्मों पर बिना लेबल वाले डीपफेक पोस्ट कर सकता है। इसके अलावा, ओपन-सोर्स एआई मॉडल एक महत्वपूर्ण खामी हैं। ये ऐसे प्रोग्राम हैं जिन्हें कोई भी डाउनलोड कर सकता है और अपने कंप्यूटर पर चला सकता है। क्योंकि ये मॉडल विकेंद्रीकृत हैं, यूरोपीय संघ को व्यक्तिगत उपयोगकर्ताओं को लेबल शामिल करने के लिए मजबूर करने में कठिनाई होती है। कानून मुख्यधारा के लिए एक सुरक्षा कवच है, लेकिन इंटरनेट के किनारे अस्थिर बने रहेंगे।

डिजिटल वास्तविकता के लिए एक बहुस्तरीय दृष्टिकोण

विशेषज्ञ और यूरोपीय आयोग सहमत हैं कि कोई भी एक तकनीक रामबाण नहीं है। एक लेबल रक्षा की केवल एक परत है। डिजिटल स्पेस को वास्तव में सुरक्षित करने के लिए, हमें मेटाडेटा, वॉटरमार्किंग और सार्वजनिक शिक्षा के संयोजन की आवश्यकता है। एआई कंपनियों, सोशल मीडिया प्लेटफॉर्म और फैक्ट-चेकर्स को यह सुनिश्चित करने के लिए सहयोग करना चाहिए कि ये लेबल वास्तव में सामग्री के साथ जुड़े रहें क्योंकि यह वेब पर यात्रा करती है।

अंततः, ईयू एआई अधिनियम की सफलता इस बात पर निर्भर करती है कि क्या तकनीकी कंपनियां गति के बजाय सुरक्षा को प्राथमिकता देती हैं। यदि प्लेटफॉर्म एआई वॉटरमार्क पढ़ने के लिए आवश्यक स्कैनर में निवेश करने से इनकार करते हैं, तो लेबल बेकार हो जाएंगे। यदि वॉटरमार्क हटाना बहुत आसान है, तो कानून एक कागजी शेर बनकर रह जाएगा। उपभोक्ता के दृष्टिकोण से, सबसे अच्छी रणनीति किसी भी सनसनीखेज सामग्री के प्रति संशय में रहना है जिसमें स्पष्ट उत्पत्ति का अभाव है। इंटरनेट अब वास्तविकता का दर्पण नहीं है। यह एक क्यूरेटेड गैलरी है जहाँ कुछ कला मशीनों द्वारा चित्रित की गई है। यूरोपीय संघ बस यह सुनिश्चित करना चाहता है कि वे मशीनें कैनवास के नीचे अपने नाम के हस्ताक्षर करें।

आपके लिए इसका क्या अर्थ है

• लेबल की जाँच करें: समाचार साइटों और सोशल मीडिया पर "AI-generated" टैग देखें, क्योंकि यूरोप में काम करने वाले कई प्लेटफार्मों के लिए ये अब अनिवार्य हैं।
• सीमाओं को समझें: याद रखें कि स्क्रीनशॉट और कंप्रेस की गई फ़ाइलें अक्सर अपने एआई लेबल खो देती हैं, इसलिए बिना लेबल वाली छवि के असली होने की गारंटी नहीं है।
• वायरल सामग्री पर सवाल उठाएं: सार्वजनिक हस्तियों के उन वीडियो के साथ अतिरिक्त सावधानी बरतें जो उनके चरित्र से अलग लगते हैं, क्योंकि ये डीपफेक बनाने वालों के प्राथमिक लक्ष्य होते हैं।
• अधिक घर्षण की अपेक्षा करें: जैसे-जैसे कंपनियां इन नई पारदर्शिता आवश्यकताओं के साथ तालमेल बिठाएंगी, आपको अपने ऐप्स में अधिक खुलासे और चेतावनियां देखने को मिलेंगी।

स्रोत:

• European Commission: The AI Act and Synthetic Media Transparency Guidelines
• European AI Office: Implementation Framework for Deepfake Disclosures
• C2PA: Technical Standards for Content Provenance and Authenticity
• Coalition for Content Provenance and Authenticity: Metadata and Watermarking Report