ऐप स्टोर की सुरक्षा का वादा हमेशा एक भ्रम था

कुछ साल पहले, किसी ऐप को खोजने की प्रक्रिया सरल थी। एक उपयोगकर्ता डिजिटल स्टोरफ्रंट खोलता था, सर्च बार में एक कीवर्ड टाइप करता था, और भरोसा करता था कि परिणाम सुरक्षित हैं क्योंकि एक मल्टी-ट्रिलियन-डॉलर के कॉर्पोरेशन ने उनकी जांच की थी। यही 'वॉल्ड गार्डन' (walled garden) का मुख्य आकर्षण था। इसने अनियंत्रित और अप्रत्याशित खुले वेब का एक स्वच्छ विकल्प पेश किया। आज, सुरक्षा की वह भावना खत्म हो गई है। जब कोई उपयोगकर्ता एक साधारण फोटो एडिटर खोजता है, तो एल्गोरिदम अक्सर ऐसे टूल का सुझाव देता है जो बिना सहमति के छवियों से कपड़े हटाने के लिए डिज़ाइन किए गए हैं। यही वह वास्तविकता है जिसने सैन फ्रांसिस्को के सिटी अटॉर्नी डेविड चिउ को एप्पल और गूगल को अपने प्लेटफॉर्म से दर्जनों 'नूडिफाई' (nudify) ऐप्स को हटाने का आदेश देने के लिए प्रेरित किया।

न्यूट्रल पाइप से सक्रिय सुविधा प्रदाताओं में बदलाव

ऐतिहासिक रूप से, तकनीकी दिग्गज कानूनी ढांचे के संरक्षण में काम करते थे जो उन्हें तटस्थ मध्यस्थों (neutral intermediaries) के रूप में मानते थे। वे पाइप थे, पानी नहीं। यदि किसी उपयोगकर्ता ने कुछ अवैध साझा किया, तो उपयोगकर्ता का दोष था, सेवा प्रदाता का नहीं। यह प्रतिमान अब बदल गया है। कैलिफोर्निया का कानून अब उस गतिविधि को अपराध मानता है जो जानबूझकर गैर-सहमति वाली डीपफेक पोर्नोग्राफी बनाने में सुविधा प्रदान करती है या लापरवाही से सहायता करती है। 2025 का एक कानून पीड़ितों को उन थर्ड-पार्टी प्लेटफॉर्म्स के खिलाफ नागरिक कार्रवाई करने की अनुमति देता है जो इस सामग्री को होस्ट करते हैं। सैन फ्रांसिस्को शहर अब तर्क देता है कि एप्पल और गूगल अब निष्क्रिय होस्ट नहीं हैं। भुगतान संसाधित करके और खोज एल्गोरिदम के माध्यम से इन ऐप्स का सुझाव देकर, ये कंपनियां एक शिकारी अर्थव्यवस्था में सक्रिय भागीदार हैं।

उद्योग के स्तर पर ज़ूम आउट करें, तो यह कानूनी दबाव ऐप मॉडरेशन के लिए 'हैंड्स-ऑफ' युग के अंत का प्रतीक है। अतीत में, कंपनियां प्रतिबंधित सामग्री को पकड़ने के लिए स्वचालित फिल्टर पर निर्भर थीं; आज, वे फिल्टर जेनरेटिव एआई टूल्स की भारी मात्रा के सामने विफल हो रहे हैं। टेक ट्रांसपेरेंसी प्रोजेक्ट ने पाया कि दोनों कंपनियों को जनवरी 2026 की शुरुआत में ही इन ऐप्स के बारे में चेतावनी दी गई थी। इन चेतावनियों के बावजूद, ऐप्स महीनों तक उपलब्ध रहे। यह देरी बताती है कि ऐप समीक्षा का बुनियादी ढांचा अपने स्वयं के पैमाने के वजन के नीचे झुक रहा है। जब एक प्लेटफॉर्म लाखों सॉफ्टवेयर होस्ट करता है, तो मैन्युअल समीक्षा एक बाधा बन जाती है जिसे अधिकांश कॉर्पोरेशन विकास के पक्ष में अनदेखा करना चुनते हैं।

गैर-सहमति वाले कोड का अर्थशास्त्र

इन ऐप्स की उपस्थिति के पीछे एक वित्तीय तर्क है। एप्पल और गूगल आमतौर पर इन-ऐप खरीदारी पर 30 प्रतिशत कमीशन लेते हैं। जब एक नूडिफाई ऐप छवि बनाने के लिए क्रेडिट के लिए उपयोगकर्ता से शुल्क लेता है, तो उस पैसे का एक हिस्सा सीधे प्लेटफॉर्म मालिक के पास जाता है। डेविड चिउ का अनुमान है कि इन कंपनियों ने इन लेनदेन से लाखों डॉलर कमाए हैं। यह सुरक्षा और राजस्व के बीच हितों का टकराव पैदा करता है। रोजमर्रा के शब्दों में, यह एक शॉपिंग मॉल की तरह है जो चोरी का सामान बेचने वाली दुकान से हिस्सा लेता है। मॉल के पास दुकान को तब तक खुला रखने का हर प्रोत्साहन है जब तक किराया दिया जाता है और अधिकारी दरवाजा नहीं खटखटा रहे होते हैं।

तकनीकी रूप से कहें तो, समस्या केवल ऐप्स का अस्तित्व नहीं है, बल्कि यह है कि स्टोर उन्हें कैसे बढ़ावा देते हैं। टेक ट्रांसपेरेंसी प्रोजेक्ट ने नोट किया कि गूगल और एप्पल ने जानबूझकर खोज सुझावों के माध्यम से उपयोगकर्ताओं को इन उपकरणों की ओर निर्देशित किया। यह एल्गोरिदम क्यूरेशन का एक उप-उत्पाद है। स्टोर का सर्च इंजन उपयोगकर्ताओं को वह दिखाने के लिए डिज़ाइन किया गया है जिसे वे डाउनलोड करने की संभावना रखते हैं, न कि वह जो होस्ट करना नैतिक है। यदि हजारों लोग एक विशिष्ट प्रकार के शोषणकारी उपकरण की खोज करते हैं, तो एल्गोरिदम लेनदेन की संभावना को अधिकतम करने के लिए उस उपकरण को प्राथमिकता देता है। कोड के पास कोई नैतिक दिशा-सूचक यंत्र नहीं है; इसके पास केवल रूपांतरण दर (conversion rate) है।

एल्गोरिदम गेटकीपर का टूटना

हुड के नीचे, नूडिफाई ऐप्स अक्सर प्रारंभिक समीक्षा प्रक्रिया को बायपास करने के लिए परिष्कृत तरीकों का उपयोग करते हैं। डेवलपर्स अनुमोदन के लिए एक स्पष्ट रूप से हानिरहित फोटो फ़िल्टर ऐप सबमिट कर सकते हैं। एक बार ऐप लाइव हो जाने के बाद, यह नया कोड खींच सकता है या रिमोट एआई मॉडल तक पहुंच सकता है जो वास्तविक छवि हेरफेर करते हैं। यह मॉडरेशन स्टैक में तकनीकी ऋण का एक रूप है। समीक्षा प्रक्रिया समय के एक बिंदु पर होती है, लेकिन सॉफ्टवेयर गतिशील है। एक डेवलपर उपयोगकर्ता के फोन पर ऐप होने के बाद उसके व्यवहार को बदल सकता है। यह गेट पर एक बार की जांच को एक अप्रभावी सुरक्षा उपाय बनाता है।

विडंबना यह है कि वही कंपनियां जो अपने उपकरणों को गोपनीयता-केंद्रित टूल के रूप में विपणन करती हैं, वे ही गोपनीयता का उल्लंघन करने वाले सॉफ़्टवेयर के लिए वितरण प्रदान कर रही हैं। एप्पल अक्सर वैध ऐप्स के बीच डेटा साझाकरण को प्रतिबंधित करने के लिए पारिस्थितिकी तंत्र पर अपने नियंत्रण का उपयोग करता है, फिर भी उसने उन सॉफ़्टवेयर की पहचान करने के लिए संघर्ष किया जो व्यक्तियों को लक्षित करने के लिए एआई का उपयोग करते हैं। यह प्लेटफॉर्म सुरक्षा के प्रति एक खंडित दृष्टिकोण को दर्शाता है। कंपनी का एक हिस्सा मजबूत एन्क्रिप्शन बनाता है; कंपनी का दूसरा हिस्सा उन ऐप्स के लिए भुगतान संसाधित करता है जो गैर-सहमति वाली अंतरंग छवियां उत्पन्न करते हैं। व्यवसाय के दोनों पक्ष हमेशा संवाद नहीं करते हैं।

एआई की दुनिया में लीगेसी सिस्टम

ऐप स्टोर की निगरानी के लिए उपयोग किए जाने वाले कई उपकरण लीगेसी सिस्टम हैं। वे उस युग के लिए बनाए गए थे जब ऐप्स कोड के स्थिर पैकेज थे। वर्तमान परिदृश्य में, एक ऐप अक्सर वेब-आधारित एपीआई के चारों ओर सिर्फ एक पतला आवरण होता है। एआई प्रोसेसिंग का भारी काम एक रिमोट सर्वर पर होता है जिसे ऐप स्टोर समीक्षक नहीं देख सकते। यह ऐप को ही एक 'ब्लैक बॉक्स' बना देता है। यदि एपीआई एक रेस्तरां वेटर है, तो ऐप स्टोर केवल ऑर्डर लेने वाले व्यक्ति को देखता है। उसके पास यह जानने का कोई तरीका नहीं है कि रसोई में क्या हो रहा है जब तक कि डिश पहले से ही मेज पर न हो।

नतीजतन, सुरक्षा की जिम्मेदारी प्लेटफॉर्म से जनता पर स्थानांतरित हो गई है। जब एप्पल और गूगल दावा करते हैं कि वे उल्लंघन की सूचना मिलने के बाद त्वरित कार्रवाई करते हैं, तो वे स्वीकार कर रहे होते हैं कि उनके सक्रिय सिस्टम विफल रहे। वे अपने लिए मॉडरेशन का काम करने के लिए उपयोगकर्ताओं, पत्रकारों और शहर के वकीलों पर भरोसा कर रहे हैं। यह एक प्रतिक्रियाशील वातावरण बनाता है जहां ऐप को हटाए जाने से पहले ही नुकसान हो चुका होता है। डीपफेक पोर्नोग्राफी के पीड़ितों के लिए, एक निलंबन जो ऐप के हजारों बार डाउनलोड होने के महीनों बाद होता है, एक खोखली जीत है।

डिजिटल स्टोरफ्रंट पर नियंत्रण पुनः प्राप्त करना

अंततः, सैन फ्रांसिस्को का आदेश एक अनुस्मारक है कि हमारे जीवन को चलाने वाला सॉफ्टवेयर कोई कानूनविहीन सीमा नहीं है। आईफोन या एंड्रॉइड डिवाइस को पावर देने वाला कोड उन्हीं सामाजिक नियमों के अधीन है जो किसी अन्य उत्पाद पर लागू होते हैं। हम एक ऐसे बिंदु पर पहुंच गए हैं जहां डिजिटल साक्षरता के लिए हमें ऐप स्टोर के सहज ज्ञान युक्त इंटरफ़ेस से परे देखने और उसके पीछे के व्यावसायिक नियमों को देखने की आवश्यकता है। जिस क्यूरेटेड अनुभव का हमसे वादा किया गया था, वह एक मार्केटिंग निर्माण है। व्यवहार में, स्टोरफ्रंट एक खुला बाजार है जहां प्राथमिक लक्ष्य लेनदेन है।

हमें अपनी डिजिटल आदतों का निरीक्षण करना चाहिए और पूछना चाहिए कि हम इन प्लेटफार्मों पर इतना भरोसा क्यों करते हैं। आधिकारिक स्टोर पर ऐप की उपस्थिति गुणवत्ता या सुरक्षा की मुहर नहीं है। यह एक संकेत है कि डेवलपर ने तकनीकी विशिष्टताओं के एक सेट का पालन किया और अपने राजस्व को साझा करने के लिए सहमत हुआ। उपयोगकर्ताओं के रूप में, हमें प्रतिक्रियाशील मॉडरेशन से अधिक की मांग करनी चाहिए। हमें उन कंपनियों से अपेक्षा करनी चाहिए जो हमारे डिजिटल जीवन के बुनियादी ढांचे को नियंत्रित करती हैं, कि वे हमारी सुरक्षा के बारे में उतनी ही सतर्क रहें जितनी वे अपने लाभ मार्जिन के बारे में रहती हैं। सैन फ्रांसिस्को शहर ने स्पष्ट कर दिया है कि तकनीकी दिग्गजों के लिए प्रशंसनीय इनकार (plausible deniability) का युग समाप्त हो गया है।

Sources:
San Francisco City Attorney's Office official correspondence
Tech Transparency Project April 2026 report
California Civil Code Section 1708.85
TechCrunch and Wired investigative reports