आपका कंप्यूटर कम सुरक्षित क्यों है क्योंकि एआई कंपनियां इसे सुरक्षित करने की कोशिश कर रही हैं

जनता की राय एआई सुरक्षा घेरों (guardrails) को एक डिजिटल बुलेटप्रूफ जैकेट की तरह मानती है। तर्क सीधा है: यदि कोई मॉडल दुर्भावनापूर्ण कोड लिखने से मना कर देता है, तो हैकर्स के पास अपने शस्त्रागार में एक हथियार कम होगा। कॉर्पोरेट मार्केटिंग और सरकारी निगरानी के पीछे, ये सुरक्षा उपाय वर्तमान में उन्हीं लोगों को अंधा कर रहे हैं जो वास्तविक दुनिया के हमलों से हमारे उपकरणों की रक्षा करते हैं। अपराधियों के खिलाफ दरवाजे बंद करने की कोशिश में, एआई प्रयोगशालाएं अनजाने में ताला बनाने वालों (locksmiths) को ही बाहर कर रही हैं।

प्रौद्योगिकीविद् और सुरक्षा शोधकर्ता एक ऐसे रुझान पर अलार्म बजा रहे हैं जो वास्तविक सुरक्षा के बजाय दिखावे को प्राथमिकता देता है। जबकि एंथ्रोपिक (Anthropic) और ओपनएआई (OpenAI) जैसी कंपनियां अपने मॉडलों को नवाचार के शक्तिशाली इंजन के रूप में विपणन करती हैं, उन्होंने उन्हें "दुरुपयोग" को रोकने के लिए डिज़ाइन किए गए प्रतिबंधात्मक कोड की परतों में भी लपेट दिया है। औसत उपयोगकर्ता के लिए, इसका मतलब है कि वह सॉफ़्टवेयर जिस पर आप भरोसा करते हैं—आपके बैंकिंग ऐप से लेकर आपके स्मार्टफोन ऑपरेटिंग सिस्टम तक—उसका बचाव करना कठिन होता जा रहा है।

डिजिटल बुलेटप्रूफ जैकेट का मिथक

एआई सुरक्षा घेरों के साथ मौलिक समस्या यह है कि साइबर सुरक्षा एक दोतरफा रास्ता है। दीवार के छेद को ठीक करने के लिए, एक राजमिस्त्री को पहले यह समझना होगा कि उस दीवार को वास्तव में कैसे तोड़ा जा सकता है। डिजिटल दुनिया में, इसे आक्रामक अनुसंधान (offensive research) कहा जाता है। वैध सुरक्षा पेशेवर अपना दिन हैकर्स की तरह काम करते हुए बिताते हैं ताकि वास्तविक अपराधियों से पहले कमजोरियों का पता लगाया जा सके।

सुरक्षा परामर्श दिग्गज एनसीसी ग्रुप (NCC Group) के मुख्य वैज्ञानिक क्रिस एनली इसके लिए एक सरल सादृश्य का उपयोग करते हैं। हथौड़ा एक ऐसा उपकरण है जिसकी आपको घर बनाने के लिए आवश्यकता होती है, लेकिन यह एक हथियार भी है। आप इसके बिना संरचना का निर्माण नहीं कर सकते। यदि आप हिंसा को रोकने के लिए हथौड़ों पर प्रतिबंध लगाते हैं, तो आप यह भी सुनिश्चित करते हैं कि कोई घर न बने। जब कोई शोधकर्ता किसी एआई से बग का फायदा उठाने की कोशिश करने के लिए कहता है, तो वे यह साबित करने की कोशिश कर रहे होते हैं कि कमजोरी वास्तविक है ताकि निर्माता उसे ठीक कर सके। यदि एआई उत्तर देने से इनकार कर देता है क्योंकि अनुरोध "दुर्भावनापूर्ण" दिखता है, तो रक्षक अपने सबसे कुशल उपकरण के बिना रह जाता है।

यह एक विरोधाभास पैदा करता है जहां हैकर को रोकने के लिए बनाया गया तंत्र रक्षक को भी रोकता है। दोनों भूमिकाएं बिल्कुल एक ही तकनीक का उपयोग करती हैं। इन क्षमताओं तक पहुंच को प्रतिबंधित करके, एआई कंपनियां नेटवर्क रक्षकों के काम को काफी कठिन बना रही हैं। इसका परिणाम यह होता है कि सॉफ़्टवेयर की खामियां लंबे समय तक खुली रहती हैं, जिससे वास्तविक अपराधियों को उन्हें खोजने और उपयोग करने के लिए अधिक समय मिल जाता है।

एक अथक लेकिन जिद्दी इंटर्न के साथ बातचीत

कई शोधकर्ताओं के लिए, आधुनिक एआई मॉडल का उपयोग करना एक ऐसे अथक इंटर्न के साथ काम करने जैसा है जो अविश्वसनीय रूप से पागल (paranoid) भी है। आप इंटर्न से त्रुटियों के लिए कोड के एक टुकड़े का विश्लेषण करने के लिए कह सकते हैं। इंटर्न "एक्सप्लॉइट" या "वल्नरेबिलिटी" शब्द देखता है और तुरंत काम करना बंद कर देता है, और आपके द्वारा मांगे गए डेटा के बजाय आपको नैतिकता पर व्याख्यान देने लगता है।

रिमोटथ्रेट (RemoteThreat) के मुख्य कार्यकारी क्रिस थॉम्पसन नोट करते हैं कि शोधकर्ता अब अपने दिन का एक बड़ा हिस्सा मॉडल के साथ बातचीत करने में बिताते हैं। मुख्य सुरक्षा समस्या पर ध्यान केंद्रित करने के बजाय, वे यह पता लगाने की कोशिश कर रहे हैं कि एक मॉडल ने कल मददगार उत्तर क्यों दिया लेकिन आज बोलने से इनकार क्यों कर रहा है। एआई आउटपुट का यह अत्यधिक शुद्धिकरण (over-sanitization) असंगत परिणामों की ओर ले जाता है।

कुछ मामलों में, सुरक्षा घेरे इतने संवेदनशील होते हैं कि वे सुरक्षा से संबंधित विषयों के मात्र उल्लेख पर ही सक्रिय हो जाते हैं। एक प्रमुख स्मार्टफोन-घटक निर्माता के लिए काम करने वाले एक शोधकर्ता ने बताया कि उनके एआई उपकरण लगभग बेकार हैं क्योंकि सुरक्षा घेरे बहुत सख्त हैं। यदि मॉडल को किसी भी सुरक्षा-संबंधी गतिविधि की भनक लगती है, तो वह बस बंद हो जाता है। यह उन्हीं लोगों पर उत्पादकता कर (productivity tax) लगाता है जिन्हें वैश्विक आपूर्ति श्रृंखला की रक्षा करनी चाहिए।

जांच कार्यक्रमों की नौकरशाही

एआई प्रयोगशालाएं इस मुद्दे से अनजान नहीं हैं, लेकिन उनका समाधान नौकरशाही की एक परत है। एंथ्रोपिक के पास अपना साइबर सत्यापन कार्यक्रम (Cyber Verification Program) है, और ओपनएआई साइबर के लिए विश्वसनीय पहुंच (Trusted Access for Cyber) प्रदान करता है। ये जांचे गए कार्यक्रम हैं जहां शोधकर्ता कम प्रतिबंधों वाले मॉडलों तक विशेष पहुंच के लिए आवेदन कर सकते हैं।

हालाँकि, ये कार्यक्रम अक्सर अपारदर्शी और बहिष्करणकारी होते हैं। पहुंच अक्सर विशिष्ट पश्चिमी संगठनों या उन लोगों तक सीमित होती है जो सख्त कॉर्पोरेट मानदंडों को पूरा करते हैं। यहां तक कि जब एक शोधकर्ता को मंजूरी मिल जाती है, तो सीमाएं बिना किसी सूचना के बदल सकती हैं। यह गेटकीपिंग विशेष रूप से एंथ्रोपिक के मिथोस (Mythos) मॉडल के मामले में स्पष्ट है। कंपनी ने मिथोस को एक उच्च-स्तरीय उपकरण के रूप में विपणन किया है जो इतना शक्तिशाली है कि इसके लिए सरकारी स्तर की निगरानी की आवश्यकता होती है।

जून में, अमेरिकी सरकार ने मिथोस और फेबल (Fable) नामक एक अन्य मॉडल पर संक्षिप्त रूप से निर्यात नियंत्रण लागू किया। यह कदम उन रिपोर्टों के बाद उठाया गया था कि साइबर हमलों को अंजाम देने के लिए मॉडलों के सुरक्षा घेरों को दरकिनार किया जा सकता है। हालांकि बाद में जांचे गए अमेरिकी संगठनों के लिए नियंत्रणों में ढील दी गई, लेकिन इस घटना ने एआई को एक सामान्य उद्देश्य वाले उपकरण के बजाय एक नियंत्रित हथियार के रूप में मानने के बढ़ते रुझान को उजागर किया। इस स्तर की गेटकीपिंग उन हैकर्स को नहीं रोकती है जो अपने स्वयं के हार्डवेयर का उपयोग करते हैं, लेकिन यह उन वैध कंपनियों के लिए एक बड़ी बाधा उत्पन्न करती है जो समय से आगे रहने की कोशिश कर रही हैं।

ओपन सोर्स और विदेशी मॉडलों की ओर पलायन

जब वैध शोधकर्ताओं को अमेरिका स्थित एआई कंपनियों द्वारा अवरुद्ध किया जाता है, तो वे बस काम करना बंद नहीं करते हैं। इसके बजाय, वे ऐसे उपकरणों की तलाश करते हैं जिनमें ये प्रतिबंधात्मक फिल्टर न हों। इसका अक्सर मतलब पॉलिश किए गए क्लाउड मॉडल से दूर ओपन सोर्स विकल्पों की ओर जाना है जो निजी हार्डवेयर पर चल सकते हैं।

क्राउडफेंस (Crowdfense) के मुख्य प्रौद्योगिकी अधिकारी पाओलो स्टैग्नो बताते हैं कि उनकी टीम संवेदनशील काम के लिए क्लाउड-आधारित मॉडलों से बचती है। क्लाउड एआई में एक गुप्त सॉफ़्टवेयर दोष डालने से उस डेटा के लीक होने या भविष्य के प्रशिक्षण रन में समाहित होने का जोखिम होता है। गोपनीयता बनाए रखने और कॉर्पोरेट सुरक्षा घेरों की "बेबीसिटिंग" से बचने के लिए, कई पेशेवर अब ओपन सोर्स मॉडल का उपयोग कर रहे हैं जिन्हें वे बिना किसी निगरानी के स्थानीय रूप से चला सकते हैं।

यहाँ एक रणनीतिक जोखिम है। यदि अमेरिकी शोधकर्ताओं को लगता है कि घरेलू मॉडल उपयोगी होने के लिए बहुत प्रतिबंधात्मक हैं, तो वे अन्य देशों में विकसित शक्तिशाली ओपन सोर्स मॉडल की ओर रुख कर सकते हैं। क्रिस थॉम्पसन बताते हैं कि शोधकर्ताओं को पहले से ही जीएलएम (GLM) जैसे चीनी मॉडलों की ओर धकेला जा रहा है। ये मॉडल स्वतंत्र रूप से डाउनलोड करने योग्य हैं और बिना किसी उपयोग प्रतिबंध के आते हैं। यह बदलाव नवाचार के केंद्र को अमेरिकी शासन से दूर और ऐसे वातावरण में ले जाता है जहां पश्चिमी सुरक्षा मानक बिल्कुल लागू नहीं होते हैं।

सुरक्षा पेशेवरों के लिए क्लाउड मॉडल गोपनीयता का दुःस्वप्न क्यों हैं

उच्च-दांव वाली साइबर सुरक्षा में काम करने वाले किसी भी व्यक्ति के लिए गोपनीयता एक बुनियादी चिंता है। यदि कोई शोधकर्ता "जीरो-डे" (zero-day)—एक ऐसा दोष जिसके बारे में सॉफ़्टवेयर निर्माता को अभी तक पता नहीं है—खोजता है, तो वह जानकारी खुले बाजार में लाखों डॉलर की होती है। यह सरकारों के लिए खुफिया जानकारी का एक महत्वपूर्ण हिस्सा भी है।

उस जानकारी को ओपनएआई या एंथ्रोपिक के स्वामित्व वाले सर्वर पर भेजना एक बड़ा जोखिम है। विशेष एक्सेस कार्यक्रमों के साथ भी, इस बात की कोई गारंटी नहीं है कि डेटा का उपयोग एआई के अगले संस्करण को प्रशिक्षित करने के लिए नहीं किया जाएगा। कुछ शोधकर्ता, जैसे ग्यूसेप कैली, एआई का उपयोग केवल काम के उबाऊ हिस्सों के लिए करते हैं, जैसे कि जटिल कोड को पठनीय प्रारूप में अनुवाद करना। वे बग की वास्तविक खोज के लिए इसका उपयोग करने से इनकार करते हैं क्योंकि वे अपने काम को निजी रखना चाहते हैं।

इस सावधानी का मतलब है कि सबसे उन्नत एआई मॉडल वर्तमान में उच्च-स्तरीय तर्क के बजाय निम्न-स्तरीय कार्यों के लिए उपयोग किए जा रहे हैं जो वास्तव में वैश्विक सुरक्षा में सुधार कर सकते हैं। सुरक्षा घेरे और इन उपकरणों की क्लाउड-आधारित प्रकृति हमारे नेटवर्क की रक्षा करने वाले लोगों की मदद करने की सीमा तय कर देती है।

आपकी डिजिटल सुरक्षा के लिए इसका क्या अर्थ है

औसत उपभोक्ता के लिए निष्कर्ष यह है कि हमारे डिजिटल बचाव एआई-सहायता प्राप्त हमलों की गति के साथ तालमेल नहीं बिठा पा रहे हैं। अपराधी नियमों का पालन नहीं करते हैं और जांचे गए कार्यक्रमों का उपयोग नहीं करते हैं। वे लक्ष्यों को खोजने और उन पर हमला करने की प्रक्रिया को स्वचालित करने के लिए बिना सेंसर वाले, ओपन सोर्स मॉडल या अपने स्वयं के कस्टम-निर्मित एआई का उपयोग करते हैं।

इस बीच, "अच्छे लोग" अनुमति के लिए आवेदन करने और चैटबॉट्स के साथ बहस करने के चक्र में फंसे हुए हैं। व्यावहारिक रूप से, इसका मतलब है कि आपके फोन और लैपटॉप के सॉफ़्टवेयर में ऐसी कमजोरियां हो सकती हैं जो लंबे समय तक अनपैच रहती हैं। इसका मतलब यह भी है कि साइबर सुरक्षा की लागत बढ़ रही है, क्योंकि फर्मों को मैन्युअल काम पर अधिक समय बिताना पड़ता है जिसे एआई सैद्धांतिक रूप से सेकंडों में संभाल सकता है।

डिजिटल दुनिया को सुरक्षित रखने के लिए, एआई प्रयोगशालाओं को इस विचार से दूर जाने की जरूरत है कि वे हर उपयोगकर्ता की निगरानी कर सकते हैं। सभी को रोकने वाली दीवारें बनाने के बजाय, उन्हें उन लोगों को जिम्मेदार, उच्च गति वाली पहुंच प्रदान करने की आवश्यकता है जो वास्तव में अग्रिम पंक्ति में हैं। उस बदलाव के बिना, हम अनिवार्य रूप से अपने सुरक्षा शोधकर्ताओं से एक उच्च गति वाली दौड़ जीतने के लिए कह रहे हैं जबकि हम ही उनके जूतों के फीते एक साथ बांध रहे हैं।

रोजमर्रा के उपयोगकर्ता के लिए मुख्य बातें

• एआई एक दोहरे उपयोग वाला उपकरण है: वही एआई जो डॉक्टर को बीमारी का निदान करने में मदद करता है, एक हैकर को बैंक के सुरक्षा तंत्र में खामी खोजने में मदद कर सकता है।
• सुरक्षा घेरे पूर्ण नहीं हैं: हालांकि वे कुछ निम्न-स्तरीय दुरुपयोग को रोकते हैं, लेकिन निजी हार्डवेयर का उपयोग करने वाले दृढ़ अपराधियों द्वारा उन्हें आसानी से दरकिनार कर दिया जाता है।
• रक्षकों की गति धीमी की जा रही है: आपके ऐप्स में बग खोजने और ठीक करने वाले लोग एआई का उपयोग करने के लिए संघर्ष कर रहे हैं क्योंकि सुरक्षा नियम बहुत व्यापक हैं।
• गोपनीयता एक बाधा है: पेशेवर शोधकर्ता अक्सर सबसे लोकप्रिय एआई उपकरणों से बचते हैं क्योंकि वे संवेदनशील सुरक्षा डेटा को क्लाउड पर लीक नहीं करना चाहते हैं।
• ओपन सोर्स विकल्प है: उद्योग कॉर्पोरेट हस्तक्षेप के बिना काम करने के लिए स्थानीय, अप्रतिबंधित मॉडलों की ओर बढ़ रहा है।

स्रोत:

• Anthropic Public Disclosures on Mythos and Fable Model Access
• OpenAI Trusted Access for Cyber Program Documentation
• NCC Group Technical Analysis on AI in Offensive Security
• TechCrunch Report on AI Guardrails and Cybersecurity Researchers