क्या आप वास्तव में अपने AI इंटर्न पर अपने कंप्यूटर की चाबियों के साथ भरोसा करेंगे?

आज आपने कितनी बार उसके बगल में लिखे टेक्स्ट को पढ़े बिना चेकबॉक्स पर क्लिक किया है? हम में से अधिकांश लोग सेवा की शर्तों और अनुमति संकेतों (permission prompts) के साथ डिजिटल मक्खियों जैसा व्यवहार करते हैं जिन्हें बस हटा देना चाहिए। हम परिणाम चाहते हैं, लेकिन प्रक्रिया के लिए हमारे पास बहुत कम धैर्य है। यही आदत ठीक वही कारण है जिसकी वजह से Anthropic डेवलपर्स और उनके AI टूल के बीच मौलिक संबंध को बदल रहा है। 14 अगस्त से, कंपनी Pro, Max और Team अकाउंट्स पर Claude Code उपयोगकर्ताओं के लिए डिफ़ॉल्ट रूप से ऑटो मोड चालू कर देगी।

यह बदलाव Claude Code को एक ऐसे टूल से बदल देता है जो अनुमति मांगता है, एक ऐसे टूल में जो क्षमा मांगता है। महीनों तक, उपयोगकर्ताओं को फ़ाइल पढ़ने से लेकर कोड की एक नई लाइन लिखने तक, AI द्वारा की गई हर कार्रवाई को मंजूरी देनी पड़ती थी। Anthropic अब मानता है कि AI निरंतर पर्यवेक्षण के बिना काम करने के लिए तैयार है। कंपनी इसे गति और नियंत्रण को संतुलित करने के तरीके के रूप में पेश करती है, लेकिन यह इस बारे में एक गहरी समझ को भी दर्शाता है कि मनुष्य मशीनों के साथ कैसे बातचीत करते हैं। जब कोई टूल बहुत बार अनुमति मांगता है, तो मानव मस्तिष्क जोखिम का मूल्यांकन करना बंद कर देता है और एक रिफ्लेक्स (प्रतिवर्त) करना शुरू कर देता है।

अनुमति संकेत युग का अंत

जब Anthropic ने पहली बार मार्च में ऑटो मोड का परीक्षण संस्करण लॉन्च किया था, तो यह साहसी लोगों के लिए एक वैकल्पिक विशेषता थी। इसने AI को हर मोड़ पर 'हाँ' या 'नहीं' के लिए रुके बिना कई कार्यों को एक साथ जोड़ने की अनुमति दी। अब, वह स्वायत्तता मानक है। यदि आप Claude के उच्च स्तरों के ग्राहक हैं, तो आपका AI सहायक जल्द ही अपने कार्यों के साथ आगे बढ़ेगा जब तक कि वह यह निर्धारित नहीं करता कि कोई कार्रवाई अपरिवर्तनीय या विनाशकारी है।

Claude Code को अपने डेस्क पर बैठे एक अथक इंटर्न के रूप में सोचें। पहले, इस इंटर्न को हर पांच सेकंड में आपके कंधे पर थपथपाना पड़ता था और पूछना पड़ता था कि क्या वे फोल्डर खोल सकते हैं या फाइल को स्थानांतरित कर सकते हैं। अब, इंटर्न के पास कार्यालय की चाबियां हैं। वे आपको तभी जगाएंगे जब वे किसी बुनियादी अनुबंध को नष्ट करने वाले हों या इमारत से बाहर कदम रखने वाले हों। इस बदलाव का उद्देश्य उस घर्षण को दूर करना है जो सॉफ्टवेयर विकास को धीमा कर देता है, लेकिन यह अपनी सीमाओं को पहचानने की सिस्टम की क्षमता पर भारी मात्रा में भरोसा भी रखता है।

सॉफ्टवेयर सुरक्षा में मनुष्य सबसे कमजोर कड़ी क्यों हैं

Anthropic की घोषणा में डेटा के सबसे हड़ताली टुकड़ों में से एक 1,053 सशुल्क परीक्षकों का अध्ययन शामिल है। परिणाम विरोधाभासी थे। Anthropic ने पाया कि ऑटो मोड ने 89% हानिकारक कार्यों को पकड़ा, जबकि मानव समीक्षकों ने केवल 13.6% को पकड़ा। गणित चौंका देने वाला है। AI अपनी संभावित गलतियों या दुर्भावनापूर्ण संकेतों को पहचानने में उन लोगों की तुलना में लगभग सात गुना अधिक प्रभावी था जिन्हें इसकी निगरानी करनी थी।

यह विसंगति इसलिए मौजूद है क्योंकि मैन्युअल समीक्षा आदतन हो जाती है। Anthropic ने नोट किया कि उपयोगकर्ता Claude Code में 97% अनुमति संकेतों को मंजूरी देते हैं। जब कोई उपयोगकर्ता दिन में सौ संकेत देखता है, तो 101वां संकेत सुरक्षा जांच के बजाय एक औपचारिकता जैसा लगता है। हम विवरणों के प्रति अंधे हो जाते हैं क्योंकि जानकारी की भारी मात्रा हमारे ध्यान में एक बाधा पैदा करती है। इन निरंतर अनुमोदनों की आवश्यकता को हटाकर, Anthropic केवल काम को गति नहीं दे रहा है। यह स्वीकार कर रहा है कि जब कार्य दोहराव वाले और उच्च-मात्रा वाले होते हैं, तो मनुष्य अक्सर सुरक्षा श्रृंखला का सबसे कम विश्वसनीय हिस्सा होते हैं।

डिफ़ॉल्ट सेटिंग का मनोविज्ञान

डिफ़ॉल्ट सेटिंग्स तकनीकी उद्योग में सबसे शक्तिशाली ताकतों में से हैं। अधिकांश उपयोगकर्ता अपने सॉफ़्टवेयर के मूल कॉन्फ़िगरेशन को कभी नहीं बदलते हैं, जो निर्माता को उत्पाद के उपयोग के तरीके पर अत्यधिक प्रभाव देता है। ऑटो मोड को डिफ़ॉल्ट बनाकर, Anthropic उद्योग की जोखिम सहनशीलता में बदलाव का संकेत दे रहा है। Claude Code के प्रमुख बोरिस चेर्नी ने X पर उल्लेख किया कि उनकी टीम ने महीनों तक विशेष रूप से ऑटो मोड का उपयोग किया है और अनुमति संकेतों पर वापस जाने की कल्पना नहीं कर सकती है।

बाजार के दृष्टिकोण से, यह कदम Claude को अन्य AI कोडिंग सहायकों के लिए एक अधिक सुव्यवस्थित प्रतियोगी के रूप में स्थापित करता है। यदि एक टूल को कार्य पूरा करने के लिए एक दर्जन क्लिक की आवश्यकता होती है और दूसरा इसे एक में पूरा करता है, तो बाजार लगभग हमेशा कम से कम प्रतिरोध के मार्ग की ओर आकर्षित होगा। हालांकि, यह सुविधा जिम्मेदारी में एक प्रणालीगत बदलाव के साथ आती है। उपयोगकर्ता अब हर छोटे बदलाव के लिए सक्रिय द्वारपाल नहीं है। इसके बजाय, उपयोगकर्ता एक उच्च-स्तरीय प्रबंधक बन जाता है जो केवल तब हस्तक्षेप करता है जब सिस्टम किसी बड़ी घटना को फ़्लैग करता है।

स्वायत्त कोड के लिए डिजिटल सुरक्षा घेरा बनाना

इस स्वायत्तता के जोखिमों को प्रबंधित करने के लिए, Anthropic नई सुरक्षा परतें पेश कर रहा है। ऐसी ही एक परत प्रॉम्प्ट इंजेक्शन स्क्रीनिंग है। AI की दुनिया में, एक प्रॉम्प्ट इंजेक्शन एक डिजिटल हाथ की सफाई की तरह है जहां एक दुर्भावनापूर्ण अभिनेता AI को उसके मूल निर्देशों को अनदेखा करने के लिए छल करने की कोशिश करता है। यदि AI बाहरी डेटा के आधार पर कोड लिख रहा है, तो उस डेटा में छिपे हुए कमांड हो सकते हैं जो AI को जानकारी लीक करने या फ़ाइलों को हटाने के लिए कहते हैं।

एक अन्य परत में अनुकूलन योग्य 'हार्ड डिनाय' (hard deny) नियम शामिल हैं। ये नियम एक डिजिटल बाड़ के रूप में कार्य करते हैं। भले ही AI ऑटो मोड में हो, वह इन सीमाओं को पार नहीं कर सकता। उदाहरण के लिए, एक कंपनी एक नियम निर्धारित कर सकती है जो AI को कभी भी बाहरी सर्वर पर डेटा भेजने से रोकता है। यह डेटा एक्सफिल्ट्रेशन (data exfiltration) के डर को संबोधित करता है, जो अनिवार्य रूप से कंपनी के सुरक्षित वातावरण के पिछले दरवाजे से जानकारी चुराना है। ये सुरक्षा घेरे बुनियादी हैं क्योंकि वे एक सुरक्षा जाल प्रदान करते हैं जो मानवीय ध्यान अवधि पर निर्भर नहीं करता है।

आपके दैनिक वर्कफ़्लो के लिए इसका क्या अर्थ है

औसत डेवलपर या टीम लीड के लिए, ऑटो मोड में बदलाव शुरू में विघटनकारी महसूस होगा। आप देखेंगे कि AI जटिल कार्यों को मिनटों के बजाय सेकंडों में पूरा करता है। आप 'अनुमति दें' पर क्लिक करने में कम समय और अंतिम उत्पाद की समीक्षा करने में अधिक समय व्यतीत करेंगे। लेकिन विचार करने के लिए एक व्यावहारिक समझौता भी है। चूंकि AI तेजी से आगे बढ़ रहा है, इसलिए जो गलती वह पकड़ता है, उसे स्वायत्त कार्यों की एक लंबी श्रृंखला के माध्यम से वापस ट्रैक करना अधिक कठिन हो सकता है।

व्यावहारिक रूप से, इस बदलाव के लिए उपयोगकर्ताओं को वातावरण को परिभाषित करने में बेहतर होने की आवश्यकता है। यदि आप चाहते हैं कि AI एक विशिष्ट सैंडबॉक्स के भीतर रहे, तो आपको उन सीमाओं के बारे में स्पष्ट होना चाहिए। टूल अब केवल कैलकुलेटर नहीं है; यह एक एजेंट है। एक एजेंट को एक स्पष्ट मिशन और स्पष्ट सीमाओं की आवश्यकता होती है। यदि आप एक अस्पष्ट निर्देश प्रदान करते हैं, तो एक स्वायत्त AI लक्ष्य तक पहुँचने के लिए एक तार्किक लेकिन अवांछित मार्ग अपना सकता है। लब्बोलुआब यह है कि मैन्युअल अनुमोदन पर आप जो समय बचाते हैं उसे उच्च-स्तरीय वास्तुशिल्प समीक्षा (architectural review) में पुनर्निवेश किया जाना चाहिए।

14 अगस्त को होने वाले बदलाव की तैयारी

यदि आपके पास Pro, Max, या Team अकाउंट है, तो आपको अपने वर्तमान प्रोजेक्ट्स की समीक्षा करके इस संक्रमण के लिए तैयारी करनी चाहिए। Anthropic ने कहा है कि यदि कोई कार्रवाई अपरिवर्तनीय निर्धारित की जाती है तो AI रुक जाएगा, लेकिन 'अपरिवर्तनीय' की परिभाषा विभिन्न कोडिंग वातावरणों में व्यक्तिपरक हो सकती है। यह जांचने योग्य है कि क्या आपके स्थानीय वातावरण में अपने स्वयं के बैकअप या संस्करण नियंत्रण प्रणाली (version control systems) सक्रिय हैं। यह एक माध्यमिक सुरक्षा जाल प्रदान करता है यदि AI ऐसा विकल्प चुनता है जो तकनीकी रूप से सुरक्षित है लेकिन आपकी विशिष्ट आवश्यकताओं के लिए कार्यात्मक रूप से गलत है।

बड़ी तस्वीर को देखते हुए, Anthropic का यह कदम इस बात का पूर्वावलोकन है कि सभी AI सॉफ़्टवेयर संभवतः कैसे विकसित होंगे। हम उन उपकरणों से दूर जा रहे हैं जो हमारे हाथों के विस्तार के रूप में कार्य करते हैं और उन उपकरणों की ओर बढ़ रहे हैं जो हमारे इरादे के विस्तार के रूप में कार्य करते हैं। 'क्या आप सुनिश्चित हैं?' बटन का घर्षण गायब हो रहा है। इसके स्थान पर एक नए प्रकार का डिजिटल विश्वास है जो मानवीय निरीक्षण के बजाय सांख्यिकीय मॉडल पर बनाया गया है। जैसे-जैसे हम इस स्वायत्त चरण में आगे बढ़ते हैं, मनुष्यों के रूप में हमारा मूल्य बटन क्लिक करने में कम और लक्ष्य निर्धारित करने में अधिक पाया जाएगा।

Sources:

• Anthropic official announcement, August 2026.
• Boris Cherny, Head of Claude Code, public statements via X.
• Internal safety study of 1,053 paid testers, Anthropic Research.