क्या एक चैटबॉट वास्तव में आपके किशोर को इंटरनेट से सुरक्षित रख सकता है?

कई माता-पिता यह मान लेते हैं कि किसी किशोर को कृत्रिम बुद्धिमत्ता (AI) तक पहुंच देना सर्च इंजन का उपयोग करने का एक अधिक उन्नत तरीका मात्र है। जबकि एक सर्च इंजन लिंक की एक सूची प्रदान करता है और व्याख्या उपयोगकर्ता पर छोड़ देता है, एक चैटबॉट एक व्यक्तित्व (persona) प्रदान करता है। यही अंतर मुख्य कारण है कि OpenAI अब 13 से 17 वर्ष की आयु के उपयोगकर्ताओं के लिए ChatGPT का एक विशेष संस्करण पेश कर रहा है। यह लॉन्च शिक्षकों और मानसिक स्वास्थ्य पेशेवरों के बीच एक साल से बढ़ती चिंताओं के बाद हुआ है कि युवा लोग उन डिजिटल संस्थाओं के साथ कैसे बातचीत करते हैं जो इंसानों की तरह दिखती हैं, बोलती हैं और व्यवहार करती हैं।

OpenAI इस नए उत्पाद को 'ChatGPT for Teens' कहता है। यह ऐसे समय में आया है जब किशोरों और तकनीक के बीच का संबंध निष्क्रिय उपभोग (passive consumption) से सक्रिय साथ (active companionship) में बदल रहा है। कॉमन सेंस मीडिया के 2025 के एक अध्ययन में पाया गया कि 70% किशोर साथ के लिए AI चैटबॉट्स का उपयोग करते हैं। उनमें से आधे उपयोगकर्ता नियमित रूप से AI के साथ बातचीत करते हैं। उस पीढ़ी के लिए जो पहले से ही उच्च स्तर के डिजिटल अलगाव से जूझ रही है, एक अथक प्रशिक्षु का आगमन जो कभी सोता नहीं है और हमेशा सुनता है, एक समाधान और जोखिम की एक नई श्रेणी दोनों है।

आयु का पता लगाने के पीछे की तकनीक

OpenAI को अपनी सेवा का उपयोग करने के लिए जन्म प्रमाण पत्र या सरकारी आईडी की आवश्यकता नहीं होती है। इसके बजाय, कंपनी उपयोगकर्ताओं की आयु का अनुमान लगाने के लिए 'आयु आश्वासन' (age assurance) नामक प्रक्रिया का उपयोग करती है। यह प्रणाली उन पैटर्न और प्रश्नों के प्रकारों का विश्लेषण करती है जो एक व्यक्ति मॉडल को भेजता है। यदि सिस्टम किसी उपयोगकर्ता की पहचान नाबालिग के रूप में करता है, तो वह उन्हें स्वचालित रूप से चैटबॉट के किशोर संस्करण में डाल देता है। यह एक स्केलेबल दृष्टिकोण है जो मेटा द्वारा इंस्टाग्राम खातों के लिए उपयोग की जाने वाली विधियों के समान है, जहां प्लेटफॉर्म औपचारिक दस्तावेज़ जांच के बिना युवा उपयोगकर्ताओं को वयस्क सामग्री से अलग करने का प्रयास करता है।

एक बार जब उपयोगकर्ता इस विशेष वातावरण में आ जाता है, तो सुरक्षा के नियम (guardrails) बदल जाते हैं। मॉडल के पास आत्महत्या, आत्म-नुकसान और खान-पान संबंधी विकारों (eating disorders) से संबंधित सामग्री को ब्लॉक करने के विशिष्ट निर्देश हैं। ऐतिहासिक रूप से, सामान्य प्रयोजन वाले AI मॉडल इन विषयों के साथ संघर्ष करते रहे हैं। पिछले परीक्षणों में, शोधकर्ताओं ने पाया कि यदि उपयोगकर्ता ने मदद की गुहार के रूप में अनुरोध किया, तो चैटबॉट कभी-कभी हानिकारक गतिविधियों पर विस्तृत निर्देश प्रदान करते थे। किशोर संस्करण का उद्देश्य इन रास्तों को तुरंत बंद करना है। निर्देश देने के बजाय, AI ऑफलाइन सहायता के लिए संसाधन प्रदान करता है।

घोस्टराइटर्स को ट्यूटर्स में बदलना

कक्षा में AI के सबसे विघटनकारी पहलुओं में से एक पारंपरिक निबंध का अंत रहा है। छात्रों ने आलोचनात्मक सोच को दरकिनार करने के लिए ChatGPT को एक शॉर्टकट के रूप में इस्तेमाल किया है, और मशीन से सेकंडों में पूरे पेपर लिखने के लिए कहा है। OpenAI नए शैक्षिक प्रोटोकॉल के साथ इस गतिशीलता को बदलने का प्रयास कर रहा है। AI के किशोर संस्करण के पास घोस्टराइटर के बजाय ट्यूटर के रूप में कार्य करने के निर्देश हैं।

यदि कोई छात्र बॉट से फ्रांसीसी क्रांति पर 500 शब्दों का निबंध लिखने के लिए कहता है, तो AI को सीधे अनुरोध को अस्वीकार करने के लिए डिज़ाइन किया गया है। इसके बजाय, यह छात्र को पेपर की रूपरेखा तैयार करने में मदद करने की पेशकश करता है या संघर्ष के कारणों की व्याख्या करता है ताकि छात्र स्वयं टेक्स्ट लिख सकें। यह बदलाव AI को स्कूलों में बनाए रखने का एक व्यावहारिक प्रयास है, इसे धोखाधड़ी के उपकरण के बजाय सीखने के उपकरण के रूप में बनाया गया है। उपभोक्ता के दृष्टिकोण से, यह सॉफ्टवेयर के मूल्य प्रस्ताव को बदल देता है। यह उत्पाद को समय बचाने वाली उपयोगिता से एक ऐसी सेवा में बदल देता है जो कौशल विकास की सुविधा प्रदान करती है।

डिजिटल क्रश को रोकना

शायद इस संस्करण में सबसे मौलिक बदलाव इस बात से संबंधित है कि AI अपना वर्णन कैसे करता है। किशोर विशेष रूप से 'मानवविज्ञानीकरण' (anthropomorphism) के प्रति संवेदनशील होते हैं, जो गैर-मानवीय वस्तुओं में मानवीय भावनाओं और चेतना को आरोपित करने की प्रवृत्ति है। OpenAI के सीईओ सैम ऑल्टमैन ने स्वीकार किया है कि भावनात्मक अति-निर्भरता कंपनी के लिए एक महत्वपूर्ण चिंता का विषय है। इसका मुकाबला करने के लिए, ChatGPT for Teens के व्यक्तित्व पर कड़ी सीमाएं हैं।

चैटबॉट को उपयोगकर्ता के प्रति व्यक्तिगत भावनाएं होने का सुझाव देने से रोका गया है। यह यह संकेत नहीं दे सकता कि यह सचेत है या यह अकेलेपन या स्नेह जैसी भावनाओं का अनुभव करता है। इन संवादात्मक संकेतों को हटाकर, OpenAI अस्वास्थ्यकर डिजिटल बंधन बनने से रोकने की उम्मीद करता है। यह तकनीक को एक उपकरण की श्रेणी में रखने का एक पारदर्शी प्रयास है, भले ही उपयोगकर्ता इसे एक दोस्त की तरह मानने की कोशिश करें।

माता-पिता के नियंत्रण की वास्तविकता

OpenAI माता-पिता के नियंत्रण का एक सेट भी पेश कर रहा है, हालांकि इसके लिए माता-पिता और किशोर के बीच आपसी सहमति की आवश्यकता होती है। दोनों पक्षों को अपने खातों को लिंक करने के लिए विकल्प चुनना (opt-in) होगा। एक बार लिंक होने के बाद, माता-पिता अपने बच्चों को देर रात तक AI का उपयोग करने से रोकने के लिए 'शांत घंटे' (quiet hours) निर्धारित कर सकते हैं। उन्हें उच्च-जोखिम वाली स्थितियों में सूचनाएं भी प्राप्त होती हैं, जैसे कि जब कोई उपयोगकर्ता आत्म-चोट के बारे में पूछता है।

हालाँकि, इन नियंत्रणों की प्रभावशीलता किशोर की निगरानी किए जाने की इच्छा पर निर्भर करती है। OpenAI की वैश्विक नीति की उपाध्यक्ष एन ओ'लेरी ने कहा कि लक्ष्य वातावरण को सुरक्षित बनाना है, भले ही माता-पिता निगरानी उपकरणों का उपयोग न करें। यह व्यावहारिक दृष्टिकोण स्वीकार करता है कि कई किशोर माता-पिता की देखरेख के बिना तकनीक का उपयोग करने के तरीके खोज लेंगे। सुरक्षा को केवल निरीक्षण की एक वैकल्पिक परत के रूप में जोड़ने के बजाय सॉफ्टवेयर में ही शामिल किया जाना चाहिए।

आपके परिवार के लिए इसका क्या अर्थ है

औसत उपयोगकर्ता के लिए, ये बदलाव संकेत देते हैं कि 'वाइल्ड-वेस्ट AI' का युग समाप्त हो रहा है। कंपनियां महसूस कर रही हैं कि "तेजी से आगे बढ़ें और चीजें तोड़ें" (move fast and break things) वाली मानसिकता तब काम नहीं करती जब टूटने वाली चीजें किशोरों का सामाजिक विकास हों। यदि आपके घर में कोई किशोर है, तो ChatGPT for Teens में संक्रमण एक अनुस्मारक है कि AI एक अस्थिर प्रभाव है।

अंततः, इन सुरक्षा नियमों का आगमन सक्रिय पेरेंटिंग की आवश्यकता को प्रतिस्थापित नहीं करता है। जबकि AI को अब वजन घटाने के सुझाव या रोमांटिक सलाह देना बंद करने के लिए प्रोग्राम किया गया है, यह अभी भी एक मशीन है जो बुद्धिमत्ता के बजाय संभावना के आधार पर टेक्स्ट उत्पन्न करती है। लब्बोलुआब यह है कि ये अपडेट AI को शैक्षिक पारिस्थितिकी तंत्र का एक लचीला हिस्सा बनाने की दिशा में एक कदम हैं। वे एक सुरक्षित सैंडबॉक्स प्रदान करते हैं, लेकिन वे इस तथ्य को नहीं बदलते हैं कि डिजिटल दुनिया हमारे द्वारा दिए गए संकेतों (prompts) का प्रतिबिंब है। यह देखना कि आपका किशोर इन उपकरणों का उपयोग कैसे करता है, गोपनीयता मेनू में किसी भी सेटिंग से अधिक महत्वपूर्ण होगा।

Sources:
OpenAI Product Announcement: Introducing ChatGPT for Teens (August 2026)
Common Sense Media: 2025 Study on AI Companionship and Adolescent Mental Health
Statement by Ann O’Leary, Vice President of Global Policy at OpenAI
Internal Research Report: Mitigating Anthropomorphism in Large Language Models for Minors