दुनिया की सबसे महत्वपूर्ण विज्ञान साइट अब अपने ही सबसे बड़े रुझान के खिलाफ युद्ध लड़ रही है

जबकि प्रचलित धारणा यह बताती है कि कृत्रिम बुद्धिमत्ता (AI) वैज्ञानिक त्वरण का एक बेदाग इंजन है, धरातल पर वास्तविकता तेजी से जटिल होती जा रही है। हमें बताया गया था कि लार्ज लैंग्वेज मॉडल्स (LLMs) एक अथक प्रशिक्षु (intern) के रूप में कार्य करेंगे, जो विशाल डेटासेट का सारांश देंगे और मनुष्यों को कैंसर को हल करने या फ्यूजन को क्रैक करने में मदद करने के लिए सेकंडों में जटिल शोध पत्र तैयार करेंगे। लेकिन दुनिया के सबसे महत्वपूर्ण शोध रिपॉजिटरी के गलियारों में, उस प्रशिक्षु ने अपने बायोडाटा पर झूठ बोलना शुरू कर दिया है—और प्रबंधक अंततः उन्हें बाहर का रास्ता दिखा रहे हैं।

ArXiv, वह प्रतिष्ठित ओपन-एक्सेस रिपॉजिटरी जो दशकों से भौतिकी, गणित और कंप्यूटर विज्ञान में अभूतपूर्व शोध की मेजबानी कर रही है, ने हाल ही में एक सख्त नई नीति की घोषणा की है। यदि कोई लेखक ऐसा शोध पत्र प्रस्तुत करता है जिसमें "अकाट्य प्रमाण" मिलता है कि उन्होंने परिणामों की जांच किए बिना AI को काम करने दिया, तो उन्हें अनिवार्य एक साल के प्रतिबंध का सामना करना पड़ेगा। औसत उपयोगकर्ता के लिए, यह एक आंतरिक शैक्षणिक विवाद जैसा लग सकता है। वास्तव में, यह उस जानकारी की अखंडता पर एक मौलिक लड़ाई है जो अंततः आपके स्मार्टफोन की बैटरी लाइफ से लेकर गूगल पर मिलने वाली चिकित्सा सलाह तक सब कुछ संचालित करती है।

स्वचालित प्रतिभा का मिथक

यह समझने के लिए कि यह कदम इतना विघटनकारी क्यों है, हमें पहले यह देखना होगा कि ArXiv वास्तव में क्या है। यह एक धीमी, थकाऊ पीयर-रिव्यू प्रक्रिया वाला पारंपरिक जर्नल नहीं है। इसके बजाय, यह एक प्रीप्रिंट सर्वर है—एक ऐसी जगह जहाँ शोधकर्ता अपना काम तुरंत पोस्ट करते हैं ताकि वैश्विक समुदाय इसे देख सके। यह वैज्ञानिक जगत का डिजिटल कच्चा तेल है; यह वह जगह है जहाँ विचारों को उत्पादों में बदलने से पहले परिष्कृत किया जाता है। यदि ArXiv में स्रोत सामग्री "AI स्लोप" (AI slop) से दूषित हो जाती है, तो ज्ञान की पूरी डाउनस्ट्रीम आपूर्ति श्रृंखला विफल होने लगती है।

वर्षों से, तकनीकी दुनिया ने LLMs को अंतिम उत्पादकता हैक के रूप में सराहा है। हालाँकि, बड़ी तस्वीर को देखते हुए, हम एक प्रणालीगत बदलाव देख रहे हैं जहाँ सामग्री निर्माण की आसानी हमारी सत्यापन क्षमता से आगे निकल रही है। शोधकर्ताओं ने, "प्रकाशित करो या नष्ट हो जाओ" (publish or perish) के भारी दबाव में, AI का उपयोग न केवल एक प्रूफरीडर के रूप में, बल्कि एक घोस्टराइटर के रूप में करना शुरू कर दिया है। समस्या? ये AI मॉडल अनिवार्य रूप से परिष्कृत पैटर्न-मैचर हैं। वे तथ्यों को "जानते" नहीं हैं; वे वाक्य में अगले संभावित शब्द की भविष्यवाणी करते हैं। जब उनके पास कोई तथ्य नहीं होता है, तो वे अक्सर ऐसा तथ्य गढ़ लेते हैं जो सुनने में प्रशंसनीय लगता है—एक ऐसी घटना जिसे मतिभ्रम (hallucination) के रूप में जाना जाता है।

जब प्रशिक्षु चीजें गढ़ना शुरू कर देता है

ArXiv के कंप्यूटर विज्ञान अनुभाग के अध्यक्ष थॉमस डिटरिच ने हाल ही में स्पष्ट किया कि रिपॉजिटरी AI के उपयोग पर पूरी तरह से प्रतिबंध नहीं लगा रही है। इसके बजाय, वे इसके लापरवाह उपयोग पर प्रतिबंध लगा रहे हैं। शब्दजाल के पीछे, डिटरिच जिस "अकाट्य प्रमाण" का उल्लेख करते हैं, वह अक्सर शर्मनाक रूप से स्पष्ट होता है।

रोजमर्रा की जिंदगी में, हम सभी ने AI द्वारा लिखे गए ईमेल के संकेत देखे हैं: अत्यधिक विनम्र स्वर, सामान्य संरचना, या कभी-कभी "एक AI भाषा मॉडल के रूप में, मैं..." जैसा वाक्यांश जो किसी आलसी प्रेषक द्वारा छोड़ दिया गया हो। उच्च-दांव वाले शोध की दुनिया में, ये लाल झंडे अधिक खतरनाक रूप ले लेते हैं:

• भ्रमित संदर्भ (Hallucinated References): AI एक ऐसे पेपर का हवाला देता है जो वास्तविक लगता है, जिसे एक वास्तविक प्रोफेसर द्वारा लिखा गया है, लेकिन वह पेपर अस्तित्व में ही नहीं होता।
• आंतरिक संकेत (Internal Prompts): लेखक गलती से AI को दिए गए अपने निर्देश (जैसे, "इस डेटा के लिए निष्कर्ष लिखें") अंतिम PDF के अंदर छोड़ देते हैं।
• पक्षपाती डेटा संश्लेषण: AI मॉडल पुराने या गलत वैज्ञानिक सिद्धांतों को दोहराते हैं क्योंकि उन्हें पुराने इंटरनेट डेटा पर प्रशिक्षित किया गया था।

ऐतिहासिक रूप से, वैज्ञानिक धोखाधड़ी के लिए प्रयास की आवश्यकता होती थी। आपको डेटा जालसाजी करनी पड़ती थी या फोटोशॉप में छवियों में हेरफेर करना पड़ता था। अब, एक प्रशंसनीय दिखने वाला (लेकिन पूरी तरह से नकली) वैज्ञानिक पेपर तैयार करने में पिज्जा ऑर्डर करने से भी कम समय लगता है। यही कारण है कि ArXiv "वन-स्ट्राइक" नियम की ओर बढ़ रहा है। यदि मॉडरेटर को स्पष्ट सबूत मिलते हैं कि आपने अपने स्वयं के AI-जनित सबमिशन को पढ़ने की जहमत भी नहीं उठाई, तो आप बाहर हैं।

एक साल का पेनल्टी बॉक्स

नए नियमों के तहत, परिणाम कड़े हैं। ArXiv से एक साल का प्रतिबंध एक शोधकर्ता के करियर के लिए एक महत्वपूर्ण झटका है, विशेष रूप से AI अनुसंधान जैसे तेजी से बढ़ते क्षेत्रों में जहां सबसे पहले पोस्ट करना ही सब कुछ है। लेकिन सजा बारह महीने बाद खत्म नहीं होती। प्रतिबंध हटने के बाद, उन लेखकों द्वारा प्रस्तुत किसी भी शोध पत्र को ArXiv पर प्रदर्शित होने से पहले एक प्रतिष्ठित, पीयर-रिव्यू वाले स्थान द्वारा स्वीकार किया जाना चाहिए।

अनिवार्य रूप से, ArXiv कह रहा है: यदि हम आप पर अपना स्वयं का संपादक होने का भरोसा नहीं कर सकते, तो हम उस भरोसे को किसी और को आउटसोर्स करने जा रहे हैं।

आइवरी टॉवर से अलगाव

दिलचस्प बात यह है कि यह कार्रवाई रिपॉजिटरी के लिए एक बड़े संरचनात्मक बदलाव के साथ मेल खाती है। 20 से अधिक वर्षों तक कॉर्नेल विश्वविद्यालय द्वारा होस्ट किए जाने के बाद, ArXiv एक स्वतंत्र गैर-लाभकारी संस्था में परिवर्तित हो रहा है। बाजार की दृष्टि से, यह लचीलेपन के लिए एक रणनीतिक कदम है। एक स्वतंत्र इकाई के रूप में, ArXiv स्वचालित उपकरण बनाने और AI-जनित गलत सूचनाओं के बढ़ते ज्वार से लड़ने के लिए आवश्यक मानव मॉडरेटरों को नियुक्त करने के लिए अधिक विविध धन जुटा सकता है।

उपभोक्ता के दृष्टिकोण से, हमें इसे एक आवश्यक बुनियादी ढांचे के उन्नयन के रूप में देखना चाहिए। यदि ArXiv निम्न-गुणवत्ता वाली सामग्री से भर जाता है, तो यह उन निवेशकों और तकनीकी कंपनियों के लिए एक अस्थिर वातावरण बन जाएगा जो अगली पीढ़ी के गैजेट बनाने के लिए इसके डेटा पर भरोसा करते हैं। अपने कामकाज को साफ करके, ArXiv तकनीकी उद्योग की आधारभूत परत की रक्षा कर रहा है।

आपका न्यूज़ फीड एक गणित साइट पर क्यों निर्भर करता है

इसे दूसरे तरीके से कहें तो, औसत व्यक्ति—जो क्वांटम टोपोलॉजी पर पेपर नहीं लिख रहा है—को इसकी परवाह क्यों करनी चाहिए? क्योंकि विज्ञान केवल प्रयोगशाला तक ही सीमित नहीं रहता।

जब ArXiv पर एक "सफलता" (breakthrough) वाला पेपर पोस्ट किया जाता है, तो यह अक्सर समाचार लेखों की एक लहर पैदा करता है। यदि वह पेपर AI द्वारा भ्रमित किया गया था और मानव लेखक द्वारा कभी जांचा नहीं गया था, तो वह गलत सूचना समाचार चक्र के माध्यम से यात्रा करती है और अंततः आपके सोशल मीडिया फीड में पहुंच जाती है। हमने बायोमेडिकल अनुसंधान में पहले से ही ऐसे मामले देखे हैं जहां मनगढ़ंत उद्धरण बढ़ रहे हैं। यदि कोई डॉक्टर या नीति निर्माता ऐसे शोध के सारांश पर भरोसा करता है जो वास्तव में कभी किया ही नहीं गया था, तो वास्तविक दुनिया के परिणाम प्रत्यक्ष और खतरनाक होते हैं।

अंततः, ArXiv का कदम एक अनुस्मारक है कि विकेंद्रीकृत सूचना की दुनिया में, मानवीय तत्व सबसे महत्वपूर्ण फिल्टर बना हुआ है। AI आउटपुट को बढ़ाने के लिए एक शक्तिशाली उपकरण है, लेकिन यह सत्य को नहीं बढ़ा सकता। सत्य के लिए मानवीय सत्यापन के धीमे, व्यवस्थित कार्य की आवश्यकता होती है।

शोर से संकेत को छानना

जैसे-जैसे हम डिजिटल सूचना के बदलते परिदृश्य को देखते हैं, ArXiv की नई नीति हमारी अपनी डिजिटल आदतों के लिए कई सबक प्रदान करती है। हम एक ऐसे युग में प्रवेश कर रहे हैं जहाँ सामग्री बनाने की लागत शून्य है, जिसका अर्थ है कि उस सामग्री का मूल्य भी शून्य की ओर बढ़ रहा है—जब तक कि उसके पीछे कोई विश्वसनीय व्यक्ति या संस्थान न हो।

व्यावहारिक रूप से, हम सभी को अपने द्वारा उपभोग की जाने वाली जानकारी पर "ArXiv फ़िल्टर" लागू करना शुरू कर देना चाहिए। यदि समाचार का कोई टुकड़ा बहुत अधिक पूर्ण रूप से संरचित लगता है, अत्यधिक सामान्य भाषा का उपयोग करता है, या ऐसे "अध्ययनों" का हवाला देता है जिन्हें आप त्वरित खोज से नहीं ढूंढ सकते हैं, तो उसके साथ उसी संदेह के साथ व्यवहार करें जैसा ArXiv मॉडरेटर एक संदिग्ध प्रीप्रिंट के साथ करते हैं।

बड़ी तस्वीर को देखते हुए, "वन-स्ट्राइक" नियम केवल आलसी वैज्ञानिकों को दंडित करने के बारे में नहीं है। यह एक ऐसी जगह को संरक्षित करने के बारे में है जहाँ डिजिटल शोर में डूबने के डर के बिना विचारों का आदान-प्रदान किया जा सके। जैसे-जैसे AI इंटरनेट को सामग्री से भरता जा रहा है, दुनिया में सबसे मूल्यवान संसाधन डेटा या प्रोसेसिंग पावर नहीं होगा—यह विश्वास होगा।

स्रोत:

• ArXiv official governance and policy updates (2024-2026)
• 404 Media interview with Thomas Dietterich
• Cornell University Library administrative reports
• Peer-reviewed studies on LLM-generated citation hallucinations