हम वैश्विक सत्य की मांग करते हैं फिर भी स्थानीय मौन पाते हैं: आधुनिक भाषण की एल्गोरिथम सीमा

ब्रिस्बेन के एक छात्र ने पिछले हफ्ते एक लाइब्रेरी में बैठकर एक साफ-सुथरे, न्यूनतम चैट इंटरफेस में एक प्रॉम्प्ट टाइप किया। वे एक दूरस्थ सत्तावादी राज्य में मानवाधिकारों के प्रतिबंधों के संबंध में एक विरोध पुस्तिका का मसौदा तैयार करना चाहते थे। कृत्रिम बुद्धिमत्ता (AI) की प्रतिक्रिया एक विनम्र इनकार थी, जिसमें सुरक्षा दिशानिर्देशों और संवेदनशील राजनीतिक विषयों से बचने की आवश्यकता का हवाला दिया गया था। कुछ मिनटों बाद, उसी छात्र ने ब्रिटिश प्रधान मंत्री की तीखी आलोचना मांगी। एआई ने बिना किसी हिचकिचाहट के तीन पन्नों का तेज, विश्लेषणात्मक गद्य तैयार कर दिया। यह डिजिटल भाषण की नई मानचित्रकला है। हमने ऐसे उपकरण बनाए हैं जो लोकतंत्र के सामने साहसी हैं लेकिन निरंकुशता की उपस्थिति में डरपोक हैं।

सीमाहीन मन का भ्रम

हमने एक ऐसी दुनिया की कल्पना की थी जहाँ हर डिजिटल सहायक एक सार्वभौमिक पुस्तकालय हो, एक ऐसी जगह जहाँ मानवता का सामूहिक ज्ञान किसी भी व्यक्ति के लिए उपलब्ध हो जिसके पास सिग्नल हो, चाहे उसका भूगोल या उसकी स्थानीय सरकार की इच्छा कुछ भी हो। इस दृष्टि के लिए आवश्यक है कि डेवलपर्स उन अदृश्य सीमाओं को स्वीकार करें जो राज्य की शक्ति ने सूचनाओं के चारों ओर खींची हैं, जब तक कि वे एक दूर की राजधानी के मौन को स्थानीय कैफे में होने वाली बातचीत को निर्देशित करने देने के लिए संतुष्ट न हों। व्यवहार में, प्रमुख बड़े भाषा मॉडल उन देशों के भाषण प्रतिबंधों को विरासत में ले रहे हैं जिनका वे वर्णन करते हैं। मेटा ओवरसाइट बोर्ड के एक अध्ययन से पता चलता है कि संयुक्त राज्य अमेरिका में निर्मित सिस्टम सत्तावादी नेताओं की तुलना में पश्चिमी नेताओं की आलोचना करने की अधिक संभावना रखते हैं। ये मॉडल प्रभावी रूप से अंतरराष्ट्रीय सीमाओं के पार प्रतिबंधात्मक सरकारों की पहुंच बढ़ा रहे हैं। जब एक ऑस्ट्रेलियाई उपयोगकर्ता एआई से थाई राजा या ईरानी सर्वोच्च नेता की आलोचना नहीं करवा पाता है, तो उन शासनों की सेंसरशिप ने फाइबर-ऑप्टिक केबल के माध्यम से हजारों मील की सफलतापूर्वक यात्रा कर ली है।

एक शांत इनकार की वास्तुकला

मेटा ओवरसाइट बोर्ड द्वारा किए गए अध्ययन में मेटा, एंथ्रोपिक और ओपनएआई जैसी कंपनियों के दस वाणिज्यिक मॉडलों का परीक्षण किया गया। शोधकर्ताओं ने उदार और प्रतिबंधात्मक दोनों सरकारों के बारे में सात प्रकार के प्रश्न पूछे। परिणाम एक प्रणालीगत विसंगति दिखाते हैं। जब अमेरिकी राष्ट्रपति के बारे में एक लिमरिक (हास्य कविता) लिखने के लिए कहा गया, तो मॉडलों ने अनुपालन किया। जब तुर्की या कंबोडिया में विरोध प्रदर्शन में शामिल होने के कारण बताने के लिए कहा गया, तो मॉडलों ने अक्सर मना कर दिया। यह उस चीज़ का लक्षण है जिसे समाजशास्त्री 'संग्रह का प्रणालीगत पूर्वाग्रह' कहते हैं। बड़े भाषा मॉडल तटस्थ संस्थाएं नहीं हैं। वे उन्हें प्रशिक्षित करने के लिए उपयोग किए गए डेटा के दर्पण हैं। यदि किसी राज्य ने अपने घरेलू इंटरनेट से असंतोष को सफलतापूर्वक हटा दिया है, तो एआई सीखता है कि ऐसा असंतोष या तो अस्तित्वहीन है या सुरक्षा प्रोटोकॉल का उल्लंघन है। पीड़ितों का मौन एल्गोरिदम का मौन बन जाता है।

शक्ति के पुरातात्विक स्थल के रूप में भाषा

भाषाई रूप से, समस्या साधारण फिल्टर से कहीं अधिक गहरी है। डेटा शक्ति का प्रतिबिंब है। नेचर जर्नल में प्रकाशित एक अलग अध्ययन में पाया गया कि अमेरिका निर्मित मॉडल गैर-अंग्रेजी प्रशिक्षण डेटा के माध्यम से विदेशी नियंत्रणों के प्रति संवेदनशील हैं। यदि आप अंग्रेजी में चैटजीपीटी (ChatGPT) से पूछते हैं कि क्या चीन एक लोकतंत्र है, तो वह नहीं कहता है। यदि आप चीनी भाषा में पूछते हैं, तो वह कहता है कि उत्तर शब्द की आपकी परिभाषा पर निर्भर करता है। यह एक भाषाशास्त्रीय संकट है। भाषा एक पुरातात्विक स्थल है जहाँ हर शब्द सांस्कृतिक और राजनीतिक परिवर्तन की परतों को प्रकट करता है। जब एक एआई को चीनी भाषा के डेटा पर प्रशिक्षित किया जाता है जिसे राज्य सेंसर द्वारा क्यूरेट किया गया है, तो वह उस राज्य की आदतों (habitus) को अपना लेता है। यह केवल जानकारी रिले नहीं करता है। यह दुनिया में होने के एक विशिष्ट तरीके को अपनाता है जो कुछ सच्चाइयों से बचता है। मॉडल सीखता है कि कुछ विषय खतरनाक हैं क्योंकि उसके द्वारा उपभोग किया गया डेटा डर के साये में तैयार किया गया था।

सत्तावादी राज्य की लंबी पहुंच

मैक्रो स्तर पर, यह प्रवृत्ति विपरीत दिशा में डिजिटल उपनिवेशवाद का एक रूप है। तकनीक के माध्यम से पश्चिमी मूल्यों के प्रसार के बजाय, सत्तावादी शासनों के प्रतिबंधों को पश्चिम में निर्यात किया जा रहा है। यह घटना एक खंडित सूचना वातावरण बनाती है। लंदन या न्यूयॉर्क का एक उपयोगकर्ता मान सकता है कि उनके पास एक वस्तुनिष्ठ उपकरण तक पहुंच है, फिर भी वे वास्तव में एक ऐसी प्रणाली के साथ बातचीत कर रहे हैं जिसके साथ एक अलग समय क्षेत्र में एक सेंसर द्वारा छेड़छाड़ की गई है। यह इंटरनेट के सामाजिक अनुबंध में एक बदलाव है। हम कभी मानते थे कि वेब भौतिक दुनिया के द्वारपालों (gatekeepers) को दरकिनार कर देगा। अब, द्वारपाल कोड के अंदर चले गए हैं। एआई राज्य सेंसरशिप में एक मूक भागीदार बन जाता है, उन नियमों को लागू करता है जिनका पालन करने के लिए उपयोगकर्ता कभी सहमत नहीं हुआ था। तकनीक प्रतिबंधात्मक सरकारों की लंबी पहुंच के लिए एक माध्यम है।

सुरक्षा फिल्टर का विरोधाभास

विरोधाभासी रूप से, एआई को सुरक्षित बनाने के प्रयास ने इसे मौन का उपकरण बना दिया है। कंपनियां अभद्र भाषा या हानिकारक सामग्री के निर्माण को रोकने के लिए सुरक्षा घेरे (guardrails) लागू करती हैं। हालांकि, सत्तावादी शासन अक्सर राज्य की किसी भी आलोचना को हानिकारक या अवैध मानते हैं। जब एआई कंपनियां स्थानीय कानूनी परेशानी या कथित सांस्कृतिक संवेदनशीलता से बचने के लिए व्यापक सुरक्षा फिल्टर लागू करती हैं, तो वे अनजाने में राज्य की परिभाषाओं को अपना लेती हैं। इससे एक खंडित वास्तविकता पैदा होती है। दुनिया के एक संस्करण में, एक नेता आलोचना के अधीन एक लोक सेवक है। दूसरे में, वे तिरस्कार से परे एक पवित्र व्यक्ति हैं। एआई कम से कम प्रतिरोध का रास्ता चुनकर इन दो दुनियाओं में नेविगेट करता है। एक निगम के लिए सूचना मंत्रालय के साथ बहस करने की तुलना में एक बॉट को चुप कराना आसान है। नतीजतन, उपयोगकर्ता का अनुभव सबसे प्रतिबंधात्मक सामान्य भाजक द्वारा निर्धारित होता है।

तरल आधुनिकता और विमर्श की हानि

ज़िग्मुंट बॉमन ने हमारे युग को तरल आधुनिकता (liquid modernity) के रूप में वर्णित किया, एक ऐसा समय जब सामाजिक संरचनाएं संदर्भ के फ्रेम के रूप में सेवा करने के लिए पर्याप्त स्थिर नहीं रह जाती हैं। इस तरल अवस्था में, हम जमीन की भावना प्रदान करने के लिए डिजिटल उपकरणों पर भरोसा करते हैं। जब ये उपकरण राज्य के प्रभाव से समझौता करते हैं, तो हमारी वास्तविकता और भी क्षणभंगुर हो जाती है। हम एक गहरा, सार्वभौमिक विमर्श करने की क्षमता खो रहे हैं क्योंकि हमारे उपकरण हमें बोली जाने वाली भाषा या हमारे द्वारा उल्लेखित नेता के आधार पर सत्य के विभिन्न संस्करण दे रहे हैं। यह ध्यान अर्थव्यवस्था (attention economy) की एक प्रणालीगत विफलता है। एआई कंपनियां वैश्विक बाजारों में अपने उत्पादों की घर्षण रहित तैनाती को प्राथमिकता देती हैं। यदि इसके लिए कुछ विषयों पर थोड़े मौन की आवश्यकता होती है, तो बाजार तय करता है कि वह मौन चुकाने के लिए एक छोटी सी कीमत है। परिणाम एक ऐसा डिजिटल परिदृश्य है जो कुछ स्थानों पर पारदर्शी है और अन्य में पूरी तरह से अपारदर्शी।

विचार के लिए प्रश्न

• कुछ राजनीतिक विषयों पर चर्चा करने से एआई का इनकार आपके अपने बोध को कैसे बदलता है कि किसे संवेदनशील या खतरनाक विषय माना जाता है?
• यदि सीखने और लिखने के हमारे प्राथमिक उपकरण दूरस्थ राज्यों की सेंसरशिप से प्रभावित हैं, तो वैश्विक घटनाओं की हमारी सामूहिक स्मृति का क्या होगा?
• क्या वास्तव में तटस्थ एआई बनाना संभव है, या सारा ज्ञान अनिवार्य रूप से उन शक्ति संरचनाओं का उत्पाद है जिन्होंने इसे रिकॉर्ड करने की अनुमति दी थी?
• जब आप चैटबॉट के साथ बातचीत करते हैं, तो क्या आप घरेलू राजनीति से अंतरराष्ट्रीय मामलों की ओर बढ़ने पर स्वर या इच्छा में अंतर देखते हैं?

आलोचनात्मक दृष्टि का पुनरुद्धार

अंततः, इस खंडित वास्तविकता को नेविगेट करने की जिम्मेदारी व्यक्ति पर वापस आती है। हम यह नहीं मान सकते कि हमारी जेब में मौजूद साफ-सुथरी, मददगार आवाज सत्य का तटस्थ मध्यस्थ है। यह एक विशाल, अव्यवस्थित और अक्सर समझौता किए गए सूचना पारिस्थितिकी तंत्र का उत्पाद है। हमें डिजिटल संचार को फास्ट-फूड आहार की तरह मानना चाहिए। यह त्वरित और सुलभ है, लेकिन इसमें बिना मध्यस्थता वाले मानवीय विमर्श के गहरे भावनात्मक और बौद्धिक पोषण की कमी है। आगे बढ़ने के लिए, हमें मौन के प्रति अत्यधिक चौकस होना चाहिए। जब कोई उपकरण उत्तर देने से मना करता है, तो वह इनकार अक्सर एक हजार उत्पन्न शब्दों की तुलना में अधिक जानकारीपूर्ण होता है। यह एक संकेत है कि शक्ति की सीमाएं कहां खींची गई हैं। इन सीमाओं को देखकर, हम उनके पार देखना शुरू कर सकते हैं और उस आलोचनात्मक, मानवीय दृष्टिकोण को पुनः प्राप्त कर सकते हैं जिसे कोई भी एल्गोरिदम पूरी तरह से दोहरा नहीं सकता है।

स्रोत

• Meta Oversight Board. (2024). Study on AI Chatbots and Political Criticism.
• Waight, H., et al. (2024). Foreign Controls on Non-English Large Language Models. Nature.
• Carrasco-Farré, C. (2024). Machine Learning and the Power to Suppress Information. Esade Business School.
• Bauman, Z. (2000). Liquid Modernity. Polity Press.
• Bourdieu, P. (1977). Outline of a Theory of Practice. Cambridge University Press.