कार्यशाला से आगे: सहभागी एआई को डिज़ाइन चरण के बाद भी जीवित क्यों रहना चाहिए
कृत्रिम बुद्धिमत्ता (एआई) को अधिक समावेशी बनाने के उद्देश्य से वैश्विक पहलों में अभूतपूर्व वृद्धि के बावजूद, एक चौंकाने वाला विरोधाभास सामने आया है: जैसे-जैसे भागीदारी की शब्दावली सर्वव्यापी होती जा रही है, जनता का वास्तविक प्रभाव उल्लेखनीय रूप से खंडित बना हुआ है। अस्सी सहभागी एआई परियोजनाओं की हालिया समीक्षा से पता चला है कि हालांकि समुदायों को डेटा संग्रह या डिज़ाइन के शुरुआती चरणों के दौरान अक्सर मेज पर आमंत्रित किया जाता है, लेकिन सिस्टम के वास्तव में तैनात होने के बाद वे लगभग पूरी तरह से अनुपस्थित होते हैं। हमने किक-ऑफ कार्यशाला की कला में तो महारत हासिल कर ली है, लेकिन हमें अभी यह समझना बाकी है कि कोड चलना शुरू होने के बाद दरवाजा कैसे खुला रखा जाए।
खुले दरवाजे का भ्रम
मैंने हाल ही में एक सामुदायिक केंद्र में एक दोपहर बिताई जहाँ एक स्थानीय परिषद एक नए एआई-संचालित संसाधन आवंटन उपकरण का प्रदर्शन कर रही थी। कमरा वास्तविक नागरिक ऊर्जा की गूँज से भरा था। निवासियों को मानचित्रों को कलर-कोड करने और उनके लिए निष्पक्षता का क्या अर्थ है, इस पर चर्चा करने के लिए कहा गया था। यह सहभागी डिज़ाइन का एक पाठ्यपुस्तक उदाहरण था—जीवंत, ईमानदार और स्थानीय संदर्भ में गहराई से निहित। हालाँकि, जैसे ही सत्र समाप्त हुआ, मेरे पास बैठी एक महिला ने एक मार्मिक प्रश्न पूछा: "छह महीने में क्या होगा जब एल्गोरिथम यह तय करेगा कि मेरी सड़क को अब बस की आवश्यकता नहीं है? तब मैं किससे बात करूँ?"
सुविधाप्रदाता की चुप्पी बहुत कुछ कह रही थी। उस क्षण में, एआई शासन के प्रति हमारे वर्तमान दृष्टिकोण में प्रणालीगत अंतर स्पष्ट हो गया। हम भागीदारी को एक निरंतर संबंध के बजाय एक अलग घटना—एक एल्गोरिथम के लिए रिबन-काटने के समारोह—के रूप में देखते हैं। एक बार सहभागी डिज़ाइन चरण समाप्त हो जाने के बाद, सिस्टम का शासन लगभग हमेशा डेवलपर्स या कमीशनिंग एजेंसियों के अपारदर्शी गलियारों में वापस चला जाता है। समुदाय, जिसने डेटा बिंदु या फीडबैक के स्रोत के रूप में अपना उद्देश्य पूरा कर लिया है, को प्रभावी रूप से किनारे कर दिया जाता है।
जीवनचक्र का अंतर: डिज़ाइन से परिनियोजन तक
व्यापक स्तर पर, यह प्रवृत्ति उस ओर एक व्यापक समाजशास्त्रीय बदलाव को दर्शाती है जिसे हम "परामर्श अर्थव्यवस्था" कह सकते हैं। इस मॉडल में, जुड़ाव को शक्ति के पुनर्वितरण के बजाय अनुपालन के लिए एक चेकबॉक्स के रूप में माना जाता है। ओईसीडी एआई सिद्धांत और ईयू एआई अधिनियम दोनों भरोसेमंद एआई की आधारशिला के रूप में हितधारकों की भागीदारी पर जोर देते हैं। फिर भी, व्यवहार में, यह भागीदारी अक्सर केवल शुरुआती चरणों तक सीमित होती है। हम हितधारकों को कार बनाने में मदद करने के लिए आमंत्रित करते हैं, लेकिन सड़क पर आने के बाद हम उन्हें शायद ही कभी वाहन में सीट देते हैं।
यह जीवनचक्र का अंतर केवल एक प्रक्रियात्मक चूक नहीं है; यह एक संरचनात्मक दोष है। एआई सिस्टम स्थिर उपकरण नहीं हैं; वे गतिशील संस्थाएं हैं जो फीडबैक लूप, पुन: प्रशिक्षण और बदलते पर्यावरणीय संदर्भों के माध्यम से विकसित होती हैं। जब हितधारकों की भागीदारी परिनियोजन चरण में समाप्त हो जाती है, तो सिस्टम अपना सामाजिक जुड़ाव खो देता है। नतीजतन, वही समुदाय जिन्होंने प्रारंभिक मॉडल को आकार देने में मदद की थी, वे खुद को तब हाशिए पर पाते हैं जब सिस्टम अप्रत्याशित पूर्वाग्रह प्रदर्शित करना शुरू कर देता है या जब इसका परिचालन दायरा मूल समझौते से आगे बढ़ जाता है।
भाषाई दृष्टि से: भागीदारी का शब्दार्थ
व्यापक परिप्रेक्ष्य में देखने पर, हम इस तनाव को अपनी भाषा में प्रतिबिंबित होते देख सकते हैं। तकनीकी उद्योग में, "उपयोगकर्ता" (user) शब्द लंबे समय से प्रमुख रहा है। भाषाई दृष्टि से, एक उपयोगकर्ता सेवा का एक निष्क्रिय प्राप्तकर्ता होता है। "हितधारक" (stakeholder) की ओर बदलाव का उद्देश्य एजेंसी और निहित स्वार्थ को सूचित करना था। हालाँकि, यदि किसी हितधारक की आवाज़ केवल नब्बे मिनट के फोकस समूह के दौरान ही सुनी जाती है, तो यह शब्द एक कार्यात्मक वास्तविकता के बजाय एक प्रतीकात्मक इशारा बन जाता है।
इस लेंस के माध्यम से, सहभागी एआई की वर्तमान स्थिति एक लोकतांत्रिक क्रांति की तुलना में एक थिएटर स्टेज की तरह अधिक दिखती है। हम समावेश के अनुष्ठान करते हैं—स्टिकी नोट्स, टाउन हॉल, नैतिकता चार्टर—लेकिन स्क्रिप्ट अक्सर पहले से ही लिखी होती है। वास्तव में सहभागी होने के लिए, विमर्श को "लॉन्च" के क्षणिक उत्साह से आगे बढ़ना चाहिए और निगरानी और सिस्टम विकास के सांसारिक, दीर्घकालिक कार्य में व्यवस्थित होना चाहिए।
शासन का द्वीपसमूह
ऐतिहासिक रूप से, हम इसकी तुलना उस तरीके से कर सकते हैं जिस तरह आधुनिक शहर परमाणु रिक्त स्थान (atomized spaces) का एक द्वीपसमूह बन गए हैं। हम एक-दूसरे के करीब रहते हैं, फिर भी हमारी शासन प्रणालियाँ अक्सर अलग-थलग द्वीप होती हैं। एक द्वीप तकनीकी विकास को संभालता है, दूसरा कानूनी अनुपालन को संभालता है, और "सामुदायिक जुड़ाव" के लिए एक छोटा, अस्थायी द्वीप बनाया जाता है। एक बार परियोजना समाप्त हो जाने के बाद, सामुदायिक द्वीप का पुल तोड़ दिया जाता है।
| एआई जीवनचक्र का चरण | भागीदारी का विशिष्ट स्तर | शक्ति का वांछित स्तर |
|---|---|---|
| समस्या की पहचान | उच्च (परामर्शात्मक) | सह-परिभाषा |
| डेटा संग्रह | मध्यम (निष्कर्षणकारी) | डेटा संप्रभुता |
| मॉडल विकास | निम्न (तकनीकी) | एल्गोरिथम निरीक्षण |
| परिनियोजन | नगण्य | वीटो पावर / रेड-टीमिंग |
| निगरानी और ऑडिट | दुर्लभ | समुदाय के नेतृत्व वाली ऑडिटिंग |
| विखंडन (Decommissioning) | अस्तित्वहीन | सामूहिक निर्णय लेना |
विडंबना यह है कि हितधारक प्रभाव के लिए सबसे महत्वपूर्ण क्षण सिस्टम के लाइव होने के बाद आते हैं। यह वह समय होता है जब वास्तविक दुनिया के प्रभाव की सूक्ष्मताएं दिखाई देने लगती हैं। निरंतर भागीदारी के तंत्र के बिना, फीडबैक लूप टूट जाता है। सिस्टम एक "आईनाघर" बन जाता है, जो प्रभावित लोगों के वास्तविक अनुभवों के बजाय केवल डेवलपर्स के आंतरिक मेट्रिक्स को दर्शाता है।
विमर्श को पुनः प्राप्त करना: अनुदैर्ध्य एजेंसी
अंततः, सहभागी एआई का लक्ष्य अनुदैर्ध्य एजेंसी (longitudinal agency) की स्थापना होना चाहिए। इसका अर्थ है ऐसी संरचनाएं बनाना जहां हितधारक केवल सलाहकार न हों, बल्कि प्रौद्योगिकी के पूरे जीवनकाल में सह-शासक हों। इसके लिए "एक बार के" जुड़ाव से "टिकाऊ" भागीदारी की ओर बदलाव की आवश्यकता है।
रोजमर्रा के शब्दों में, यह समुदाय के नेतृत्व वाले ऑडिट बोर्डों की तरह दिख सकता है जिनके पास सिस्टम समीक्षा शुरू करने की शक्ति है, या "ह्यूमन-इन-द-लूप" तंत्र जो एल्गोरिथम दक्षता पर स्थानीय ज्ञान को प्राथमिकता देते हैं। इसमें यह पहचानना शामिल है कि एक निवासी की विशेषज्ञता जो अपने पड़ोस के सामाजिक ताने-बाने को समझती है, उतनी ही महत्वपूर्ण है जितनी कि उस डेटा वैज्ञानिक की विशेषज्ञता जो तंत्रिका नेटवर्क (neural network) की वास्तुकला को समझता है।
विचारोत्तेजक
जैसे-जैसे हम इस बदलते परिदृश्य में आगे बढ़ते हैं, हमें डिजिटल युग में शक्ति की प्रकृति के बारे में खुद से असहज प्रश्न पूछने चाहिए। यदि आप किसी तकनीकी परियोजना में शामिल हैं, तो इन विचारों पर गौर करें:
- विकास का शासन कौन करता है? यदि एआई सिस्टम कल अपना व्यवहार बदलता है, तो क्या समुदाय के हस्तक्षेप के लिए कोई स्पष्ट, सुलभ मार्ग है?
- क्या भागीदारी परिवर्तनकारी है या केवल प्रदर्शनकारी? क्या हितधारकों के इनपुट में किसी परियोजना को रोकने की शक्ति है, या केवल उसके हाशिये में बदलाव करने की?
- क्या हम कार्यशाला से आगे बढ़ सकते हैं? हम ऐसे डिजिटल बुनियादी ढांचे का निर्माण कैसे कर सकते हैं जो एपिसोडिक के बजाय निरंतर नागरिक जुड़ाव की अनुमति देते हैं?
एआई शासन को एक स्थिर तकनीकी आवश्यकता के बजाय एक जीवंत सामाजिक अनुबंध के रूप में मानकर, हम भागीदारी के वादे और शक्ति की वास्तविकता के बीच की खाई को पाटना शुरू कर सकते हैं। लक्ष्य केवल बेहतर एआई बनाना नहीं है, बल्कि एक ऐसा समाज बनाना है जहां तकनीक मशीन की दक्षता के बजाय लोगों की सामूहिक लचीलापन की सेवा करे।
स्रोत
- 80 सहभागी एआई पहलों का विश्लेषण और "पार्टिसिपेशन वॉश" घटना।
- हितधारक जुड़ाव और भरोसेमंद एआई पर ओईसीडी एआई सिद्धांत।
- मौलिक अधिकारों के प्रभाव के आकलन और हितधारकों की भागीदारी पर ईयू एआई अधिनियम के प्रावधान।
- "लिक्विड मॉडर्निटी" और नागरिक जीवन के परमाणुकरण पर समाजशास्त्रीय रूपरेखा।
- तकनीकी विमर्श में "उपयोगकर्ता" बनाम "हितधारक" के विकास पर भाषाई अध्ययन।
आप दूसरी तरफ देखिए।
हमारा एंड-टू-एंड एन्क्रिप्टेड ईमेल और क्लाउड स्टोरेज समाधान सुरक्षित डेटा एक्सचेंज का सबसे शक्तिशाली माध्यम प्रदान करता है, जो आपके डेटा की सुरक्षा और गोपनीयता सुनिश्चित करता है।
/ एक नि: शुल्क खाता बनाएं
