उद्योग समाचार

क्या आपका अगला AI असिस्टेंट आपके गेस्ट रूम में रखे तीन पुराने कंप्यूटरों पर चलेगा?

Nvidia PAIR आपको पुराने PC और Mac को एक निजी AI क्लस्टर में जोड़ने की अनुमति देता है। जानें कि अपना खुद का स्थानीय AI पावरहाउस कैसे बनाया जाए और अपने डेटा को सुरक्षित कैसे रखा जाए।
क्या आपका अगला AI असिस्टेंट आपके गेस्ट रूम में रखे तीन पुराने कंप्यूटरों पर चलेगा?

क्या आपके पास दराज में धूल फांकता कोई पुराना गेमिंग लैपटॉप है जबकि आपका वर्तमान PC नवीनतम स्थानीय AI मॉडल चलाने के लिए संघर्ष कर रहा है? अधिकांश उपयोगकर्ता हार्डवेयर को एक डिस्पोजेबल सीढ़ी के रूप में मानते हैं जहाँ प्रत्येक नया पायदान पिछले वाले को अप्रचलित बना देता है। Nvidia अब चाहता है कि आप उन पुरानी मशीनों को एक एकल, एकीकृत टीम के हिस्से के रूप में देखें। कंपनी ने हाल ही में अपने पर्सनल AI राउटर का बीटा संस्करण जारी किया है, जिसे PAIR के नाम से जाना जाता है। यह सॉफ़्टवेयर आर्टिफिशियल इंटेलिजेंस कार्यों के भारी बोझ को साझा करने के लिए स्थानीय नेटवर्क पर कई कंप्यूटरों को जोड़ता है।

तकनीकी रूप से, यह औसत व्यक्ति के लिए विकेंद्रीकृत कंप्यूटिंग की ओर एक कदम है। वर्षों से, घर पर एक शक्तिशाली लार्ज लैंग्वेज मॉडल चलाने के लिए बड़े पैमाने पर वीडियो मेमोरी वाले एक एकल, महंगे ग्राफिक्स कार्ड की आवश्यकता होती थी। यदि मॉडल आपके कार्ड के लिए बहुत बड़ा था, तो वह बस नहीं चलता था। PAIR उपयोगकर्ता को उस कार्यभार को कई अलग-अलग उपकरणों में वितरित करने की अनुमति देकर इस गणित को बदल देता है। यह डेटा के लिए एक ट्रैफिक कंट्रोलर के रूप में कार्य करता है। यह एक साथ आपके डेस्कटॉप, आपके पुराने लैपटॉप और यहाँ तक कि कुछ Mac उपकरणों पर AI अनुरोध के टुकड़े भेजता है। यह दृष्टिकोण व्यक्तिगत उपकरणों के संग्रह को एक अस्थायी निजी क्लाउड में बदल देता है।

डिजिटल ट्रैफिक कंट्रोलर आपके हार्डवेयर को कैसे प्रबंधित करता है

हुड के नीचे, PAIR पारंपरिक सर्वर क्लस्टर की तुलना में अलग तरह से कार्य करता है। एक पेशेवर डेटा सेंटर में, इंजीनियर अक्सर मेमोरी का एक विशाल वर्चुअल पूल बनाने के लिए GPU को एक साथ जोड़ते हैं। Nvidia स्पष्ट करता है कि PAIR ऐसा नहीं करता है। यह आपके तीन अलग-अलग कंप्यूटरों को एक विशाल वर्चुअल GPU में नहीं बदलता है। इसके बजाय, यह समानांतर प्रसंस्करण (parallel processing) के सिद्धांत पर काम करता है। जब आप किसी AI से एक लंबे दस्तावेज़ को सारांशित करने या कोड उत्पन्न करने के लिए कहते हैं, तो PAIR उस कार्य को छोटे टुकड़ों में तोड़ देता है। यह उन टुकड़ों को आपके नेटवर्क पर उपलब्ध प्रोसेसरों तक पहुँचाता है, परिणाम एकत्र करता है, और उन्हें एक एकल इंटरफ़ेस में प्रस्तुत करता है।

व्यावहारिक रूप से, इसका मतलब है कि लाभ देखने के लिए आपको एक जैसे हार्डवेयर की आवश्यकता नहीं है। यह सॉफ़्टवेयर Windows, macOS और Linux को सपोर्ट करता है। आप RTX 50-सीरीज़ कार्ड वाले हाई-एंड डेस्कटॉप को पुराने RTX 30-सीरीज़ लैपटॉप और Mac Mini के साथ जोड़ सकते हैं। सिस्टम प्रत्येक डिवाइस की विशिष्ट शक्तियों को पहचानता है। यह भारी काम तेज़ कार्ड को देता है जबकि पुरानी मशीन छोटे उप-कार्यों को संभालती है। यह सेटअप AI को एक अथक इंटर्न में बदल देता है जो काम को तेज़ी से पूरा करने के लिए कार्यालय के हर उपकरण का उपयोग करता है।

बड़ी तस्वीर को देखते हुए, यह सॉफ़्टवेयर VRAM की बाधा (bottleneck) को हल करता है। VRAM, या वीडियो रैंडम एक्सेस मेमोरी, वह डिजिटल वर्कस्पेस है जहाँ AI मॉडल काम करते समय रहते हैं। यदि किसी मॉडल को 24 गीगाबाइट स्थान की आवश्यकता है और आपके कार्ड में केवल 12 है, तो मॉडल विफल हो जाता है। कई मशीनों पर कार्यों को रूट करके, PAIR उपयोगकर्ताओं को अधिक जटिल मॉडल चलाने की अनुमति देता है जो सामान्य रूप से एक एकल घरेलू कंप्यूटर को क्रैश कर देते हैं। आपके नेटवर्क की कुल क्षमता स्थानीय स्तर पर आपके द्वारा प्राप्त की जा सकने वाली चीज़ों के लिए नई सीमा बन जाती है।

क्लाउड से लिविंग रूम की ओर बढ़ना

गोपनीयता इस बदलाव का मौलिक कारण है। अधिकांश लोग वर्तमान में वेब ब्राउज़र के माध्यम से AI का उपयोग करते हैं, जिसका अर्थ है कि उनका डेटा एक कॉर्पोरेट सर्वर तक जाता है। कंपनियाँ उस डेटा का उपयोग भविष्य के मॉडल को प्रशिक्षित करने या उपयोगकर्ता के व्यवहार को ट्रैक करने के लिए करती हैं। PAIR सब कुछ आपके होम राउटर के पीछे रखता है। डेटा कभी भी आपके स्थानीय नेटवर्क को नहीं छोड़ता है। एक छोटे व्यवसाय के मालिक या संवेदनशील पांडुलिपि पर काम करने वाले लेखक के लिए, यह एक सुरक्षित बुलबुला बनाता है। आपको डेटा उल्लंघन या प्रदाता की सेवा की शर्तों में बदलाव के जोखिम के बिना आधुनिक AI की गति मिलती है।

उपभोक्ता के दृष्टिकोण से, यह पुराने हार्डवेयर के मूल्य प्रस्ताव को भी बदल देता है। तीन साल पुराने लैपटॉप के लिए पुनर्विक्रय बाजार अक्सर निराशाजनक होता है। हालाँकि, एक समर्पित AI नोड के रूप में उस लैपटॉप का मूल्य काफी अधिक है। किसी पुराने उपकरण को उसकी मूल लागत के एक अंश पर बेचने के बजाय, आप इसे कोठरी में एक पावर आउटलेट से जोड़ सकते हैं और इसे अपने होम AI क्लस्टर में योगदान करने दे सकते हैं। यह इलेक्ट्रॉनिक्स के उपयोगी जीवन को बढ़ाता है और निरंतर अपग्रेड के चक्र को धीमा करता है।

स्थानीय AI क्लस्टर की छिपी हुई लागत

इस विकेंद्रीकृत दृष्टिकोण का एक व्यावहारिक समझौता (trade-off) है। जबकि सॉफ़्टवेयर मुफ़्त है, बिजली मुफ़्त नहीं है। एक एकल अनुकूलित मशीन का उपयोग करने की तुलना में एक एकल AI अनुरोध को संसाधित करने के लिए तीन कंप्यूटरों को पूरी क्षमता से चलाना काफी अधिक बिजली की खपत करता है। गर्मी पैदा होना एक अन्य कारक है। तीन PC का एक क्लस्टर डेटा विश्लेषण के लंबे सत्र के दौरान एक छोटे से होम ऑफिस को सौना (sauna) में बदल देगा। उपयोगकर्ताओं को अपने बिजली बिल की लागत की तुलना क्लाउड AI सेवाओं के मासिक सदस्यता शुल्क से करनी चाहिए।

विलंबता (Latency) दूसरी बाधा है। चूंकि डेटा को आपके होम वाई-फाई या ईथरनेट केबल पर यात्रा करनी चाहिए, इसलिए थोड़ी देरी होती है। यह देरी आमतौर पर मिलीसेकंड में मापी जाती है, लेकिन यह जुड़ती जाती है। एक एकल, शक्तिशाली GPU हमेशा नेटवर्क पर जुड़े तीन धीमे GPU के क्लस्टर से तेज़ होगा। PAIR क्षमता के लिए एक समाधान है, न कि अनिवार्य रूप से कच्ची, तात्कालिक गति के लिए। यह मॉडल को सबसे तेज़ चलाने के बजाय उसे चलाने में सक्षम होने के बारे में है।

उद्यम होम यूजर टूल पर नज़र क्यों रख रहे हैं

Nvidia का कहना है कि PAIR घरेलू उपयोग के लिए है, लेकिन कार्यालय के लिए इसके निहितार्थ स्पष्ट हैं। अधिकांश आधुनिक व्यवसायों में दर्जनों खाली डेस्कटॉप रात भर क्यूबिकल्स में पड़े रहते हैं। इन मशीनों में अक्सर अच्छे आंतरिक ग्राफिक्स चिप्स या आधुनिक प्रोसेसर होते हैं जो दिन में सोलह घंटे अप्रयुक्त रहते हैं। एक उद्यम सैद्धांतिक रूप से इन खाली मशीनों को आंतरिक अनुसंधान के लिए एक अस्थायी सुपरकंप्यूटर में जोड़ने के लिए PAIR का उपयोग कर सकता है।

ऐतिहासिक रूप से, कंपनियों को इस तरह के काम के लिए समर्पित सर्वर रैक खरीदने पड़ते थे। उन रैक की लागत हजारों डॉलर होती है और उनके लिए विशेष कूलिंग की आवश्यकता होती है। मौजूदा डेस्कटॉप क्षमता का उपयोग करना कॉर्पोरेट AI के लिए प्रवेश की बाधा को कम करने का एक विघटनकारी तरीका है। Nvidia ने यह भी उल्लेख किया कि PAIR DGX Spark डेस्कटॉप सुपरकंप्यूटर के साथ काम करता है। यह बताता है कि सॉफ़्टवेयर उत्साही घरेलू सेटअप और पेशेवर औद्योगिक वातावरण के बीच एक सेतु है। यह एक कंपनी को बहु-मिलियन डॉलर के डेटा सेंटर निवेश करने से पहले सस्ते, मौजूदा हार्डवेयर पर AI वर्कफ़्लो का परीक्षण करने की अनुमति देता है।

आपकी डिजिटल आदतों के लिए निष्कर्ष

औसत उपयोगकर्ता के लिए, PAIR का रिलीज़ होना एक संकेत है कि अकेले PC का युग समाप्त हो रहा है। हम एक मॉड्यूलर जीवनशैली की ओर बढ़ रहे हैं जहाँ हमारे उपकरण अलगाव के बजाय एक साथ काम करते हैं। यदि आपके पास अटारी में एक पुराना PC है, तो इसकी विशिष्टताओं (specifications) की जांच करने का समय आ गया है। हो सकता है कि आप बिना महसूस किए पहले से ही एक सुपरकंप्यूटर के आधे हिस्से के मालिक हों।

अंततः, यह सॉफ़्टवेयर कंप्यूटिंग शक्ति को देखने के हमारे नज़रिए में बदलाव लाता है। हमें हार्डवेयर को एक एकल इकाई के रूप में देखना बंद कर देना चाहिए और इसे एक तरल संसाधन के रूप में देखना शुरू करना चाहिए। जिस तरह आप कई पारिवारिक फोन पर डेटा प्लान साझा करते हैं, आप जल्द ही अपने पूरे घर में अपने कंप्यूटरों की सोचने की शक्ति साझा करेंगे। अगले दशक का डिजिटल कच्चा तेल प्रसंस्करण शक्ति (processing power) है, और Nvidia ने अभी सभी को अपनी रिफाइनरी बनाने का एक तरीका दिया है।

व्यावहारिक रूप से, आपको अपने नेटवर्क का ऑडिट करके शुरुआत करनी चाहिए। इस प्रकार के कार्य के लिए एक वायर्ड ईथरनेट कनेक्शन हमेशा वाई-फाई से बेहतर प्रदर्शन करेगा। यदि आप एक स्थानीय क्लस्टर बनाने की योजना बना रहे हैं, तो एक बुनियादी नेटवर्क स्विच में निवेश करने पर विचार करें। यह सुनिश्चित करता है कि डेटा आपकी मशीनों के बीच कम से कम घर्षण के साथ चले। देखें कि आपका वर्तमान कंप्यूटर आज AI कार्यों को कैसे संभालता है। यदि आप बार-बार धीमेपन या मेमोरी की कमी की त्रुटियों को देखते हैं, तो PAIR के माध्यम से मिश्रण में एक दूसरी, पुरानी मशीन जोड़ना आपके द्वारा किया जा सकने वाला सबसे किफायती अपग्रेड हो सकता है।

स्रोत: Nvidia Technical Documentation, RTX AI User Guide, DGX Spark Product Specifications.

bg
bg
bg

आप दूसरी तरफ देखिए।

हमारा एंड-टू-एंड एन्क्रिप्टेड ईमेल और क्लाउड स्टोरेज समाधान सुरक्षित डेटा एक्सचेंज का सबसे शक्तिशाली माध्यम प्रदान करता है, जो आपके डेटा की सुरक्षा और गोपनीयता सुनिश्चित करता है।

/ एक नि: शुल्क खाता बनाएं