बर्लिन में इंटरनेशनेल फनकाउसस्टेलुंग (IFA) के मंच पर रखा चिकना काला चेसिस एक मानक हाई-एंड वर्कस्टेशन जैसा दिखता है। हालाँकि, थ्रेडरिपर हेलो स्टेशन (Threadripper Halo Station) नाम की यह मशीन आधुनिक तकनीक की दुनिया में सबसे महंगी और दुर्लभ सामग्रियों का एक सघन संग्रह है। AMD के वरिष्ठ उपाध्यक्ष जैक हुइन्ह ने इस डिवाइस को एक व्यक्तिगत सुपरकंप्यूटर के रूप में पेश किया, एक ऐसा लेबल जो डेस्कटॉप मशीन की क्षमताओं की परिभाषा को बदल देता है। आमतौर पर विशाल सर्वर फार्मों के लिए आरक्षित घटकों को एक ही बॉक्स में रखकर, AMD यह बदलने का प्रयास कर रहा है कि व्यवसाय कृत्रिम बुद्धिमत्ता (AI) को कैसे खरीदते और उपयोग करते हैं।
यह समझने के लिए कि एक एकल कंप्यूटर की कीमत एक लग्जरी सेडान से अधिक क्यों हो सकती है, आपको इसकी सामग्रियों को सिलिकॉन वेफर तक ट्रैक करना होगा। इसके हुड के नीचे, हेलो स्टेशन में दो MI350P डेटा सेंटर एक्सेलेरेटर हैं। ये गेमिंग के लिए मानक ग्राफिक्स कार्ड नहीं हैं। ये विशेष प्रोसेसर हैं जिन्हें बड़े भाषा मॉडल (LLM) के गणितीय भार को संसाधित करने के लिए डिज़ाइन किया गया है। ये चिप्स वर्तमान अर्थव्यवस्था के डिजिटल कच्चे तेल की तरह हैं। उन्हें उन्नत विनिर्माण प्रक्रियाओं की आवश्यकता होती है जो दुनिया के बहुत कम कारखाने प्रदान कर सकते हैं। जब आप इसमें थ्रेडरिपर प्रो प्रोसेसर के 96 कोर जोड़ते हैं, तो मशीन में जटिल भौतिकी का अनुकरण करने या एक साधारण टेक्स्ट प्रॉम्प्ट से हाई-फिडेलिटी 3D वातावरण बनाने के लिए पर्याप्त कच्ची गणितीय शक्ति होती है।
इस मशीन में सबसे महंगी भौतिक सामग्री संभवतः मेमोरी है। हेलो स्टेशन में 576 गीगाबाइट हाई बैंडविड्थ मेमोरी है, विशेष रूप से HBM3E किस्म। रोज़मर्रा के शब्दों में, मानक कंप्यूटर मेमोरी को एक संकीर्ण गलियारे के रूप में सोचें जहाँ डेटा को प्रोसेसर तक पहुँचने के लिए अपनी बारी का इंतज़ार करना पड़ता है। HBM3E एक विशाल, मल्टी-लेन हाईवे है जो सीधे चिप के ऊपर बनाया गया है। यह डिज़ाइन डेटा को उन गतियों पर चलने की अनुमति देता है जिनका मुकाबला मानक डेस्कटॉप मेमोरी नहीं कर सकती। मशीन में दो टेराबाइट सिस्टम मेमोरी भी है, जो कंप्यूटर को जानकारी रखने के लिए एक विशाल कार्यक्षेत्र प्रदान करती है।
मेमोरी की यही मात्रा वह कारण है जिससे हेलो स्टेशन स्थानीय स्तर पर एक ट्रिलियन से अधिक मापदंडों (parameters) वाले AI मॉडल चला सकता है। एक पैरामीटर अनिवार्य रूप से AI के मस्तिष्क में एक कनेक्शन है। एक मॉडल में जितने अधिक पैरामीटर होते हैं, वह उतना ही सूक्ष्म और सक्षम होता है। अधिकांश घरेलू कंप्यूटर 70 बिलियन मापदंडों वाले मॉडल चलाने के लिए संघर्ष करते हैं क्योंकि उनके पास डेटा को स्टोर करने के लिए जगह की कमी होती है जबकि प्रोसेसर उस पर काम करता है। अपने निकटतम प्रतिद्वंद्वी, एनवीडिया (Nvidia) DGX स्टेशन की तुलना में तीन गुना से अधिक मेमोरी क्षमता की पेशकश करके, AMD AI के लिए एक बड़ा कार्यक्षेत्र प्रदान कर रहा है। इसका मतलब है कि एक कंपनी GPT-4 जैसे टूल के विशाल, निजी संस्करण को बाहरी सर्वर पर डेटा का एक भी बाइट भेजे बिना चला सकती है।
व्यापक परिप्रेक्ष्य में देखें तो, स्थानीय सुपरकंप्यूटरों की मांग क्लाउड की बढ़ती लागतों के प्रति एक प्रतिक्रिया है। पिछले एक दशक से, तकनीकी उद्योग ने सब कुछ अमेज़ॅन, माइक्रोसॉफ्ट या गूगल के स्वामित्व वाले रिमोट सर्वर पर स्थानांतरित कर दिया। हालाँकि, इन प्लेटफार्मों पर बड़े AI मॉडल चलाना महंगा है। कंपनियां एक सब्सक्रिप्शन या प्रति-उपयोग शुल्क का भुगतान करती हैं जो कभी खत्म नहीं होता। ये लागतें टायर में एक छोटे रिसाव की तरह हैं जो अंततः व्यवसाय को अधर में छोड़ देती हैं। AI क्लाउड शुल्क पर प्रति माह €5,000 खर्च करने वाली फर्म तीन वर्षों में €180,000 खर्च करेगी।
AMD का मानना है कि संस्थान हार्डवेयर के मालिक होने के लिए €100,000 का अग्रिम भुगतान करना पसंद करेंगे। यह बदलाव विकेंद्रीकृत शक्ति की ओर एक कदम का प्रतिनिधित्व करता है। जब किसी कंपनी के पास हेलो स्टेशन होता है, तो उनके पास एक अथक इंटर्न होता है जो केवल बिजली की लागत पर काम करता है। उन्हें क्लाउड प्रदाता द्वारा कीमतें बढ़ाने या सेवा की शर्तों को बदलने के बारे में चिंता करने की ज़रूरत नहीं है। यह विशेष रूप से स्वास्थ्य सेवा, रक्षा या कानूनी सेवाओं जैसे क्षेत्रों के लिए आकर्षक है, जहाँ डेटा गोपनीयता एक कानूनी आवश्यकता है। संवेदनशील जानकारी को संभालने के लिए डेटा को भौतिक मशीन पर इमारत के अंदर रखना सबसे सुरक्षित तरीका है।
AMD एक ऐसे बाजार में प्रवेश कर रहा है जिस पर एनवीडिया का कई वर्षों से कब्जा है। एनवीडिया DGX स्टेशन स्थानीय AI विकास के लिए वर्तमान मानक है। बाजार के मोर्चे पर, एनवीडिया को एक महत्वपूर्ण लाभ है क्योंकि इसका सॉफ्टवेयर उद्योग मानक है। अधिकांश AI शोधकर्ता ऐसा कोड लिखते हैं जो एनवीडिया हार्डवेयर पर सबसे अच्छा काम करता है। एनवीडिया स्थानीय डेस्कटॉप से विशाल क्लाउड क्लस्टर तक काम को स्थानांतरित करना भी आसान बनाता है। यह निर्बाध संक्रमण उन डेवलपर्स के लिए एक प्रमुख विक्रय बिंदु है जो छोटे से शुरू करते हैं और बड़े स्तर पर जाते हैं।
| विशेषता | AMD थ्रेडरिपर हेलो स्टेशन | एनवीडिया DGX स्टेशन (वर्तमान पीढ़ी) |
|---|---|---|
| कोर काउंट | 96 कोर (थ्रेडरिपर प्रो) | परिवर्तनीय (इंटेल/AMD होस्ट) |
| हाई बैंडविड्थ मेमोरी | 576GB HBM3E | 160GB - 320GB HBM |
| सिस्टम मेमोरी | 2TB तक | 512GB - 1TB तक |
| AI मॉडल क्षमता | 1 ट्रिलियन+ पैरामीटर | ~500 बिलियन पैरामीटर |
| कूलिंग | लिक्विड कूल्ड | लिक्विड कूल्ड |
| सॉफ्टवेयर इकोसिस्टम | बढ़ता हुआ (ROCm) | परिपक्व (CUDA) |
AMD की रणनीति कच्ची क्षमता पर जीतने की है। काफी अधिक मेमोरी की पेशकश करके, वे उपयोगकर्ताओं को एनवीडिया मशीन की तुलना में बड़े मॉडल चलाने की अनुमति देते हैं। यदि किसी शोधकर्ता को ट्रिलियन-पैरामीटर मॉडल पर काम करने की आवश्यकता है, तो AMD मशीन वर्तमान में एकमात्र डेस्कटॉप विकल्प है जो उस मॉडल को अपनी मेमोरी में फिट कर सकती है। हालाँकि, इस हार्डवेयर की सफलता AMD के सॉफ्टवेयर प्लेटफॉर्म पर निर्भर करेगी, जिसे ROCm कहा जाता है। ऐतिहासिक रूप से, AMD को एनवीडिया के सॉफ्टवेयर की उपयोग-में-आसानी की बराबरी करने के लिए संघर्ष करना पड़ा है। कॉर्पोरेट वातावरण में औसत उपयोगकर्ता के लिए, हार्डवेयर उतना ही अच्छा है जितने उस पर चलने वाले एप्लिकेशन।
व्यावहारिक रूप से कहें तो, अधिकांश व्यक्ति €100,000 का कंप्यूटर नहीं खरीदेंगे। थ्रेडरिपर हेलो स्टेशन एक औद्योगिक उपकरण है, घरेलू उपकरण नहीं। आपको इस मशीन को उसी तरह देखना चाहिए जैसे आप एक भारी-भरकम क्रेन या एक विशेष सर्जिकल रोबोट को देखते हैं। यह वह अदृश्य रीढ़ है जो अगले साल आपके फोन पर उपयोग किए जाने वाले सॉफ्टवेयर को बनाने में मदद करेगी। जब एक डेवलपर के पास अपने डेस्क पर इतनी शक्ति होती है, तो वे तेजी से प्रयोग कर सकते हैं। वे छोटे, अधिक कुशल AI एजेंटों को प्रशिक्षित कर सकते हैं जो अंततः सस्ते उपभोक्ता लैपटॉप पर चलेंगे।
उपभोक्ता के दृष्टिकोण से, यह रिलीज संकेत देती है कि पूरी तरह से क्लाउड पर निर्भर रहने का युग समाप्त हो रहा है। हम स्थानीय प्रसंस्करण (local processing) की ओर एक चक्रीय वापसी देख रहे हैं। जैसे-जैसे इन सुपरकंप्यूटरों के अंदर के घटक सस्ते और निर्माण में आसान होते जाएंगे, तकनीक नीचे तक पहुंचेगी। हाई बैंडविड्थ मेमोरी जो आज हेलो स्टेशन को इतना महंगा बनाती है, संभवतः 2030 तक मिड-रेंज गेमिंग पीसी में मानक होगी। तकनीक का लोकतंत्रीकरण इसी तरह काम करता है। आज के लग्जरी उपकरण कल के बजट उपकरणों के बुनियादी घटक बन जाते हैं।
हेलो स्टेशन का लॉन्च एक ठोस संकेत है कि AI उद्योग परिपक्व हो रहा है। हम उस प्रचार (hype) चरण से आगे बढ़ रहे हैं जहाँ हर कंपनी केवल सर्वर पर जगह किराए पर लेती है। व्यवसाय अब स्केलेबल, लचीले समाधानों की तलाश कर रहे हैं जिन्हें वे नियंत्रित कर सकें। AMD इस स्वतंत्रता के लिए भौतिक बुनियादी ढांचा प्रदान कर रहा है। हालांकि कीमत अधिक है, दीर्घकालिक बचत और डेटा सुरक्षा की संभावना बड़े संस्थानों के लिए एक शक्तिशाली प्रोत्साहन है।
अंततः, आपको यह देखना चाहिए कि आपका अपना कार्यस्थल अगले वर्ष डेटा को कैसे संभालता है। यदि आपकी कंपनी "ऑन-प्रिमाइसेस AI" या "लोकल इन्फरेंस" के बारे में बात करना शुरू करती है, तो वे हेलो स्टेशन जैसी मशीनों के बारे में बात कर रहे हैं। स्थानीय शक्ति की ओर यह बदलाव सॉफ्टवेयर के विकास के तरीके और आपके व्यक्तिगत डेटा की सुरक्षा के तरीके को बदल देगा। आप एक ऐसे क्षण के साक्षी बन रहे हैं जहाँ प्रसंस्करण शक्ति के डिजिटल कच्चे तेल को कार्यालय के लिए पैक किया जा रहा है, जिससे AI की जटिल दुनिया भौतिक वास्तविकता में थोड़ी और अधिक समाहित हो रही है।
स्रोत:



हमारा एंड-टू-एंड एन्क्रिप्टेड ईमेल और क्लाउड स्टोरेज समाधान सुरक्षित डेटा एक्सचेंज का सबसे शक्तिशाली माध्यम प्रदान करता है, जो आपके डेटा की सुरक्षा और गोपनीयता सुनिश्चित करता है।
/ एक नि: शुल्क खाता बनाएं