इसे छोड़कर कंटेंट पर जाएं

अपना GPU ऑनलाइन लाएँ

आप GPU वाले कंप्यूटर पर एक कमांड चलाते हैं। यह सब कुछ इंस्टॉल करती है, कंप्यूटर को GPUFlow से जोड़ती है और उसे जोड़े रखती है। आपको Docker या SSH की ज़रूरत नहीं है, और अपने राउटर पर कोई पोर्ट नहीं खोलना है।

  • systemd वाला 64-bit Linux चलाने वाला कंप्यूटर। Ubuntu, Debian, Fedora, Arch, openSUSE और इनसे मिलते-जुलते सिस्टम, सब चलते हैं। सामान्य PC (x86_64) और ARM (arm64), दोनों ठीक हैं।
  • एक GPU। NVIDIA के साथ यह जाँचा-परखा है। AMD कार्ड Ollama के ROCm सपोर्ट से चलते हैं, लेकिन डैशबोर्ड अभी AMD GPU की जानकारी नहीं दिखाता।
  • उस कंप्यूटर पर sudo इस्तेमाल करने की अनुमति।
  • एक GPUFlow खाता। यहाँ बनाएँ। अपने ईमेल पते की पुष्टि भी करें। भुगतान पाने के लिए यह ज़रूरी है।
  1. अपना डैशबोर्ड खोलें और बाईं ओर के मेन्यू में मेरी मशीनें पर क्लिक करें।
  2. एक कमांड में GPU जोड़ें के नीचे, यह मशीन किसलिए है? को नई लिस्टिंग (ऑनलाइन होने के बाद सेट करें) पर ही रहने दें।
  3. कमांड के पास कॉपी करें पर क्लिक करें।
मेरी मशीनें: कमांड वाला बॉक्स और उसका कॉपी करें बटन हाइलाइट हैं

कमांड कुछ ऐसी दिखती है (आपकी कमांड के आखिर में आपका अपना टोकन होगा):

Terminal window
curl -fsSL https://gpuflow.app/downloads/install.sh | sudo bash -s -- --token eyJhbGciOi...
  1. GPU वाले कंप्यूटर पर एक टर्मिनल खोलें।

  2. कमांड पेस्ट करें और Enter दबाएँ। अगर sudo पासवर्ड माँगे, तो अपना पासवर्ड लिखें।

  3. इस लाइन का इंतज़ार करें:

    Enrolled. gpuflow-agent is running.

    इसी पल से आपका कंप्यूटर ऑनलाइन है। इसके बाद इंस्टॉलर एक AI मॉडल डाउनलोड करता है। पहली बार इसमें कुछ मिनट लग सकते हैं।

मेरी मशीनें पर वापस जाएँ। अब आपका कंप्यूटर ऑनलाइन दिखता है, साथ में यह मैसेज: यह मशीन ऑनलाइन है लेकिन लिस्ट नहीं है।

एक मशीन कार्ड जो ऑनलाइन है लेकिन लिस्ट नहीं है, जिसका किराये पर लिस्ट करें बटन हाइलाइट है

किराये पर लिस्ट करें पर क्लिक करें। लिस्टिंग का फ़ॉर्म खुलता है, जिसमें यह मशीन पहले से चुनी होती है। नाम, GPU मॉडल और प्रति घंटा कीमत भरें, फिर जीपीयू सूचीबद्ध करें पर क्लिक करें।

पक्का नहीं कि क्या लिखें या कितना चार्ज करें? अच्छी लिस्टिंग लिखें और अपने GPU की कीमत कैसे तय करें देखें।

मेरे जीपीयू खोलें। आपकी लिस्टिंग में मशीन के साथ एक हरा बिंदु दिखता है। अब यह मार्केटप्लेस में दिखती है और किरायेदार इसे किराये पर ले सकते हैं।

मेरे जीपीयू: एक लिस्टिंग जिसकी मशीन ऑनलाइन है, और संपादित करें बटन हाइलाइट है

पहले लिस्टिंग: जीपीयू सूचीबद्ध करें पर क्लिक करें, फ़ॉर्म भरें और मशीन को कोई नहीं, बाद में जोड़ें पर रहने दें। फिर मेरे जीपीयू पर लिस्टिंग के नीचे ऑनलाइन लाएं पर क्लिक करें। इससे आपको एक कमांड मिलती है जो कंप्यूटर को उसी लिस्टिंग से जोड़ देती है। बाद में कुछ भी जोड़ना नहीं पड़ता।

कोई कंप्यूटर ऑफलाइन दिखे: मेरी मशीनें पर हर ऑफ़लाइन कंप्यूटर के कार्ड पर उसकी अपनी कमांड होती है। उसे उसी कंप्यूटर पर चलाएँ। यह एजेंट को फिर से इंस्टॉल करती है और वही मशीन वापस लाती है। इसलिए उसकी लिस्टिंग फिर से चालू हो जाती है और कोई डुप्लिकेट नहीं बनता। डैशबोर्ड की कोई कमांड एक ही कंप्यूटर पर दो बार चलाना हमेशा सुरक्षित है।

किरायेदार आपके GPU को उस पर चलने वाले AI मॉडल के ज़रिए इस्तेमाल करते हैं। इंस्टॉलर डिफ़ॉल्ट रूप से qwen2.5:7b डाउनलोड करता है। कोई दूसरा मॉडल चुनने के लिए कमांड के आखिर में --model जोड़ें:

Terminal window
curl -fsSL https://gpuflow.app/downloads/install.sh | sudo bash -s -- --token <your token> --model llama3.1:8b

आम विकल्प, छोटे से बड़े तक: qwen2.5:0.5b, deepseek-r1:1.5b, qwen2.5:7b, deepseek-r1:7b, llama3.1:8b, qwen2.5:14b। मॉडल को आपके GPU की मेमोरी (VRAM) में समाना चाहिए, इसलिए छोटे कार्ड के लिए छोटा मॉडल चुनें।

जो कंप्यूटर पहले से ऑनलाइन है, उस पर बाद में मॉडल जोड़ने के लिए नए टोकन की ज़रूरत नहीं है:

Terminal window
curl -fsSL https://gpuflow.app/downloads/install.sh | sudo bash -s -- --model qwen2.5:14b

क्या आप पहले से अपना OpenAI-संगत सर्वर चलाते हैं? तो --engine none --ollama-url http://127.0.0.1:<port> जोड़ें।

Terminal window
systemctl status gpuflow-agent # is it running?
journalctl -u gpuflow-agent -f # live log (Ctrl+C to stop)

क्रैश या रीबूट के बाद एजेंट अपने-आप फिर से शुरू हो जाता है। यह सिर्फ़ बाहर जाने वाले कनेक्शन बनाता है, gpuflow.app और ws.gpuflow.app से। इसलिए यह किसी भी घरेलू राउटर के पीछे बिना पोर्ट फ़ॉरवर्डिंग के चलता है।

मेरी मशीनें पर हर मशीन कार्ड ये जानकारी दिखाता है, जो हर 15 सेकंड में अपडेट होती है:

  • गति (बेंचमार्क): आपके हर मॉडल के लिए प्रति सेकंड टोकन, जो आपकी मशीन पर मापे जाते हैं। कोई मॉडल आने पर एजेंट उसे एक बार जाँचता है, और फिर हर दिन। लेकिन सिर्फ़ तब, जब 5 मिनट से किसी ने मशीन इस्तेमाल न की हो। कोई किरायेदार आए, तो जाँच हमेशा रुक जाती है।
  • किरायेदारों को दिया गया: असली किरायों से मिली असली गति और पहले टोकन तक का समय।
  • GPU: तापमान, लोड, VRAM, बिजली की खपत, पंखा, क्लॉक स्पीड, PCIe लिंक।
  • सिस्टम और मॉडल: CPU का तापमान और लोड, RAM, ऑपरेटिंग सिस्टम, अपटाइम, इंस्टॉल किए गए मॉडल, और इस समय लोड किया हुआ मॉडल।

ये आँकड़े सिर्फ़ आप देख सकते हैं।

आपको एक ईमेल और एक सूचना (साइट के ऊपर घंटी में) मिलती है, जब:

  • आपका GPU किराये पर लिया जाता है,
  • कोई किरायेदार आपके GPU का इंतज़ार कर रहा है और वह ऑफ़लाइन है (हर GPU के लिए दिन में ज़्यादा से ज़्यादा एक बार)। किराया लेने के लिए मशीन चालू करें।
  • निकासी भेज दी जाती है, या पूरी नहीं हो पाती।

किराया खत्म होने पर आपको एक सूचना मिलती है, जिसमें लिखा होता है कि आपने कितना कमाया। कमाई निकालने के लिए तैयार होने पर भी सूचना मिलती है।

आगे: अच्छी लिस्टिंग लिखें।