अपनी API कुंजी इस्तेमाल करें

आपके किराये के साथ एक API कुंजी मिलती है, जो gfk_ से शुरू होती है। यह बिल्कुल OpenAI API कुंजी की तरह काम करती है। फ़र्क बस इतना है कि यह आपके किराये पर लिए GPU से जुड़ी है। जो भी चीज़ OpenAI API से बात कर सकती है, वह इसे इस्तेमाल कर सकती है: OpenAI की आधिकारिक लाइब्रेरी, LangChain, ज़्यादातर चैट ऐप, या एक साधारण curl कमांड।

आपको तीन चीज़ें चाहिए। ये सब आपको डैशबोर्ड → वर्तमान किराये पर मिलेंगी।

क्या	मान
Base URL (इसे endpoint या API base भी कहते हैं)	https://gpuflow.app/v1
API कुंजी	आपकी कुंजी, जो gfk_ से शुरू होती है
मॉडल	उस GPU पर चलने वाला AI मॉडल, जैसे qwen2.5:7b (इसे कैसे ढूँढें, यह चरण 1 में है)

नीचे के उदाहरणों में gfk_your_key की जगह अपनी कुंजी डालें।

1. अपनी कुंजी जाँचें और मॉडल का नाम ढूँढें

इसे टर्मिनल में पेस्ट करें:

curl https://gpuflow.app/v1/models \
  -H "Authorization: Bearer gfk_your_key"

आपको कुछ ऐसा जवाब मिलेगा:

{
  "object": "list",
  "data": [{ "id": "qwen2.5:7b", "object": "model", "owned_by": "gpuflow" }]
}

id (यहाँ qwen2.5:7b) वह मॉडल नाम है जिसे आपको इस्तेमाल करना है। अगर प्रदाता के विवरण में और मॉडल लिखे हैं, तो आप उनके नाम भी इस्तेमाल कर सकते हैं।

2. अपना पहला मैसेज भेजें

curl

curl https://gpuflow.app/v1/chat/completions \
  -H "Authorization: Bearer gfk_your_key" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen2.5:7b",
    "messages": [
      {"role": "system", "content": "You are a helpful assistant. Answer briefly."},
      {"role": "user", "content": "Write a two-line product description for a steel water bottle."}
    ]
  }'

Python

लाइब्रेरी एक बार इंस्टॉल करें: pip install openai

from openai import OpenAI

client = OpenAI(
    base_url="https://gpuflow.app/v1",
    api_key="gfk_your_key",
)

reply = client.chat.completions.create(
    model="qwen2.5:7b",
    messages=[
        {"role": "system", "content": "You are a helpful assistant. Answer briefly."},
        {"role": "user", "content": "Write a two-line product description for a steel water bottle."},
    ],
)
print(reply.choices[0].message.content)

JavaScript

लाइब्रेरी एक बार इंस्टॉल करें: npm install openai

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://gpuflow.app/v1",
  apiKey: "gfk_your_key",
});

const reply = await client.chat.completions.create({
  model: "qwen2.5:7b",
  messages: [
    { role: "system", content: "You are a helpful assistant. Answer briefly." },
    { role: "user", content: "Write a two-line product description for a steel water bottle." },
  ],
});
console.log(reply.choices[0].message.content);

3. जवाब शब्द-दर-शब्द पाएँ (स्ट्रीमिंग)

"stream": true जोड़ें। तब जवाब लिखे जाने के साथ-साथ दिखता जाएगा, जैसे किसी चैट ऐप में।

curl

curl https://gpuflow.app/v1/chat/completions \
  -H "Authorization: Bearer gfk_your_key" \
  -H "Content-Type: application/json" \
  -d '{"model": "qwen2.5:7b", "stream": true,
       "messages": [{"role": "user", "content": "Explain what a GPU is in three sentences."}]}'

Python

stream = client.chat.completions.create(
    model="qwen2.5:7b",
    stream=True,
    messages=[{"role": "user", "content": "Explain what a GPU is in three sentences."}],
)
for chunk in stream:
    print(chunk.choices[0].delta.content or "", end="", flush=True)

इसे किसी ऐप में इस्तेमाल करें

कई ऐप में “OpenAI-compatible”, “Custom OpenAI” या “OpenAI API base” नाम की सेटिंग होती है। उसे ऐसे भरें:

1. Base URL / API base / endpoint: https://gpuflow.app/v1
2. API कुंजी: आपकी gfk_… कुंजी
3. मॉडल: चरण 1 में मिला नाम, जैसे qwen2.5:7b

अगर ऐप “provider” पूछे, तो “OpenAI” या “OpenAI-compatible” चुनें।

कुंजी क्या कर सकती है और क्या नहीं

• यह चैट के लिए काम करती है: /v1/models और /v1/chat/completions।
• यह आपका किराया खत्म होने तक काम करती है। उसके बाद यह invalid_api_key जवाब देती है।
• यह सिर्फ़ आपकी है। जिसके पास यह कुंजी है, वह आपका किराया इस्तेमाल कर सकता है। इसलिए इसे सार्वजनिक कोड या चैट में पेस्ट न करें। अगर कुंजी लीक हो जाए, तो वर्तमान किराये पर नई कुंजी पर क्लिक करें। पुरानी कुंजी उसी पल काम करना बंद कर देती है।

आपके प्रॉम्प्ट किसी दूसरे व्यक्ति के कंप्यूटर पर चलते हैं

AI मॉडल प्रदाता की मशीन पर चलता है, इसलिए आपके प्रॉम्प्ट और जवाब उसी मशीन से होकर जाते हैं। पासवर्ड, कार्ड नंबर या ऐसी कोई भी गोपनीय जानकारी न भेजें जो आप किसी अजनबी को नहीं बताते।

कुछ काम नहीं कर रहा? समस्या ठीक करें देखें।