Utiliser votre clé API
Votre location est livrée avec une clé API qui commence par gfk_. Elle fonctionne exactement comme une clé API OpenAI, sauf qu’elle pointe vers le GPU que vous avez loué. Tout ce qui sait parler à l’API OpenAI peut l’utiliser : les bibliothèques officielles d’OpenAI, LangChain, la plupart des applications de chat, ou une simple commande curl.
Il vous faut trois choses. Vous les trouverez toutes dans Tableau de bord → Locations Actuelles.
| Quoi | Valeur |
|---|---|
| URL de base (aussi appelée endpoint ou API base) | https://gpuflow.app/v1 |
| Clé API | votre clé, qui commence par gfk_ |
| Modèle | le modèle d’IA installé sur ce GPU, par exemple qwen2.5:7b (l’étape 1 explique comment le trouver) |
Dans les exemples ci-dessous, remplacez gfk_your_key par votre propre clé.
1. Vérifier votre clé et trouver le nom du modèle
Section intitulée « 1. Vérifier votre clé et trouver le nom du modèle »Collez ceci dans un terminal :
curl https://gpuflow.app/v1/models \ -H "Authorization: Bearer gfk_your_key"Vous obtenez une réponse de ce type :
{ "object": "list", "data": [{ "id": "qwen2.5:7b", "object": "model", "owned_by": "gpuflow" }]}L’id (ici qwen2.5:7b) est le nom du modèle à utiliser. Si la description du fournisseur cite d’autres modèles, vous pouvez aussi utiliser ces noms.
2. Envoyer votre premier message
Section intitulée « 2. Envoyer votre premier message »curl https://gpuflow.app/v1/chat/completions \ -H "Authorization: Bearer gfk_your_key" \ -H "Content-Type: application/json" \ -d '{ "model": "qwen2.5:7b", "messages": [ {"role": "system", "content": "Tu es un assistant utile. Réponds brièvement."}, {"role": "user", "content": "Écris une description produit de deux lignes pour une gourde en acier."} ] }'Installez la bibliothèque une seule fois : pip install openai
from openai import OpenAI
client = OpenAI( base_url="https://gpuflow.app/v1", api_key="gfk_your_key",)
reply = client.chat.completions.create( model="qwen2.5:7b", messages=[ {"role": "system", "content": "Tu es un assistant utile. Réponds brièvement."}, {"role": "user", "content": "Écris une description produit de deux lignes pour une gourde en acier."}, ],)print(reply.choices[0].message.content)Installez la bibliothèque une seule fois : npm install openai
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://gpuflow.app/v1", apiKey: "gfk_your_key",});
const reply = await client.chat.completions.create({ model: "qwen2.5:7b", messages: [ { role: "system", content: "Tu es un assistant utile. Réponds brièvement." }, { role: "user", content: "Écris une description produit de deux lignes pour une gourde en acier." }, ],});console.log(reply.choices[0].message.content);3. Recevoir la réponse mot par mot (streaming)
Section intitulée « 3. Recevoir la réponse mot par mot (streaming) »Ajoutez "stream": true pour voir la réponse s’afficher au fur et à mesure, comme dans une application de chat.
curl https://gpuflow.app/v1/chat/completions \ -H "Authorization: Bearer gfk_your_key" \ -H "Content-Type: application/json" \ -d '{"model": "qwen2.5:7b", "stream": true, "messages": [{"role": "user", "content": "Explique ce qu’est un GPU en trois phrases."}]}'stream = client.chat.completions.create( model="qwen2.5:7b", stream=True, messages=[{"role": "user", "content": "Explique ce qu’est un GPU en trois phrases."}],)for chunk in stream: print(chunk.choices[0].delta.content or "", end="", flush=True)L’utiliser dans une application
Section intitulée « L’utiliser dans une application »Beaucoup d’applications ont un réglage appelé « OpenAI-compatible », « Custom OpenAI » ou « OpenAI API base ». Remplissez-le ainsi :
- URL de base / API base / endpoint :
https://gpuflow.app/v1 - Clé API : votre clé
gfk_… - Modèle : le nom trouvé à l’étape 1, par exemple
qwen2.5:7b
Si l’application demande un « fournisseur » (provider), choisissez « OpenAI » ou « OpenAI-compatible ».
Ce que la clé permet, et ce qu’elle ne permet pas
Section intitulée « Ce que la clé permet, et ce qu’elle ne permet pas »- Elle fonctionne pour le chat :
/v1/modelset/v1/chat/completions. - Elle fonctionne jusqu’à la fin de votre location. Ensuite, elle répond
invalid_api_key. - Elle n’est qu’à vous. Toute personne qui l’a peut utiliser votre location : ne la collez donc pas dans du code public ou dans des conversations. Si elle a fuité, cliquez sur Nouvelle clé dans Locations Actuelles. L’ancienne clé cesse aussitôt de fonctionner.
Quelque chose ne marche pas ? Consultez Résoudre un problème.