Как пользоваться API-ключом

Вместе с арендой вы получаете API-ключ, который начинается с gfk_. Он работает точно так же, как API-ключ OpenAI, только ведёт на арендованный вами GPU. Им может пользоваться всё, что умеет работать с API OpenAI: официальные библиотеки OpenAI, LangChain, большинство чат-приложений или обычная команда curl.

Вам нужны три вещи. Все они есть на странице Панель управления → Текущие аренды.

Что	Значение
Базовый URL (его также называют endpoint или API base)	https://gpuflow.app/v1
API-ключ	ваш ключ, начинается с gfk_
Модель	модель ИИ на этом GPU, например qwen2.5:7b (как её узнать, показано в шаге 1)

В примерах ниже замените gfk_your_key на свой ключ.

1. Проверьте ключ и узнайте название модели

Вставьте это в терминал:

curl https://gpuflow.app/v1/models \
  -H "Authorization: Bearer gfk_your_key"

Ответ будет примерно таким:

{
  "object": "list",
  "data": [{ "id": "qwen2.5:7b", "object": "model", "owned_by": "gpuflow" }]
}

Значение id (здесь qwen2.5:7b) — это название модели, которое нужно указывать. Если в описании провайдера перечислены и другие модели, их названия тоже можно использовать.

2. Отправьте первое сообщение

curl

curl https://gpuflow.app/v1/chat/completions \
  -H "Authorization: Bearer gfk_your_key" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen2.5:7b",
    "messages": [
      {"role": "system", "content": "You are a helpful assistant. Answer briefly."},
      {"role": "user", "content": "Write a two-line product description for a steel water bottle."}
    ]
  }'

Python

Один раз установите библиотеку: pip install openai

from openai import OpenAI

client = OpenAI(
    base_url="https://gpuflow.app/v1",
    api_key="gfk_your_key",
)

reply = client.chat.completions.create(
    model="qwen2.5:7b",
    messages=[
        {"role": "system", "content": "You are a helpful assistant. Answer briefly."},
        {"role": "user", "content": "Write a two-line product description for a steel water bottle."},
    ],
)
print(reply.choices[0].message.content)

JavaScript

Один раз установите библиотеку: npm install openai

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://gpuflow.app/v1",
  apiKey: "gfk_your_key",
});

const reply = await client.chat.completions.create({
  model: "qwen2.5:7b",
  messages: [
    { role: "system", content: "You are a helpful assistant. Answer briefly." },
    { role: "user", content: "Write a two-line product description for a steel water bottle." },
  ],
});
console.log(reply.choices[0].message.content);

3. Получайте ответ по словам (потоковая передача)

Добавьте "stream": true, и ответ будет появляться по мере написания, как в чат-приложении.

curl

curl https://gpuflow.app/v1/chat/completions \
  -H "Authorization: Bearer gfk_your_key" \
  -H "Content-Type: application/json" \
  -d '{"model": "qwen2.5:7b", "stream": true,
       "messages": [{"role": "user", "content": "Explain what a GPU is in three sentences."}]}'

Python

stream = client.chat.completions.create(
    model="qwen2.5:7b",
    stream=True,
    messages=[{"role": "user", "content": "Explain what a GPU is in three sentences."}],
)
for chunk in stream:
    print(chunk.choices[0].delta.content or "", end="", flush=True)

Как подключить ключ в приложении

Во многих приложениях есть настройка «OpenAI-compatible», «Custom OpenAI» или «OpenAI API base». Заполните её так:

1. Base URL / API base / endpoint: https://gpuflow.app/v1
2. API-ключ: ваш ключ gfk_…
3. Модель: название из шага 1, например qwen2.5:7b

Если приложение просит выбрать «провайдера» (provider), выберите «OpenAI» или «OpenAI-compatible».

Что ключ может и чего не может

• Он работает для чата: /v1/models и /v1/chat/completions.
• Он работает, пока не закончилась аренда. После этого он отвечает ошибкой invalid_api_key.
• Он только ваш. Любой, у кого он есть, может пользоваться вашей арендой, поэтому не вставляйте его в открытый код или в чаты. Если ключ утёк, нажмите Новый ключ на странице Текущие аренды. Старый ключ сразу перестанет работать.

Ваши запросы обрабатываются на чужом компьютере

Модель ИИ работает на компьютере провайдера, поэтому ваши запросы и ответы проходят через него. Не отправляйте пароли, номера карт и другие данные, которые вы не доверили бы незнакомому человеку.

Что-то не работает? Смотрите решение проблем.