Zum Inhalt springen

Ihre GPU online bringen

Sie führen auf dem Rechner mit der GPU einen einzigen Befehl aus. Er installiert alles, verbindet den Rechner mit GPUFlow und hält die Verbindung aufrecht. Sie brauchen weder Docker noch SSH, und Sie öffnen keine Ports an Ihrem Router.

  • Einen Rechner mit 64-Bit-Linux und systemd. Ubuntu, Debian, Fedora, Arch, openSUSE und ihre Verwandten funktionieren alle. Normale PCs (x86_64) und ARM (arm64) sind beide möglich.
  • Eine GPU. NVIDIA ist der getestete Weg. AMD-Karten funktionieren über die ROCm-Unterstützung von Ollama, aber das Dashboard zeigt noch keine Details zu AMD-GPUs an.
  • Die Berechtigung, auf diesem Rechner sudo zu verwenden.
  • Ein GPUFlow-Konto. Hier legen Sie eines an. Bestätigen Sie auch Ihre E-Mail-Adresse. Ohne Bestätigung können Sie sich nicht auszahlen lassen.
  1. Öffnen Sie Ihr Dashboard und klicken Sie im Menü links auf Meine Rechner.
  2. Lassen Sie unter Eine GPU mit einem Befehl hinzufügen das Feld Wofür ist dieser Rechner? auf Ein neues Angebot (einrichten, sobald er online ist).
  3. Klicken Sie neben dem Befehl auf Kopieren.
Meine Rechner: das Feld mit dem Befehl und die Schaltfläche Kopieren hervorgehoben

Der Befehl sieht so aus (bei Ihnen steht am Ende Ihr eigener Token):

Terminal-Fenster
curl -fsSL https://gpuflow.app/downloads/install.sh | sudo bash -s -- --token eyJhbGciOi...
  1. Öffnen Sie auf dem Rechner mit der GPU ein Terminal.

  2. Fügen Sie den Befehl ein und drücken Sie die Eingabetaste. Geben Sie Ihr Passwort ein, wenn sudo danach fragt.

  3. Warten Sie auf diese Zeile:

    Enrolled. gpuflow-agent is running.

    Ab diesem Moment ist Ihr Rechner online. Danach lädt das Installationsprogramm ein KI-Modell herunter. Das kann beim ersten Mal ein paar Minuten dauern.

Zurück unter Meine Rechner zeigt Ihr Rechner jetzt Online und die Meldung Dieser Rechner ist online, aber nicht gelistet.

Eine Rechner-Karte, die online, aber nicht gelistet ist, mit hervorgehobener Schaltfläche Zur Miete anbieten

Klicken Sie auf Zur Miete anbieten. Das Angebotsformular öffnet sich, und dieser Rechner ist schon ausgewählt. Tragen Sie Namen, GPU-Modell und Stundenpreis ein und klicken Sie dann auf GPU anbieten.

Sie wissen nicht, was Sie schreiben oder verlangen sollen? Lesen Sie Ein gutes Angebot schreiben und Den Preis für Ihre GPU festlegen.

Öffnen Sie Meine GPUs. Ihr Angebot zeigt den Rechner mit einem grünen Punkt. Es erscheint jetzt auf dem Marktplatz, und Mieter können es mieten.

Meine GPUs: ein Angebot mit seinem Rechner online und der Schaltfläche Bearbeiten hervorgehoben

Zuerst das Angebot: Klicken Sie auf GPU anbieten, füllen Sie das Formular aus und lassen Sie Rechner auf Keiner, später verknüpfen. Klicken Sie dann unter Meine GPUs unter dem Angebot auf Online schalten. Sie bekommen einen Befehl, der den Rechner mit genau diesem Angebot verknüpft. Hinterher müssen Sie nichts mehr verknüpfen.

Ein Rechner zeigt Offline: Jeder Offline-Rechner unter Meine Rechner hat seinen eigenen Befehl direkt auf seiner Karte. Führen Sie ihn auf diesem Rechner aus. Er installiert den Agenten neu und bringt denselben Rechner zurück. Sein Angebot ist dann wieder aktiv, und es entsteht kein Duplikat. Einen Befehl aus dem Dashboard zweimal auf demselben Rechner auszuführen, ist immer unbedenklich.

Mieter nutzen Ihre GPU über KI-Modelle, die darauf laufen. Das Installationsprogramm lädt standardmäßig qwen2.5:7b herunter. Für ein anderes Modell hängen Sie --model an das Ende des Befehls:

Terminal-Fenster
curl -fsSL https://gpuflow.app/downloads/install.sh | sudo bash -s -- --token <your token> --model llama3.1:8b

Übliche Modelle, von klein nach groß: qwen2.5:0.5b, deepseek-r1:1.5b, qwen2.5:7b, deepseek-r1:7b, llama3.1:8b, qwen2.5:14b. Ein Modell muss in den Speicher Ihrer GPU (VRAM) passen. Wählen Sie für kleine Karten also ein kleines Modell.

Um später auf einem Rechner, der schon online ist, ein Modell hinzuzufügen, brauchen Sie keinen neuen Token:

Terminal-Fenster
curl -fsSL https://gpuflow.app/downloads/install.sh | sudo bash -s -- --model qwen2.5:14b

Sie betreiben schon einen eigenen OpenAI-kompatiblen Server? Hängen Sie --engine none --ollama-url http://127.0.0.1:<port> an.

Terminal-Fenster
systemctl status gpuflow-agent # läuft er?
journalctl -u gpuflow-agent -f # Live-Log (Strg+C zum Beenden)

Der Agent startet nach einem Absturz oder Neustart von selbst neu. Er baut nur ausgehende Verbindungen auf, zu gpuflow.app und ws.gpuflow.app. Deshalb funktioniert er hinter jedem Heimrouter ohne Portweiterleitung.

Jede Rechner-Karte unter Meine Rechner zeigt, alle 15 Sekunden aktualisiert:

  • Geschwindigkeit (Benchmark): Tokens pro Sekunde für jedes Ihrer Modelle, gemessen auf Ihrem Rechner. Der Agent testet ein Modell einmal, wenn es neu hinzukommt, und danach jeden Tag. Er testet aber nur, wenn 5 Minuten lang niemand den Rechner genutzt hat. Ein Mieter unterbricht den Test immer.
  • An Mieter geliefert: echte Geschwindigkeit und Zeit bis zum ersten Token aus tatsächlichen Mieten.
  • GPU: Temperatur, Last, VRAM, Leistungsaufnahme, Lüfter, Taktraten, PCIe-Verbindung.
  • System und Modelle: CPU-Temperatur und -Last, RAM, Betriebssystem, Laufzeit, installierte Modelle und das gerade geladene Modell.

Nur Sie sehen diese Werte.

Sie bekommen eine E-Mail und eine Benachrichtigung (die Glocke oben auf der Website), wenn:

  • Ihre GPU gemietet wird,
  • ein Mieter auf Ihre GPU wartet, während sie offline ist (höchstens einmal am Tag pro GPU). Starten Sie den Rechner, um die Miete zu bekommen.
  • eine Auszahlung gesendet wurde oder nicht durchging.

Sie bekommen eine Benachrichtigung, wenn eine Miete endet, mit Ihrem Verdienst, und wenn Einnahmen auszahlbar werden.

Weiter: Ein gutes Angebot schreiben.