コンテンツにスキップ

借り手がアクセスできる範囲

要点: 借り手ができるのは、あなたのマシンのモデルに AI リクエストを送ることだけです。

借り手は API キーを受け取ります。借り手のリクエストは、まず GPUFlow に届きます。モデルの一覧には GPUFlow が自分で答えます。あなたのコンピューターに送られるのは、次の 1 種類のリクエストだけです。

リクエスト内容
POST /v1/chat/completionsあなたのモデルの 1 つとチャットする

このリクエストは、GPUFlow の中継サーバーを通ってあなたのコンピューターのエージェントに届きます。エージェントはそれを AI エンジン(Ollama)に渡します。

エージェントにも、二重の鍵として独自のリストがあります。受け付けるのは /v1/models、/v1/chat/completions、/v1/completions、/v1/embeddings だけです。それ以外は、リクエストがどこから来たものでもすべて拒否します。

  • あなたのネットワークへのアクセス。 あなたのコンピューターは外向きの接続しか行いません。ルーターで何かを開放することはなく、借り手があなたの IP アドレスを知ることもありません。
  • シェルの取得や、あなたのマシンで自分のプログラムを実行すること。
  • あなたのファイルの閲覧や変更。
  • あなたのモデルのダウンロード、削除、変更。
  • マシンの統計の閲覧。 統計を見られるのはあなただけです。

インストーラーは、エージェントを厳しい制限付きのシステムサービスとして設定します。エージェントはパスワードのない一時的なユーザーとして動き、追加の権限を得ることはできません。システムのほかの部分は読み取り専用で見え、ホームフォルダーは見えません。設定は /etc/gpuflow/agent.env に、データは /var/lib/private/gpuflow に保存されます。

  • プロンプトと回答は、あなたのマシンを通ります。 AI はそうやって動いています。借り手のプライバシーを尊重し、プロンプトを記録したり読んだりしないでください。
  • マシンを最新の状態に保ってください。 Linux のアップデートと GPU ドライバーのアップデートは、いつもどおりインストールしてください。エージェントはそのあと自動で再起動します。
  • 温度に気を付けてください。 借り手が GPU を何時間も使い続けることがあります。マイマシン のライブ統計で温度を確認できます。ケースの風通しを十分に確保してください。