租用者能存取和不能存取的範圍
簡單來說:租用者只能向您機器上的模型傳送 AI 請求,其他什麼都不能做。
租用者能做什麼
標題:租用者能做什麼租用者會拿到一組 API 金鑰。他們的請求會先送到 GPUFlow。模型清單由 GPUFlow 自己回覆,只有一種請求會轉送到您的電腦:
| 請求 | 用途 |
|---|---|
POST /v1/chat/completions | 和您的其中一個模型聊天 |
這個請求會經由 GPUFlow 的中繼伺服器送到您電腦上的代理程式,再由代理程式轉交給您的 AI 引擎(Ollama)。
代理程式也有自己的一份清單,作為第二道鎖。它只接受 /v1/models、/v1/chat/completions、/v1/completions 和 /v1/embeddings,其他請求一律拒絕,不論請求來自哪裡。
租用者不能做什麼
標題:租用者不能做什麼- 存取您的網路。您的電腦只會建立對外連線。路由器上不會開放任何連接埠,租用者也永遠不會知道您的 IP 位址。
- 取得 shell,或在您的機器上執行他們自己的程式。
- 查看或修改您的檔案。
- 下載、刪除或修改您的模型。
- 查看您機器的數據。只有您看得到。
代理程式如何被嚴格限制
標題:代理程式如何被嚴格限制安裝程式會把代理程式設定為系統服務,並加上嚴格的限制。它以一個沒有密碼的臨時使用者身分執行,無法取得額外權限,系統的其餘部分對它來說都是唯讀的,而且它看不到使用者的家目錄。它的設定存放在 /etc/gpuflow/agent.env,資料存放在 /var/lib/private/gpuflow。
您應該知道的事
標題:您應該知道的事- 提示詞和回答會經過您的機器。AI 就是這樣執行的。請尊重租用者的隱私:不要記錄或閱讀他們的提示詞。
- 保持機器更新。照常安裝 Linux 更新和 GPU 驅動程式更新。代理程式之後會自動重新啟動。
- 注意溫度。租用者可能讓您的 GPU 連續忙碌好幾個小時。我的機器 上的即時數據會顯示 GPU 溫度,請確保機殼通風良好。