跳转到内容

租用者能访问什么,不能访问什么

简单来说:租用者只能向您机器上的模型发送 AI 请求,其他什么都做不了。

租用者能做什么

标题:租用者能做什么

租用者会拿到一个 API 密钥。他们的请求先发到 GPUFlow。模型列表由 GPUFlow 自己返回,只有一种请求会被转发到您的电脑:

请求作用
POST /v1/chat/completions与您的某个模型对话

这个请求经过 GPUFlow 的中转服务到达您电脑上的代理,代理再把它交给您的 AI 引擎(Ollama)。

代理自己也有一份清单,作为第二道锁。它只接受 /v1/models、/v1/chat/completions、/v1/completions 和 /v1/embeddings,其他请求一律拒绝,无论请求来自哪里。

租用者不能做什么

标题:租用者不能做什么
  • 访问您的网络。您的电脑只建立出站连接。路由器上不会开放任何端口,租用者也永远不会知道您的 IP 地址。
  • 获取 shell,或在您的机器上运行他们自己的程序。
  • 查看或修改您的文件。
  • 下载、删除或修改您的模型。
  • 查看您机器的数据。只有您能看到。

代理是如何被限制的

标题:代理是如何被限制的

安装程序会把代理设置为一个有严格限制的系统服务。它以一个没有密码的临时用户身份运行,无法获取额外权限,对系统其余部分只有只读权限,也看不到用户主目录。它的设置保存在 /etc/gpuflow/agent.env,数据保存在 /var/lib/private/gpuflow。

您应该知道的

标题:您应该知道的
  • 提示词和回答会经过您的机器。AI 就是这样运行的。请尊重租用者的隐私:不要记录或查看他们的提示词。
  • 保持系统更新。像平常一样安装 Linux 更新和 GPU 驱动更新。代理之后会自动重新启动。
  • 注意温度。租用者可能让您的 GPU 连续忙碌好几个小时。我的机器 中的实时数据会显示它的温度,请确保机箱通风良好。