대여자가 접근할 수 있는 것과 없는 것
요약: 대여자는 내 머신의 모델에 AI 요청을 보낼 수 있고, 그 밖에는 아무것도 할 수 없습니다.
대여자가 할 수 있는 일
섹션 제목: “대여자가 할 수 있는 일”대여자는 API 키를 받습니다. 요청은 먼저 GPUFlow로 갑니다. 모델 목록은 GPUFlow가 직접 응답하고, 내 컴퓨터로는 한 종류의 요청만 넘깁니다.
| 요청 | 하는 일 |
|---|---|
POST /v1/chat/completions | 내 모델 중 하나와 채팅합니다 |
이 요청은 GPUFlow의 릴레이를 거쳐 내 컴퓨터의 에이전트에 도착하고, 에이전트는 요청을 내 AI 엔진(Ollama)에 넘깁니다.
에이전트에도 두 번째 잠금 장치로 자체 허용 목록이 있습니다. 에이전트는 /v1/models, /v1/chat/completions, /v1/completions, /v1/embeddings만 받고, 요청이 어디서 왔든 그 밖의 요청은 모두 거부합니다.
대여자가 할 수 없는 일
섹션 제목: “대여자가 할 수 없는 일”- 내 네트워크에 접근하기. 내 컴퓨터는 나가는 연결만 만듭니다. 공유기에서 열리는 것은 없고, 대여자는 내 IP 주소를 알 수 없습니다.
- 셸 얻기, 또는 내 머신에서 자기 프로그램 실행하기.
- 내 파일 보기나 바꾸기.
- 내 모델 내려받기, 삭제하기, 바꾸기.
- 내 머신의 통계 보기. 통계는 나만 볼 수 있습니다.
에이전트는 어떻게 제한되나요
섹션 제목: “에이전트는 어떻게 제한되나요”설치 프로그램은 에이전트를 엄격한 제한이 걸린 시스템 서비스로 설정합니다. 에이전트는 비밀번호가 없는 임시 사용자로 실행되고, 추가 권한을 얻을 수 없으며, 시스템의 나머지 부분은 읽기 전용으로만 보고, 홈 폴더는 볼 수 없습니다. 설정은 /etc/gpuflow/agent.env에, 데이터는 /var/lib/private/gpuflow에 있습니다.
알아 두어야 할 것
섹션 제목: “알아 두어야 할 것”- 프롬프트와 답변은 내 머신을 거칩니다. AI가 그렇게 작동하기 때문입니다. 대여자의 개인정보를 존중하세요. 프롬프트를 기록하거나 읽지 마세요.
- 머신을 최신 상태로 유지하세요. Linux 업데이트와 GPU 드라이버 업데이트를 평소처럼 설치하세요. 에이전트는 그 뒤 스스로 다시 시작합니다.
- 온도를 지켜보세요. 대여자가 몇 시간씩 GPU를 계속 쓸 수 있습니다. 내 머신의 실시간 통계에 온도가 나오니, 케이스에 바람이 충분히 통하는지 확인하세요.