Personal devices · Shared intelligence
让分散的设备,成为协同工作的 AI 算力网络。
统一查看设备资源、任务调度与模型推理状态。先从可信环境中的 CPU 节点开始,再逐步扩展到跨设备模型并行。
在线设备▣
—
在线 CPU 核心⌘
—
设备总内存▤
—
运行中任务⇄
—
设备节点
已注册 Worker 的在线状态、资源容量与能力标签
| 设备名称 | 平台 | CPU | 内存 | CPU 负载 | 能力 | 最近心跳 | 状态 |
|---|
| 请先连接集群 |
当前 Worker 注册信息和性能分数由设备自行上报,属于调度参考值,并非可信硬件证明。通用 Worker 仅执行受限 CPU 示例任务,不会接收任意代码。
模型中心
浏览模型适配情况;目录收录不代表当前都可执行
当前已接通的实时请求服务是本机 Qwen2 双阶段 CPU 实验路径。DeepSeek、Llama 等模型条目是否可运行,以模型目录能力状态为准;第三方 API 调用不等于使用本平台设备算力。
推理实验
向本机 Qwen2 PP 服务提交 Token ID 请求
Qwen2 双阶段推理
动态请求队列 · micro-batch · Gloo CPU
未检测
提交推理请求
输入 Token ID,不是自然语言 Prompt
尚未提交请求
实验限制:当前每个 micro-batch 都会启动新的本机双 Rank 进程组并重新加载权重;没有常驻推理进程、自然语言 Tokenizer、流式输出或跨设备 Qwen2 执行。未配置 OPENCOMPUTE_QWEN2_PP_BUNDLE 时,服务会明确显示未启用。
设备接入与 API
将可信私有网络中的 CPU 设备注册为 Worker
接入一台新设备
在目标设备上运行 Worker Agent
- 在服务端配置 OPENCOMPUTE_JOIN_KEY(至少 16 位)。
- 在可信私有网络中启动服务端,并确认设备可访问 API 地址。
- 在设备上安装仓库依赖,然后运行 Worker Agent。
- 返回本页刷新设备列表,确认节点在线。
OPENCOMPUTE_API_URL=http://127.0.0.1:8000
OPENCOMPUTE_JOIN_KEY=替换为服务端加入密钥
python -m cluster_v03.worker --name my-cpu-worker
API 快速参考
管理员密钥使用 X-Admin-Key 请求头
GET /health
GET /v0.3/status
POST /v0.3/tasks
GET /v0.4/models
GET /v0.5/status
POST /v0.5/requests
Worker 节点使用 X-Join-Key 完成注册,之后使用节点令牌发送心跳、领取任务和提交结果。不要把管理员密钥或节点令牌写入公开网页、代码仓库或 URL。
打开 FastAPI 交互式 API 文档 ↗
安全边界:当前版本适合本机或可信局域网研究测试,不是公网多租户服务。默认 Docker Compose 仅绑定 127.0.0.1。不要直接把未启用 TLS、强身份认证和资源隔离的 Worker API 暴露到互联网。