OPENCOMPUTE / OVERVIEW

算力总览

等待连接
Personal devices · Shared intelligence

让分散的设备,成为协同工作的 AI 算力网络。

统一查看设备资源、任务调度与模型推理状态。先从可信环境中的 CPU 节点开始,再逐步扩展到跨设备模型并行。

v0.5.1 控制台节点状态实时读取任务队列可操作
在线设备▣
—
等待集群连接
在线 CPU 核心⌘
—
来自在线 Worker 注册信息
设备总内存▤
—
在线节点报告的物理内存
运行中任务⇄
—
等待集群连接

集群资源概况

在线设备负载与可用资源

等待设备数据连接管理员密钥后查看资源概况

任务状态

调度器当前记录

暂无任务数据连接集群后查看任务队列

在线设备

最近心跳正常的计算节点

设备资源负载状态
尚未连接

最近任务

最新提交的任务记录

任务类型状态
尚未连接

设备节点

已注册 Worker 的在线状态、资源容量与能力标签

节点列表

等待数据

设备名称平台CPU内存CPU 负载能力最近心跳状态
请先连接集群
当前 Worker 注册信息和性能分数由设备自行上报,属于调度参考值,并非可信硬件证明。通用 Worker 仅执行受限 CPU 示例任务,不会接收任意代码。

任务队列

提交可控的 CPU 测试任务,观察节点领取与执行结果

创建计算任务

当前开放三种受限的 CPU 任务

需要已连接的管理员密钥

队列概况

任务生命周期计数

连接后读取任务统计
任务会被调度到支持对应能力且资源满足要求的在线节点。若没有匹配节点,任务将保持排队状态。

任务记录

最近 100 条任务,按创建时间倒序

未连接
任务 ID类型状态分配设备尝试次数创建时间结果
请先连接集群

模型中心

浏览模型适配情况;目录收录不代表当前都可执行

当前已接通的实时请求服务是本机 Qwen2 双阶段 CPU 实验路径。DeepSeek、Llama 等模型条目是否可运行,以模型目录能力状态为准;第三方 API 调用不等于使用本平台设备算力。
连接后加载模型目录

推理实验

向本机 Qwen2 PP 服务提交 Token ID 请求

Qwen2 双阶段推理

动态请求队列 · micro-batch · Gloo CPU

未检测
连接后读取推理服务状态

提交推理请求

输入 Token ID,不是自然语言 Prompt

推理返回结果

原始 JSON 响应

尚未提交请求
实验限制:当前每个 micro-batch 都会启动新的本机双 Rank 进程组并重新加载权重;没有常驻推理进程、自然语言 Tokenizer、流式输出或跨设备 Qwen2 执行。未配置 OPENCOMPUTE_QWEN2_PP_BUNDLE 时,服务会明确显示未启用。

设备接入与 API

将可信私有网络中的 CPU 设备注册为 Worker

接入一台新设备

在目标设备上运行 Worker Agent

  1. 在服务端配置 OPENCOMPUTE_JOIN_KEY(至少 16 位)。
  2. 在可信私有网络中启动服务端,并确认设备可访问 API 地址。
  3. 在设备上安装仓库依赖,然后运行 Worker Agent。
  4. 返回本页刷新设备列表,确认节点在线。
OPENCOMPUTE_API_URL=http://127.0.0.1:8000 OPENCOMPUTE_JOIN_KEY=替换为服务端加入密钥 python -m cluster_v03.worker --name my-cpu-worker

API 快速参考

管理员密钥使用 X-Admin-Key 请求头

GET /health GET /v0.3/status POST /v0.3/tasks GET /v0.4/models GET /v0.5/status POST /v0.5/requests

Worker 节点使用 X-Join-Key 完成注册,之后使用节点令牌发送心跳、领取任务和提交结果。不要把管理员密钥或节点令牌写入公开网页、代码仓库或 URL。

打开 FastAPI 交互式 API 文档 ↗
安全边界:当前版本适合本机或可信局域网研究测试,不是公网多租户服务。默认 Docker Compose 仅绑定 127.0.0.1。不要直接把未启用 TLS、强身份认证和资源隔离的 Worker API 暴露到互联网。