模型中心

创建推理会话 可信本机测试

请选择一个已接入引擎的模型。计划模型暂不可启动。

动态 Qwen2 推理队列 v0.5.0

通过公平队列向本机双阶段 Qwen2 Gloo 引擎提交请求。此处输入的是 Token ID，不是自然语言；服务尚不提供 Tokenizer、流式输出或远程设备接入。

请先填写上方管理员密钥，再读取服务状态。