通过 ModKie 将 HuggingFace 模型部署到 RunPod

2026/06/26

ModKie 支持在 RunPod(vLLM 或自定义 Worker)部署 HuggingFace 权重,并与市场模型共用同一 API 密钥。 部署完成后通过 register-gateway 获得可用于 createTaskmodel ID。

流程概要:选择 HF 仓库 → 启动 RunPod 模板 → 健康检查 → 注册端点 → Playground 验证 → 应用内调用 createTask。自定义模型会出现在 GET /models 目录中。

视觉团队可结合 YOLO 训练工作流文章一并阅读。

ModKie DevRel

通过 ModKie 将 HuggingFace 模型部署到 RunPod | 博客