创建专属实例

创建专属实例

在模型页面点击“模型部署”，下拉菜单中选择“专属实例”，点击后跳转创建页面。

注意：仅部分模型支持创建专属实例，如您想要使用的模型没有“专属实例”选项，请联系我们。

创建页面

进入专属实例创建页面，填写以下基本信息，然后点击“新建实例”按钮进行创建。

• 实例名称：自定义，不能重复
• 模型 ID：当前实例中所选模型的仓库标识
• 区域/资源配置：选择专属实例部署的算力资源
• 运行时框架：选择推理框架，支持指定推理框架的版本，并可设置运行参数
• PD分离：对于大于100B的模型，支持启用PD（Prefill/Decode）分离部署
• 环境变量：支持添加自定义环境变量，用于特定的运行时配置
• 安全级别
  • 公开：平台有效用户可凭个人 API Key 调用，仍需鉴权；不会公开实例的日志、设置等管理页面。
  • 私有：仅实例所有者可调用；个人实例使用所有者的个人 API Key，组织实例使用组织 API Key。
  • 设置为公开前确认资源容量和用量影响。页面管理权限与推理 API 调用权限分别控制。
• 弹性副本：范围：1~5

专属实例列表

创建完成后在个人信息页可查看个人创建的所有专属实例。