公共推理实例(Serverless API)
公共推理适合直接调用已开通的模型,无需自行申请并维护推理实例。模型支持的任务与参数由服务配置决定。
公共推理由传神社区统一部署和维护,用户无需创建自己的计算实例。
在页面中试用
在已启用公共推理的模型详情页找到试用窗口或“公共推理实例”入口,输入一条简短请求验证服务。
页面没有入口时,先确认模型是否已开通公共服务,而不是直接创建重复实例。
通过 API 调用
- 在当前站点的个人或组织设置中创建 API Key,确认对目标服务有访问权限。
- 点击模型页面的“查看代码”,复制接口地址、模型标识和示例。使用网关 API Key 作为调用凭据,不使用 Git Access Token。
- 先执行一次非流式请求,确认收到模型回复,再按模型支持情况使用流式或其他参数。
- 核对请求结果与用量记录;失败时先检查地址、模型标识、Key 过期状态、权限和额度。
用量与费用
免费试用范围、额度和价格以模型服务页面为准,不代表所有模型和所有 API 调用都免费。Token 费用归入调用 Key 对应的个人或组织账户,不支持算力券抵扣。
公 共服务的伸缩、并发和缓存行为由管理员及上游配置决定;客户端仍应设置超时并处理服务繁忙的情况。
需要独立资源或自定义运行参数时,参见 创建专属实例。