更新时间:2025-01-22 gmt 08:00
modelarts在线服务预测时,如何提高预测速度?-九游平台
- 部署在线服务时,您可以选择性能更好的“实例规格”提高预测速度。例如使用gpu资源代替cpu资源。
- 部署在线服务时,您可以增加“实例数”。
如果实例数设置为1,表示后台的计算模式是单机模式;如果实例数设置大于1,表示后台的计算模式为分布式的。您可以根据实际需求进行选择。
- 推理速度与模型复杂度强相关,您可以尝试优化模型提高预测速度。
modelarts中提供了模型版本管理的功能,方便溯源和模型反复调优。
父主题: standard推理部署
相关文档
意见反馈
文档内容是否对您有帮助?
提交成功!非常感谢您的反馈,我们会继续努力做到更好!
您可在查看反馈及问题处理状态。
系统繁忙,请稍后重试
如您有其它疑问,您也可以通过华为云社区问答频道来与我们联系探讨