更新时间:2024-11-21 gmt 08:00

创建模型不同方式的场景介绍-九游平台

ai开发和调优往往需要大量的迭代和调试,数据集、训练代码或参数的变化都可能会影响模型的质量,如不能统一管理开发流程元数据,可能会出现无法重现最优模型的现象。

modelarts的模型可导入所有训练生成的元模型、上传至对象存储服务(obs)中的元模型和容器镜像中的元模型,可对所有迭代和调试的模型进行统一管理。

约束与限制

  • 自动学习项目中,在完成模型部署后,其生成的模型也将自动上传至模型列表中。但是自动学习生成的模型无法下载,只能用于部署上线。
  • 创建模型、管理模型版本等功能目前是免费开放给所有用户,使用此功能不会产生费用。

创建模型的几种场景

  • 从训练作业中导入模型文件创建模型:在modelarts中创建训练作业,并完成模型训练,在得到满意的模型后,可以将训练后得到的模型创建为模型,用于部署服务。
  • 从obs中导入模型文件创建模型:如果您使用常用框架在本地完成模型开发和训练,可以将本地的模型按照模型包规范上传至obs桶中,从obs将模型导入至modelarts中,创建为模型,直接用于部署服务。
  • 从容器镜像中导入模型文件创建模型:针对modelarts目前不支持的ai引擎,可以通过自定义镜像的方式将编写的模型镜像导入modelarts,创建为模型,用于部署服务。
  • 从ai gallery订阅模型:modelarts的ai gallery中提供了大量免费的模型供用户一键部署,您可订阅ai gallery上的模型进行ai体验学习。

推理支持的ai引擎

在modelarts创建模型时,如果使用预置镜像“从obs中选择”导入模型,则支持如下常用引擎及版本的模型包。

  • 统一镜像runtime的命名规范: - <硬件及版本:cpu或cuda或cann> - - <操作系统版本> -
  • 当前支持自定义模型启动命令,预置ai引擎都有默认的启动命令,如非必要无需改动
表1 支持的常用引擎及其runtime以及默认启动命令

模型使用的引擎类型

支持的运行环境(runtime)

注意事项

tensorflow

python3.6

python2.7(待下线)

tf1.13-python3.6-gpu

tf1.13-python3.6-cpu

tf1.13-python3.7-cpu

tf1.13-python3.7-gpu

tf2.1-python3.7(待下线)

tensorflow_2.1.0-cuda_10.1-py_3.7-ubuntu_18.04-x86_64(推荐)

  • python2.7、python3.6的运行环境搭载的tensorflow版本为1.8.0。
  • python3.6、python2.7、tf2.1-python3.7,表示该模型可同时在cpu或gpu运行。其他runtime的值,如果后缀带cpu或gpu,表示该模型仅支持在cpu或gpu中运行。
  • 默认使用的runtime为python2.7。
  • 默认启动命令:sh /home/mind/run.sh

spark_mllib

python2.7(待下线)

python3.6(待下线)

  • python2.7以及python3.6的运行环境搭载的spark_mllib版本为2.3.2。
  • 默认使用的runtime为python2.7。
  • python2.7、python3.6只能用于运行适用于cpu的模型。
  • 默认启动命令:bash /home/work/predict/bin/run.sh

scikit_learn

python2.7(待下线)

python3.6(待下线)

  • python2.7以及python3.6的运行环境搭载的scikit_learn版本为0.18.1。
  • 默认使用的runtime为python2.7。
  • python2.7、python3.6只能用于运行适用于cpu的模型。
  • 默认启动命令:bash /home/work/predict/bin/run.sh

xgboost

python2.7(待下线)

python3.6(待下线)

  • python2.7以及python3.6的运行环境搭载的xgboost版本为0.80。
  • 默认使用的runtime为python2.7。
  • python2.7、python3.6只能用于运行适用于cpu的模型。
  • 默认启动命令:bash /home/work/predict/bin/run.sh

pytorch

python2.7(待下线)

python3.6

python3.7

pytorch1.4-python3.7

pytorch1.5-python3.7(待下线)

pytorch_1.8.0-cuda_10.2-py_3.7-ubuntu_18.04-x86_64(推荐)

  • python2.7、python3.6、python3.7的运行环境搭载的pytorch版本为1.0。
  • python2.7、python3.6、python3.7、pytorch1.4-python3.7、pytorch1.5-python3.7,表示该模型可同时在cpu或gpu运行。
  • 默认使用的runtime为python2.7。
  • 默认启动命令:sh /home/mind/run.sh

mindspore

aarch64(推荐)

aarch64只能用于运行在snt3芯片上。

  • 默认启动命令:sh /home/mind/run.sh

相关文档

网站地图