九游平台/ ai开发平台modelarts/ / / / 模型包规范介绍
更新时间：2024-07-02 gmt 08:00

模型包规范介绍-九游平台

创建ai应用时，如果是从obs中导入元模型，则需要符合一定的模型包规范。

  • 模型包规范适用于单模型场景，若是多模型场景（例如含有多个模型文件）推荐使用自定义镜像方式。
  • modelarts推理平台不支持的ai引擎，推荐使用自定义镜像方式。
  • 请参考和，制作自定义镜像。
  • 推荐在开发环境notebook中调试模型包，制作自定义镜像。请参考和。
  • 更多的自定义脚本代码示例，请参考。

模型包里面必须包含“model”文件夹，“model”文件夹下面放置模型文件，模型配置文件，模型推理代码文件。

  • 模型文件：在不同模型包结构中模型文件的要求不同，具体请参见模型包结构示例。
  • 模型配置文件：模型配置文件必须存在，文件名固定为“config.json”，有且只有一个，模型配置文件编写请参见。
  • 模型推理代码文件：模型推理代码文件是必选的。文件名固定为“customize_service.py”，此文件有且只能有一个，模型推理代码编写请参见。
    • customize_service.py依赖的py文件可以直接放model目录下，推荐采用相对导入方式导入自定义包。
    • customize_service.py依赖的其他文件可以直接放model目录下，需要采用绝对路径方式访问。绝对路径获取请参考。

modelarts针对多种引擎提供了样例及其示例代码，您可以参考样例编写您的配置文件和推理代码，详情请参见。modelarts也提供了常用ai引擎对应的自定义脚本示例，请参见自定义脚本代码示例。

若您在导入元模型过程中遇到问题，可协助解决故障。

模型包结构示例

  • tensorflow模型包结构

    发布该模型时只需要指定到“ocr”目录。

    obs桶/目录名
|── ocr
|   ├── model 必选： 固定子目录名称，用于放置模型相关文件
|   │   ├── <<自定义python包>>  可选：用户自有的python包，在模型推理代码中可以直接引用
|   │   ├── saved_model.pb 必选: protocol buffer格式文件，包含该模型的图描述
|   │   ├── variables  对*.pb模型主文件而言必选；固定子目录名称，包含模型的权重偏差等信息
|   │   │   ├── variables.index 必选
|   │   │   ├── variables.data-00000-of-00001 必选
|   │   ├──config.json 必选：模型配置文件，文件名称固定为config.json, 只允许放置一个
|   │   ├──customize_service.py 必选：模型推理代码，文件名称固定为customize_service.py, 只允许放置一个
customize_service.py依赖的文件可以直接放model目录下
  • mindspore模型包结构
    obs桶/目录名
|── resnet
|   ├── model 必选： 固定子目录名称，用于放置模型相关文件
|   │   ├── <<自定义python包>>  可选：用户自有的python包，在模型推理代码中可以直接引用
|   │   ├── checkpoint_lenet_1-1_1875.ckpt 必选；使用mindspore训练出来的ckpt格式/om格式的模型文件
|   │   ├── config.json 必选：模型配置文件，文件名称固定为config.json, 只允许放置一个
|   │   ├── customize_service.py 必选：模型推理代码，文件名称固定为customize_service.py, 只允许放置一个，customize_service.py依赖的文件可以直接放model目录下
  • pytorch模型包结构

    发布该模型时只需要指定到“resnet”目录。

    obs桶/目录名
|── resnet
|   ├── model  必选： 固定子目录名称，用于放置模型相关文件
|   │  ├── <<自定义python包>>  可选：用户自有的python包，在模型推理代码中可以直接引用
|   │  ├── resnet50.pth 必选，pytorch模型保存文件，保存为“state_dict”，存有权重变量等信息。
|   │  ├──config.json 必选：模型配置文件，文件名称固定为config.json, 只允许放置一个
|   │  ├──customize_service.py  必选：模型推理代码，文件名称固定为customize_service.py, 只允许放置一个，customize_service.py依赖的文件可以直接放model目录下
  • custom模型包结构，与您自定义镜像中ai引擎有关。例如自定义镜像中的ai引擎为tensorflow，则模型包采用tensorflow模型包结构。
父主题：

相关文档

网站地图