modelarts最佳实践案例列表-九游平台
在最佳实践文档中，提供了针对多种场景、多种ai引擎的modelarts案例，方便您通过如下案例快速了解使用modelarts完成ai开发的流程和操作。
deepseek模型推理场景
|
样例 |
场景 |
说明 |
|---|---|---|
|
bf16推理、int8量化推理 |
介绍deepseek r1和deepseek v3模型基于modelarts lite server的推理部署过程，推理使用mindeie框架和昇腾npu计算资源。 |
llm大语言模型训练推理场景
|
样例 |
场景 |
说明 |
|---|---|---|
|
预训练、sft全参微调训练、lora微调训练 |
介绍主流的开源大模型llama系列、qwen系列、yi系列、baichuan系列、chatglm系列等基于modelarts lite server的训练过程，训练使用pytorch框架和昇腾npu计算资源。训练后的模型可用于推理部署，搭建大模型问答助手。 |
|
|
预训练、sft全参微调训练、lora微调训练 |
介绍主流的开源大模型llama系列、qwen系列、yi系列、baichuan系列、chatglm系列等基于modelarts standard的训练过程，训练使用pytorch框架和昇腾npu计算资源。 训练后的模型可用于推理部署，搭建大模型问答助手。 |
|
|
推理部署、推理性能测试、推理精度测试、推理模型量化 |
介绍主流的开源大模型llama系列、qwen系列、yi系列、baichuan系列、chatglm系列等基于modelarts lite server的推理部署过程，推理使用pytorch框架和昇腾npu计算资源。 启动推理服务后，可用于搭建大模型问答助手。 |
|
|
推理部署、推理性能测试、推理精度测试、推理模型量化 |
介绍主流的开源大模型llama系列、qwen系列、yi系列、baichuan系列、chatglm系列等基于modelarts standard的推理部署过程，推理使用pytorch框架和昇腾npu计算资源。 启动推理服务后，可用于搭建大模型问答助手。 |
多模态模型场景
|
样例 |
场景 |
说明 |
|---|---|---|
|
qwen-vl基于standard obs sfs适配pytorch npu训练指导（6.3.912） qwen-vl模型基于standard obs适配pytorch npu训练指导（6.3.912） qwen-vl基于lite server适配pytorch npu的finetune训练指导(6.3.912) qwen-vl基于lite server适配pytorch npu的推理指导（6.3.909） minicpm-v2.6基于lite server适配pytorch npu训练指导（6.3.912） minicpm-v2.0推理及lora微调基于lite server适配pytorch npu指导（6.3.910） internvl2基于lite server适配pytorch npu训练指导（6.3.912） llava-next基于lite server适配pytorch npu训练微调指导（6.3.912） llava模型基于lite server适配pytorch npu预训练指导（6.3.912） llava模型基于lite server适配pytorch npu推理指导（6.3.906） llama 3.2-vision基于lite server适配pytorch npu训练微调指导（6.3.912） |
qwen-vl、minicpm-v2系列、internvl2、llava-next、llava、llama 3.2-vision、llama-vid、moondream2等模型的训练或推理 |
介绍常见多模态模型使用pytorch框架和昇腾npu计算资源，基于modelarts lite server或者standard的训练或推理过程。 |
文生图模型训练推理场景
|
样例 |
场景 |
说明 |
|---|---|---|
|
sdxl、sd1.5模型训练 |
介绍aigc模型sdxl、sd1.5基于modelarts lite server的训练过程，训练使用pytorch框架和昇腾npu计算资源。训练后的模型可用于推理部署，应用于文生图场景。 |
|
|
sdxl、sd1.5模型推理 |
介绍aigc模型sdxl、sd1.5基于modelarts lite server的推理过程，推理使用pytorch框架和昇腾npu计算资源。 启动推理服务后，可应用于文生图场景。 |
|
|
open-clip模型训练 |
介绍open-clip模型基于modelarts lite server的训练过程，训练使用pytorch框架和昇腾npu计算资源。 应用于aigc和多模态视频编码器。 |
文生视频场景
|
样例 |
场景 |
说明 |
|---|---|---|
|
cogvideo模型、open-sora模型训练推理 |
介绍cogvideo、open-sora-plan、open-sora1.2模型基于modelarts devserver的训练推理过程，训练使用pytorch框架和昇腾npu计算资源。 训练后的模型可用于推理部署，应用于文生视频场景。 |
数字人场景
|
样例 |
场景 |
说明 |
|---|---|---|
|
wav2lip，人脸说话视频模型，训练、推理 |
wav2lip是一种基于对抗生成网络的由语音驱动的人脸说话视频生成模型。主要应用于数字人场景。不仅可以基于静态图像来输出与目标语音匹配的唇形同步视频，还可以直接将动态的视频进行唇形转换，输出与输入语音匹配的视频，俗称“对口型”。该技术的主要作用就是在将音频与图片、音频与视频进行合成时，口型能够自然。 案例主要介绍如何基于modelarts lite server上的昇腾npu资源进行模型训练推理。 |
内容审核场景
|
样例 |
场景 |
说明 |
|---|---|---|
|
bert基于lite server适配mindspore lite推理指导(6.3.910) |
bert、yolov8、paraformer等内容审核模型推理 |
案例主要介绍内容审核场景的相关模型如何基于modelarts lite server上的昇腾npu资源进行模型推理。 |
modelarts standard权限配置
|
样例 |
对应功能 |
场景 |
说明 |
|---|---|---|---|
|
iam权限配置、权限管理 |
为子账号配置权限 |
当一个华为云账号下需创建多个iam子账号时，可参考此样例，为iam子账号赋予使用modelarts所需的权限。避免iam子账号因权限问题导致使用时出现异常。 |
modelarts standard自动学习案例
modelarts standard开发环境案例
|
样例 |
镜像 |
对应功能 |
场景 |
说明 |
|---|---|---|---|---|
|
- |
环境迁移 |
开发环境 |
本案例介绍如何将notebook的conda环境迁移到sfs磁盘上。 |
|
|
mindspore |
vs code toolkit工具 |
目标检测 |
本案例以ascend model zoo为例，介绍如何通过vs code插件及modelarts notebook进行云端数据调试及模型开发。 |
modelarts standard模型训练案例
|
样例 |
镜像 |
对应功能 |
场景 |
说明 |
|---|---|---|---|---|
|
pytorch |
自定义算法 |
手写数字识别 |
使用用户自己的算法，训练得到手写数字识别模型，并部署后进行预测。 |
|
|
pytorch |
镜像制作 自定义镜像训练 |
- |
此案例介绍如何从0到1制作镜像，并使用该镜像在modelarts平台上进行训练。镜像中使用的ai引擎是pytorch，训练使用的资源是cpu或gpu。 |
|
|
mpi |
镜像制作 自定义镜像训练 |
- |
此案例介绍如何从0到1制作镜像，并使用该镜像在modelarts平台上进行训练。镜像中使用的ai引擎是mpi，训练使用的资源是cpu或gpu。 |
|
|
tensorflow |
镜像制作 自定义镜像训练 |
- |
此案例介绍如何从0到1制作镜像，并使用该镜像在modelarts平台上进行训练。镜像中使用的ai引擎是tensorflow，训练使用的资源是gpu。 |
|
|
mindspore |
镜像制作 自定义镜像训练 |
- |
此案例介绍如何从0到1制作镜像，并使用该镜像在modelarts平台上进行训练。镜像中使用的ai引擎是mindspore，训练使用的资源是npu。 |
modelarts standard推理部署
|
样例 |
对应功能 |
场景 |
说明 |
|---|---|---|---|
|
在线服务 |
物体检测 |
此案例以“商超商品识别”模型为例，完成从ai gallery订阅模型，到modelarts一键部署为在线服务的免费体验过程。 |
|
|
第三方框架 推理部署 |
- |
modelarts支持第三方的推理框架在modelarts上部署，本文以tfserving框架、triton框架为例，介绍如何迁移到推理自定义引擎。 |
第三方案例列表
第三方案例来源为。由于modelarts产品的持续更新和迭代，第三方案例中的界面和步骤可能因时效性而与最新产品有所差异，仅供学习和参考。
|
分类 |
文章名称 |
作者 |
|---|---|---|
|
standard自动学习 |
||
|
standard开发环境 |
||
|
standard推理部署 |
||
相关文档
意见反馈
文档内容是否对您有帮助？
如您有其它疑问，您也可以通过华为云社区问答频道来与我们联系探讨
