九游平台/ 对象存储服务 obs/ 工具指南/ obsutil/ / 恢复失败的上传任务
更新时间：2025-02-07 gmt 08:00

恢复失败的上传任务-九游平台

功能说明

根据任务号（taskid）恢复失败的上传任务。

命令结构

  • windows操作系统 
    obsutil cp -recover=xxx [-arcdir=xxx] [-dryrun] [-f] [-u] [-vlength] [-vmd5] [-j=1] [-p=1] [-threshold=52428800] [-acl=xxx] [-sc=xxx] [-meta=aaa:bbb#ccc:ddd] [-ps=auto] [-include=*.xxx] [-exclude=*.xxx] [-timerange=time1-time2] [-mf] [-o=xxx] [-cpd=xxx] [-clear] [-config=xxx] [-e=xxx] [-i=xxx] [-k=xxx] [-t=xxx]
  • macos/linux操作系统 
    ./obsutil cp -recover=xxx [-arcdir=xxx] [-dryrun] [-f] [-u] [-vlength] [-vmd5] [-j=1] [-p=1] [-threshold=52428800] [-acl=xxx] [-sc=xxx] [-meta=aaa:bbb#ccc:ddd] [-ps=auto] [-include=*.xxx] [-exclude=*.xxx] [-timerange=time1-time2] [-mf] [-o=xxx] [-cpd=xxx] [-clear] [-config=xxx] [-e=xxx] [-i=xxx] [-k=xxx] [-t=xxx]

运行示例

  • 以windows操作系统为例，运行obsutil cp -recover 104786c8-27c2-48fc-bc6a-5886596fb0ed -f，恢复失败的上传任务。 
    obsutil cp -recover 104786c8-27c2-48fc-bc6a-5886596fb0ed -f
start at 2024-10-08 01:10:07.3809685  0000 utc
parallel:      5                   jobs:          5
threshold:     50.00mb             partsize:      auto
verifylength:  false               verifymd5:     false
checkpointdir: xxxx
task id: a628d6da-c562-4a1f-b687-4fa125de0dc3
outputdir: xxxx
tempfiledir: xxxx
[========================================================] 100.00% tps:35.71 2.02 kb/s 7.20mb/7.20mb 0s
succeed count:      1         failed count:       0
succeed bytes:      xxx
metrics [max cost:90 ms, min cost:45 ms, average cost:63.80 ms, average tps:35.71, transferred size:70b]
task id: a628d6da-c562-4a1f-b687-4fa125de0dc3

参数说明

参数

约束

描述

recover

附加参数，必选

待恢复上传任务结果清单文件的任务号。

说明：
  • 任务号（taskid）可在每次上传任务运行完毕后获取，或者通过文件名查询（文件名除去后缀.txt后的后36位）。
  • 待恢复的上传任务会从结果清单的文件夹中查找，结果清单文件夹的路径参考附加参数o。

arcdir

附加参数，可选

上传文件成功后的归档路径，上传成功后的文件会移动到该路径下。

dryrun

附加参数，可选

测试模式运行，不执行实际的上传操作。

u

附加参数，可选

增量上传操作，设置该参数后，上传每个文件时会对比桶中对应路径的对象，仅在对象不存在，或者对象大小与文件大小不一致，或者文件的最后修改时间晚于对象的最后修改时间时进行上传。

注意：

在比较每个本地文件与桶内对象差异时，会产生一次head请求费用。

vlength

附加参数，可选

上传完成后，验证桶中对象的大小是否与本地文件大小一致。

vmd5

附加参数，可选

上传完成后，验证桶中对象的md5值是否与本地文件的md5值一致。

说明：
  • 如果待上传的本地文件较大，使用该参数将会因为计算md5而导致整体性能下降。
  • md5值校验通过后，会将该值设置为对象元数据x-obs-meta-md5chksum，用于下载或复制时校验md5。
注意：

如果您的业务涉及加密场景，请勿使用该参数。

p

附加参数，可选

每个分段上传任务的最大并发数，默认为配置文件中的defaultparallels。

threshold

附加参数，可选

开启分段上传任务的阈值，单位：字节，默认为配置文件中的defaultbigfilethreshold。

说明：
  • 如果待上传的文件小于该阈值，则使用直接上传模式；否则使用分段上传模式。
  • 直接上传模式不会产生断点记录文件，不支持断点续传。
  • 支持带容量单位配置，例如，配置1mb代表1048576字节。

acl

附加参数，可选

上传文件时可指定的预定义访问策略。支持的值：

  • private
  • public-read
  • public-read-write
说明：

以上三个值分别对应：私有读写、公共读、公共读写，三种预定义访问策略。

sc

附加参数，可选

上传文件时可指定的对象的存储类型。支持的值：

  • standard：标准存储，访问时延低、吞吐量高，适用于有大量热点文件（平均一个月多次）或小文件（小于1mb）。
  • warm：低频访问存储，可用性略低于standard，适用于不频繁访问（平均一年少于12次）但在需要时也要求快速访问数据的业务场景。
  • cold：归档存储，安全、持久且成本极低，适用于很少访问（平均一年访问一次）数据的业务场景。

meta

附加参数，可选

上传文件时可指定的自定义元数据。格式为：key1:value1#key2:value2#key3:value3。

说明：

以上值表示上传文件完成后，桶内对象包含三组自定义元数据，分别为：key1:value1、key2:value2、key3:value3。

ps

附加参数，可选

每个分段上传任务的段大小，单位：字节，取值范围是100kb~5gb，默认为配置文件中的defaultpartsize。

说明：
  • 支持带容量单位配置，例如，配置1mb代表1048576字节。
  • 支持配置为auto，此时obsutil会根据源文件大小自动设置每个分段任务的段大小。

cpd

附加参数，可选

生成断点记录文件的文件夹，默认为运行obsutil命令的用户目录的子文件夹.obsutil_checkpoint。

说明：

每个分段上传任务会产生唯一对应的断点记录文件并保存至该文件夹的upload子文件夹下，分段任务执行成功后，对应的断点记录文件会被自动删除；分段任务执行失败或被中断后，下次执行该分段任务时会尝试通过对应的断点记录文件恢复任务。

f

附加参数，可选

强制操作，不进行询问提示。

j

附加参数，可选

上传文件夹时任务的最大并发数，默认为配置文件中的defaultjobs。

说明：

工具会保证该值至少为1。

exclude

附加参数，可选

不包含文件的匹配模式，如：*.txt。

说明：
  • 支持“*”匹配多个任意字符和“?”匹配单个任意字符，例如abc*.txt代表匹配以abc开头以.txt结尾的任意文件。
  • 您可以使用“\*”代表匹配“*”字符本身，使用“\?”代表匹配“?”字符本身。
  • 如果待上传的文件名匹配该参数，则跳过该文件的上传。
须知：
  • 建议使用引号传递该匹配模式（macos/linux操作系统使用单引号，windows操作系统使用双引号）防止特殊符号被操作系统转义，导致不可预期的结果。
  • 该匹配模式作用于文件全路径（含文件名和文件目录）。
  • 该匹配模式不适用于文件夹。
  • 支持指定多个exclude参数，如-exclude=*.xxx -exclude=*.xxx

include

附加参数，可选

包含文件的匹配模式，如：*.jpg。

说明：
  • 支持“*”匹配多个任意字符和“?”匹配单个任意字符。
  • 您可以使用“**”代表匹配“*”字符本身，使用“\?”代表匹配“?”字符本身。
  • 首先执行exclude的匹配规则，如果待上传的文件名不匹配exclude，则判断待上传的文件名是否匹配该参数，如果匹配则上传该文件，否则跳过该文件的上传。
须知：
  • 建议使用引号传递该匹配模式（macos/linux操作系统使用单引号，windows操作系统使用双引号）防止特殊符号被操作系统转义，导致不可预期的结果。
  • 该匹配模式作用于文件全路径（含文件名和文件目录）。
  • 该匹配模式不适用于文件夹。
  • 支持指定多个include参数，如-include=*.xxx -include=*.xxx

at

附加参数，可选

恢复上传文件时指定按照文件最后访问时间作为timerange匹配模式，仅上传最后访问时间满足timerange时间段的文件。

说明：
  • 需配合timerange使用

timerange

附加参数，可选

上传文件时的时间段匹配模式，仅上传最后修改时间在该时间段内的文件。

该匹配模式优先级低于文件名匹配模式：exclude和include，优先执行文件名匹配模式后才会执行该匹配模式。

说明：
  • 使用“time1-time2”，代表匹配的时间段，其中time1必须小于等于time2，格式为yyyymmddhhmmss。
  • 时间格式支持自动补全，例如yyyymmdd等价于yyyymmdd000000，yyyymm等价于yyyymm01000000。
  • 使用“*-time2”，代表匹配最后修改时间在time2之前的所有文件，使用“time1-*”，代表匹配最后修改时间time1之后的所有文件。
须知：

该匹配模式表示的时间是utc时间。

mf

附加参数，可选

设置名称匹配模式（include、exclude）和时间匹配模式（timerange）对对象名以“/”结尾的对象也生效。

o

附加参数，可选

生成结果清单文件的文件夹，命令执行完成后，会在该文件夹下生成结果清单文件（可能包含成功结果、失败结果和警告结果三个文件），默认为运行obsutil命令的用户目录的子文件夹.obsutil_output。

说明：
  • 结果清单文件命名规则：cp_{succeed | failed | warning}_report_时间_taskid.txt。

    单个结果清单文件默认情况下最大为30mb且最大可保留的文件个数为1024，可在配置文件中通过recordmaxlogsize和recordbackups分别配置。

  • 当涉及多文件/文件夹时，如需确认失败任务的具体错误信息，可参考结果清单文件夹下的失败结果清单文件"cp_failed_report_时间_taskid.txt"及日志路径下的日志文件；

clear

附加参数，可选

设置在恢复上传任务完成后删除已恢复任务对应的失败结果清单文件。

config

附加参数，可选

运行当前命令时的自定义配置文件，可支持的配置参数请参考配置参数说明。

e

附加参数，可选

指定终端节点。

i

附加参数，可选

指定用户的ak。

k

附加参数，可选

指定用户的sk。

t

附加参数，可选

指定用户的securitytoken。

响应结果

请参考上传对象的。

父主题：

相关文档

网站地图