qdownload
可以将七牛空间中的文件同步到本地磁盘中。支持只同步带特定前缀或者后缀的文件,也支持在本地备份路径不变的情况下进行增量同步。
需要额外指出的是,将文件同步到本地都是走的七牛存储源站的流量而不是CDN的流量,因为CDN通常情况下会认为大量的文件下载操作是非法访问从而进行限制。
本工具批量下载文件支持多文件并发下载,另外还支持单个文件的断点续传。除此之外,也可以支持指定前缀或者后缀的文件同步,注意这里的前缀只能指定一个,但是后缀可以指定多个,多个后缀直接使用英文的逗号(,)分隔。
qshell qdownload [-c <ThreadCount>] <LocalDownloadConfig>
需要在使用了account
设置了AccessKey
, SecretKey
和Name
的情况下使用。
参数名称 | 描述 | 可选参数 | 取值范围 |
---|---|---|---|
LocalDownloadConfig | 本地下载的配置文件,内容包括要下载的文件所在空间,文件前缀等信息,具体参考配置文件说明 | N |
其中 `ThreadCount** 表示支持同时下载多个文件。
c选项 -c ThreadCount ==> 下载的并发协程数量, 大小必须在1-2000,如果不在这个范围内,默认为5
qdownload
功能需要配置文件的支持,配置文件的内容如下:
{
"dest_dir" : "<LocalBackupDir>",
"bucket" : "<Bucket>",
"prefix" : "image/",
"suffixes" : ".png,.jpg",
"cdn_domain" : "down.example.com",
"referer" : "http://www.example.com",
"log_file" : "download.log",
"log_level" : "info",
"log_rotate" : 1,
"log_stdout" : false
}
参数名 | 描述 | 可选参数 |
---|---|---|
dest_dir | 本地数据备份路径,为全路径 | N |
bucket | 空间名称 | N |
prefix | 只同步指定前缀的文件,默认为空 | Y |
suffixes | 只同步指定后缀的文件,默认为空 | Y |
cdn_domain | 设置下载的CDN域名,默认为空表示从存储源站下载,【该功能默认需要计费,如果希望享受10G的免费流量,请自行设置cdn_domain参数,如不设置,需支付源站流量费用,无法减免!!!】 | N |
referer | 如果CDN域名配置了域名白名单防盗链,需要指定一个允许访问的referer地址 | N |
log_level | 下载日志输出级别,可选值为debug ,info ,warn ,error ,默认info |
Y |
log_file | 下载日志的输出文件,如果不指定会输出到qshell工作目录下默认的文件中,文件名可以在终端输出看到 | Y |
log_rotate | 下载日志文件的切换周期,单位为天,默认为1天即切换到新的下载日志文件 | Y |
log_stdout | 下载日志是否同时输出一份到标准终端,默认为false,主要在调试下载功能时可以指定为true | Y |
备注:
- 在Windows系统下面使用的时候,注意
dest_dir
的设置遵循D:\\jemy\\backup
这种方式。也就是路径里面的\
要有两个(\\
)。 - 在默认不指定
cdn_domain
的情况下,会从存储源站下载资源,这部分下载产生的流量会生成存储源站下载流量的计费,请注意,这部分计费不在七牛CDN免费10G流量覆盖范围。
需要同步空间qdisk
中的所有以movies/
开头(理解为前缀的概念,那么movies/1.mp4,movies/2.mp4等以movies/为前缀的文件都会被下载保存),并以.mp4
结尾的文件到本地路径/Users/jemy/Temp7/backup
下面(把下面的配置内容写入配置文件qdisk_down.conf,该配置文件需要自行创建):
{
"dest_dir" : "/Users/jemy/Temp7/backup",
"bucket" : "qdisk",
"cdn_domain" : "if-pbl.qiniudn.com",
"prefix" : "movies/",
"suffixes" : ".mp4"
}
运行命令(下载并发数表示可以同时下载10个文件):
qshell qdownload -c 10 qdisk_down.conf