rsync 可不可以多进程同步同一个文件夹? - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Distributions
Ubuntu
Fedora
CentOS
中文资源站
网易开源镜像站
lytlyt
V2EX    Linux

rsync 可不可以多进程同步同一个文件夹?

  •  
  •   lytlyt 2021-04-19 15:09:05 +08:00 2928 次点击
    这是一个创建于 1712 天前的主题,其中的信息可能已经有所发展或是发生改变。

    我有这样一个情景:我要从服务器 A 下载一个巨大的文件夹到本地(大约 2T,文件夹中每个文件大约 10G ),但是无奈一个 IP 限速 10Mbps,所以我想要开启多个虚拟机,每个虚拟机拿不同 ip,同时对这一个文件夹进行同步,如果不对这个文件夹进行切分可以办到吗?或者有没有什么工具可以实现

    14 条回复    2021-04-20 10:56:29 +08:00
    buster
        1
    buster  
       2021-04-19 15:39:09 +08:00   1
    rsync + 文件名正则呢 ?
    willis
        2
    willis  
       2021-04-19 16:23:41 +08:00
    按文件名或者子文件夹进行同步
    rationa1cuzz
        3
    rationa1cuzz  
       2021-04-19 16:44:58 +08:00
    我记得是由参数存在的就不复制,但是还是要扫描整个文件夹,你这么大估计也很慢
    GM
        4
    GM  
       2021-04-19 16:52:37 +08:00
    大文件没必要用 rsync,直接装个 nginx,然后把目录、文件名列出来,加上 IP 、端口,组装成完整网址,然后迅雷批量下载还方便一些。
    guyeu
        5
    guyeu  
       2021-04-19 16:57:09 +08:00
    @GM #4 为啥迅雷批量下载能规避限速的问题呢
    GM
        6
    GM  
       2021-04-19 17:14:28 +08:00
    @guyeu 也不一定要用迅雷,我说用迅雷只是举个例子,你完全可以用多台虚拟机进行 wget
    ik
    &nbs;   7
    ik  
       2021-04-19 17:34:35 +08:00 via iPhone
    我能想到的也是 http 方便点, 配合 aria2 多线程拖,限速的问题可以套个 cdn,例如 cf(也许还要加一些魔法)
    ik
        8
    ik  
       2021-04-19 17:37:39 +08:00 via iPhone
    @ik 魔法是指 cf 自选 ip
    doyel
        9
    doyel  
       2021-04-19 17:42:29 +08:00
    rsync 本身并不适合用来同步单个超大文件。。。
    killva4624
        10
    killva4624  
       2021-04-19 19:19:48 +08:00
    换个思路吧,服务器 A 上生成文件列表,然后切成几个文件,分发给不同的 IP 去下载( rsync 可以从文件列表里读下载文件。)
    Licsber
        11
    Licsber  
       2021-04-19 19:44:12 +08:00
    /t/737124

    很早提问过了 好像不太行
    herts
        12
    herts  
       2021-04-20 00:13:28 +08:00 via Android
    2T/10G=200 个,
    peaceful123
        13
    peaceful123  
       2021-04-20 09:52:55 +08:00
    可以先压缩再传,另外你考虑了服务器 A 的带宽限制吗,还有服务器 A 上有其它服务在运行吗,要注意不要因为带宽占满问题,影响其它服务。下载方法的话,太多了,需要考虑断点续传,因为文件太大了。
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     3505 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 30ms UTC 00:12 PVG 08:12 LAX 16:12 JFK 19:12
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86