使用Lsyncd同步本地文件夹
场景
主机挂载了分布式文件系统,由于需要更换分布式文件系统,需要将分布式文件系统内2T的数据拷贝到主机本地,并实现增量同步。试了几种工具,感觉还是lsyncd最简单,最适合本地文件夹之间的增量同步,甚至可以做到实时同步。
具体步骤
1.安装lsyncd,修改inotify触发机制监控的文件数。
yum install lsyncd
echo fs.inotify.max_user_watches=50000000 >> /etc/sysctl.conf
sysctl -p
如果fs.inotify.max_user_watches值不够大,会报错:
Fri Aug 14 15:06:27 2020 Error: Terminating since out of inotify watches.
Consider increasing /proc/sys/fs/inotify/max_user_watches
2.编辑/etc/lsyncd.conf,内容如下:
settings {statusFile = "/var/log/lsyncd/lsyncd.stat",statusInterval = 1,logfile ="/var/log/lsyncd/lsyncd.log",
}sync{default.rsync,source = "/src",target = "/dst",delay = 300,rsync = {bwlimit = 512,}
}
整个配置文件分为两部分,settings为全局变量,可以有多个sync,sync之间是互相独立的,每个sync都有不同的源或目的文件夹。
statusFile记录了Inotify和具体同步的文件夹。sync有那么几种模式,本地文件夹之间同步可以选择default.direct或default.rsync。delay=300表示当src文件夹内容进行了修改,300秒之后开始同步到dst文件夹,delay值默认是15秒,可以根据需求调整。bwlimit=512表示同步的最大带宽为512kb/s,这是rsync的一个参数,所以被包含在rsync内。
3.创建文件夹/var/log/lsyncd,/dst。
4.启动lsyncd。
注意
如果数据量很大,比如T级,lsyncd的启动时间会比较长,如下图日志所示,等了半小时才开始同步数据。最后,对于这种工具,根据工作需要即学即用就行。
使用Lsyncd同步本地文件夹相关推荐
- igs无法分配驱动器映射表_如何同步本地文件到网络驱动器/NAS?
在我们的生活中,有多种原因促使我们需要将文件夹同步到(网络驱动器)共享文件夹或NAS.例如,想要脱机查看先前可用的文件夹.同步文件夹的作用:自动保存两个或多个相同的文件夹,并将所有更改的文件夹从源目 ...
- 使用Git将本地文件夹同步至github
初次通过git将本地文件夹同步至github仓库,记录过程以作总结. 第一部分分步骤描述操作及界面,第二部分记录遇到的问题及参考的解决方法. 一.操作过程 Step 1 创建新仓库 在Github上创 ...
- outlook邮箱邮件与企业邮箱同步(outlook本地文件夹邮件,web邮箱里没有)
用惯了outlook2010, 问题:今天将邮件放到自定义文件夹后,发现在web邮箱中看不到邮件了.不能同步到企业邮箱. 解决忙了一天,才知道是账户类型问题,pop3类型,只下载不上传.所以outlo ...
- 群晖增量同步Linux文件夹,用自定义脚本实现群晖NAS中本地文件夹之间的增量同步复制...
用自定义脚本实现群晖NAS中本地文件夹之间的增量同步复制 2021-02-21 15:39:44 60点赞 646收藏 52评论 使用情景:群晖DS918+,两块12T RAID1存重要数据,1块2T ...
- linux 文件夹同步备份,SyncToy实现本地文件夹同步备份
SyncToy实现本地文件夹同步备份 一.下载SyncToy SyncToy 2.1是一个免费的应用程序,它可以同步文件和文件夹到不同的位置.典型用途包括共享文件,如照片.与其他计算机和创建文件和文件 ...
- Windows下配置Git连接上github, 并将本地文件夹同步(加入了个人注释)
默认条件: 安装好了Git (在虚拟环境/相关环境下,打出git进行检验) 拥有Github账号 1. 检查本机是否有ssh key设置,打开Git bash客户端(就是powershell): $ ...
- linux+ftp+同步文件夹,linux – 使用lftp将本地文件夹与ftp文件夹同步的语法?
我想将两个文件夹相互同步.它应该有两种方式,始终保持文件夹最新(我使用常规cronjob).但是,首先我没有让双向文件传输工作(它只是从ftp下载而不是相反). 其次,它从ftp下载整个内容,即使已经 ...
- Linux通过lftp反向镜像实现本地文件夹同步到远程FTP服务器
同步脚本 HOST="ip:port" # 远程FTP服务器IP和端口 USER="username" # 登录远程FTP服务器帐号 PASS="us ...
- 服务器文件夹共享到本地,云服务器共享本地文件夹
云服务器共享本地文件夹 内容精选 换一换 当您成功创建私有镜像后,镜像的状态为"正常",您可以使用该镜像创建服务器实例或云硬盘,也可以将镜像共享给其他帐号,或者复制镜像到其他区域. ...
最新文章
- 两个数组的交集 II
- 线程池的介绍及简单实现
- 数据结构 结构的声明 一个结构作为另一个结构的成员 单向链表的实现 双向链表的实现
- datatables隐藏列设置及获取隐藏列的值
- java输入行数打印菱形_JAVA题,输入行数,输入列数,输出一个菱形
- 【Calcite】SQL 形式化语言——关系代数
- 【零基础学Java】—Map集合概述(四十三)
- Linux使用fsck修复文件系统
- 微信读书App来了 小伙伴们快去占榜吧
- java中的枚举类型
- 关于Mysql5.5在关键字方面的变化
- mysql 查询结果导出文件并导入文件到数据库
- python画图代码讲解_python画图例子代码
- 西门子,欧姆龙,施耐德PLC通信电缆制作图
- Android自定义一个对话框,属于自己的Android对话框(Dialog)自定义集合
- w ndows7怎么设置打印机,windows7中如何设置打印机纸张大小 以241-2纸张为例
- caffe学习之conver_imageset.bin的使用方法,caffe下图片转lmdb格式类型数据总结
- 第五回:样式色彩秀芳华
- ReactNative解决方案研究
- ceoi 2017 One-Way Streets
热门文章
- mysql常见的错误代码
- 【网络安全】价值上万的机构培训教程,对标大厂岗位要求,学完直接就业
- 第48讲 第49讲--动态定位单元格区域1-End属性、动态定位单元格区域2、3-Currentregion UsedRange
- java计算机毕业设计校园便利店信息系统开发源代码+数据库+系统+lw文档
- 远程办公之怎样在外网登录在线答题网站
- Windows和Ubuntu双系统Ubuntu闪屏解决办法
- 小程序 triggerEvent 使用
- 基于FPGA的FIR滤波器的实现(5)— 并行结构FIR滤波器的FPGA代码实现
- Arcgis更换布局模板_Typecho 主题更换及优秀主题推荐
- ARFoundation系列讲解 - 55 拍照并且保存到系统相册