真正的inotify+rsync实时同步,真正的增量备份,彻底告别同步慢(推荐)
[ 2017-08-26 13:36:15 | 作者: admin ]
p.s. rsyns在非默认SSH端口 http://blog.xg98.com/article.asp?id=2447
需要参考:http://douya.blog.51cto.com/6173221/1761314/
[转帖]http://www.ttlsa.com/web/let-infotify-rsync-fast/
背景
我们公司在用inotify+rsync做实时同步,来解决分布式集群文件一致性的问题。但当web文件越来越多(百万级数量html,jpg等小 文件),同步就越来越慢,根本做不到实时,按照网上的调优方法都尝试过,问题根本没有解决。经过我一翻细致研究,终于把慢的核心问题研究明白,先总结一句 inotifywait响应不会有延迟,rsync也很快。大家同样有慢的烦恼,那是因为网上的inotify+rsync的教程都是坑。下面我们来分 析。
...
阅读全文…
需要参考:http://douya.blog.51cto.com/6173221/1761314/
[转帖]http://www.ttlsa.com/web/let-infotify-rsync-fast/
背景
我们公司在用inotify+rsync做实时同步,来解决分布式集群文件一致性的问题。但当web文件越来越多(百万级数量html,jpg等小 文件),同步就越来越慢,根本做不到实时,按照网上的调优方法都尝试过,问题根本没有解决。经过我一翻细致研究,终于把慢的核心问题研究明白,先总结一句 inotifywait响应不会有延迟,rsync也很快。大家同样有慢的烦恼,那是因为网上的inotify+rsync的教程都是坑。下面我们来分 析。
...
阅读全文…
inotify-tools的inotifywait工具用exclude 和 fromfile 排除指定后缀文件
[ 2017-08-25 15:36:41 | 作者: admin ]
今天打算使用 inotify-tool 来对线上程序文件进行监控, 因为有些目录是缓存目录, 所以要进行排除, 同时还要排除一些指定的后缀的文件, 比如 .swp 等
需要递归监控的目录为: /tmp/inotify-test-dir
需要排除的目录为: /tmp/inotify-test-dir/cache
需要排除特定后缀文件: .log .swp 文件
根据网上看的一些资料, 我先做了如下尝试:
/usr/local/bin/inotifywait -mr -e close_write,modify,create,move,delete –exclude ^.*\.(log|swp)$ –exclude “^/tmp/inotify-test-dir/cache” –timefmt %Y/%m/%d %H:%M –format %T %w%f %e /tmp/inotify-test-dir
...
阅读全文…
需要递归监控的目录为: /tmp/inotify-test-dir
需要排除的目录为: /tmp/inotify-test-dir/cache
需要排除特定后缀文件: .log .swp 文件
根据网上看的一些资料, 我先做了如下尝试:
/usr/local/bin/inotifywait -mr -e close_write,modify,create,move,delete –exclude ^.*\.(log|swp)$ –exclude “^/tmp/inotify-test-dir/cache” –timefmt %Y/%m/%d %H:%M –format %T %w%f %e /tmp/inotify-test-dir
...
阅读全文…
CentOS 6.5上inotify-tools使用方法
[ 2017-08-25 14:54:14 | 作者: admin ]
来源:http://blog.csdn.net/god_wot/article/details/50448814
Linux内核从2.6.13开始,引入了inotify机制。通过intofity机制,能够对文件系统的变化进行监控,如对文件进行创建、删除、修改等操作,可以及时通知应用程序进行相关事件的处理。这种响应处理机制,避免了频繁的文件轮询任务,提高了任务的处理效率。
一、检查系统内核版本
二、检查系统是否支持inotify
阅读全文…
Linux内核从2.6.13开始,引入了inotify机制。通过intofity机制,能够对文件系统的变化进行监控,如对文件进行创建、删除、修改等操作,可以及时通知应用程序进行相关事件的处理。这种响应处理机制,避免了频繁的文件轮询任务,提高了任务的处理效率。
一、检查系统内核版本
[root@iZ25w1kdi5zZ ~]# uname -a
Linux iZ25w1kdi5zZ 2.6.32-431.23.3.el6.x86_64 #1 SMP Thu Jul 31 17:20:51 UTC 2014 x86_64 x86_64 x86_64 GNU/Linux
Linux iZ25w1kdi5zZ 2.6.32-431.23.3.el6.x86_64 #1 SMP Thu Jul 31 17:20:51 UTC 2014 x86_64 x86_64 x86_64 GNU/Linux
二、检查系统是否支持inotify
[root@iZ25w1kdi5zZ
...阅读全文…
CentOS 6.5上inotify-tools使用方法
[ 2017-07-24 13:40:33 | 作者: admin ]
文章来源:http://blog.csdn.net/god_wot/article/details/50448814
Linux内核从2.6.13开始,引入了inotify机制。通过intofity机制,能够对文件系统的变化进行监控,如对文件进行创建、删除、修改等操作,可以及时通知应用程序进行相关事件的处理。这种响应处理机制,避免了频繁的文件轮询任务,提高了任务的处理效率。
一、检查系统内核版本
二、检查系统是否支持inotify [code][/code]...
阅读全文…
Linux内核从2.6.13开始,引入了inotify机制。通过intofity机制,能够对文件系统的变化进行监控,如对文件进行创建、删除、修改等操作,可以及时通知应用程序进行相关事件的处理。这种响应处理机制,避免了频繁的文件轮询任务,提高了任务的处理效率。
一、检查系统内核版本
[root@iZ25w1kdi5zZ ~]# uname -a
Linux iZ25w1kdi5zZ 2.6.32-431.23.3.el6.x86_64 #1 SMP Thu Jul 31 17:20:51 UTC 2014 x86_64 x86_64 x86_64 GNU/Linux
Linux iZ25w1kdi5zZ 2.6.32-431.23.3.el6.x86_64 #1 SMP Thu Jul 31 17:20:51 UTC 2014 x86_64 x86_64 x86_64 GNU/Linux
二、检查系统是否支持inotify [code][/code]...
阅读全文…
通过rsync+inotify实现数据的实时备份,增量备份(这个教程的增量部分是假,实际为全量扫描)和同步
[ 2017-07-16 22:56:47 | 作者: admin ]
推荐使用这个教程,真正是增量备份的方法: http://blog.xg98.com/article.asp?id=2446
[转]http://ixdba.blog.51cto.com/2895551/580280/
在前面的博文中,我讲到过利用rsync实现数据的镜像和备份,但是要实现数据的实时备份,单独靠rsync还不能实现,本文就讲述下如何实现数据的实时备份。
一、rsync的优点与不足
与传统的cp、tar备份方式相比,rsync具有安全性高、备份迅速、支持增量备份等优点,通过rsync可以解决对实时性要求不高的数据备份需求,例如定期的备份文件服务器数据到远端服务器,对本地磁盘定期做数据镜像等。
随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足,首先,rsync同步数据时,需要扫描所有文件后进...
阅读全文…
[转]http://ixdba.blog.51cto.com/2895551/580280/
在前面的博文中,我讲到过利用rsync实现数据的镜像和备份,但是要实现数据的实时备份,单独靠rsync还不能实现,本文就讲述下如何实现数据的实时备份。
一、rsync的优点与不足
与传统的cp、tar备份方式相比,rsync具有安全性高、备份迅速、支持增量备份等优点,通过rsync可以解决对实时性要求不高的数据备份需求,例如定期的备份文件服务器数据到远端服务器,对本地磁盘定期做数据镜像等。
随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足,首先,rsync同步数据时,需要扫描所有文件后进...
阅读全文…
centos6.6 在 dell R720 安装DELL OMSA
[ 2017-07-11 17:00:31 | 作者: admin ]
p.s.最简单的方法是使用快速安装脚本,自动下载与安装,将下面代码保存为 DELL_OMSA.sh,安装完后用https:/*:1311访问
阅读全文…
#!/bin/bash
#
# Dell OpenIPMI & OpenManage Installer
# Revision: July 22nd 2011
#
HOST=`hostname`
D=`date '+%d%m%y'`
echo "Dell OpenIPMI & OpenManage Automatic Installer"
echo "Revision: July 22nd 2011"
echo
echo "Installing Dell Yum Repository..."
echo
wget -q -O - http://linux.dell.com/repo/hardware/latest/bootstrap.cgi | bash
...#
# Dell OpenIPMI & OpenManage Installer
# Revision: July 22nd 2011
#
HOST=`hostname`
D=`date '+%d%m%y'`
echo "Dell OpenIPMI & OpenManage Automatic Installer"
echo "Revision: July 22nd 2011"
echo
echo "Installing Dell Yum Repository..."
echo
wget -q -O - http://linux.dell.com/repo/hardware/latest/bootstrap.cgi | bash
阅读全文…
centos7下源码方式安装proftpd记录
[ 2017-07-04 09:45:06 | 作者: admin ]
p.s. 源码方式安装1.3.6之后发现根据网上的方法加入init.d,开启service一直失败,没有找到原因,只好先用原始方法启动和关闭proftpd
1、下载安装
2、编辑配置文件...
阅读全文…
1、下载安装
# cd /usr/local/src
# wget ftp://ftp.proftpd.org/distrib/source/proftpd-1.3.5.tar.gz
# tar xvfz proftpd-1.3.5.tar.gz
# cd proftpd-1.3.5
# ./configure --enable-nls --prefix=/usr/local/proftpd
# make
# make install
# wget ftp://ftp.proftpd.org/distrib/source/proftpd-1.3.5.tar.gz
# tar xvfz proftpd-1.3.5.tar.gz
# cd proftpd-1.3.5
# ./configure --enable-nls --prefix=/usr/local/proftpd
# make
# make install
2、编辑配置文件...
阅读全文…
CentOS7安装iptables防火墙
[ 2017-07-03 10:58:01 | 作者: admin ]
CentOS7默认的防火墙不是iptables,而是firewalle.
1、安装iptable iptable-service
2、禁用/停止自带的firewalld服务
3、设置现有规则
#查看iptables现有规则
...
阅读全文…
1、安装iptable iptable-service
#先检查是否安装了iptables
service iptables status
#安装iptables
yum install -y iptables
#升级iptables(安装的最新版本则不需要)
yum update iptables
#安装iptables-services
yum install iptables-services
service iptables status
#安装iptables
yum install -y iptables
#升级iptables(安装的最新版本则不需要)
yum update iptables
#安装iptables-services
yum install iptables-services
2、禁用/停止自带的firewalld服务
#停止firewalld服务
systemctl stop firewalld
#禁用firewalld服务
systemctl mask firewalld
systemctl stop firewalld
#禁用firewalld服务
systemctl mask firewalld
3、设置现有规则
#查看iptables现有规则
...
阅读全文…