python+rsync精确同步指定格式文件


Posted in Python onAugust 29, 2019

本文实例为大家分享了python+rsync精确同步指定格式文件的具体代码,供大家参考,具体内容如下

# coding: utf-8
#!/usr/bin/env python
'''
updatedb更新本地服务器指定目录/home/upload/de locate.dbz数据库
然后locate命令正则查找符合条件的文件并将文件名输出到locate.src
通过paramiko模块得到远程服务器符合条件的文件并将文件名输出到locate.dst
比较这两个文件得到locate.diff,最好rsync命令同步locate.diff列表中的文件
到远程服务器
'''
import paramiko
import commands
import os
import logging
logging.basicConfig(level=logging.DEBUG,
          format='%(asctime)s %(filename)s[line:%(lineno)d] %(levelname)s %(message)s',
          datefmt='%Y-%m-%d %H:%M:%S',
          filename='/var/log/upload_to_chengdu.log',
          filemode='a')
logging.info("###################################################################")
hostname = '8.8.8.8'
username = 'username'
password = 'password'
port = 22
locate_lists = ['/tmp/locate.src', '/tmp/locate.dst', '/tmp/locate.diff']
dict_path = {'locate_lists': locate_lists, 'dst_db': '/tmp/locate.db',
       'src_db': '/tmp/locate.db', 'dst_path': '/logs/rsync_log/',
       'src_path': '/home/upload/', 'passwd_file': '/etc/rsync.pas'}
def check_file():
  for l in dict_path['locate_lists']:
    if os.path.exists(l):
      commands.getstatusoutput('sudo rm %s' % l)
def get_dst_list():
  s = paramiko.SSHClient()
  s.set_missing_host_key_policy(paramiko.AutoAddPolicy())
  s.connect(hostname=hostname, port=port, username=username, password=password)
  cmd_create = "sudo updatedb -U %s -o %s && sudo locate -d %s --regex '.*[0-9]{4}([-]{0,1}[0-9]{2}){2}\..*gz$' >>%s" % (
    dict_path['dst_path'], dict_path['dst_db'], dict_path['dst_db'], dict_path['locate_lists'][1])
  cmd_delete = 'sudo rm ' + dict_path['locate_lists'][1]
  stdin, stdout, stderr = s.exec_command(cmd_create)
  # print stdout.read()
  try:
    t = paramiko.Transport((hostname, port))
    t.connect(username=username, password=password)
    sftp = paramiko.SFTPClient.from_transport(t)
    sftp.get(dict_path['locate_lists'][1], dict_path['locate_lists'][1])
    t.close()
  except Exception, e:
    print e
  stdin, stdout, stderr = s.exec_command(cmd_delete)
  s.close()
def get_src_list():
  cmd = "sudo updatedb -U %s -o %s && sudo locate -d %s --regex '.*[0-9]{4}([-]{0,1}[0-9]{2}){2}\..*gz$' >>%s" % (
    dict_path['src_path'], dict_path['src_db'], dict_path['src_db'], dict_path['locate_lists'][0])
  commands.getstatusoutput(cmd)
def cmp_diff():
  f1 = open(dict_path['locate_lists'][0], 'r')
  f2 = open(dict_path['locate_lists'][1], 'r')
  f3 = open(dict_path['locate_lists'][2], 'a')
  x = f1.readlines()
  y = f2.readlines()
  f1.close()
  f2.close()
  for i in x:
    j = dict_path['dst_path'] + i[13:]
    if j not in y:
      f3.writelines(i)
  f3.close()
def rsync_file():
  f = open(dict_path['locate_lists'][2], 'r')
  for i in f.readlines():
    cmd = 'cd %s && sudo rsync -Rvz %s upload@%s::aliyun_log --password-file=%s' % (
      dict_path['src_path'], i.strip('\n')[13:], hostname, dict_path['passwd_file'])
    logging.info(cmd)
    commands.getstatusoutput(cmd)
  f.close()
def del_locate_file():
  cmd = 'sudo rm {%s,%s,%s}' % (dict_path['locate_lists'][1], dict_path['locate_lists'][0], dict_path['locate_lists'][2])
  commands.getstatusoutput(cmd)
if __name__ == '__main__':
  check_file()
  get_dst_list()
  get_src_list()
  cmp_diff()
  rsync_file()
  del_locate_file()

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python xlrd读取excel日期类型的2种方法
Apr 28 Python
Python下载网络文本数据到本地内存的四种实现方法示例
Feb 05 Python
Python 通配符删除文件的实例
Apr 24 Python
Python排序算法之选择排序定义与用法示例
Apr 29 Python
75条笑死人的知乎神回复,用60行代码就爬完了
May 06 Python
tensorflow-gpu安装的常见问题及解决方案
Jan 20 Python
Keras自定义实现带masking的meanpooling层方式
Jun 16 Python
Python改变对象的字符串显示的方法
Aug 01 Python
Django admin组件的使用
Oct 24 Python
python3中celery异步框架简单使用+守护进程方式启动
Jan 20 Python
详解运行Python的神器Jupyter Notebook
Jun 03 Python
baselines示例程序train_cartpole.py的ImportError
May 20 Python
django-rest-swagger对API接口注释的方法
Aug 29 #Python
Python3视频转字符动画的实例代码
Aug 29 #Python
scikit-learn线性回归,多元回归,多项式回归的实现
Aug 29 #Python
python中property属性的介绍及其应用详解
Aug 29 #Python
django-rest-swagger的优化使用方法
Aug 29 #Python
使用虚拟环境打包python为exe 文件的方法
Aug 29 #Python
python实现最大优先队列
Aug 29 #Python
You might like
discuz论坛 用户登录 后台程序代码
2008/11/27 PHP
thinkphp3.0输出重复两次的解决方法
2014/12/19 PHP
基于PHP技术开发客服工单系统
2016/01/06 PHP
PHPMailer发送邮件
2016/12/28 PHP
PHP实现文件上传功能实例代码
2017/05/18 PHP
Avengerls vs KG BO3 第二场2.18
2021/03/10 DOTA
javascript 关于# 和 void的区别分析
2009/10/26 Javascript
ASP小贴士/ASP Tips javascript tips可以当桌面
2009/12/10 Javascript
js类型转换与引用类型详解(Boolean_Number_String)
2014/03/07 Javascript
javascript中的return和闭包函数浅析
2014/06/06 Javascript
node.js中的定时器nextTick()和setImmediate()区别分析
2014/11/26 Javascript
javascript设计简单的秒表计时器
2020/09/05 Javascript
浅谈window.onbeforeunload() 事件调用ajax
2016/06/29 Javascript
全面解析标签页的切换方式
2016/08/21 Javascript
JS图片放大效果简单实现代码
2016/09/08 Javascript
Angular2 Service实现简单音乐播放器服务
2017/02/24 Javascript
JavaScript简单实现合并两个Json对象的方法示例
2017/10/16 Javascript
angular中ui calendar的一些使用心得(推荐)
2017/11/03 Javascript
JS函数节流和函数防抖问题分析
2017/12/18 Javascript
js中的 || 与 && 运算符详解
2018/05/24 Javascript
Angular4 组件通讯方法大全(推荐)
2018/07/12 Javascript
jquery分页优化操作实例分析
2019/08/23 jQuery
使用Node.js在深度学习中做图片预处理的方法
2019/09/18 Javascript
在vue中配置不同的代理同时访问不同的后台操作
2020/09/11 Javascript
[08:54]《一刀刀一天》之DOTA全时刻18:十九支奔赴西雅图队伍全部出炉
2014/06/04 DOTA
python模拟enum枚举类型的方法小结
2015/04/30 Python
Laravel+Dingo/Api 自定义响应的实现
2019/02/17 Python
详解Numpy中的数组拼接、合并操作(concatenate, append, stack, hstack, vstack, r_, c_等)
2019/05/27 Python
pandas 数据索引与选取的实现方法
2019/06/21 Python
python实现文本进度条 程序进度条 加载进度条 单行刷新功能
2019/07/03 Python
python 实现二维列表转置
2019/12/02 Python
PyCharm2019 安装和配置教程详解附激活码
2020/07/31 Python
团员的自我评价
2013/12/01 职场文书
党员批评与自我批评发言稿
2014/10/14 职场文书
护士个人总结范文
2015/02/13 职场文书
入党宣誓仪式主持词
2015/06/29 职场文书