python+rsync精确同步指定格式文件


Posted in Python onAugust 29, 2019

本文实例为大家分享了python+rsync精确同步指定格式文件的具体代码,供大家参考,具体内容如下

# coding: utf-8
#!/usr/bin/env python
'''
updatedb更新本地服务器指定目录/home/upload/de locate.dbz数据库
然后locate命令正则查找符合条件的文件并将文件名输出到locate.src
通过paramiko模块得到远程服务器符合条件的文件并将文件名输出到locate.dst
比较这两个文件得到locate.diff,最好rsync命令同步locate.diff列表中的文件
到远程服务器
'''
import paramiko
import commands
import os
import logging
logging.basicConfig(level=logging.DEBUG,
          format='%(asctime)s %(filename)s[line:%(lineno)d] %(levelname)s %(message)s',
          datefmt='%Y-%m-%d %H:%M:%S',
          filename='/var/log/upload_to_chengdu.log',
          filemode='a')
logging.info("###################################################################")
hostname = '8.8.8.8'
username = 'username'
password = 'password'
port = 22
locate_lists = ['/tmp/locate.src', '/tmp/locate.dst', '/tmp/locate.diff']
dict_path = {'locate_lists': locate_lists, 'dst_db': '/tmp/locate.db',
       'src_db': '/tmp/locate.db', 'dst_path': '/logs/rsync_log/',
       'src_path': '/home/upload/', 'passwd_file': '/etc/rsync.pas'}
def check_file():
  for l in dict_path['locate_lists']:
    if os.path.exists(l):
      commands.getstatusoutput('sudo rm %s' % l)
def get_dst_list():
  s = paramiko.SSHClient()
  s.set_missing_host_key_policy(paramiko.AutoAddPolicy())
  s.connect(hostname=hostname, port=port, username=username, password=password)
  cmd_create = "sudo updatedb -U %s -o %s && sudo locate -d %s --regex '.*[0-9]{4}([-]{0,1}[0-9]{2}){2}\..*gz$' >>%s" % (
    dict_path['dst_path'], dict_path['dst_db'], dict_path['dst_db'], dict_path['locate_lists'][1])
  cmd_delete = 'sudo rm ' + dict_path['locate_lists'][1]
  stdin, stdout, stderr = s.exec_command(cmd_create)
  # print stdout.read()
  try:
    t = paramiko.Transport((hostname, port))
    t.connect(username=username, password=password)
    sftp = paramiko.SFTPClient.from_transport(t)
    sftp.get(dict_path['locate_lists'][1], dict_path['locate_lists'][1])
    t.close()
  except Exception, e:
    print e
  stdin, stdout, stderr = s.exec_command(cmd_delete)
  s.close()
def get_src_list():
  cmd = "sudo updatedb -U %s -o %s && sudo locate -d %s --regex '.*[0-9]{4}([-]{0,1}[0-9]{2}){2}\..*gz$' >>%s" % (
    dict_path['src_path'], dict_path['src_db'], dict_path['src_db'], dict_path['locate_lists'][0])
  commands.getstatusoutput(cmd)
def cmp_diff():
  f1 = open(dict_path['locate_lists'][0], 'r')
  f2 = open(dict_path['locate_lists'][1], 'r')
  f3 = open(dict_path['locate_lists'][2], 'a')
  x = f1.readlines()
  y = f2.readlines()
  f1.close()
  f2.close()
  for i in x:
    j = dict_path['dst_path'] + i[13:]
    if j not in y:
      f3.writelines(i)
  f3.close()
def rsync_file():
  f = open(dict_path['locate_lists'][2], 'r')
  for i in f.readlines():
    cmd = 'cd %s && sudo rsync -Rvz %s upload@%s::aliyun_log --password-file=%s' % (
      dict_path['src_path'], i.strip('\n')[13:], hostname, dict_path['passwd_file'])
    logging.info(cmd)
    commands.getstatusoutput(cmd)
  f.close()
def del_locate_file():
  cmd = 'sudo rm {%s,%s,%s}' % (dict_path['locate_lists'][1], dict_path['locate_lists'][0], dict_path['locate_lists'][2])
  commands.getstatusoutput(cmd)
if __name__ == '__main__':
  check_file()
  get_dst_list()
  get_src_list()
  cmp_diff()
  rsync_file()
  del_locate_file()

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python与shell的3种交互方式介绍
Apr 11 Python
Python实现豆瓣图片下载的方法
May 25 Python
Python 逐行分割大txt文件的方法
Oct 10 Python
Python3多线程爬虫实例讲解代码
Jan 05 Python
python实现Adapter模式实例代码
Feb 09 Python
python之super的使用小结
Aug 13 Python
python使用pip安装模块出现ReadTimeoutError: HTTPSConnectionPool的解决方法
Oct 04 Python
python实现交并比IOU教程
Apr 16 Python
pycharm 实现本地写代码,服务器运行的操作
Jun 08 Python
python 基于pygame实现俄罗斯方块
Mar 02 Python
浅谈Python数学建模之整数规划
Jun 23 Python
 Python 中 logging 模块使用详情
Mar 03 Python
django-rest-swagger对API接口注释的方法
Aug 29 #Python
Python3视频转字符动画的实例代码
Aug 29 #Python
scikit-learn线性回归,多元回归,多项式回归的实现
Aug 29 #Python
python中property属性的介绍及其应用详解
Aug 29 #Python
django-rest-swagger的优化使用方法
Aug 29 #Python
使用虚拟环境打包python为exe 文件的方法
Aug 29 #Python
python实现最大优先队列
Aug 29 #Python
You might like
使用PHP和JavaScript判断请求是否来自微信内浏览器
2015/08/18 PHP
PHP抽象类与接口的区别详解
2019/03/21 PHP
客户端静态页面玩分页
2006/06/26 Javascript
Jquery Uploadify多文件上传带进度条且传递自己的参数
2013/08/28 Javascript
原生JavaScript+LESS实现瀑布流
2014/12/12 Javascript
JavaScript中遍历对象的property的3种方法介绍
2014/12/30 Javascript
基于ajax实现文件上传并显示进度条
2015/08/03 Javascript
javascript实现平滑无缝滚动
2020/08/09 Javascript
常用原生js自定义函数总结
2016/11/20 Javascript
javascript中apply/call和bind的使用
2017/02/15 Javascript
JavaScript中in和hasOwnProperty区别详解
2017/08/04 Javascript
微信小程序实现顶部普通选项卡效果(非swiper)
2020/06/19 Javascript
探索Vue高阶组件的使用
2018/01/08 Javascript
基于jquery实现左右上下移动效果
2018/05/02 jQuery
vue表单验证你真的会了吗?vue表单验证(form)validate
2019/04/07 Javascript
layui实现tab的添加拒绝重复的方法
2019/09/04 Javascript
在Vue 中获取下拉框的文本及选项值操作
2020/08/13 Javascript
vue + el-form 实现的多层循环表单验证
2020/11/25 Vue.js
echarts饼图各个板块之间的空隙如何实现
2020/12/01 Javascript
Python运用于数据分析的简单教程
2015/03/27 Python
Python备份目录及目录下的全部内容的实现方法
2016/06/12 Python
浅谈python新手中常见的疑惑及解答
2016/06/14 Python
Python实现树莓派WiFi断线自动重连的实例代码
2017/03/16 Python
Python爬虫实现百度图片自动下载
2018/02/04 Python
Tensorflow之Saver的用法详解
2018/04/23 Python
Python开发网站目录扫描器的实现
2019/02/21 Python
详解基于Jupyter notebooks采用sklearn库实现多元回归方程编程
2020/03/25 Python
python中upper是做什么用的
2020/07/20 Python
施华洛世奇巴西官网:SWAROVSKI巴西
2019/12/03 全球购物
门卫岗位职责
2013/11/15 职场文书
电子商务专员岗位职责
2013/12/11 职场文书
十佳青年个人事迹材料
2014/01/28 职场文书
九年级政治教学反思
2014/02/06 职场文书
2015年学校教研室主任工作总结
2015/07/20 职场文书
导游词之云南丽江-泸沽湖
2019/09/26 职场文书
python代码实现扫码关注公众号登录的实战
2021/11/01 Python