Python while true实现爬虫定时任务


Posted in Python onJune 08, 2020

记得以前的windows 任务定时是可以的正常使用的,今天试了下,发现不能正常使用了,任务计划总是挂起。

接下来记录下python 爬虫定时任务的几种解决方法。

今天是第一篇,后面会陆续更新。

首先最容易的是while true死循环挂起,上代码

import osimport timeimport sysfrom datetime import datetime, timedelta
def One_Plan():
   # 设置启动周期
   Second_update_time = 24 * 60 * 60
   
  # 当前时间
  now_Time = datetime.now()
  # 设置 任务启动时间
  plan_Time = now_Time.replace(hour=9, minute=0, second=0, microsecond=0) 
  # 设置差值,-1 day, 21:48:53.246576,类似于这样
  # time.sleep()需要传入int,所以下面使用.total_seconds() 
  # 主要用来计算差值,返回int,具体功能可以自行查阅相关资料
  delta = plan_Time - now_Time
  first_plan_Time = delta.total_seconds() % Second_update_time
  print("距离第一次执行需要睡眠%d秒" % first_plan_Time)
  return first_plan_Time

# while Ture代码块,挂起程序,睡眠时间结束后调用函数名进行执行
while True:

  s1 = One_Plan()
  time.sleep(s1)
  # 下面这里是自己定义的函数,想跑代码的可以换成hellow world函数或者注释掉这行测试下
  exe_file(D_list)
  print("正在执行首次更新程序")

个人感觉使用这种方式进行定时计划的启动如果为单个程序,并且一天执行一次的话没什么问题,如果要考虑到一天执行多个任务并且一天需要执行多次,短板一下就凸显出来了,

在工作的情况中还需要考虑到很多因素,比如爬虫程序需要在晚上12点和早上6点,9点,下午3点执行四次,并且需要同时执行4个爬虫,还需要考虑到网络是否稳定,如果程序挂掉该怎么处理等等因素

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
python中使用百度音乐搜索的api下载指定歌曲的lrc歌词
Jul 18 Python
python3+selenium实现qq邮箱登陆并发送邮件功能
Jan 23 Python
python智联招聘爬虫并导入到excel代码实例
Sep 09 Python
Python基于WordCloud制作词云图
Nov 29 Python
Python操作redis和mongoDB的方法
Dec 19 Python
Anaconda+vscode+pytorch环境搭建过程详解
May 25 Python
详解pytorch中squeeze()和unsqueeze()函数介绍
Sep 03 Python
Python 解析xml文件的示例
Sep 29 Python
PyQt5的QWebEngineView使用示例
Oct 20 Python
Python实现我的世界小游戏源代码
Mar 02 Python
python 如何用urllib与服务端交互(发送和接收数据)
Mar 04 Python
JAVA SpringMVC实现自定义拦截器
Mar 16 Python
python 实现rolling和apply函数的向下取值操作
Jun 08 #Python
基于python计算滚动方差(标准差)talib和pd.rolling函数差异详解
Jun 08 #Python
Python实现查找数据库最接近的数据
Jun 08 #Python
python numpy库np.percentile用法说明
Jun 08 #Python
python thrift 实现 单端口多服务的过程
Jun 08 #Python
Python astype(np.float)函数使用方法解析
Jun 08 #Python
python opencv 实现读取、显示、写入图像的方法
Jun 08 #Python
You might like
php面向对象全攻略 (十四) php5接口技术
2009/09/30 PHP
php静态文件返回304技巧分享
2015/01/06 PHP
php继承中方法重载(覆盖)的应用场合
2015/02/09 PHP
php无限分类使用concat如何实现
2015/11/05 PHP
深入分析PHP设计模式
2020/06/15 PHP
JavaScript Event学习第十章 一些可替换的事件对
2010/02/10 Javascript
js控制表单不能输入空格的小例子
2013/11/20 Javascript
jQuery实现手机号码输入提示功能实例
2015/04/30 Javascript
javascript操作表格排序实例分析
2015/05/06 Javascript
Javascript中的Prototype到底是什么
2016/02/16 Javascript
Ionic+AngularJS实现登录和注册带验证功能
2017/02/09 Javascript
Express URL跳转(重定向)的实现方法
2017/04/07 Javascript
javascript简单链式调用案例分析
2017/05/10 Javascript
微信小程序 密码输入(源码下载)
2017/06/27 Javascript
每天学点Vue源码之vm.$mount挂载函数
2019/03/11 Javascript
React冒泡和阻止冒泡的应用详解
2020/08/18 Javascript
简单介绍Python中的RSS处理
2015/04/13 Python
在Lighttpd服务器中运行Django应用的方法
2015/07/22 Python
Django csrf 验证问题的实现
2018/10/09 Python
对python使用telnet实现弱密码登录的方法详解
2019/01/26 Python
python爬虫模拟浏览器访问-User-Agent过程解析
2019/12/28 Python
python实现简单坦克大战
2020/03/27 Python
pytorch快速搭建神经网络_Sequential操作
2020/06/17 Python
python中pathlib模块的基本用法与总结
2020/08/17 Python
利用Python中的Xpath实现一个在线汇率转换器
2020/09/09 Python
python爬虫搭配起Bilibili唧唧的流程分析
2020/12/01 Python
关于解决iframe标签嵌套问题的解决方法
2020/03/04 HTML / CSS
html5 datalist 选中option选项后的触发事件
2020/03/05 HTML / CSS
PAUL HEWITT手表美国站:德国北部时尚生活配饰品牌,船锚元素
2017/11/18 全球购物
财务会计自荐信范文
2014/02/21 职场文书
群众路线教育党课主持词
2014/04/01 职场文书
物流专业自荐信
2014/05/23 职场文书
2014国庆节幼儿园亲子活动方案
2014/09/16 职场文书
酒桌上的开场白
2015/06/01 职场文书
独生子女证明范本
2015/06/19 职场文书
公司晚宴祝酒词
2015/08/11 职场文书