scrapyd schedule.json setting 传入多个值问题


Posted in Javascript onAugust 07, 2019

使用案例:

import requests
adder='http://127.0.0.1:6800'
data = {
    'project':'v1',
    'version':'12379',
    'setting':['ROBOTSTXT_OBEY=True','CONCURRENT_REQUESTS=32']
}
resp = requests.post(adder,data=data)

问题解决思路:

版本1.2文档中:

◦setting (string, optional) - a Scrapy setting to use when running the spider

setting 是字符串,那么多个字符串该如何呢。

通过源码 site-packages/scrapyd/webservice.py

class Schedule(WsResource):
  def render_POST(self, txrequest):
    args = native_stringify_dict(copy(txrequest.args), keys_only=False)
    settings = args.pop('setting', [])
    settings = dict(x.split('=', 1) for x in settings)
    args = dict((k, v[0]) for k, v in args.items())
    project = args.pop('project')
    spider = args.pop('spider')
    version = args.get('_version', '')
    spiders = get_spider_list(project, version=version)
    if not spider in spiders:
      return {"status": "error", "message": "spider '%s' not found" % spider}
    args['settings'] = settings
    jobid = args.pop('jobid', uuid.uuid1().hex)
    args['_job'] = jobid
    self.root.scheduler.schedule(project, spider, **args)
    return {"node_name": self.root.nodename, "status": "ok", "jobid": jobid}

 可以发现 setting 在这里是list对象,且里面元素是字符,字符串必须包含=符号。

以此我们尝试传入setting:['DEBUG=True','HOST_NAME=axdda']

结果真的可以。对于比较复杂的设置,下次有需求再研究吧。

总结

以上所述是小编给大家介绍的scrapyd schedule.json setting 传入多个值问题,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!

Javascript 相关文章推荐
web的各种前端打印方法之jquery打印插件jqprint实现网页打印
Jan 09 Javascript
使用jQuery快速解决input中placeholder值在ie中无法支持的问题
Jan 02 Javascript
一些老手都不一定知道的JavaScript技巧
May 06 Javascript
js判断变量初始化的三种形式及推荐用的形式
Jul 22 Javascript
如何在node的express中使用socket.io
Dec 15 Javascript
js中的事件捕捉模型与冒泡模型实例分析
Jan 10 Javascript
无循环 JavaScript(map、reduce、filter和find)
Apr 08 Javascript
JavaScript基本语法_动力节点Java学院整理
Jun 26 Javascript
JavaScript变量提升和严格模式实例分析
Jan 27 Javascript
监听element-ui table滚动事件的方法
Mar 26 Javascript
Vue路由权限控制解析
Nov 09 Javascript
Selenium执行JavaScript脚本的方法示例
Dec 31 Javascript
Node.js在图片模板上生成二维码图片并附带底部文字说明实现详解
Aug 07 #Javascript
微信小程序引入Vant组件库过程解析
Aug 06 #Javascript
Vue数据绑定实例写法
Aug 06 #Javascript
Vue代码整洁之去重方法整理
Aug 06 #Javascript
VUE写一个简单的表格实例
Aug 06 #Javascript
VUE前后端学习tab写法实例
Aug 06 #Javascript
Vue路由前后端设计总结
Aug 06 #Javascript
You might like
php access 数据连接与读取保存编辑数据的实现代码
2010/05/12 PHP
mac下使用brew配置环境的步骤分享
2011/05/23 PHP
php简单实现快速排序的方法
2015/04/04 PHP
Thinkphp单字母函数使用指南
2016/05/08 PHP
PHP屏蔽关键字实现方法
2016/11/17 PHP
PHP实现表单提交数据的验证处理功能【防SQL注入和XSS攻击等】
2017/07/21 PHP
PHP实现转盘抽奖算法分享
2020/04/15 PHP
SWFObject Flash js调用类
2008/07/08 Javascript
Java 正则表达式学习总结和一些小例子
2012/09/13 Javascript
JavaScript中Math对象方法使用概述
2014/01/02 Javascript
推荐4个原生javascript常用的函数
2015/01/12 Javascript
nodejs 整合kindEditor实现图片上传
2015/02/03 NodeJs
实例讲解Jquery中隐藏hide、显示show、切换toggle的用法
2016/05/13 Javascript
微信js-sdk分享功能接口常用逻辑封装示例
2016/10/13 Javascript
使用async、enterproxy控制并发数量的方法详解
2018/01/02 Javascript
从零开始实现Vue简单的Toast插件
2018/12/03 Javascript
[01:33]DOTA2上海特级锦标赛 LIQUID战队完整宣传片
2016/03/16 DOTA
解决windows下Sublime Text 2 运行 PyQt 不显示的方法分享
2014/06/18 Python
Python首次安装后运行报错(0xc000007b)的解决方法
2016/10/18 Python
自学python的建议和周期预算
2019/01/30 Python
python 遍历pd.Series的index和value
2019/11/26 Python
python+appium+yaml移动端自动化测试框架实现详解
2020/11/24 Python
Python实现曲线拟合的最小二乘法
2021/02/19 Python
英国女士和男士时尚服装网上购物:Top Labels Online
2018/03/25 全球购物
Cult Gaia官网:美国生活方式品牌
2019/08/16 全球购物
中软国际Java程序员笔试题
2014/07/19 面试题
2014社区三八妇女节活动总结
2014/03/01 职场文书
《生命 生命》教学反思
2014/04/19 职场文书
初一学生评语大全
2014/04/24 职场文书
文明班集体申报材料
2014/05/23 职场文书
企业宗旨标语
2014/06/10 职场文书
科学发展观演讲稿
2014/09/11 职场文书
小学生思想品德评语
2014/12/31 职场文书
拾金不昧表扬信
2015/01/16 职场文书
年度考核个人总结
2015/03/06 职场文书
古见同学有交流障碍症 第二季宣传CM公开播出
2022/04/11 日漫