使用python爬虫获取黄金价格的核心代码


Posted in Python onJune 13, 2018

继续练手,根据之前获取汽油价格的方式获取了金价,暂时没钱投资,看看而已

#!/usr/bin/env python
# -*- coding: utf-8 -*-
"""
获取每天黄金价格
@author: yufei
@site: http://www.antuan.com
2017-05-11
"""
import re
import urllib2,urllib
import random
import threading
import time
import sqlite3
import sys
from __builtin__ import exit
#Some User Agents
hds=[{'User-Agent':'Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US; rv:1.9.1.6) Gecko/20091201 Firefox/3.5.6'},\
  {'User-Agent':'Mozilla/5.0 (Windows NT 6.2) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.12 Safari/535.11'},\
  {'User-Agent':'Mozilla/5.0 (compatible; MSIE 10.0; Windows NT 6.2; Trident/6.0)'},\
  {'User-Agent':'Mozilla/5.0 (X11; Ubuntu; Linux x86_64; rv:34.0) Gecko/20100101 Firefox/34.0'},\
  {'User-Agent':'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Ubuntu Chromium/44.0.2403.89 Chrome/44.0.2403.89 Safari/537.36'},\
  {'User-Agent':'Mozilla/5.0 (Macintosh; U; Intel Mac OS X 10_6_8; en-us) AppleWebKit/534.50 (KHTML, like Gecko) Version/5.1 Safari/534.50'},\
  {'User-Agent':'Mozilla/5.0 (Windows; U; Windows NT 6.1; en-us) AppleWebKit/534.50 (KHTML, like Gecko) Version/5.1 Safari/534.50'},\
  {'User-Agent':'Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0'},\
  {'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10.6; rv:2.0.1) Gecko/20100101 Firefox/4.0.1'},\
  {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; rv:2.0.1) Gecko/20100101 Firefox/4.0.1'},\
  {'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_0) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.56 Safari/535.11'},\
  {'User-Agent':'Opera/9.80 (Macintosh; Intel Mac OS X 10.6.8; U; en) Presto/2.8.131 Version/11.11'},\
  {'User-Agent':'Opera/9.80 (Windows NT 6.1; U; en) Presto/2.8.131 Version/11.11'}]
'''
create table GoldPricelist(
  [id]  integer PRIMARY KEY autoincrement,
  [name]  varchar default 0,
  [price]  varchar default 0,
  [time] datetime default (datetime('now', 'localtime'))
);
INSERT INTO OilPrice(id,name,price,time) VALUES(NULL,sss, 300, 20180404);
'''
def sqliteinto(Pricelist):
  con = sqlite3.connect('F:\ID\python\sqlite3\Gold.db')
  cur = con.cursor()
  print Pricelist
  sql = '''INSERT INTO GoldPrices (id,name,price,time) VALUES(NULL,?,?,?)'''
  cur.execute(sql,Pricelist)
  con.commit()
  cur.close()
  con.close()
def getPrice():
  url='http://www.dyhjw.com/matter_gold/'
  req = urllib2.Request(url=url,headers=hds[random.randint(0,len(hds)-1)])
  res = urllib2.urlopen(req)
  res = res.read()
  #获取的块
  re_set = re.compile(r'<dl class="main_bname">(.*?)</div>',re.S)
  re_get = re.findall(re_set,res)
  #获取价格详情
  p = re.compile('target="_blank">(.*?)<span class="zd">-</span>\n ',re.S)
  Pricelist = re.findall(p,re_get[0])
  for i in range(0,len(Pricelist)):
    p = re.compile('(.*?)</a>\n              <span class="jg">(.*)</span>',re.S)
    Price = re.findall(p,Pricelist[i])
    gname = Price[0][0]
    gprice = Price[0][1]
    timep = re.compile(r"(\d+)-(\d+)-.*")
    nowtime = time.strftime('%Y-%m-%d',time.localtime(time.time()))
    datas = []
    datas.append(gname.decode('utf8'))
    datas.append(gprice)
    datas.append(nowtime)
    datas = tuple(datas)
    sqliteinto(datas)
if __name__=="__main__":
  getPrice()

最近的数据

使用python爬虫获取黄金价格的核心代码

总结

以上所述是小编给大家介绍的使用python爬虫获取黄金价格的核心代码,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

Python 相关文章推荐
python多线程抓取天涯帖子内容示例
Apr 03 Python
python单例模式实例分析
Apr 08 Python
python中set常用操作汇总
Jun 30 Python
Python3实现发送QQ邮件功能(附件)
Dec 23 Python
Python闭包思想与用法浅析
Dec 27 Python
mac系统下Redis安装和使用步骤详解
Jul 09 Python
python实现大文本文件分割
Jul 22 Python
详解基于python的多张不同宽高图片拼接成大图
Sep 26 Python
python cv2在验证码识别中应用实例解析
Dec 25 Python
详解pytorch中squeeze()和unsqueeze()函数介绍
Sep 03 Python
Python进行特征提取的示例代码
Oct 15 Python
Python中itertools库的四个函数介绍
Apr 06 Python
Python实现爬虫从网络上下载文档的实例代码
Jun 13 #Python
Pycharm导入Python包,模块的图文教程
Jun 13 #Python
mac下pycharm设置python版本的图文教程
Jun 13 #Python
使用Python来开发微信功能
Jun 13 #Python
python爬取足球直播吧五大联赛积分榜
Jun 13 #Python
Python实现多条件筛选目标数据功能【测试可用】
Jun 13 #Python
mac 安装python网络请求包requests方法
Jun 13 #Python
You might like
一些PHP写的小东西
2006/12/06 PHP
php的array_multisort()使用方法介绍
2012/05/16 PHP
给ECShop添加最新评论
2015/01/07 PHP
php 批量查询搜狗sogou代码分享
2015/05/17 PHP
php求数组全排列,元素所有组合的方法总结
2017/03/14 PHP
实例讲解PHP表单验证功能
2019/02/15 PHP
PHP面向对象程序设计之对象的遍历操作示例
2019/06/12 PHP
回车直接实现点击某按钮的效果即触发单击事件
2014/02/27 Javascript
jquery原创弹出层折叠效果点击折叠弹出一个层
2014/03/12 Javascript
下拉框select的绑定示例
2014/09/04 Javascript
Javascript验证用户输入URL地址是否为空及格式是否正确
2014/10/09 Javascript
Jquery Ajax xmlhttp请求成功问题
2015/02/04 Javascript
js输出数据精确到小数点后n位代码
2016/07/02 Javascript
Vue官网todoMVC示例代码
2018/01/29 Javascript
vue的全局提示框组件实例代码
2018/02/26 Javascript
layui问题之模拟select点击事件的实例讲解
2018/08/15 Javascript
利用Vue实现一个markdown编辑器实例代码
2019/05/19 Javascript
原生微信小程序开发中 redux 的使用详解
2021/02/18 Javascript
利用Python抓取行政区划码的方法
2016/11/28 Python
对Tensorflow中权值和feature map的可视化详解
2018/06/14 Python
Python中应该使用%还是format来格式化字符串
2018/09/25 Python
python try 异常处理(史上最全)
2019/03/07 Python
十分钟搞定pandas(入门教程)
2019/06/21 Python
使用python将excel数据导入数据库过程详解
2019/08/27 Python
python科学计算之narray对象用法
2019/11/25 Python
python如何实现word批量转HTML
2020/09/30 Python
python函数超时自动退出的实操方法
2020/12/28 Python
史上最详细的Python打包成exe文件教程
2021/01/17 Python
html5 touch事件实现页面上下滑动效果【附代码】
2016/03/10 HTML / CSS
商场经理竞聘演讲稿
2014/01/01 职场文书
人事助理自荐信
2014/02/02 职场文书
网络工程师专家职业发展路线
2014/02/14 职场文书
食品采购员岗位职责
2014/04/14 职场文书
垃圾桶标语
2014/06/24 职场文书
一年级班主任工作总结2014
2014/11/08 职场文书
Mybatis-Plus进阶分页与乐观锁插件及通用枚举和多数据源详解
2022/03/21 Java/Android