详解Python如何批量采集京东商品数据流程


Posted in Python onJanuary 22, 2022

准备工作

驱动安装

实现案例之前,我们要先安装一个谷歌驱动,因为我们是使用selenium 操控谷歌驱动,然后操控浏览器实现自动操作的,模拟人的行为去操作浏览器。

以谷歌浏览器为例,打开浏览器看下我们自己的版本,然后下载跟自己浏览器版本一样或者最相近的版本,下载后解压一下,把解压好的插件放到我们的python环境里面,或者和代码放到一起也可以。

模块使用与介绍

  • selenium pip install selenium ,直接输入selenium的话是默认安装最新的,selenium后面加上版本号就是安装对应的的版本;
  • csv 内置模块,不需要安装,把数据保存到Excel表格用的;
  • time 内置模块,不需要安装,时间模块,主要用于延时等待;

流程解析

我们访问一个网站,要输入一个网址,所以代码也是这么写的。

首先导入模块

from selenium import webdriver

文件名或者包名不要命名为selenium,会导致无法导入。 webdriver可以认为是浏览器的驱动器,要驱动浏览器必须用到webdriver,支持多种浏览器。

实例化浏览器对象 ,我这里用的是谷歌,建议大家用谷歌,方便一点。

driver = webdriver.Chrome()

我们用get访问一个网址,自动打开网址。

driver.get('https://www.jd.com/')

运行一下

详解Python如何批量采集京东商品数据流程

打开网址后,以买口红为例。

我们首先要通过你想购买的商品关键字来搜索得到商品信息,用搜索结果去获取信息。

详解Python如何批量采集京东商品数据流程

那我们也要写一个输入,空白处点击右键,选择检查。

选择element 元素面板

详解Python如何批量采集京东商品数据流程

鼠标点击左边的箭头按钮,去点击搜索框,它就会直接定位到搜索标签。

详解Python如何批量采集京东商品数据流程

在标签上点击右键,选择copy,选择copy selector 。

详解Python如何批量采集京东商品数据流程

如果你是xpath ,就copy它的xpath 。

然后把我们想要搜索的内容写出来

driver.find_element_by_css_selector('#key').send_keys('口红')

再运行的时候,它就会自动打开浏览器进入目标网址搜索口红。

详解Python如何批量采集京东商品数据流程

同样的方法,找到搜索按钮进行点击。

driver.find_element_by_css_selector('.button').click()

再运行就会自动点击搜索了

页面搜索出来了,那么咱们正常浏览网页是要下拉网页对吧,咱们让它自动下拉就好了。 先导入time模块

import time

执行页面滚动的操作

def drop_down():
    """执行页面滚动的操作"""  # javascript
    for x in range(1, 12, 2):  # for循环下拉次数,取1 3 5 7 9 11, 在你不断的下拉过程中, 页面高度也会变的;
        time.sleep(1)
        j = x / 9  # 1/9  3/9  5/9  9/9
        # document.documentElement.scrollTop  指定滚动条的位置
        # document.documentElement.scrollHeight 获取浏览器页面的最大高度
        js = 'document.documentElement.scrollTop = document.documentElement.scrollHeight * %f' % j
        driver.execute_script(js)  # 执行我们JS代码

循环写好了,然后调用一下。

drop_down()

我们再给它来个延时

driver.implicitly_wait(10)

这是一个隐式等待,等待网页延时,网不好的话加载很慢。

隐式等待不是必须等十秒,在十秒内你的网络加载好后,它随时会加载,十秒后没加载出来的话才会强行加载。

还有另外一种死等的,你写的几秒就等几秒,相对没有那么人性化。

time.sleep(10)

加载完数据后我们需要去找商品数据来源

价格/标题/评价/封面/店铺等等

还是鼠标右键点击检查,在element ,点击小箭头去点击你想查看的数据。

可以看到都在li标签里面

详解Python如何批量采集京东商品数据流程

获取所有的 li 标签内容,还是一样的,直接copy 。

详解Python如何批量采集京东商品数据流程

在左下角就有了

详解Python如何批量采集京东商品数据流程

这里表示的是取的第一个,但是我们是要获取所有的标签,所以左边框框里 li 后面的可以删掉不要。

详解Python如何批量采集京东商品数据流程

不要的话,可以看到这里是60个商品数据,一页是60个。

详解Python如何批量采集京东商品数据流程

所以我们把剩下的复制过来, 用lis接收一下 。

lis = driver.find_elements_by_css_selector('#J_goodsList ul li')

因为我们是获取所有的标签数据,所以比之前多了一个s

详解Python如何批量采集京东商品数据流程

打印一下

print(lis)

通过lis返回数据 列表 [] 列表里面的元素 <> 对象

详解Python如何批量采集京东商品数据流程

遍历一下,把所有的元素拿出来。

for li in lis:

    title = li.find_element_by_css_selector('.p-name em').text.replace('\n', '')  # 商品标题 获取标签文本数据
    price = li.find_element_by_css_selector('.p-price strong i').text  # 价格
    commit = li.find_element_by_css_selector('.p-commit strong a').text  # 评论量
    shop_name = li.find_element_by_css_selector('.J_im_icon a').text  # 店铺名字
    href = li.find_element_by_css_selector('.p-img a').get_attribute('href')  # 商品详情页
    icons = li.find_elements_by_css_selector('.p-icons i')
    icon = ','.join([i.text for i in icons])  # 列表推导式  ','.join 以逗号把列表中的元素拼接成一个字符串数据
    dit = {
        '商品标题': title,
        '商品价格': price,
        '评论量': commit,
        '店铺名字': shop_name,
        '标签': icon,
        '商品详情页': href,
    }
    csv_writer.writerow(dit)
    print(title, price, commit, href, icon, sep=' | ')

搜索功能

key_world = input('请输入你想要获取商品数据: ')

详解Python如何批量采集京东商品数据流程

要获取的数据 ,获取到后保存CSV

f = open(f'京东{key_world}商品数据.csv', mode='a', encoding='utf-8', newline='')
csv_writer = csv.DictWriter(f, fieldnames=[
    '商品标题',
    '商品价格',
    '评论量',
    '店铺名字',
    '标签',
    '商品详情页',
])
csv_writer.writeheader()

然后再写一个自动翻页

for page in range(1, 11):
    print(f'正在爬取第{page}页的数据内容')
    time.sleep(1)
    drop_down()
    get_shop_info()  # 下载数据
    driver.find_element_by_css_selector('.pn-next').click()  # 点击下一页

完整代码

from selenium import webdriver
import time
import csv


def drop_down():
    """执行页面滚动的操作"""  
    for x in range(1, 12, 2):  
        time.sleep(1)
        j = x / 9  # 1/9  3/9  5/9  9/9
        # document.documentElement.scrollTop  指定滚动条的位置
        # document.documentElement.scrollHeight 获取浏览器页面的最大高度
        js = 'document.documentElement.scrollTop = document.documentElement.scrollHeight * %f' % j
        driver.execute_script(js)  # 执行JS代码


key_world = input('请输入你想要获取商品数据: ')

f = open(f'京东{key_world}商品数据.csv', mode='a', encoding='utf-8', newline='')
csv_writer = csv.DictWriter(f, fieldnames=[
    '商品标题',
    '商品价格',
    '评论量',
    '店铺名字',
    '标签',
    '商品详情页',
])
csv_writer.writeheader()

# 实例化一个浏览器对象

driver = webdriver.Chrome()
driver.get('https://www.jd.com/')  # 访问一个网址 打开浏览器 打开网址
# 通过css语法在element(元素面板)里面查找 #key 某个标签数据 输入一个关键词 口红
driver.find_element_by_css_selector('#key').send_keys(key_world)  # 找到输入框标签
driver.find_element_by_css_selector('.button').click()  # 找到搜索按钮 进行点击
# time.sleep(10) # 等待 
# driver.implicitly_wait(10)  # 隐式等待 

def get_shop_info():
    # 第一步 获取所有的li标签内容
    driver.implicitly_wait(10)
    lis = driver.find_elements_by_css_selector('#J_goodsList ul li')  # 获取多个标签
    # 返回数据 列表 [] 列表里面的元素 <> 对象
    # print(len(lis))
    for li in lis:

        title = li.find_element_by_css_selector('.p-name em').text.replace('\n', '')  # 商品标题 获取标签文本数据
        price = li.find_element_by_css_selector('.p-price strong i').text  # 价格
        commit = li.find_element_by_css_selector('.p-commit strong a').text  # 评论量
        shop_name = li.find_element_by_css_selector('.J_im_icon a').text  # 店铺名字
        href = li.find_element_by_css_selector('.p-img a').get_attribute('href')  # 商品详情页
        icons = li.find_elements_by_css_selector('.p-icons i')
        icon = ','.join([i.text for i in icons])  # 列表推导式  ','.join 以逗号把列表中的元素拼接成一个字符串数据
        dit = {
            '商品标题': title,
            '商品价格': price,
            '评论量': commit,
            '店铺名字': shop_name,
            '标签': icon,
            '商品详情页': href,
        }
        csv_writer.writerow(dit)
        print(title, price, commit, href, icon, sep=' | ')
        # print(href)


for page in range(1, 11):
    print(f'正在爬取第{page}页的数据内容')
    time.sleep(1)
    drop_down()
    get_shop_info()  # 下载数据
    driver.find_element_by_css_selector('.pn-next').click()  # 点击下一页

driver.quit()  # 关闭浏览器

效果展示

详解Python如何批量采集京东商品数据流程

详解Python如何批量采集京东商品数据流程

代码是没得问题的,大家可以去试试

到此这篇关于详解Python如何批量采集京东商品数据流程的文章就介绍到这了,更多相关Python 采集京东商品数据内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Python 相关文章推荐
PIL图像处理模块paste方法简单使用详解
Jul 17 Python
python匿名函数用法实例分析
Aug 03 Python
Python @property使用方法解析
Sep 17 Python
python中自带的三个装饰器的实现
Nov 08 Python
pytorch 归一化与反归一化实例
Dec 31 Python
Python使用enumerate获取迭代元素下标
Feb 03 Python
基于Python的图像阈值化分割(迭代法)
Nov 20 Python
想学画画?python满足你!
Dec 24 Python
python实现经典排序算法的示例代码
Feb 07 Python
python 求两个向量的顺时针夹角操作
Mar 04 Python
Python趣味挑战之给幼儿园弟弟生成1000道算术题
May 28 Python
Pycharm连接远程服务器并远程调试的全过程
Jun 24 Python
用Python实现屏幕截图详解
Jan 22 #Python
Python实现学生管理系统并生成exe可执行文件详解流程
Jan 22 #Python
django中websocket的具体使用
Jan 22 #Python
Django+Nginx+uWSGI 定时任务的实现方法
Jan 22 #Python
梳理总结Python开发中需要摒弃的18个坏习惯
Jan 22 #Python
Pandas搭配lambda组合使用详解
Jan 22 #Python
Python中的tkinter库简单案例详解
Jan 22 #Python
You might like
德生BCL3000的电路分析和打磨
2021/03/02 无线电
PHP 循环列出目录内容的函数代码
2010/05/26 PHP
PHP中怎样保持SESSION不过期 原理及方案介绍
2013/08/08 PHP
php的ajax简单实例
2014/02/27 PHP
async和DOM Script文件加载比较
2014/07/20 PHP
纯JAVASCRIPT图表动画插件Highcharts Examples
2011/04/16 Javascript
js预载入和JavaScript Image()对象使用介绍
2011/08/28 Javascript
文本框input聚焦失焦样式实现代码
2012/10/12 Javascript
jQuery判断复选框是否勾选的原理及示例
2014/05/21 Javascript
webapp框架AngularUI的demo改造之路
2014/12/21 Javascript
JS实现带提示的星级评分效果完整实例
2015/10/30 Javascript
学习JavaScript设计模式之观察者模式
2020/04/22 Javascript
解读Bootstrap v4 sass设计
2016/05/29 Javascript
jQuery使用getJSON方法获取json数据完整示例
2016/09/13 Javascript
微信js-sdk地理位置接口用法示例
2016/10/12 Javascript
js实现从左向右滑动式轮播图效果
2017/07/07 Javascript
微信小程序表单验证插件WxValidate的二次封装功能(终极版)
2019/09/03 Javascript
使用localStorage替代cookie做本地存储
2019/09/25 Javascript
[33:17]OG vs VGJ.T 2018国际邀请赛小组赛BO2 第二场 8.18
2018/08/19 DOTA
今天 平安夜 Python 送你一顶圣诞帽 @微信官方
2017/12/25 Python
Python:Scrapy框架中Item Pipeline组件使用详解
2017/12/27 Python
用pandas按列合并两个文件的实例
2018/04/12 Python
Python concurrent.futures模块使用实例
2019/12/24 Python
python如何基于redis实现ip代理池
2020/01/17 Python
Python Django form 组件动态从数据库取choices数据实例
2020/05/19 Python
python/golang 删除链表中的元素
2020/09/14 Python
详解如何通过H5(浏览器/WebView/其他)唤起本地app
2017/12/11 HTML / CSS
孕妇内衣和胸罩:Cake Maternity
2018/07/16 全球购物
餐厅楼面主管岗位职责范本
2014/02/16 职场文书
工商管理专业大学生职业生涯规划范文
2014/03/09 职场文书
教师党员承诺书
2014/03/25 职场文书
党员四风剖析材料
2014/08/27 职场文书
代领学位证书毕业证书委托书
2014/09/30 职场文书
会计岗位职责范本
2015/04/02 职场文书
三八红旗手先进事迹材料(2016推荐版)
2016/02/25 职场文书
关于Mybatis中SQL节点的深入解析
2022/03/19 Java/Android