php curl 模拟登录并获取数据实例详解


Posted in PHP onDecember 22, 2016

PHP的curl()在抓取网页的效率方面是比较高的,而且支持多线程,而file_get_contents()效率就要稍低些,当然,使用curl时需要开启下curl扩展。

代码实战

先来看登录部分的代码:

//模拟登录 
function login_post($url, $cookie, $post) { 
  $curl = curl_init();//初始化curl模块 
  curl_setopt($curl, CURLOPT_URL, $url);//登录提交的地址 
  curl_setopt($curl, CURLOPT_HEADER, 0);//是否显示头信息 
  curl_setopt($curl, CURLOPT_RETURNTRANSFER, 0);//是否自动显示返回的信息 
  curl_setopt($curl, CURLOPT_COOKIEJAR, $cookie); //设置Cookie信息保存在指定的文件中 
  curl_setopt($curl, CURLOPT_POST, 1);//post方式提交 
  curl_setopt($curl, CURLOPT_POSTFIELDS, http_build_query($post));//要提交的信息 
  curl_exec($curl);//执行cURL 
  curl_close($curl);//关闭cURL资源,并且释放系统资源 
}

函数login_post()首先初始化curl_init(),然后使用curl_setopt()设置相关选项信息,包括要提交的url地址,保存的cookie文件,post的数据(用户名和密码等信息),是否返回信息等等,然后curl_exec执行curl,最后curl_close()释放资源。注意PHP自带的http_build_query()可以将数组转换成相连接的字符串。

接下来如果登录成功后,我们要获取登录成功后的页面信息。

//登录成功后获取数据 
function get_content($url, $cookie) { 
  $ch = curl_init(); 
  curl_setopt($ch, CURLOPT_URL, $url); 
  curl_setopt($ch, CURLOPT_HEADER, 0); 
  curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
  curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie); //读取cookie 
  $rs = curl_exec($ch); //执行cURL抓取页面内容 
  curl_close($ch); 
  return $rs; 
}

函数get_content()中也是先初始化curl,然后设置相关选项,执行curl,释放资源。其中我们设置CURLOPT_RETURNTRANSFER为1即自动返回信息,而CURLOPT_COOKIEFILE可以读取到登录时保存的cookie信息,最后将页面内容返回。

我们的最终目的是要获取到模拟登录后的信息,也就是只有正常登录成功后才能获取的有用信息。接下来我们以登录开源中国的移动版为例,看看如何抓取到登录成功后的信息。

//设置post的数据 
$post = array ( 
  'email' => 'oschina账户', 
  'pwd' => 'oschina密码', 
  'goto_page' => '/my', 
  'error_page' => '/login', 
  'save_login' => '1', 
  'submit' => '现在登录' 
); 
 //登录地址 $url = "http://m.oschina.net/action/user/login"; //设置cookie保存路径 $cookie = dirname(__FILE__) . '/cookie_oschina.txt'; //登录后要获取信息的地址 $url2 = "http://m.oschina.net/my"; //模拟登录 
login_post($url, $cookie, $post); //获取登录页的信息 $content = get_content($url2, $cookie); //删除cookie文件 
@ unlink($cookie); //匹配页面信息 $preg = "/<td class='portrait'>(.*)<\/td>/i"; 
preg_match_all($preg, $content, $arr); $str = $arr[1][0]; //输出内容 echo $str;

使用总结

1、初始化curl;

2、使用curl_setopt设置目标url,和其他选项;

3、curl_exec,执行curl;

4、执行后,关闭curl;

5、输出数据。

感谢阅读,希望能帮助到大家,谢谢大家对本站的支持!

PHP 相关文章推荐
PHP 得到根目录的 __FILE__ 常量
Jul 23 PHP
php开发留言板的CRUD(增,删,改,查)操作
Apr 19 PHP
配置php.ini实现PHP文件上传功能
Nov 27 PHP
php中print(),print_r(),echo()的区别详解
Dec 01 PHP
PHP开发框架laravel安装与配置教程
Mar 13 PHP
PHP中生成UUID自定义函数分享
Jun 10 PHP
php ajax异步读取rss文档数据
Mar 29 PHP
php计算给定日期所在周的开始日期和结束日期示例
Feb 06 PHP
PHP SFTP实现上传下载功能
Jul 26 PHP
php-msf源码详解
Dec 25 PHP
PHP封装curl的调用接口及常用函数详解
May 31 PHP
laravel-admin 中列表筛选方法
Oct 03 PHP
使用PHP连接多种数据库的实现代码(mysql,access,sqlserver,Oracle)
Dec 21 #PHP
Docker配置PHP开发环境教程
Dec 21 #PHP
PHP符合PSR编程规范的实例分享
Dec 21 #PHP
利用PHP生成CSV文件简单示例
Dec 21 #PHP
PHP实现支付宝即时到账功能
Dec 21 #PHP
简单实现PHP留言板功能
Dec 21 #PHP
PHP未登录自动跳转到登录页面
Dec 21 #PHP
You might like
Zerg基本策略
2020/03/14 星际争霸
用PHP4访问Oracle815
2006/10/09 PHP
php全角字符转换为半角函数
2014/02/07 PHP
PHP5.4起内置web服务器使用方法
2016/08/09 PHP
php ajax数据传输和响应方法
2018/08/21 PHP
PHP容器类的两种实现方式示例
2019/07/24 PHP
在JavaScript中通过URL传递汉字的方法
2007/04/09 Javascript
超轻量级的基于jquery的三级展开列表
2011/04/26 Javascript
JS定时器实例详细分析
2013/10/11 Javascript
jQuery实现跟随鼠标运动图层效果的方法
2015/02/02 Javascript
jQuery聚合函数实例
2015/05/21 Javascript
Javascript基础_简单比较undefined和null 值
2016/06/14 Javascript
AngularJS基础 ng-click 指令示例代码
2016/08/01 Javascript
JavaScript仿聊天室聊天记录
2016/12/27 Javascript
jQuery实现键盘回车搜索功能
2017/07/25 jQuery
JavaScript创建对象的四种常用模式实例分析
2019/01/11 Javascript
layui将table转化表单显示的方法(即table.render转为表单展示)
2019/09/24 Javascript
关于vue2强制刷新,解决页面不会重新渲染的问题
2019/10/29 Javascript
Vue.directive 实现元素scroll逻辑复用
2019/11/29 Javascript
详解vue-template-admin三级路由无法缓存的解决方案
2020/03/10 Javascript
基于JQuery和DWR实现异步数据传递
2020/10/16 jQuery
JavaScript用document.write()输出换行的示例代码
2020/11/26 Javascript
跟老齐学Python之有容乃大的list(1)
2014/09/14 Python
python实现嵌套列表平铺的两种方法
2018/11/08 Python
python操作日志的封装方法(两种方法)
2019/05/23 Python
Python对接六大主流数据库(只需三步)
2019/07/31 Python
Python自动生成代码 使用tkinter图形化操作并生成代码框架
2019/09/18 Python
美国转售二手商品的电子商务平台:BLINQ
2018/12/13 全球购物
吉列剃须刀英国官网:Gillette英国
2019/03/28 全球购物
Gretna Green中文官网:苏格兰格林小镇
2019/10/16 全球购物
班主任经验交流材料
2014/12/16 职场文书
2015年行风建设工作总结
2015/05/15 职场文书
阿凡达观后感
2015/06/10 职场文书
街道办残联2016年助残日活动总结
2016/04/01 职场文书
忆童年!用Python实现愤怒的小鸟游戏
2021/06/07 Python
MySQL远程无法连接的一些常见原因总结
2022/09/23 MySQL