php记录搜索引擎爬行记录的实现代码


Posted in PHP onMarch 02, 2018

下面是完整代码:

//记录搜索引擎爬行记录 $searchbot = get_naps_bot(); 
if ($searchbot) 
{ $tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url = $_SERVER['HTTP_REFERER']; 
$file = WEB_PATH.'robotslogs.txt'; 
$date = date('Y-m-d H:i:s'); 
$data = fopen($file,'a'); 
fwrite($data,"Time:$date robot:$searchbot URL:$tlc_thispage/r/n"); 
fclose($data);
}

WEB_PATH为index.PHP下define的根目录路径,意思就是说robotslogs.txt文件是放在根目录下的。

通过get_naps_bot()获取蜘蛛爬行记录,然后在通过addslashes处理一下,将数据存储于变量$tlc_thispage中。

fopen打开robotslogs.txt文件,将数据通过函数fwrite写入,在通过函数fclose关闭就可以了。

因为我觉得没必要,所以把自己网站上的代码删除了,所以也没有效果示例了。

PS:php获取各搜索蜘蛛爬行记录的代码

支持如下的搜索引擎:Baidu,Google,Bing,Yahoo,Soso,Sogou,Yodao爬行网站的记录!

代码:

<?php 
/**
* 获取搜索引擎爬行记录
* edit by 3water.com
*/
function get_naps_bot() 
{ 
$useragent = strtolower($_SERVER['HTTP_USER_AGENT']); 
if (strpos($useragent, 'googlebot') !== false){ 
return 'Google'; 
} 
if (strpos($useragent, 'baiduspider') !== false){ 
return 'Baidu'; 
} 
if (strpos($useragent, 'msnbot') !== false){ 
return 'Bing'; 
} 
if (strpos($useragent, 'slurp') !== false){ 
return 'Yahoo'; 
} 
if (strpos($useragent, 'sosospider') !== false){ 
return 'Soso'; 
} 
if (strpos($useragent, 'sogou spider') !== false){ 
return 'Sogou'; 
} 
if (strpos($useragent, 'yodaobot') !== false){ 
return 'Yodao'; 
} 
return false; 
} 
function nowtime(){ 
$date=date("Y-m-d.G:i:s"); 
return $date; 
} 
$searchbot = get_naps_bot(); 
if ($searchbot) { 
$tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url=$_SERVER['HTTP_REFERER']; 
$file="3water.com.txt"; 
$time=nowtime(); 
$data=fopen($file,"a"); 
fwrite($data,"Time:$time robot:$searchbot URL:$tlc_thispage\n"); 
fclose($data); 
} 
?>

总结

以上所述是小编给大家介绍的php记录搜索引擎爬行记录,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

PHP 相关文章推荐
海河写的 Discuz论坛帖子调用js的php代码
Aug 23 PHP
PHP setcookie() cannot modify header information 的解决方法
Jan 09 PHP
php session 错误
May 21 PHP
PHP parse_url 一个好用的函数
Oct 03 PHP
超级好用的一个php上传图片类(随机名,缩略图,加水印)
Jun 30 PHP
PHP SEO优化之URL优化方法
Apr 21 PHP
PHP获取当前页面完整URL的实现代码
Jun 10 PHP
解析:通过php socket并借助telnet实现简单的聊天程序
Jun 18 PHP
使用PHP函数scandir排除特定目录
Jun 12 PHP
php简单实现快速排序的方法
Apr 04 PHP
thinkPHP实现MemCache分布式缓存功能
Mar 23 PHP
PHP实现将多个文件压缩成zip格式并下载到本地的方法示例
May 23 PHP
LaravelS通过Swoole加速Laravel/Lumen详解
Mar 02 #PHP
PHP生成随机数的方法总结
Mar 01 #PHP
PHP Post获取不到非表单数据的问题解决办法
Feb 27 #PHP
php实现生成带二维码图片并强制下载功能
Feb 24 #PHP
php递归函数怎么用才有效
Feb 24 #PHP
php格式文件打开的四种方法
Feb 24 #PHP
Docker搭建自己的PHP开发环境
Feb 24 #PHP
You might like
PHP时间戳使用实例代码
2008/06/07 PHP
解析zend Framework如何自动加载类
2013/06/28 PHP
PHP中把stdClass Object转array的几个方法
2014/05/08 PHP
PHP实现绘制3D扇形统计图及图片缩放实例
2014/10/01 PHP
php实现字符串翻转的方法
2015/03/27 PHP
php中的依赖注入实例详解
2019/08/14 PHP
[JS]点出统计器
2020/10/11 Javascript
Flexigrid在IE下不显示数据的处理的解决方法
2013/10/24 Javascript
用js读、写、删除Cookie代码续篇
2014/12/03 Javascript
jQuery插件slicebox实现3D动画图片轮播切换特效
2015/04/12 Javascript
jquery实现向下滑出的二级导航下滑菜单效果
2015/08/25 Javascript
jQuery实现点击小图片淡入淡出显示大图片特效
2015/09/09 Javascript
js动态生成Html元素实现Post操作(createElement)
2015/09/14 Javascript
jQuery插件扩展extend的简单实现原理
2016/06/24 Javascript
AngularJS入门教程之ng-class 指令用法
2016/08/01 Javascript
JavaScript面试开发常用的知识点总结
2016/08/08 Javascript
Vue.js开发环境快速搭建教程
2017/03/17 Javascript
ES6新特性之模块Module用法详解
2017/04/01 Javascript
详解vuejs之v-for列表渲染
2017/06/22 Javascript
详解Vue2中组件间通信的解决全方案
2017/07/28 Javascript
jQuery EasyUI结合zTree树形结构制作web页面
2017/09/01 jQuery
JS抛物线动画实例制作
2018/02/24 Javascript
关于ES6箭头函数中的this问题
2018/02/27 Javascript
JS实现判断移动端PC端功能
2020/02/21 Javascript
浅谈JavaScript中this的指向更改
2020/07/28 Javascript
vue 微信分享回调iOS和安卓回调出现错误的解决
2020/09/07 Javascript
Python使用ftplib实现简易FTP客户端的方法
2015/06/03 Python
python网络编程调用recv函数完整接收数据的三种方法
2017/03/31 Python
python matplotlib实现双Y轴的实例
2019/02/12 Python
python,Java,JavaScript实现indexOf
2020/09/09 Python
浅析Python模块之间的相互引用问题
2021/02/26 Python
兰蔻美国官网:Lancome美国
2017/04/25 全球购物
3的组成教学反思
2014/04/30 职场文书
小学先进集体事迹材料
2014/05/31 职场文书
python 字典和列表嵌套用法详解
2021/06/29 Python
在redisCluster中模糊获取key方式
2021/07/09 Redis