php记录搜索引擎爬行记录的实现代码


Posted in PHP onMarch 02, 2018

下面是完整代码:

//记录搜索引擎爬行记录 $searchbot = get_naps_bot(); 
if ($searchbot) 
{ $tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url = $_SERVER['HTTP_REFERER']; 
$file = WEB_PATH.'robotslogs.txt'; 
$date = date('Y-m-d H:i:s'); 
$data = fopen($file,'a'); 
fwrite($data,"Time:$date robot:$searchbot URL:$tlc_thispage/r/n"); 
fclose($data);
}

WEB_PATH为index.PHP下define的根目录路径,意思就是说robotslogs.txt文件是放在根目录下的。

通过get_naps_bot()获取蜘蛛爬行记录,然后在通过addslashes处理一下,将数据存储于变量$tlc_thispage中。

fopen打开robotslogs.txt文件,将数据通过函数fwrite写入,在通过函数fclose关闭就可以了。

因为我觉得没必要,所以把自己网站上的代码删除了,所以也没有效果示例了。

PS:php获取各搜索蜘蛛爬行记录的代码

支持如下的搜索引擎:Baidu,Google,Bing,Yahoo,Soso,Sogou,Yodao爬行网站的记录!

代码:

<?php 
/**
* 获取搜索引擎爬行记录
* edit by 3water.com
*/
function get_naps_bot() 
{ 
$useragent = strtolower($_SERVER['HTTP_USER_AGENT']); 
if (strpos($useragent, 'googlebot') !== false){ 
return 'Google'; 
} 
if (strpos($useragent, 'baiduspider') !== false){ 
return 'Baidu'; 
} 
if (strpos($useragent, 'msnbot') !== false){ 
return 'Bing'; 
} 
if (strpos($useragent, 'slurp') !== false){ 
return 'Yahoo'; 
} 
if (strpos($useragent, 'sosospider') !== false){ 
return 'Soso'; 
} 
if (strpos($useragent, 'sogou spider') !== false){ 
return 'Sogou'; 
} 
if (strpos($useragent, 'yodaobot') !== false){ 
return 'Yodao'; 
} 
return false; 
} 
function nowtime(){ 
$date=date("Y-m-d.G:i:s"); 
return $date; 
} 
$searchbot = get_naps_bot(); 
if ($searchbot) { 
$tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url=$_SERVER['HTTP_REFERER']; 
$file="3water.com.txt"; 
$time=nowtime(); 
$data=fopen($file,"a"); 
fwrite($data,"Time:$time robot:$searchbot URL:$tlc_thispage\n"); 
fclose($data); 
} 
?>

总结

以上所述是小编给大家介绍的php记录搜索引擎爬行记录,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

PHP 相关文章推荐
PHP个人网站架设连环讲(四)
Oct 09 PHP
php 全文搜索和替换的实现代码
Jul 29 PHP
用php实现的下载css文件中的图片的代码
Feb 08 PHP
抓取并下载CSS中所有图片文件的php代码
Sep 26 PHP
PHP+memcache实现消息队列案例分享
May 21 PHP
Laravel框架路由配置总结、设置技巧大全
Sep 03 PHP
php获取url参数方法总结
Nov 13 PHP
php中http与https跨域共享session的解决方法
Dec 20 PHP
php实现常见图片格式的水印和缩略图制作(面向对象)
Jun 15 PHP
laravel-admin 管理平台获取当前登陆用户信息的例子
Oct 08 PHP
PHP连续签到功能实现方法详解
Dec 04 PHP
PHP7变量处理机制修改
Mar 09 PHP
LaravelS通过Swoole加速Laravel/Lumen详解
Mar 02 #PHP
PHP生成随机数的方法总结
Mar 01 #PHP
PHP Post获取不到非表单数据的问题解决办法
Feb 27 #PHP
php实现生成带二维码图片并强制下载功能
Feb 24 #PHP
php递归函数怎么用才有效
Feb 24 #PHP
php格式文件打开的四种方法
Feb 24 #PHP
Docker搭建自己的PHP开发环境
Feb 24 #PHP
You might like
日本十大惊悚动漫
2020/03/04 日漫
解析PHP可变函数的经典用法
2013/06/20 PHP
JavaScript中变量提升 Hoisting
2012/07/03 Javascript
jquery formValidator插件ajax验证 内容不做任何修改再离开提示错误的bug解决方法
2013/01/04 Javascript
15条JavaScript最佳实践小结
2013/08/09 Javascript
根据身份证号自动输出相关信息(籍贯,出身日期,性别)
2013/11/15 Javascript
js数组的操作指南
2014/12/28 Javascript
用模版生成HTML的的框架jquery.tmpl使用详解
2015/01/07 Javascript
javaScript中push函数用法实例分析
2015/06/08 Javascript
js实现前端图片上传即时预览功能
2017/08/02 Javascript
详解用Node.js实现Restful风格webservice
2017/09/29 Javascript
微信小程序解除10个请求并发限制
2018/12/18 Javascript
js嵌套的数组扁平化:将多维数组变成一维数组以及push()与concat()区别的讲解
2019/01/19 Javascript
jQuery 查找元素操作实例小结
2019/10/02 jQuery
Node.js API详解之 querystring用法实例分析
2020/04/29 Javascript
JQuery复选框全选效果如何实现
2020/05/08 jQuery
vue 接口请求地址前缀本地开发和线上开发设置方式
2020/08/13 Javascript
Python中使用PDB库调试程序
2015/04/05 Python
Python中使用pprint函数进行格式化输出的教程
2015/04/07 Python
python读取TXT到数组及列表去重后按原来顺序排序的方法
2015/06/26 Python
Python使用struct处理二进制的实例详解
2017/09/11 Python
Python设计模式之代理模式实例详解
2019/01/19 Python
Django 自定义分页器的实现代码
2019/11/24 Python
Pat McGrath Labs官网:世界上最有影响力的化妆师推出的彩妆品牌
2018/01/07 全球购物
为什么要做架构设计
2015/07/08 面试题
机电一体化毕业生求职信
2013/11/02 职场文书
大学生家政服务项目创业计划书
2014/01/30 职场文书
内蒙古鄂尔多斯市市长寄语
2014/04/10 职场文书
学习张丽丽心得体会
2014/09/03 职场文书
2014年中职班主任工作总结
2014/12/16 职场文书
道德模范事迹材料
2014/12/20 职场文书
2015年食品安全工作总结
2015/05/15 职场文书
小学教师见习总结
2015/06/23 职场文书
男生贾里读书笔记
2015/06/30 职场文书
新郎结婚感言
2015/07/31 职场文书
Nginx实现高可用集群构建(Keepalived+Haproxy+Nginx)
2021/05/27 Servers