php记录搜索引擎爬行记录的实现代码


Posted in PHP onMarch 02, 2018

下面是完整代码:

//记录搜索引擎爬行记录 $searchbot = get_naps_bot(); 
if ($searchbot) 
{ $tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url = $_SERVER['HTTP_REFERER']; 
$file = WEB_PATH.'robotslogs.txt'; 
$date = date('Y-m-d H:i:s'); 
$data = fopen($file,'a'); 
fwrite($data,"Time:$date robot:$searchbot URL:$tlc_thispage/r/n"); 
fclose($data);
}

WEB_PATH为index.PHP下define的根目录路径,意思就是说robotslogs.txt文件是放在根目录下的。

通过get_naps_bot()获取蜘蛛爬行记录,然后在通过addslashes处理一下,将数据存储于变量$tlc_thispage中。

fopen打开robotslogs.txt文件,将数据通过函数fwrite写入,在通过函数fclose关闭就可以了。

因为我觉得没必要,所以把自己网站上的代码删除了,所以也没有效果示例了。

PS:php获取各搜索蜘蛛爬行记录的代码

支持如下的搜索引擎:Baidu,Google,Bing,Yahoo,Soso,Sogou,Yodao爬行网站的记录!

代码:

<?php 
/**
* 获取搜索引擎爬行记录
* edit by 3water.com
*/
function get_naps_bot() 
{ 
$useragent = strtolower($_SERVER['HTTP_USER_AGENT']); 
if (strpos($useragent, 'googlebot') !== false){ 
return 'Google'; 
} 
if (strpos($useragent, 'baiduspider') !== false){ 
return 'Baidu'; 
} 
if (strpos($useragent, 'msnbot') !== false){ 
return 'Bing'; 
} 
if (strpos($useragent, 'slurp') !== false){ 
return 'Yahoo'; 
} 
if (strpos($useragent, 'sosospider') !== false){ 
return 'Soso'; 
} 
if (strpos($useragent, 'sogou spider') !== false){ 
return 'Sogou'; 
} 
if (strpos($useragent, 'yodaobot') !== false){ 
return 'Yodao'; 
} 
return false; 
} 
function nowtime(){ 
$date=date("Y-m-d.G:i:s"); 
return $date; 
} 
$searchbot = get_naps_bot(); 
if ($searchbot) { 
$tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url=$_SERVER['HTTP_REFERER']; 
$file="3water.com.txt"; 
$time=nowtime(); 
$data=fopen($file,"a"); 
fwrite($data,"Time:$time robot:$searchbot URL:$tlc_thispage\n"); 
fclose($data); 
} 
?>

总结

以上所述是小编给大家介绍的php记录搜索引擎爬行记录,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对三水点靠木网站的支持!

PHP 相关文章推荐
收藏的一个php小偷的核心程序
Apr 09 PHP
php 设计模式之 单例模式
Dec 19 PHP
在IIS7.0下面配置PHP 5.3.2运行环境的方法
Apr 13 PHP
PHP的简易冒泡法代码分享
Aug 28 PHP
PHP实现AES256加密算法实例
Sep 22 PHP
PHP中一些可以替代正则表达式函数的字符串操作函数
Nov 17 PHP
微信access_token的获取开发示例
Apr 16 PHP
最新版本PHP 7 vs HHVM 多角度比较
Feb 14 PHP
Zend Framework框架教程之Zend_Db_Table_Rowset用法实例分析
Mar 21 PHP
PHP使用 Pear 进行安装和卸载包的方法详解
Jul 08 PHP
thinkphp框架类库扩展操作示例
Nov 26 PHP
php随机生成验证码,php随机生成数字,php随机生成数字加字母!
Apr 01 PHP
LaravelS通过Swoole加速Laravel/Lumen详解
Mar 02 #PHP
PHP生成随机数的方法总结
Mar 01 #PHP
PHP Post获取不到非表单数据的问题解决办法
Feb 27 #PHP
php实现生成带二维码图片并强制下载功能
Feb 24 #PHP
php递归函数怎么用才有效
Feb 24 #PHP
php格式文件打开的四种方法
Feb 24 #PHP
Docker搭建自己的PHP开发环境
Feb 24 #PHP
You might like
从零开始 教你如何搭建Discuz!4.1论坛
2006/07/07 PHP
PHP中把错误日志保存在系统日志中(Windows系统)
2015/06/23 PHP
PHP编程实现脚本异步执行的方法
2017/08/09 PHP
javascript forEach通用循环遍历方法
2010/10/11 Javascript
为你的网站增加亮点的9款jQuery插件推荐
2011/05/03 Javascript
利用JQuery动画制作滑动菜单项效果实现步骤及代码
2013/02/07 Javascript
JQuery-tableDnD 拖拽的基本使用介绍
2013/07/04 Javascript
jQuery Mobile的loading对话框显示/隐藏方法分享
2013/11/26 Javascript
javascript面向对象之访问对象属性的两种方式分析
2015/01/13 Javascript
配置Grunt的Task时通配符支持和动态生成文件名问题
2015/09/06 Javascript
JS随机排序数组实现方法分析
2017/10/11 Javascript
AngularJS 实现购物车全选反选功能
2017/10/24 Javascript
浅析Vue中method与computed的区别
2018/03/06 Javascript
微信小程序实现点击卡片 翻转效果
2019/09/04 Javascript
vue中使用WX-JSSDK的两种方法(推荐)
2020/01/18 Javascript
Vue绑定用户接口实现代码示例
2020/11/04 Javascript
Python中的with语句与上下文管理器学习总结
2016/06/28 Python
Python实现Linux监控的方法
2019/05/16 Python
Python提取转移文件夹内所有.jpg文件并查看每一帧的方法
2019/06/27 Python
python爬虫开发之使用Python爬虫库requests多线程抓取猫眼电影TOP100实例
2020/03/10 Python
如何基于Django实现上下文章跳转
2020/09/16 Python
python hmac模块验证客户端的合法性
2020/11/07 Python
医药代表个人的求职信分享
2013/12/08 职场文书
报社实习生自荐信
2014/01/24 职场文书
五年后的职业生涯规划
2014/03/04 职场文书
文明生主要事迹
2014/05/25 职场文书
电子商务专业应届生求职信
2014/05/28 职场文书
信息合作协议书
2014/10/09 职场文书
2014年银行客户经理工作总结
2014/11/12 职场文书
家庭财产分割协议范文
2014/11/24 职场文书
工作表现证明
2015/06/15 职场文书
运动会班级前导词
2015/07/20 职场文书
Golang生成Excel文档的方法步骤
2021/06/09 Golang
Redis读写分离搭建的完整步骤
2021/09/14 Redis
Java使用JMeter进行高并发测试
2021/11/23 Java/Android
【海涛教你打DOTA】黑鸟第一视角解说
2022/04/01 DOTA