PHP中使用正则表达式提取中文实现笔记


Posted in PHP onJanuary 20, 2015

最近老板叫做一个数据查重的小练习,涉及从一个包含中文字段的文件中提取出其中的中文字段并存储,使用php开发。中间涉及到php正则表达式中文匹配的问题,网上搜罗一大片,但是也很乱没有一个准信儿,经过自己的代码的修改和检验,先将extract函数写下。

首先要注意到的是,双字节字符的编码问题,这里我们以后还可能会遇到像韩文、日文等编码问题,与中文理解上是一个意思。

1. GBK (GB2312/GB18030)

\x00-\xff GBK双字节编码范围   

\x20-\x7f ASCII   

\xa1-\xff 中文 gb2312   

\x80-\xff 中文 gbk  
 
2. UTF-8 (Unicode)
\u4e00-\u9fa5 (中文)   

\x3130-\x318F (韩文   

\xAC00-\xD7A3 (韩文)   

\u0800-\u4e00 (日文) 

在Notepad++下面,我们可以首先进行测试我们的正则书写的错误与否。第一个表达式我是使用[\u4e00-\u9fa5]+来检验的,+号表示不止一个

PHP中使用正则表达式提取中文实现笔记

匹配符。结果与预期相同,那么,是否在脚本中就可以使用这个正则了呢?

我们测试一下,我们使用preg_match_all(‘/[\u4e00-\u9fa5]+/', $subject,$matches)调用,然后你却看到了这么一个结果:Compilation failed: PCRE does not support \L, \l, \N{name}, \U, or \u at offset 2。。。。是不是很头大??这究竟是什么原因?

查阅了很多资料后发现,u (PCRE_UTF8),就是上面的PCRE,这是是一个Perl库,包括 perl 兼容的正规表达式库。此修正符启用了一个 PCRE 中与 Perl 不兼容的额外功能。模式字符串被当成 UTF-8。本修正符在 Unix 下自 PHP 4.1.0 起可用,在 win32 下自 PHP 4.2.3 起可用。而php正则表达式对于十六进制数据的表达方式上也有所不同,在php中,是用\x表示十六进制数据的。下面我们就将代码优化一下,检测函数变为:

 class storeDataAdapter extends Store{   

        private $dsData;   

        /**  

         * 数据转换函数,调用preg_match_all根据$pattern正则来进行数值匹配,并将返回的结果以数组形式存储在$matches中,  

         * $matches[0]将包含与整个模式匹配的文本,$matches[1] 将包含与第一个捕获的括号中的子模式所匹配的文本,以此类推  

         * @see Store::data_convert()  

         */  

        public function data_convert($pattern,$subject) {   

            $matches=array();   

            if (preg_match_all($pattern, $subject,$matches)){   

                return $matches[0];   

            }else    

            {   

                return null;   

            }   

        }   

    } 

调用的时候变为:

 $store=new storeDataAdapter($txtContent);   

    $match=array();   

    $dsName=$store->data_convert(‘/[\x7f-\xff]+/',$txtContent);   

    foreach ($dsName as $val){   

        echo $val."<br>";   

    }  

输入文件为:

PHP中使用正则表达式提取中文实现笔记

,下面是提取出中文之后的输出文件内容:

PHP中使用正则表达式提取中文实现笔记

,符合预期需求。

PHP 相关文章推荐
Ext.data.PagingMemoryProxy分页一次性读取数据的实现代码
Apr 07 PHP
PHP PDO函数库详解
Apr 27 PHP
解决CodeIgniter伪静态失效
Jun 09 PHP
Laravel 4 初级教程之视图、命名空间、路由
Oct 30 PHP
THINKPHP2.0到3.0有哪些改进之处
Jan 04 PHP
php数组比较实现查找连续数的方法
Jul 29 PHP
php生成图片验证码的实例讲解
Aug 03 PHP
thinkphp微信开发(消息加密解密)
Dec 02 PHP
PHP7+Nginx的配置与安装教程详解
May 10 PHP
PHP自定义图片缩放函数实现等比例不失真缩放的方法
Aug 19 PHP
PHP中register_shutdown_function函数的基础介绍与用法详解
Nov 28 PHP
laravel Validator ajax返回错误信息的方法
Sep 29 PHP
php中的观察者模式简单实例
Jan 20 #PHP
php 5.6版本中编写一个PHP扩展的简单示例
Jan 20 #PHP
PHP函数extension_loaded()用法实例
Jan 19 #PHP
php使用正则表达式获取图片url的方法
Jan 16 #PHP
php使用CURL伪造IP和来源实例详解
Jan 15 #PHP
php+mysql实现无限分类实例详解
Jan 15 #PHP
php截取html字符串及自动补全html标签的方法
Jan 15 #PHP
You might like
openPNE常用方法分享
2011/11/29 PHP
PHP对象相互引用的内存溢出实例分析
2014/08/28 PHP
thinkphp循环结构用法实例
2014/11/24 PHP
php多线程实现方法及用法实例详解
2015/10/26 PHP
深入讲解PHP的Yii框架中的属性(Property)
2016/03/18 PHP
PHP7 新增功能
2021/03/09 PHP
JS文本框默认值处理详解
2013/07/10 Javascript
Javascript 基础---Ajax入门必看
2016/07/06 Javascript
JS对大量数据进行多重过滤的方法
2016/11/04 Javascript
如何快速上手Vuex
2017/02/14 Javascript
Vue.js中用webpack合并打包多个组件并实现按需加载
2017/02/17 Javascript
JS实现的A*寻路算法详解
2018/12/14 Javascript
利用d3.js力导布局绘制资源拓扑图实例教程
2019/01/08 Javascript
React+Redux实现简单的待办事项列表ToDoList
2019/09/29 Javascript
JavaScript仿京东秒杀倒计时
2020/03/17 Javascript
python迭代器实例简析
2014/09/25 Python
举例讲解Python程序与系统shell交互的方式
2015/04/09 Python
python中dir函数用法分析
2015/04/17 Python
在Python的Django框架中加载模版的方法
2015/07/16 Python
浅谈使用Python内置函数getattr实现分发模式
2018/01/22 Python
selenium+python截图不成功的解决方法
2019/01/30 Python
详解python配置虚拟环境
2019/04/08 Python
Python使用enumerate获取迭代元素下标
2020/02/03 Python
如何把python项目部署到linux服务器
2020/08/26 Python
CSS3中的常用选择器使用示例整理
2016/06/13 HTML / CSS
茵宝(Umbro)英国官方商店:英国足球服装生产商
2016/12/29 全球购物
孤独星球出版物:Lonely Planet Publications
2018/03/17 全球购物
澳大利亚在线家具、灯饰和家居装饰店:LivingStyles
2018/11/20 全球购物
娱乐地球:Entertainment Earth
2020/01/08 全球购物
工作自荐信
2013/12/11 职场文书
学校运动会开幕演讲稿
2014/01/04 职场文书
小学生期末评语大全
2014/04/21 职场文书
村党支部书记四风问题个人对照检查材料思想汇报
2014/10/06 职场文书
实习推荐信格式模板
2015/03/27 职场文书
2015年端午节活动策划书
2015/05/05 职场文书
Java实现学生管理系统(IO版)
2022/02/24 Java/Android