MySQL 隔离数据列和前缀索引的使用总结


Posted in MySQL onMay 14, 2021

隔离数据列

通常,我们会发现查询语句会妨碍MySQL使用索引。除非在查询语句中列是独立的,否则MySQL不会使用这些列的索引。“隔离”的意思是索引列不应该成为表达式的一部分或者在一个查询函数体中。例如下面的例子就不会命中actor_id这个索引。

SELECT `actor_id` FROM `actor` WHERE `actor_id` + 1 = 2;

对于人来说,很容易知道查询条件实际是actor_id = 4,但是MySQL不会这么处理,因此养成简化WHERE判决条件的习惯,这意味着索引列独立地在比较操作符的一侧。下面是另外一个普遍错误的案例:

SELECT ... WHERE TO_DAYS(CURRENT_DATE) - TO_DAYS(date_col) <= 10;

前缀索引和索引的选择性

有时候需要在很长字符的列上建立索引,但这样会导致索引占据的空间很大且查询变慢。一个策略是使用哈希索引模拟,但有时候这未必是足够好,这个时候该怎么做?

通常是可以将索引列前面的部分字符建立索引来替换全字段索引提高性能和节省空间。但这种方式会使得选择性变差。索引的选择性是指独立的索引值筛选出的数据占整个数据集合的比例。高选择性的索引可以让MySQL过滤掉更多无关的数据。例如,一个唯一索引的选择性是1。 列的前缀通常在选择性方面已经能够提供足够好的性能。如果使用BLOB或TEXT或非常长的VARCHAR字段列,你必须定义前缀索引,以为MySQL不允许做全长度索引。

你需要在使用更长的前缀以获得更好的选择性和足够短的前缀以节省存储空间之间平衡。为了确定一个合适的前缀长度,查找出最高频的值,然后和最频繁的前缀进行比较。例如以城市数据表为例,我们可以使用如下的语句统计:

SELECT COUNT(*) as cnt, `name` FROM `common_city` GROUP BY `name` ORDER BY cnt DESC LIMIT 10

MySQL 隔离数据列和前缀索引的使用总结

可以看到这些城市名称出现的次数比较多。现在我们可以使用1个字的前缀查找最为频繁的城市名称前缀。

SELECT COUNT(*) as cnt, LEFT(`name`, 1) as pref FROM `common_city` GROUP BY pref ORDER BY cnt DESC LIMIT 10

MySQL 隔离数据列和前缀索引的使用总结

可以看到1个字找出来的数据集更多了,这会导致独立选中的机会越少,因此需要调整一下前缀的长度。例如调到3个字。

SELECT COUNT(*) as cnt, LEFT(`name`, 3) as pref FROM `common_city` GROUP BY pref ORDER BY cnt DESC LIMIT 10

MySQL 隔离数据列和前缀索引的使用总结

可以看到这和全长度的相差不多,那实际三个字的前缀就够了(原文使用的是英文城市数据表,字符会更多)。另外一种方式是使用不同长度的前缀数量与全字段数量的比例评估多少合适。例如:

SELECT 
  COUNT(DISTINCT LEFT(`name`, 1)) / COUNT(`name`) as pref1, 
  COUNT(DISTINCT LEFT(`name`, 2)) / COUNT(`name`) as pref2, 
  COUNT(DISTINCT LEFT(`name`, 3)) / COUNT(`name`) as pref3, 
  COUNT(DISTINCT LEFT(`name`, 4)) / COUNT(`name`) as pref4 
FROM `common_city`

MySQL 隔离数据列和前缀索引的使用总结

数值越接近于1效果越好,但是也可以看到,随着前缀长度的加长改善的空间越小。只看平均值并不是一个好主意,还需要检查一下最坏情况。也许会觉得3-4个字足够了,但是如果数据分布很不均匀,那可能会存在陷阱。因此还需要检查一下前缀少的是不是存在一个前缀对应的数据与其他相比极其多的情况。最后可以给指定的列加前缀索引。

ALTER TABLE `common_city` ADD KEY (name(3));

前缀索引在节省空间和提高效率方面表现不错,但是也有缺陷,那就是在ORDER BY和GROUP BY上无法使用索引(实际验证在MySQL 5.7以上版本也有用)。另外一种常见的场景是在较长的十六进制字符串中,例如存储的sessionId,取前8位前缀做索引将过滤很多无关数据,效果很好。

以上就是MySQL 隔离数据列和前缀索引的使用总结的详细内容,更多关于MySQL 隔离数据列和前缀索引的资料请关注三水点靠木其它相关文章!

MySQL 相关文章推荐
Mysql 如何实现多张无关联表查询数据并分页
Jun 05 MySQL
MySQL系列之一 MariaDB-server安装
Jul 02 MySQL
MySQL系列之十 MySQL事务隔离实现并发控制
Jul 02 MySQL
浅谈MySQL之select优化方案
Aug 07 MySQL
mysql如何能有效防止删库跑路
Oct 05 MySQL
MySQL 外连接语法之 OUTER JOIN
Apr 09 MySQL
MySQL数据库优化之通过索引解决SQL性能问题
Apr 10 MySQL
排查MySQL生产环境索引没有效果
Apr 11 MySQL
MySQL transaction事务安全示例讲解
Jun 21 MySQL
MySQL性能指标TPS+QPS+IOPS压测
Aug 05 MySQL
MySQL中的 inner join 和 left join的区别解析(小结果集驱动大结果集)
May 08 MySQL
MySQL 使用自定义变量进行查询优化
May 14 #MySQL
MySQL 逻辑备份与恢复测试的相关总结
May 14 #MySQL
MySQL 可扩展设计的基本原则
May 14 #MySQL
MySQL主从搭建(多主一从)的实现思路与步骤
May 13 #MySQL
MySQL如何构建数据表索引
May 13 #MySQL
MySQL 自定义变量的概念及特点
May 13 #MySQL
为什么mysql字段要使用NOT NULL
You might like
php使用curl发送json格式数据实例
2013/12/17 PHP
php生成excel文件的简单方法
2014/02/08 PHP
一个JS的日期格式化算法示例
2013/07/31 Javascript
jquery trigger伪造a标签的click事件取代window.open方法
2014/06/23 Javascript
node.js [superAgent] 请求使用示例
2015/03/13 Javascript
JSON相关知识汇总
2015/07/03 Javascript
JS实现点击按钮获取页面高度的方法
2015/11/02 Javascript
基于BootStrap Metronic开发框架经验小结【七】数据的导入、导出及附件的查看处理
2016/05/12 Javascript
JS中的==运算: [''] == false —&gt;true
2016/07/24 Javascript
js HTML5 Canvas绘制转盘抽奖
2020/09/13 Javascript
jquery过滤特殊字符',防sql注入的实现方法
2016/08/17 Javascript
JS实现图片延迟加载并淡入淡出效果的简单方法
2016/08/25 Javascript
jquery easyui dataGrid动态改变排序字段名的方法
2017/03/02 Javascript
使用MUI框架模拟手机端的下拉刷新和上拉加载功能
2017/09/04 Javascript
详解webpack3编译兼容IE8的正确姿势
2017/12/21 Javascript
react-router browserHistory刷新页面404问题解决方法
2017/12/29 Javascript
从parcel.js打包出错到选择nvm的全部过程
2018/01/23 Javascript
Vue 项目中遇到的跨域问题及解决方法(后台php)
2018/03/28 Javascript
vue和小程序项目中使用iconfont的方法
2020/05/19 Javascript
使用Python发送邮件附件以定时备份MySQL的教程
2015/04/25 Python
Python实现基于权重的随机数2种方法
2015/04/28 Python
Python迭代器与生成器基本用法分析
2018/07/26 Python
Python爬虫 批量爬取下载抖音视频代码实例
2019/08/16 Python
浅析python中while循环和for循环
2019/11/19 Python
使用Pandas将inf, nan转化成特定的值
2019/12/19 Python
python图片剪裁代码(图片按四个点坐标剪裁)
2020/03/10 Python
django Model层常用验证器及自定义验证器详解
2020/07/15 Python
都柏林通行卡/城市通票:The Dublin Pass
2020/02/16 全球购物
俄罗斯最大的隐形眼镜销售网站:Ochkov.Net
2021/02/07 全球购物
《海底世界》教学反思
2014/04/16 职场文书
商务助理求职信范文
2014/04/20 职场文书
书法大赛策划方案
2014/06/04 职场文书
条幅标语大全
2014/06/20 职场文书
保密工作承诺书
2014/08/29 职场文书
2014年教研组工作总结
2014/11/26 职场文书
postgres之jsonb属性的使用操作
2021/06/23 PostgreSQL