普洱市住房和城乡建设局信息公开网站,衡阳广告设计公司,做网站对电脑要求高吗,快速搭建网站前端插件背景 无论你是技术大佬#xff0c;还是刚入行的小白#xff0c;时不时都会踩到Mysql数据库不走索引的坑。常见的现象就是#xff1a;明明在字段上添加了索引#xff0c;但却并未生效。前些天就遇到一个稍微特殊的场景#xff0c;同一条SQL语句#xff0c;在某些参数下生效… 背景 无论你是技术大佬还是刚入行的小白时不时都会踩到Mysql数据库不走索引的坑。常见的现象就是明明在字段上添加了索引但却并未生效。前些天就遇到一个稍微特殊的场景同一条SQL语句在某些参数下生效在某些参数下不生效这是为什么呢另外无论是面试或是日常Mysql索引失效的通常情况都应该了解和学习。为了方便学习和记忆这篇文件将常见的15种不走索引情况进行汇总并以实例展示帮助大家更好地避免踩坑。建议收藏以备不时之需。数据库及索引准备 创建表结构为了逐项验证索引的使用情况我们先准备一张表t_userCREATE TABLE t_user (id int(11) unsigned NOT NULL AUTO_INCREMENT COMMENT ID,id_no varchar(18) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin DEFAULT NULL COMMENT 身份编号,username varchar(32) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin DEFAULT NULL COMMENT 用户名,age int(11) DEFAULT NULL COMMENT 年龄,create_time datetime DEFAULT CURRENT_TIMESTAMP COMMENT 创建时间,PRIMARY KEY (id),KEY union_idx (id_no,username,age),KEY create_time_idx (create_time)
) ENGINEInnoDB DEFAULT CHARSETutf8mb4 COLLATEutf8mb4_bin;在上述表结构中有三个索引id为数据库主键union_idx为id_no、username、age构成的联合索引create_time_idx是由create_time构成的普通索引初始化数据初始化数据分两部分基础数据和批量导入数据。基础数据insert了4条数据其中第4条数据的创建时间为未来的时间用于后续特殊场景的验证INSERT INTO t_user (id, id_no, username, age, create_time) VALUES (null, 1001, Tom1, 11, 2022-02-27 09:04:23);
INSERT INTO t_user (id, id_no, username, age, create_time) VALUES (null, 1002, Tom2, 12, 2022-02-26 09:04:23);
INSERT INTO t_user (id, id_no, username, age, create_time) VALUES (null, 1003, Tom3, 13, 2022-02-25 09:04:23);
INSERT INTO t_user (id, id_no, username, age, create_time) VALUES (null, 1004, Tom4, 14, 2023-02-25 09:04:23);除了基础数据还有一条存储过程及其调用的SQL方便批量插入数据用来验证数据比较多的场景-- 删除历史存储过程
DROP PROCEDURE IF EXISTS insert_t_user-- 创建存储过程
delimiter $CREATE PROCEDURE insert_t_user(IN limit_num int)
BEGINDECLARE i INT DEFAULT 10;DECLARE id_no varchar(18) ;DECLARE username varchar(32) ;DECLARE age TINYINT DEFAULT 1;WHILE i limit_num DOSET id_no CONCAT(NO, i);SET username CONCAT(Tom,i);SET age FLOOR(10 RAND()*2);INSERT INTO t_user VALUES (NULL, id_no, username, age, NOW());SET i i 1;END WHILE;END $
-- 调用存储过程
call insert_t_user(100);关于存储过程的创建和存储可暂时不执行当用到时再执行。数据库版本及执行计划查看当前数据库的版本select version();
8.0.18上述为本人测试的数据库版本8.0.18。当然以下的所有示例大家可在其他版本进行执行验证。查看SQL语句执行计划一般我们都采用explain关键字通过执行结果来判断索引使用情况。执行示例explain select * from t_user where id 1;执行结果explain可以看到上述SQL语句使用了主键索引PRIMARYkey_len为4其中key_len的含义为表示索引使用的字节数根据这个值可以判断索引的使用情况特别是在组合索引的时候判断该索引有多少部分被使用到非常重要。做好以上数据及知识的准备下面就开始讲解具体索引失效的实例了。1 联合索引不满足最左匹配原则 联合索引遵从最左匹配原则顾名思义在联合索引中最左侧的字段优先匹配。因此在创建联合索引时where子句中使用最频繁的字段放在组合索引的最左侧。而在查询时要想让查询条件走索引则需满足最左边的字段要出现在查询条件中。实例中union_idx联合索引组成KEY union_idx (id_no,username,age)最左边的字段为id_no一般情况下只要保证id_no出现在查询条件中则会走该联合索引。示例一explain select * from t_user where id_no 1002;explain结果explain-01通过explain执行结果可以看出上述SQL语句走了union_idx这条索引。这里再普及一下key_len的计算id_no 类型为varchar(18)字符集为utf8mb4_bin也就是使用4个字节来表示一个完整的UTF-8。此时key_len 18* 4 72由于该字段类型varchar为变长数据类型需要再额外添加2个字节。此时key_len 72 2 74由于该字段运行为NULLdefault NULL需要再添加1个字节。此时key_len 74 1 75上面演示了key_len一种情况的计算过程后续不再进行逐一推演知道基本组成和原理即可更多情况大家可自行查看。示例二explain select * from t_user where id_no 1002 and username Tom2;explain结果explain-02很显然依旧走了union_idx索引根据上面key_len的分析大胆猜测在使用索引时不仅使用了id_no列还使用了username列。示例三explain select * from t_user where id_no 1002 and age 12;explain结果explain-03走了union_idx索引但跟示例一一样只用到了id_no列。当然还有三列都在查询条件中的情况就不再举例了。上面都是走索引的正向例子也就是满足最左匹配原则的例子下面来看看不满足该原则的反向例子。反向示例explain select * from t_user where username Tom2 and age 12;explain结果explain-04此时可以看到未走任何索引也就是说索引失效了。同样的下面只要没出现最左条件的组合索引也是失效的explain select * from t_user where age 12;
explain select * from t_user where username Tom2;那么第一种索引失效的场景就是在联合索引的场景下查询条件不满足最左匹配原则。2 使用了select * 在《阿里巴巴开发手册》的ORM映射章节中有一条【强制】的规范【强制】在表查询中一律不要使用 * 作为查询的字段列表需要哪些字段必须明确写明。说明:1)增加查询分析器解析成本。2)增减字段容易与 resultMap 配置不一致。3)无用字段增加网络 消耗尤其是 text 类型的字段。虽然在规范手册中没有提到索引方面的问题但禁止使用select * 语句可能会带来的附带好处就是某些情况下可以走覆盖索引。比如在上面的联合索引中如果查询条件是age或username当使用了select * 肯定是不会走索引的。但如果希望根据username查询出id_no、username、age这三个结果均为索引字段明确查询结果字段是可以走覆盖索引的explain select id_no, username, age from t_user where username Tom2;
explain select id_no, username, age from t_user where age 12;explain结果覆盖索引无论查询条件是username还是age都走了索引根据key_len可以看出使用了索引的所有列。第二种索引失效场景在联合索引下尽量使用明确的查询列来趋向于走覆盖索引这一条不走索引的情况属于优化项如果业务场景满足则进来促使SQL语句走索引。至于阿里巴巴开发手册中的规范只不过是两者撞到一起了规范本身并不是为这条索引规则而定的。3 索引列参与运算 直接来看示例explain select * from t_user where id 1 2 ;explain结果索引列计算可以看到即便id列有索引由于进行了计算处理导致无法正常走索引。针对这种情况其实不单单是索引的问题还会增加数据库的计算负担。就以上述SQL语句为例数据库需要全表扫描出所有的id字段值然后对其计算计算之后再与参数值进行比较。如果每次执行都经历上述步骤性能损耗可想而知。建议的使用方式是先在内存中进行计算好预期的值或者在SQL语句条件的右侧进行参数值的计算。针对上述示例的优化如下-- 内存计算得知要查询的id为1
explain select * from t_user where id 1 ;
-- 参数侧计算
explain select * from t_user where id 2 - 1 ;第三种索引失效情况索引列参与了运算会导致全表扫描索引失效。4 索引列参使用了函数 示例explain select * from t_user where SUBSTR(id_no,1,3) 100;explain结果索引-函数上述示例中索引列使用了函数SUBSTR字符串截取导致索引失效。此时索引失效的原因与第三种情况一样都是因为数据库要先进行全表扫描获得数据之后再进行截取、计算导致索引索引失效。同时还伴随着性能问题。示例中只列举了SUBSTR函数像CONCAT等类似的函数也都会出现类似的情况。解决方案可参考第三种场景可考虑先通过内存计算或其他方式减少数据库来进行内容的处理。第四种索引失效情况索引列参与了函数处理会导致全表扫描索引失效。5 错误的Like使用 示例explain select * from t_user where id_no like %00%;explain结果索引-like针对like的使用非常频繁但使用不当往往会导致不走索引。常见的like使用方式有方式一like %abc方式二like abc%方式三like %abc%其中方式一和方式三由于占位符出现在首部导致无法走索引。这种情况不做索引的原因很容易理解索引本身就相当于目录从左到右逐个排序。而条件的左侧使用了占位符导致无法按照正常的目录进行匹配导致索引失效就很正常了。第五种索引失效情况模糊查询时like语句模糊匹配的占位符位于条件的首部。6 类型隐式转换 示例explain select * from t_user where id_no 1002;explain结果隐式转换id_no字段类型为varchar但在SQL语句中使用了int类型导致全表扫描。出现索引失效的原因是varchar和int是两个种不同的类型。解决方案就是将参数1002添加上单引号或双引号。第六种索引失效情况参数类型与字段类型不匹配导致类型发生了隐式转换索引失效。这种情况还有一个特例如果字段类型为int类型而查询条件添加了单引号或双引号则Mysql会参数转化为int类型虽然使用了单引号或双引号explain select * from t_user where id 2;上述语句是依旧会走索引的。7、使用OR操作 OR是日常使用最多的操作关键字了但使用不当也会导致索引失效。示例explain select * from t_user where id 2 or username Tom2;explain结果or-索引看到上述执行结果是否是很惊奇啊明明id字段是有索引的由于使用or关键字索引竟然失效了。其实换一个角度来想如果单独使用username字段作为条件很显然是全表扫描既然已经进行了全表扫描了前面id的条件再走一次索引反而是浪费了。所以在使用or关键字时切记两个条件都要添加索引否则会导致索引失效。但如果or两边同时使用“”和“”则索引也会失效explain select * from t_user where id 1 or id 80;explain结果or-范围第七种索引失效情况查询条件使用or关键字其中一个字段没有创建索引则会导致整个查询语句索引失效or两边为“”和“”范围查询时索引失效。8 两列做比较 如果两个列数据都有索引但在查询条件中对两列数据进行了对比操作则会导致索引失效。这里举个不恰当的示例比如age小于id这样的两列真实场景可能是两列同维度的数据比较这里迁就现有表结构explain select * from t_user where id age;explain结果索引-两列比较这里虽然id有索引age也可以创建索引但当两列做比较时索引还是会失效的。第八种索引失效情况两列数据做比较即便两列都创建了索引索引也会失效。9 不等于比较 示例explain select * from t_user where id_no 1002;explain结果索引-不等当查询条件为字符串时使用”“或”!“作为条件查询有可能不走索引但也不全是。explain select * from t_user where create_time ! 2022-02-27 09:56:42;上述SQL中由于“2022-02-27 09:56:42”是存储过程在同一秒生成的大量数据是这个时间。执行之后会发现当查询结果集占比比较小时会走索引占比比较大时不会走索引。此处与结果集与总体的占比有关。需要注意的是上述语句如果是id进行不等操作则正常走索引。explain select * from t_user where id ! 2;explain结果不等-ID第九种索引失效情况查询条件使用不等进行比较时需要慎重普通索引会查询结果集占比较大时索引会失效。10 is not null 示例explain select * from t_user where id_no is not null;explain结果索引-is not null第十种索引失效情况查询条件使用is null时正常走索引使用is not null时不走索引。11 not in和not exists 在日常中使用比较多的范围查询有in、exists、not in、not exists、between and等。explain select * from t_user where id in (2,3);explain select * from t_user where id_no in (1001,1002);explain select * from t_user u1 where exists (select 1 from t_user u2 where u2.id 2 and u2.id u1.id);explain select * from t_user where id_no between 1002 and 1003;上述四种语句执行时都会正常走索引具体的explain结果就不再展示。主要看不走索引的情况explain select * from t_user where id_no not in(1002 , 1003);explain结果索引-not in当使用not in时不走索引把条件列换成主键试试explain select * from t_user where id not in (2,3);explain结果主键-not in如果是主键则正常走索引。第十一种索引失效情况查询条件使用not in时如果是主键则走索引如果是普通索引则索引失效。再来看看not existsexplain select * from t_user u1 where not exists (select 1 from t_user u2 where u2.id 2 and u2.id u1.id);explain结果索引-not in当查询条件使用not exists时不走索引。第十二种索引失效情况查询条件使用not exists时索引失效。12 order by导致索引失效 示例explain select * from t_user order by id_no ;explain结果索引-order by其实这种情况的索引失效很容易理解毕竟需要对全表数据进行排序处理。那么添加删limit关键字是否就走索引了呢explain select * from t_user order by id_no limit 10;explain结果order by limit结果依旧不走索引。在网络上看到有说如果order by条件满足最左匹配则会正常走索引 在当前8.0.18版本中并未出现。所以在基于order by和limit进行使用时要特别留意。是否走索引不仅涉及到数据库版本还要看Mysql优化器是如何处理的。这里还有一个特例就是主键使用order by时可以正常走索引。explain select * from t_user order by id desc;explain结果主键-order by可以看出针对主键还是order by可以正常走索引。另外笔者测试如下SQL语句explain select id from t_user order by age;
explain select id , username from t_user order by age;
explain select id_no from t_user order by id_no;上述三条SQL语句都是走索引的也就是说覆盖索引的场景也是可以正常走索引的。现在将id和id_no组合起来进行order byexplain select * from t_user order by id,id_no desc;
explain select * from t_user order by id,id_no desc limit 10;
explain select * from t_user order by id_no desc,username desc;explain结果orderby多索引上述两个SQL语句都未走索引。第十三种索引失效情况当查询条件涉及到order by、limit等条件时是否走索引情况比较复杂而且与Mysql版本有关通常普通索引如果未使用limit则不会走索引。order by多个索引字段时可能不会走索引。其他情况建议在使用时进行expain验证。13 参数不同导致索引失效 此时如果你还未执行最开始创建的存储过程建议你先执行一下存储过程然后执行如下SQLexplain select * from t_user where create_time 2023-02-24 09:04:23;其中时间是未来的时间确保能够查到数据。explain结果索引-参数可以看到正常走索引。随后我们将查询条件的参数换个日期explain select * from t_user where create_time 2022-02-27 09:04:23;explain结果索引-参数此时进行了全表扫描。这也是最开始提到的奇怪的现象。为什么同样的查询语句只是查询的参数值不同却会出现一个走索引一个不走索引的情况呢答案很简单上述索引失效是因为DBMS发现全表扫描比走索引效率更高因此就放弃了走索引。也就是说当Mysql发现通过索引扫描的行记录数超过全表的10%-30%时优化器可能会放弃走索引自动变成全表扫描。某些场景下即便强制SQL语句走索引也同样会失效。类似的问题在进行范围查询比如、 、、、in等条件时往往会出现上述情况而上面提到的临界值根据场景不同也会有所不同。第十四种索引失效情况当查询条件为大于等于、in等范围查询时根据查询结果占全表数据比例的不同优化器有可能会放弃索引进行全表扫描。14 其他 当然还有其他一些是否走索引的规则这与索引的类型是B-tree索引还是位图索引也有关系就不再详细展开。这里要说的其他可以总结为第十五种索引失效的情况Mysql优化器的其他优化策略比如优化器认为在某些情况下全表扫描比走索引快则它就会放弃索引。针对这种情况一般不用过多理会当发现问题时再定点排查即可。小结 本篇文章为大家总结了15个常见的索引失效的场景由于不同的Mysql版本索引失效策略也有所不同。大多数索引失效情况都是明确的有少部分索引失效会因Mysql的版本不同而有所不同。因此建议收藏本文当在实践的过程中进行对照如果没办法准确把握则可直接执行explain进行验证。往期推荐实战10 种实现延迟任务的方法附代码面试突击51为什么单例一定要加 volatileSpring Cloud OpenFeign 的 5 个优化小技巧