怎么给字符串字段加索引

Hi我是阿昌今天学习记录的是关于怎么给字符串字段加索引的内容。

现在几乎所有的系统都支持邮箱登录如何在邮箱这样的字段上建立合理的索引。

假设现在维护一个支持邮箱登录的系统用户表是这么定义的

mysql> create table SUser(
		ID bigint unsigned primary key,
		email varchar(64), 
		... 
	)engine=innodb; 

由于要使用邮箱登录所以业务代码中一定会出现类似于这样的语句

mysql> select f1, f2 from SUser where email='xxx';

如果 email 这个字段上没有索引那么这个语句就只能做全表扫描。

同时MySQL 是支持前缀索引的也就是说可以定义字符串的一部分作为索引。

默认地如果创建索引的语句不指定前缀长度那么索引就会包含整个字符串。

比如这两个在 email 字段上创建索引的语句

mysql> alter table SUser add index index1(email);
或
mysql> alter table SUser add index index2(email(6));

第一个语句创建的 index1 索引里面包含了每个记录的整个字符串；

而第二个语句创建的 index2 索引里面对于每个记录都是只取前 6 个字节。

那么这两种不同的定义在数据结构和存储上有什么区别呢？

---

如图 2 和 3 所示就是这两个索引的示意图。

从图中你可以看到由于 email(6) 这个索引结构中每个邮箱字段都只取前 6 个字节（即zhangs所以占用的空间会更小这就是使用前缀索引的优势。但这同时带来的损失是可能会增加额外的记录扫描次数。

---

下面这个语句在这两个索引定义下分别是怎么执行的。

select id,name,email from SUser where email='zhangssxyz@xxx.com';

如果使用的是 index1（即 email 整个字符串的索引结构执行顺序是这样的

1. 从 index1 索引树找到满足索引值是’zhangssxyz@xxx.com’的这条记录取得 ID2 的值；
2. 到主键上查到主键值是 ID2 的行判断 email 的值是正确的将这行记录加入结果集；
3. 取 index1 索引树上刚刚查到的位置的下一条记录发现已经不满足 email='zhangssxyz@xxx.com’的条件了循环结束。

这个过程中只需要回主键索引取一次数据所以系统认为只扫描了一行。

如果使用的是 index2（即 email(6) 索引结构执行顺序是这样的

1. 从 index2 索引树找到满足索引值是’zhangs’的记录找到的第一个是 ID1；
2. 到主键上查到主键值是 ID1 的行判断出 email 的值不是’zhangssxyz@xxx.com’这行记录丢弃；
3. 取 index2 上刚刚查到的位置的下一条记录发现仍然是’zhangs’取出 ID2再到 ID 索引上取整行然后判断这次值对了将这行记录加入结果集；
4. 重复上一步直到在 idxe2 上取到的值不是’zhangs’时循环结束。

在这个过程中要回主键索引取 4 次数据也就是扫描了 4 行。

---

通过这个对比你很容易就可以发现使用前缀索引后可能会导致查询语句读数据的次数变多。但是对于这个查询语句来说如果你定义的 index2 不是 email(6) 而是 email(7也就是说取 email 字段的前 7 个字节来构建索引的话即满足前缀’zhangss’的记录只有一个也能够直接查到 ID2只扫描一行就结束了。

也就是说使用前缀索引定义好长度就可以做到既节省空间又不用额外增加太多的查询成本。

于是就有个问题当要给字符串创建前缀索引时有什么方法能够确定我应该使用多长的前缀呢？

实际上在建立索引时关注的是区分度区分度越高越好。因为区分度越高意味着重复的键值越少。

因此可以通过统计索引上有多少个不同的值来判断要使用多长的前缀。

首先可以使用下面这个语句算出这个列上有多少个不同的值

mysql> select count(distinct email) as L from SUser;

然后依次选取不同长度的前缀来看这个值比如要看一下 4~7 个字节的前缀索引可以用这个语句

mysql> select 
  count(distinct left(email,4)as L4,
  count(distinct left(email,5)as L5,
  count(distinct left(email,6)as L6,
  count(distinct left(email,7)as L7,
from SUser;

当然使用前缀索引很可能会损失区分度所以需要预先设定一个可以接受的损失比例比如 5%。
然后在返回的 L4~L7 中找出不小于 L * 95% 的值假设这里 L6、L7 都满足就可以选择前缀长度为 6。

---

一、前缀索引对覆盖索引的影响

前面说了使用前缀索引可能会增加扫描行数这会影响到性能。

其实前缀索引的影响不止如此再看一下另外一个场景。

先来看看这个 SQL 语句

select id,email from SUser where email='zhangssxyz@xxx.com';

与前面例子中的 SQL 语句

select id,name,email from SUser where email='zhangssxyz@xxx.com';

相比这个语句只要求返回 id 和 email 字段。

所以如果使用 index1（即 email 整个字符串的索引结构的话可以利用·覆盖索引·从 index1 查到结果后直接就返回了不需要回到 ID 索引再去查一次。

如果使用 index2（即 email(6) 索引结构的话就不得不回到 ID 索引再去判断 email 字段的值。

即使将 index2 的定义修改为 email(18) 的前缀索引这时候虽然 index2 已经包含了所有的信息但 InnoDB 还是要回到 id 索引再查一下因为系统并不确定前缀索引的定义是否截断了完整信息。

也就是说使用前缀索引就用不上覆盖索引对查询性能的优化了这也是你在选择是否使用前缀索引时需要考虑的一个因素。

---

二、其他方式

对于类似于邮箱这样的字段来说使用前缀索引的效果可能还不错。

但是遇到前缀的区分度不够好的情况时我们要怎么办呢？

比如国家的身份证号一共 18 位其中前 6 位是地址码所以同一个县的人的身份证号前 6 位一般会是相同的。

假设维护的数据库是一个市的公民信息系统这时候如果对身份证号做长度为 6 的前缀索引的话这个索引的区分度就非常低了。

按照前面说的方法可能需要创建长度为 12 以上的前缀索引才能够满足区分度要求。

但是索引选取的越长占用的磁盘空间就越大相同的数据页能放下的索引值就越少搜索的效率也就会越低。

那么如果能够确定业务需求里面只有按照身份证进行等值查询的需求还有没有别的处理方法呢？

这种方法既可以占用更小的空间也能达到相同的查询效率。

答案是有的。

---

第一种方式是使用倒序存储。

如果存储身份证号的时候把它倒过来存每次查询的时候可以这么写

mysql> select field_list from t where id_card = reverse('input_id_card_string');

由于身份证号的最后 6 位没有地址码这样的重复逻辑所以最后这 6 位很可能就提供了足够的区分度。

当然了实践中不要忘记使用 count(distinct) 方法去做个验证。

---

第二种方式是使用 hash 字段。

可以在表上再创建一个整数字段来保存身份证的校验码同时在这个字段上创建索引。

mysql> alter table t add id_card_crc int unsigned, add index(id_card_crc);

然后每次插入新记录的时候都同时用 crc32() 这个函数得到校验码填到这个新字段。

由于校验码可能存在冲突也就是说两个不同的身份证号通过 crc32() 函数得到的结果可能是相同的所以你的查询语句 where 部分要判断 id_card 的值是否精确相同。

mysql> select field_list from t where id_card_crc=crc32('input_id_card_string') and id_card='input_id_card_string'

这样索引的长度变成了 4 个字节比原来小了很多。

---

再一起看看使用倒序存储和使用 hash 字段这两种方法的异同点。

首先它们的相同点是都不支持范围查询。

倒序存储的字段上创建的索引是按照倒序字符串的方式排序的已经没有办法利用索引方式查出身份证号码在[ID_X, ID_Y]的所有市民了。同样地hash 字段的方式也只能支持等值查询。

它们的区别主要体现在以下三个方面

1. 从占用的额外空间来看
   • 倒序存储方式在主键索引上不会消耗额外的存储空间
   • hash 字段方法需要增加一个字段。当然倒序存储方式使用 4 个字节的前缀长度应该是不够的如果再长一点这个消耗跟额外这个 hash 字段也差不多抵消了。
2. 在 CPU 消耗方面
   • 倒序方式每次写和读的时候都需要额外调用一次 reverse 函数
   • hash 字段的方式需要额外调用一次 crc32() 函数。
     如果只从这两个函数的计算复杂度来看的话reverse 函数额外消耗的 CPU 资源会更小些。
3. 从查询效率上
   • 使用 hash 字段方式的查询性能相对更稳定一些。因为 crc32 算出来的值虽然有冲突的概率但是概率非常小可以认为每次查询的平均扫描行数接近 1。
   • 倒序存储方式毕竟还是用的前缀索引的方式也就是说还是会增加扫描行数。

---

三、总结

字符串字段创建索引的场景可以使用的方式有

1. 直接创建完整索引这样可能比较占用空间；
2. 创建前缀索引节省空间但会增加查询扫描次数并且不能使用覆盖索引；
3. 倒序存储再创建前缀索引用于绕过字符串本身前缀的区分度不够的问题不支持范围扫描；
4. 创建 hash 字段索引查询性能稳定有额外的存储和计算消耗跟第三种方式一样都不支持范围扫描。

在实际应用中你要根据业务字段的特点选择使用哪种方式。

---

如果你在维护一个学校的学生信息数据库学生登录名的统一格式是”学号 @gmail.com", 而学号的规则是
十五位的数字

• 其中前三位是所在城市编号
• 第四到第六位是学校编号
• 第七位到第十位是入学年份
• 最后五位是顺序编号

系统登录的时候都需要学生输入登录名和密码验证正确后才能继续使用系统。就只考虑登录验证这个行为的话怎么设计这个登录名的索引呢？

首先排除全部索引占空间其次排除前缀索引区分度不高再排除倒序索引区分度还没前缀索引高。

最后hash索引适合而且只是登录检验不需要范围查询。

---