目錄

• 1. 前綴索引與全部索引概念
• 2. 前綴索引與全部索引數(shù)據(jù)結(jié)構(gòu)
• 3. 前綴索引與全部索引引執(zhí)行流程
• 4. 前綴索引長(zhǎng)度如何取舍
• 5. 前綴索引對(duì)覆蓋索引的影響
• 6. 其他解決方案
• 7. 梳理總結(jié)

1. 前綴索引與全部索引概念

怎么給字符串字段加索引？現(xiàn)在，幾乎所有的系統(tǒng)都支持郵箱登錄，如何在郵箱這樣的字段上建立合理的索引，是我們今天要討論的問(wèn)題。

假設(shè)，你現(xiàn)在維護(hù)一個(gè)支持郵箱登錄的系統(tǒng)，用戶(hù)表是這么定義的

create table SUser(ID bigint unsigned primary key,email varchar(64),name varchar(64),...)engine=innodb;

由于要使用郵箱登錄，所以業(yè)務(wù)代碼中一定會(huì)出現(xiàn)類(lèi)似于這樣的語(yǔ)句：

select f1, f2 from SUser where email="xxx";

我們知道，如果email這個(gè)字段上沒(méi)有索引，那么這個(gè)語(yǔ)句就只能做全表掃描。

MySQL支持全部索引與前綴索引。MySQL是支持前綴索引的，也就是說(shuō)，你可以定義字符串的一部分作為索引。默認(rèn)地，如果你創(chuàng)建索引的語(yǔ)句不指定前綴長(zhǎng)度，那么索引就會(huì)包含整個(gè)字符串。

比如，這兩個(gè)在email字段上創(chuàng)建索引的語(yǔ)句：

-- 全部索引，索引字段為email整個(gè)字符串a(chǎn)lter table SUser add index index1(email);-- 前綴索引，6表示索引字段為email的前6位alter table SUser add index index2(email(6));

第一個(gè)語(yǔ)句創(chuàng)建的index1索引里面，包含了每個(gè)記錄的整個(gè)字符串；而第二個(gè)語(yǔ)句創(chuàng)建的index2索引里面，對(duì)于每個(gè)記錄都是只取前6個(gè)字節(jié)。

2. 前綴索引與全部索引數(shù)據(jù)結(jié)構(gòu)

這兩種不同的定義在數(shù)據(jù)結(jié)構(gòu)和存儲(chǔ)上有什么區(qū)別呢？如圖2和3所示，就是這兩個(gè)索引的示意圖。
mysql全部索引數(shù)據(jù)結(jié)構(gòu)

mysql前綴索引數(shù)據(jù)結(jié)構(gòu)

從圖中你可以看到，由于email(6)這個(gè)索引結(jié)構(gòu)中每個(gè)郵箱字段都只取前6個(gè)字節(jié)（即：zhangs），所以占用的空間會(huì)更小，這就是使用前綴索引的優(yōu)勢(shì)。但，這同時(shí)帶來(lái)的損失是，可能會(huì)增加額外的記錄掃描次數(shù)。

3. 前綴索引與全部索引引執(zhí)行流程

接下來(lái)，我們?cè)倏纯聪旅孢@個(gè)語(yǔ)句，在這兩個(gè)索引定義下分別是怎么執(zhí)行的。
如 index1（即email整個(gè)字符串的索引結(jié)構(gòu)），執(zhí)行順序是這樣的：

• 從index1索引樹(shù)找到滿(mǎn)足索引值是’[email protected]’的這條記錄，取得ID2的值；
• 到主鍵上查到主鍵值是ID2的行，判斷email的值是正確的，將這行記錄加入結(jié)果集；
• 取index1索引樹(shù)上剛剛查到的位置的下一條記錄，發(fā)現(xiàn)已經(jīng)不滿(mǎn)足email='[email protected]’的條件了，循環(huán)結(jié)束。

這個(gè)過(guò)程中，只需要回主鍵索引取一次數(shù)據(jù)，所以系統(tǒng)認(rèn)為只掃描了一行。

如 index2（即email(6)索引結(jié)構(gòu)），執(zhí)行順序是這樣的：

• 從index2索引樹(shù)找到滿(mǎn)足索引值是’zhangs’的記錄，找到的第一個(gè)是ID1；
• 到主鍵上查到主鍵值是ID1的行，判斷出email的值不是’[email protected]’，這行記錄丟棄；
• 取index2上剛剛查到的位置的下一條記錄，發(fā)現(xiàn)仍然是’zhangs’，取出ID2，再到ID索引上取整行然后判斷，這次值對(duì)了，將這行記錄加入結(jié)果集；
• 重復(fù)上一步，直到在idxe2上取到的值不是’zhangs’時(shí)，循環(huán)結(jié)束。

在這個(gè)過(guò)程中，要回主鍵索引取4次數(shù)據(jù)，也就是掃描了4行。

通過(guò)這個(gè)對(duì)比，你很容易就可以發(fā)現(xiàn)，使用前綴索引后，可能會(huì)導(dǎo)致查詢(xún)語(yǔ)句讀數(shù)據(jù)的次數(shù)變多。

4. 前綴索引長(zhǎng)度如何取舍

對(duì)于這個(gè)查詢(xún)語(yǔ)句來(lái)說(shuō)，如果你定義的index2不是email(6)而是email(7），也就是說(shuō)取email字段的前7個(gè)字節(jié)來(lái)構(gòu)建索引的話，即滿(mǎn)足前綴’zhangss’的記錄只有一個(gè)，也能夠直接查到ID2，只掃描一行就結(jié)束了。
也就是說(shuō)使用前綴索引，定義好長(zhǎng)度，就可以做到既節(jié)省空間，又不用額外增加太多的查 使詢(xún)成本。
于是，你就有個(gè)問(wèn)題：當(dāng)要給字符串創(chuàng)建前綴索引時(shí)，有什么方法能夠確定我應(yīng)該使用多長(zhǎng)的前綴呢？實(shí)際上，我們?cè)诮⑺饕龝r(shí)關(guān)注的是區(qū)分度，區(qū)分度越高越好。因?yàn)閰^(qū)分度越高，意味著重復(fù)的鍵值越少。因此，我們可以通過(guò)統(tǒng)計(jì)索引上有多少個(gè)不同的值來(lái)判斷要使用多長(zhǎng)的前綴。

首先，你可以使用下面這個(gè)語(yǔ)句，算出這個(gè)列上有多少個(gè)不同的值：

select count(distinct email) as L from SUser;

然后，依次選取不同長(zhǎng)度的前綴來(lái)看這個(gè)值，比如我們要看一下4~7個(gè)字節(jié)的前綴索引，可以用這個(gè)語(yǔ)句：

selectcount(distinct left(email,4)）as L4,count(distinct left(email,5)）as L5,count(distinct left(email,6)）as L6,count(distinct left(email,7)）as L7,from SUser;

當(dāng)然，使用前綴索引很可能會(huì)損失區(qū)分度，所以你需要預(yù)先設(shè)定一個(gè)可以接受的損失比例，比如5%。然后，在返回的L4~L7中，找出不小于 L * 95%的值，假設(shè)這里L(fēng)6、L7都滿(mǎn)足，你就可以選擇前綴長(zhǎng)度為6。

5. 前綴索引對(duì)覆蓋索引的影響

前面我們說(shuō)了使用前綴索引可能會(huì)增加掃描行數(shù)，這會(huì)影響到性能。其實(shí)，前綴索引的影響不止如此，我們?cè)倏匆幌铝硗庖粋€(gè)場(chǎng)景。

你先來(lái)看看這個(gè)SQL語(yǔ)句

select id,email from SUser where email="[email protected]";

與前面例子中的SQL語(yǔ)句

select id,name,email from SUser where email="[email protected]";

id是主鍵，email是索引，name不是索引的情況下，先說(shuō)結(jié)論，當(dāng)email是全部索引的時(shí)候第一個(gè)sql會(huì)走覆蓋索引，第二個(gè)不會(huì)走覆蓋索引，當(dāng)email為前綴索引的時(shí)候哪怕前綴為全部字符串長(zhǎng)度依然無(wú)法走覆蓋索引。

所以，如果使用index1（即email整個(gè)字符串的索引結(jié)構(gòu)）的話，可以利用覆蓋索引，從index1查到結(jié)果后直接就返回了，不需要回到ID索引再去查一次。而如果使用index2（即email(6)索引結(jié)構(gòu)）的話，就不得不回到ID索引再去判斷email字段的值。

即使你將index2的定義修改為email(18)的前綴索引，這時(shí)候雖然index2已經(jīng)包含了所有的信息，但I(xiàn)nnoDB還是要回到id索引再查一下，因?yàn)橄到y(tǒng)并不確定前綴索引的定義是否截?cái)嗔送暾畔ⅰ?/p>

也就是說(shuō)，使用前綴索引就用不上覆蓋索引對(duì)查詢(xún)性能的優(yōu)化了，這也是你在選擇是否使用前綴索引時(shí)需要考慮的一個(gè)因素。

6. 其他解決方案

對(duì)于類(lèi)似于郵箱這樣的字段來(lái)說(shuō)，使用前綴索引的效果可能還不錯(cuò)。但是，遇到前綴的區(qū)分度不夠好的情況時(shí)，我們要怎么辦呢？

比如，我們國(guó)家的身份證號(hào)，一共18位，其中前6位是地址碼，所以同一個(gè)縣的人的身份證號(hào)前6位一般會(huì)是相同的。假設(shè)你維護(hù)的數(shù)據(jù)庫(kù)是一個(gè)市的公民信息系統(tǒng)，這時(shí)候如果對(duì)身份證號(hào)做長(zhǎng)度為6的前綴索引的話，這個(gè)索引的區(qū)分度就非常低了。按照我們前面說(shuō)的方法，可能你需要?jiǎng)?chuàng)建長(zhǎng)度為12以上的前綴索引，才能夠滿(mǎn)足區(qū)分度要求。但是，索引選取的越長(zhǎng)，占用的磁盤(pán)空間就越大，相同的數(shù)據(jù)頁(yè)能放下的索引值就越少，搜索的效率也就會(huì)越低。

那么，如果我們能夠確定業(yè)務(wù)需求里面只有按照身份證進(jìn)行等值查詢(xún)的需求，還有沒(méi)有別的處理方法呢？這種方法，既可以占用更小的空間，也能達(dá)到相同的查詢(xún)效率。答案是，有的。

第一種方式是使用倒序存儲(chǔ)。 第 如果你存儲(chǔ)身份證號(hào)的時(shí)候把它倒過(guò)來(lái)存，每次查詢(xún)的時(shí)候，你可以這么寫(xiě)：

select field_list from t where id_card = reverse("input_id_card_string");

由于身份證號(hào)的最后6位沒(méi)有地址碼這樣的重復(fù)邏輯，所以最后這6位很可能就提供了足夠的區(qū)分度。當(dāng)然了，實(shí)踐中你不要忘記使用count(distinct)方法去做個(gè)驗(yàn)證。

第二種方式是使用 第 hash h 字段。 字 你可以在表上再創(chuàng)建一個(gè)整數(shù)字段，來(lái)保存身份證的校驗(yàn)碼，同時(shí)在這個(gè)字段上創(chuàng)建索引。

 alter table t add id_card_crc int unsigned, add index(id_card_crc);

然后每次插入新記錄的時(shí)候，都同時(shí)用crc32()這個(gè)函數(shù)得到校驗(yàn)碼填到這個(gè)新字段。由于校驗(yàn)碼可能存在沖突，也就是說(shuō)兩個(gè)不同的身份證號(hào)通過(guò)crc32()函數(shù)得到的結(jié)果可能是相同的，所以你的查詢(xún)語(yǔ)句where部分要判斷id_card的值是否精確相同。

select field_list from t where id_card_crc=crc32("input_id_card_string") and id_card="input_id_card_string"

這樣，索引的長(zhǎng)度變成了4個(gè)字節(jié)，比原來(lái)小了很多。

接下來(lái)，我們?cè)僖黄鹂纯词褂玫剐虼鎯?chǔ)和使用 使 hash h 字段這兩種方法的異同點(diǎn)。 字首先，它們的相同點(diǎn)是，都不支持范圍查詢(xún)。倒序存儲(chǔ)的字段上創(chuàng)建的索引是按照倒序字符串的方式排序的，已經(jīng)沒(méi)有辦法利用索引方式查出身份證號(hào)碼在[ID_X, ID_Y]的所有市民了。同樣地，hash字段的方式也只能支持等值查詢(xún)。

它們的區(qū)別，主要體現(xiàn)在以下三個(gè)方面：

• 從占用的額外空間來(lái)看，倒序存儲(chǔ)方式在主鍵索引上，不會(huì)消耗額外的存儲(chǔ)空間，而hash字段方法需要增加一個(gè)字段。當(dāng)然，倒序存儲(chǔ)方式使用4個(gè)字節(jié)的前綴長(zhǎng)度應(yīng)該是不夠的，如果再長(zhǎng)一點(diǎn)，這個(gè)消耗跟額外這個(gè)hash字段也差不多抵消了。
• 在CPU消耗方面，倒序方式每次寫(xiě)和讀的時(shí)候，都需要額外調(diào)用一次reverse函數(shù)，而hash字段的方式需要額外調(diào)用一次crc32()函數(shù)。如果只從這兩個(gè)函數(shù)的計(jì)算復(fù)雜度來(lái)看的話，reverse函數(shù)額外消耗的CPU資源會(huì)更小些。
• 從查詢(xún)效率上看，使用hash字段方式的查詢(xún)性能相對(duì)更穩(wěn)定一些。因?yàn)閏rc32算出來(lái)的值雖然有沖突的概率，但是概率非常小，可以認(rèn)為每次查詢(xún)的平均掃描行數(shù)接近1。而倒序存儲(chǔ)方式畢竟還是用的前綴索引的方式，也就是說(shuō)還是會(huì)增加掃描行數(shù)。

7. 梳理總結(jié)

總體來(lái)說(shuō)的話全部索引會(huì)占用一部分空間，但是可以走覆蓋索引，區(qū)分度比較高，減少回表次數(shù)，前綴索引雖然減少了部分空間，但是需要平衡區(qū)分度，而且需要時(shí)刻關(guān)注表中索引字段的變化，因?yàn)殡S著數(shù)據(jù)的變化區(qū)分度也會(huì)變化，可能原來(lái)前綴6個(gè)字段區(qū)分度就能達(dá)到95%以上，但是隨著數(shù)據(jù)增加前6個(gè)字段只能達(dá)到60%的區(qū)分度，另外一點(diǎn)就是覆蓋索引無(wú)法使用，雖然倒敘或者h(yuǎn)ash能解決空間問(wèn)題，但是又會(huì)產(chǎn)生新的問(wèn)題，比如需要函數(shù)，增加字段等，是查詢(xún)效率降低，折中選擇全部索引會(huì)更加穩(wěn)妥，效率更高，當(dāng)然對(duì)于特定的字符串比如自己公司email，前6位足夠區(qū)分，而且后續(xù)不會(huì)有改動(dòng)，這時(shí)前綴索引既能減少空間占用，又能達(dá)到與全部索引一樣的效果，使用前綴會(huì)更好。具體使用場(chǎng)景一定是結(jié)合具體的業(yè)務(wù)場(chǎng)景選擇。

到此這篇關(guān)于MySQL字符串前綴索引使用的文章就介紹到這了,更多相關(guān)MySQL字符串前綴索引內(nèi)容請(qǐng)搜索以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持！