釣友寶 (微信小程序):一款專門(mén)為 釣友 開(kāi)發(fā)的 免費(fèi)的 分享釣點(diǎn)地圖與實(shí)時(shí)天氣的軟件,地圖中標(biāo)記了所有野釣、釣場(chǎng)、公共水域等的精確位置,支持導(dǎo)航、 預(yù)測(cè)釣魚(yú)位置的魚(yú)情 等功能。
前言

在 mysql 中設(shè)計(jì)表的時(shí)候,mysql 官方推薦不要使用 uuid 或者不連續(xù)不重復(fù)的雪花 id(long 形且唯一,單機(jī)遞增),而是推薦連續(xù)自增的主鍵 id,官方的推薦是 auto_increment,那么為什么不建議采用 uuid,使用 uuid 究竟有什么壞處?

一、mysql 和程序?qū)嵗?/p>

1.1.要說(shuō)明這個(gè)問(wèn)題,我們首先來(lái)建立三張表

分別是 user_auto_key,user_uuid,user_random_key,分別表示自動(dòng)增長(zhǎng)的主鍵,uuid 作為主鍵,隨機(jī) key 作為主鍵,其它我們完全保持不變。

根據(jù)控制變量法,我們只把每個(gè)表的主鍵使用不同的策略生成,而其他的字段完全一樣,然后測(cè)試一下表的插入速度和查詢速度:

注:這里的隨機(jī) key 其實(shí)是指用雪花算法算出來(lái)的前后不連續(xù)不重復(fù)無(wú)規(guī)律的 id:一串 18 位長(zhǎng)度的 long 值

id 自動(dòng)生成表:

打開(kāi)網(wǎng)易新聞 查看精彩圖片

用戶 uuid 表:

打開(kāi)網(wǎng)易新聞 查看精彩圖片

隨機(jī)主鍵表:

打開(kāi)網(wǎng)易新聞 查看精彩圖片

1.2.光有理論不行,直接上程序,使用 spring 的 jdbcTemplate 來(lái)實(shí)現(xiàn)增查測(cè)試:

技術(shù)框架:springboot+jdbcTemplate+junit+hutool,程序的原理就是連接自己的測(cè)試數(shù)據(jù)庫(kù),然后在相同的環(huán)境下寫(xiě)入同等數(shù)量的數(shù)據(jù),來(lái)分析一下 insert 插入的時(shí)間來(lái)進(jìn)行綜合其效率,為了做到最真實(shí)的效果,所有的數(shù)據(jù)采用隨機(jī)生成,比如名字、郵箱、地址都是隨機(jī)生成。

package com.wyq.mysqldemo; import cn.hutool.core.collection.CollectionUtil; import com.wyq.mysqldemo.databaseobject.UserKeyAuto; import com.wyq.mysqldemo.databaseobject.UserKeyRandom; import com.wyq.mysqldemo.databaseobject.UserKeyUUID; import com.wyq.mysqldemo.diffkeytest.AutoKeyTableService; import com.wyq.mysqldemo.diffkeytest.RandomKeyTableService; import com.wyq.mysqldemo.diffkeytest.UUIDKeyTableService; import com.wyq.mysqldemo.util.JdbcTemplateService; import org.junit.jupiter.api.Test; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.boot.test.context.SpringBootTest; import org.springframework.util.StopWatch; import java.util.List; @SpringBootTest classMysqlDemoApplicationTests{     @Autowired     private JdbcTemplateService jdbcTemplateService;     @Autowired     private AutoKeyTableService autoKeyTableService;     @Autowired     private UUIDKeyTableService uuidKeyTableService;     @Autowired     private RandomKeyTableService randomKeyTableService;     @Test     voidtestDBTime(){         StopWatch stopwatch = new StopWatch("執(zhí)行sql時(shí)間消耗");         /**          * auto_increment key任務(wù)          */         final String insertSql = "INSERT INTO user_key_auto(user_id,user_name,sex,address,city,email,state) VALUES(?,?,?,?,?,?,?)";         List insertData = autoKeyTableService.getInsertData();         stopwatch.start("自動(dòng)生成key表任務(wù)開(kāi)始");         long start1 = System.currentTimeMillis();         if (CollectionUtil.isNotEmpty(insertData)) {             boolean insertResult = jdbcTemplateService.insert(insertSql, insertData, false);             System.out.println(insertResult);         }         long end1 = System.currentTimeMillis();         System.out.println("auto key消耗的時(shí)間:" + (end1 - start1));         stopwatch.stop();         /**          * uudID的key          */         final String insertSql2 = "INSERT INTO user_uuid(id,user_id,user_name,sex,address,city,email,state) VALUES(?,?,?,?,?,?,?,?)";         List insertData2 = uuidKeyTableService.getInsertData();         stopwatch.start("UUID的key表任務(wù)開(kāi)始");         long begin = System.currentTimeMillis();         if (CollectionUtil.isNotEmpty(insertData)) {             boolean insertResult = jdbcTemplateService.insert(insertSql2, insertData2, true);             System.out.println(insertResult);         }         long over = System.currentTimeMillis();         System.out.println("UUID key消耗的時(shí)間:" + (over - begin));         stopwatch.stop();         /**          * 隨機(jī)的long值key          */         final String insertSql3 = "INSERT INTO user_random_key(id,user_id,user_name,sex,address,city,email,state) VALUES(?,?,?,?,?,?,?,?)";         List insertData3 = randomKeyTableService.getInsertData();         stopwatch.start("隨機(jī)的long值key表任務(wù)開(kāi)始");         Long start = System.currentTimeMillis();         if (CollectionUtil.isNotEmpty(insertData)) {             boolean insertResult = jdbcTemplateService.insert(insertSql3, insertData3, true);             System.out.println(insertResult);         }         Long end = System.currentTimeMillis();         System.out.println("隨機(jī)key任務(wù)消耗時(shí)間:" + (end - start));         stopwatch.stop();         String result = stopwatch.prettyPrint();         System.out.println(result);     }

1.3.程序?qū)懭虢Y(jié)果

user_key_auto 寫(xiě)入結(jié)果:

打開(kāi)網(wǎng)易新聞 查看精彩圖片

user_random_key 寫(xiě)入結(jié)果:

打開(kāi)網(wǎng)易新聞 查看精彩圖片

user_uuid 表寫(xiě)入結(jié)果:

打開(kāi)網(wǎng)易新聞 查看精彩圖片

1.4.效率測(cè)試結(jié)果

打開(kāi)網(wǎng)易新聞 查看精彩圖片

在已有數(shù)據(jù)量為 130W 的時(shí)候:我們?cè)賮?lái)測(cè)試一下插入 10w 數(shù)據(jù),看看會(huì)有什么結(jié)果:

打開(kāi)網(wǎng)易新聞 查看精彩圖片

可以看出在數(shù)據(jù)量 100W 左右的時(shí)候,uuid 的插入效率墊底,并且在后序增加了 130W 的數(shù)據(jù),uudi 的時(shí)間又直線下降。

時(shí)間占用量總體可以得出的效率排名為:auto_key>random_key>uuid,uuid 的效率最低,在數(shù)據(jù)量較大的情況下,效率直線下滑。那么為什么會(huì)出現(xiàn)這樣的現(xiàn)象呢?帶著疑問(wèn),我們來(lái)探討一下這個(gè)問(wèn)題。

二、使用 uuid 和自增 id 的索引結(jié)構(gòu)對(duì)比

2.1.使用自增 id 的內(nèi)部結(jié)構(gòu)

打開(kāi)網(wǎng)易新聞 查看精彩圖片

自增的主鍵的值是順序的,所以 Innodb 把每一條記錄都存儲(chǔ)在一條記錄的后面。當(dāng)達(dá)到頁(yè)面的最大填充因子時(shí)候(innodb 默認(rèn)的最大填充因子是頁(yè)大小的 15/16,會(huì)留出 1/16 的空間留作以后的修改):

  • 下一條記錄就會(huì)寫(xiě)入新的頁(yè)中,一旦數(shù)據(jù)按照這種順序的方式加載,主鍵頁(yè)就會(huì)近乎于順序的記錄填滿,提升了頁(yè)面的最大填充率,不會(huì)有頁(yè)的浪費(fèi);

  • 新插入的行一定會(huì)在原有的最大數(shù)據(jù)行下一行,mysql 定位和尋址很快,不會(huì)為計(jì)算新行的位置而做出額外的消耗;

  • 減少了頁(yè)分裂和碎片的產(chǎn)生。

2.2.使用 uuid 的索引內(nèi)部結(jié)構(gòu)

打開(kāi)網(wǎng)易新聞 查看精彩圖片

因?yàn)?uuid 相對(duì)順序的自增 id 來(lái)說(shuō)是毫無(wú)規(guī)律可言的,新行的值不一定要比之前的主鍵的值要大,所以 innodb 無(wú)法做到總是把新行插入到索引的最后,而是需要為新行尋找新的合適的位置從而來(lái)分配新的空間。

這個(gè)過(guò)程需要做很多額外的操作,數(shù)據(jù)的毫無(wú)順序會(huì)導(dǎo)致數(shù)據(jù)分布散亂,將會(huì)導(dǎo)致以下的問(wèn)題:

寫(xiě)入的目標(biāo)頁(yè)很可能已經(jīng)刷新到磁盤(pán)上并且從緩存上移除,或者還沒(méi)有被加載到緩存中,innodb 在插入之前不得不先找到并從磁盤(pán)讀取目標(biāo)頁(yè)到內(nèi)存中,這將導(dǎo)致大量的隨機(jī) IO

因?yàn)閷?xiě)入是亂序的,innodb 不得不頻繁的做頁(yè)分裂操作,以便為新的行分配空間,頁(yè)分裂導(dǎo)致移動(dòng)大量的數(shù)據(jù),一次插入最少需要修改三個(gè)頁(yè)以上

由于頻繁的頁(yè)分裂,頁(yè)會(huì)變得稀疏并被不規(guī)則的填充,最終會(huì)導(dǎo)致數(shù)據(jù)會(huì)有碎片

在把隨機(jī)值(uuid 和雪花 id)載入到聚簇索引(innodb 默認(rèn)的索引類型)以后,有時(shí)候會(huì)需要做一次 OPTIMEIZE TABLE 來(lái)重建表并優(yōu)化頁(yè)的填充,這將又需要一定的時(shí)間消耗。

結(jié)論:使用 innodb 應(yīng)該盡可能的按主鍵的自增順序插入,并且盡可能使用單調(diào)的增加的聚簇鍵的值來(lái)插入新行

2.3.使用自增 id 的缺點(diǎn)

那么使用自增的 id 就完全沒(méi)有壞處了嗎?并不是,自增 id 也會(huì)存在以下幾點(diǎn)問(wèn)題:

別人一旦爬取你的數(shù)據(jù)庫(kù),就可以根據(jù)數(shù)據(jù)庫(kù)的自增 id 獲取到你的業(yè)務(wù)增長(zhǎng)信息,很容易分析出你的經(jīng)營(yíng)情況

對(duì)于高并發(fā)的負(fù)載,innodb 在按主鍵進(jìn)行插入的時(shí)候會(huì)造成明顯的鎖爭(zhēng)用,主鍵的上界會(huì)成為爭(zhēng)搶的熱點(diǎn),因?yàn)樗械牟迦攵及l(fā)生在這里,并發(fā)插入會(huì)導(dǎo)致間隙鎖競(jìng)爭(zhēng)

Auto_Increment 鎖機(jī)制會(huì)造成自增鎖的搶奪,有一定的性能損失。

附:Auto_increment 的鎖爭(zhēng)搶問(wèn)題,如果要改善需要調(diào)優(yōu) innodb_autoinc_lock_mode 的配置
三、總結(jié)

本篇博客首先從開(kāi)篇的提出問(wèn)題,建表到使用 jdbcTemplate 去測(cè)試不同 id 的生成策略在大數(shù)據(jù)量的數(shù)據(jù)插入表現(xiàn),然后分析了 id 的機(jī)制不同在 mysql 的索引結(jié)構(gòu)以及優(yōu)缺點(diǎn),深入的解釋了為何 uuid 和隨機(jī)不重復(fù) id 在數(shù)據(jù)插入中的性能損耗,詳細(xì)的解釋了這個(gè)問(wèn)題。

在實(shí)際的開(kāi)發(fā)中還是根據(jù) mysql 的官方推薦最好使用自增 id,mysql 博大精深,內(nèi)部還有很多值得優(yōu)化的點(diǎn)需要我們學(xué)習(xí)。

附:本篇博客 demo 地址:https://gitee.com/Yrion/mysqlIdDemo

Java精選面試題 (微信小程序):5000+道面試題和選擇題,包含Java基礎(chǔ)、MQ、Redis、SpringBoot、Elasticsearch、Docker、K8s、Flink、Spark、架構(gòu)設(shè)計(jì)、大廠真題等,在線隨時(shí)刷題!
來(lái)源:https://www.cnblogs.com/wyq178/p/12548864.html

公眾號(hào)“Java精選”所發(fā)表內(nèi)容注明來(lái)源的,版權(quán)歸原出處所有(無(wú)法查證版權(quán)的或者未注明出處的均來(lái)自網(wǎng)絡(luò),系轉(zhuǎn)載,轉(zhuǎn)載的目的在于傳遞更多信息,版權(quán)屬于原作者。如有侵權(quán),請(qǐng)聯(lián)系,筆者會(huì)第一時(shí)間刪除處理!

最近有很多人問(wèn),有沒(méi)有讀者或者摸魚(yú)交流群!加入方式很簡(jiǎn)單,公眾號(hào)Java精選,回復(fù)“加群”,即可入群!

文章有幫助的話,點(diǎn)在看,轉(zhuǎn)發(fā)吧!