MySQL分庫分表id主鍵處理方式
MySQL分庫分表id主鍵處理
1 問題分析
分庫分表之后,id 主鍵如何處理?
其實(shí)這是分庫分表之后你必然要面對的一個問題,就是 id 咋生成?因?yàn)橐欠殖啥鄠€表之后,每個表都是從 1 開始累加,那肯定不對啊,需要一個全局唯一的 id 來支持。所以這都是你實(shí)際生產(chǎn)環(huán)境中必須考慮的問題。
2 面試題回答
2.1 基于數(shù)據(jù)庫的實(shí)現(xiàn)方案
數(shù)據(jù)庫自增 id
這個就是說你的系統(tǒng)里每次得到一個 id,都是往一個庫的一個表里插入一條沒什么業(yè)務(wù)含義的數(shù)據(jù),然后獲取一個數(shù)據(jù)庫自增的一個 id。拿到這個 id 之后再往對應(yīng)的分庫分表里去寫入。
這個方案的好處就是方便簡單,誰都會用;缺點(diǎn)就是單庫生成自增 id,要是高并發(fā)的話,就會有瓶頸的;如果你硬是要改進(jìn)一下,那么就專門開一個服務(wù)出來,這個服務(wù)每次就拿到當(dāng)前 id 最大值,然后自己遞增幾個 id,一次性返回一批 id,然后再把當(dāng)前最大 id 值修改成遞增幾個 id 之后的一個值;但是無論如何都是基于單個數(shù)據(jù)庫。
適合的場景:你分庫分表就倆原因,要不就是單庫并發(fā)太高,要不就是單庫數(shù)據(jù)量太大;除非是你并發(fā)不高,但是數(shù)據(jù)量太大導(dǎo)致的分庫分表擴(kuò)容,你可以用這個方案,因?yàn)榭赡苊棵胱罡卟l(fā)最多就幾百,那么就走單獨(dú)的一個庫和表生成自增主鍵即可。
2.2 UUID
好處就是本地生成,不要基于數(shù)據(jù)庫來了;不好之處就是,UUID 太長了、占用空間大,作為主鍵性能太差了;更重要的是,UUID 不具有有序性,會導(dǎo)致 B+ 樹索引在寫的時候有過多的隨機(jī)寫操作(連續(xù)的 ID 可以產(chǎn)生部分順序?qū)懀?,還有,由于在寫的時候不能產(chǎn)生有順序的 append 操作,而需要進(jìn)行 insert 操作,將會讀取整個 B+ 樹節(jié)點(diǎn)到內(nèi)存,在插入這條記錄后會將整個節(jié)點(diǎn)寫回磁盤,這種操作在記錄占用空間比較大的情況下,性能下降明顯。
適合的場景:如果你是要隨機(jī)生成個什么文件名、編號之類的,你可以用 UUID,但是作為主鍵是不能用 UUID 的。
UUID.randomUUID().toString().replace(“-”, “”) -> sfsdf23423rr234sfdaf
2.3 獲取系統(tǒng)當(dāng)前時間
這個就是獲取當(dāng)前時間即可,但是問題是,并發(fā)很高的時候,比如一秒并發(fā)幾千,會有重復(fù)的情況,這個是肯定不合適的?;揪筒挥每紤]了。
適合的場景:一般如果用這個方案,是將當(dāng)前時間跟很多其他的業(yè)務(wù)字段拼接起來,作為一個 id,如果業(yè)務(wù)上你覺得可以接受,那么也是可以的。你可以將別的業(yè)務(wù)字段值跟當(dāng)前時間拼接起來,組成一個全局唯一的編號。
2.4 snowflake 算法
snowflake 算法是 twitter 開源的分布式 id 生成算法,采用 Scala 語言實(shí)現(xiàn),是把一個 64 位的 long 型的 id,1 個 bit 是不用的,用其中的 41 bit 作為毫秒數(shù),用 10 bit 作為工作機(jī)器 id,12 bit 作為序列號。
- 1 bit:不用,為啥呢?因?yàn)槎M(jìn)制里第一個 bit 為如果是 1,那么都是負(fù)數(shù),但是我們生成的 id 都是正數(shù),所以第一個 bit 統(tǒng)一都是 0。
- 41 bit:表示的是時間戳,單位是毫秒。41 bit 可以表示的數(shù)字多達(dá)
2^41 - 1
,也就是可以標(biāo)識2^41 - 1
個毫秒值,換算成年就是表示69年的時間。 - 10 bit:記錄工作機(jī)器 id,代表的是這個服務(wù)最多可以部署在 2^10臺機(jī)器上哪,也就是1024臺機(jī)器。但是 10 bit 里 5 個 bit 代表機(jī)房 id,5 個 bit 代表機(jī)器 id。意思就是最多代表
2^5
個機(jī)房(32個機(jī)房),每個機(jī)房里可以代表2^5
個機(jī)器(32臺機(jī)器)。 - 12 bit:這個是用來記錄同一個毫秒內(nèi)產(chǎn)生的不同 id,12 bit 可以代表的最大正整數(shù)是
2^12 - 1 = 4096
,也就是說可以用這個 12 bit 代表的數(shù)字來區(qū)分同一個毫秒內(nèi)的 4096 個不同的 id。
0 | 0001100 10100010 10111110 10001001 01011100 00 | 10001 | 1 1001 | 0000 00000000
public class IdWorker { private long workerId; private long datacenterId; private long sequence; public IdWorker(long workerId, long datacenterId, long sequence) { // sanity check for workerId // 這兒不就檢查了一下,要求就是你傳遞進(jìn)來的機(jī)房id和機(jī)器id不能超過32,不能小于0 if (workerId > maxWorkerId || workerId < 0) { throw new IllegalArgumentException( String.format("worker Id can't be greater than %d or less than 0", maxWorkerId)); } if (datacenterId > maxDatacenterId || datacenterId < 0) { throw new IllegalArgumentException( String.format("datacenter Id can't be greater than %d or less than 0", maxDatacenterId)); } System.out.printf( "worker starting. timestamp left shift %d, datacenter id bits %d, worker id bits %d, sequence bits %d, workerid %d", timestampLeftShift, datacenterIdBits, workerIdBits, sequenceBits, workerId); this.workerId = workerId; this.datacenterId = datacenterId; this.sequence = sequence; } private long twepoch = 1288834974657L; private long workerIdBits = 5L; private long datacenterIdBits = 5L; // 這個是二進(jìn)制運(yùn)算,就是 5 bit最多只能有31個數(shù)字,也就是說機(jī)器id最多只能是32以內(nèi) private long maxWorkerId = -1L ^ (-1L << workerIdBits); // 這個是一個意思,就是 5 bit最多只能有31個數(shù)字,機(jī)房id最多只能是32以內(nèi) private long maxDatacenterId = -1L ^ (-1L << datacenterIdBits); private long sequenceBits = 12L; private long workerIdShift = sequenceBits; private long datacenterIdShift = sequenceBits + workerIdBits; private long timestampLeftShift = sequenceBits + workerIdBits + datacenterIdBits; private long sequenceMask = -1L ^ (-1L << sequenceBits); private long lastTimestamp = -1L; public long getWorkerId() { return workerId; } public long getDatacenterId() { return datacenterId; } public long getTimestamp() { return System.currentTimeMillis(); } public synchronized long nextId() { // 這兒就是獲取當(dāng)前時間戳,單位是毫秒 long timestamp = timeGen(); if (timestamp < lastTimestamp) { System.err.printf("clock is moving backwards. Rejecting requests until %d.", lastTimestamp); throw new RuntimeException(String.format( "Clock moved backwards. Refusing to generate id for %d milliseconds", lastTimestamp - timestamp)); } if (lastTimestamp == timestamp) { // 這個意思是說一個毫秒內(nèi)最多只能有4096個數(shù)字 // 無論你傳遞多少進(jìn)來,這個位運(yùn)算保證始終就是在4096這個范圍內(nèi),避免你自己傳遞個sequence超過了4096這個范圍 sequence = (sequence + 1) & sequenceMask; if (sequence == 0) { timestamp = tilNextMillis(lastTimestamp); } } else { sequence = 0; } // 這兒記錄一下最近一次生成id的時間戳,單位是毫秒 lastTimestamp = timestamp; // 這兒就是將時間戳左移,放到 41 bit那兒; // 將機(jī)房 id左移放到 5 bit那兒; // 將機(jī)器id左移放到5 bit那兒;將序號放最后12 bit; // 最后拼接起來成一個 64 bit的二進(jìn)制數(shù)字,轉(zhuǎn)換成 10 進(jìn)制就是個 long 型 return ((timestamp - twepoch) << timestampLeftShift) | (datacenterId << datacenterIdShift) | (workerId << workerIdShift) | sequence; } private long tilNextMillis(long lastTimestamp) { long timestamp = timeGen(); while (timestamp <= lastTimestamp) { timestamp = timeGen(); } return timestamp; } private long timeGen() { return System.currentTimeMillis(); } // ---------------測試--------------- public static void main(String[] args) { IdWorker worker = new IdWorker(1, 1, 1); for (int i = 0; i < 30; i++) { System.out.println(worker.nextId()); } } }
怎么說呢,大概這個意思吧,就是說 41 bit 是當(dāng)前毫秒單位的一個時間戳,就這意思;然后 5 bit 是你傳遞進(jìn)來的一個機(jī)房 id(但是最大只能是 32 以內(nèi)),另外 5 bit 是你傳遞進(jìn)來的機(jī)器 id(但是最大只能是 32 以內(nèi)),剩下的那個 12 bit序列號,就是如果跟你上次生成 id 的時間還在一個毫秒內(nèi),那么會把順序給你累加,最多在 4096 個序號以內(nèi)。
所以你自己利用這個工具類,自己搞一個服務(wù),然后對每個機(jī)房的每個機(jī)器都初始化這么一個東西,剛開始這個機(jī)房的這個機(jī)器的序號就是 0。然后每次接收到一個請求,說這個機(jī)房的這個機(jī)器要生成一個 id,你就找到對應(yīng)的 Worker 生成。
利用這個 snowflake 算法,你可以開發(fā)自己公司的服務(wù),甚至對于機(jī)房 id 和機(jī)器 id,反正給你預(yù)留了 5 bit + 5 bit,你換成別的有業(yè)務(wù)含義的東西也可以的。
這個 snowflake 算法相對來說還是比較靠譜的,所以你要真是搞分布式 id 生成,如果是高并發(fā)啥的,那么用這個應(yīng)該性能比較好,一般每秒幾萬并發(fā)的場景,也足夠你用了。
總結(jié)
以上為個人經(jīng)驗(yàn),希望能給大家一個參考,也希望大家多多支持腳本之家。
相關(guān)文章
MySQL慢查詢?nèi)罩驹斀馀c性能優(yōu)化指南(總結(jié))
慢查詢?nèi)罩臼荕ySQL數(shù)據(jù)庫性能優(yōu)化的重要工具,通過分析慢查詢?nèi)罩?我們可以識別和解決那些影響數(shù)據(jù)庫性能的瓶頸問題,這篇文章主要介紹了MySQL慢查詢?nèi)罩驹斀馀c性能優(yōu)化指南,需要的朋友可以參考下2024-07-07MySQL數(shù)據(jù)庫高級操作實(shí)戰(zhàn)(克隆表、清空表、創(chuàng)建臨時表及約束)
多年工作中積累整理的數(shù)據(jù)庫高級操作分享給大家,這篇文章主要給大家介紹了關(guān)于MySQL數(shù)據(jù)庫高級操作實(shí)戰(zhàn)的相關(guān)資料,其中包括克隆表、清空表、創(chuàng)建臨時表及約束等,需要的朋友可以參考下2023-06-06Mysql中InnoDB與MyISAM索引差異詳解(最新整理)
InnoDB和MyISAM在索引實(shí)現(xiàn)和特性上有差異,包括聚集索引、非聚集索引、事務(wù)支持、并發(fā)控制、覆蓋索引、主鍵約束、外鍵支持和物理存儲結(jié)構(gòu)等方面,InnoDB更適合事務(wù)型應(yīng)用,而MyISAM適合只讀或讀多寫少的場景,本文介紹Mysql中InnoDB與MyISAM索引差異,感興趣的朋友一起看看吧2025-03-03Mysql刪除數(shù)據(jù)以及數(shù)據(jù)表的方法實(shí)例
這篇文章主要給大家介紹了關(guān)于Mysql刪除數(shù)據(jù)以及數(shù)據(jù)表的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-11-11