redis?bitmap數(shù)據(jù)結(jié)構(gòu)之java對(duì)等操作詳解
在之前的文章中,我們有說過bitmap,bitmap在很多場景可以應(yīng)用,比如黑白名單,快速判定,登錄情況等等??傊琤itmap是以其高性能出名。其基本原理是一位存儲(chǔ)一個(gè)標(biāo)識(shí),其他衍生知道咱就不說了,而redis就是以這種原生格式存儲(chǔ)的。
實(shí)際上,redis是基于string的數(shù)據(jù)結(jié)構(gòu)實(shí)現(xiàn)了bitmap的功能。
1. redis基本的bitmap操作命令
最基本的,redis的bitmap有設(shè)置和讀取兩個(gè)值,即 setbit/getbit, 非常容易理解,即設(shè)置某個(gè)標(biāo)識(shí)為1,那么取值判定的時(shí)候,就可以得到true.
127.0.0.1:6379> setbit bm1 222 1 (integer) 0 127.0.0.1:6379> getbit bm1 222 (integer) 1
這很容易理解,也是最基本的。當(dāng)然,它還提供其他的一些操作:BITCOUNT 做數(shù)據(jù)量統(tǒng)計(jì), BITOP 做bitmap的交并差運(yùn)算... 我們也不必過多討論它。
2. java中的原生bitmap
可以說redis的bitmap實(shí)現(xiàn)相當(dāng)之簡單,所以java也就順便實(shí)現(xiàn)了一個(gè)bitmap的版本:BitSet .
@Test public void testJavaBitmap() { BitSet bitmap = new BitSet(); bitmap.set(88); // exist = true boolean exist = bitmap.get(88); BitSet bitmap2 = new BitSet(); bitmap2.set(99); // bitmap中將包含 [88, 99] bitmap.or(bitmap2); }
java中的bitmap實(shí)現(xiàn),也是按位存儲(chǔ),但是是基于long的存儲(chǔ)。
/* * BitSets are packed into arrays of "words." Currently a word is * a long, which consists of 64 bits, requiring 6 address bits. * The choice of word size is determined purely by performance concerns. */ private final static int ADDRESS_BITS_PER_WORD = 6; /** * Sets the bit at the specified index to {@code true}. * * @param bitIndex a bit index * @throws IndexOutOfBoundsException if the specified index is negative * @since JDK1.0 */ public void set(int bitIndex) { if (bitIndex < 0) throw new IndexOutOfBoundsException("bitIndex < 0: " + bitIndex); int wordIndex = wordIndex(bitIndex); expandTo(wordIndex); words[wordIndex] |= (1L << bitIndex); // Restores invariants checkInvariants(); } /** * Given a bit index, return word index containing it. */ private static int wordIndex(int bitIndex) { return bitIndex >> ADDRESS_BITS_PER_WORD; }
所以,我們可以得出一個(gè)淺顯的結(jié)論,bitmap很簡單,一點(diǎn)都不神秘。但是,大道至簡,它高性能,它自然還是有好處的,咱們該用還得用。顯然,java版本的bitmap雖然很很好用,但是它只是應(yīng)用級(jí)別的,只能在進(jìn)程內(nèi)使用,有太多的其他問題沒考慮,所以咱們還得要依賴于redis的bitmap.
問題:如果我有很多的數(shù)字標(biāo)識(shí)想要寫入redis中,然后再進(jìn)行讀取判定,該怎么辦呢?
很簡單的,我們可以一個(gè)個(gè)地調(diào)用 setbit 命令,依次寫入redis中。這自然能解決問題,但是明顯會(huì)帶來很多的網(wǎng)絡(luò)io。
其次,我們可以使用pipeline調(diào)用setbit進(jìn)行批量寫入。這當(dāng)然是一種優(yōu)化方案,只是仍然不是最優(yōu)。
那有沒有什么更好的辦法呢?
3. java和redis的bitmap互操作
對(duì)于批量的操作,redis是基于string實(shí)現(xiàn),而java是基于bitset實(shí)現(xiàn)。其功能都基本差不多,判定、寫入、交并差運(yùn)算。那么,除了一個(gè)個(gè)按照各自語法進(jìn)行添加外,有沒有可能進(jìn)行數(shù)據(jù)結(jié)構(gòu)上的對(duì)等呢?
這個(gè)思路是很自然的,因?yàn)槲覀円呀?jīng)完全理解了各自的實(shí)現(xiàn)原理,為什么不呢?直接將BitSet轉(zhuǎn)換為byte[]寫入redis,直接將redis的bitmap當(dāng)作string讀出來不就可以了嗎?
事實(shí)真是如此嗎?實(shí)際上有點(diǎn)差別,原因是一個(gè)是大端存儲(chǔ),一個(gè)是小端存儲(chǔ)。
比如:比如對(duì)于存儲(chǔ)byte值: 00000010 , redis中會(huì)解釋為偏移為6的值為1, 而在java中則會(huì)解析為數(shù)字2存在于bitmap中。也就是說兩個(gè)的判定結(jié)果是不一樣的,一個(gè)是6,一個(gè)是2。如果把java中的值給調(diào)換一下,變成 01000000,那么就和redis是一樣的了。
而從redis中轉(zhuǎn)變到j(luò)ava中,則需要將每個(gè)byte位做一逆向操作判定,具體實(shí)現(xiàn)如下:
@Test public void testSetBitmapData2Redis() { //創(chuàng)建一個(gè)連接 Jedis jedis = new Jedis("localhost", 6379); // 正向設(shè)置redis bitmap String testBitmapKey = "mybitmap1"; jedis.set(testBitmapKey.getBytes(), genRedisBitmap(2, 55, 133, 65537, 10_0000)); Assert.assertEquals("bitmap取值不正確", true, jedis.getbit(testBitmapKey, 2L)); Assert.assertEquals("bitmap取值不正確", true, jedis.getbit(testBitmapKey, 133L)); Assert.assertEquals("bitmap取值不正確", true, jedis.getbit(testBitmapKey, 65537L)); Assert.assertEquals("bitmap取值不正確", true, jedis.getbit(testBitmapKey, 10_0000L)); Assert.assertEquals("bitmap取值不正確", false, jedis.getbit(testBitmapKey, 3L)); //在redis中獲取name值 byte[] redisBitmapData = jedis.get("mybitmap1".getBytes()); BitSet bitSet = convertRedisBitmapToJava(redisBitmapData); Assert.assertTrue("redisBitmap反解不正確", bitSet.get(2)); Assert.assertTrue("redisBitmap反解不正確", bitSet.get(133)); Assert.assertTrue("redisBitmap反解不正確", bitSet.get(65537)); Assert.assertTrue("redisBitmap反解不正確", bitSet.get(10_0000)); Assert.assertFalse("redisBitmap反解不正確", bitSet.get(332)); jedis.close(); } // 將redis的bitmap轉(zhuǎn)換為java 的bitset private BitSet convertRedisBitmapToJava(byte[] redisBitmapData) { int len = redisBitmapData.length; BitSet bitSet = new BitSet(); // 每個(gè) byte 8位, 所以整個(gè)bitmap 的長度為 len * 8 for (int i = 0; i < len * 8; i++) { byte currentSegment = redisBitmapData[i / 8]; if(currentSegment == 0) { continue; } if((currentSegment & (1 << (7 - (i % 8) ) ) ) != 0 ) { bitSet.set(i); } } return bitSet; } // 生成redis的bitmap數(shù)據(jù) private byte[] genRedisBitmap(int... items) { BitSet bitSet = new BitSet(); // 2 55 133 for (int k : items) { bitSet.set(k); } byte[] targetBitmap = bitSet.toByteArray(); convertJavaToRedisBitmap(targetBitmap); return targetBitmap; } // 將java中的字節(jié)數(shù)組轉(zhuǎn)換為redis的bitmap數(shù)據(jù)形式 private void convertJavaToRedisBitmap(byte[] bytes) { int len = bytes.length; for (int i = 0; i < len; i++) { byte b1 = bytes[i]; if(b1 == 0) { continue; } byte transByte = 0; for (byte j = 0; j < 8; j++) { transByte |= (b1 & (1 << j)) >> j << (7 -j); } bytes[i] = transByte; } }
經(jīng)驗(yàn)證,將8位的byte進(jìn)行位置反轉(zhuǎn),能夠完美匹配兩種數(shù)據(jù)結(jié)構(gòu)。
如此一來,就可以輕松將整個(gè)bitmap進(jìn)行初始化設(shè)置到redis中,從而在redis的bitmap中,使用 getbit 進(jìn)行高效判定了。
不要害怕今日的苦,你要相信明天,更苦!
到此這篇關(guān)于redis bitmap數(shù)據(jù)結(jié)構(gòu)之java對(duì)等操作的文章就介紹到這了,更多相關(guān)redis bitmap數(shù)據(jù)結(jié)構(gòu)內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
- Java Base64位編碼與String字符串的相互轉(zhuǎn)換,Base64與Bitmap的相互轉(zhuǎn)換實(shí)例代碼
- 海量數(shù)據(jù)去重排序bitmap(位圖法)在java中實(shí)現(xiàn)的兩種方法
- Java中利用BitMap位圖實(shí)現(xiàn)海量級(jí)數(shù)據(jù)去重
- java實(shí)現(xiàn)用戶簽到BitMap功能實(shí)現(xiàn)demo
- Java?BitMap源碼仿寫實(shí)現(xiàn)
- java使用bitmap實(shí)現(xiàn)可回收自增id的示例
- Java位集合之BitMap實(shí)現(xiàn)和應(yīng)用詳解
相關(guān)文章
redis?手機(jī)驗(yàn)證碼實(shí)現(xiàn)示例
本文主要介紹了redis?手機(jī)驗(yàn)證碼實(shí)現(xiàn)示例,文中通過示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2021-11-11如何監(jiān)聽Redis中Key值的變化(SpringBoot整合)
測試過程中我們有一部分常量值放入redis,共大部分應(yīng)用調(diào)用,但在測試過程中經(jīng)常有人會(huì)清空redis,回歸測試,下面這篇文章主要給大家介紹了關(guān)于如何監(jiān)聽Redis中Key值變化的相關(guān)資料,需要的朋友可以參考下2024-03-03redis底層數(shù)據(jù)結(jié)構(gòu)之skiplist實(shí)現(xiàn)示例
這篇文章主要為大家介紹了redis底層數(shù)據(jù)結(jié)構(gòu)之skiplist實(shí)現(xiàn)示例,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-12-12Django使用Redis進(jìn)行緩存詳細(xì)步驟
這篇文章主要介紹了Django使用Redis進(jìn)行緩存詳細(xì)流程,本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2022-08-08Centos7.3安裝Redis4.0.6詳細(xì)圖文教程
這篇文章主要介紹了Centos7.3安裝Redis4.0.6詳細(xì)教程圖解,本文圖文并茂給大家介紹的非常詳細(xì),具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2018-10-10Redis+Caffeine實(shí)現(xiàn)分布式二級(jí)緩存組件實(shí)戰(zhàn)教程
這篇文章主要介紹了Redis+Caffeine實(shí)現(xiàn)分布式二級(jí)緩存組件實(shí)戰(zhàn)教程,介紹了分布式二級(jí)緩存的優(yōu)勢,使用組件的方法,通過示例代碼給大家介紹的非常詳細(xì),需要的朋友可以參考下2022-08-08