Redis實(shí)現(xiàn)數(shù)據(jù)的交集、并集、補(bǔ)集的示例
場(chǎng)景說(shuō)明
今天我們來(lái)模擬一個(gè)這樣的場(chǎng)景,我們?cè)诒镜赜卸鄠€(gè)文本文件,每個(gè)文件里面存了很多的32位的字符串作為用戶的唯一標(biāo)識(shí),每個(gè)用戶存做一行,假如我們每天都有非常大規(guī)模的用戶,這樣我們可能在工作中就存在需要對(duì)這些用戶進(jìn)行交集、并集或補(bǔ)集等處理,最簡(jiǎn)單的方式是通過(guò)Java中的集合來(lái)進(jìn)行運(yùn)算即可,比如通過(guò)HashSet來(lái)進(jìn)行相應(yīng)的一些運(yùn)算,但是這樣的運(yùn)算存在一個(gè)局限性,那就是我們一般在JVM運(yùn)行過(guò)程中初始的內(nèi)存是有限的,這樣如果全部在JVM內(nèi)存中進(jìn)行計(jì)算的話,很容易出現(xiàn)內(nèi)存空間不足導(dǎo)致的OOM異常,那么我們今天來(lái)介紹一種拓展性更強(qiáng)的方式來(lái)進(jìn)行這樣的一些交并補(bǔ)的運(yùn)算:通過(guò)Redis來(lái)實(shí)現(xiàn)數(shù)據(jù)的交集、并集、補(bǔ)集
環(huán)境說(shuō)明
- Redis版本: Redis 6.0.6
- Jedis版本: 4.2.2
- 工具類(lèi)hutool版本: 5.8.0.M3
pom文件:
<dependencies> ? ? ? ? <dependency> ? ? ? ? ? ? <groupId>redis.clients</groupId> ? ? ? ? ? ? <artifactId>jedis</artifactId> ? ? ? ? ? ? <version>4.2.2</version> ? ? ? ? </dependency> ? ? ? ? <dependency> ? ? ? ? ? ? <groupId>cn.hutool</groupId> ? ? ? ? ? ? <artifactId>hutool-all</artifactId> ? ? ? ? ? ? <version>5.8.0.M3</version> ? ? ? ? </dependency> </dependencies>
交并補(bǔ)計(jì)算
初始化常量
public class RedisCalculateUtils { ? ? static String oneFileString = "/Users/tmp/test-1.txt"; ? ? static String twoFileString = "/Users/tmp/test-2.txt"; ? ? static String diffFileString = "/Users/tmp/diff-test.txt"; ? ? static String interFileString = "/Users/tmp/inter-test.txt"; ? ? static String unionFileString = "/Users/tmp/union-test.txt"; ? ? static String oneFileCacheKey = "oneFile"; ? ? static String twoFileCacheKey = "twoFile"; ? ? static String diffFileCacheKey = "diffFile"; ? ? static String interFileCacheKey = "interFile"; ? ? static String unionFileCacheKey = "unionFile"; }
初始化數(shù)據(jù)到指定文件
/** * 初始化數(shù)據(jù)并寫(xiě)入文件中 */ public static void writeFile() { ? ? ? ? File oneFile = new File(oneFileString); ? ? ? ? List<String> fs = new ArrayList<>(10000); ? ? ? ? for (int i = 10000; i < 15000; i++) { ? ? ? ? ? ? String s = SecureUtil.md5(String.valueOf(i)); ? ? ? ? ? ? fs.add(s); ? ? ? ? } ? ? ? ? FileUtil.writeUtf8Lines(fs, oneFile); ? ? ? ? File twoFile = new File(twoFileString); ? ? ? ? fs.clear(); ? ? ? ? for (int i = 12000; i < 20000; i++) { ? ? ? ? ? ? String s = SecureUtil.md5(String.valueOf(i)); ? ? ? ? ? ? fs.add(s); ? ? ? ? } ? ? ? ? FileUtil.writeUtf8Lines(fs, twoFile); ? ? }
指定文件寫(xiě)入Redis
/** * 讀取文件數(shù)據(jù)并寫(xiě)入Redis */ public static void writeCache() { ? ? try(Jedis jedis = new Jedis("127.0.0.1", 6379)) { ? ? ? ? Pipeline p = jedis.pipelined(); ? ? ? ? List<String> oneFileStringList = FileUtil.readLines(oneFileString, "UTF-8"); ? ? ? ? for (String s : oneFileStringList) { ? ? ? ? ? ? p.sadd(oneFileCacheKey, s); ? ? ? ? } ? ? ? ? p.sync(); ? ? ? ? List<String> twoFileStringList = FileUtil.readLines(twoFileString, "UTF-8"); ? ? ? ? for (String s : twoFileStringList) { ? ? ? ? ? ? p.sadd(twoFileCacheKey, s); ? ? ? ? } ? ? ? ? p.sync(); ? ? } catch (Exception e) { ? ? ? ? throw new RuntimeException(e); ? ? } }
差集的計(jì)算
? ? /** ? ? ?* oneKey對(duì)應(yīng)的Set 與 twoKey對(duì)應(yīng)的Set 的差集 并寫(xiě)入 threeKey ? ? ?* @param oneKey 差集前面的集合Key ? ? ?* @param twoKey 差集后面的集合Key ? ? ?* @param threeKey 差集結(jié)果的集合Key ? ? ?*/ ? ? public static void diff(String oneKey, String twoKey, String threeKey) { ? ? ? ? try(Jedis jedis = new Jedis("127.0.0.1", 6379)) { ? ? ? ? ? ? long result = jedis.sdiffstore(threeKey, oneKey, twoKey); ? ? ? ? ? ? System.out.println("oneKey 與 twoKey 的差集的個(gè)數(shù):" + result); ? ? ? ? } catch (Exception e) { ? ? ? ? ? ? throw new RuntimeException(e); ? ? ? ? } ? ? }
差集計(jì)算結(jié)果寫(xiě)入到指定文件
? ? /** ? ? ?* 將計(jì)算的差集數(shù)據(jù)寫(xiě)入到指定文件 ? ? ?*/ ? ? public static void writeDiffToFile() { ? ? ? ? File diffFile = new File(diffFileString); ? ? ? ? try(Jedis jedis = new Jedis("127.0.0.1", 6379)) { ? ? ? ? ? ? Set<String> result = jedis.smembers(diffFileCacheKey); ? ? ? ? ? ? FileUtil.writeUtf8Lines(result, diffFile); ? ? ? ? } catch (Exception e) { ? ? ? ? ? ? throw new RuntimeException(e); ? ? ? ? } ? ? }
交集的計(jì)算
/** ? ? ?* ? ? ?* @param cacheKeyArray 交集集合Key ? ? ?* @param destinationKey 交集集合結(jié)果Key ? ? ?*/ ? ? public static void inter(String[] cacheKeyArray, String destinationKey) { ? ? ? ? try(Jedis jedis = new Jedis("127.0.0.1", 6379)) { ? ? ? ? ? ? long result = jedis.sinterstore(destinationKey, cacheKeyArray); ? ? ? ? ? ? System.out.println("cacheKeyArray 的交集的個(gè)數(shù):" + result); ? ? ? ? } catch (Exception e) { ? ? ? ? ? ? throw new RuntimeException(e); ? ? ? ? } ? ? }
交集計(jì)算結(jié)果寫(xiě)入指定文件
/** * 將計(jì)算的交集數(shù)據(jù)寫(xiě)入到指定文件 */ public static void writeInterToFile() { File interFile = new File(interFileString); try(Jedis jedis = new Jedis("127.0.0.1", 6379)) { Set<String> result = jedis.smembers(interFileCacheKey); FileUtil.writeUtf8Lines(result, interFile); } catch (Exception e) { throw new RuntimeException(e); } }
并集的計(jì)算
? ? /** ? ? ?* 計(jì)算多個(gè)Key的并集并寫(xiě)入到新的Key ? ? ?* @param cacheKeyArray 求并集的Key ? ? ?* @param destinationKey 并集結(jié)果寫(xiě)入的KEY ? ? ?*/ ? ? ?public static void union(String[] cacheKeyArray, String destinationKey) { ? ? ? ? ?try(Jedis jedis = new Jedis("127.0.0.1", 6379)) { ? ? ? ? ? ? ?long result = jedis.sunionstore(destinationKey, cacheKeyArray); ? ? ? ? ? ? ?System.out.println("cacheKeyArray 的并集的個(gè)數(shù):" + result); ? ? ? ? ?} catch (Exception e) { ? ? ? ? ? ? ?throw new RuntimeException(e); ? ? ? ? ?} ? ? ?}
并集計(jì)算結(jié)果寫(xiě)入到指定文件
/** * 將計(jì)算的并集數(shù)據(jù)寫(xiě)入到指定文件 */ public static void writeUnionToFile() { File unionFile = new File(unionFileString); try(Jedis jedis = new Jedis("127.0.0.1", 6379)) { Set<String> result = jedis.smembers(unionFileCacheKey); FileUtil.writeUtf8Lines(result, unionFile); } catch (Exception e) { throw new RuntimeException(e); } }
Redis命令說(shuō)明
SDIFFSTORE destination key [key …]
舉例說(shuō)明:
key1 = {a,b,c,d} key2 = {c} key3 = {a,c,e} SDIFF key1 key2 key3 = {b,d}
SDIFFSTORE 命令的作用和SDIFF類(lèi)似,不同的是它將結(jié)果保存到 destination 集合,而把結(jié)果集返回給客戶端。
如果 destination 集合已經(jīng)存在,則將其覆蓋。
返回值
- 結(jié)果集中成員數(shù)量
SINTERSTORE destination key [key …]
舉例說(shuō)明:
key1 = {a,b,c,d} key2 = {c} key3 = {a,c,e} SINTER key1 key2 key3 = {c}
SINTERSTORE 命令與 SINTER 命令類(lèi)似,不同的是它并不是直接返回結(jié)果集,而是將結(jié)果保存在 destination 集合中。
如果 destination 集合存在, 則會(huì)被覆蓋。
返回值
- 結(jié)果集中成員數(shù)量
SUNIONSTORE destination key [key …]
舉例說(shuō)明:
key1 = {a,b,c,d} key2 = {c} key3 = {a,c,e} SUNION key1 key2 key3 = {a,b,c,d,e}
SUNIONSTORE 命令的功能類(lèi)似于 SUNION,不同的是不反回結(jié)果集,而是存儲(chǔ)在 destination 中。
如果 destination 已經(jīng)存在,則被覆蓋。
返回值
- 結(jié)果集中的成員數(shù)量
參考資料: https://www.redis.com.cn/set.html
到此這篇關(guān)于Redis實(shí)現(xiàn)數(shù)據(jù)的交集、并集、補(bǔ)集的示例的文章就介紹到這了,更多相關(guān)Redis數(shù)據(jù)交集、并集、補(bǔ)集內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
關(guān)于Redis的讀寫(xiě)一致問(wèn)題
在項(xiàng)目使用Redis過(guò)程中,當(dāng)數(shù)據(jù)更新時(shí),我們要保證緩存和數(shù)據(jù)庫(kù)的一致性,否則會(huì)導(dǎo)致很多臟數(shù)據(jù)出現(xiàn),此時(shí)我們就要思考如何去進(jìn)行數(shù)據(jù)更新,本文就給大家講講關(guān)于redis的讀寫(xiě)一致問(wèn)題,需要的朋友可以參考下2023-08-08Redis配置外網(wǎng)可訪問(wèn)(redis遠(yuǎn)程連接不上)的方法
默認(rèn)情況下,當(dāng)我們?cè)诓渴鹆藃edis服務(wù)之后,redis本身默認(rèn)只允許本地訪問(wèn)。Redis服務(wù)端只允許它所在服務(wù)器上的客戶端訪問(wèn),如果Redis服務(wù)端和Redis客戶端不在同一個(gè)機(jī)器上,就要進(jìn)行配置。2022-12-12Centos7 Redis主從搭建配置的實(shí)現(xiàn)
這篇文章主要介紹了Centos7 Redis主從搭建配置的實(shí)現(xiàn),小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2018-06-06Redis優(yōu)雅地實(shí)現(xiàn)延遲隊(duì)列的方法分享
Redisson是Redis服務(wù)器上的分布式可伸縮Java數(shù)據(jù)結(jié)構(gòu),這篇文中主要為大家介紹了Redisson實(shí)現(xiàn)的優(yōu)雅的延遲隊(duì)列的方法,需要的可以參考一下2023-02-02Redis整合SpringBoot的RedisTemplate實(shí)現(xiàn)類(lèi)(實(shí)例詳解)
這篇文章主要介紹了Redis整合SpringBoot的RedisTemplate實(shí)現(xiàn)類(lèi),本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2021-01-01