由于項(xiàng)目中需要使用批量插入功能, 所以在網(wǎng)上查找到了Redis 批量插入可以使用pipeline來高效的插入, 示例代碼如下:
String key = "key";
Jedis jedis = new Jedis("xx.xx.xx.xx");
Pipeline p = jedis.pipelined();
ListString> myData = .... //要插入的數(shù)據(jù)列表
for(String data: myData){
p.hset(key, data);
}
p.sync();
jedis.close();
但實(shí)際上遇到的問題是,項(xiàng)目上所用到的Redis是集群,初始化的時(shí)候使用的類是JedisCluster而不是Jedis. 去查了JedisCluster的文檔, 并沒有發(fā)現(xiàn)提供有像Jedis一樣的獲取Pipeline對象的 pipelined()方法.
Google了一下, 發(fā)現(xiàn)了解決方案.
Redis集群規(guī)范有說: Redis 集群的鍵空間被分割為 16384 個(gè)槽（slot）， 集群的最大節(jié)點(diǎn)數(shù)量也是 16384 個(gè)。每個(gè)主節(jié)點(diǎn)都負(fù)責(zé)處理 16384 個(gè)哈希槽的其中一部分。當(dāng)我們說一個(gè)集群處于“穩(wěn)定”（stable）狀態(tài)時(shí)， 指的是集群沒有在執(zhí)行重配置（reconfiguration）操作， 每個(gè)哈希槽都只由一個(gè)節(jié)點(diǎn)進(jìn)行處理。
所以我們可以根據(jù)要插入的key知道這個(gè)key所對應(yīng)的槽的號碼, 再通過這個(gè)槽的號碼從集群中找到對應(yīng)Jedis. 具體實(shí)現(xiàn)如下
//初始化得到了jedis cluster, 如何獲取HostAndPort集合代碼就不寫了 SetHostAndPort> nodes = ..... JedisCluster jedisCluster = new JedisCluster(nodes); MapString, JedisPool> nodeMap = jedisCluster.getClusterNodes(); String anyHost = nodeMap.keySet().iterator().next(); //getSlotHostMap方法在下面有 TreeMapLong, String> slotHostMap = getSlotHostMap(anyHost);
private static TreeMapLong, String> getSlotHostMap(String anyHostAndPortStr) {
TreeMapLong, String> tree = new TreeMapLong, String>();
String parts[] = anyHostAndPortStr.split(":");
HostAndPort anyHostAndPort = new HostAndPort(parts[0], Integer.parseInt(parts[1]));
try{
Jedis jedis = new Jedis(anyHostAndPort.getHost(), anyHostAndPort.getPort());
ListObject> list = jedis.clusterSlots();
for (Object object : list) {
ListObject> list1 = (ListObject>) object;
ListObject> master = (ListObject>) list1.get(2);
String hostAndPort = new String((byte[]) master.get(0)) + ":" + master.get(1);
tree.put((Long) list1.get(0), hostAndPort);
tree.put((Long) list1.get(1), hostAndPort);
}
jedis.close();
}catch(Exception e){
}
return tree;
}
上面這幾步可以在初始化的時(shí)候就完成. 不需要每次都調(diào)用, 把nodeMap和slotHostMap都定義為靜態(tài)變量.
//獲取槽號 int slot = JedisClusterCRC16.getSlot(key); //獲取到對應(yīng)的Jedis對象 Map.EntryLong, String> entry = slotHostMap.lowerEntry(Long.valueOf(slot)); Jedis jedis = nodeMap.get(entry.getValue()).getResource();
建議上面這步操作可以封裝成一個(gè)靜態(tài)方法, 比如命名為public static Jedis getJedisByKey(String key) 之類的. 意思就是在集群中, 通過key獲取到這個(gè)key所對應(yīng)的Jedis對象.
這樣再通過上面的jedis.pipelined();來就可以進(jìn)行批量插入了.
注:這個(gè)方法是從Google上搜來的, 直到目前我使用起來還沒發(fā)現(xiàn)什么問題. 如果哪位大神發(fā)現(xiàn)有什么不對的地方歡迎提出來.
以上就是本文的全部內(nèi)容，希望對大家的學(xué)習(xí)有所幫助，也希望大家多多支持腳本之家。
標(biāo)簽：定州 畢節(jié) 泰州 伊春 拉薩 甘南 南寧 河源
巨人網(wǎng)絡(luò)通訊聲明：本文標(biāo)題《在Redis集群中使用pipeline批量插入的實(shí)現(xiàn)方法》，本文關(guān)鍵詞 在,Redis,集群,中,使用,pipeline,；如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題，煩請?zhí)峁┫嚓P(guān)信息告之我們，我們將及時(shí)溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò)，涉及言論、版權(quán)與本站無關(guān)。
