由於公司提供的隊列實在太過於蛋疼而且還限制不能使用其他隊列,但為了保證數據安全性需要一個可以有ack功能的隊列。
原生的redis中通過L/R PUSH/POP方式來實現隊列的功能,這個當然是沒辦法滿足需求的(沒有ack功能),所以需要自己對redis的list(隊列)做個小小的調整。
大體思路為在POP時將pop出的數據放到備份的地方,當有ACK請求(確認消息被消耗)後將備份的信息刪除掉;每次在pop前需要檢查備份隊列中有沒有過期的數據沒有ack的,如果有則PUSH到list中後再從list中POP出來。
以下腳本使用lua實現,只需要在執行前加載到redis中即可。
消息本身需要包含id屬性
push沒什麼問題,原生即可(此處以LPUSH為例)
pop時腳本
1 local not_empty = function(x) 2 return (type(x) == "table") and (not x.err) and (#x ~= 0) 3 end 4 5 local qName = ARGV[1] --隊列名稱 6 local currentTime = ARGV[2] --當前時間,這個需要從外部傳入,不能使用redis自身時間,如果使用自身時間可能導致redis本身的backup在重放請求時出現不一致性 7 local considerAsFailMaxTimeSpan = ARGV[3] --超時時間設定,當消息超過一定時間還沒有ack則認為此消息需要再次入隊 8 9 local zsetName= qName ..'BACKUP' 10 local hashName= qName ..'CONTEXT' 11 12 local tmp = redis.call('ZRANGEBYSCORE',zsetName , '-INF', tonumber(currentTime) - tonumber(considerAsFailMaxTimeSpan), 'LIMIT', 0, 1) 13 if (not_empty(tmp)) then 14 redis.call('ZREM', zsetName, tmp[1]) --此處拿出的為消息的唯一id 15 redis.call('LPUSH', qName, redis.call('HGET', hashName, tmp[1])) 16 end 17 tmp = redis.call('RPOP', qName) 18 if (tmp) then 19 local msg = cjson.decode(tmp) 20 local id = msg['id'] 21 redis.call('ZADD', zsetName, tonumber(currentTime), id) 22 redis.call('HSET',hashName , id, tmp) 23 end 24 return tmp
ack時候比較簡單,只需要將指定id從set和hash中刪除即可
1 local key = ARGV[1] 2 local qName=ARGV[2] 3 redis.call('ZREM', qName..'BACKUP', key) 4 redis.call('HDEL', qName..'CONTEXT', key)
在程序中使用前需要顯示load這兩個腳本,後面直接調用這兩個腳本的sha值即可執行。
相關推薦
'後端開發都應該掌握的Redis基礎'
"原文作者:張君鴻juejin.im/post/5d078cd6f265da1b8466e62cRedis的數據結構Redis支持多種不同的數據結構,包括5種基礎數據結構和幾種比較複雜的數據,這些數據結構可以滿足不同的應用場景。五種基礎數據結構String:字符串,是構建其...
'Redis:Redis數據持久化,及實現方式'
"我們的Redis必須使用數據持久化嗎?如果我們的Redis服務器只作為緩存使用,Redis中存儲的所有數據都是從其他地方同步過來的備份,那麼就沒必要開啟數據持久化的選項。Redis提供了將數據定期自動持久化至硬盤的能力,包括RDB和AOF兩種方案,兩種方案分別有其長處和短...
'robotframework—實現接口測試'
"robotframework—實現接口測試robotframework(後續簡稱為robot)是一款自動化測試框架,可能做各種類型的自動化測試。本文介紹通過robotframework來做接口測試。第一步、安裝第三方庫,提供接口測試的關鍵字在robot當中,python語...
'「PowerShell」人人都值得學一點PowerShell實現自動化(2)'
"部分讀者反應太多知識要學了,學完一輪又一輪,筆者也不想單單為了製造學習而學習,所有Excel催化劑所發佈的內容,都是筆者所親自使用到的,當然很多領域也沒有深挖到很底的程度。眾多工具、語言都是為了我們去服務的,Excel催化劑不提倡為了學習而學習,所以很有必要先評估一下每一...
PowerShell
Azure
腳本語言
微軟
Excel
Linux
Windows
SQL
軟件
跳槽那些事兒
SharePoint
電腦
Mac電腦
Microsoft SQL Server
百度
2019-09-02
'企業API接口設計(token、timestamp、sign)之具體實現'
"本號主要用於分享企業中常用的技術,更加側重於實用,歡迎關注、收藏,便於瀏覽其它更多實用的歷史文章。一:token 簡介Token:訪問令牌access token, 用於接口中, 用於標識接口調用者的身份、憑證,減少用戶名和密碼的傳輸次數。一般情況下客戶端(接口調用方)需...
'Zabbix監控系統郵箱告警的實現'
" 當Zabbix觸發器到了要發送通知的情況下,需要一箇中間介質來接收並傳遞它的消息給運維們,郵箱告警是最常用的手段,下面詳細介紹一下Zabbix郵箱告警的實現配置。關於Zabbix監控系統的搭建可以參考:Zabbix監控系統部署詳細步驟1.我們選擇mailx作為郵件發送工...
推薦中...