本文分享自华为云社区《还不知道数据库缓存使用场景?举例使用场景实例和命令速查表》,作者:码乐。
怎样使用
我们继续的动力通常来自有某个问题,或者我们有了一个工具,通常会想,它可以解决什么类型的问题?
在使用时应注意什么它?在我们回答这些问题中的任何一个之前,我们需要了解它是什么。
Redis通常被描述为内存中持久键值存储。它确实将所有数据保存在内存中,并且确实将其写到磁盘上以实现持久性,但是不仅仅是一个简单的键值存储。
重要的是要走出这种误解,否则您的观点及其解决的问题将太狭窄。现实是Redis公开了五种不同的数据结构,其中只有一种是典型的键值结构。
了解这五个数据结构,它们如何工作,它们公开了哪些方法以及可以使用哪些模型进行建模它们是了解Redis的关键。
典型的Sql数据库只有一种数据结构 那就是 表 tables, 表可以是 即复杂又灵活(both complex and flexible)。
但是通常很难对 表 做 建模,存储或操作 (model,store, or manipulate).它们的通用性并非没有缺点。
这里没有表那样的千篇一律的结构 a one-size-fits-all structure, 相反处理标量,列表,哈希或集合,就直接将它们存储为标量,列表,哈希和集合。
scalars, lists, hashes, or sets
不需要如mysql一般检查 是否 存在 值 , 比调用exist(key)更复杂,或者比O(1)慢。
不过这里,让我们集中讨论具体应用例子和指令含义结构。
举例:
查看 fibonacci 数列 第35个fibonacci数列值的计算,不使用缓存对比使用缓存 时间成本是6倍
使用缓存 不使用缓存 计算第10个fibonacci数 0.05 0.05 计算第35个fibonacci数 0.05 6.9 计算第40个Fibonacci数 0.05 超时....
非确定性缓存 — 当不确定他们表示状态是否与其他系统组件(后台服务)状态一致时,一种权衡。
当高速缓存 时间小于 函数时间,那么缓存就是有效的适用 关系型数据库以及常用任何类型的结构化数据存储引擎。 Web Api 访问的第三方服务 文件系统,非常频繁访问的文件 向多个用户提供 数据或服务
进程共享相同缓存结果,既减少宝贵的计算资源占用,又解决由多个独立并且不一致的缓存引起的问题
Redis 是一种开源NoSQL数据库,使用ANSI与C写成,一种内存数据结构服务,用于存储从内存提供的所有数据。并使用磁盘进行存储。
仅通过RediSearch模块支持二级索引,mongo支持绝大多数二级索引,不支持Map Reduce方法,mongodb支持 map reduce方法。
做为缓存消息队列
阻塞操作的RPOP,BRPOP,无需轮询判断队列是不是有新元素
客户端1开启监听 并阻塞
shell_client1: BRPOP list1 0
客户端2 存入消息
shell_client2: LPUSH list1 a
客户端1 立即收到消息并退出
优点:
能够实现持久化 采用 Master-Slave 数据复制模式。 队列操作都是写操作,Master任务繁重,能让Slave分担的持久化工作,就不要Master做。 RDB和AOF两种方法都用上,多重保险。 支持集群 接口使用简单
不足:
Redis上消息只会被一个消费者消费,不会有多个订阅者消费同一个消息,简单一对一 生产者或者消费者崩溃后的处理机制,需要自己实现 生产者写入太快,消费者消费太慢,导致Redis的内存问题,处理机制需要自己实现 通过pub/sub来实现
消息队列的实现特点:
- 一个客户端发布,允许多个客户端 多次消费。
- 即发即弃: 非持久化消息机制,发布者和订阅者必须同时在线。
- 不保证数据完整性。
- 不支持消息确认机制 Ack/Nack/Reject 需要自己在应用层面实现,但如果这样,可以直接使用MQ,ZeroMq,RobbitMQ,Kafka(需要另启用独立服务)。
- 发布、订阅 pub/sub。 List, SortedSet, Streams 都支持消息持久化,需要避免消息堆积,造成内存压力。
与其他队列对比:
1 基于channel消息 这一类消息和redis中存储 keys没有太多关联。 即使不在redis存储任何keys信息,这类消息也可以独立使用。 2 基于redis存储的keys信息变化事件进行通知。 可以用于向订阅者通知redis符合订阅条件keys的各种事件。 3 Streams 流式队列计算 redis > 5 所有提交的消息按顺序串为一个消息链 Stream允许 重复消费,支持ACK
消息队列相关命令:
XADD - 添加消息到末尾 使用 XADD 向队列添加消息,如果指定的队列不存在,则创建一个队列, XADD 语法格式: XADD key ID field value [field value ...] key :队列名称,如果不存在就创建 ID :消息 id,我们使用 * 表示由 redis 生成,可以自定义,但是要自己保证递增性。 field value : 记录。 XTRIM - 对流进行修剪,限制长度 使用 XTRIM 对流进行修剪,限制长度, XDEL - 删除消息 使用 XLEN 获取流包含的元素数量,即消息长度,语法格式: XLEN - 获取流包含的元素数量,即消息长度 XRANGE - 获取消息列表,会自动过滤已经删除的消息 XREVRANGE - 反向获取消息列表,ID 从大到小 XREAD - 以阻塞或非阻塞方式获取消息列表
消费者组相关命令:
XGROUP CREATE - 创建消费者组 XREADGROUP GROUP - 读取消费者组中的消息 XACK - 将消息标记为"已处理" XGROUP SETID - 为消费者组设置新的最后递送消息ID XGROUP DELCONSUMER - 删除消费者 XGROUP DESTROY - 删除消费者组 XPENDING - 显示待处理消息的相关信息 XCLAIM - 转移消息的归属权 XINFO - 查看流和消费者组的相关信息; XINFO GROUPS - 打印消费者组的信息; XINFO STREAM - 打印流信息
做为临时缓存 和 页面缓存
与将数据存储在磁盘上的数据库相比,Redis 的所有数据都驻留在内存中,避免了寻道时间延迟,并且可以在微秒内超快地访问数据。
通常,Redis 用于缓存数据库查询结果,用于启用对象缓存,而不是页面缓存。
使用Nginx SRCache 模块,我们可以使用 Redis 服务于不同的目的,提供基于子请求的页面缓存,作为 Nginx FastCGI Cache 的替代方案。
例子 用于每个ip的访问计数,以及 每个用户 ID 的不同 IP 地址集(用于滥用检测)
1. 要抓取的网站列表。 2.所有抓取的页面都应该被存储。 3. 为不同类型的网站定义频率 - 新网站应该经常被抓取 4. 考虑robot.txt 来确定什么不应该被抓取 5. 了解页面是否有任何变化,如果有,重新抓取。 6. 解析并坚持。
需要一个队列以获得 BST 那种体验的数据结构
1. Set : Key 是 URL 的 hash,value 是解析后的内容 2. Zset: Key 作为 URL 和时间戳的 hash
Queue – FIFO。将检查内容是否在 Set 中可用,如果没有,则它将与 Zset 一起存储在 Set 中。
涉及技术
- 布隆过滤器,用于确定页面是否不存在于存储中。这是Redis中的OOB。 - 对于页面修改,依赖修改时间、MD5 等,这可以作为一个单独的集合持久化。
做为其他数据库的缓存数据库
分类确定性缓存 — 记忆化 — functools.lru_cache(maxsize, typed) 装饰器 Least recently used, maxsizd
设置高速缓存的空间上限,None表示没有限制, typed 定义不同类型的值是否应该被缓存为相同结果。
给定完全相同输入,确定性函数总是返回相同的值。可以无期限存储他们的结果。 在进程内存中缓存,检索时最快的。
优化递归函数,针对多次相同的输入进行计算。
redis服务器脚本为 Lua
提供独特数据模型和高性能,可支持各种数据结构:字符串,列表,集合,哈希,可用于数据库缓存或消息代理。 不支持RDBMS,SQL,ACID事务。
单核,安装简单,最大密钥2G。
使用列表,字符串,哈希,排序集,位图(常用于地理信息系统) 作为数据结构。
支持主从复制,多主从复制。
具有文档存储,图形DBMS,搜索引擎,时间序列DBMS作为 辅助数据库模型。 支持持久化,支持分片。
如何在redis中 设计一个缓存
1, 确定 数据是否被应用程序 重复读取 2, 确认 访问缓存数据的 key 键格式 3, 选择 正常的 redis 数据 类型 4,允许 value 值 生存时间 TTL time-to-live 5, 决定数据 驱逐策略 Decide the eviction policy 6, 实现读写逻辑
高速订阅服务
发布订阅的三种实现:
Pub/Sub publish subscribe List lpush brpop # timeout 是必填参数 Sorted Set zadd zrangebyscore WITHSCORS
内存数据库 会话数据库 Session Store
app会话需要频繁读写 Session based apps with frequent reads and writes
app会话间的数据需要隔离 Data is isolated between sessions
例如
电子商务 e-Commerce, 游戏 gaming,社交应用 social applications
设计一个会话数据库
1,确定存储 会话数据的表结构
2,确定 redis对应的 数据结构
3,列出需求,开发redis 对应的结构
4,决定程序 加载会话数据(session data)和 怎样从redis再同步数据 到 mysql
5,修改数据访问层 或 应用app
流量限制 Rate Limiting
内建工具:
- redis 内置计数器 Built-in counters
- 访问生存数据 TTL
- 线程安全 从架构上保证 事务操作序列正确
- 流控简单实现 结构
web_server Queue Cache/Lock Query Worker
LUA脚本 使用 INCR 与 EXPIRE 操作实现 流量限制
Lua脚本 如果需要限流 limit 选择操作
// redis 限流功能 每分钟 300000 调用
counter = Redis.call(INCR call_counter) IF counterGeo数据
#Search - RediSearch
地球环境指标 #Geo Spatial Indexing
最具性价比的 数据管理和缩放操作
数据以更快速度存取。
在高业务压力场景下 保持应用程序的响应。
克服 数据库的 物理能力限制(特别是磁盘数据的性能问题)。
附 常用指令表速查
注:命令的使用与大小写无关。
比如: DEL = DEl = dEL = dEl = DeL = DeL…
Redis 键(key)相关 命令
命令 描述,
counter = Redis.call(INCR call_counter) IF counterRedis 字符串(String) 命令
命令 描述
counter = Redis.call(INCR call_counter) IF counterRedis 哈希(Hash) 命令
命令 描述
counter = Redis.call(INCR call_counter) IF counterRedis 列表(List) 命令
命令 描述
counter = Redis.call(INCR call_counter) IF counterRedis 集合(Set) 命令
命令 描述
counter = Redis.call(INCR call_counter) IF counterRedis 有序集合(sorted set) 命令
命令 描述
counter = Redis.call(INCR call_counter) IF counterRedis 连接 命令
命令 描述
counter = Redis.call(INCR call_counter) IF counterRedis 服务器 命令
命令 描述
Redis Client Pause 命令 在指定时间内终止运行来自客户端的命令 Redis Debug Object 命令 获取 key 的调试信息 Redis Flushdb 命令 删除当前数据库的所有key Redis Save 命令 异步保存数据到硬盘 Redis Showlog 命令 管理 redis 的慢日志 Redis Lastsave 命令 返回最近一次 Redis 成功将数据保存到磁盘上的时间,以 UNIX 时间戳格式表示 Redis Config Get 命令 获取指定配置参数的值 Redis Command 命令 获取 Redis 命令详情数组 Redis Slaveof 命令 将当前服务器转变为指定服务器的从属服务器(slave server) Redis Debug Segfault 命令 让 Redis 服务崩溃 Redis Flushall 命令 删除所有数据库的所有key Redis Dbsize 命令 返回当前数据库的 key 的数量 Redis Bgrewriteaof 命令 异步执行一个 AOF(AppendOnly File) 文件重写操作 Redis Cluster Slots 命令 获取集群节点的映射数组 Redis Config Set 命令 修改 redis 配置参数,无需重启 Redis Command Info 命令 获取指定 Redis 命令描述的数组 Redis Shutdown 命令 异步保存数据到硬盘,并关闭服务器 Redis Sync 命令 用于复制功能(replication)的内部命令 Redis Client Kill 命令 关闭客户端连接 Redis Role 命令 返回主从实例所属的角色 Redis Monitor 命令 实时打印出 Redis 服务器接收到的命令,调试用 Redis Command Getkeys 命令 获取给定命令的所有键 Redis Client Getname 命令 获取连接的名称 Redis Config Resetstat 命令 重置 INFO 命令中的某些统计数据 Redis Command Count 命令 获取 Redis 命令总数 Redis Time 命令 返回当前服务器时间 Redis Info 命令 获取 Redis 服务器的各种信息和统计数值 Redis Config rewrite 命令 对启动 Redis 服务器时所指定的 redis.conf 配置文件进行改写 Redis Client List 命令 获取连接到服务器的客户端连接列表 Redis Client Setname 命令 设置当前连接的名称 Redis Bgsave 命令 在后台异步保存当前数据库的数据到磁盘Redis 脚本 命令
命令 描述
Redis Client Pause 命令 在指定时间内终止运行来自客户端的命令 Redis Debug Object 命令 获取 key 的调试信息 Redis Flushdb 命令 删除当前数据库的所有key Redis Save 命令 异步保存数据到硬盘 Redis Showlog 命令 管理 redis 的慢日志 Redis Lastsave 命令 返回最近一次 Redis 成功将数据保存到磁盘上的时间,以 UNIX 时间戳格式表示 Redis Config Get 命令 获取指定配置参数的值 Redis Command 命令 获取 Redis 命令详情数组 Redis Slaveof 命令 将当前服务器转变为指定服务器的从属服务器(slave server) Redis Debug Segfault 命令 让 Redis 服务崩溃 Redis Flushall 命令 删除所有数据库的所有key Redis Dbsize 命令 返回当前数据库的 key 的数量 Redis Bgrewriteaof 命令 异步执行一个 AOF(AppendOnly File) 文件重写操作 Redis Cluster Slots 命令 获取集群节点的映射数组 Redis Config Set 命令 修改 redis 配置参数,无需重启 Redis Command Info 命令 获取指定 Redis 命令描述的数组 Redis Shutdown 命令 异步保存数据到硬盘,并关闭服务器 Redis Sync 命令 用于复制功能(replication)的内部命令 Redis Client Kill 命令 关闭客户端连接 Redis Role 命令 返回主从实例所属的角色 Redis Monitor 命令 实时打印出 Redis 服务器接收到的命令,调试用 Redis Command Getkeys 命令 获取给定命令的所有键 Redis Client Getname 命令 获取连接的名称 Redis Config Resetstat 命令 重置 INFO 命令中的某些统计数据 Redis Command Count 命令 获取 Redis 命令总数 Redis Time 命令 返回当前服务器时间 Redis Info 命令 获取 Redis 服务器的各种信息和统计数值 Redis Config rewrite 命令 对启动 Redis 服务器时所指定的 redis.conf 配置文件进行改写 Redis Client List 命令 获取连接到服务器的客户端连接列表 Redis Client Setname 命令 设置当前连接的名称 Redis Bgsave 命令 在后台异步保存当前数据库的数据到磁盘Redis 事务 命令
命令 描述
Redis Client Pause 命令 在指定时间内终止运行来自客户端的命令 Redis Debug Object 命令 获取 key 的调试信息 Redis Flushdb 命令 删除当前数据库的所有key Redis Save 命令 异步保存数据到硬盘 Redis Showlog 命令 管理 redis 的慢日志 Redis Lastsave 命令 返回最近一次 Redis 成功将数据保存到磁盘上的时间,以 UNIX 时间戳格式表示 Redis Config Get 命令 获取指定配置参数的值 Redis Command 命令 获取 Redis 命令详情数组 Redis Slaveof 命令 将当前服务器转变为指定服务器的从属服务器(slave server) Redis Debug Segfault 命令 让 Redis 服务崩溃 Redis Flushall 命令 删除所有数据库的所有key Redis Dbsize 命令 返回当前数据库的 key 的数量 Redis Bgrewriteaof 命令 异步执行一个 AOF(AppendOnly File) 文件重写操作 Redis Cluster Slots 命令 获取集群节点的映射数组 Redis Config Set 命令 修改 redis 配置参数,无需重启 Redis Command Info 命令 获取指定 Redis 命令描述的数组 Redis Shutdown 命令 异步保存数据到硬盘,并关闭服务器 Redis Sync 命令 用于复制功能(replication)的内部命令 Redis Client Kill 命令 关闭客户端连接 Redis Role 命令 返回主从实例所属的角色 Redis Monitor 命令 实时打印出 Redis 服务器接收到的命令,调试用 Redis Command Getkeys 命令 获取给定命令的所有键 Redis Client Getname 命令 获取连接的名称 Redis Config Resetstat 命令 重置 INFO 命令中的某些统计数据 Redis Command Count 命令 获取 Redis 命令总数 Redis Time 命令 返回当前服务器时间 Redis Info 命令 获取 Redis 服务器的各种信息和统计数值 Redis Config rewrite 命令 对启动 Redis 服务器时所指定的 redis.conf 配置文件进行改写 Redis Client List 命令 获取连接到服务器的客户端连接列表 Redis Client Setname 命令 设置当前连接的名称 Redis Bgsave 命令 在后台异步保存当前数据库的数据到磁盘Redis HyperLogLog 命令
命令 描述
Redis Client Pause 命令 在指定时间内终止运行来自客户端的命令 Redis Debug Object 命令 获取 key 的调试信息 Redis Flushdb 命令 删除当前数据库的所有key Redis Save 命令 异步保存数据到硬盘 Redis Showlog 命令 管理 redis 的慢日志 Redis Lastsave 命令 返回最近一次 Redis 成功将数据保存到磁盘上的时间,以 UNIX 时间戳格式表示 Redis Config Get 命令 获取指定配置参数的值 Redis Command 命令 获取 Redis 命令详情数组 Redis Slaveof 命令 将当前服务器转变为指定服务器的从属服务器(slave server) Redis Debug Segfault 命令 让 Redis 服务崩溃 Redis Flushall 命令 删除所有数据库的所有key Redis Dbsize 命令 返回当前数据库的 key 的数量 Redis Bgrewriteaof 命令 异步执行一个 AOF(AppendOnly File) 文件重写操作 Redis Cluster Slots 命令 获取集群节点的映射数组 Redis Config Set 命令 修改 redis 配置参数,无需重启 Redis Command Info 命令 获取指定 Redis 命令描述的数组 Redis Shutdown 命令 异步保存数据到硬盘,并关闭服务器 Redis Sync 命令 用于复制功能(replication)的内部命令 Redis Client Kill 命令 关闭客户端连接 Redis Role 命令 返回主从实例所属的角色 Redis Monitor 命令 实时打印出 Redis 服务器接收到的命令,调试用 Redis Command Getkeys 命令 获取给定命令的所有键 Redis Client Getname 命令 获取连接的名称 Redis Config Resetstat 命令 重置 INFO 命令中的某些统计数据 Redis Command Count 命令 获取 Redis 命令总数 Redis Time 命令 返回当前服务器时间 Redis Info 命令 获取 Redis 服务器的各种信息和统计数值 Redis Config rewrite 命令 对启动 Redis 服务器时所指定的 redis.conf 配置文件进行改写 Redis Client List 命令 获取连接到服务器的客户端连接列表 Redis Client Setname 命令 设置当前连接的名称 Redis Bgsave 命令 在后台异步保存当前数据库的数据到磁盘Redis 发布订阅 命令
命令 描述
Redis Client Pause 命令 在指定时间内终止运行来自客户端的命令 Redis Debug Object 命令 获取 key 的调试信息 Redis Flushdb 命令 删除当前数据库的所有key Redis Save 命令 异步保存数据到硬盘 Redis Showlog 命令 管理 redis 的慢日志 Redis Lastsave 命令 返回最近一次 Redis 成功将数据保存到磁盘上的时间,以 UNIX 时间戳格式表示 Redis Config Get 命令 获取指定配置参数的值 Redis Command 命令 获取 Redis 命令详情数组 Redis Slaveof 命令 将当前服务器转变为指定服务器的从属服务器(slave server) Redis Debug Segfault 命令 让 Redis 服务崩溃 Redis Flushall 命令 删除所有数据库的所有key Redis Dbsize 命令 返回当前数据库的 key 的数量 Redis Bgrewriteaof 命令 异步执行一个 AOF(AppendOnly File) 文件重写操作 Redis Cluster Slots 命令 获取集群节点的映射数组 Redis Config Set 命令 修改 redis 配置参数,无需重启 Redis Command Info 命令 获取指定 Redis 命令描述的数组 Redis Shutdown 命令 异步保存数据到硬盘,并关闭服务器 Redis Sync 命令 用于复制功能(replication)的内部命令 Redis Client Kill 命令 关闭客户端连接 Redis Role 命令 返回主从实例所属的角色 Redis Monitor 命令 实时打印出 Redis 服务器接收到的命令,调试用 Redis Command Getkeys 命令 获取给定命令的所有键 Redis Client Getname 命令 获取连接的名称 Redis Config Resetstat 命令 重置 INFO 命令中的某些统计数据 Redis Command Count 命令 获取 Redis 命令总数 Redis Time 命令 返回当前服务器时间 Redis Info 命令 获取 Redis 服务器的各种信息和统计数值 Redis Config rewrite 命令 对启动 Redis 服务器时所指定的 redis.conf 配置文件进行改写 Redis Client List 命令 获取连接到服务器的客户端连接列表 Redis Client Setname 命令 设置当前连接的名称 Redis Bgsave 命令 在后台异步保存当前数据库的数据到磁盘Redis 地理位置(geo) 命令
命令 描述
Redis Client Pause 命令 在指定时间内终止运行来自客户端的命令 Redis Debug Object 命令 获取 key 的调试信息 Redis Flushdb 命令 删除当前数据库的所有key Redis Save 命令 异步保存数据到硬盘 Redis Showlog 命令 管理 redis 的慢日志 Redis Lastsave 命令 返回最近一次 Redis 成功将数据保存到磁盘上的时间,以 UNIX 时间戳格式表示 Redis Config Get 命令 获取指定配置参数的值 Redis Command 命令 获取 Redis 命令详情数组 Redis Slaveof 命令 将当前服务器转变为指定服务器的从属服务器(slave server) Redis Debug Segfault 命令 让 Redis 服务崩溃 Redis Flushall 命令 删除所有数据库的所有key Redis Dbsize 命令 返回当前数据库的 key 的数量 Redis Bgrewriteaof 命令 异步执行一个 AOF(AppendOnly File) 文件重写操作 Redis Cluster Slots 命令 获取集群节点的映射数组 Redis Config Set 命令 修改 redis 配置参数,无需重启 Redis Command Info 命令 获取指定 Redis 命令描述的数组 Redis Shutdown 命令 异步保存数据到硬盘,并关闭服务器 Redis Sync 命令 用于复制功能(replication)的内部命令 Redis Client Kill 命令 关闭客户端连接 Redis Role 命令 返回主从实例所属的角色 Redis Monitor 命令 实时打印出 Redis 服务器接收到的命令,调试用 Redis Command Getkeys 命令 获取给定命令的所有键 Redis Client Getname 命令 获取连接的名称 Redis Config Resetstat 命令 重置 INFO 命令中的某些统计数据 Redis Command Count 命令 获取 Redis 命令总数 Redis Time 命令 返回当前服务器时间 Redis Info 命令 获取 Redis 服务器的各种信息和统计数值 Redis Config rewrite 命令 对启动 Redis 服务器时所指定的 redis.conf 配置文件进行改写 Redis Client List 命令 获取连接到服务器的客户端连接列表 Redis Client Setname 命令 设置当前连接的名称 Redis Bgsave 命令 在后台异步保存当前数据库的数据到磁盘
小结
以下场景适用缓存。
查询数据库的可调用项的结果。 渲染为静态值的可调用项结果,例如文件内容,Web请求或PDF渲染。 执行复杂计算的确定性可调用对象结果。 全局映射,用于跟踪到期时间的值,如Web会话对象。 需要经常和快速访问的结果。 保存通过Web服务获得的第三代Api结果。 减少延迟
点击关注,第一时间了解华为云新鲜技术~