redis缓存(redis缓存穿透)

本篇文章给大家谈谈redis缓存,以及redis缓存穿透对应的知识点,希望对各位有所帮助,不要忘了收藏本站喔。

本文目录一览:

Redis分布式缓存搭建

花了两天时间整理了之前记录的Redis单体与哨兵模式的搭建与使用,又补齐了集群模式的使用和搭建经验,并对集群的一些个原理做了理解。

笔者安装中遇到的一些问题:

如果make报错,可能是没装gcc或者gcc++编辑器,安装之 yum -y install gcc gcc-c++ kernel-devel ,有可能还是提示一些个c文件编译不过,gcc -v查看下版本,如果不到5.3那么升级一下gcc:

在 /etc/profile 追加一行 source /opt/rh/devtoolset-9/enable

scl enable devtoolset-9 bash

重新make clean, make

这回编译通态纳哪过了,提示让你最好make test一下/

执行make test ,如果提示 You need tcl 8.5 or newer in order to run the Redis test

那就升级tcl, yum install tcl

重新make test,如果还有error就删了目录,重新tar包解压重新make , make test

\o/ All tests passed without errors! ,表示编译成功。

然后make install即可。

直接运行命令: ./redis-server /usr/redis-6.0.3/redis.conf

redis.conf 配置文件里帆码 bind 0.0.0.0 设置外部访问, requirepass xxxx 设置密码。

redis高可用方案有两种:

常用搭建方案为1主1从或1主2从+3哨兵监控主节点, 以及3主3从6节点集群。

(1)sentinel哨兵

/usr/redis-6.0.3/src/redis-sentinel /usr/redis-6.0.3/sentinel2.conf

sentinel2.conf配置:

坑1:master节点也会在故障转移后成为从节点,也需要配置masterauth

当kill master进程之后,经过sentinel选举,slave成为了新的master,再次启动原master,提示如下错误:

原因是此时的master再次启动已经是slave了,需要向现在的新master输入密码,所以需要在master.conf

中配置:

坑2:哨兵配置文件要暴露客户端可以访问到的master地址

在 sentinel.conf 配置文件的 sentinel monitor mymaster 122.xx.xxx.xxx 6379 2 中,配置该哨兵对应的master名字、master地址和端口,以及达到多少个哨兵选举通过认为master挂掉。其中master地址要站在redis访问者(也就是客户端)的角度、配置茄稿访问者能访问的地址,例如sentinel与master在一台服务器(122.xx.xxx.xxx)上,那么相对sentinel其master在本机也就是127.0.0.1上,这样 sentinel monitor mymaster 127.0.0.1 6379 2 逻辑上没有问题,但是如果另外服务器上的springboot通过lettuce访问这个redis哨兵,则得到的master地址为127.0.0.1,也就是springboot所在服务器本机,这显然就有问题了。

附springboot2.1 redis哨兵配置:

坑3:要注意配置文件.conf会被哨兵修改

redis-cli -h localhost -p 26379 ,可以登到sentinel上用info命令查看一下哨兵的信息。

曾经遇到过这样一个问题,大致的信息如下

slaves莫名其妙多了一个,master的地址也明明改了真实对外的地址,这里又变成127.0.0.1 !

最后,把5个redis进程都停掉,逐个检查配置文件,发现redis的配置文件在主从哨兵模式会被修改,master的配置文件最后边莫名其妙多了一行replicaof 127.0.0.1 7001, 怀疑应该是之前配置错误的时候(见坑2)被哨兵动态加上去的! 总之,实践中一定要多注意配置文件的变化。

(2)集群

当数据量大到一定程度,比如几十上百G,哨兵模式不够用了需要做水平拆分,早些年是使用codis,twemproxy这些第三方中间件来做分片的,即 客户端 - 中间件 - Redis server 这样的模式,中间件使用一致性Hash算法来确定key在哪个分片上。后来Redis官方提供了方案,大家就都采用官方的Redis Cluster方案了。

Redis Cluster从逻辑上分16384个hash slot,分片算法是 CRC16(key) mod 16384 得到key应该对应哪个slot,据此判断这个slot属于哪个节点。

每个节点可以设置1或多个从节点,常用的是3主节点3从节点的方案。

reshard,重新分片,可以指定从哪几个节点移动一些hash槽到另一个节点去。重新分片的过程对客户端透明,不影响线上业务。

搭建Redis cluster

redis.conf文件关键的几个配置:

启动6个集群节点

[root@VM_0_11_centos redis-6.0.3]# ps -ef|grep redis

root 5508 1 0 21:25 ? 00:00:00 /usr/redis-6.0.3/src/redis-server 0.0.0.0:7001 [cluster]

root 6903 1 0 21:32 ? 00:00:00 /usr/redis-6.0.3/src/redis-server 0.0.0.0:7002 [cluster]

root 6939 1 0 21:33 ? 00:00:00 /usr/redis-6.0.3/src/redis-server 0.0.0.0:7003 [cluster]

root 6966 1 0 21:33 ? 00:00:00 /usr/redis-6.0.3/src/redis-server 0.0.0.0:7004 [cluster]

root 6993 1 0 21:33 ? 00:00:00 /usr/redis-6.0.3/src/redis-server 0.0.0.0:7005 [cluster]

root 7015 1 0 21:33 ? 00:00:00 /usr/redis-6.0.3/src/redis-server 0.0.0.0:7006 [cluster]

这时候这6个节点还是独立的,要把他们配置成集群:

说明: -a xxxx 是因为笔者在redis.conf中配置了requirepass xxxx密码,然后 --cluster-replicas 1 中的1表示每个master节点有1个从节点。

上述命令执行完以后会有一个询问: Can I set the above configuration? yes同意自动做好的分片即可。

最后 All 16384 slots covered. 表示集群中16384个slot中的每一个都有至少有1个master节点在处理,集群启动成功。

查看集群状态:

坑1:暴露给客户端的节点地址不对

使用lettuce连接发现连不上,查看日志 Connection refused: no further information: /127.0.0.1:7002 ,跟之前哨兵配置文件sentinel.conf里边配置master地址犯的错误一样,集群启动的时候带的地址应该是提供给客户端访问的地址。

我们要重建集群:先把6个redis进程停掉,然后删除 nodes-7001.conf 这些节点配置文件,删除持久化文件 dump.rdb 、 appendonly.aof ,重新启动6个进程,在重新建立集群:

然后,还是连不上,这次报错 connection timed out: /172.xx.0.xx:7004 ,发现连到企鹅云服务器的内网地址上了!

解决办法,修改每个节点的redis.conf配置文件,找到如下说明:

所以增加配置:

然后再重新构建集群,停进程、改配置、删除节点文件和持久化文件、启动进程、配置集群。。。再来一套(累死了)

重新使用Lettuce测试,这次终于连上了!

坑2:Lettuce客户端在master节点故障时没有自动切换到从节点

name这个key在7002上,kill这个进程模拟master下线,然后Lettuce一直重连。我们期望的是应该能自动切换到其slave 7006上去,如下图:

重新启动7002进程,

7006已成为新master,7002成为它的slave,然后Lettuce也能连接上了。

解决办法,修改Lettuce的配置:

笔者用的是springboot 2.1 spring-boot-starter-data-redis 默认的Lettuce客户端,当使用Redis cluster集群模式时,需要配置一下 RedisConnectionFactory 开启自适应刷新来做故障转移时的自动切换从节点进行连接。

重新测试:停掉master 7006,这次Lettuce可以正常切换连到7002slave上去了。(仍然会不断的在日志里报连接错误,因为需要一直尝试重连7006,但因为有7002从节点顶上了、所以应用是可以正常使用的)

Redis不保证数据的强一致性

Redis并不保证数据的强一致性,也就是取CAP定理中的AP

关于一致性Hash算法,可以参考 一致性Hash算法 - (jianshu.com)

Redis cluster使用的是hash slot算法,跟一致性Hash算法不太一样,固定16384个hash槽,然后计算key落在哪个slot里边(计算key的CRC16值再对16384取模),key找的是slot而不是节点,而slot与节点的对应关系可以通过reshard改变并通过gossip协议扩散到集群中的每一个节点、进而可以为客户端获知,这样key的节点寻址就跟具体的节点个数没关系了。也同样解决了普通hash取模算法当节点个数发生变化时,大量key对应的寻址都发生改动导致缓存失效的问题。

比如集群增加了1个节点,这时候如果不做任何操作,那么新增加的这个节点上是没有slot的,所有slot都在原来的节点上且对应关系不变、所以没有因为节点个数变动而缓存失效,当reshard一部分slot到新节点后,客户端获取到新迁移的这部分slot与新节点的对应关系、寻址到新节点,而没迁移的slot仍然寻址到原来的节点。

关于热迁移,猜想,内部应该是先做复制迁移,等迁移完了,再切换slot与节点的对应关系,复制没有完成之前仍按照原来的slot与节点对应关系去原节点访问。复制结束之后,再删除原节点上已经迁移的slot所对应的key。

与哨兵模式比较类似,当1个节点发现某个master节点故障了、会对这个故障节点进行pfail主观宕机,然后会通过gossip协议通知到集群中的其他节点、其他节点也执行判断pfail并gossip扩散广播这一过程,当超过半数节点pfail时那么故障节点就是fail客观宕机。接下来所有的master节点会在故障节点的从节点中选出一个新的主节点,此时所有的master节点中超过半数的都投票选举了故障节点的某个从节点,那么这个从节点当选新的master节点。

所有节点都持有元数据,节点之间通过gossip这种二进制协议进行通信、发送自己的元数据信息给其他节点、故障检测、集群配置更新、故障转移授权等等。

这种去中心化的分布式节点之间内部协调,包括故障识别、故障转移、选主等等,核心在于gossip扩散协议,能够支撑这样的广播协议在于所有的节点都持有一份完整的集群元数据,即所有的节点都知悉当前集群全局的情况。

Redis高可用方案 - (jianshu.com)

面试题:Redis 集群模式的工作原理能说一下么 - 云+社区 - 腾讯云 (tencent.com)

深度图解Redis Cluster原理 - detectiveHLH - 博客园 (cnblogs.com)

Redis学习笔记之集群重启和遇到的坑-阿里云开发者社区 (aliyun.com)

云服务器Redis集群部署及客户端通过公网IP连接问题

redis缓存有多久

在Redis中的数据一般在内存中进行存取,在没有进行持久化之前这些数据都有过期时间,对于Redis的过期时间需要通过对key设置过期时间,一族乎宏般时间的设置需要根据项目改变,可以设置一段时间后或者永久不失效。

redis过期时间

redis过期时间介绍有时候我们并不希望redis的key一直存在。例如缓存,验证码等数据,我顷旦们希望它们能在一定时间内自动的被销毁。redis提供了一些命令,能够让我们对key设置过期时间,并且让key过期之后被自动删除。

5.SETEXSETEX接口定义:SETEX key "seconds" "value"接口描述:SETEX在逻辑上等价于SET和EXPIRE合并的操作,区别兆册之处在于SETEX是一条命令,而命令的执行是原子性的,所以不会出现并发问题。

redis缓存机制一般会影响软件的哪些功能?

Redis缓存机制主要作用在于提高数据访问速度、减轻数据库压力、提高系统性能。但是,使用Redis缓存机制可能会影响软件的以下功能:

数据一致性:由于Redis缓存中的数据与数据库中的数据可能存在不一致的情况,这会导致用户在查询数据时看到不一致的结果。

数据过期:缓存数据有祥携过期时间,如果缓存数据过期,需要重新从数据库中获取,这可能会影响查询速度。

数蔽册据持久化:Redis提供了RDB和AOF两种持久化策略,但在某些情况下,如意外宕机等,可能会导致缓存数据的丢失。

内存限制:Redis是基于内存的存储系统,当缓存数据量过大时,可能会消耗大量内存资源,影响软件其他功能的性能。

缓存穿透、缓存击穿和缓存雪崩:这些现象可能导致缓存系统承受较大压力,进而影响整个软件的性能和稳定性。

分布式环境:在分布式环境下,需要考虑缓存数据的同步和一致性问题,否则可能会导致软件功能异常。

缓存维护:需要定期对缓存进行维护,如清除无用的缓存数据,避免缓存数据过多影响系统性能。

在使用Redis缓存机制时,需要充分考虑这些可能影响软件功能的因素,谨并伏并采取相应的措施进行优化。

redis千万数据放缓存合理么

Redis是一种高性能的内存数据库,它可以用来存储高速缓存数据。

将数据存储在缓存中可以提高系统的性能,因为从缓存中读取数据的速度比肢裤从数据库中读取数据的速度快得多。

但是,将所有数据都放入缓存中可能并不是最优解。缓核历存有一定的容量限制,如果缓历氏简存容量不足以容纳所有数据,那么缓存就会淘汰部分数据,这样就会导致缓存命中率降低,系统性能也会降低。因此,应该根据实际情况合理设置缓存容量,并将重要的、频繁使用的数据放入缓存中。

[img]

关于redis缓存和redis缓存穿透的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息,记得收藏关注本站。

相关阅读

  • 数据仓库dwd(数据仓库dwd层设计)

    数据仓库dwd(数据仓库dwd层设计)

    标题:数据仓库dwd简介:数据仓库(Data Warehouse)是一种用于存储和管理企业数据的系统,旨在支持商业决策。数据仓库是大型集中式数据库,用于将各种来源的数据整合到一起,以帮助企业分析和获取更深层次的洞察。在数据仓库中,数据经过清...

    2024.04.25 02:00:37作者:intanet.cnTags:数据仓库dwd
  • sqlupdate(SQL UPDATE语句)

    sqlupdate(SQL UPDATE语句)

    简介:在IT技术领域中,SQL语言是非常重要的一种数据操作语言。其中,SQL的UPDATE语句是用来更新数据库表中的数据的。在这篇文章中,我们将详细说明SQL的UPDATE语句的用法和注意事项。多级标题:一、什么是UPDATE语句二、UPD...

    2024.04.24 18:00:43作者:intanet.cnTags:sqlupdate
  • oracle启动(oracle启动步骤)

    oracle启动(oracle启动步骤)

    简介:Oracle是一个功能强大的数据库管理系统,能够处理大量的数据,并且支持高度可扩展性和稳定性。在使用Oracle数据库时,启动Oracle是非常重要的操作,只有在Oracle启动之后,才能正常访问数据库。多级标题:一、启动Oracle...

    2024.04.24 15:22:40作者:intanet.cnTags:oracle启动
  • oracle查看所有表(oracle查看所有表的sql语句)

    oracle查看所有表(oracle查看所有表的sql语句)

    在IT技术领域中,Oracle数据库是一种非常流行的关系型数据库管理系统。在使用Oracle数据库时,有时候需要查看所有的表的信息,以便进行数据分析、优化或管理。本文将介绍如何在Oracle数据库中查看所有表的方法。### 第一部分:登录O...

    2024.04.24 05:01:17作者:intanet.cnTags:oracle查看所有表
  • 关于oraclejde的信息

    关于oraclejde的信息

    简介:Oracle JD Edwards EnterpriseOne是一款集成的企业资源计划(ERP)软件,旨在提高组织的效率和灵活性。它基于先进的技术平台,包括云计算和移动应用,能够满足各种行业的需求。多级标题:1. 什么是Oracle...

    2024.04.24 02:03:17作者:intanet.cnTags:oraclejde
  • sql添加(sql添加多条记录)

    sql添加(sql添加多条记录)

    简介:在IT技术领域中,SQL是一种常用的数据库查询语言,用于对数据库进行增、删、查、改等操作。本文将详细介绍SQL中的添加操作,包括添加数据到数据库表和添加新的列到表格中。一、添加数据到数据库表当需要向数据库表中添加新的数据时,可以使用I...

    2024.04.23 19:11:52作者:intanet.cnTags:sql添加
  • redis使用(redis使用手册)

    redis使用(redis使用手册)

    简介:Redis是一款开源的高性能键值存储数据库,具有快速、稳定和可靠的特点。它被广泛应用于缓存、消息队列、会话管理等场景中,并且可以支持多种数据结构类型,如字符串、哈希表、列表等。本文将介绍如何使用Redis,并详细说明其常用功能和操作。...

    2024.04.23 18:55:28作者:intanet.cnTags:redis使用
  • 包含pdboracle的词条

    包含pdboracle的词条

    简介:PDBOracle是一种用于数据存储和管理的数据库系统,在IT技术领域有着广泛的应用。本文将介绍PDBOracle的概念、优势以及如何使用它来提高数据存储和管理的效率。一级标题:什么是PDBOracle?PDBOracle是一种用于数...

    2024.04.23 17:03:11作者:intanet.cnTags:pdboracle