Toggle navigation
Home
Java
Spring
Spring框架
SpringBoot
SpringCloud
SpringGateway
Nacos
Apollo配置中心
中间件
Redis
Mysql
ElasticSearch
算法
LeetCode
Redis 入门基础知识
# Redis 入门基础知识 ## 基本架构:一个键值数据库包含什么 #### simple key v 数据模型 对于键值数据库而言,基本的数据模型是 key-value 模型。 例如,“hello”: “world”就是一个基本的 KV 对,其中,“hello”是 key,“world”是 value。SimpleKV 也不例外。在 SimpleKV 中,key 是 String 类型,而 value 是基本数据类型,例如 String、整型等。 不同键值数据库支持的 key 类型一般差异不大,**而 value 类型则有较大差别**。我们在对键值数据库进行选型时,一个重要的考虑因素是它支持的 value 类型。**例如,Memcached 支持的 value 类型仅为 String 类型,而 Redis 支持的 value 类型包括了 String、哈希表、列表、集合等**。**<font color='red'>Redis 能够在实际业务场景中得到广泛的应用,就是得益于支持多样化类型的 value。</font>** 从使用的角度来说,不同 value 类型的实现,不仅可以支撑不同业务的数据需求,而且也隐含着**不同数据结构在性能、空间效率等方面的差异**,从而导致不同的 value 操作之间存在着差异。 #### 可以对数据做什么操作? SimpleKV 是一个简单的键值数据库,因此,基本操作无外乎增删改查。我们先来了解下 SimpleKV 需要支持的 3 种基本操作,即 **PUT、GET 和 DELETE**。 * PUT:新写入或更新一个 key-value 对; * GET:根据一个 key 读取相应的 value 值; * DELETE:根据一个 key 删除整个 key-value 对。 需要注意的是,有些键值数据库的新写 / 更新操作叫 SET。新写入和更新虽然是用一个操作接口,但在实际执行时,会根据 key 是否存在而执行相应的新写或更新流 在实际的业务场景中,我们经常会碰到这种情况:查询一个用户在一段时间内的访问记录。这种操作在键值数据库中属于 SCAN 操作,即根据一段 key 的范围返回相应的 value 值。**因此,PUT/GET/DELETE/SCAN 是一个键值数据库的基本操作集合。** 数据模型和操作接口我们就构造完成了,这是我们的基础工作。接下来呢,我们就要更进一步,考虑一个非常重要的设计问题:键值对保存在内存还是外存? **保存在内存的好处是读写很快**,毕竟内存的访问速度一般都在百 ns 级别。但是,潜在的**风险是一旦掉电,所有的数据都会丢失。** 保存在**外存,虽然可以避免数据丢失**,但是受限于磁盘的慢速读写(通常在几 ms 级别),**键值数据库的整体性能会被拉低。** **如何进行设计选择,我们通常需要考虑键值数据库的主要应用场景**。比如,缓存场景下的数据需要能快速访问但允许丢失,那么,用于此场景的键值数据库通常采用内存保存键值数据。Memcached 和 Redis 都是属于内存键值数据库。对于 Redis 而言,缓存是非常重要的一个应用场景 **一个键值数据库包括了访问框架、索引模块、操作模块和存储模块四部分**(见下图)。接下来,我们就从这四个部分入手,继续构建我们的 SimpleKV。 ![](https://www.andycoder.com/admin/file/getFile?fileId=627dc5e0aab248d3b5290fbaa30d2fb4) #### 采用什么访问模式 **访问模式通常有两种:一种是通过函数库调用的方式供外部应用使用**,比如,上图中的 libsimplekv.so,就是以动态链接库的形式链接到我们自己的程序中,提供键值存储功能;**另一种是通过网络框架以 Socket 通信的形式对外提供键值对操作**,这种形式可以提供广泛的键值存储服务。在上图中,我们可以看到,网络框架中包括 Socket Server 和协议解析。 不同的键值数据库服务器和客户端交互的协议并不相同,我们在对键值数据库进行二次开发、新增功能时,必须要了解和掌握键值数据库的通信协议,这样才能开发出兼容的客户端。 实际的键值数据库也基本采用上述两种方式,例如,RocksDB 以动态链接库的形式使用,而 Memcached 和 Redis 则是通过网络框架访问。后面我还会给你介绍 Redis 现有的客户端和通信协议。 通过网络框架提供键值存储服务,一方面扩大了键值数据库的受用面,但另一方面,也给键值数据库的性能、运行模型提供了不同的设计选择,带来了一些潜在的问题。 举个例子,当客户端发送一个如下的命令后,该命令会被封装在网络包中发送给键值数据库: ``` PUT hello world ``` 键值数据库网络框架接收到网络包,并按照相应的协议进行解析之后,就可以知道,客户端想写入一个键值对,并开始实际的写入流程。此时,我们会遇到一个系统设计上的问题,简单来说,就是网络连接的处理、网络请求的解析,以及数据存取的处理,是用一个线程、多个线程,还是多个进程来交互处理呢?该如何进行设计和取舍呢?我们一般把这个问题称为 I/O 模型设计。不同的 I/O 模型对键值数据库的性能和可扩展性会有不同的影响。 举个例子,如果一个线程既要处理网络连接、解析请求,又要完成数据存取,一旦某一步操作发生阻塞,整个线程就会阻塞住,这就降低了系统响应速度。如果我们采用不同线程处理不同操作,那么,某个线程被阻塞时,其他线程还能正常运行。但是,不同线程间如果需要访问共享资源,那又会产生线程竞争,也会影响系统效率,这又该怎么办呢?所以,这的确是个“两难”选择,需要我们进行精心的设计。你可能经常听说 Redis 是单线程,那么,Redis 又是如何做到“单线程,高性能”的呢?后面我再和你好好聊一聊。 #### 如何定位键值对的位置? 当 SimpleKV 解析了客户端发来的请求,知道了要进行的键值对操作,此时,SimpleKV 需要查找所要操作的键值对是否存在,这依赖于键值数据库的索引模块。**索引的作用是让键值数据库根据 key 找到相应 value 的存储位置,进而执行操作。** 索引的类型有很多,常见的有哈希表、B+ 树、字典树等。不同的索引结构在性能、空间消耗、并发控制等方面具有不同的特征。如果你看过其他键值数据库,就会发现,不同键值数据库采用的索引并不相同,例如,Memcached 和 Redis 采用哈希表作为 key-value 索引,而 RocksDB 则采用跳表作为内存中 key-value 的索引。 一般而言,内存键值数据库(例如 Redis)采用哈希表作为索引,很大一部分原因在于,其键值数据基本都是保存在内存中的,**而内存的高性能随机访问特性可以很好地与哈希表 O(1) 的操作复杂度相匹配**。 SimpleKV 的索引根据 key 找到 value 的存储位置即可。但是,和 SimpleKV 不同,**对于 Redis 而言,很有意思的一点是,它的 value 支持多种类型,当我们通过索引找到一个 key 所对应的 value 后,仍然需要从 value 的复杂结构(例如集合和列表)中进一步找到我们实际需要的数据,这个操作的效率本身就依赖于它们的实现结构。** Redis 采用一些常见的高效索引结构作为某些 value 类型的底层数据结构,这一技术路线为 Redis 实现高性能访问提供了良好的支撑。 #### 不同操作的具体逻辑是怎样的? SimpleKV 的索引模块负责根据 key 找到相应的 value 的存储位置。对于不同的操作来说,找到存储位置之后,需要进一步执行的操作的具体逻辑会有所差异。SimpleKV 的操作模块就实现了不同操作的具体逻辑: * 对于 GET/SCAN 操作而言,此时根据 value 的存储位置返回 value 值即可; * 对于 PUT 一个新的键值对数据而言,SimpleKV 需要为该键值对分配内存空间; * 对于 DELETE 操作,SimpleKV 需要删除键值对,并释放相应的内存空间,这个过程由分配器完成。 不知道你注意到没有,对于 PUT 和 DELETE 两种操作来说,除了新写入和删除键值对,还需要分配和释放内存。这就不得不提 SimpleKV 的存储模块了。 #### 如何实现重启后快速提供服务? SimpleKV 采用了常用的内存分配器 glibc 的 malloc 和 free,因此,SimpleKV 并不需要特别考虑内存空间的管理问题。但是,键值数据库的键值对通常大小不一,glibc 的分配器在处理随机的大小内存块分配时,表现并不好。一旦保存的键值对数据规模过大,就可能会造成较严重的内存碎片问题。 因此,分配器是键值数据库中的一个关键因素。对于以内存存储为主的 Redis 而言,这点尤为重要。Redis 的内存分配器提供了多种选择,分配效率也不一样,后面我会具体讲一讲这个问题。 SimpleKV 虽然依赖于内存保存数据,提供快速访问,但是,我也希望 SimpleKV 重启后能快速重新提供服务,所以,我在 SimpleKV 的存储模块中增加了持久化功能。 不过,鉴于磁盘管理要比内存管理复杂,SimpleKV 就直接采用了文件形式,将键值数据通过调用本地文件系统的操作接口保存在磁盘上。此时,SimpleKV 只需要考虑何时将内存中的键值数据保存到文件中,就可以了。 一种方式是,对于每一个键值对,SimpleKV 都对其进行落盘保存,这虽然让 SimpleKV 的数据更加可靠,但是,因为每次都要写盘,SimpleKV 的性能会受到很大影响。 另一种方式是,SimpleKV 只是周期性地把内存中的键值数据保存到文件中,这样可以避免频繁写盘操作的性能影响。但是,一个潜在的代价是 SimpleKV 的数据仍然有丢失的风险。 和 SimpleKV 一样,Redis 也提供了持久化功能。不过,为了适应不同的业务场景,Redis 为持久化提供了诸多的执行机制和优化改进,后面我会和你逐一介绍 Redis 在持久化机制中的关键设计考虑。 ![](https://www.andycoder.com/admin/file/getFile?fileId=186e5df215504061a212f173244ff347)
中间件
Redis基础知识
文章分类
Nacos
SpringGateway
Nacos
Java
Spring
SpringBoot
SpringCloud
中间件
SpringGateway
Nacos
Redis
Mysql
算法
LeetCode
Apollo配置中心
ElasticSearch
Spring框架
文章标签
Redis基础知识
中间件
数据库
Mysql
算法题
面试题
软件安装
SpringFramework
ES