一、什么是 Reactor 模型:
The reactor design pattern is an event handling pattern for handling service requests delivered concurrently to a service handler by one or more inputs. The service handler then demultiplexes the incoming requests and dispatches them synchronously to the associated request handlers.
Reactor 该模式又称反应器设计模式,是一种为处理服务请求并提交给一个或多个服务处理器的事件设计模式。请求到达后,通过服务处理器将这些请求分发给相应的请求处理器。Reactor 模式主要由 Reactor 和处理器 Handler 这两个核心部分的组成如下图所示:
- Reactor:事件类型包括连接事件、读写事件;
- Handler :负责处理事件,如 read -> 业务逻辑 (decode compute encode)-> send;
在大多数情况下,处理网络请求有以下步骤:
- ① read:从 socket 读取数据。
- ② decode:解码,网络上的数据码的 byte 以传输的形式,要获得真正的请求,必须解码
- ③ compute:计算,即业务处理。
- ④ encode:网络上的数据都是编码的 byte 传输的形式,即 socket 只接收 byte,所以必须编码。
- ⑤ send:发送响应数据
对于Reactor就模式而言,每当有一个模式时,每当都有一个模式 Event 输入到 Server 端时,Service Handler 会将其转发(dispatch)相对应的 Handler 进行处理。Reactor 模型中定义的三个角色:
- Reactor:派发器负责监控和分配事件,并将事件分配给相应的 Handler。新事件包括建立就绪、读就绪、写就绪等。
- Acceptor:请求连接器处理客户端新连接。Reactor 接收到 client 端连接事件后,将其转发给 Acceptor,由 Acceptor 接收 Client 创建相应的连接 Handler,并向 Reactor 注册此 Handler。
- Handler:请求处理器负责事件的处理,绑定自己和事件,执行非阻塞读写任务,完成 channel 阅读完成业务逻辑后,负责写出结果 channel。可用资源池管理。
模型大致如下图所示:
读写请求,Reactor 模型按以下流程处理:
- (1)应用程序注册读/写就绪事件及相关事件处理器
- (2)事件分离器等待事件发生
- (3)当发生读写就绪事件时,事件分离器调用第一步注册的事件处理器
二、Reactor 模型分类:
Reactor 模型中的 Reactor 可以是单个或多个,Handler 也可以是单线程或多线程,因此组合模式大致如下:
- 单 Reactor 单线程模型
- 单 Reactor 多线程模型
- 主从 Reactor 单线程模型
- 主从 Reactor 多线程模型
第三种主从Reactor单线程模型没有实际意义,下面重点介绍其他三种模型
1、单 Reactor 单线程模型:
1.1.处理流程:
(1)Reactor 线程通过 select 监控事件,收到事件后通过 Dispatch 进行分发
(2)如果是连接建立事件,则将事件分发给 Acceptor,Acceptor 会通过 accept() 获取连接并创建方法Handler 处理后续响应事件的对象
(3)如果是IO读写事件,然后 Reactor 会将该事件交由当前连接的 Handler 来处理
(4)Handler 会完成 read -> 业务处理 -> send 完整的业务流程
1.2、优缺点:
单 Reactor 单线程模型的优点是在一个线程中实现所有处理逻辑,没有多线程、过程通信和竞争问题。但该模型在性能和可靠性方面存在严重问题:
- ① 性能:只区分代码上的组件,整体操作还是单线程,不能充分利用 CPU 资源,并且 Handler 业务处理部分没有异步,一个 Reactor 一般来说,处理连接请求非常快,但处理读写请求涉及业务逻辑处理,要慢得多。所以 Reactor 在处理读写请求时,其他请求只能等着,容易造成系统的性能瓶颈
- ② 可靠性:一旦 Reactor 线程意外中断或进入死循环会导致整个系统通信模块不可用,无法接收和处理外部信息,导致节点故障
所以该单Reactor单流程模型不适用于计算密集型场景,只适用于业务处理非常快的场景。Redis线程模型是基于单个的 Reactor 由于单线程模型的实现, Redis 业务处理主要在内存中完成,操作速度快,性能瓶颈不在 CPU 上,所以 Redis 处理命令是一个单过程。
2、单 Reactor 多线程模型:
为了解决单Reactor单线程模型存在的性能问题,就演进出了单 Reactor 该模型在事件处理器中采用多线程(线程池)
2.1.处理流程:
(1)Reactor 线程通过 select 监控事件,收到事件后通过 Dispatch 进行分发
(2)如果是连接建立事件,则将事件分发给 Acceptor,Acceptor 会通过 accept() 获取连接并创建方法Handler 处理后续响应事件的对象
(3)如果是IO读写事件,则 Reactor 将事件交给当前连接对应的事件 Handler 来处理
(4)与单Reactor单线程不同,Handler 不再做具体的业务处理,只负责接收和响应事件 read 接收数据后,将数据发送到后面 Worker 业务处理线程池。
(5)Worker 线程池再分配线程进行业务处理,完成后发送响应结果 Handler 进行处理。
(6)Handler 收到响应结果后通过 send 返回响应结果 Client。
与第一个模型相比,处理业务逻辑,即获得 IO读写事件后,交线程池处理,Handler 收到响应后通过 send 将响应结果返回客户端。这样可以减少 Reactor 性能费用,从而更加注重事件分发,改善整个应用的吞吐量, Handler 充分利用多线程模式 CPU 的性能。但该模型存在的问题:
(1)Handler 多线程模式的使用自然带来了多线程竞争资源的成本,涉及共享数据的相互排斥和保护机制,实现了复杂性
(2)单个 Reactor 监控、分发和响应所有事件,容易造成高并发场景的性能瓶颈。
3、主从 Reactor 多线程模型:
单Reactor解决了多线程模型 Handler 但是单线程的性能问题, Reactor 还是单线程,高并发场景还是会有性能瓶颈的,需要 Reactor 调整为多线程模式,也就是说,步要介绍的主从 Reactor 多线程模型。主从 Reactor 多线程模型 Reactor 分为两部分:
(1)MainReactor:只负责连接建立事件的处理 select 监听 server socket,将建立的 socketChannel 指定注册给 subReactor,通常一个线程就够了。
(2)SubReactor:负责读写事件,维护自己 selector,基于 MainReactor 注册的 SocketChannel 多路分离 IO 读写事件,读写网络数据,并将业务处理理 worker 完成线程池。SubReactor 个数一般和 CPU 个数相同
3.1.处理流程:
(1)主线程 MainReactor 对象通过 select 监听事件,接收到事件后通过 Dispatch 分发,如果事件类型是连接和建立的,则分发 Accetor 进行连接建立
连接建立:
- ① 从主线程池中随机选择一个 Reactor 线程作为 Acceptor 线程,用于绑定监听端口,接收客户端连接
- ② Acceptor 线程接收客户端连接请求之后创建新的 SocketChannel,将其注册到主线程池的其它 Reactor 线程上,由其负责接入认证、IP黑白名单过滤、握手等操作。
- ③ 步骤② 完成之后,业务层的链路正式建立,将 SocketChannel 从主线程池的 Reactor 线程的多路复用器上摘除,重新注册到 SubReactor 线程池的线程上,并创建一个 Handler 用于处理各种连接事件
(2)如果接收到的不是连接建立事件,则分发给 SubReactor,SubReactor 调用当前连接对应的 Handler 进行处理
(3)Handler 通过 read 读取数据后,将数据分发给 Worker 线程池进行业务处理,Worker 线程池则分配线程进行业务处理,完成后将响应结果发给 Handler
(4)Handler 收到响应结果后通过 send 将响应结果返回给 Client
3.2、优缺点:
主从 Reactor 多线程模型的优点在于主线程和子线程分工明确,主线程只负责接收新连接,子线程负责完成后续的业务处理,同时主线程和子线程的交互也很简单,子线程接收主线程的连接后,只管业务处理即可,无须关注主线程,可以直接在子线程将处理结果发送给客户端。
该 Reactor 模型适用于高并发场景,并且 Netty 网络通信框架也是采用这种实现
4、Reactor 优缺点:
(1)响应快,不必为单个同步时间所阻塞,虽然 Reactor 本身依然是同步的;
(2)可以最大程度的避免复杂的多线程及同步问题,并且避免了多线程/进程的切换开销
(3)可扩展性,可以方便地通过增加 Reactor 实例个数来充分利用 CPU 资源;
(4)可复用性,Reactor 模型本身与具体事件处理逻辑无关,具有很高的复用性。
Reacotr 模型是一种非阻塞同步网络模型,除此之外,还有一种 Proactor 的异步网络模型,对 Proactor 感兴趣的读者可以阅读这篇文章:https://blog.csdn.net/a745233700/article/details/122390285
参考文章:
彻底搞懂Reactor模型和Proactor模型 - 云+社区 - 腾讯云
【死磕 NIO】— Reactor 模式就一定意味着高性能吗?