一点睛

过载保护是在系统过载时保护现有系统，确保系统尽可能提供服务，确保系统正常要求，丢弃异常要求，使服务始终保持在最大服务能力范围内。

二什么是过载

1正常情况

当系统正常时，一个包从客户端发送到返回客户端。

2过载情况

只能在系统单位时间内处理n但是，当客户向单位发送系统时，包大于n，随着时间的推移，各级缓存将丢失包装，客户要求加班。如果服务仍有上下游服务，过载将导致更严重的级联失败——雪崩。

在分布式系统中，由于节点故障或过载，需求积累，最终导致整个系统不可用的现象称为雪崩。就像一个小雪球，滚得越来越大，最终形成雪崩现象。

当服务器模块过载时，其他调用该模块的系统也会跟随级联加班，最终导致整个大系统无法正常提供服务。

三过载现象

在实际项目中，过载会导致系统处理包超时，也会导致系统本身处理性能下降。

过载主要有以下两种情况：

1请求过多导致服务器处理能力下降

一般在发生过载时，系统是不堪重负的。由于前端会产生大量的超时请求，如果超时重试机制设置不当，触发超时重试，则导致请求数量变得更大，加重了过载的程度。除了程序自动重试，有时如果产品对用户的用到不合理，也会让用户产生很多无效的重试操作。

要求的增加会打破系统的平衡。例如，服务器包装程序经常被调用，占用大量内存，内存不足将被使用Swap分区写磁盘等，最终导致服务器CPU负载升高。原有的业务流程是吃紧CPU负载增加的叠加效应，系统的处理能力下降较大，最终形成恶性循环。

2处理能力正常，但返回到前端的响应被判定无效

系统能够正常处理请求包，但返回给前端的应答，前端都提取认定为超时并返回给客户端。进程做的都是无用功，也不算是有效输出。

四过载的根本原因

1超时

加班是因为前端对请求的响应有要求。如果请求超过时限且未返回，则认为请求失败-重新启动重试或返回给更高层次的服务失败。如果前端没有加班的概念，可以返回多久。如果后端服务无法处理，请求可以先缓存，然后慢慢处理。然而，大多数互联网业务需要即时反馈，因此加班是大多数服务的必要限制。具有加班特点的业务应考虑如何处理过载问题。

2缓存区满

系统不可能将所有要求放在缓冲区缓存并依次处理。当业务过载时，处理要求的速度不如增加要求的速度，这将导致缓冲区的要求越来越多。当超过缓冲区的大小时，缓冲区将变满，以后的要求无处存储，最终将被丢弃。

过载保护从这两个原因开始，以消除过载的影响。然而，过载保护并不是为了消除这两个原因，而是为了确保系统的最大处理能力，并在系统发生这两种现象时尽最大努力提供服务。超过要求将被认定为加班或丢弃。过载保护是在异常情况下尽最大努力使系统处理能力不为0的策略。

过载保护是将原本需要加班的所有要求划分为一部分，以便及时处理。如果发现迟早会加班，请立即丢弃，或立即返回过载加班。