现代激情 万字长文吃透负载平衡
[[429536]]现代激情
本文转载自微信公众号「高性能架构探索」，作家雨乐 。转载本文请关连高性能架构探索公众号。
大师好，我是雨乐。
早先告诉大师一件事，在十一国庆期间，引擎的机器又又。。。又扛不住了流量。
经过监控分析，发现某个就业的一个实例场所的捏造机扛不住了，是以选择临时措施流量收敛之后，问题处治了，但如故形成了不小的亏空。
经过这次故障，以及分析故障的流程中对负载平衡又有了新的愈加长远的意志，是以将这部分写出来，算是作念个故障回想吧图片。
写本文的主义：
对负载平衡的献媚星星落落，不成体系。阅读这篇著作需要的条目：
对OSI模子有多少了解 有耐烦。本文波及巨额的学问点，且只可用笔墨才能透露晰，是以笔墨比较多。获利：
读完此篇著作，从宏不雅的角度献媚了负载平衡的旨趣以及竣事机制。加深对漫衍式架构的了解主要内容：
本文早先从宗旨出手，锤真金不怕火什么是负载平衡，以及负载平衡在漫衍式系统中所承担的扮装以及提供的功能。 锤真金不怕火负载平衡的分类。划分从 软硬件角度、地域鸿沟角度 以及 OSI模子角度 进行分类锤真金不怕火负载平衡的竣事有打算。 从负载平衡的计策角度来分析咫尺业界的负载平衡算法以极度优瑕疵 好了，准备好了么，让咱们出手这次欢喜之旅。 2.小序早先 撇开对线上的影响，如果线上突发来了流量，后端就业扛不住，咱们会怎么作念呢?无非两种容貌：
栽培机器设立(CPU、内存、硬盘、带宽等) 加机器上头两种容貌，咱们称之为纵向推广和横向推广。
纵向推广，是从单机的角度通过增多硬件处理材干，比如CPU处理材干，内存容量，磁盘等方面，竣事就业器处理材干的栽培，不行知足大型漫衍式系统(网站)，大流量，高并发，海量数据的问题。
横向推广，通过添加机器来知足大型网站就业的处理材干。比如：一台机器不行知足，则增多两台或者多台机器，共同承担看望压力。
3.宗旨负载平衡，英文称号为Load Balance，其含义就是指将负载(使命任务或者网络肯求)进行平衡，分担到多个操作单元(就业器或者组件)上进走运行。主义是尽量将网络流量 平均 发送到多个就业器上，以保证所有业务系统的高可用。
负载平衡
在互联网的早期，网络还不是很发达，流量相对较小，业务也比较简易，单台就业器或者实例就有可能知足看望需要。但如今在互联网发达的今天，流量肯求动辄百亿、致使上千亿，单台就业器或者实例已实足不行知足需求，这就有了集群。非论是为了竣事高可用如故高性能，都需要用到多台机器来推广就业材干，用户的肯求不管献媚到哪台就业器，都能得到疏浚的相应处理。
另一方面，如何构建和颐养就业集群这事情，又必须对用户一侧保持实足的透明，即使肯求背后是由一千台、一万台机器来共同响应的，也绝非用户所宽恕的事情，用户需记取的唯有一个域名地址辛劳。颐养后方的多台机器，以长入的接口对外提供就业，承担此职责的时代组件被称为 负载平衡。
负载平衡主要有以下作用：
高并发。通过选择一定的算法计策，将流量尽可能的均匀发送给后端的实例，以此提高集群的并发处理材干。 伸缩性。字据网络流量的大小，增多或者减少后端就业器实例，由负载平衡斥地进行收敛，这么使得集群具有伸缩性。 高可用。负载平衡器通过算法或者其他性能数据来监控候选实例，当实例负载过高或者格外时，减少其流量肯求或者告成跳过该实例，将肯求发送个其他可用实例，这使得集群具有高可用的特质。安全督察。有些负载平衡器提供了安全督察功能。如：口角名单处理、防火墙等。
4.分类 字据载体类型分类从支撑负载平衡的载体来看，不错将负载平衡分为两类：
硬件负载平衡
软件负载平衡
硬件负载平衡硬件负载平衡器是一种硬件斥地，具有专门的操作系统。硬件负载平衡器位于传入流量和里面就业器之间，实质上充任“流量警员”。当用户看望网站或者使用app某个功能时，它们早先被发送到负载平衡器，然后负载平衡器字据一定的计策，将流量转发到后端不同的就业器。为确保最好性能，硬件负载平衡器字据自界说规则分派流量，以免后端实例不胜重任。
传统上，硬件负载平衡器和应用就业器部署在腹地数据中心，负载平衡器的数目取决于预期的峰值流量。负载平衡器常常成对部署，以防其中一个失败。
咫尺业界最初的两款硬件负载平衡器：F5和A10
硬件负载平衡
优点：
功能浩大：支撑全局负载平衡并提供较全面的、复杂的负载平衡算法。
性能强悍：硬件负载平衡由于是在专用处理器上运行，因此费解量大，可支撑单机百万以上的并发。
安全性高：频频具备防火墙，防 DDos 抨击等安全功能。
瑕疵
本钱腾贵：购买和爱戴硬件负载平衡的本钱都很高(：F5价钱在15w~55w不等，A10价钱在55w-100w不等)。
推广性差：当看望量突增时，高出收敛不行动态扩容。
软件负载平衡软件负载平衡指的是在就业器的操作系统上装配负载平衡软件，从此就业器发出的肯求经软件负载平衡算法路由到后端集群的某一台机器上。
常见负载平衡软件有：LVS、Nginx、Haproxy。
在线ps
软件负载平衡
优点
推广性好：稳健动态变化，不错通过添加软件负载平衡实例，动态推广到超出开动容量的材干。
本钱便宜：软件负载平衡不错在职何门径物理斥地上运行，镌汰了购买和运维的本钱。
瑕疵
性能略差：比拟于硬件负载平衡，软件负载平衡的性能要略低一些。
软硬件负载平衡器的区别
硬件负载平衡器与软件负载平衡器之间最彰着的区别在于，硬件负载平衡器需要私有的机架堆叠硬件斥地，而软件负载平衡器只需装配在门径 x86 就业器或捏造机上。网络负载平衡器硬件常常是过度设立的——换句话说，它们的大小大概处理偶尔的岑岭流量负载。此外，每个硬件斥地都必须与一个稀零的斥地配对以赢得高可用性，以防其他负载平衡器出现故障。 硬件和软件负载平衡器之间的另一个关节区别在于推广材干。跟着网络流量的增长，数据中心必须提供实足的负载平衡器以知足峰值需求。关于许多企业来说，这意味着大多数负载平衡器在岑岭流量时辰(例如玄色星期五)之前一直处于适意状态。 如果流量不测超出容量，最终用户体验会受到显明影响。另一方面，软件负载平衡器大概弹性推广以知足需求。非论网络流量是低如故高，软件负载平衡器都不错简易地及时自动推广，摒除过度设立本钱和对不测流量激增的担忧。 此外，硬件负载平衡器设立可能很复杂。基于软件界说原则构建的软件负载平衡器跨多个数据中心和夹杂/多云环境。事实上，硬件斥地与云环境不兼容，而软件负载平衡器与裸机、捏造、容器和云平台兼容。 字据地域鸿沟分类负载平衡从其应用的地舆结构上分为腹地负载平衡(Local Load Balance)和全局负载平衡(Global Load Balance，也叫地域负载平衡)。
地域负载平衡
腹地负载平衡腹地负载平衡是指对腹地的就业器群作念负载平衡。
腹地负载平衡针对腹地鸿沟的就业器群作念负载平衡，腹地负载平衡不需要破耗高额本钱购置高性能就业器，只需利用现存斥地资源，就可灵验幸免就业器单点故障形成数据流量的亏空，常常用来处治数据流量过大、网络负荷过重的问题。同期它领有体式种种的平衡计策把数据流量合理平衡的分派到各台就业器。如果需要在咫尺就业器飞腾级推论，不需更正现存网络结构、罢手现存就业，仅需要在就业群中简易地添加一台新就业器。
腹地负载平衡能灵验地处治数据流量过大、网络负荷过重的问题，况兼不需破耗腾贵开支购置性能超卓的就业器，充分利用现存斥地，幸免就业器单点故障形成数据流量的亏空。
其有活泼种种的平衡计策把数据流量合理地分派给就业器群内的就业器共同包袱。即使是再给现存就业器推论升级，也只是简易地增多一个新的就业器到就业群中，而不需更正现存网络结构、罢手现存的就业。
全局负载平衡全局负载平衡是指对划分遗弃在不同的地舆位置、有不同网络结构的就业器群间作负载平衡。
全局负载平衡主要用于在一个多区域领有我方就业器的站点，为了使全球用户只以一个IP地址或域名就能看望到离我方最近的就业器，从而赢得最快的看望速率，也可用于子公司分散站点漫衍广的大公司通过Intranet(企业里面互联网)来达到资源长入合理分派的主义。
全局负载平衡，咫尺竣事容貌有以下几种：
通过运营商通晓颐养：这个主若是指国内，由于特殊原因国内不同运营商互联互通存在很大问题，比如联通用户看望电信机房就业器蔓延很大，致使有可能无法看望的情况。假如您的业务部署在不同运营商机房，不错通过运营商通晓剖析来竣事颐养，联通通晓用户域名剖析到联通机房IP，电信通晓用户域名剖析电信机房IP，这么保证不同用户看望最好的就业器。 通过地域通晓颐养： 咱们都知说念，网站就业器越近，看望速率越快，比如天津用户看望北京就业器会比广州就业器快好多。假如您的业务部署在华北，华南两个Region，不错通过地域通晓剖析，竖立华北，东北，西北，华顶用户看望域名剖析到北京就业器IP，华东，华南，西南用户看望域名剖析到广州就业器IP，这么用户看望离我方最近的就业器不错栽培看望体验。 假如您的业务是面向全球的，国里面署有业务，国际也部署有业务，不错选择中国用户看望域名剖析到国内就业器，国际用户看望域名剖析到国际就业器。诚然国际的还不错细分，比如选择亚太--新加坡的用户等，不错具体到洲，国度。 权重轮询：比如一个域名剖析到多个IP，不错字据不同IP就业器的设立，业务情况竖立剖析比重，比如2:1或者1:1等等。 健康查验，故障鼎新：不错创建监控任求及时监控后端就业器IP的健康状态，如果发现后端就业器格外，不错把剖析流量切换到其他宽广的就业器或者备用就业器，保证业务不会中断。CDN的全称是Content Delivery Network，即内容分发网络。其就是承袭的全局负载平衡。假如咱们将图片存储在CDN上，且该CDN场所厂家在北京、杭州均有就业器。那么：
本日津的用户需要下载该图片的时候，会自动将流量肯求转发至距离其最近的CDN就业器，也就是北京 当安徽的用户需要下载图片的时候，就会将流量肯求转发至杭州。 字据OSI网络模子分类
OSI是一个怒放性的通讯系统互连参考模子，如上图所示。在OSI参考模子中，划分有：
应用层 暗示层 会话层 传输层 网络层 数据链路层 物理层从上图不错看出：
TELNET、HTTP、FTP、NFS、SMTP、DNS等属于第七层应用层的宗旨。
TCP、UDP、SPX等属于第四层传输层的宗旨。
IP、IPX等属于第三层网络层的宗旨。
ATM、FDDI等属于第二层数据链路层的宗旨。
字据负载平衡时代竣事在OSI七层模子的不同脉络，咱们给负载平衡分类：
七层负载平衡：使命在应用层的负载平衡称 四层负载平衡：使命在传输层的负载平衡称 三层负载平衡：使命在网络层的负载平衡， 二层负载平衡：使命在数据链路层的负载平衡。
其中最常用的是四层和七层负载平衡。
底下咱们将从OSI模子从下往上的章程，来详备锤真金不怕火上述几种负载平衡。
二层负载平衡使命在数据链路层的负载平衡称之为二层负载平衡(又称为数据链路层负载平衡)，通过在通讯契约的数据链路层修改mac地址进行负载平衡。
二层负载平衡是基于数据链路层的负载平衡，即让负载平衡就业器和业务就业器绑定澌灭个捏造IP(即VIP)，客户端告成通过这个VIP进行肯求集群。集群中不同的机器承袭疏浚IP地址，然则机器的MAC地址不一样。当负载平衡就业器接受到肯求之后，通过改写报文的主义MAC地址的容貌将肯求转发到主义机器竣事负载平衡。
数据链路层负载平衡所作念的使命，是修改肯求的数据帧中的 MAC 主义地址，让用户蓝本是发送给负载平衡器的肯求的数据帧，被二层交换机字据新的 MAC 主义地址转发到就业器集群中对应的就业器(着实就业器)的网卡上，这么着实就业器就赢得了一个蓝本主义并不是发送给它的数据帧。
为了便于献媚，咱们假定负载平衡器场所的ip地址为192.168.1.1，后端服求实例的mac地址划分为52:54:00:A1:CB:F7，61:52:00:A2:BD， 71:63:52:A3:CA。如下图所示：
二层负载平衡
在上图中，用户的肯求早先到达ip为192.168.1.1的二层负载平衡器，然后二层负载平衡器通过选择一定的计策，选中了mac地址为71:63:52:A3:CA，然后将流量转发至该服求实例。
需要贯注的是，上述唯有肯求经过负载平衡器，而就业的响应无谓从负载平衡器原路复返的使命花样，所有肯求、转发、响应的链路形成一个“三角关系”，是以这种负载平衡花样也常被很形象地称为“三角传输花样”，也有叫“单臂花样”或者“告成路由”。
二层负载平衡器告成改写主义 MAC 地址的使命旨趣决定了它与着实的就业器的通讯必须是二层可达的，庸碌地说就是必须位于澌灭个子网当中，无法跨 VLAN。上风(效劳高)和瑕玷(不行跨子网)共同决定了数据链路层负载平衡最妥贴用来作念数据中心的第一级平衡斥地，用来献媚其他的下级负载平衡器。
三层负载平衡三层负载平衡是基于网络层的负载平衡，因此又叫网络层负载平衡。庸碌的说就是按照不同机器不同IP地址进行转发肯求到不同的机器上。
字据 OSI 七层模子，在第三层网络层传输的单元是分组数据包，这是一种在分组交换网络结传输的结构化数据单元。以IP契约为例，一个IP 数据包由 Headers 和 Payload 两部分构成， Headers 长度最大为60Bytes，其中包括了20Bytes的固定数据和最长不高出40Bytes 的可选的稀零竖立构成。
三层负载平衡就业器对外仍是提供一个VIP(虚IP)，然则集群中不同的机器承袭不同的IP地址。当负载平衡就业器接受到肯求之后，字据不同的负载平衡算法，通过IP将肯求转发至不同的着实就业器。
学过筹画机网络的都知说念，在IP分组的数据报header中有 源IP 和 主义IP。源IP和主义IP代表分组交换中数据是从哪台机器到哪台机器的，那么，咱们不错承袭跟修改二层负载平衡中MAC地址的容貌一样，告成修改主义IP，以达到数据转发的主义。
修改主义IP的容貌有两种：1、原有的数据包保持不变，生成一个新的数据包，原数据包的Header和Payload作为新数据包的Payload，在这个新数据包的 Headers 中写入着实就业器的 IP 作为主义地址，然后把它发送出去。
着实就业器收到数据包后，必须在给与进口处瞎想一个针对性的拆包机制，把由负载平衡器自动添加的那层 Headers 扔掉，复原出原来的数据包来进专揽用。这么，着实就业器就相通拿到了一个蓝本不是发给它(主义 IP 不是它)的数据包，达到了流量转发的主义。这种数据传输容貌叫作念 IP纯正 传输。
尽管因为要封装新的数据包，IP 纯正的转发花样比起告成路由花样效劳会有所下跌，但由于并莫得修改原稀有据包中的任何信息，是以 IP 纯正的转发花样仍然具备三角传输的特质，即负载平衡器转发来的肯求，不错由着实就业器去告成搪塞，无谓在经过平衡器原路复返。而且由于 IP 纯正使命在网络层，是以不错越过 VLAN，因此开脱了告成路由花样中网络侧的不停。
此花样从肯求到响应如下图所示：
IP纯正花样负载平衡
优点：
不错越过 VLAN 瑕疵： 要求着实就业器必须支撑IP纯正契约，也就是说就业器需要我方会拆包 必须通过专门的设立，必须保证通盘的着实就业器与平衡器有着疏浚的捏造 IP 地址，因为复兴该数据包时，需要使用这个捏造 IP 作为响应数据包的源地址，这么客户端收到这个数据包时才能正确剖析。基于以上原因，就有了第二种修改容貌。2、更正主义数据包。
告成把数据包 Headers 中的主义地址改为着实就业器地址，修改后蓝本由用户发给平衡器的数据包，也会被三层交换机转发送到着实就业器的网卡上，而且因为莫得经过 IP 纯正的稀零包装，也就无谓再拆包了。
因为这种花样是通过修改主义 IP 地址才到达着实就业器的，如果着实就业器告成将搪塞包复返客户端的话，这个搪塞数据包的源 IP 是着实就业器的 IP，也即平衡器修改以后的 IP 地址，客户端不可能意志该 IP，当然就无法再宽广处理这个搪塞了。因此，只可让搪塞流量赓续回到负载平衡，由负载平衡把搪塞包的源 IP 改回我方的 IP，再发给客户端，这么才能保证客户端与着实就业器之间的宽广通讯。
这种修改主义IP的容貌叫NAT花样，这种通过修改主义IP的容貌达到负载平衡主义的容貌叫作念NAT负载平衡。如下图所示：
NAT花样负载平衡
四层负载平衡所谓四层负载平衡，也就是主要通过报文中的主义地址和端口，再加上负载平衡斥地竖立的就业器选择容貌，决定最终选择的里面就业器。
由于四层负载平衡是作用在传输层，因此，咱们就以常见的TCP进行例如。
负载平衡斥地在给与到第一个来自客户端的SYN 肯求时，即通过上述容貌选择一个最好的就业器，并对报文中主义IP地址进行修改(改为后端就业器IP)，告成转发给该就业器。TCP的献媚竖立，即三次抓手是客户端和就业器告成竖立的，负载平衡斥地只是起到一个访佛路由器的转发动作。在某些部署情况下，为保证就业器回包不错正确复返给负载平衡斥地，在转发报文的同期可能还会对报文原来的源地址进行修改。
四层负载平衡
四层负载平衡主若是基于tcp契约报文，不错作念任何基于tcp/ip契约的软件的负载平衡，比如Haproxy、LVS等。
七层负载平衡所谓七层负载平衡，也称为“内容交换”，也就是主要通过报文中的真确专门旨的应用层内容，再加上负载平衡斥地竖立的就业器选择容貌，决定最终选择的里面就业器。
应用层契约较多，常用http、radius、dns等。七层负载就不错基于这些契约来负载。
咱们仍然以TCP为例。负载平衡斥地如果要字据真确的应用层内容再选择就业器，只可先代理最终的就业器和客户端竖立献媚(三次抓手)后，才可能接受到客户端发送的真确应用层内容的报文，然后再字据该报文中的特定字段，再加上负载平衡斥地竖立的就业器选择容貌，决定最终选择的里面就业器。负载平衡斥地在这种情况下，更访佛于一个代理就业器。负载平衡和前端的客户端以及后端的就业器会划分竖立TCP献媚。是以从这个时代旨趣上来看，七层负载平衡彰着的对负载平衡斥地的要求更高，处理七层的材干也势必会低于四层花样的部署容貌。
七层负载平衡器会与客户端 以及 后端的服求实例划分竖立献媚。
七层负载平衡
七层负载平衡基本都是基于http契约的，适用于web就业器的负载平衡，比如Nginx等。
对比(四层和七层) 智能性 七层负载平衡由于具备OIS七层的通盘功能，是以在处理用户需求上能愈加活泼，从表面上讲，七层模子能对用户的通盘跟就业端的肯求进行修改。例如对文献header添加信息，字据不同的文献类型进行分类转发。 四层模子仅支撑基于网络层的需求转发，不行修改用户肯求的内容。 安全性 七层负载平衡由于具有OSI模子的通盘功能，能更容易抵抗来自网络的抨击 四层模子从旨趣上讲，会告成将用户的肯求转发给后端节点，无法告成抵抗网络抨击。 复杂度 四层模子一般比较简易的架构，容易管理，容易定位问题 七层模子架构比较复杂，常常也需要探讨王人集四层模子的混用情况，出现问题定位比较复杂。 效劳比 四层模子基于更底层的竖立，常常效劳更高，但应用鸿沟有限 七层模子需要更多的资源损耗，在表面上讲比四层模子有更强的功能，咫尺的竣事更多是基于http应用。 6.算法与竣事常用的负载平衡算法分为以下两类：
静态负载平衡 动态负载平衡常见的静态平衡算法：轮询法、马上法、源地址哈希法、一致性哈希法、加权轮询法、加权马上法。
常见的动态负载平衡算法：最小献媚数法、最快响应速率法。
马上法(Random)将肯求马上分派到各个节点。由概率统计表面得知，跟着客户端调用就业端的次数增多，其施行恶果越来越接近于平平分派，也就是轮询的拆伙。
马上计策会导致设立较低的机器Down机，从而可能引起雪崩，一般承袭马上算法时冷过期端集群机器设立最好同等的，马上计策的性能取决于马上算法的性能。
优点：简易高效，易于水平推广，每个节点知足字面意旨上的平衡; 瑕疵：莫得探讨机器的性能问题，字据木桶最短木板表面，集群性能瓶颈更多的会受性能差的就业器影响。
马上法
竣事：
std::string 现代激情Select(const std::vector<int> &ips) { size_t size = ips.size(); if (size == 0) { return ""; } return ips[random() % size]; }
轮询法(Round Robin)
每一次来自网络的肯求步骤分派给里面中的就业器，从1至N然后从头出手。此种平衡算法妥贴于就业器组中的通盘就业器都有疏浚的软硬件设立况兼平均就业肯求相对平衡的情况。
假定10台机器，从0-9，肯求驾临时从0号机器出手，后续每来一次肯求对编号加1，这么一直轮回，上头的马上计策其实终末就变成轮询了，这两种计策都不宽恕机器的负载和运行情况，而且对变量操作会引入锁操作，性能也会下会下跌。
优点：简易高效，易于水平推广，每个节点知足字面意旨上的平衡; 瑕疵：莫得探讨机器的性能问题，字据木桶最短木板表面，集群性能瓶颈更多的会受性能差的就业器影响。
轮询法
代码竣事：
static int idx = 0; std::string Select(const std::vector<int> &ips) { size_t size = ips.size(); if (size == 0) { return ""; } if (idx == ips.size()) { idx = 0; } return ips[idx++]; }
加权轮询法(Weighted Round Robin)
不同的后端就业器可能机器的设立和现时系统的负载并不疏浚，因此它们的抗压材干也不疏浚。给设立高、负载低的机器设立更高的权重，让其处理更多的肯求;而设立低、负载高的机器，给其分派较低的权重，镌汰其系统负载，加权轮询能很好地处理这一问题，并将肯求章程且按照权重分派到后端。
假定后端有3台就业器，划分为a b c，咫尺在负载平衡器中设立a就业器的权重为7，b就业的权重为2，c就业的权重为1。当来了10次肯求的时候，其中有7次肯求a，2次肯求b，1次肯求c。即最终拆伙是
aaaaaaabbc
优点：不错将不同机器的性能问题纳入到考量鸿沟，集群性能最优最大化;
瑕疵：分娩环境复杂多变，就业器抗压材干也无法精准估算，静态算法导致无法及时动态疗养节点权重，只可轻佻优化。
加权轮询
加权马上法(Weighted Random)与加权轮询法一样，加权马上法也字据就业器的设立，系统的负载分派不同的权重。不同的是，它是按照权重马上肯求后端就业器，而非章程。
在之前的著作权重马上分派器咱们有详备讲过各式竣事有打算，此处咱们不再赘述，从里面摘抄了一种竣事有打作为为本有打算的竣事。
加权马上
优点：不错将不同机器的性能问题纳入到考量鸿沟，集群性能最优最大化; 瑕疵：分娩环境复杂多变，就业器抗压材干也无法精准估算，静态算法导致无法及时动态疗养节点权重，只可轻佻优化。代码竣事
srtuct Item { std::string ip; int weight; }; std::string select(const std::vector<Item> &items) { int sum = 0; for (auto elem : items) { sum += elem.weight; } int rd = rand() % sum; int s = 0; std::string res; for (auto elem : items) { s += elem.weight; if (s >= rd) { res = elem.ip; break; } } return res; }
最快响应速率法(Response Time)
字据肯求的响当令辰，来动态疗养每个节点的权重，将响应速率快的就业节点分派更多的肯求，响应速率慢的就业节点分派更少的肯求
负载平衡斥地对里面各就业器发出一个探伤肯求(例如Ping)，然后字据里面中各就业器对探伤肯求的最快响当令辰来决定哪一台就业器来响应客户端的就业肯求。此种平衡算法能较好的响应就业器确现时运业绩态，但这最快响当令辰只是指的是负载平衡斥地与就业器间的最快响当令辰，而不是客户端与就业器间的最快响当令辰。
优点：动态，及时变化，收敛的粒度更细，更聪惠; 瑕疵：复杂度更高，每次需要筹画肯求的响应速率;
最快响应速率
最少献媚数法(Least Connections) 将肯求分发到献媚数/肯求数最少的候选就业器，已达到负载平衡的主义客户端的每一次肯求就业在就业器停留的时辰可能会有较大的各异，跟着使命时辰加长，如果承袭简易的轮循或马上平衡算法，每一台就业器上的献媚进度可能会产生极大的不同，并莫得达到真确的负载平衡。最少献媚数平衡算法对里面中需负载的每一台就业器都有一个数据纪录，纪录现时该就业器正在处理的献媚数目，当有新的就业献媚肯求时，将把现时肯求分派给献媚数最少的就业器，使平衡愈加稳健施行情况，负载愈加平衡。此种平衡算法妥贴永劫处理的肯求就业，如FTP。
优点：动态，字据节点景色及时变化 瑕疵：提高了复杂度，每次献媚断开需要进行计数
最少献媚数
源地址哈希法(Source Hashing)字据肯求源 IP，通过哈希筹画得到一个数值，用该数值在候选就业器列表的进行取模运算，得到的拆伙即是选中的就业器。
大概让澌灭客户端的肯求或者澌灭用户的肯求老是肯求在后端澌灭台机器上，这种算法字据客户端IP求出Hash值然后对端集群总和求余得到值就是就业器聚积的下标，一般这种算法用于缓存射中，或者澌灭会话肯求等，但这种算法也有一定的瑕疵，某一用户看望量(黑产)至极高时可能形成就业端压力过大或者后端就业Down掉，那么客户端就会无法看望，是以也需要一定的左迁计策。
优点：改日自澌灭IP地址的肯求，澌灭会话期内，转发到疏浚的就业器;竣事会话粘滞 瑕疵：主义就业器宕机后，会话会丢失
源地址哈希
一致性哈希(Consistency hash)一些场景但愿相通的肯求尽量落到一台机器上，比如看望缓存集群时，咱们频频但愿澌灭种肯求能落到澌灭个后端上，以充分利用其上已有的缓存，不同的机器承载不同的巩固肯求量(也不错献媚为固定批用户的肯求)。而不是马上地洒落到通盘机器上，那样的话会迫使通盘机器缓存通盘的内容，最终由于存不下形成震憾而发达灾祸。咱们都知说念hash能知足这个要求，比如当有n台就业器时，输入x老是会发送到第hash(x) % n台就业器上。但当就业器变为m台时，hash(x) % n和hash(x) % m很可能都不至极，这会使得果然通盘肯求的发送主义地都发生变化，如果主义地是缓存就业，通盘缓存将失效，继而对蓝本被缓存讳饰的数据库或筹画就业形成肯求风暴，触发雪崩。一致性哈希是一种特殊的哈希算法，在增多就业器时，发向每个老节点的肯求中只会有一部分转向新节点，从而竣事平滑的迁徙。
一致性哈希
优点：
平衡性: 每个节点被选到的概率是O(1/n)。 单调性: 当新节点加入时， 不会有肯求在老节点间挪动， 只会从老节点挪动到新节点。当有节点被删除时，也不会影响落在别的节点上的肯求。 分散性: 当上游的机器看到不同的卑劣列表时(在上线时及不巩固的网络结比较常见)， 澌灭个肯求尽量映射到极少的节点中。 负载: 当上游的机器看到不同的卑劣列表的时候， 保证每台卑劣分到的肯求数目尽量一致。瑕疵：
在机器数目较少的时候，区间大小会不屈衡。 当一台机器故障的时候，它的压力会实足鼎新到另外一台机器， 可能无法承载。 7.结语负载平衡并不是真确确保网络流量大概"均匀"的分派到后端服求实例。它只是抱着预防外情况发生时候，也能保证用户体验。精湛的架构瞎想和弹性扩容，大概使得负载平衡的功能 一本万利。