深圳曝光群

[[429536]]

本文转载自微信公众号「高性能架构探索」，作家雨乐 。转载本文请联系高性能架构探索公众号。

人人好，我是雨乐。

开始告诉人人一件事，在十一国庆时间，引擎的机器又又。。。又扛不住了流量。

经过监控分析，发现某个办事的一个实例场所的杜撰机扛不住了，是以采用临时圭表流量戒指之后，问题科罚了，但如故酿成了不小的亏欠。

经过这次故障，以及分析故障的经过中对负载平衡又有了新的愈加深入的意志，是以将这部分写出来，算是作念个故障转头吧图片。

1.写在前边

写本文的主见：

对负载平衡的纠合星星点点，不成体系。

阅读这篇著作需要的条目：

对OSI模子有多少了解 有耐性。本文波及大齐的学问点，且只可用翰墨智力和蔼会，是以翰墨比较多。

获利：

读完此篇著作，从宏不雅的角度纠合了负载平衡的旨趣以及扫尾机制。加深对踱步式架构的了解

主要内容：

本文开始从观点入手，种植什么是负载平衡，以及负载平衡在踱步式系统中所承担的变装以及提供的功能。 种植负载平衡的分类。鉴别从 软硬件角度、地域范畴角度 以及 OSI模子角度 进行分类种植负载平衡的扫尾决议。 从负载平衡的计策角度来分析目下业界的负载平衡算法以过甚优弊端 好了，准备好了么，让咱们入手这次惬心之旅。 2.小引

开始 撇开对线上的影响，如果线上突发来了流量,后端办事扛不住，咱们会如何作念呢?无非两种花式：

擢升机器配置(CPU、内存、硬盘、带宽等) 加机器

上头两种花式，咱们称之为纵向膨胀和横向膨胀。

纵向膨胀，是从单机的角度通过加多硬件处理才略，比如CPU处理才略，内存容量，磁盘等方面，扫尾办事器处理才略的擢升，不成中意大型踱步式系统(网站)，大流量，高并发，海量数据的问题。

横向膨胀，通过添加机器来中意大型网站办事的处理才略。比如：一台机器不成中意，则加多两台或者多台机器，共同承担有观看压力。

3.观点

负载平衡，英文称号为Load Balance，其含义就是指将负载(责任任务或者辘集恳求)进行平衡，分担到多个操作单元(办事器或者组件)上进交运行。主见是尽量将辘集流量 平均 发送到多个办事器上，以保证总共这个词业务系统的高可用。

负载平衡

在互联网的早期，辘集还不是很发达，流量相对较小，业务也比较简便，单台办事器或者实例就有可能中意有观看需要。但如今在互联网发达的今天，流量恳求动辄百亿、以致上千亿，单台办事器或者实例已实足不成中意需求，这就有了集群。岂论是为了扫尾高可用如故高性能，齐需要用到多台机器来膨胀办事才略，用户的恳求不管招引到哪台办事器，齐能得到疏导的相应处理。

另一方面，如何构建和退换办事集群这事情，又必须对用户一侧保持富足的透明，即使恳求背后是由一千台、一万台机器来共同响应的，也绝非用户所关注的事情，用户需记着的惟有一个域名地址良友。退换后方的多台机器，以谐和的接口对外提供办事，承担此职责的时候组件被称为 负载平衡。

负载平衡主要有以下作用：

高并发。通过采用一定的算法计策，将流量尽可能的均匀发送给后端的实例，以此提高集群的并发处理才略。 伸缩性。凭据辘集流量的大小，加多或者减少后端办事器实例，由负载平衡开采进行戒指，这么使得集群具有伸缩性。 高可用。负载平衡器通过算法或者其他性能数据来监控候选实例，当实例负载过高或者非常时，减少其流量恳求或者平直跳过该实例，将恳求发送个其他可用实例，这使得集群具有高可用的特质。

安全守护。有些负载平衡器提供了安全守护功能。如：曲直名单处理、防火墙等。

4.分类 凭据载体类型分类

从维持负载平衡的载体来看，不错将负载平衡分为两类：

硬件负载平衡

软件负载平衡

硬件负载平衡

硬件负载平衡器是一种硬件开采，具有挑升的操作系统。硬件负载平衡器位于传入流量和里面办事器之间，本色上充任“流量警员”。当用户有观看网站或者使用app某个功能时，它们开始被发送到负载平衡器，然后负载平衡器凭据一定的计策，将流量转发到后端不同的办事器。为确保最好性能，硬件负载平衡器凭据自界说轨则分拨流量，以免后端实例不胜重担。

传统上，硬件负载平衡器和应用办事器部署在腹地数据中心，负载平衡器的数目取决于预期的峰值流量。负载平衡器常常成对部署，以防其中一个失败。

目下业界当先的两款硬件负载平衡器：F5和A10

硬件负载平衡

优点：

功能宏大：维持全局负载平衡并提供较全面的、复杂的负载平衡算法。

性能强悍：硬件负载平衡由于是在专用处理器上运行，因此婉曲量大，可维持单机百万以上的并发。

安全性高：时时具备防火墙，防 DDos 挫折等安全功能。

弊端

老本奋斗：购买和真贵硬件负载平衡的老本齐很高(：F5价钱在15w~55w不等，A10价钱在55w-100w不等)。

膨胀性差：当有观看量突增时，越过松手不成动态扩容。

软件负载平衡

软件负载平衡指的是在办事器的操作系统上装置负载平衡软件，从此办事器发出的恳求经软件负载平衡算法路由到后端集群的某一台机器上。

常见负载平衡软件有：LVS、Nginx、Haproxy。

软件负载平衡

优点

膨胀性好：安妥动态变化，不错通过添加软件负载平衡实例，动态膨胀到超出入手容量的才略。

老本便宜：软件负载平衡不错在职何表率物理开采上运行，裁减了购买和运维的老本。

弊端

性能略差：比较于硬件负载平衡，软件负载平衡的性能要略低一些。

软硬件负载平衡器的区别

硬件负载平衡器与软件负载平衡器之间最较着的区别在于，硬件负载平衡器需要独有的机架堆叠硬件开采，而软件负载平衡器只需装置在表率 x86 办事器或杜撰机上。辘集负载平衡器硬件常常是过度配置的——换句话说，它们的大小大概处理偶尔的岑岭流量负载。此外，每个硬件开采齐必须与一个额外的开采配对以得到高可用性，以防其他负载平衡器出现故障。 硬件和软件负载平衡器之间的另一个要津区别在于膨胀才略。跟着辘集流量的增长，数据中心必须提供富足的负载平衡器以中意峰值需求。关于许多企业来说，这意味着大多数负载平衡器在岑岭流量时刻(例如玄色星期五)之前一直处于闲静状态。 如果流量不测超出容量，最终用户体验会受到明显影响。另一方面，软件负载平衡器大概弹性膨胀以中意需求。不管辘集流量是低如故高，软件负载平衡器齐不错简便地及时自动膨胀，摒除过度配置老本和对不测流量激增的担忧。 此外，硬件负载平衡器配置可能很复杂。基于软件界说原则构建的软件负载平衡器跨多个数据中心和羼杂/多云环境。事实上，硬件开采与云环境不兼容，而软件负载平衡器与裸机、杜撰、容器和云平台兼容。 凭据地域范畴分类

负载平衡从其应用的地舆结构上分为腹地负载平衡(Local Load Balance)和全局负载平衡(Global Load Balance，也叫地域负载平衡)。

地域负载平衡

腹地负载平衡

腹地负载平衡是指对腹地的办事器群作念负载平衡。

腹地负载平衡针对腹地范畴的办事器群作念负载平衡，腹地负载平衡不需要破耗高额老本购置高性能办事器，只需利用现存开采资源,就可灵验幸免办事器单点故障酿成数据流量的亏欠，常常用来科罚数据流量过大、辘集负荷过重的问题。同期它领有样式种种的平衡计策把数据流量合理平衡的分拨到各台办事器。如果需要在目下办事器飞腾级推论，不需改造现存辘集结构、罢手现存办事，仅需要在办事群中简便地添加一台新办事器。

腹地负载平衡能灵验地科罚数据流量过大、辘集负荷过重的问题，况兼不需破耗奋斗开支购置性能超卓的办事器，充分利用现存开采，幸免办事器单点故障酿成数据流量的亏欠。

其有无邪种种的平衡计策把数据流量合理地分拨给办事器群内的办事器共同包袱。即使是再给现存办事器推论升级，也只是简便地加多一个新的办事器到办事群中，而不需改造现存辘集结构、罢手现存的办事。

全局负载平衡

全局负载平衡是指对鉴别扬弃在不同的地舆位置、有不同辘集结构的办事器群间作负载平衡。

全局负载平衡主要用于在一个多区域领有我方办事器的站点，为了使全球用户只以一个IP地址或域名就能有观看到离我方最近的办事器，从而得到最快的有观看速率，也可用于子公司分散站点踱步广的大公司通过Intranet(企业里面互联网)来达到资源谐和合理分拨的主见。

全局负载平衡，目下扫尾花式有以下几种：

通过运营商深入退换：这个主若是指国内，由于特殊原因国内不同运营商互联互通存在很大问题，比如联通用户有观看电信机房办事器蔓延很大，以致有可能无法有观看的情况。假如您的业务部署在不同运营商机房，不错通过运营商深入理解来扫尾退换，联通深入用户域名理解到联通机房IP，电信深入用户域名理解电信机房IP，这么保证不同用户有观看最好的办事器。 通过地域深入退换： 咱们齐知说念，网站办事器越近，有观看速率越快，比如天津用户有观看北京办事器会比广州办事器快好多。假如您的业务部署在华北，华南两个Region，不错通过地域深入理解，设立华北，东北，西北，华顶用户有观看域名理解到北京办事器IP，华东，华南，西南用户有观看域名理解到广州办事器IP，这么用户有观看离我方最近的办事器不错擢升有观看体验。 假如您的业务是面向全球的，国里面署有业务，外洋也部署有业务，不错采纳中国用户有观看域名理解到国内办事器，外洋用户有观看域名理解到外洋办事器。虽然外洋的还不错细分，比如采纳亚太--新加坡的用户等，不错具体到洲，国度。 权重轮询：比如一个域名理解到多个IP，不错凭据不同IP办事器的配置，业务情况设立理解比重，比如2:1或者1:1等等。 健康查验，故障更始：不错创建监控任求及时监控后端办事器IP的健康状态，如果发现后端办事器非常，不错把理解流量切换到其他平素的办事器或者备用办事器，保证业务不会中断。

CDN的全称是Content Delivery Network，即内容分发辘集。其就是领受的全局负载平衡。假如咱们将图片存储在CDN上，且该CDN场所厂家在北京、杭州均有办事器。那么：

今日津的用户需要下载该图片的时候，会自动将流量恳求转发至距离其最近的CDN办事器，也就是北京 当安徽的用户需要下载图片的时候，就会将流量恳求转发至杭州。 凭据OSI辘集模子分类

OSI是一个通达性的通讯系统互连参考模子，如上图所示。在OSI参考模子中，鉴别有：

应用层 暗示层 会话层 传输层 辘集层 数据链路层 物理层

从上图不错看出：

TELNET、HTTP、FTP、NFS、SMTP、DNS等属于第七层应用层的观点。

TCP、UDP、SPX等属于第四层传输层的观点。

IP、IPX等属于第三层辘集层的观点。

ATM、FDDI等属于第二层数据链路层的观点。

凭据负载平衡时候扫尾在OSI七层模子的不同端倪，咱们给负载平衡分类：

七层负载平衡：责任在应用层的负载平衡称 四层负载平衡：责任在传输层的负载平衡称 三层负载平衡：责任在辘集层的负载平衡， 二层负载平衡：责任在数据链路层的负载平衡。

其中最常用的是四层和七层负载平衡。

底下咱们将从OSI模子从下往上的法规，来刺眼种植上述几种负载平衡。

二层负载平衡

责任在数据链路层的负载平衡称之为二层负载平衡(又称为数据链路层负载平衡)，通过在通讯契约的数据链路层修改mac地址进行负载平衡。

二层负载平衡是基于数据链路层的负载平衡，即让负载平衡办事器和业务办事器绑定统一个杜撰IP(即VIP)，客户端平直通过这个VIP进行恳求集群。集群中不同的机器领受疏导IP地址，关联词机器的MAC地址不一样。当负载平衡办事器经受到恳求之后，通过改写报文的方针MAC地址的花式将恳求转发到方针机器扫尾负载平衡。

数据链路层负载平衡所作念的责任，是修改恳求的数据帧中的 MAC 方针地址，让用户本来是发送给负载平衡器的恳求的数据帧，被二层交换机凭据新的 MAC 方针地址转发到办事器集群中对应的办事器(确凿办事器)的网卡上，这么确凿办事器就得到了一个本来方针并不是发送给它的数据帧。

为了便于纠合，咱们假定负载平衡器场所的ip地址为192.168.1.1，后端服求实例的mac地址鉴别为52:54:00:A1:CB:F7，61:52:00:A2:BD, 71:63:52:A3:CA。如下图所示：

二层负载平衡

在上图中，用户的恳求开始到达ip为192.168.1.1的二层负载平衡器，然后二层负载平衡器通过采用一定的计策，选中了mac地址为71:63:52:A3:CA，然后将流量转发至该服求实例。

需要提防的是,上述惟有恳求经过负载平衡器，而办事的响应不消从负载平衡器原路复返的责任模式，总共这个词恳求、转发、响应的链路形成一个“三角关系”，是以这种负载平衡模式也常被很形象地称为“三角传输模式”，也有叫“单臂模式”或者“平直路由”。

二层负载平衡器平直改写方针 MAC 地址的责任旨趣决定了它与确凿的办事器的通讯必须是二层可达的，鄙俚地说就是必须位于统一个子网当中，无法跨 VLAN。上风(遵守高)和颓势(不成跨子网)共同决定了数据链路层负载平衡最得当用来作念数据中心的第一级平衡开采，用来招引其他的下级负载平衡器。

三层负载平衡

三层负载平衡是基于辘集层的负载平衡，因此又叫辘集层负载平衡。鄙俚的说就是按照不同机器不同IP地址进行转发恳求到不同的机器上。

凭据 OSI 七层模子，在第三层辘集层传输的单元是分组数据包，这是一种在分组交换汇鸠合传输的结构化数据单元。以IP契约为例，一个IP 数据包由 Headers 和 Payload 两部分构成， Headers 长度最大为60Bytes，其中包括了20Bytes的固定数据和最长不越过40Bytes 的可选的额外设立构成。

三层负载平衡办事器对外已经提供一个VIP(虚IP)，关联词集群中不同的机器领受不同的IP地址。当负载平衡办事器经受到恳求之后，凭据不同的负载平衡算法，通过IP将恳求转发至不同真的凿办事器。

学过估计机辘集的齐知说念，在IP分组的数据报header中有 源IP 和 方针IP。源IP和方针IP代表分组交换中数据是从哪台机器到哪台机器的，那么，咱们不错领受跟修改二层负载平衡中MAC地址的花式一样，平直修改方针IP，柬埔寨修车群以达到数据转发的主见。

修改方针IP的花式有两种：1、原有的数据包保持不变，生成一个新的数据包，原数据包的Header和Payload行为新数据包的Payload，在这个新数据包的 Headers 中写入确凿办事器的 IP 行为方针地址，然后把它发送出去。

确凿办事器收到数据包后，必须在经受进口处辩论一个针对性的拆包机制，把由负载平衡器自动添加的那层 Headers 扔掉，回复出原来的数据包来进哄骗用。这么，确凿办事器就通常拿到了一个本来不是发给它(方针 IP 不是它)的数据包，达到了流量转发的主见。这种数据传输花式叫作念 IP地说念 传输。

尽管因为要封装新的数据包，IP 地说念的转发模式比起平直路由模式遵守会有所下落，但由于并莫得修改原特等据包中的任何信息，是以 IP 地说念的转发模式仍然具备三角传输的特质，即负载平衡器转发来的恳求，不错由确凿办事器去平直搪塞，不消在经过平衡器原路复返。而且由于 IP 地说念责任在辘集层，是以不错当先 VLAN，因此解脱了平直路由模式中辘集侧的拘谨。

此模式从恳求到响应如下图所示：

IP地说念模式负载平衡

优点：

不错当先 VLAN 弊端： 要求确凿办事器必须维持IP地说念契约，也就是说办事器需要我方会拆包 必须通过挑升的配置，必须保证总共真的凿办事器与平衡器有着疏导的杜撰 IP 地址，因为回复该数据包时，需要使用这个杜撰 IP 行为响应数据包的源地址，这么客户端收到这个数据包时智力正确理解。

基于以上原因，就有了第二种修改花式。2、改造方针数据包。

平直把数据包 Headers 中的方针地址改为确凿办事器地址，修改后本来由用户发给平衡器的数据包，也会被三层交换机转发送到确凿办事器的网卡上，而且因为莫得经过 IP 地说念的额外包装，也就不消再拆包了。

因为这种模式是通过修改方针 IP 地址才到达确凿办事器的，如果确凿办事器平直将搪塞包复返客户端的话，这个搪塞数据包的源 IP 是确凿办事器的 IP，也即平衡器修改以后的 IP 地址，客户端不可能意志该 IP，当然就无法再平素处理这个搪塞了。因此，只可让搪塞流量不息回到负载平衡，由负载平衡把搪塞包的源 IP 改回我方的 IP，再发给客户端，这么智力保证客户端与确凿办事器之间的平素通讯。

这种修改方针IP的花式叫NAT模式，这种通过修改方针IP的花式达到负载平衡主见的花式叫作念NAT负载平衡。如下图所示：

NAT模式负载平衡

四层负载平衡

所谓四层负载平衡，也就是主要通过报文中的方针地址和端口，再加上负载平衡开采设立的办事器采纳花式，决定最终采纳的里面办事器。

由于四层负载平衡是作用在传输层，因此，咱们就以常见的TCP进行例如。

负载平衡开采在经受到第一个来自客户端的SYN 恳求时，即通过上述花式采纳一个最好的办事器，并对报文中方针IP地址进行修改(改为后端办事器IP)，平直转发给该办事器。TCP的招引诞生，即三次持手是客户端和办事器平直诞生的，负载平衡开采只是起到一个近似路由器的转发动作。在某些部署情况下，为保证办事器回包不错正确复返给负载平衡开采，在转发报文的同期可能还会对报文原来的源地址进行修改。

四层负载平衡

四层负载平衡主若是基于tcp契约报文，不错作念任何基于tcp/ip契约的软件的负载平衡，比如Haproxy、LVS等。

七层负载平衡

所谓七层负载平衡，也称为“内容交换”，也就是主要通过报文中真的凿有真谛的应用层内容，再加上负载平衡开采设立的办事器采纳花式，决定最终采纳的里面办事器。

应用层契约较多，常用http、radius、dns等。七层负载就不错基于这些契约来负载。

咱们仍然以TCP为例。负载平衡开采如果要凭据确凿的应用层内容再采纳办事器，只可先代理最终的办事器和客户端诞生招引(三次持手)后，才可能经受到客户端发送真的凿应用层内容的报文，然后再凭据该报文中的特定字段，再加上负载平衡开采设立的办事器采纳花式，决定最终采纳的里面办事器。负载平衡开采在这种情况下，更近似于一个代理办事器。负载平衡和前端的客户端以及后端的办事器会鉴别诞生TCP招引。是以从这个时候旨趣上来看，七层负载平衡较着的对负载平衡开采的要求更高，处理七层的才略也势必会低于四层模式的部署花式。

七层负载平衡器会与客户端 以及 后端的服求实例鉴别诞生招引。

七层负载平衡

七层负载平衡基本齐是基于http契约的，适用于web办事器的负载平衡，比如Nginx等。

对比(四层和七层) 智能性 七层负载平衡由于具备OIS七层的总共功能，是以在处理用户需求上能愈加无邪，从表面上讲，七层模子能对用户的总共跟办事端的恳求进行修改。例如对文献header添加信息，凭据不同的文献类型进行分类转发。 四层模子仅维持基于辘集层的需求转发，不成修改用户恳求的内容。 安全性 七层负载平衡由于具有OSI模子的一说念功能，能更容易抵御来自辘集的挫折 四层模子从旨趣上讲，会平直将用户的恳求转发给后端节点，无法平直抵御辘集挫折。 复杂度 四层模子一般比较简便的架构，容易照应，容易定位问题 七层模子架构比较复杂，常常也需要磋议结合四层模子的混用情况，出现问题定位比较复杂。 遵守比 四层模子基于更底层的设立，常常遵守更高，但应用范畴有限 七层模子需要更多的资源损耗，在表面上讲比四层模子有更强的功能，目下的扫尾更多是基于http应用。 6.算法与扫尾

常用的负载平衡算法分为以下两类：

静态负载平衡 动态负载平衡

常见的静态平衡算法：轮询法、赶快法、源地址哈希法、一致性哈希法、加权轮询法、加权赶快法。

常见的动态负载平衡算法：最小招引数法、最快响应速率法。

赶快法(Random)

将恳求赶快分拨到各个节点。由概率统计表面得知，跟着客户端调用办事端的次数增多，其执行遵守越来越接近于平平分拨，也就是轮询的散伙。

赶快计策会导致配置较低的机器Down机，从而可能引起雪崩，一般领受赶快算法时冷漠后端集群机器配置最好同等的，赶快计策的性能取决于赶快算法的性能。

优点：简便高效，易于水平膨胀，每个节点中意字面真谛上的平衡; 弊端：莫得磋议机器的性能问题，凭据木桶最短木板表面，集群性能瓶颈更多的会受性能差的办事器影响。

赶快法

扫尾：

std::string 深圳曝光群Select(const std::vector<int> &ips) {   size_t size = ips.size();   if (size == 0) {     return "";   }      return ips[random() % size]; } 

轮询法(Round Robin)

每一次来自辘集的恳求交替分拨给里面中的办事器，从1至N然后再行入手。此种平衡算法得当于办事器组中的总共办事器齐有疏导的软硬件配置况兼平均办事恳求相对平衡的情况。

假定10台机器，从0-9，恳求驾临时从0号机器入手，后续每来一次恳求对编号加1，这么一直轮回，上头的赶快计策其实临了就变成轮询了，这两种计策齐不关注机器的负载和运行情况，而且对变量操作会引入锁操作，性能也会下会下落。

优点：简便高效，易于水平膨胀，每个节点中意字面真谛上的平衡; 弊端：莫得磋议机器的性能问题，凭据木桶最短木板表面，集群性能瓶颈更多的会受性能差的办事器影响。

轮询法

代码扫尾：

static int idx = 0; std::string Select(const std::vector<int> &ips) {   size_t size = ips.size();   if (size == 0) {     return "";   }      if (idx == ips.size()) {     idx = 0;   }      return ips[idx++]; } 

加权轮询法(Weighted Round Robin)

不同的后端办事器可能机器的配置和刻下系统的负载并不疏导，因此它们的抗压才略也不疏导。给配置高、负载低的机器配置更高的权重，让其处理更多的恳求;而配置低、负载高的机器，给其分拨较低的权重，裁减其系统负载，加权轮询能很好地处理这一问题，并将恳求法规且按照权重分拨到后端。

假定后端有3台办事器，鉴别为a b c，目下在负载平衡器中配置a办事器的权重为7，b办事的权重为2，c办事的权重为1。当来了10次恳求的时候，其中有7次恳求a，2次恳求b，1次恳求c。即最终散伙是

aaaaaaabbc 

优点：不错将不同机器的性能问题纳入到考量范畴，集群性能最优最大化;

弊端：分娩环境复杂多变，办事器抗压才略也无法精准估算，静态算法导致无法及时动态补助节点权重，只可约略优化。

加权轮询

加权赶快法(Weighted Random)

与加权轮询法一样，加权赶快法也凭据办事器的配置，系统的负载分拨不同的权重。不同的是，它是按照权重赶快恳求后端办事器，而行恶规。

在之前的著作权重赶快分拨器咱们有刺眼讲过各式扫尾决议，此处咱们不再赘述，从里面选录了一种扫尾决议行为本决议的扫尾。

加权赶快

优点：不错将不同机器的性能问题纳入到考量范畴，集群性能最优最大化; 弊端：分娩环境复杂多变，办事器抗压才略也无法精准估算，静态算法导致无法及时动态补助节点权重，只可约略优化。

代码扫尾

srtuct Item {   std::string ip;   int weight; }; std::string select(const std::vector<Item> &items) {   int sum = 0;   for (auto elem : items) {     sum += elem.weight;   }      int rd = rand() % sum;   int s = 0;   std::string res;   for (auto elem : items) {     s += elem.weight;     if (s >= rd) {       res = elem.ip;       break;     }   }   return res; } 

最快响应速率法(Response Time)

凭据恳求的响当令刻，来动态补助每个节点的权重，将响应速率快的办事节点分拨更多的恳求，响应速率慢的办事节点分拨更少的恳求

负载平衡开采对里面各办事器发出一个探伤恳求(例如Ping)，然后凭据里面中各办事器对探伤恳求的最快响当令刻来决定哪一台办事器来响应客户端的办事恳求。此种平衡算法能较好的反应办事器确刻下运奇迹态，但这最快响当令刻只是指的是负载平衡开采与办事器间的最快响当令刻，而不是客户端与办事器间的最快响当令刻。

优点：动态，及时变化，戒指的粒度更细，更灵巧; 弊端：复杂度更高，每次需要估计恳求的响应速率;

最快响应速率

最少招引数法(Least Connections) 将恳求分发到招引数/恳求数最少的候选办事器，已达到负载平衡的主见

客户端的每一次恳求办事在办事器停留的时刻可能会有较大的互异，跟着责任时刻加长，如果领受简便的轮循或赶快平衡算法，每一台办事器上的招引进度可能会产生极大的不同，并莫得达到确凿的负载平衡。最少招引数平衡算法对里面中需负载的每一台办事器齐有一个数据记载，记载刻下该办事器正在处理的招引数目，当有新的办事招引恳求时，将把刻下恳求分拨给招引数最少的办事器，使平衡愈加合适执行情况，负载愈加平衡。此种平衡算法得当万古处理的恳求办事，如FTP。

优点：动态，凭据节点景况及时变化 弊端：提高了复杂度，每次招引断开需要进行计数

最少招引数

源地址哈希法(Source Hashing)

凭据恳求源 IP，通过哈希估计得到一个数值，用该数值在候选办事器列表的进行取模运算，得到的散伙即是选中的办事器。

大概让统一客户端的恳求或者统一用户的恳求老是恳求在后端统一台机器上，这种算法凭据客户端IP求出Hash值然后对端集群总和求余得到值就是办事器蚁合的下标，一般这种算法用于缓存射中，或者统一会话恳求等，但这种算法也有一定的弊端，某一用户有观看量(黑产)相等高时可能酿成办事端压力过大或者后端办事Down掉，那么客户端就会无法有观看，是以也需要一定的左迁计策。

优点：改日自统一IP地址的恳求，统一会话期内，转发到疏导的办事器;扫尾会话粘滞 弊端：方针办事器宕机后，会话会丢失

源地址哈希

一致性哈希(Consistency hash)

一些场景但愿通常的恳求尽量落到一台机器上，比如有观看缓存集群时，咱们时时但愿统一种恳求能落到统一个后端上，以充分利用其上已有的缓存，不同的机器承载不同的融会恳求量(也不错纠合为固定批用户的恳求)。而不是赶快地洒落到总共机器上，那样的话会迫使总共机器缓存总共的内容，最终由于存不下形成震憾而发扬灾祸。咱们齐知说念hash能中意这个要求，比如当有n台办事器时，输入x老是会发送到第hash(x) % n台办事器上。但当办事器变为m台时，hash(x) % n和hash(x) % m很可能齐不相等，这会使得简直总共恳求的发送主观点齐发生变化，如果主观点是缓存办事，总共缓存将失效，继而对本来被缓存庇荫的数据库或估计办事酿成恳求风暴，触发雪崩。一致性哈希是一种特殊的哈希算法，在加多办事器时，发向每个老节点的恳求中只会有一部分转向新节点，从而扫尾平滑的迁徙。

一致性哈希

优点：

平衡性: 每个节点被选到的概率是O(1/n)。 单调性: 当新节点加入时， 不会有恳求在老节点间挪动， 只会从老节点挪动到新节点。当有节点被删除时，也不会影响落在别的节点上的恳求。 分散性: 当上游的机器看到不同的卑鄙列表时(在上线时及不融会的汇鸠合比较常见), 统一个恳求尽量映射到一丝的节点中。 负载: 当上游的机器看到不同的卑鄙列表的时候， 保证每台卑鄙分到的恳求数目尽量一致。

弊端：

在机器数目较少的时候，区间大小会回击衡。 当一台机器故障的时候，它的压力会实足更始到另外一台机器， 可能无法承载。 7.结语

负载平衡并不是确凿确保辘集流量大概"均匀"的分拨到后端服求实例。它只是抱阻挡视外情况发生时候，也能保证用户体验。致密的架构辩论和弹性扩容，大概使得负载平衡的功能 一本万利。

 

• 深圳曝光群