×

梭子鱼负载均衡

负载均衡和分布式是一个意思吗,有哪些区别?要做负载均衡,代码要满足什么条件

admin admin 发表于2022-07-22 07:55:48 浏览100 评论0

抢沙发发表评论

负载均衡不在发送请求到这台服务器上,负载均衡和分布式是一个意思吗,负载均衡认为该服务器状态不正常,集群同一个业务系统,前面挂一个负载均衡,这时候负载均衡会监控到这台服务器 A 已经无法使用了(比如监控到端口消失),分布式每台服务器功能加起来,将不再发送请求到这台服务器上。

负载均衡和分布式是一个意思吗,有哪些区别

不是一个意思,下面按照我的理解说一下什么是分布式,什么是集群,如果有理解错误的地方,请大家留言指正。

集群

同一个业务系统,部署在多台服务器上,这个就叫做集群。

集群里面,每一台服务器实现的功能没有差别,代码都是一样的。

比如我有一个系统A,提供一个很简单的接口,根据员工编号查询员工姓名和他的考勤记录。

当有一个系统调用这个接口的时候,我部署一台服务器就够用了。

当有一百个系统调用这个接口的时候,我就部署十台服务器,前面挂一个负载均衡。

这就是集群部署,当一台服务器挂了以后,不影响功能使用。

我接触过的负载均衡软件有Nginx、LB、HAProxy,也有硬件诸如F5。

分布式

一个业务被拆成多个子业务,部署在多台服务器上,这个就叫做分布式。

分布式里面,每一台服务器实现的功能是有差别的,代码也是不一样的,分布式每台服务器功能加起来,才是完整的业务。

还是这个业务场景,我有一个系统A,提供一个很简单的接口,根据员工编号查询员工姓名和他的考勤记录。

我拆开两个系统:人员管理系统B和考勤系统C,分别部署在两台服务器上。

这个就是分布式。

好处是什么呢?如果有系统D也需要使用人员信息,传统的方式系统A和D都要有人员信息管理功能,意味着两个系统各自维护人员信息,那新入职一个员工,可能要在系统A和D里面都维护;如果是有EFGHI系统都需要人员信息呢?-梭子鱼负载均衡

而分布式解决了这个问题,人员信息单独拎出来是一个系统,维护人员信息,同时对外提供查询服务。

分布式+集群

很多时候要结合起来一起用。


还是这个业务场景,我有一个系统A,提供一个很简单的接口,根据员工编号查询员工姓名和他的考勤记录。

我拆开两个系统:人员管理系统B和考勤系统C。

那么系统B部署在十台服务器上,系统C部署在十台服务器上;前面分别挂负载均衡;这样保证了每个子业务功能的高可用。

希望我的回答,能够帮助到你!

我会持续分享Java程序开发、架构设计、职业发展等方面的知识和见解,希望能得到你的关注今日头条【会点代码的大叔】,转载请注明出处。

要做负载均衡,代码要满足什么条件

当我们的程序只部署一套,不再能满足访问量(调用量)的时候,最简单的横向扩容的方法就是部署多套应用环境,负载均衡将用户(客户端)的访问平均地分配到每台服务器上,这样就可以利用多台机器的资源,增加系统的负载能力。-梭子鱼负载均衡

那么要做负载均衡,对我们的系统有什么要求么?或者说我们的代码需要做什么改造么?

大部分时候我们的代码是不需要改造的,但是也要注意这么几点。

我们的服务最好是无状态的,也就是每一次的调用,不依赖于前一次的调用结果,如果前后有依赖,则需要后面的请求携带着前一次请求的结果,作为参数进行访问。

除非负载均衡开启了会话保持,或者通过一些负载均衡路由策略,让同一个 IP 的请求始终路由到同一台服务器上,但是这并不是一个好的解决方案。

通常我们需要保持服务的无状态性,如果需要做权限认证的话,建议采用 Token 或使用 Redis 做 Session 共享(推荐使用 Token)。

还有一点,可能不一定必须的,不过我觉得也是个不错的方案,供大家参考。

假如我们有两台应用服务器 A 和 B,前面挂一台负载均衡,当我们需要做应用升级的话,通常可以怎么做?

  • 通常的办法是停掉服务器 A,这时候负载均衡会监控到这台服务器 A 已经无法使用了(比如监控到端口消失),再来的请求会发送给服务器 B;

  • 对服务器 A 升级并启动,负载均衡监控到 A 恢复了,会将请求发送给 A 和 B;

  • 对服务器 B 做相同的操作。

这样看似没有问题,因为在服务器升级的时候,负载均衡不在发送请求到这台服务器上;但是大家仔细想一想这个过程,如果在停服务器的那一刻,已经有请求进来了并进行处理,但是还没有返回,这时候停掉服务器,会导致这部分请求发生异常,那么这个问题如何解决呢?这就需要对程序进行一定的改造了。-梭子鱼负载均衡

  • 应用提供一个接口,返回一个静态变量的值,只要 true 或 false 两个状态;

  • 负载均衡不再监控端口是否消失,而是监控剪口返回的状态,返回 true 表示应用正常,false 或没有返回表示不正常;

  • 每次停服务之前,通过接口修改当前应用静态变量的值为 false;

  • 负载均衡认为该服务器状态不正常,将不再发送请求到这台服务器上;

  • 等待几十秒,这段时间相当于等待当前请求都处理并返回,再停止服务。

“停止服务时,不再接受新的请求,等现有请求都处理完成后再真正停止服务”,这只是一个笨办法,想要避免以上问题还有更好的办法,并且对代码没有侵入性;有些中间件本身提供了类似的功能,我们只需执行对应的停止服务的命令即可;或者需要在代码中添加监听类,当收到 kill 信号的时候,拒绝新的请求,等待一段时间,再结束程序等等。-梭子鱼负载均衡

我将持续分享Java开发、架构设计、程序员职业发展等方面的见解,希望能得到你的关注。

同运营商多条外线如何做负载均衡

局域网出于带宽的需要,经常会采用多外线接入的方式,一则可以带宽叠加,提示带宽;再则还可以互为备份,一旦一条线路中断,另外一条线路可以继续使用,保障网络的正常运行。

介绍如何用WFilter NGF(WSG)来实现同ISP多外线的负载均衡和线路检测。

1. 配置负载均衡

同运营商没有线路DNS的问题,可以直接进行负载均衡,在“多线均衡”模块里面,创建负载均衡的线路方案即可

然后再对内网的客户机选择相应的线路方案:

2. 开启线路检测

线路检测可以检测每个WAN口的线路畅通情况,一旦检测到线路不通,就会把该WAN口从负载均衡中移除,从而保证网络的畅通运行。