负载均衡不在发送请求到这台服务器上,负载均衡和分布式是一个意思吗,负载均衡认为该服务器状态不正常,集群同一个业务系统,前面挂一个负载均衡,这时候负载均衡会监控到这台服务器 A 已经无法使用了(比如监控到端口消失),分布式每台服务器功能加起来,将不再发送请求到这台服务器上。
负载均衡和分布式是一个意思吗,有哪些区别
不是一个意思,下面按照我的理解说一下什么是分布式,什么是集群,如果有理解错误的地方,请大家留言指正。
集群
同一个业务系统,部署在多台服务器上,这个就叫做集群。
集群里面,每一台服务器实现的功能没有差别,代码都是一样的。
比如我有一个系统A,提供一个很简单的接口,根据员工编号查询员工姓名和他的考勤记录。
当有一个系统调用这个接口的时候,我部署一台服务器就够用了。
当有一百个系统调用这个接口的时候,我就部署十台服务器,前面挂一个负载均衡。
这就是集群部署,当一台服务器挂了以后,不影响功能使用。
我接触过的负载均衡软件有Nginx、LB、HAProxy,也有硬件诸如F5。
分布式
一个业务被拆成多个子业务,部署在多台服务器上,这个就叫做分布式。
分布式里面,每一台服务器实现的功能是有差别的,代码也是不一样的,分布式每台服务器功能加起来,才是完整的业务。
还是这个业务场景,我有一个系统A,提供一个很简单的接口,根据员工编号查询员工姓名和他的考勤记录。
我拆开两个系统:人员管理系统B和考勤系统C,分别部署在两台服务器上。
这个就是分布式。
好处是什么呢?如果有系统D也需要使用人员信息,传统的方式系统A和D都要有人员信息管理功能,意味着两个系统各自维护人员信息,那新入职一个员工,可能要在系统A和D里面都维护;如果是有EFGHI系统都需要人员信息呢?-梭子鱼负载均衡
而分布式解决了这个问题,人员信息单独拎出来是一个系统,维护人员信息,同时对外提供查询服务。
分布式+集群
很多时候要结合起来一起用。
还是这个业务场景,我有一个系统A,提供一个很简单的接口,根据员工编号查询员工姓名和他的考勤记录。
我拆开两个系统:人员管理系统B和考勤系统C。
那么系统B部署在十台服务器上,系统C部署在十台服务器上;前面分别挂负载均衡;这样保证了每个子业务功能的高可用。
希望我的回答,能够帮助到你!
我会持续分享Java程序开发、架构设计、职业发展等方面的知识和见解,希望能得到你的关注今日头条【会点代码的大叔】,转载请注明出处。
要做负载均衡,代码要满足什么条件
当我们的程序只部署一套,不再能满足访问量(调用量)的时候,最简单的横向扩容的方法就是部署多套应用环境,负载均衡将用户(客户端)的访问平均地分配到每台服务器上,这样就可以利用多台机器的资源,增加系统的负载能力。-梭子鱼负载均衡
那么要做负载均衡,对我们的系统有什么要求么?或者说我们的代码需要做什么改造么?
大部分时候我们的代码是不需要改造的,但是也要注意这么几点。
我们的服务最好是无状态的,也就是每一次的调用,不依赖于前一次的调用结果,如果前后有依赖,则需要后面的请求携带着前一次请求的结果,作为参数进行访问。
除非负载均衡开启了会话保持,或者通过一些负载均衡路由策略,让同一个 IP 的请求始终路由到同一台服务器上,但是这并不是一个好的解决方案。
通常我们需要保持服务的无状态性,如果需要做权限认证的话,建议采用 Token 或使用 Redis 做 Session 共享(推荐使用 Token)。
还有一点,可能不一定必须的,不过我觉得也是个不错的方案,供大家参考。
假如我们有两台应用服务器 A 和 B,前面挂一台负载均衡,当我们需要做应用升级的话,通常可以怎么做?
通常的办法是停掉服务器 A,这时候负载均衡会监控到这台服务器 A 已经无法使用了(比如监控到端口消失),再来的请求会发送给服务器 B;
对服务器 A 升级并启动,负载均衡监控到 A 恢复了,会将请求发送给 A 和 B;
对服务器 B 做相同的操作。
这样看似没有问题,因为在服务器升级的时候,负载均衡不在发送请求到这台服务器上;但是大家仔细想一想这个过程,如果在停服务器的那一刻,已经有请求进来了并进行处理,但是还没有返回,这时候停掉服务器,会导致这部分请求发生异常,那么这个问题如何解决呢?这就需要对程序进行一定的改造了。-梭子鱼负载均衡
应用提供一个接口,返回一个静态变量的值,只要 true 或 false 两个状态;
负载均衡不再监控端口是否消失,而是监控剪口返回的状态,返回 true 表示应用正常,false 或没有返回表示不正常;
每次停服务之前,通过接口修改当前应用静态变量的值为 false;
负载均衡认为该服务器状态不正常,将不再发送请求到这台服务器上;
等待几十秒,这段时间相当于等待当前请求都处理并返回,再停止服务。
“停止服务时,不再接受新的请求,等现有请求都处理完成后再真正停止服务”,这只是一个笨办法,想要避免以上问题还有更好的办法,并且对代码没有侵入性;有些中间件本身提供了类似的功能,我们只需执行对应的停止服务的命令即可;或者需要在代码中添加监听类,当收到 kill 信号的时候,拒绝新的请求,等待一段时间,再结束程序等等。-梭子鱼负载均衡
我将持续分享Java开发、架构设计、程序员职业发展等方面的见解,希望能得到你的关注。
同运营商多条外线如何做负载均衡
局域网出于带宽的需要,经常会采用多外线接入的方式,一则可以带宽叠加,提示带宽;再则还可以互为备份,一旦一条线路中断,另外一条线路可以继续使用,保障网络的正常运行。
介绍如何用WFilter NGF(WSG)来实现同ISP多外线的负载均衡和线路检测。
1. 配置负载均衡
同运营商没有线路DNS的问题,可以直接进行负载均衡,在“多线均衡”模块里面,创建负载均衡的线路方案即可
然后再对内网的客户机选择相应的线路方案:
2. 开启线路检测
线路检测可以检测每个WAN口的线路畅通情况,一旦检测到线路不通,就会把该WAN口从负载均衡中移除,从而保证网络的畅通运行。