首页 > 系统 > 关键词  > 负载均衡最新资讯  > 正文

网站站长必看 浅谈IDC机房的负载均衡服务

2008-07-28 16:25 · 稿源:Chinaunix
大部分的个人网站在一开始或许只是跟几十人上百人共享的一个虚拟主机空间,然后随着内容的增加和访问量的增长,虚拟主机的带宽、空间已经不能满足需求,站长就得开始考虑为网站购置一台独立的服务器,使用100M共享甚至是10M独享带宽;而当网站继续发展,访问的用户也已经遍布大江南北,站长又得考虑电信网通的互通问题,在南方和北方各放置一台服务器作为镜像站点,或是采用双线接入;当这个网站访问量更大时,一味的增加带宽和设置镜像站点无疑会使网站运营成本剧增,加上单个服务器本身也有性能和线程的瓶颈,在并发访问量较大并且集中在一台服务器的时候,“Server too busy”就出现了,而这时站长应该采用什么方式使得网站在高访问量的时候仍然拥有较好的访问效果呢?这就牵涉到负载均衡的话题。

我们之前讨论过CDN,其实CDN除了加速之外,也具有分流的效果,因此在负载均衡领域也有不少应用,其实基本上缓存(Cache)+镜像技术都有分流作用,但是如何分流还是需要一个负载均衡设备进行引导,所以,我们今天专门讨论负载均衡技术。

关于负载均衡服务
负载均衡服务能够平衡服务器群中的所有的服务器和应用之间的通信负载,根据实时响应时间进行判断,将任务交由负载最轻的服务器来处理,以实现真正的智能通信管理和最佳的服务器群性能。负载均衡技术控制第四层到第七层的应用/内容,从而对不同类型的客户和应用实现了优先级划分和差别服务,使用第七层智能会话恢复技术,同时可以检测出HTTP 400,500和600系列的错误。它透明地将交易重新定向到另一台服务器,从而使系统能够完成该交易。服务器故障切换和多重冗余特性可以让通信绕过故障点,从而使网站始终保持运行和可访问性。

实现负载均衡的方法

关于实现负载均衡的方法,网上也有不少相关讨论,以下做一些引用:

1、基于特定服务器软件的负载均衡
很多网络协议都支持“重定向”功能,例如在HTTP协议中支持Location指令,接收到这个指令的浏览器将自动重定向到Location指明的另一个URL上。由于发送Location指令比起执行服务请求,对Web服务器的负载要小的多,因此可以根据这个功能来设计一种负载均衡的服务器。

任何时候Web服务器认为自己负载较大的时候,它就不再直接发送回浏览器请求的网页,而是送回一个Location指令,让浏览器去服务器集群中的其他服务器上获得所需要的网页。

在这种方式下,服务器本身必须支持这种功能,然而具体实现起来却有很多困难,例如一台服务器如何能保证它重定向过的服务器是比较空闲的,并且不会再次发送Location指令,Location指令和浏览器都没有这方面的支持能力,这样很容易在浏览器上形成一种死循环。

因此这种方式实际应用当中并不多见,使用这种方式实现的服务器集群软件也较少。有些特定情况下可以使用CGI(包括使用FastCGI或mod_perl扩展来改善性能)来模拟这种方式去分担负载,而Web服务器仍然保持简洁、高效的特性,此时避免Location循环的任务将由用户的CGI程序来承担。

2、基于DNS的负载均衡

由于基于服务器软件的负载均衡需要改动软件,因此常常是得不偿失,负载均衡最好是在服务器软件之外来完成,这样才能利用现有服务器软件的种种优势。最早的负载均衡技术是通过DNS服务中的随机名字解析来实现的,在DNS服务器中,可以为多个不同的地址配置同一个名字,而最终查询这个名字的客户机将在解析这个名字时得到其中的一个地址。因此,对于同一个名字,不同的客户机会得到不同的地址,他们也就访问不同地址上的Web服务器,从而达到负载均衡的目的。

例如如果希望使用三个Web服务器来回应对www.ghq.net的HTTP请求,就可以设置该域的DNS服务器中关于该域的数据包括有与下面例子类似的结果:

www1 IN A 192.168.1.1

www2 IN A 192.168.1.2

www3 IN A 192.168.1.3

www IN CNAME www1

www IN CNAME www2

www IN CNAME www3

此后外部的客户机就可能随机的得到对应www的不同地址,那么随后的HTTP请求也就发送给不同地址了。

DNS负载均衡的优点是简单、易行,并且服务器可以位于互联网的任意位置上,当前使用在包括Yahoo在内的Web站点上。然而它也存在不少缺点,一个缺点是为了保证DNS数据及时更新,一般都要将 DNS的刷新时间设置的较小,但太小就会造成太大的额外网络流量,并且更改了DNS数据之后也不能立即生效;第二点是DNS负载均衡无法得知服务器之间的差异,它不能做到为性能较好的服务器多分配请求,也不能了解到服务器的当前状态,甚至会出现客户请求集中在某一台服务器上的偶然情况。

3、反向代理负载均衡

使用代理服务器可以将请求转发给内部的Web服务器,使用这种加速模式显然可以提升静态网页的访问速度。因此也可以考虑使用这种技术,让代理服务器将请求均匀转发给多台内部Web服务器之一上,从而达到负载均衡的目的。这种代理方式与普通的代理方式有所不同,标准代理方式是客户使用代理访问多个外部Web服务器,而这种代理方式是多个客户使用它访问内部Web服务器,因此也被称为反向代理模式。

实现这个反向代理能力并不能算是一个特别复杂的任务,但是在负载均衡中要求特别高的效率,这样实现起来就不是十分简单的了。每针对一次代理,代理服务器就必须打开两个连接,一个为对外的连接,一个为对内的连接,因此对于连接请求数量非常大的时候,代理服务器的负载也就非常之大了,在最后反向代理服务器会成为服务的瓶颈。

例如,使用Apache的mod_rproxy模块来实现负载均衡功能时,提供的并发连接数量受Apache本身的并发连接数量的限制。一般来讲,可以使用它来对连接数量不是特别大,但每次连接都需要消耗大量处理资源的站点进行负载均衡,例如搜寻。

使用反向代理的好处是,可以将负载均衡和代理服务器的高速缓存技术结合在一起,提供有益的性能,具备额外的安全性,外部客户不能直接访问真实的服务器。并且实现起来可以实现较好的负载均衡策略,将负载可以非常均衡的分给内部服务器,不会出现负载集中到某个服务器的偶然现象。

4、基于NAT的负载均衡技术

网络地址转换为在内部地址和外部地址之间进行转换,以便具备内部地址的计算机能访问外部网络,而当外部网络中的计算机访问地址转换网关拥有的某一外部地址时,地址转换网关能将其转发到一个映射的内部地址上。因此如果地址转换网关能将每个连接均匀转换为不同的内部服务器地址,此后外部网络中的计算机就各自与自己转换得到的地址上服务器进行通信,从而达到负载分担的目的。

地址转换可以通过软件方式来实现,也可以通过硬件方式来实现。使用硬件方式进行操作一般称为交换,而当交换必须保存TCP连接信息的时候,这种针对OSI网络层的操作就被称为第四层交换。支持负载均衡的网络地址转换为第四层交换机的一种重要功能,由于它基于定制的硬件芯片,因此其性能非常优秀,很多交换机声称具备400MB-800MB的第四层交换能力。

使用软件方式来实现基于网络地址转换的负载均衡则要实际的多,除了一些厂商提供的解决方法之外,更有效的方法是使用免费的自由软件来完成这项任务。其中包括Linux Virtual Server Project中的NAT实现方式,或者本文作者在FreeBSD下对natd的修订版本。一般来讲,使用这种软件方式来实现地址转换,中心负载均衡器存在带宽限制,在100MB的快速以太网条件下,能得到最快达80MB的带宽,然而在实际应用中,可能只有40MB-60MB的可用带宽。

IDC提供的负载均衡服务

IDC提供的负载均衡服务有:

互联网数据中心提供的专业负载均衡服务,可以针对用户的服务器做本地负载均衡(Server Load Balancing),负载均衡设备采用强劲有效的负载均衡算法,按照实际响应时间,在性能不同的服务器之间进行负载的智能分配,充分利用服务器群中的每一台服务器,保护现有投资,既保证性能一般的服务器不成为系统的瓶颈,也保证性能高的服务器资源得到充分的利用。大部分的电信IDC互联网数据中心都建立了共享的负载均衡设施(Shared Load Balancing),该机房的购买此项增值服务的所有托管电池设备客户的服务器都可以共享机房购置的负载均衡设施,针对一些高端用户,一些数据中心还推出了独享负载均衡服务 (Dedicated Load Balancing Service),该服务主要是为了避免共享用户争用负载均衡设备资源的可能,而且会为个别大型客户单独建立自己的负载均衡设施,以保证达到良好的效果。

共享负载均衡服务 (Shared Load Balancing Service) 托管客户可以与其它客户共同分享IDC的共享负载均衡设施(Shared Load Balancing),以低廉的代价,获得服务器的负载均衡服务。

独享负载均衡服务 (Dedicated Load Balancing Service) IDC也可以为托管客户提供独享的负载均衡设施,在确保数据安全的情况下,达到更好的负载均衡效果。

但是,只对本地服务器(也就是指本机房服务器)进行负载均衡是不够的,大部分需要负载均衡服务的站点并发访问量都较大,这些站点多数都有异地镜像服务器,因此一些更加专业的 IDC 机房采用的负载均衡设备还可以穿透网络路由,进行异地镜像站点之间的负载均衡,这类负载均衡就称为异地负载均衡(Website Load Balancing)。

异地负载均衡服务 (Website Load Balancing Service) IDC的负载均衡服务,可以穿透网络路由,进行异地镜像站点之间的负载均衡。

负载均衡服务的更多服务对象:负载均衡服务并非只针对托管服务器或者独立服务器,上面提到的几种也负载均衡服务可以对用户的防火墙(Firewall Load Balancing)及虚拟主机(Virtual Hosting Load Balancing)进行负载均衡,其效果和基本原理也是通用的。

  • 相关推荐
  • 大家在看
  • 新Linux内核调度程序补丁可提升AMD Zen处理的某些工作负载性能

    由 Linux 内核邮件列表可知,开发人员正在审查一组两个补丁,以调节内核调度程序的某些行为。对于 AMD 霄龙(EPYC)/ 锐龙(Ryzen)处理器的用户来说,新补丁有望带来显著的性能提升。其实去年,Linux 内核调度程序的代码已迎来部分调整,以允许 NUMA 节点之间的非均衡浮动,除非 1/4 的 CPU 内核占用率高于正常水平。资料图(来自:AMD | PDF)此前,仅当目标节点有效空闲时,Linux 内核才允许 NUMA 节点之间的非均衡调用。长期从

  • CRI-RM 助力浪潮AIStation提升云原生工作负载性能

    在 KubeCon + CloudNativeCon + Open Source Summit China2021 大会上, 英特尔?有多场技术分享,这里要给大家特别推荐的一场分享为:Friday, December10 ?11:20 -11:55深入研究:基于 CRI-RM 的中央处理器和非统一内存访问架构亲和性实现人工智能任务加速欢迎大家来交流。在这个议题中,演讲嘉宾将就开源项目 CRI-RM 以及它在浪潮 AIStation 的实际应用跟大家分享。CRI-RM(Container Runtime Interface, Resource manager),

  • 深信服应用交付AD发新版本:构建全局负载下的绝对竞争力

    深信服应用交付AD,自推出市场,一直广受用户与市场认可。自 2014 年至 2020 年,连续 7 年成为市场占有率第一的中国品牌。 2020 年Q4,第一次反超国际厂商,完成了从“国产品牌市场第一”到“市场第一”的里程碑式跨越。(数据来源:IDC2014- 2020 年中国应用交付市场跟踪报告)日前公布的IDC《 2021 年Q2 中国应用交付市场跟踪报告》显示,深信服AD的市占率依旧是第一。数据来源:IDC《 2021 年Q2 中国应用交付市场跟踪报告》然?

  • Fortnite关闭其在中国的服务器

    Fortnite的手机游戏自2018年开始在中国上市,由于严格的政府监管,该游戏从未真正退出该地区的测试阶段。现在开发者正式宣布他们将关闭中国的Fortnite服务器。虽然开发商的官方声明没有指出具体的原因,但可以肯定的是,这是因为中国政府继续收紧对游戏行业的限制。最近对儿童玩游戏的限制只是一个例子。18岁以下的人每周不能玩超过3小时。获得在中国销售虚拟物品的许可越来越难,Fortnite的freemium商业模式在中国市场上也没有意?

  • 赵文卓代言《剑1:归来》,代言人专属服务器今日开放

    剑侠归来,以和为贵。由西山居原班人马打造的剑侠情缘复刻手游《剑网1:归来》,自 10 月 15 日开启全平台不删档测试以来得到玩家群体的积极反馈。游戏开服首日,紧急加开 32 组服务器,一度仍难满足汹涌的人潮;更有玩家为重温经典,甘愿在 5 千人的队伍中默默排队守候。今日,游戏再度发布消息——邀请功夫巨星赵文卓作为“剑网 1 归来代言人”,同时,赵文卓专属服务器【以和为贵】将于今日在游戏中同步开放!广大侠士门一起回?

  • “学生党”免费内穿透,3步外访问本地tomcat服务器

    学习网站开发的同学,一般都安装过IIS或者Apache Tomcat等Web服务器,如果是用自己电脑搭建的本地服务器,部署的Web应用只能在校园网或家庭网内访问。如果需要远程调试或者在外网使用,没有公网IP该怎么办呢?一款简单易用、安全稳定的内网穿透软件——花生壳,简单 3 步即可满足在任何时间、任何地点、任何线路,通过花生壳固定的域名访问到内网主机的服务和应用。尤其对学生党来说,花生壳免费开放 “青春版”服务,可以通过学生

  • 穿透打破局域地域限制,3分钟访问总部服务器协同办公

    随着经济发展和企业业务的扩展,很多企业形成了以总部为中心的多点生产体系结构,为促进异地业务的信息共享、提高办公处理效率和综合管理水平,企业常借助网络化办公工具搭建跨区域协同办公系统,以满足总部与分支机构间的信息互通。江苏某信息技术公司提供知识产权金融服务,帮助中小企业通过知识产权与金融资本进行对接融资,使用的“知识产权金融智能服务系统”是该公司的业务流程管理系统,提供内部审批、办公和业务管理等,需

  • 易多款游戏出现络故障 官方回应已解决:用干冰修好了服务器

    昨日晚间,网易旗下多个游戏出现登陆异常情况,时间大约从20点20后开始。23点12分,《永劫无间》官微确认修复完成,并复盘了背后故事。20点20分前后,官网版不能登录,Steam正常,正在游戏中的玩家也没有收到影响,咄咄怪事。马上机房传来报警,温度过高。部分服务器过热宕机。”空调重新开机也没有解决问题,涉及到的游戏太多了也无处借服务器,无路可走,怎么办!这时候有个技术大哥,估计小时候积累了丰富的偷玩游戏的经验,不?

  • 2021腾讯云服务器双十一冲刺秒杀活动开启 首购服务器低至0.4折

    2021年11月11日马上就要到了,全年优惠力度最大的一个节日中,腾讯云服务器也是不甘示弱,发布了很多优惠活动,下面就来为大家分享一下。

  • 8家盘“不限速”,还有花生壳HFS自建免费文件分享服务器

    最近,网盘“不限速”的消息颇得广大网友的欢心。百度网盘、阿里云盘、腾讯微云等 8 家网盘企业在工信部统一指导下,共同签署《个人网盘服务业务用户体验保障自律公约》,并承诺在 2021 年内推出“无差别速率”产品,为用户提供无差别的上传/下载速率服务,这将极大改善用户体验,尤其是满足免费用户基本的下载需求。目前, 8 家企业已经公布了对应的产品及服务举措,百度网盘将为免费用户提供10G存储空间的青春版云盘,存储空间最

这篇文章对你有价值吗?

  • 热门标签

热文

  • 3 天
  • 7天