MyException - 我的异常网
当前位置:我的异常网» 软件架构设计 » 分布式应用雪崩功效

分布式应用雪崩功效

www.MyException.Cn  网友分享于:2013-02-03  浏览:0次
分布式应用雪崩效用

分布式应用雪崩效用

 

 

对雪崩效用的理解

 

       服务C依赖服务B,服务B依赖服务A,当服务A挂掉,这样服务B的请求一直等待,到超时为止,导致服务B的资源耗尽。

 

 

 

 

雪崩效用的原因

 

  • 服务提供者不可用
  • 重试加大流量
  • 服务调用这不可用

 

 

服务提供者不可用的原因

 

  • 硬件故障:服务器宕机或者网络故障
  • 程序bug
  • 缓存击穿:一般发生在缓存应用重启, 所有缓存被清空时, 以及短时间内大量缓存失效时。大量的缓存不命中, 使请求直击后端, 造成服务提供者超负荷运行, 引起服务不可用。
  • 用户大量请求:在秒杀和大促开始前, 如果准备不充分, 用户发起大量请求也会造成服务提供者的不可用。

 

重试加大流量的原因

 

  • 用户重试:在服务提供者不可用后, 用户由于忍受不了界面上长时间的等待, 而不断刷新页面甚至提交表单。
  • 代码逻辑重试:这是程序自己做的重试

 

服务调用者不可用产生的主要原因

 

同步等待造成资源耗尽:

 

当服务调用者使用 “同步调用” 时, 会产生大量的等待线程占用系统资源. 一旦线程资源被耗尽,服务调用者提供的服务也将处于不可用状态, 于是服务雪崩效应产生了.

 

 

 

 

解决方案

 

  • 超时机制:设置超时时间
  • 服务限流
  • 防止缓存击穿
  • 服务熔断:服务B检查到服务A的接口不稳定时(如:10次出错5次),然后就断开服务A的访问
  • 服务降级:服务B准备一个回退机制,备用接口
  • 将同步等待改成异步:防止长时间占用资源导致耗尽
  • 服务器自动扩容:这个最好使用云服务器(AWS的auto scaling、Azure),能够有大量冗余,也能实现自动扩容

 

限流的解决方法

 

  • 程序限流:信号量、线程池 + 队列
  • 网关限流:因为Nginx的高性能, 目前一线互联网公司大量采用Nginx+Lua的网关进行流量控制, 由此而来的OpenResty也越来越热门。
  • 用户交互限流:1. 采用加载动画,提高用户的忍耐等待时间. 2. 提交按钮添加强制等待时间机制.

 

防止缓存击穿的方法

 

  • 当多个线程进来查缓存的时候,因为这时缓存中无数据
  • 那用setNx()做一个互斥锁,只有一个线程能够拿到这个锁
  • 拿到锁的线程就查DB,然后将DB数据放回到缓存
  • 拿不到锁的线程,就先等待一段时间(如:5秒),然后再进行第一步的查询

 

熔断和降级的方法

 

Hystrix:可以实现限流、熔断、降级

 

分流:

配置properties

继承HystrixCommoned

重写run方法中实现要分流的服务请求

 

熔断:

配置properties,满足条件后就会断绝run方法

 

降级:

配置properties

重写fallback方法,在里面写降级时要调用的方法

 

 

 

 

文章评论

60个开发者不容错过的免费资源库
60个开发者不容错过的免费资源库
程序员的一天:一寸光阴一寸金
程序员的一天:一寸光阴一寸金
“肮脏的”IT工作排行榜
“肮脏的”IT工作排行榜
Web开发人员为什么越来越懒了?
Web开发人员为什么越来越懒了?
团队中“技术大拿”并非越多越好
团队中“技术大拿”并非越多越好
中美印日四国程序员比较
中美印日四国程序员比较
漫画:程序员的工作
漫画:程序员的工作
编程语言是女人
编程语言是女人
程序员眼里IE浏览器是什么样的
程序员眼里IE浏览器是什么样的
2013年中国软件开发者薪资调查报告
2013年中国软件开发者薪资调查报告
Google伦敦新总部 犹如星级庄园
Google伦敦新总部 犹如星级庄园
程序员和编码员之间的区别
程序员和编码员之间的区别
如何成为一名黑客
如何成为一名黑客
要嫁就嫁程序猿—钱多话少死的早
要嫁就嫁程序猿—钱多话少死的早
老程序员的下场
老程序员的下场
一个程序员的时间管理
一个程序员的时间管理
10个调试和排错的小建议
10个调试和排错的小建议
做程序猿的老婆应该注意的一些事情
做程序猿的老婆应该注意的一些事情
程序员应该关注的一些事儿
程序员应该关注的一些事儿
代码女神横空出世
代码女神横空出世
聊聊HTTPS和SSL/TLS协议
聊聊HTTPS和SSL/TLS协议
Web开发者需具备的8个好习惯
Web开发者需具备的8个好习惯
当下全球最炙手可热的八位少年创业者
当下全球最炙手可热的八位少年创业者
 程序员的样子
程序员的样子
我的丈夫是个程序员
我的丈夫是个程序员
如何区分一个程序员是“老手“还是“新手“?
如何区分一个程序员是“老手“还是“新手“?
为啥Android手机总会越用越慢?
为啥Android手机总会越用越慢?
总结2014中国互联网十大段子
总结2014中国互联网十大段子
旅行,写作,编程
旅行,写作,编程
程序员周末都喜欢做什么?
程序员周末都喜欢做什么?
程序员都该阅读的书
程序员都该阅读的书
“懒”出效率是程序员的美德
“懒”出效率是程序员的美德
Java 与 .NET 的平台发展之争
Java 与 .NET 的平台发展之争
程序员必看的十大电影
程序员必看的十大电影
科技史上最臭名昭著的13大罪犯
科技史上最臭名昭著的13大罪犯
10个帮程序员减压放松的网站
10个帮程序员减压放松的网站
老美怎么看待阿里赴美上市
老美怎么看待阿里赴美上市
5款最佳正则表达式编辑调试器
5款最佳正则表达式编辑调试器
鲜为人知的编程真相
鲜为人知的编程真相
十大编程算法助程序员走上高手之路
十大编程算法助程序员走上高手之路
什么才是优秀的用户界面设计
什么才是优秀的用户界面设计
程序员的鄙视链
程序员的鄙视链
我跳槽是因为他们的显示器更大
我跳槽是因为他们的显示器更大
那些性感的让人尖叫的程序员
那些性感的让人尖叫的程序员
2013年美国开发者薪资调查报告
2013年美国开发者薪资调查报告
看13位CEO、创始人和高管如何提高工作效率
看13位CEO、创始人和高管如何提高工作效率
我是如何打败拖延症的
我是如何打败拖延症的
不懂技术不要对懂技术的人说这很容易实现
不懂技术不要对懂技术的人说这很容易实现
那些争议最大的编程观点
那些争议最大的编程观点
软件开发程序错误异常ExceptionCopyright © 2009-2015 MyException 版权所有