新浪微博架构与平台安全

新浪微博架构与平台安全

ID:42078064

大小:1.55 MB

页数:65页

时间:2019-09-07

新浪微博架构与平台安全_第1页
新浪微博架构与平台安全_第2页
新浪微博架构与平台安全_第3页
新浪微博架构与平台安全_第4页
新浪微博架构与平台安全_第5页
资源描述:

《新浪微博架构与平台安全》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库

1、演讲者@TimYang微博架构与平台安全微博架构发展新浪微博从0~50,000,000用户技术架构经历了3个阶段第1版技术特点微博本质是解决发表/订阅问题第1版采用推消息模式,将发表/订阅简化成insert/select问题技术细节典型LAMP架构MySQL:单库单表,MyISAMMPSS(Multi-PortSingleServer)快速成长用户快速增长出现发表延迟现象,尤其是明星用户架构演变分发推送是造成发表延迟首因模式改进数据规模增大也带来一定延迟规模增大:数据拆分锁表问题:更改引擎发表过慢:异步方式第2版投递模式优化

2、推模式改进,不需要推送到所有用户存储及发表峰值压力减轻投递延迟减小数据拆分优先按时间维度拆分内容和索引分开存放内容使用key-value方式存储(NoSQL)索引由于分页访问,拆分有挑战异步处理发表异步化发表速度及可靠性得到提高使用MemcacheQ增加statsqueue,适合大规模运维技术细节InnoDB引进,避免锁表烦恼PHP中libmemcached代替memcache在高并发下稳定性极大提高高速发展系统问题单点故障、“雪崩”访问速度,国内复杂网络环境数据压力及峰值MySQL复制延迟、慢查询热门事件微博发表量,明星评

3、论及粉丝如何改进系统方面允许任意模块失败静态内容CDN加速数据压力及峰值将数据、功能、部署尽可能拆分提前容量规划平台化需求Web系统有用户行为才有请求API系统轮询请求峰值不明显用户行为很难预测系统规模持续增大平台化需求新的架构如何设计?“Breaklargecomplexsystemsdownintomanyservices...google.comsearchtouches100sofservices(ads,websearch,books,news,spellingcorrection...)”-JeffDean,Go

4、ogleFellow服务化服务→接口→应用第3版平台服务平台服务和应用服务分开,模块隔离新微博引擎,实现feedcache分层关系多维度索引结构,性能极大提高计数服务改成基于偏移,更高的一致性、低延迟基础服务DB冷热分离等多维度拆分图片等存储去中心化动态内容支持多IDC同时更新高性能架构50,000,000用户使用新浪微博最高发表3,000条微博/秒姚晨发表一条微博,会被3,689,713粉丝读到(11月10日数据)问题本质解决高访问量、海量数据规模下易于扩展、低延迟高可用异地分布能力每天数十亿次Web及接口请求请求内容随时

5、变化,结果无法cache如何扩展?思路去状态,可请求服务单元中任意节点去中心化,避免单点及瓶颈可线性扩展,如100万用户,10台服务器1000万用户,100台服务器减少模块耦合实时性高性能系统具备低延迟、高实时性实时性核心是让数据离CPU最近,避免磁盘IO“CPU访问L1就像从书桌拿一本书,L2是从书架拿一本书,L3是从客厅桌子上拿一本书,访问主存就像骑车去社区图书馆拿一本书。”-余锋@ecug2010淘宝网核心系统专家,Erlang技术专家微博cache设计高可用好的架构具有高可用性业界AmazonS3:99.9%Amaz

6、onEC2:99.95%Facebook:n/a微博平台~99.95%(5小时/年)如何达到容量规划图表监控及admissioncontrol...接口及资源监控,7x24业务回环测试,监测业务逻辑有效性集成测试图表通过图表了解系统容量接口监控curl/各地请求情况及响应时间流量异常/accesslognon-200结果/失败率/exceptions将监控指标量化类似mysqlsecondsbehindmaster“Manyservicesarewrittentoalertoperationsonfailureandtode

7、penduponhumaninterventionforrecovery,about20%ofthetimetheywillmakemistakes.Designingforautomation.”-JamesHamilton,VPofAmazon自动化大规模互联网系统运作需要尽可能自动化发布及安装服务启用、停止故障处理前提,去状态化,允许单点故障及重启“SystemadministrationatGoogleusuallyhave1weekof"oncall"duty,andtheother5weeksarespentma

8、kingimprovementstomaketheoncallportionmoreoptimized,automated,andtrouble-free”-TomLimoncelli@EverythingSysadminLumetaCorporation总监,贝尔实验室专家微博系统运转依

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。