系统架构与高可用

系统架构与高可用

前言

简单聊聊博主的背景吧,博主是Java开发,刚毕业就来到这个刚创立的公司(当然是有一点背景的),公司开发人数从80来人到现在的430人,期间系统进行多次调整。

而我除了写代码业务实现外,刚好有机会接触了一些类似架构、运维、以及新系统初期设计讨论的工作,这大大满足了我的好奇心,这是幸运的。

我大部分的知识是从工作中学习到的,开始知识点是零散,喜欢做笔记,一旦遇到我们没有听过的技术名词或者业务名词我就会记录下来,然后自己找资料去了解,哪怕是同事讨论我听到的,平时闲逛博客文章也会看到一些,慢慢的一些知识点可以串连起来,逐渐的对公司使用的技术体系有了较为明确的了解。(这是一种我认为不错的学习方法,有一定的技术体系脉络后,可以尝试各个知识点针对性加深理解,这是一种从点到线到面,再到深入的一种方式)。

事实上架构师的工作可以细分为业务架构和技术架构,相应的职位可细分为业务架构师、技术架构师。当然细分并非必须的。

而我们公司的架构师职位,是偏向业务架构的定位,技术架构基本是各个研发团队规划。当然整个公司有基础架构规范,使得各个系统使用的技术偏差不会太大,尽量保持统一。

博主所在公司的技术架构是微服务架构,新型中大型互联网公司一般采用这种架构吧。至于什么是微服务架构,我们后面细说。

关于业务架构

为了让大家更好的理解业务架构,我找到一遍非常不错的文章:怎么做好业务架构师

我摘抄了其中不错描述:
(1)开发的思维和业务架构师的思维有很大差异。前者侧重于对具体的问题,思考能否实现、如何实现、实现的好不好、效率高不高。后者侧重于对明确或者模糊的问题, 思考真正需求是什么、为什么是这样、如何分析成册、如何描述给下游同事。
(2)作为一个承前启后的岗位,业务架构师像是一个路由器,对各种业务需求加以分析处理后路由到下游产品和研发团队。 因此和业务人员沟通时,需要能换位思考“他们为什么提出这个需求、痛点在哪里”;和产品、研发沟通时,能思考他们的技术限制、架构局限和项目进度压力。 基于换位思考的沟通能力,能让你和业务、产品/研发更有效的沟通,关系也更融洽。

整体而言,业务架构师需要更多的思考、更多的沟通与表达(文档能力),需要对业务有足够的理解。
我们公司研发中心也有架构团队,有架构师职位。但是整体而言,我们公司的架构师,并没有发挥出应有的贡献。因为他们对业务的理解非常局限,而只是作为参与讨论的角色,讨论完了,基本不总结,因此形同虚设。我觉得是因为研发中心对他们的职责定位没有足够的明确,或者没事实施好的缘故吧。

关于技术架构

技术架构师是选型、抽象、提炼、封装公共组件,如缓存、消息中间件、服务框架、工作流等。让项目团队只关注业务代码的实现。

2017年12月份,公司邀请了一位京东高级架构师给我们分享了《微服务架构设计与实践》的课程。收获非常大,最主要是让我对知识体系结构的理解更为深入,这一点让我在后面的学习中可以更加快速的理解。下面说说系统架构自己的一些收获吧。

(1)系统架构其实分为:标准的基础系统架构规范和结合具体业务的系统架构。有些系统如秒杀系统、营销活动系统等,需要对业务有足够的理解,才能设计出更为合理的系统架构。

(2)系统架构有:1、单体式架构(两层的C/S架构、三层的MVC架构),2、多体式架构(简单分布式系统RPC调用、面向服务架构SOA、微服务架构)。

关于单体式架构,系统应用、数据库都部署到一台机器上,比如一个小超市的结算系统。在以前网络没有现在那么便利时,他确实有其较强的使用场景的。

关于微服务架构,采用一组服务的方式来构建一个应用,服务独立部署在不同的进程中,不同的服务通过一些轻量级交互机制通信,例如RPC、HTTP等,服务可独立扩展伸缩,每个服务定义了明确的边界,不同的服务甚至可以采用不同的编程语言来实现(但是建议尽量统一,方便维护),由独立的团队来维护。

微服务的思路是将一个巨大的单体式应用分解为许多小的、相互连接的微服务,可以更加快速的迭代及扩展伸缩。
一个微服务一般完成某个特定的功能,比如下单管理、客户管理等等。
运行时微服务的每个实例可能是一个云VM或者是Docker容器。
微服务架构每个服务都有自己的数据库。

微服务架构的好处:
(1)通过分解巨大的单体式应用为多个服务方法解决了复杂性问题。
(2)这种架构使得每个服务都可以有专门的开发团队来开发。开发者可以自由选择开发技术,提供API服务。(不过我们公司目前都是采用统一的技术,方便维护,除非特例才使用不一样的技术)
(3)微服务架构模式是每个微服务独立部署。开发者不再需要协调其他服务部署对本服务的影响。
(4)微服务架构模式使得敏捷开发、持续化部署成为可能。
(5)微服务架构模式使得每个服务独立扩展。你可以根据每个服务的规模来部署满足要求的规模。你可以使用更合适于服务资源需求的硬件。

微服务架构带来的问题:
(1)微服务的边界、大小很难界定(什么时候该拆分,什么时候该合并,因此就我们公司而言机会每年需要整合一次,当然不会大变化,只是局部调整使得更加合理)
(2)微服务应用是分布式系统,由此会带来固有的复杂性。开发者需要在RPC或消息传递志健选择并完成进程间通讯机制。
(3)在微服务架构应用中,需要更新不同服务所使用的不同数据库或缓存。使用最终一致性、分布式事务等等。
(4)微服务架构模式应用的改变将会波及多个服务。需要了解所有服务使用者。
(5)测试一个基于微服务架构的应用也是很复杂的任务。

而我们公司微服务架构的具体实现:

这里写图片描述

每个微服务单元,可以根据业务量进行,横向扩展,部署多个实例负载相应请求。
微服务单元之间通过远程调用通信(博主公司采用的是Zookeeper + Dubbo),微服务暴露一些接口给其他模块消费,其他模块可以是另外一个微服务,也可以是中台api。
中台api+前端主要职责是业务包装,可以包装各种各样的业务形态,如不同的订单流程及交互。
微服务之中也可以作基础微服务和业务微服务区分,如客户系统、额度系统、审批系统、贷款系统开发成熟后,变更相对较小,而订单系统、营销系统、商户系统等则变动比较大。划分维度可以结合自己业务场景多研究。

关于高可用架构设计

【由于时间有限,没有画图,纯文字略显粗糙,不过希望猿友可以耐心看完】

正常情况下,我们一般一个微服务单元部署两个实例,分别放到两台服务器上,可以达到一个容灾效果。普通的请求量是没有问题的。

某些请求耗时特别高或者系统崩溃,一般是索引没有设计好查询太慢导致数据库连接数不够、或者一次性从数据库中查询百万级别数据加载到内存导致内存溢出(严禁查全表,尽量采用分页查询)、或者存在死锁导致数据库连接数不够、或者某段代码存在死循环(递归尽量判断,设置个递归次数,如100,避免死循环)。
以上问题,我们一般安排代码检视,让大家按照规范,那么比较少出现了。

排除上面的一般问题,小部分接口访问量较大,性能瓶颈大部分就是数据库了,结合我们的业务场景,可以适当使用缓存,缓存我们尽量使用分布式缓存吧,除非是一些对相应速度要求非常高且数据量很小的可以使用本地缓存。
使用了缓存后,数据从内存里面读取性能会得到大大的提升。

如果综合访问量比较大,这时候的瓶颈集中在服务器的cpu和io了,那么就扩展中台api和微服务的实例,拓展到一个相对稳定的数量级。

如果访问量及数据量都达到一定的级别,那么很可能瓶颈又落到数据库了,但是我们会发现,数据库操作超过80%往往是读操作,而写操作不超过20%,那么我们可以考虑读写分离,我们愿意牺牲一定的写操作时间来换取读的性能。再者就是,学会做数据冗余,以前数据库服务非常昂贵,我们坚持数据库的第三范式,避免冗余,而现在我们应该考虑的是如何做好数据冗余,以提高系统的可用性。不仅仅是表字段冗余,甚至可以整张表冗余。以商城为例,可以商家端看到的订单信息跟用户看到的订单信息并不在同一个数据库的,商家是可以接受短时间的数据不一致的,只要最终一致就好了。(最终一致性,这个词有不少应用场景的,可以细细了解并应用)。

对于类似秒杀系统,突然峰值,这种一方面我们肯定需要热备份多台机器以方便快速拓展微服务实例、另一方面还需要做请求拦截和队列,请求拦截和队列应该尽可能前置,减少对系统带来的冲击。一些逻辑可尽量采用异步处理,结果消息通知的方式。

当系统越来越复杂,数据库表很多,比如超过150张表,我们可以考虑进行服务拆分,重新规划。还可以达到容灾隔离的效果。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/2260.html原文链接:https://javaforall.cn

【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛

【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...

(0)


相关推荐

  • Python中.format()常见的用法

    Python中.format()常见的用法format()格式化输出format():把传统的%替换为{}来实现格式化输出format()常见的用法:其实就是format()后面的内容,填入大括号中(可以按位置,或者按变量)'

  • Android加密之全盘加密

    Android加密之全盘加密Android加密之全盘加密前言Android的安全性问题一直备受关注,Google在Android系统的安全方面也是一直没有停止过更新,努力做到更加安全的手机移动操作系统。在Android的安全性方面,有很多模块:内核安全性应用安全性应用签名身份验证TrustyTEESELinux加密等等

  • 初始化磁盘_c++怎么初始化

    初始化磁盘_c++怎么初始化磁盘在联机后要初始化,同样也有两种方法,一种是调用IOCTL_DISK_CREATE_DISK,还有一种是调用WMI的Initialize方法。1.首先说说简单的WMI的方法:大致思路同博客:C++实现磁盘联机 先获取磁盘的id,然后执行无参数方法Initialize 核心模块代码如下:wchar_tmsftDiskObjectID[256];GetWMIMSFTDiskObjectId(…

  • PR曲线 可算是明白了 precision recall曲线

    PR曲线 可算是明白了 precision recall曲线Inst#是样本序号,图中有20个样本。Class是groundtruth标签,p是positive样本(正例),n当然就是negative(负例)score是我的分类器对于该样本属于正例的可能性的打分。因为一般模型输出的不是0,1的标注,而是小数,相当于置信度。然后设置一个从高到低的阈值y,大于等于阈值y的被我正式标注为正例,小于阈值y的被我正式标注为负例。显然,我设置n个阈值…

  • maven mvn 命令行 编译打包

    maven mvn 命令行 编译打包*一行命令#切换到项目根目录mvnclean&&mvncompile&&mvnpackage&&starttarget*配置好jdkmaven教程*下载安装mavenhttp://maven.apache.org/download.cgiapache-maven-3.3.3-bin….

  • 创建外部用户_外部表

    创建外部用户_外部表

发表回复

您的电子邮箱地址不会被公开。

关注全栈程序员社区公众号