美团配送系统架构演进实践

写在前面

美团外卖配送自创立至今，业务经历了多次跳跃性的发展趋势。业务的迅猛提高，对系统的总体构架和基础设施建设明确提出了更加高的规定，与此同时也持续推动着技术性精英团队深刻领会业务、精确精准定位领域模型、高效率支撑点系统拓展。怎样在业务快速提高、易用性愈来愈高的情况下完成系统构架的迅速合理更新？怎样确保繁杂业务下的产品研发高效率与品质？文中将为各位详细介绍美团外卖配送的一些思索与实践活动。

配送业务

从货运物流到同城网及时配送

物流企业的发展趋势离不开商业服务的发展趋势，近几年来，商业服务的转型为电子商务发展造就了新的机遇。电子商务的盛行合理推动了物流行业的迅猛发展，立即铸就了顺丰快递、四通一达那样的物流公司。而近些年O2O运营模式的盛行，尤其是外卖送餐、生鲜食品直到家情景的进步推动了同城网及时配送的迅速发展趋势。

与货运物流行业下的别的支系不一样，同城网及时配送具备以下特性:

时效性快：美团均值签收時间28min。间距短：配送距离大部分为3~5km范畴，比较大的拓展到同城网范畴。偶然性强：提货点、交货点具备空间和时间的偶然性，预测分析与整体规划难度系数相比较高。

同城网及时配送业务的快速发展突破口

领域的流程优化一般离不开2个要素：

内部原因：技术性或基础设施建设获得重大进展诱因：客户消费理念升级或销售市场产生重点转变

技术性层面，AI与大数据的应用逐渐普及化，根据人工智能技术可以对配送难度系数、ETA、骑手能力精准评定。GPS的迅速成长与GIS生产商能力的持续对外开放，促使根据LBS的使用极大降低了项目成本。基础设施建设层面，归功于我国的不断资金投入，移动数据网络的品质不断提高，成本费逐渐降低，也简接促进智能机几乎完成了全员遮盖。

销售市场层面，因为我国人口具备集成电路工艺性的特性，人群聚集度提高，外卖送餐直到家情景在各大都市尤其是一线城市的要求不断提高。客户针对外卖送餐的安全性、时效性、配送员的服饰、文明用语等都是有更好的规定。

在这里2个要素的相同的作用下，促使了同城网及时配送领域的发展趋势。而针对同城网及时配送业务来讲，履行合同能力与运营高效率是研发部门要关键处理的两种问题：

履行合同能力确保：完成服务平台对货运单生产调度的即时把控，具有供求管控能力。运营高效率提高：加强对配送骑手的监管能力，提高配送全业务的运营高效率，不断控制成本。

技术性挑戰

美团外卖配送系统的实质——设备与大量骑手合作，服务项目于国内客户和店家的大量合作系统。技术性的挑戰实质上来源于业务的困扰，实际反映为网上的强履行合同能力规定与实体的强运营能力规定。技术性上的试炼也一样来自线上和线下2个层面：

网上履行合同的SLA规定更高一些。配送业务必须兼具客户、店家、骑手三端权益，一切一次服务器宕机的干扰都可能是毁灭性的。假如感受不太好，客户要说，为啥付了钱，却还饿着肚子？店家要说，这是由于出了餐没有人取；可是对骑手而言，会认为自已投入了時间与工作，却没得到充分的盈利。线下推广的业务多元性更高一些。好几条业务线管理机制不一样，针对怎样兼具系统在关联性和多元化上面有非常大挑戰。



系统构架演变

美团外卖配送系统构架的变革全过程可以分成三个环节：

MVP阶段：业务方式探寻，迅速尝试错误，怎样具有快速迭代能力。产业化环节：业务成指数级增长，怎样既保证业务发展趋势，又处理系统易用性、扩展性、产品研发高效率等问题。精细化管理环节：业务方式逐渐完善，运营逐渐精细化管理，怎样根据设备技术性创新驱动发展业务发展趋势。

MVP环节

尝试错误环节，必须迅速探寻业务方式究竟是否是一个方位，这一环节不必期待许多事儿都想得很清晰，客户和销售市场会迅速意见反馈結果。因此，针对技术性队伍来讲，这一环节最首要的能力是快。争夺销售市场，无人能敌。

从系统构架视角，MVP环节只要做粗粒拆卸，大家依照人、财、物三大行业将系统干了基本服务项目区划，以确保后期的业务行业都能够从这三个主行业中分离出来、承继。

顺带提一下那时候精英团队的组织结构，研发部门按项目制机构，大伙儿一同维护保养一套系统。那时候精英团队中无QA职位，由PM、RD一同确保开发设计品质，一天公布二十几回是常态化。

产业化环节

进到这一环节，业务和设备早已取得了市面的基本认证，确实找到恰当的方位。与此同时，业务发展趋势增长速度也对研发部门的能力明确提出了更好的规定，由于这一时期会出现很多应急且主要的事儿不断涌现，且系统易用性、扩展性层面的问题会逐渐突显，假如处理错误，便会造成系统常见故障高发、产品研发高效率不高等问题，使产品研发四处奔波。

这一环节从系统架构方面大家关键在思索三个领域的问题：

总体构架应当怎样演变？履行合同系统与运营系统的界限在哪儿？履行合同系统的易用性怎样确保？系统容积怎样整体规划？运营系统如何解决业务的真真正正困扰？怎样在很多“零碎要求”下提高产品研发高效率？

处理以上问题的总体构思为由繁化简（梳理逻辑顺序）、分而治之（技术专业的人做专业的事）、逐渐演变（考虑到ROI）。

总体软件架构设计

在总体构架上，大家将配送系统拆卸为履行合同系统、运营系统和主大数据平台。

履行合同系统（图右上方）的设计上，最先依照客户侧与骑手侧干了基本区划，那样分拆兼具了二端人物角色和生产调度步骤的统一。例如：客户侧更关心接单的通过率与订单信息的一致性，骑手侧则更关心接单实际效果、推单通过率等，总体上解耦了接单、付款、生产调度等控制模块。

运营系统（图左上方）层面，要求长期性多而杂，软件架构设计上必须先想清晰配送的运营系统应当管哪些、不应该管什么。在长久的项目开发设计中，大家从业务发展战略与组织结构考虑，在确立业务发展战略和环节对策下，整理每一个业务精英团队/职位的关键岗位职责、考评总体目标、机构间的合作步骤，最后梳理发生环节配送运营管理方法的核心为四个行业：

运营整体规划：怎样科学合理地界定总体目标，并确保任务可以合理达到。业务管理方法：怎样提高每一个业务管理方法流程的高效率与品质。骑手运营：骑手是关键資源，一个大城市必须是多少骑手、骑手等级分类是不是科学合理、怎样管控必须系统性计划方案。清算服务平台：提升钱的效率，是能不能保证成本费领跑的重要。怎样把钱运用对、用得准必须长期性思索。

除开履行合同、运营2个系统的软件架构设计外，架构设计方面还有一个十分核心的问题，即履行合同、运营系统的界限与岗位职责怎样区划的问题。本人了解这个问题可能是O2O类业务在产业化环节最重要的软件架构设计问题，假如无法合理处理将为系统的易用性、扩展性种下极大安全隐患。履行合同、运营2个角度的业务要求和技术性岗位职责有很大差别，且大部分数据信息的生产制造都是在运营系统，最关键最重要的运用在履行合同系统。尽管分别的行业岗位职责是清晰可见的，但针对实际的要求界限上不一定简洁明了。对于此事，大家参考了MDM构思，明确提出了主大数据平台（图下方）的定义，关键处理履行合同系统与运营系统的协作与边界争端。

主大数据平台

主数据是公司信息系统中最根本的业务企业数据信息，针对配送来讲是机构、职位、工作人员、店家、客户、大城市等数据信息。与之相匹配的是业务数据信息，例如：订单信息、考勤管理、薪酬等。主数据有两个最重要的特点：

基本性：业务数据信息生长发育在主数据的层面上，例如：订单信息数据信息是客户、店家2个主数据实体线下的买卖信息共享性：各种系统都强取决于主数据，主数据的转变上下游各业务系统必须认知与连动

主数据管理并不是一蹴而就，是随着业务发展趋势逐渐梯度下降法的。初期系统较简易，上下游系统立即从DB中接收数据并运用。这类计划方案在系统逐渐繁杂以后，非常容易发生好几个精英团队开发设计相互之间危害，不利系统拓展，而且在易用性上面有非常大风险性。因此大家专业创立的主数据的精英团队，单独分拆了主数据平台，并把全部针对信息的浏览取回到服务项目上。在这个基础上，通过持续的更新和演变，最后大家消化吸收了CQRS（Com ** nd Query Responsibility Segregation）和MDM（Master Data Management）的观念，将全部主大数据平台逐渐区划成四个一部分：

生产制造系统：承担对信息制造的模型，防护数据信息生产制造对关键实体模型的危害。例如：骑手新员工入职、机构分拆步骤等。关键实体模型：发掘数据信息实体线关联，提高实体模型能力。例如：一人多岗、多线报告等。运输能力核心：面对履行合同系统的应用领域适用，将骑手众多特性抽象化为运输能力实体模型，并对易用性、吞吐能力主要基本建设。管理处：面对运营系统给予规范化架构，给予信息搜索、步骤审核、权限管理等情景的统一解决方法。

系统易用性

业务的持续增长对系统的易用性明确提出愈来愈高的规定，在方 ** 方面，大家依照伤亡事故的时间序列分析（事先、事中、过后）明确提出了四大能力基本建设，即：防止能力、确诊能力、处理能力、避开能力。与此同时，在实际工作方面，大家区划为步骤和系统2个层面。

易用性基本建设是一个长期性新项目。充分考虑ROI，发展环节关键进行事先的步骤基本建设，即发布标准等一系列网上操作步骤，这一工作中在初期可以避开80%的网上常见故障。在步骤标准跑通并确认合理以后，再逐渐根据系统基本建设提高人效。

容灾能力

容灾能力基本建设上，最先思索的问题是系统较大的安全风险是啥。从监管的方面看来，岗位职责的“黑色地带”通常是系统品质非常容易发生风险性的地区。因而，初期最开始做的容灾解决是关键依靠、第三方依赖的降权，优先选择确保一旦依靠的服务项目、分布式数据库发生问题，系统本身具有最主要的降权能力。

第二阶段大家提到了端到端的容灾能力。最先，大家基本建设了业务股票大盘，界定了实时监控系统关键业务指标值（订单数、线上骑手等数），根据那些指标值可以迅速分辨系统是否出了问题。次之，我们在关键技术指标上拓展了重要层面（大城市、App版本号、运营商等），以迅速评定问题有多大危害。最终，大家根据Trace系统，将服务项目间的启用关联与链接级通过率数据可视化呈现，具有了迅速精准定位的根因在哪儿的能力。

第三阶段，大家期待将容灾应急预案集成化到系统中，根据各种安全事故情景打造出订制化、一体化的容灾专用工具，那样可以进一步减少常见故障的回应、解决時间及其产品研发学习培训成本费。例如，为了更好地进一步提升配送系统的SLA，我们在端到端的容灾能力上深层提升，关键解决了骑手弱网、没网的情形下的端到端互动问题。我国一些地域群体十分聚集但挪动运营商网络速度较弱，会造成骑手到了这一地区后实际操作App延迟时间比较大乃至没法实际操作，这对骑手的常规运行有特别大的危害。因而，我们在移动数据网络链路层面大力加强长连接、多通道互备的能力，并将互联网的确诊、解决、认证专用工具一体化，使骑手App的端到端抵达率拥有进一步的提高。

系统容积

针对一个经营规模持续增长的业务，系统的容积整体规划是一个长期性出题。容积整体规划的关键环节是评定与扩充。

评定层面，在业务发展趋势初期大家一个系统架构师就可以彻底控制全部系统，选用静态数据评定的形式基本上可以考量系统容积。伴随着系统复杂性慢慢提高，大家逐渐导入了Trace、分布式数据库容积监管等软件协助评定容积，由系统架构师精英团队界定容积评定主架构，由各精英团队优化评定每一个子系统的容积。当业务早已越来越比较复杂时，没有一个人或精英团队可以确保精准进行容积评定，这时大家运行了情景压测、引流方法压测、全链路压测等新项目，根据 总流量标识 身影表 总流量偏位 情景回看 等方式，完成了利用网上总流量按占比回看压测的能力，根据系统汇报精准评定容积与短板点。

扩充层面，大家阶段性先后执行了服务器集群（主从关系分离出来）、竖直分拆（拆分关键特性与单核心特性）、水准分拆（分库分表）、全自动存档。

运营系统梯度下降法高效率

运营系统涉及到一个业务运营管理方法的各个方面，我们在业务行业上除开明确目标、全过程、运输能力、资产四个行业外，打造出了一套运营系统集成化解决方法 ** 。产品研发根据不断资金投入时间精力在平台化服务项目或部件的长期性基本建设上，使每一个竖直的运营系统扩展性获得确保，进而不断提高开发高效率。以工作流引擎情景为例子，根据动态表单 步骤服务平台的方法，统一各种业务流、审批流的项目完成，各种管理方法姿势的高效率与品质可量化分析，寻找步骤堵塞连接点，自动化技术一部分步骤阶段，根据方式方法持续减少人力成本。

精细化管理环节

业务发展趋势持续完善以后，业务的各种运营管理方法姿势会趋向精细化管理。这一环节，业务针对商品技术性有更多规定，期待根据商品技术革新持续打造出技术要求，维持领跑优点。配送的业务特性纯天然对AI运用有较强的要求，大到提供调节，小到资源分配，全是AI充分发挥法律效力的主阵地。针对工程项目方面，必须不断思索的问题是怎样尽快完成AI的业务运用。因此大家关键提高了几层面的能力：

减少试错成本：搭建模拟仿真服务平台，打造出优化算法的“沙箱环境”，线上下自然环境迅速评定优化算法实际效果。提高优化算法特点梯度下降法高效率：搭建特点服务平台，统一优化算法对策梯度下降法架构与特点数据信息生产制造架构，提高特点网站安全性。提高导航栏网站安全性：不断深耕细作LBS服务平台，提高基本网站安全性，给予部位、导航栏、室内空间的运用能力。



模拟仿真服务平台

模拟仿真服务平台的核心内容是打造出“沙箱环境”，配送的服务行业特性规定客户、店家、骑手深层参加服务项目全过程，因而优化算法的网上试错成本极高。针对模拟仿真服务平台的搭建上，大家删改掉生产调度系统的细微末节，细粒度的搭建了一套小型生产调度系统，并根据接单回看、客户、店家、骑手实体线模型、骑手个人行为仿真模拟等方式仿真模拟网上情景。每次仿真会产出算法的KPI报告，实现算法效果的离线预估。

算法数据平台

算法策略的效果，主要依赖于算法模型和特征数据的质量。为此我们围绕模型和特征，打造了一站式算法数据平台，提供从数据清洗、特征提取，模型训练、线上预测到算法效果评估的全方位数据闭环解决方案，为机器学习和深度学习算法模型在配送各个业务线落地提供支撑。

LBS平台

LBS平台早在配送业务的起步阶段就开始实施，随着算法场景的不断发展，LBS不断深化点线面空间能力，为配送调度、时间预估、定价等业务场景提供支撑，打造了任务地图、路径规划、语音导航、热力图等产品。

结语

美团配送系统架构的演进过程，架构师团队长期关注技术驱动业务、明确领域职责与边界等关键问题，同时架构的演进过程也是不断考虑ROI的权衡取舍过程。技术的持续发展不断提升体验、规模，降低运营成本，而架构在里面解决的问题是化繁为简，将复杂问题拆解为简单的问题并通过领域专家逐级各个击破。随着规模的持续增长，业务的持续创新会给系统架构提出越来越高的挑战，系统架构设计将是我们长期研究的一个课题。

作者简介

永俊，美团资深技术专家，配送业务系统团队负责人。长期从事配送系统质量保证、运营体系建设、系统架构升级等方向。

---------- END ----------

招聘信息

本文为美团配送技术团队的集体智慧结晶，感谢团队每一名成员的努力付出。如果你对业务分析、领域模型感兴趣，欢迎联系yinyongjun@meituan.com。

也许你还想看

UAS：大众点评用户行为系统

美团点评智能支付核心交易系统的可用性实践

每天数百亿用户行为数据，美团点评怎么实现秒级转化分析？

http://weixin.qq.com/r/9HVSSg3EOFBHrUkp9yDm (二维码自动识别)