408661288
0257-708951240
导航

您的位置:主页 > 摄影业务 >

全面剖析 Netflix 的微服务架构设计

本文摘要:本文最初公布于 Medium 博客,经原作者授权由 InfoQ 中文站翻译并分享。一、简介多年来,Netflix 一直是全球最精彩的在线订阅制视频流媒体服务,其流量占全球互联网带宽容量的 15%以上。停止 2019 年,Netflix 已拥有 1.67 亿订阅用户,每个季度新增 500 万订户,服务笼罩全球 200 多个国家 / 地域。 Netflix 用户天天在 4000 多部影戏和 47000 集电视剧上花费凌驾 1.65 亿小时的时间。

亚搏手机app官方网站入口

本文最初公布于 Medium 博客,经原作者授权由 InfoQ 中文站翻译并分享。一、简介多年来,Netflix 一直是全球最精彩的在线订阅制视频流媒体服务,其流量占全球互联网带宽容量的 15%以上。停止 2019 年,Netflix 已拥有 1.67 亿订阅用户,每个季度新增 500 万订户,服务笼罩全球 200 多个国家 / 地域。

Netflix 用户天天在 4000 多部影戏和 47000 集电视剧上花费凌驾 1.65 亿小时的时间。从工程角度看,这些令人印象深刻的统计数据向我们展示了 Netflix 的技术团队设计出了何等优秀的视频流系统;这套系统具有很高的可用性和可扩展性,能为全球客户提供服务。可是,该公司的技术团队花了凌驾 8 年时间才打造出今天这样强大的 IT 系统。

实际上,Netflix 的基础架构转型始于 2008 年 8 月,其时他们的数据中心遇到了服务中断的故障,导致整个 DVD 租赁服务关闭三天。Netflix 意识到,它需要一个没有单点故障的更可靠的基础架构。因此它做出两个重要决议:将 IT 基础架构从自己的数据中心迁移到公共云上,并通过微服务架构,用较小的易治理软件组件替换单体法式。

这两个决议为今天 Netflix 的乐成打下了坚实基础。Netflix 之所以选择 AWS 云来迁移其 IT 基础架构,是因为 AWS 可以在全球规模内提供高度可靠的数据库、大规模云存储和众多数据中心。Netflix 使用了由 AWS 构建和维护的云基础架构,从而免去自建数据中心的繁重重复劳动,并将更多精神放在提供高质量视频流体验的焦点业务上。

只管 Netflix 必须重建整个技术体系,以使其能在 AWS 云上平稳运行,但作为回报,系统的可扩展性和服务可用性获得显著提高。Netflix 还是微服务架构背后的首批主要推动者之一。微服务勉励关注点分散来解决单体软件设计存在的问题。在这种架构中,大型法式通过模块化和独立的数据封装被剖析为许多较小的软件组件。

微服务还通过水平扩展和事情负载分区来提升可扩展性。接纳微服务后,Netflix 工程师可以轻松更改任何服务,从而加速部署速度。更重要的是,他们能跟踪每个服务的性能水平,并在其泛起问题时与其他正在运行的服务快速隔脱离来。

二、架构Netflix 基于亚马逊云盘算服务(AWS),及公司内部的内容交付网络 Open Connect 运营。两套系统必须无缝协作才气在全球规模内提供高质量的视频流服务。从软件架构的角度来看,Netflix 包罗三大部门:客户端、后端和内容交付网络(CDN)。

客户端是用户条记本电脑或台式机上所有受支持的浏览器,或者智能手机 / 智能电视上的 Netflix 应用。Netflix 开发了自己的 iOS 和 Android 应用,试图为每个客户端和每台设备都能提供最佳的寓目体验。

Netflix 可以通过其 SDK 控制自己的应用和其他设备,从而在某些场景下(例如网络速度缓慢或服务器超载)透明地调整流服务。后端包罗完全在 AWS 云上运行的服务、数据库和存储。后端基本上可以处置惩罚不涉及流视频的所有内容。

后端的某些组件及其对应的 AWS 服务枚举如下:可扩展盘算实例(AWS EC2)可扩展存储(AWS S3)业务逻辑微服务(Netflix 专用框架)可扩展的漫衍式数据库(AWS DynamoDB、Cassandra)大数据处置惩罚和分析作业(AWS EMR、Hadoop、Spark、Flink、Kafka 和一些 Netflix 专用工具)视频处置惩罚和转码(Netflix 专用工具)Open Connect CDN是称为 Open Connect Appliances(OCAs)的服务器网络,已针对存储和流传输大尺寸视频举行了优化。这些 OCA 服务器放置在世界各地的互联网服务提供商(ISP)和互联网交流位置(IXP)网络内。OCA 卖力将视频直接流传输到客户端。

2.1 Playback 架构当订阅者单击应用或设备上的播放按钮时,客户端将与 AWS 上的后端和 Netflix CDN 上的 OCA 对话以流传输视频。下图说明晰 playback 流程的事情机制:用于流视频的 playback 架构OCA 不停将关于其负载状态、可路由性和可用视频的运行状况陈诉发送到在 AWS EC2 中运行的缓存控制(Cache Control)服务上,以便 Playback 应用向客户端更新最新的康健 OCA。

播放(Play)请求从客户端设备发送到在 AWS EC2 上运行的 Netflix 播放应用服务,以获取流视频的 URL。Playback 应用服务必须确定播放请求是有效的,才气寓目特定视频。这里的验证流程将检查用户的订阅计划,以及在差别国家 / 地域的视频许可等。Playback 应用服务会与同在 AWS EC2 中运行的引导(Steering) 服务对话,以获取所请求视频的合适的 OCA 服务器列表。

引导服务使用客户端的 IP 地址和 ISP 信息来确定一组最适合该客户端的 OCA。客户端从 Playback 应用服务返回的 10 个 OCA 服务器的列表中测试这些 OCA 的网络毗连质量,并选择最快、最可靠的 OCA 来请求视频文件,举行流传输。

选定的 OCA 服务器接受来自客户端的请求并开始流传输视频。在上图中,Playback 应用服务、引导服务缓和存控制服务完全在基于微服务架构的 AWS 云中运行。在下一节中我将先容 Netflix 后端微服务架构,该架构可提高当前服务的可用性和可扩展性。2.2 后端架构如前所述,后端要处置惩罚险些所有内容,从注册、登录、计费到更庞大的处置惩罚任务,如视频转码和个性化推荐等无所不包。

为同时支持在同一底层基础架构上运行的轻量与重量级负载,Netflix 为其基于云的系统选择了微服务架构。图 2 展示了 Netflix 可能使用的微服务架构,我从一些在线资源中总结出了这些架构形态:基于多种泉源分析得出的后端架构参考客户端向在 AWS 上运行的后端发送一个播放请求。

该请求由 AWS 负载平衡器(ELB)处置惩罚。AWS ELB 会将请求转发到在 AWS EC2 实例上运行的 API 网关服务上。

名为 Zuul 的组件是由 Netflix 团队构建的,提供动态路由、流量监控和宁静性,以及对云部署边缘故障的恢复能力。该请求将应用在与业务逻辑对应的一些预界说过滤器上,然后转发到应用法式(Application)API 做进一步处置惩罚。应用法式 API 组件是 Netflix 运营背后的焦点业务逻辑。

有几种类型的 API 对应差别的用户运动,如注册 API 和用于检索视频推荐的推荐 API 等。在这里,来自 API 网关服务的转发请求由播放 API 处置惩罚。

播放 API 将挪用一个或一系列微服务来满足请求。图 1 中的播放应用服务、引导服务缓和存控制服务可以视为微服务。

微服务主要是无状态的小型法式,而且也可以相互挪用。为了控制其级联故障并获得弹性, Hystrix 将每个微服务与挪用者历程隔脱离来。其运行效果可以缓存在基于内存的缓存中,以更快地会见那些关键的低延迟请求。

微服务能在流程中生存到数据存储或从数据存储中获取数据。微服务可以将用于跟踪用户运动或其他数据的事件发送到流处置惩罚管道(Stream Processing Pipeline),以实时处置惩罚个性化推荐任务,或批处置惩罚业务智能任务。来自流处置惩罚管道的数据能持久存储到其他数据存储中,如 AWS S3、Hadoop HDFS 和 Cassandra 等。上述架构可以资助我们归纳综合相识系统的各个部门如何组织和协同事情以流传输视频。

但要分析这一架构的可用性和可扩展性,我们需要深入研究每个重要组件,以相识其在差别负载下的性能体现。下一节将详细先容这部门内容。3. 组件本节会深入研究第 2 节中界说的组件,以分析其可用性和可扩展性。

在先容每个组件时,我还将说明它们是如何满足这些设计目的的。在后面的章节中将对整个系统举行更深入的设计分析。3.1 客户端Netflix 技术团队投入了大量精神来开发能在条记本、台式机或移动设备上运行得更快、更智能的客户端应用。

纵然在某些没有专用 Netflix 客户端的智能电视上,Netflix 仍然可以通过自己提供的 SDK 来控制设备的性能体现。实际上,任何设备情况都需要安装 Netflix Ready Device Platform(NRDP),以实现最佳的寓目体验。

图 3 展示了一个典型的客户端结构组件。客户端应用组件客户端应用(Client App)会将自己与后端的毗连分为 2 种类型,划分用于内容发现(Content discovery)和内容播放。

客户端对播放请求使用 NTBA 协议,以确保其 OCA 服务器位置具有更高的宁静性,并消除了新毗连的 SSL/TLS 握手引起的延迟。在流传输视频时,如果网络毗连过载或泛起错误,客户端应用会智能地降低视频质量或切换到其他 OCA 服务器上。纵然毗连的 OCA 过载或泛起故障,客户端应用也可以轻松切换为其他 OCA 服务器,以获得更好的寓目体验。

之所以客户端能实现所有这些目的,是因为其上的 Netflix Platform SDK 一直在跟踪从播放应用服务中检索到的最新康健 OCA 列表。3.2 后端3.2.1 API 网关服务API 网关服务(API Gateway Service)组件与 AWS 负载平衡器(Load Balancer)通信以剖析来自客户端的所有请求。该组件可以部署到位于差别区域的多个 AWS EC2 实例上,以提高 Netflix 服务的可用性。图 4 展示了开源的Zuul,这是 Netflix 团队建立的 API 网关的实现。

Zuul 网关服务组件入站过滤器(Inbound Filter)可用于身份验证、路由和装饰请求。端点过滤器(Endpoint Filter)可用于返回静态资源或将请求路由到适当的 Origin 或应用法式 API 做进一步处置惩罚。出站过滤器(Outbound Filter)可用于跟踪指标、装饰对用户的响应或添加自界说标头。Zuul 集成了服务发现组件 Eureka ,从而能够发现新的应用法式 API。

Zuul 被广泛用于种种用途的流量路由任务上,例如启用新的应用法式 API、负载测试、在负载很大的情况下路由到差别的服务端点上,等等。3.2.2 应用法式 API应用法式 API 充当 Netflix 微服务的业务流程层(也称编排层)。

这种 API 提供了一种逻辑,按所需顺序组装对底层微服务的挪用,并带有来自其他数据存储的分外数据以结构适当的响应。Netflix 团队花了许多时间设计应用法式 API 组件,因为它对应 Netflix 的焦点业务功效。

它还需要在高请求量下具有可扩展和高可用性。当前,应用法式 API 分为三类:用于非会员请求(例如注册、下单和免费试用等)的注册(Signup)API,用于搜索和发现请求的发现(Discovery)API,以及用于流视频和检察许可请求的播放API。图 5 提供了应用法式 API 的详细结构组件图。

播放和发现应用法式 API 的分散在播放 API 实现的最新更新中,播放 API 和微服务之间的网络协议是 gRPC/HTTP2,它“允许通过协议缓冲区界说 RPC 方法和实体,并自动以多种语言生成客户端库 /SDK”。此项更改使应用法式 API 可以通过双向通信与自动生成的客户端举行适当集成,并“尽可能淘汰跨服务界限的代码重用”。

应用法式 API 还提供了一种基于 Hystrix 下令的通用弹性机制,以掩护其底层微服务。由于应用法式 API 必须处置惩罚大量请求并结构适当的响应,因此其内部处置惩罚事情需要高度并行运行。

Netflix 团队发现正确的方法是同步执行和异步 I/O 相联合应用。应用法式 API 的同步执行和异步 I/O来自 API 网关服务的每个请求都将放入应用法式 API 的网络事件循环(Network Event Loop)中处置惩罚;每个请求将被一个专用的线程处置惩罚法式阻止,该处置惩罚法式将 Hystrix 下令(如 getCustomerInfo 和 getDeviceInfo 等)放入传失事件循环(Outgoing Event Loop)中。传失事件循环是针对每个客户端设置的,并以非阻塞 I/O 运行。一旦挪用的微服务完成或超时,上述专用线程将结构对应的响应。

3.2.3 微服务根据 Martin Fowler 的界说,“微服务是一组小型服务,每个小服务都在自己的历程中运行,并使用轻量机制通信……”。这些小型法式可以独立部署或升级,并具有自己的封装数据。Netflix 上的微服务组件实现如图 7 所示。

微服务的结构化组件微服务可以独立事情,也能通过 REST 或 gRPC 挪用其他微服务。微服务的实现可以类似于图 6 中形貌的应用法式 API 的实现:请求将被放入网络事件循环中,而来自其他被挪用的微服务的效果将放入异步非阻塞 I/O 中的效果行列。

亚搏手机版官网

每个微服务能拥有自己的数据存储和一些存放近期效果的内存缓存存储。EVCache 是​​Netflix 微服务缓存的主要选择。3.2.4 数据存储Netflix 将其基础架构迁移到 AWS 云时,针对差别的用途使用了差别的数据存储(图 8),包罗 SQL 和 NoSQL。部署在 AWS 上的 Netflix 数据存储MySQL 数据库用于影戏标题治理和生意业务 / 下单目的。

Hadoop 用于基于用户日志的大数据处置惩罚。ElasticSearch 为 Netflix 应用提供了标题搜索能力。Cassandra 是基于列的漫衍式 NoSQL 数据存储,可处置惩罚大量读取请求,而没有单点故障。

为了优化大规模写请求的延迟,Netflix 使用了 Cassandra,因为它具有最终的一致性能力。3.2.5 流处置惩罚管道流处置惩罚数据管道(Stream Processing Data Pipeline)已成为 Netflix 业务分析和个性化推荐任务的数据主干。

它卖力实时生成、收集、处置惩罚和汇总所有微服务事件,并将其移动到其他数据处置惩罚器上。图 9 展示了该平台的各个部门。Netflix 的 Keystone 流处置惩罚平台这一流处置惩罚平台天天处置惩罚数以万亿计的事件和 PB 级的数据。

随着订户数量的增加,它也会自动扩展。路由(Router)模块支持路由到差别的数据 sink 或应用法式上,而 Kafka 卖力路由消息,并为下游系统提供缓冲。流处置惩罚即服务(SPaaS)使数据工程师可以构建和监视他们自界说的可治理流处置惩罚应用法式,而平台将卖力可扩展性和运维。

3.3 Open ConnectOpen Connect 是一个全球内容交付网络(CDN),卖力存储 Netflix 电视节目和影戏并将其交付给全世界的订户。Netflix 为了让人们想要寓目的内容尽可能靠近他们想要寓目的位置,而构建和运营了 Open Connect 这一高效率的网络。为了将寓目 Netflix 视频的流量导向到客户的当地网络中,Netflix 已与世界各地的互联网服务提供商(ISP)和互联网交流点(IX 或 IXP)互助,以在这些互助同伴的网络内部部署称为 Open Connect Appliances(OCA)的专用设备。将 OCA 部署到 IX 或 ISP 站点OCA 是经由优化的服务器,用于存储来自 IX 或 ISP 站点的大型视频文件,并直接流式传输到订户的家中。

这些服务器会定期向 AWS 上的 Open Connect 控制平面(Control Plane)服务陈诉自己的运行状况指标,包罗它们从 IXP/ISP 网络学到的最佳路径,以及自己的 SSD 上都存储了哪些视频等信息。反过来,控制平面服务将凭据这些数据中反映的文件可用性、服务器康健状况以及与客户端的网络距离等指标,自动引导客户端设备到最佳的 OCA 上。控制平面服务还控制每晚在 OCA 上添加新文件或更新文件的填充(filling)行为。

填充行为如图 11 所示。当新的视频文件已乐成转码并存储在 AWS S3 上时,AWS 上的控制平面服务会将这些文件传输到 IXP 站点上的 OCA 服务器上。这些 OCA 服务器将应用缓存填充(cache fill),将这些文件传输到其子网下 ISP 站点上的 OCA 服务器上。

当 OCA 服务器乐成存储视频文件后,它将能够启用对等填充(peer fill),以凭据需要将这些文件复制到同一站点内的其他 OCA 服务器上。在可以看到相互 IP 地址的 2 个差别站点之间,OCA 可以应用层填充(tier fill)流程,而不是通例的缓存填充。OCA 之间的填充模式4. 设计目的在前面的章节中,我详细先容了为 Netflix 视频流业务提供支持的云架构及其组件。在本节和后续章节中,我想更深入地分析这种设计架构。

我会从最重要的设计目的列表开始,如下所示:确保全球规模内流服务的高可用性。弹性处置惩罚网络故障和系统中断。在种种网络条件下,将每台受支持设备的流传输延迟降至最低。

支持高请求量的可扩展性。在下面的小节中,我将分析流服务的可用性及其对应的最佳延迟。第 6 节是关于弹性机制(例如混沌工程)的更深入分析,而第 7 节先容了流服务的可扩展性。4.1 高可用性凭据界说,系统的可用性是用一段时间内对请求的响应有几多次来权衡的,但不能保证响应包罗了信息的最新版本。

在我们的系统设计中,流服务的可用性是由后端服务和生存流视频文件的 OCA 服务器的可用性配合决议的。后端服务的目的是通过缓存或某些微服务的执行来获取最靠近特定客户端的康健 OCA 列表。因此,其可用性取决于涉及播放请求的众多组件:负载平衡器(AWS ELB)_ 署理服务器(API 网关服务)、播放 API、微服务的执行、缓存存储(EVCache)和数据存储(Cassandra):负载平衡器可以将流量路由到差别的署理服务器上以资助防止负载超载,从而提高可用性。

播放 API 通过 Hystrix 下令控制超时微服务的执行,从而防止级联故障影响其他服务。如果微服务对外部服务或数据存储的挪用所花费的时间超出预期,则它可以使用缓存中的数据响应播放 AI。缓存会被复制以加速会见速度。

当客户端从后端吸收到 OCA 服务器列表时会在网络上探测这些 OCA,并选择最佳的 OCA 举行毗连。如果该 OCA 在流处置惩罚历程中超载或失败,则客户端将切换到另一个状态良好的 OCA 上,否则 Platform SDK 将请求其他 OCA。因此,其可用性与 ISP 或 IXP 中所有可用 OCA 的可用性高度相关。

Netflix 流服务的高可用性是以庞大的多区域 AWS 运维和服务,以及 OCA 服务器的冗余为价格的。4.2 低延迟流服务的等候时间主要取决于播放 API 能多快地剖析康健的 OCA 列表,以及客户端与所选 OCA 服务器的毗连康健水平。正如我在应用法式 API 组件部门中所述,播放 API 不会永远等候微服务的执行,因为它使用 Hystrix 下令来控制获取到效果之前要等候的时间,一旦超时就会从缓存获取非最新数据。这样做可以将延迟控制在可接受的水平上,还能制止级联故障影响更多服务。

如果当前选定的 OCA 服务器泛起网络故障或超载,则客户端将立刻切换到其他具有最可靠网络毗连的 OCA 服务器上。如果发现网络毗连质量下降,它也可以降低视频质量以使其与网络质量相匹配。

5. 权衡经由认真思量,在上述系统设计中已经做出了两个重要的权衡:用一致性换取低延迟用一致性换取高可用性该系统后端服务的架构设计选择了用一致性来换取低延迟。播放 API 可以从 EVCache 存储或最终一致的数据存储(如 Cassandra)中获取过时的数据。

类似地,所谓用一致性换取高可用性的权衡是说,系统希望以可接受的延迟提倡响应,而不会对像 Cassandra 这样的数据存储中的最新数据执行微服务。在可扩展性和性能之间还存在不完全相关的权衡。在这种权衡下,通过增加实例数量来处置惩罚更多负载来提高可扩展性,可能会导致系统达不到预期的性能提升水平。对于那些无法在可用 worker 之间很好地平衡负载的设计架构来说,这可能是个问题。

可是,Netflix 通过 AWS 自动扩展解决了这一矛盾。我们将在第 7 节中详细讨论这个解决方案。6. 弹性从迁移到 AWS 云的那一天起,设计一套能够从故障或停机中自我恢复的云系统就一直是 Netflix 的恒久目的。

该系统已解决的一些常见故障如下:剖析服务依赖项时失败。执行微服务时的失败,导致级联失败影响其他服务。由于过载导致无法毗连到某个 API 上。毗连到实例或服务器(如 OCA)时失败。

为了检测并解决这些故障,API 网关服务 Zuul 提供了一些内置功效,如自适应重试和限制对应用法式 API 的并发挪用等。反过来说,应用法式 API 使用 Hystrix 下令来使对微服务的挪用超时,以停止级联故障并将故障点与其他服务隔脱离来。Netflix 技术团队也以其在混沌工程上的实践而闻名。

这个想法是将伪随机错误注入生产情况,并构建解决方案以自动检测、隔离这类故障,并从中恢复。这些错误可能会增加执行微服务的响应的延迟、杀死服务、停止服务器或实例,甚至可能导致整个区域的基础架构瘫痪。通过有目的地使用检测息争决此类故障的工具,将现实的生产故障引入受监控的情况,Netflix 可以在这类缺陷造成较大问题之前提早发现它们。

7. 可扩展性在本节中,我将先容水平扩展、并行执行和数据库分区这些 Netflix 的流服务可扩展性要素。缓存和负载平衡等要素也有助于提高可扩展性,它们已在第 4 节中提到了。

首先,AWS 自动扩展(Auto Scaling)服务提供了 Netflix 上 EC2 实例的水平扩展能力。当请求量增加时,这个 AWS 服务将自动启动更多弹性实例,并关闭未使用的实例。

更详细地说,在成千上万个此类实例的基础上,Netflix 构建了一个开源容器治理平台 Titus,其每周可运行约 300 万个容器。同样,图 2 架构中的任何组件都可以部署在容器内。此外,Titus 允许容器运行在全球各大洲的多个区域内。

其次,第 3.2.2 节中应用法式 API 或微服务的实现还允许在网络事件循环和异步传失事件循环上并行执行任务,从而提高了可扩展性。最后,宽列存储(如 Cassandra)和键值工具存储(如 ElasticSearch)还提供了高可用性和高可扩展性,同时没有单点故障。8. 总结这篇研究描绘了 Netflix 流服务的整体云架构图景。

本文还从可用性、延迟、可扩展性和对网络故障或系统中断的适应性方面分析了相应的设计目的。总的来说,Netflix 的云架构已经由了其生产系统的验证,可以为在数千个虚拟服务器上运行的数百万个订户提供服务;该架构还通过与 AWS 云服务的集成在全球规模内提供了高可用性、最佳延迟、强大的可扩展性以及对网络故障和系统故障的恢复能力。本文提到的大多数架构和组件都是通过互联网上的可信在线资源学习总结出来的。只管网上没有太多资源能直接先容这些微服务的内部实现,以及监视其性能体现的工具和系统,但本文的研究结果可以作为构建典型生产系统的参考实现。

原文链接:https://medium.com/swlh/a-design-analysis-of-cloud-based-microservices-architecture-at-netflix-98836b2da45f关注我并转发此篇文章,私信我“领取资料”,即可免费获得InfoQ价值4999元迷你书!。


本文关键词:亚搏手机app官方网站入口,全面,剖析,Netflix,的,微,服务,架构,设计,本文

本文来源:亚搏手机app官方网站入口-www.zgsyzzw.com