微信号:ArchSummit

介绍:ArchSummit全球架构师峰会是InfoQ中国团队推出的面向高端技术管理者、架构师的技术大会.2018年深圳站大会演讲时间为7月6-7日,深度培训时间为:7月8-9日,敬请关注.

专访肖雨浓:Netflix是怎样探索落地FaaS的?

2018-06-21 20:04 肖雨浓

经过这几年的沉淀,部分公司已经在实践 Serverless,取得的效果也很明显。7 月 6 日在深圳举办的 ArchSummit 全球架构师峰会,我们邀请了 Netflix 首席软件工程师肖雨浓来分享 Netflix 对 FaaS 技术的探索过程,希望能给技术工作者带来收获。

 InfoQ:能否为大家介绍一下您目前的工作内容和职责是什么?

肖雨浓:我目前在 Netflix 带领 FaaS 和 API 平台团队,Netflix API 是一个 tier-1 服务,通过这个服务,来自 Netflix 所有客户的每一个单个需求都可以平滑经过。基于这个 API 服务,我们还可以将后端的上百个微服务整合进一个连贯的服务里,便与用户访问。我们当前正在构建一个 FaaS 平台来帮助工程师们快速开发,测试并维护这些 API 服务,通常情况下,这个平台会被定制到每一个设备里。

 InfoQ:实践 Serverless 过程中给 Netflix 带来哪些方面的优化?在您看来 Serverless 架构适合哪些业务场景,不适合哪些场景?(Serverless 模式能给 Netflix 降低多少成本?)

Netflix 的产品在设计上就已经被赋予了创新的基因,除了不间断的 A/B 测试之外,每周都会发布很多新功能。为了确保这样高强度的工作成果,我们需要一个 API 服务平台来助理客户端工程师快速而有效的将更改的需求部署到服务层。FaaS 通过把那些与服务相关的所有平台组件抽象为业务逻辑本身来实现这一目标的,这样可以使工程师能够更专注于开发优异的新功能,而不是编写那些冗余而又不得不写的代码。

此外,即使对于经验丰富的服务器工程师而言,运行服务的可用性超过四个 9 也是很困难的。 因此,我们集中操作的 Serverless 模式能够为我们提供一个平台,即使没有服务器和运营经验的工程师也可以开发高可用的服务。

 InfoQ:能否进一步详细介绍 API Platform 的架构?目前 API Platform 是如何落地 Serverless 的?

在更高层面上,API 平台由 FaaS 平台组成,该平台允许工程师将用户业务逻辑的功能部署为高可用的生产服务。

 InfoQ:Serverless 架构是否是微服务的极致?您团队接下来的优化重点是什么?

无服务器在实践场景里是可以考虑权衡点的。 通过采用 FaaS 模式,本质上是对交易速度和可能性的定制化。有些应用程序的 FaaS 服务表现得很好——Netflix API 的情况就是如此,我们运行的是相对统一的微服务,只需要访问和改变下游服务的数据。 然而,如果服务需要定制化,例如需要改变服务平台的各个组成部分,像 RPC,数据访问,缓存,认证等,那么 FaaS 模式可能无法为这些服务提供足够的灵活性。

我们目前的重点是完成将旧版 API 服务迁移到新堆栈。之后,我们的重点可能会包括很多方面,例如性能,既要降低成本,又要改善客户体验,以及基础架构和平台改进等其他领域。

 InfoQ:能否结合实例谈谈 Serverless 中,怎样的函数依赖关系是合理的,从业务逻辑上如何评估哪些关键路径需要报警,哪些允许失败?(如何防止错误地消耗大量资源进而增加大量费用?)

函数被部署为独立服务,这意味着我们不会在同一个实例上部署不同服务的函数。这对我们来说非常重要,因为我们不想让一个行为不良的服务拖累所有的 Netflix 服务。这种隔离有助于防止所有 Netflix 服务出现大规模停机。我们还会对内部指标、警报和监控系统进行整合,从而让我们了解每项服务的健康状况。该服务平台包含先进的削减负荷技术,如并发限制和断路,这些措施有助于防止大规模停机。我们还在运行时调试、分析和采样方面投入大量精力,这为我们提供了必须的可观察性,以便对服务进行大规模运维。该平台还有许多其他组件帮助我们更可靠地运行,来听我的演讲了解更多信息!《Going FaaSter: Function as a Service at Netflix》

就依赖性而言,我们允许用户随意导入第三方库,当然,这意味着工程师需要对安全性和性能等方面进行判断。

 InfoQ:如何决策或对比使用公有云 FaaS 服务或私有云自建 FaaS 服务?

这归结为典型的“自建 or 购买”问题。我认为面对这个决定时应该务实。当我们首次设计 FaaS 平台时,我们考虑了诸如 Lambda 和 App Engine 等公共选项。如果符合我们的场景,我们当然很乐意使用现成的解决方案。

事实证明,我们需要一个能与现有 Netflix 服务平台组件(如度量,警报,服务发现等)集成的平台,而且这种与高级 FaaS 平台的集成将是一个很困难的过程。

另外,我们需要全面了解是什么样的服务在使用 FaaS 平台。自建意味着可以完全控制操作系统,需要给运维人员提供调试服务和可视化工具。

显然,自建 FaaS 平台需要花费大量的精力、时间和成本,所以我们不会轻易做这样的决定。然而,当时我们找不到满足要求的开源方案或公开的 FaaS 选项。

这并不意味着大家都要模仿 Netflix 的脚步。如果符合需求的开源或公开 FaaS 选项存在,那么绝对要去使用。机会成本也是一个重要指标。技术只是达到目的的手段 - 我们当然应该使用最好的工具来完成这项工作,通常这意味着购买成熟的方案而不是自建。

 InfoQ:对于 CI/CD 与 FaaS 的结合,有什么样比较好的建议?

提供强大的一流测试框架非常重要。我们在设计 FaaS 平台的时候考虑到了测试,创建了一个测试框架,其中包含一流的模拟功能以及与开发人员工具紧密集成的特性,使工程师可以非常方便地使用 FaaS 平台编写单元,集成和端到端测试。

我们的测试框架主要优点之一,是允许在本地或在 Jenkins 上单独测试其功能,而无需将代码部署到云中。这种易用性使我们的客户能够编写测试,而这有助于提高服务的可靠性。

 InfoQ:目前业界全面落地 Serverless 尚且遥远,且没有统一的构建标准,如何确保你们的实践方向是正确的?能否分享历年过程中你们的经验教训?

目前大多数 Serverless 解决方案都适用于批量和事件驱动的任务,这些任务对延迟不敏感。然而我们认为 Serverless 也应该被考虑用于生产服务,因为它能通过抽象化平台和基础设施来减少操作和代码复杂性。

对于我们来说,Netflix API 组织中有明确的需求,需要 FaaS 模式来支持服务型工作负载。我们相信通过与其他公司的交流,大家对服务型 FaaS 平台会有浓厚的兴趣,大多数团队服务都只是为达到目的一种手段,没人激励他们,也没人关心服务是如何部署的,只需要它们可靠的执行业务逻辑。

我认为 FaaS 是一种自然演变,许多年前,大多数服务使用定制软件在整个堆栈中运行,并在每个公司内部数据中心运行。现在,我们正朝着一种模式迈进,在这个模型中,我们将组件进一步商品化,并进一步向前推进。我们开始使用 IaaS 商业化硬件和数据中心(例如 AWS EC2),然后转向将平台与 PaaS 的某些部分商业化(例如 Heroku 或 Google Cloud Platform)。这种自然演变促使 FaaS 出现,一切都由平台提供,而只有业务逻辑是函数本身的。

 InfoQ:随着容器和 Kubernetes 技术的兴起,当前有很多基于这两种技术构建的 Serverless 架构,比如 Fn、Kubeless、OpenFaaS、IronFunctions 等,您如何看待容器技术尤其是 Kubernetes 为 Serverless 架构带来的机遇?

如此多 FaaS 平台构建于 K8s 之上的原因之一,是 K8s 将基础架构和平台抽象为在容器上构建可扩展和可靠的服务所需的事实。这是非常强大的,因为它意味着 FaaS 框架可以专注于函数运行时。

这一块将继续演变,我希望看到更多的 FaaS 框架出现,尤其是能够满足大规模服务风格工作负载需求的那些(能够考虑到丰富的指标,自动调整,性能优化)。 我相信 K8s 将以更大规模运行的能力发展,这将使它更适合超过 5000 个物理节点的使用情况。

 InfoQ:在涉及整体架构的重构中,您认为应当采用渐进的方式逐步替换还是完全重写?如何防止技术人陷入下一个酷技术的陷阱?

工程师应该务实,对体系结构进行渐进式改变。立即改变一切只会增加项目的复杂性,风险和时间成本。渐进式改变意味着我们可以缩短反馈周期,为业务更快实现收益,并通过一次只更改少数组件来降低风险。

我们应该权衡每个决定的利害关系,寻求公司内部的广泛一致,并寻求异议。在采用新技术时要谨慎,扪心自问,“为什么选择这项技术?”如果你不能以满足团队或组织的方式来回答这个问题,那么你应该三思而后行。仔细考虑采用新技术的意义是什么,拥有更广泛的用户和支持基础?提供了一套好的工具来进行运维和调试?文档是否明确?维护周期有多长?采用新技术对整个组织的影响是什么?平台团队现在需要在整个组织中支持这项新技术吗?

例如,我们 FaaS 平台采用了容器技术,原因很特殊。它可以确保工程师随时随地运行服务,并为我们提供不可变的构建组建。这个决定会对团队有一些影响,需要在 Netflix 内部创建一个新团队,负责构建一个容器编排系统。决定使用一项新技术经常会给整个公司带来不确定的后果。

 InfoQ:在 FaaS 服务的开发过程中,工程师最关注点的是什么?

对于开发体验,我们专注于 FaaS 平台的人体工程学。这是工程师使用 FaaS 平台的最大反馈。 因此,我们专注于构建开发者工具,使工程师能够在其开发机器上本地开发和调试其功能,包括尾部日志和附加调试程序的功能。

 InfoQ:将越来越多的核心功能部署云上的时代,您认为工程师应该将精力更多地放在哪些方面?

工程师应该将重点放在与团队有关的事情上,大多数情况下,这不再意味着基础架构或服务平台。对于使用 FaaS 平台的工程师来说,这能让他们更专注于产品创新,为 Netflix 超过 1.25 亿的会员提高用户体验。

受访嘉宾简介

肖雨浓,目前是 Netflix 位于美国加利福尼亚州洛斯盖多斯 (镇) 的首席软件工程师,带领 Netflix API 平台设计和架构团队。在此前,他任职于 AWS 和 Joyent,主要方向是分布式系统,并帮助规划和构建了多款云计算产品,例如 AWS IAM 和 Manta。与此同时,他也在维护开源项目 Node.JS 框架的校正。Yunong 获得了滑铁卢大学计算机工程荣誉学位。

还将在 ArchSummit 全球架构师峰会深圳站上带来《Going FaaSter: Function as a Service at Netflix》的演讲,识别下图二维码,了解更多峰会详情!


 
ArchSummit 更多文章 从Caffe到TensorFlow,再到Paddlepaddle的迁移过程 苹果WWDC首提手机防沉迷功能,用意深刻 携程容器云智能运维的挑战和解决之道 在架构师眼里,一份美团外卖是如何做出来的? 训练营 | 余额宝、微众在区块链和微服务上的实践心得
猜您喜欢 别人家的DBA |腾讯游戏DBA团队的发展自白 七夕不哭,女神等你同桌|多P 2017年全域互联网发展报告 :老市场迸发新形态、企业级智能化加速 Java多线程面试问题大全 太阁程序员面试宝典(算法设计、系统设计、数据科学、职业发展、实战项目)