FinOps 与云成本度量
云支出每天都由工程师决定,所以要给构建和运行服务的人提供成本数据、背景,以及据此采取行动的权力,并以对待可靠性的同样细心来度量浪费、分摊和单位成本。
概述与动因
在数据中心里,支出由采购订单决定,以几个大的台阶出现。在云中,开发人员用几行配置就能让组织承担一项经常性费用,而被遗忘的测试环境可以连续数月花钱。云计算(cloud computing)提供对计算资源的按需访问,随之而来的按用量付费(pay-as-you-go)模式意味着账单跟随使用。这既强大又有风险。让团队能在几分钟内扩展的同一种灵活性,也让成本的增长快于任何人的察觉。
FinOps 是财务与运营的缩写,是管理云成本的一种实践和文化。FinOps 基金会把它描述为一个运营框架,工程、财务、采购和业务团队在其中就数据驱动的支出决策展开协作。其核心理念是,使用云资源的人应当看到并拥有其成本,而财务提供结构、预测和承诺。这契合敏捷关于干系人之间持续协作、以及团队拥有自己服务的目标,也契合 ITIL 对服务财务管理的关注。本主题涵盖使这一实践具体化的测量值。它建立在前一个主题中的一般成本核算理念之上(见主题 7.5,服务成本与单位经济)。
云成本有一些需要自己测量值的特点。
- 弹性。 自动伸缩(autoscaling)按需求调整资源,这使成本可变,有时令人意外。无服务器计算(serverless computing)按每次执行收费,并把注意力从服务器转向请求。
- 许多小决定。 实例大小、存储层级、区域和架构的每一个选择,都会改变成本。支出分布在许多人作出的数百个决定中,没有标签和良好的报告就很难看到。
- 定价模型。 按需价格灵活,也最高。以承诺换取批量折扣(volume discount),比如预留容量或节省计划,以使用的承诺换取更低的单价。竞价或可抢占的容量便宜,但可能被收回。每种模型都有风险,而正确的组合取决于工作负载的可预测程度。具体条款因提供商而异,且经常变化,所以在依赖任何细节之前,先查阅提供商当前的文档。
- 共享和未打标签的成本。 没有负责人或用途标签的资源无法被归属。共享平台把成本分摊给以不同方式消耗它的团队。
- 环境成本。 云工作负载消耗能源并造成排放,工作负载的碳足迹(carbon footprint)日益成为报告要求。估算它的方法仍在发展,数字应当附带其方法。
云中的成本测量值很容易通过走捷径而得到改善。通过关闭监控或把资源缩减到服务崩溃来削减支出,显示出较低的账单和较差的服务。古德哈特定律的护栏适用:这里的每项成本测量值都与一项可靠性或质量测量值并列,且没有团队按其账单被排名(见主题 1.2,古德哈特定律与度量的心理学)。
关键原则
- 成本是一项工程度量。 构建并运行服务的团队看到并拥有其成本。
- 分摊给负责人。 每一块钱都应当对应到一个团队或一个声明的共享池。
- 把成本与质量和可靠性配对。 破坏服务的节省不是节省。
- 持续地、以小步优化。 定期评审浪费,并作为正常工作的一部分采取行动。
- 以区间预测。 可变的需求使单一数字的预测很脆弱。
- 跨职能协作。 工程、财务、采购和业务共同决定。
- 不要按账单给团队排名。 服务各不相同,增长不是浪费。
度量定义
| 度量 | 定义 | 公式 | 单位 | 数据来源 | ITIL 实践 | 敏捷对应物 | 节奏 |
|---|---|---|---|---|---|---|---|
| 分摊覆盖 | 被归属于某个所属团队或声明的共享池的云支出占比 | 有有效负责人和服务标签、或位于声明的共享池中的支出 / 云总支出 | 百分比 | 云账单导出、标签政策 | 服务财务管理;IT 资产管理 | 团队对其所运行之物的所有权 | 每周 |
| 云单位成本 | 每单位用户所重视之物的云资源成本 | 期内服务的云成本 / 期内交付的单位数 | 每单位的货币 | 与服务量相连的账单数据 | 服务财务管理;服务级别管理 | 每个成果的服务成本 | 每月 |
| 浪费率 | 花在闲置或明显过大资源上的支出占比 | 依据约定规则,花在闲置或过大资源上的支出 / 范围内资源的总支出 | 百分比 | 利用率测量值和账单 | 容量与性能管理;财务管理 | 工具链中的浪费削减 | 每周 |
| 承诺覆盖 | 被折扣承诺所覆盖的合格稳定使用量占比 | 被承诺覆盖的合格使用量 / 合格使用量 | 百分比 | 账单和承诺报告 | 服务财务管理;供应商管理 | 为可预测的需求规划 | 每月 |
| 承诺利用率 | 所购买承诺中被使用的占比 | 已使用的承诺小时数 / 已购买的承诺小时数 | 百分比 | 承诺报告 | 服务财务管理;供应商管理 | 来自计划投资的价值 | 每月 |
| 预测偏差 | 按团队和总体,预测与实际云支出之间的差异 | (实际减去预测) / 预测 | 百分比 | 预测日志和账单数据 | 服务财务管理 | 预测准确度 | 每月 |
| 异常确认时间 | 从成本异常告警到负责人作出有记录的决定的时间 | 从告警到负责人响应的小时数的中位数和第 85 百分位数 | 小时 | 异常告警和工单记录 | 监控与事件管理;事件管理 | 对生产信号的响应能力 | 每月 |
定义资源的范围、标签规则,以及什么算闲置或过大,并记录下来。承诺覆盖只依据稳定的基线使用量计算,而不依据峰值。单位成本使用与服务负责人商定的单位,并在趋势期间保持固定。成本数据应当说明是否包含抵扣额度、折扣、税费和支持费用,以及适用哪种货币和汇率。
建议
使成本可见且有人负责
1. 强制使用一小组必填的标签。 要求每个资源都带有负责人、服务和环境标签,在创建时由政策强制执行,而不是事后清理。分摊覆盖度量这一做法的效果。未打标签的资源可以被阻止,或在一天之内被标出并告知账户负责人。让标签集保持小,使人们遵守。
2. 给团队他们自己的成本视图。 为每个团队提供按服务和环境划分的每日或每周支出视图,附趋势和异常。人们会对他们能看到并理解的数据作出反应。每月才到达、且只发给财务的报告,几乎没有改变。
3. 定义共享成本池及其动因。 共享平台、网络和支持费用,需要一条关于如何分摊的规则(见主题 7.5,服务成本与单位经济)。公布规则,与团队一起评审,并保持池子很小。人们能跟得上的规则,比没人理解的公平规则赢得更多信任。
4. 举行简短的定期成本交流。 以稳定的节奏,把工程、财务和产品负责人聚在一起,对大额支出者每周或每两周一次,对其他人每月一次,每次三十分钟。评审趋势、异常和优化待办事项列表(backlog)。这是实践中的持续协作,它使成本留在议程上,而无需繁重的流程。
度量价值,而不仅仅是支出
5. 以每单位来表达成本。 云总支出随成功而上升。重要的是每个活跃客户、每笔交易或每次构建的成本。选择对该服务有意义的单位,随时间跟踪,并注释变化。总支出上升而单位成本下降是健康的模式,使用量持平而单位成本上升则是展开调查的提示。
6. 在成本旁边展示可靠性和质量。 把成本与同一服务的可用性、延迟和错误率一起展示(见主题 5.2,SLI、SLO 与错误预算)。使错误率上升的成本节省,是把成本转嫁给用户。错误预算的方法可以使权衡明确:当服务远好于所需时少花钱,当不是这样时则投入。
7. 以明确的规则跟踪浪费。 定义闲置(例如,一段时期内没有有意义的使用)和过大(例如,利用率持续远低于所配置的容量),并报告各自的支出。规则需要小心:为弹性而设的备用系统按设计看起来是闲置的,应当被排除并加以标注。当规则产生误报时重新审视它们。
对所发现的采取行动
8. 在正常工作中调整规模和清理。 使消除浪费成为团队待办事项列表中的常设项,作为持续改进的一部分以小步处理。安排非生产环境在工作时间之外停止,删除未挂载的存储,选择适当的存储层级,并先评审最大的行项目。小的定期变更胜过罕见的英雄式清理,后者在压力上升时往往被遗忘。
9. 使定价模型与工作负载相匹配。 对稳定的基线使用量采用承诺,对可变负载采用按需,对能容忍中断的工作采用可中断的容量。分次、以小额承诺,并同时跟踪覆盖和利用率。过度承诺浪费金钱,承诺不足则要付溢价。让财务和采购参与,并与提供商重新核实条款,因为它们会变化。
10. 检测异常并作出响应。 对支出使用异常检测,它标出相对于基线的突然变化。异常检测(anomaly detection)工具从简单的阈值到统计模型不一而足。向所属团队告警,并度量确认和决定需要多长时间。配置有误的作业,可以在数小时内累积大额账单,所以速度很重要(见主题 5.5,监控与告警质量度量)。
预测和规划
11. 以区间和动因预测。 依据需求的动因(比如预期的用户或交易)连同单位成本来构建预测。使用差异分析(variance analysis)来解释预测与实际之间的差异,并把由量、价格和组合引起的差异分开。给出区间并说明假设。随着模型的改进,预测偏差应当缩小。
12. 把可持续性纳入图景。 使用有文档的方法,比如提供商的报告或已发布的方法论,估算与主要工作负载相关的排放,并说明估计的局限。在成本和排放两方面比较区域、实例类型和调度的选择。把每单位排放视为每单位成本的伙伴,并且不要声称方法所无法支持的精度。
钻空子途径与护栏
| 度量 | 如何被钻空子 | 配对的护栏度量或实践 |
|---|---|---|
| 分摊覆盖 | 把一切都打上统括的负责人标签;把大笔金额声明为共享 | 由统括项所拥有的支出占比;共享池的规模和评审;负责人确认抽样 |
| 云单位成本 | 选择增长成本低廉的单位;削减可靠性以削减成本 | 固定的单位定义;可靠性和质量伙伴 |
| 浪费率 | 收窄闲置的定义;把浪费移到范围之外的账户 | 登记册中的规则;扫描所有账户;抽样规则所排除的资源 |
| 承诺覆盖 | 承诺膨胀的基线,以追求高百分比 | 承诺利用率;对照使用历史检查基线 |
| 承诺利用率 | 加入不需要的合格使用量,以填满承诺 | 与真实需求的增长相比较;单位成本 |
| 预测偏差 | 给预测加水分;晚些时候修订预测 | 在期初记录预测;跟踪区间宽度和命中率 |
| 异常确认时间 | 不看就确认告警;自动关闭告警 | 记录决定和结果;抽样检查告警的响应质量 |
健康的读数是:几乎所有支出都有负责人并且可见,单位成本因可解释的原因而变动,浪费在没有中断的情况下缩小,承诺被使用,以及预测的误差随时间收窄。
权衡:利与弊
| 方法 | 优势 | 劣势 |
|---|---|---|
| 由中央云团队控制支出 | 一致性和谈判力 | 缓慢;远离工程决策 |
| 团队拥有自己的云成本 | 快速、知情的决定 | 需要数据、培训和护栏 |
| 只用按需 | 灵活 | 单价最高 |
| 大量承诺 | 单价更低 | 需求下降时的锁定和浪费 |
| 严格的预算上限 | 防止超支 | 可能造成中断或阻碍有效的工作 |
| 告警和评审 | 保持速度 | 取决于及时的响应 |
| 激进的调整规模 | 节省金钱 | 过度时有影响性能的风险 |
| 附 SLO 的有度量的调整规模 | 平衡 | 需要可靠性数据和细心 |
答案是给团队数据和所有权,在服务至关重要之处设定告警和预算之类的护栏,而不是硬性停止,对稳定的基线逐步作出承诺,并始终把成本与可靠性配对。
与团队讨论的问题
1. 今天我们的云账单有多少可以归属于某个负责人?找不到负责人的是谁? 查看有有效标签的支出占比,以及最大的未打标签项。问每一项由谁拥有。引导者应当记下有多少项无人认领。商定在创建时强制执行的一个标签政策步骤。
2. 过去六个月里,我们的每单位成本如何变化?为什么? 绘制单位成本,并注释架构、价格和量的变化。问哪些变化是有意的。如果趋势出乎意料,讨论缺失了什么数据。在图表上添加一项质量测量值。
3. 如果我们敢的话,明天会关闭我们的哪些资源? 列出候选:闲置的环境、过大的数据库、被遗忘的存储。对每一个,问风险是什么、由谁决定。商定一种测试移除其中一个的安全办法,比如先调度或先做快照。
4. 如果一个作业开始花费十倍的钱,我们如何在一天之内知道? 走一遍从账单到负责人的告警路径。用一个过去的例子测试它。这场交流应当揭示延迟和归属上的缺口。商定确认和决定的目标时间,以及由谁负责。
5. 我们可以安全地承诺多少基线使用量?什么会使我们判断错误? 检查使用历史中稳定的下限,以及对它的风险:产品变更、迁移、价格变化。决定第一次适度的承诺和评审日期。让财务参与讨论。
6. 我们在无意中作出了怎样的成本与可靠性之间的权衡? 评审近期的节省和事件。其中是否有相关的?讨论如何使权衡明确,例如把成本评审与错误预算相联。决定谁可以批准影响可靠性的削减。
四种视角
产品与交付团队
交付团队作出驱动成本的决定,最适合降低它。他们应当在创建时打标签,定期查看自己的成本视图,把成本纳入设计讨论,并把减少浪费视为正常工作。他们应当能在作出变更之后很快看到其对成本的影响,这支持快速学习。
服务与运维团队
运维和平台团队运行共享服务、执行政策并运营异常告警。他们应当使标签合规保持简单,提供自助报告,并公布关于共享成本的清晰规则。他们应当既关注其所提供平台的成本,也关注其可靠性,并帮助团队采取行动,而不成为一道关卡。
领导层与治理
领导者和财务想要可预测的支出和良好的价值。他们应当为成本工作的工具和时间出资,接受预测中的区间,避免团队排行榜,并索要附质量的单位成本。治理应当检查承诺是依据数据作出的,并且可持续性的说法说明其方法。
客户与用户
用户通过价格、功能或服务的稳定性间接感受云成本。当节省为改进提供资金时他们受益,而当削减降低质量时他们受害。凡用户按消耗量付费之处,他们想要清晰的账单,并有能力影响它。
实践:一个服务管理示例
一家区域在线零售商在公有云上运行其商店和订单平台,有六个工程团队。下面的数字均为示意。
云支出在一年内稳步上升,财务总监要求削减。FinOps 负责人拉取了账单数据。分摊覆盖为 68%,未打标签的支出中有三分之一在测试账户。每个已完成订单的成本为 0.31 美元,高于六个月前的 0.27 美元,而订单量增长了 15%。依据团队的规则,浪费率为范围内支出的 14%,主要是整夜和周末运行的非生产环境,以及少数几个过大的数据库。承诺覆盖为稳定基线的 20%,所购买部分的利用率为 97%。上个季度加 18% 的预测偏差,源于一次没有人告诉平台团队的营销活动。一个账户中失控的数据作业运行了两天才有人注意到。
负责人与工程团队商定四项变更。一项标签政策阻止没有负责人和服务标签的新资源,宽限期为两周。每个团队收到每周的成本视图,并在每两周一次的成本交流中获得一小段时间。非生产环境被安排在工作时间之外停止,三个过大的数据库在对照服务级别目标检查其性能之后被调整规模。第一次承诺涵盖稳定基线的 60%,三个月后评审。异常告警发给所属团队,期望在四小时内作出有记录的决定,规划日历现在包括营销活动。
一个季度之后,分摊覆盖为 93%,浪费率降至 6%,每个订单的成本降至 0.26 美元,而结账延迟和错误率没有变化,预测偏差为加 5%。承诺覆盖为 55%,利用率为 96%。异常确认时间的中位数为 2 小时,第 85 百分位数为 6 小时。财务总监要求一份显示每个团队成本的排行榜。FinOps 负责人拒绝了,解释说各团队运行不同的服务、增长也不同,并提供每个团队的单位成本趋势及其可靠性测量值作为替代。该决定被记录下来,并设定下一次评审日期。
敏捷、AI、自动化与分析
敏捷
给工程师成本数据和采取行动的权力,并以与可靠性相同的节奏评审它。需要注意的是,在没有背景的情况下设定的成本目标,会降低可靠性或延迟有用的工作。
AI
AI 服务可能是云成本中快速增长的一部分,所以要给它们自己的分摊、单位成本和异常告警。把每个请求的成本与答案质量以及所交付的价值配对。需要注意的是,通过切换到较弱的模型来削减 AI 成本,可能增加人工返工。
自动化
自动化标签检查、异常告警和调整规模的建议,并就误报以及真正落地的节省来度量自动化。需要注意的是,对闲置资源的自动关闭,可能移除了被需要的东西。
分析
连同预测偏差和数据的新鲜度,一起展示单位成本和浪费。这为之提供依据的决定是在哪里优化,以及承诺什么。需要注意的是,承诺的决定取决于预测,所以要说明其不确定性。
行业视角
初创公司。 抵扣额度和低额账单可能掩盖不良习惯,这些习惯在规模扩大时会变得昂贵。从第一天就打标签,为非生产资源安排计划,并及早跟踪每位客户的成本。只在需求可预测时才作出承诺。
小型企业。 单一账户和少数几项服务,使打标签和评审很简单。每月与构建系统的人一起评审账单,移除被遗忘的资源,并对长期承诺保持警惕。预算告警是最有价值的单一控制。
大型企业。 众多账户、团队和提供商,要求有一个赋能团队而不是控制团队的中央 FinOps 职能。跨提供商标准化标签和账单导出,集中谈判承诺,并把数据交给团队。为多云报告的差异做好规划。
政府与公共部门。 采购框架、数据驻留和固定的年度预算限制了选择。记录成本和区域的决定,建模可变支出对拨款的影响,并保留审计轨迹。关于可持续性的公共承诺可能要求连同方法一起报告排放(见主题 8.5,受监管与政府报告)。
业务论证:动因、投资回报与总拥有成本
FinOps 实践的成本是少数几个人运行报告、标签政策和定期交流的时间;可能由云平台提供或购买的工具;以及对发现采取行动的工程时间。小型实践可以从账单导出和电子表格开始。
回报来自减少的浪费、通过承诺获得的更好价格、更少的意外,以及关于架构的更好决定。依据你自己的数字构建论证:第一次评审中的浪费率及其成本、安排非生产环境计划所节省的费用、被承诺部分的承诺折扣,以及及早发现的异常所避免的成本。避免引用全行业的浪费百分比或节省数字,除非有可追溯的来源和方法。把该实践的成本和过度承诺的风险纳入。关于改进的财务论证总体上在下一个主题中涵盖(见主题 7.7,投资回报与业务论证)。
反模式与陷阱
- 总说不的中央团队。 它拖慢工作,团队会绕开它。用数据和护栏赋能团队。
- 削减成本而不关注可靠性。 节省会以事件的形式回来。把成本与服务级别测量值配对。
- 追逐承诺覆盖。 高百分比配上低利用率就是浪费。两者都要跟踪。
- 每月只向财务发报告。 工程师永远看不到。给团队每日或每周的视图。
- 把打标签当作清理项目。 它会衰败。在创建时强制执行标签。
- 按支出给团队排名。 增长看起来像浪费。连同背景展示单位成本趋势。
- 预测单一数字。 可变的需求会使之失效。使用区间和动因。
- 声称精确的排放。 估算方法是不确定的。说明方法和局限。
成熟度模型
| 维度 | 1 起步 | 2 发展 | 3 标准化 | 4 管理 | 5 协同 |
|---|---|---|---|---|---|
| 可见性与归属 | 财务评审月度账单 | 一些团队使用标签 | 必填标签;团队看到每周成本视图 | 管理分摊覆盖;评审共享池 | 成本数据近乎实时地跨提供商流入产品决策 |
| 优化 | 偶尔清理 | 一些团队做调度和调整规模 | 浪费规则和常设的优化待办事项列表 | 与可靠性伙伴一起管理浪费、承诺和单位成本 | 在人的监督下持续、自动的优化,并共享学习 |
| 规划 | 年度预算 | 粗略的预测 | 基于动因的预测,附区间 | 分析偏差并反馈;逐步管理承诺 | 与业务、供应商和可持续性目标一起联合预测 |
检查清单
- 在资源创建时强制使用一小组必填标签(负责人、服务、环境)。
- 每周报告分摊覆盖,并列出最大的未打标签项。
- 每个团队都有附趋势和异常的每周成本视图。
- 日历中有定期的工程与财务成本交流。
- 云单位成本与可用性、延迟和错误率并排跟踪。
- 写下并应用浪费规则,并标注排除项。
- 依据稳定的基线使用量逐步作出承诺,并跟踪覆盖和利用率。
- 预测使用动因和区间,并分析偏差。
- 异常告警送达负责人,并附期望的决定时间。
- 排放估算(如果报告)说明其方法和局限。
AI 提示词
分析成本趋势。
这是我们 [服务] 在 [期间] 内的云成本和使用情况的摘要:[粘贴每月成本、量和任何已知的变化]。在数据允许的范围内,把成本的变化拆分为量、价格和组合的影响,建议接下来检查什么,并提出一个附质量伙伴的单位成本。不要虚构价格或折扣。请列出你的假设,以及你为了更有把握所需要的数据。
起草标签政策。
请为使用 [云提供商] 的 [组织类型] 起草一份标签政策。包括一组最少的必填标签、允许的值、如何在创建时强制执行、如何向负责人报告违规,以及宽限期。保持足够简短,使工程师能够遵循。请列出你的假设,以及任何依赖提供商功能、我应当在当前文档中核实的事项。
定义浪费规则。
请为 [环境类型] 中把云资源分类为闲置或过大提出规则,包括所使用的测量值、时间窗口、排除项(例如弹性备用系统),以及对误报的评审流程。描述如何避免损害可靠性。在没有说明我们应如何依据自己的数据校准的情况下,不要设定数值阈值。请列出你的假设。
规划第一次承诺。
过去 [期间] 内我们的稳定基线使用量是 [摘要],需求风险是 [清单]。请概述第一次承诺的谨慎计划:如何估计基线、承诺多少、如何评审利用率,以及什么会使我们停止。不要假定特定提供商的折扣或条款。请列出你的假设,以及要问财务和采购的问题。
AI 技能
- Service Management Metrics skill:用于查找云成本度量所配对的护栏。
- Service Management Metrics maintainer skill:用于检查云成本度量条目是否带有其钻空子途径、护栏和可靠性伙伴。
要点
- 使成本可见并有人负责:在创建时强制执行标签,并给每个团队其自己的每周视图。
- 在可靠性和质量旁边度量每单位成本,绝不单独度量。
- 在书面规则的指导下,把消除浪费作为正常工作的一部分。
- 对稳定的基线逐步作出承诺,并同时跟踪覆盖和利用率。
- 以动因和区间预测,并以快速响应观察异常。
- 不要按支出给团队排名,并说明任何排放估算的方法和局限。
参考文献与延伸阅读
- Storment, J. R., and Fuller, M., Cloud FinOps, 2nd ed., O'Reilly, 2023.
- FinOps Foundation, FinOps Framework, https://www.finops.org/framework/.
- Beyer, B., Jones, C., Petoff, J., and Murphy, N. R. (eds.), Site Reliability Engineering: How Google Runs Production Systems, O'Reilly, 2016.
- Forsgren, N., Humble, J., and Kim, G., Accelerate: The Science of Lean Software and DevOps, IT Revolution, 2018.
- Beck, K., et al., Principles behind the Agile Manifesto, 2001, https://agilemanifesto.org/principles.html.
- Wikipedia, Cloud computing.
- Wikipedia, Pay as you go.
- Wikipedia, Autoscaling.
- Wikipedia, Serverless computing.
- Wikipedia, Volume discount.
- Wikipedia, Carbon footprint.
- Wikipedia, Goodhart's law.
- Wikipedia, Anomaly detection.
- Wikipedia, Variance analysis.