A/B 测试是一种可以应用于增长实验的方法,但并非所有增长实验都使用 A/B 测试,也并非所有 A/B 测试都符合增长实验的条件。
当 A/B 测试是增长实验时:
A/B 测试符合以下条件,可视为增长实验:
测试具有不确定结果的重大变化有与增长杠杆相关的明确假设以有意义的绩效改进为目标产 比利时电报数据 生有助于制定增长战略的见解例如,基于对用户心理的新理解对完全重新设计的注册流程进行 A/B 测试既可以算作 A/B 测试,也可以算作增长实验。
当 A/B 测试不是增长实验时:
A/B 测试在以下情况下不能算作增长实验:
测试没有战略假设的微小变化专注于优化而不是探索目标是渐进式改进,而不是阶跃式改变缺乏与关键增长杠杆的联系例如,对两个略有不同的按钮颜色进行 A/B 测试可能符合 A/B 测试的条件,但通常会被视为优化而不是实验。
非 A/B 测试的增长实验:
许多增长实验使用 A/B 测试以外的方法,例如:
测试前/后(测量变更前后的性能)群组比较(比较不同用户群组的行为)市场测试(不同地理市场的测试方法)分阶段推出(逐步实施变更并衡量影响)如果这些方法有明确的假设、明确的成功指标和重大的潜在影响,那么它们仍然是实验——只是它们不使用 A/B 测试的特定方法。
如何决定使用哪种方法
使用这个综合框架来确定某件事应该是增长实验、优化还是 A/B 测试:
步骤 1:评估变化幅度
首先,评估一下变化有多显著:
大幅变化:
彻底重新设计或重组新特性或功能不同的商业模式或定价结构新的受众群体或市基本信息或定位的转由于其不确定性和潜在影响,高强度的变化通常需要实验框架。
中等幅度的变化:
对现有内容进行重大修改现有功能的新变体对既定流程的调整扩展现有战略中对用户体验产生负面 等程度的变化可能是实验或优化,取决于风险和潜在影响等其他因素。
低幅度变化:
对现有元素进行细微调整基于清晰数据信号的改进实施既定的最佳实践修复明显问题或摩擦点低幅度的变化通常最好以优化而不是实验的形式来处理。
第二步:评估不确定性和风险
接下来,考虑一下您对结果的确定程度以及所涉及的风险:
高度不确定性/风险:
贵组织内尚无先例与既定做法相矛盾如果错误,可能会对核心指标产生负面影响需要大量投资才能实施影响关键业务流程高度不确定的情况需要在完全投入之前进行适当的实验来验证方法。
中等不确定性/风险:
有一些先例,但背景不同来自研究或数据的混合证据实施成本适中影响重要但不关键的流程中等不确定性的情况可能需要简化实验或仔细监控实施。
低不确定性/风险:
贵组织内有先例清晰的数据信号表明需要进行更改最低实施成本对周围过程有一定影响,但负面影响有限不确定性较低的情况通常可以通过基本监控进行优化来处理。
步骤3:计算潜在影响
估计变更成功后对关键指标的潜在影响:
高潜在影响:
如果成功,关键指标可能会提高 20% 以影响核心转换或保留过程影响大 比特币数据库美国 多数用户或客户可以创造竞争优势解决主要痛点或机遇影响深远的变化证明了进行适当实验的额外开销是合理的。
中等潜在影响:
如果成功,可能会使关键指标提高 5-20%影响重要但不核心的流程影响大量用解决中等程度的痛点或机会根据其他因素,中等影响的变化可能需要进行实验或批量优化。
低潜在影响:
个别指标可能变动幅度小于 5%影响外周过程影响一小部分用户解决小痛点或机会低影响变化通常最好以优化的方式处理,并可能分批进行以实现有意义的累积影响。
步骤4:考虑测量可行性
评估衡量变革影响的可行性