Home » A/B 测试结果不确定 – 现在该怎么办?

A/B 测试结果不确定 – 现在该怎么办?

许多公司在其数字营销计划中实施拆分测试,以便在网站实施更改之前获得用户的真实反馈。优化团队的任务是确定主要的 KPI(关键绩效指标),并围绕这些 KPI 制定策略,以逐步改进它们。大多数情况下,拆分测试的结果并不确定。不确定的结果是指实验结果“平淡”或中性,无法提供明确的“赢家”或“输家”。当实验结果不确定时,造成这些结果的原因可能有很多,同时也包含许多有价值的信息,可以为你的下一次迭代提供参考。

本文深入探讨了导致不确定结果的可能原因、如何处理不确定的测试结果以及如何使用有价值的数据来指导下一组实验迭代。

一项实验已经进行了相当长一段时间,

但结果却没有任何改善。所有关键指标都停滞不前——现在该怎么办?别担心!虽然乍一看,这项实验似乎是在浪费时间和资源。但事实并非如此。事实上,恰恰相反。收集到的数据中蕴含着大量宝贵的信息。

剖析已收集数据的第一步是对其进行细分。根据不同的细分领域仔细梳理数据,可以发现更多信息,从而帮助生成迭代。如果测试中重新排列了产品详情页的显示方式,请按设备细分数据。查看桌面设备、移动设备和平板电脑的数据。移动用户浏览版本与桌面用户浏览页面的方式在指标上是否存在差异?

数据细分的另一个重要步骤是

确保已从结果中过滤掉异常值。这是一个非常重要但经常被忽视的步骤。去除异常值对于正确分析数据和使实验达到统计显著性至关重要。下图很好地阐述了统计显著性和异常值在实验中的重要性。如果不从实验中去除异常值,实验可能会得出错误的结果。如下图所示,当异常值被去除后,结果通常会导致回归平均值,这可能被归类为“不确定”的结果。虽然我们可能没有“赢家”,但这对于理解此类测试对网站和用户的影响仍然至关重要。

消除外界影响和偏见

在审查不确定测试的数据时,分析师需要确保没有其他外部因素可能影响测试结果。外部因素可能会对实验结果产生重大影响。促销、打折和特价等因素都是在实验过程中引入的,可能会影响结果。如果实验中使用的同一款产品也出现了销售,除非你在没有销售的情况下重新进行同样的测试,否则无法知道其对结果的影响。

排除组是避免数据交叉污染的另一种方法。当多个实验同时进行时,排除组可以帮助实验者保持数据清洁。排除组有助于确保用户不会接 手机号码数据 触到多个正在进行的实验,从而维护数据的完整性。通过创建排除组,您可以指定应为每个实验分配多少流量,最重要的是,保持数据独立。

使用定性分析工具

许多优化专家将使用定量分析工具和测试平台来测量每个实验的数据。这是了解实验执行情况的一个很好的开始。它使您能够根据收集的数据做出明智的决策。但是,通过集成 定性分析工具可以更进一步。定性分析工具的一个例子是用户 内部并不知道该产品或服务 行为工具,它可以记录实验变化中的用户。此功能包含在某些测试平台中,这是一个非常有价值的补充。

 

例如,我们进行了一项测试,

在结账的最后一步添加一个粘性的“提交订单”按钮。假设是,如果在最后一步添加一个粘性的结账按钮,它将增加“下单”的点击量,从而增加购买量并提高收入。分析数据显示,包含粘性的“提交订单”按钮的变体在之前确定的所有关键指标上都表现平平。团队仔细分析了数据,研究了细分市场和其他有助于说明问题的变量,但没有发现任何 tg数据 明显的迹象表明这项测试无法得出结论。查看该变体的用户记录后,我们发现大多数用户点击的是固定的“提交订单”按钮,因为它位于订单详情旁边。用户喜欢确认订单——查看正在购买的商品,最重要的是查看订单总额。有了这一重要信息,团队能够根据通过记录获得的信息对测试进行迭代。迭代的目标是在粘性的“提交订单”按钮中添加“订单总额”。如果没有录音,这条信息很容易被忽视。

Scroll to Top