浅谈app运营中利用A/B测试评估活动效果时必须绕开的五个坑
编辑时间:2019-07-08 08:50 浏览次数:
现在很多app都会定期举办各种活动,app运营人员要想对活动效果进行验证,比较常用的一种方法就是进行A/B测试,下面我就给大家介绍一下,app运营人员利用A/B测试评估活动效果时必须要绕开的坑有哪些。
首先,app运营人员需要通过用户标签进行用户筛选,选取一部分用户作为测试组,在不添加其它变量的情况下,观察用户的转化情况。
对于实验组的用户,app运营人员可以通过发送定向优惠券以及短信的方式触达用户,等待用户转化,而对照组的用户都是自然转化的,在实验组当中会有一部分用户被优惠所吸引实现转化,但是还有一些用户即便是没有拿到优惠券也会实现自然转化。
运营人员可以用对照组的转化率作为没有优惠券情况下的自然转化率,由此可以得到以下这些指标。
用户基线=干预总人数*自然转化率
用户提升数量=干预总人数*(干预转化率-自然转化率)
用户提升率=用户提升/用户基线
同样从经营层面上,也可以对销售效果进行评估。
GMV基线=用户基线*自然转化的客单价
GMV提升=用户提升数量*干预之后的转化客单价+用户基线*(干预转化客单价-自然转化的客单价)
成本价格=每单的优惠价格*下单用户量+每条短信发送费用*干预总人数
GMV净提升值=GMV提升-成本价格
需要注意的是,客单价一方面体现在那些本来拉不来用户所产生的GMV上,另外一方面则体现在提高本来会下单用户的客单价上,因此需要计算GMV提升,而对于优惠券来说,尤其是满减优惠券,一般都会对客单价的提高产生作用,如果客单价降低,可能是因为误差引起的。
最终,app运营人员可以得到评估经营效果的综合指标。
GMV的净提升率=GMV净提升数/GMV基线
ROI=GMV净提升数/总成本数
对于运营人员来说,考核的目标聚焦于月活跃用户数,当然运营人员还会更关心用户提升率,经过对多次活动进行横向的对比,可以识别出活动效果的好坏。
app运营人员如果需要测试不同活动的效果,可以进一步对实验组进行细分,就比如给一个实验组发放满100元减20元的券,另外一个组则发放满100元减10元的券,最后通过对照分析评估活动的效果。满100元减20的券GMV可能会比较高,但是由于成本比较高,有可能会导致GMV净增长值和ROI并不高。
同理对于其它的促销形式,也可以采用这个方法进行测试。进行多次A/B测试之后,app运营人员可以结合历史数据进行综合的判断,确定促销活动方案。
1.测试组的人数太少
虽然测试组和对照组的人数不需要完全一样,但是各个组的人数需要具有统计学价值,如果实验组的人数太多,而对照组的人数太少,测试组的结果就会受到个体的较大影响。
2.实验组的人数过少
如果要测试哪种优惠券的效果更好,app运营人员可以将实验组拆分,发放不同的优惠券测试,但是需要注意的是,实验组不宜拆分的过多,如果拆分了太多的实验组,会导致实验组人数过少,实验结果也会很不精确。
3.其它活动已经将所选取测试组用户划入了实验组
在活动执行的过程中很有可能会遇到这样的情况,其它的活动已经将运营人员所选取的测试组用户划入了实验组,如果是同一个公司还好,直接等待数据回流之后,从测试组当中剔除掉参与其它活动的用户即可。如果用户参加的是其它友商的活动,就很有可能会对数据产生影响。运营人员只能进行多次的实验分析,剔除干扰项。
4.实验组用户是其它活动的实验组
外部的其它友商也可能将运营人员圈定的实验组作为实验组,这种情况同样会导致测试结果不够精准。
5.干预的时间过于滞后
有些app运营人员在圈定用户,申请优惠券到最后使用短信等方式触达用户的过程中,干预时间有一些滞后,如果系统不判断用户是否已经下单,用户在下单完成之后才收到优惠券,一方面会影响用户的体验,另外一方面用户可能会将订单取消,用优惠券重新下单,导致履约成本的上升,运营人员如果在发送短信之前可以剔除已下单用户,最后实际干预的都是购买意向比较弱的用户,就会导致测试结果失去准确度。
本文地址:https://www.webbj.cn/android/faq1439.html
如何建立app活动效果评估体系?
A/B测试目前广泛的用于产品的灰度测试阶段,除此之外,A/B测试还有着更广泛的用途,就比如进行营销策略测试等等,要想利用进行活动效果评估,无非就是控制变量,但是app运营人员要想控制其它不相关的变量是一件非常困难的事情,而A/B测试通过随机分组,保证两个组的对照一致,通过对实验组施加影响,观察实验组的表现差异,评估活动的效果。如何利用A/B测试进行活动效果评估?
首先,app运营人员需要通过用户标签进行用户筛选,选取一部分用户作为测试组,在不添加其它变量的情况下,观察用户的转化情况。
对于实验组的用户,app运营人员可以通过发送定向优惠券以及短信的方式触达用户,等待用户转化,而对照组的用户都是自然转化的,在实验组当中会有一部分用户被优惠所吸引实现转化,但是还有一些用户即便是没有拿到优惠券也会实现自然转化。
运营人员可以用对照组的转化率作为没有优惠券情况下的自然转化率,由此可以得到以下这些指标。
用户基线=干预总人数*自然转化率
用户提升数量=干预总人数*(干预转化率-自然转化率)
用户提升率=用户提升/用户基线
同样从经营层面上,也可以对销售效果进行评估。
GMV基线=用户基线*自然转化的客单价
GMV提升=用户提升数量*干预之后的转化客单价+用户基线*(干预转化客单价-自然转化的客单价)
成本价格=每单的优惠价格*下单用户量+每条短信发送费用*干预总人数
GMV净提升值=GMV提升-成本价格
需要注意的是,客单价一方面体现在那些本来拉不来用户所产生的GMV上,另外一方面则体现在提高本来会下单用户的客单价上,因此需要计算GMV提升,而对于优惠券来说,尤其是满减优惠券,一般都会对客单价的提高产生作用,如果客单价降低,可能是因为误差引起的。
最终,app运营人员可以得到评估经营效果的综合指标。
GMV的净提升率=GMV净提升数/GMV基线
ROI=GMV净提升数/总成本数
对于运营人员来说,考核的目标聚焦于月活跃用户数,当然运营人员还会更关心用户提升率,经过对多次活动进行横向的对比,可以识别出活动效果的好坏。
如何优化活动A/B测试策略?
app运营人员如果需要测试不同活动的效果,可以进一步对实验组进行细分,就比如给一个实验组发放满100元减20元的券,另外一个组则发放满100元减10元的券,最后通过对照分析评估活动的效果。满100元减20的券GMV可能会比较高,但是由于成本比较高,有可能会导致GMV净增长值和ROI并不高。
同理对于其它的促销形式,也可以采用这个方法进行测试。进行多次A/B测试之后,app运营人员可以结合历史数据进行综合的判断,确定促销活动方案。
app运营中利用A/B测试评估活动效果时必须要绕开的坑有哪些?
在app运营中利用A/B测试评估活动效果时,需要绕开的坑有以下这些:1.测试组的人数太少
虽然测试组和对照组的人数不需要完全一样,但是各个组的人数需要具有统计学价值,如果实验组的人数太多,而对照组的人数太少,测试组的结果就会受到个体的较大影响。
2.实验组的人数过少
如果要测试哪种优惠券的效果更好,app运营人员可以将实验组拆分,发放不同的优惠券测试,但是需要注意的是,实验组不宜拆分的过多,如果拆分了太多的实验组,会导致实验组人数过少,实验结果也会很不精确。
3.其它活动已经将所选取测试组用户划入了实验组
在活动执行的过程中很有可能会遇到这样的情况,其它的活动已经将运营人员所选取的测试组用户划入了实验组,如果是同一个公司还好,直接等待数据回流之后,从测试组当中剔除掉参与其它活动的用户即可。如果用户参加的是其它友商的活动,就很有可能会对数据产生影响。运营人员只能进行多次的实验分析,剔除干扰项。
4.实验组用户是其它活动的实验组
外部的其它友商也可能将运营人员圈定的实验组作为实验组,这种情况同样会导致测试结果不够精准。
5.干预的时间过于滞后
有些app运营人员在圈定用户,申请优惠券到最后使用短信等方式触达用户的过程中,干预时间有一些滞后,如果系统不判断用户是否已经下单,用户在下单完成之后才收到优惠券,一方面会影响用户的体验,另外一方面用户可能会将订单取消,用优惠券重新下单,导致履约成本的上升,运营人员如果在发送短信之前可以剔除已下单用户,最后实际干预的都是购买意向比较弱的用户,就会导致测试结果失去准确度。
app开发可以找哪个公司?
app开发可以找思捷智联公司,我们公司于2009年成立,自公司成立以来,我们已经为百余家企业提供了app开发服务。找我们开发app,所有的开发价格都是公开透明的,开发的所有流程也是规范的,在与您签订开发合同的时候,我们会事先跟您沟通,跟您明确所有的需求,在app开发的各种细节问题上,我们也不会跟您存有分歧,在app开发的过程中,我们也不会再向您收取其它的额外费用,在app开发完成以后,我们会将所有的源代码全都发送给您,并为您提供一年时间的免费技术支持服务,如果您正好有app开发的需要,欢迎与我们联系,我们将免费为您提供思维导图和开发报价单!本文地址:https://www.webbj.cn/android/faq1439.html
免责声明:我司网站转载此文,不代表本网的观点和立场。不以盈利为目的,如有侵犯公司或个人权益,请联系QQ:451521464沟通,我司会第一时间删除文章。
思捷智联是北京小程序开发公司,欢迎咨询免费获取思维导图!