本模块的主要内容如下
第三节 电商平台中小企业流量扶持问题
电商平台的业务场景
拆解中小企业流量扶持问题
设计解决中小企业流量扶持问题的流程
第四节 电商平台中小企业流量扶持问题业务实战
设计实验策略
选择实验主要指标
检验策略选择
设计分组策略
设计原假设与备择假设
计算分组样本量
实验结论分析
实验结论与后续决策
第五节 总结与拓展
如何做一个好的ABTest
ABTest的局限
下面开始学习
第三节 电商平台中小企业流量扶持问题
1 电商平台的业务场景
2 拆解中小店铺流量扶持问题
2.1 中小店铺面临的流量问题
用户在搜索页面更倾向于选择高等级店铺
搜索购买有一个特点:当用户搜索一件商品时,他很容易去对比搜索结果,根据多种情况选择最合适他的。这时,“高等级店铺”、“多付款人数”、“低价格”、“高评价”等等容易成为用户选择的因素。
流量较大的广告位,费用较高
而例如首页这样引流量十分大的页面,其广告费比较贵,中小店铺不太能负担得起这部分开销。所以购买这部分广告位的都是大店铺。
综合以上两个,就形成了大店铺流量越来越多,中小店铺流量越来越少的局面。
2.2 中小店铺对于平台的价值
3 设计解决中小店铺流量扶持问题的流程
3.1 业务思路
3.2 解决问题流程
第四节 利用ABTest寻求电商流量分配的最优解
实验方案:
在下单推荐页设置固定中小店铺展示位置,通过对比3个固定展示位、6个、9个的区别,探究最优展示位个数。
1 选择实验主要指标
1.1 二类指标的确定
目标:提升中小店铺在下单推荐页的下单量30%
由于总量无法作为假设检验统计量,通过总下单量 = 人数 * 人均下单量,将统计量指标定为人均中小店
铺下单量。此时就能确定二类指标:
二类指标:C类店铺人均下单量上升 30%
1.2 一类指标的确定
在下单推荐页将一部分流量固定分配给中小店铺,那大店铺的流量肯定会受到损失。从前期的分析来看,近一月的大店铺的流量仅有3%来源与下单推荐页,贡献成单量仅占2%。所以即使页面完全展示中小店铺结果,大店铺的整体流量影响能控制在3%内,大店铺的成单影响能控制在2%内。
一类指标:A类店铺人均下单量下降在两个标准差以内
2 设计原假设与备择假设
3 计算分组样本量
选择两个总体均值之差计算公式 ,从假设上看一类二类指标都为单侧检验,但由于我们现在还没有做抽样,所以我们不知道实验组的σ^2,我们在这里假定AB组σ^2相等,带入后我们公式变为。
python实现代码如下
日活:1000w
平均每组0.1%流量。
4 检验策略选择
由于我们明确了一类指标的下降阈值和二类指标的上升目标,所以都使用单侧检验。
5 设计分组策略
A组:下单推荐页前12个推荐,9个C类店铺商品
B组:下单推荐页前12个推荐,6个C类店铺商品
C组:下单推荐页前12个推荐,3个C类店铺商品
D组:不干预(对照组)
6 实验结论分析
求AD组
计算dif_AD 在相应的分布的概率p
求BD组
二类指标假设检验
计算提升值 $\mu_A - \mu_B$
ABTest封装函数
7 实验结论与后续决策
一类指标评估:B策略的一类指标下降幅度在两个标准差内,符合要求;
二类指标评估:B策略的二类指标最优,同时上升幅度显著大于30%,符合要求;
决策:考虑推全B策略。
为了避免我们的取的那天数据是一个异常值,可以多用几天的数据来做检验。
第五节 总结与拓展
1 如何做一个好的ABTest
1、确定对照组和实验组,最好是做单变量的实验,一次只改变一个变量。
2、分流时尽量排除混杂因素,一般情况下采用随机分流即可。如果随机分流无法保证样本分布于总体分
布一致。建议采用手动的分层随机分流。
3、检查流量是否达到最小样本量要求,达不到要求则没法进行后续的分析,实验结果不可信。
4、准确收集用户行为数据,这就要求埋点必须正确。
2 ABTest的局限
2.1 细小改变与重大改变的博弈
2.2 数据驱动与业务灵感的平衡