当前位置: 首页>大数据>正文

学习笔记27 ABTest学习(二)3-29

本模块的主要内容如下

第三节 电商平台中小企业流量扶持问题

电商平台的业务场景

拆解中小企业流量扶持问题

设计解决中小企业流量扶持问题的流程

第四节 电商平台中小企业流量扶持问题业务实战

设计实验策略

选择实验主要指标

检验策略选择

设计分组策略

设计原假设与备择假设

计算分组样本量

实验结论分析

实验结论与后续决策

第五节 总结与拓展

如何做一个好的ABTest

ABTest的局限

下面开始学习

第三节 电商平台中小企业流量扶持问题

1 电商平台的业务场景

学习笔记27 ABTest学习(二)3-29,第1张

2 拆解中小店铺流量扶持问题

2.1 中小店铺面临的流量问题

用户在搜索页面更倾向于选择高等级店铺

学习笔记27 ABTest学习(二)3-29,第2张

搜索购买有一个特点:当用户搜索一件商品时,他很容易去对比搜索结果,根据多种情况选择最合适他的。这时,“高等级店铺”、“多付款人数”、“低价格”、“高评价”等等容易成为用户选择的因素。

流量较大的广告位,费用较高

而例如首页这样引流量十分大的页面,其广告费比较贵,中小店铺不太能负担得起这部分开销。所以购买这部分广告位的都是大店铺。

综合以上两个,就形成了大店铺流量越来越多,中小店铺流量越来越少的局面。

2.2 中小店铺对于平台的价值

学习笔记27 ABTest学习(二)3-29,第3张

3 设计解决中小店铺流量扶持问题的流程

3.1 业务思路

学习笔记27 ABTest学习(二)3-29,第4张

3.2 解决问题流程

学习笔记27 ABTest学习(二)3-29,第5张
学习笔记27 ABTest学习(二)3-29,第6张

第四节 利用ABTest寻求电商流量分配的最优解

实验方案:

在下单推荐页设置固定中小店铺展示位置,通过对比3个固定展示位、6个、9个的区别,探究最优展示位个数。

1 选择实验主要指标

1.1 二类指标的确定

目标:提升中小店铺在下单推荐页的下单量30%

由于总量无法作为假设检验统计量,通过总下单量 = 人数 * 人均下单量,将统计量指标定为人均中小店

铺下单量。此时就能确定二类指标:

二类指标:C类店铺人均下单量上升 30%

1.2 一类指标的确定

在下单推荐页将一部分流量固定分配给中小店铺,那大店铺的流量肯定会受到损失。从前期的分析来看,近一月的大店铺的流量仅有3%来源与下单推荐页,贡献成单量仅占2%。所以即使页面完全展示中小店铺结果,大店铺的整体流量影响能控制在3%内,大店铺的成单影响能控制在2%内。

一类指标:A类店铺人均下单量下降在两个标准差以内

2 设计原假设与备择假设

学习笔记27 ABTest学习(二)3-29,第7张

3 计算分组样本量

选择两个总体均值之差计算公式 ,从假设上看一类二类指标都为单侧检验,但由于我们现在还没有做抽样,所以我们不知道实验组的σ^2,我们在这里假定AB组σ^2相等,带入后我们公式变为。

学习笔记27 ABTest学习(二)3-29,第8张

python实现代码如下

学习笔记27 ABTest学习(二)3-29,第9张
学习笔记27 ABTest学习(二)3-29,第10张
学习笔记27 ABTest学习(二)3-29,第11张

日活:1000w

平均每组0.1%流量。

4 检验策略选择

由于我们明确了一类指标的下降阈值和二类指标的上升目标,所以都使用单侧检验。

5 设计分组策略

A组:下单推荐页前12个推荐,9个C类店铺商品

B组:下单推荐页前12个推荐,6个C类店铺商品

C组:下单推荐页前12个推荐,3个C类店铺商品

D组:不干预(对照组)

6 实验结论分析

学习笔记27 ABTest学习(二)3-29,第12张
学习笔记27 ABTest学习(二)3-29,第13张
学习笔记27 ABTest学习(二)3-29,第14张

求AD组

学习笔记27 ABTest学习(二)3-29,第15张

计算dif_AD 在相应的分布的概率p

学习笔记27 ABTest学习(二)3-29,第16张

求BD组

学习笔记27 ABTest学习(二)3-29,第17张
学习笔记27 ABTest学习(二)3-29,第18张

二类指标假设检验

学习笔记27 ABTest学习(二)3-29,第19张

计算提升值 $\mu_A - \mu_B$

学习笔记27 ABTest学习(二)3-29,第20张

ABTest封装函数

学习笔记27 ABTest学习(二)3-29,第21张
学习笔记27 ABTest学习(二)3-29,第22张
学习笔记27 ABTest学习(二)3-29,第23张

7 实验结论与后续决策

一类指标评估:B策略的一类指标下降幅度在两个标准差内,符合要求;

二类指标评估:B策略的二类指标最优,同时上升幅度显著大于30%,符合要求;

决策:考虑推全B策略。

为了避免我们的取的那天数据是一个异常值,可以多用几天的数据来做检验。

第五节 总结与拓展

1 如何做一个好的ABTest

1、确定对照组和实验组,最好是做单变量的实验,一次只改变一个变量。

2、分流时尽量排除混杂因素,一般情况下采用随机分流即可。如果随机分流无法保证样本分布于总体分

布一致。建议采用手动的分层随机分流。

3、检查流量是否达到最小样本量要求,达不到要求则没法进行后续的分析,实验结果不可信。

4、准确收集用户行为数据,这就要求埋点必须正确。

2 ABTest的局限

2.1 细小改变与重大改变的博弈

2.2 数据驱动与业务灵感的平衡


https://www.xamrdz.com/bigdata/7nk1904674.html

相关文章: