网站每天只有少量访客,却计划同时比较四种按钮颜色。测试跑了两周还没有结果,往往不是计算器不灵,而是希望识别的差异太小、分组太多,现有流量支撑不了这个问题。实验设计需要先考虑信息量。

把“值得上线的提升”写成MDE
XunL A/B测试样本量计算器需要基准转化率与最小可检测提升。假设原转化率百分之三,希望识别百分之十的相对提升,目标是百分之三点三,相差零点三个百分点,不是从百分之三跳到百分之十三。
先选相对提升或绝对百分点,再填写数值。MDE应由业务价值和可行性共同决定:提升多少值得实施,流量又能支持多细的判断。不能为了尽快结束,临时把已计划的小效果改成另一种口径。
置信度、功效和版本数,都会影响计划
置信度控制证据要求,统计功效描述在指定真实效果下发现差异的能力。更严格的设置通常需要更多样本;多个版本也会分散流量并涉及多重比较。工具对多个变体做Bonferroni规划校正,不能把两版本所需流量简单套到五版本测试。
单侧与双侧同样应提前固定。若业务需要发现变差风险,就不能只因单侧样本看起来更少而选择它。设计表应记录这些参数,后面结果计算使用一致思路,避免看完数据再换规则。
日流量要先乘参与比例,再分给版本
用一个时间估算例子:每天两千访客,只有一半进入实验,两版本等分,则每个版本每天大约得到五百访客。若某次规划结果要求每组一万访客,单看流量至少约二十天;再考虑完整周周期,日程还要向上安排。这里一万是教学假设,不是对前述参数的实际样本计算结果。
实际流量不一定均匀,还要看目标页面、排除条件与季节变化。把全站访问量填成实验入口流量,可能严重低估时长。测试期间若流量结构发生大变化,也应记录并评估,而不是只机械等待计数器到达目标。
周期太长时,改变问题比降低要求更有用
可以优先选择流量较集中的页面,减少不必要变体,或测试影响更大的方案。若改用更靠近转化的动作作为目标,要明确它与最终业务结果的关系,不能把按钮点击提升直接当作订单增加。
样本规划基于假设,不是保证到期一定显著。真实效果可能小于MDE,基准转化率也可能变化。开跑前保存计划、结束条件与护栏,避免每天窥看后在第一次有利时提前结束。
完整周建议是为了更好覆盖工作日与周末等周期差异,不意味着跑满一周就足够。样本量与时间条件都应满足原计划,并检查分流质量及指标口径。不能用一个日程建议替代统计设计。
小站只能放弃实验吗?
不一定。可以选择更大的假设、更集中的入口,或采用用户研究与其他证据先缩小方案。若流量确实不支持精细比较,就应承认不确定性,而不是制造一个看似精确的结论。
规划样本与结果页还需样本不一致,怎么办?
核对基准、MDE、检验方式、版本数与实际数据是否一致。规划和事后观察依据可能不同,不能为了让两者对齐而任意修改原计划,应记录差异并解释原因。
个人微信:ssevening

