超级文档
A/B实验记录
登录
免费注册 / 登录

A/B实验记录

产品:行政通
实验负责人:陈静
实验周期:9月2日至9月15日
记录日期:0000-00-00
结论:实验组提交率高 6.4 个百分点,全量采用「立即预订」

一、实验背景

行政通供员工在浏览器里订会议室、请假、登记访客和领用办公用品。会议室页底部主按钮原本文案是「预订」。周敏在 8月28日 陪同市场部同事走查时看到,李婷看完三楼空闲时段后会停两到三秒,并询问点下去是否立刻占住房间。

陈静据此把按钮文案列为一次对照实验,只改这一个控件的文字,页面结构、颜色和提交接口保持原样。实验范围是总部办公点已开通账号的员工,分布在产品研发中心、市场部和财务部。

总部现有会议室 12 间,分布在二楼、三楼和四楼。试点前一周台账上的预订有 214 次,其中 47 次在订完之后又到行政台前确认是否占住。陈静把这类确认次数留给周敏在实验结束后继续登记,用来对照文案改完之后员工是否还要再问一遍。

二、假设与指标

假设员工看到「立即预订」后,能理解这一步就会占住所选时段,从而更愿意完成提交。主指标是会议室页提交率,按当日成功提交次数除以当日会议室页访问次数计算。

  1. 主指标相对对照组提升达到 3 个百分点,实验视为成立。
  2. 护栏一:提交后 10 分钟内取消的比例,实验组相对对照组升高需控制在 2 个百分点以内。
  3. 护栏二:因时段冲突被系统拦住的比例,两组相差需控制在 1 个百分点以内。
  4. 陈静在 9月1日 把三条口径写进实验单,刘洋按同一口径出数。

三、方案与分流

对照组按钮维持「预订」,实验组改为「立即预订」。两组按钮都放在页面底部,尺寸、蓝色主样式和点击后的校验顺序一致。

  1. 账号按工号奇偶分流,奇数进入实验组,偶数留在对照组,14 天内固定不变。
  2. 实验于 9月2日 0 点开启,于 9月15日 24 点结束。
  3. 刘洋在 9月1日 核对分流日志,两组读取的都是同一套会议室占用数据。
  4. 实验期间周敏暂停向员工口头解释按钮含义,避免把说明做成额外变量。

四、实验结果

14 天内对照组 322 人产生会议室页访问 1,486 次、成功提交 591 次,提交率 39.8%。实验组 318 人产生访问 1,452 次、成功提交 671 次,提交率 46.2%。张伟在 9月16日 复核日志,剔除 11 条重复点击后,差值仍为 6.4 个百分点。

五、结论与上线

主指标超过预设的 3 个百分点,两条护栏都留在界限内,实验成立。陈静在 9月16日 决定全量改用「立即预订」。

  1. 刘洋在 9月18日 10 点完成全量切换,对照组员工打开页面后看到的已是新文案。
  2. 周敏当天抽问市场部 8 位同事,其中 7 位能说出按钮表示立刻占住房间。
  3. 张伟把新文案补进会议室页的界面标注,并在 9月18日 下班前交给陈静归档。
  4. 取消率只上升 0.5 个百分点,本期保留提交后 10 分钟内可自行取消的规则。