实验框架
标准化实验如何提、优先、跑和学,使团队复利知识而非重复工作。
为什么
无框架实验是即兴 — 某人跑测结果活在 Slack 线程 6 月后另一人重跑同测因学习丢了。框架(实验模板、优先级分、中心日志、学习档)把每实验变永久资产:假设、结果、学习可搜,团队建在有效之上而非重发现。优先级分(ICE:影响 × 信心 × 易)防团队花 3 周低影响实验而高影响等。框架还强制统计严谨(预注册样本量、停条件)防污 染学习档的假阳性。框架产出非赢 — 是任何新团队成员可执行的已证实假设剧本。
何时使用
团队月跑 2+ 实验时。扩实验前采纳框架;后补痛苦。
如何做
1. 建实验模板:假设、主指标、护栏、预期效应、样本量、停日、负责人 2. 建中心实验日志(Notion、Airtable 或仓)每实验上线前注册 3. 用 ICE 分优先:影响(1-10,动指标多少?)× 信心(1-10,多确定?)× 易(1-10,多快发?) 4. 按优先序跑;每团队同时不超 2-3(上下文切换杀吞吐) 5. 停日分类:赢(效应证实)、输(效应证伪)、无定论(功效不足或无效应) 6. 每实验写 3 句学习:测了什么、发生什么、告诉我们关于用户什么 7. 证实假设加剧本(可搜、按漏斗阶段和指标标);证伪归档防重试 8. 季审框架:实验按时发吗?学习档被用吗?假阳性可控吗?
示例
# 实验模板(预注册) 假设:"新手引导第 2 步加进度条将使激活升 5% ± 2%, 因用户目前不知剩几步而流失。" 主指标:activation_rate | 护栏:signup_conv、time_to_aha 预期效应:+5% | 样本量:6,000/臂 | 停:2026-11-15 ICE 分:7 × 6 × 8 = 336 | 负责:@alice # 中心日志(ICE 优先队列) 排名 | 实验 | ICE | 状态 1 | 新手引导进度条 | 336 | 跑 2 | 存时推荐触发 | 280 | 下 3 | 定价页 A/B | 252 | 排 4 | 邮件主题测 | 90 | 排(低影响) # 学习档(可搜,标) 标:[激活、新手引导]"第 2 步进度条:+4.2% 激活 [CI +2.1 至 +6.3]。用户因不见终点而流失。 → 剧本:多步流总显进度。" # 季审 已发实验:14(目标 12)✓ 学习档查阅:23(团队在用)✓ 假阳性:1(可控)✓
常见问题
- ⚠无中心日志实验活 Slack 线程学习丢;6 月后同测重跑。
- ⚠凭直觉或谁喊最响优先,团队花 3 周低影响测而高影响等。
- ⚠无定论实验不写学习;"无定论"是结果原因(功效不足 vs 无效应)是学习。
- ⚠每团队同时跑 10 实验;上下文切换杀吞吐且结果低质。
最佳实践
- ✓每实验在中心日志预注册带假设、样本量、停日;此使学习永久。
- ✓用 ICE(影响 × 信心 × 易)优先;防 3 周低影响测而高影响等。
- ✓每实验含无定论写 3 句学习;无定论原因本身是学习。
- ✓每团队同时实验限 2-3;上下文切换杀吞吐降每跑实验。