金币减产 A/B 测试:留存差异归因(2026-07-10)

O!Hole · 本测试仅在 Android 投放 · A=0 对照 / B=1 减产 · 数据截至 UTC 2026-07-09 17:10 · 来源 ES france_hole

B 组的次留(D1/D2)差异属于数据波动;D3 起的留存下滑是真实的,分析显示由金币减产导致——在 7/4 重分组前后两批独立用户中形态复现,合并后 D3/D4 统计显著。传导方式以「奖励获得感整体变差的累积效应」为主、「破产后当场放弃」为辅。收入端(发行后台):B 依靠更强的早期变现在首日领先,D2 起被 A 反超,5 日 LTV A $1.994 vs B $1.773——本轮减产配置在留存与收入上均不占优,A 全面胜出。

D1 / D2 差异(B−A)
+1.8 / −3.1pp
置信区间含 0 → 波动,非真实差异
D3 差异(两期合并)
−5.3pp
95%CI [−9.6, −1.1] → 真实,相对 −21~35%
D4 差异(两期合并)
−6.1pp
95%CI [−10.3, −1.8] → 真实,相对 −29~52%
5 日 LTV(发行后台)
$1.99 vs $1.77
B −11%,且差距随天数扩大

0 · 结论的两个层次

① 波动层(D1 / D2)

两期 D1 差 +3.2 / +0.8pp、D2 差 −3.2 / −3.0pp,全部不显著——头两天 B 没有任何真实劣势,看到的差异属于正常波动。

② 真实层(D3+)

两批独立分组用户复现同一形态:D3 −5.3pp、D4 −6.1pp(合并 CI 不含 0),P2 干净期更陡(−8.9 / −11.0pp),且 P2 每个队列日方向一致。

1 · 两批独立用户的留存曲线

7/3 17:00 UTC(北京 7/4 凌晨 1 点)发生玩家重分组(配置不变):原 A 约 24% 换入 B、原 B 约 20% 换回 A,玩家在下次登录落新组。以此把样本切成两段独立实验:P1(重分组前创建,按旧标签)与 P2(重分组后创建,按新标签),组内标记翻转者剔除。

A 对照组(原经济)B 实验组(金币减产)
P1:重分组前用户的留存曲线创建于 6/30 – 7/3 17:00 UTC · A=387 / B=342 · 按重分组前标签
0%10%20%30%40%50%D1D2D3D4D5D6A · D1: 40.1%A · D2: 31.3%A · D3: 23.5%A · D4: 20.2%A · D5: 19.1%A · D6: 16.3%AB · D1: 43.3%B · D2: 28.1%B · D3: 21.9%B · D4: 18.1%B · D5: 15.2%B · D6: 11.1%BD3 起 B 走低但差距小——约 1/4 用户 7/4 被换组,读数被稀释
P2:重分组后用户的留存曲线创建于 7/3 17:00 UTC 之后 · A=568 / B=556 · 按重分组后标签
0%10%20%30%40%50%D1D2D3D4D5A · D1: 38.9%A · D2: 26.5%A · D3: 25.1%A · D4: 21.1%A · D5: 16.9%AB · D1: 39.7%B · D2: 23.5%B · D3: 16.2%B · D4: 10.0%B · D5: 10.5%BD1/D2 持平,D3 起大幅分叉(D5 样本小)
两期合并:B−A 留存差与 95% 置信区间P1、P2 两批独立分组用户按逆方差合并 · 区间不含 0 = 统计显著
-10pp-5pp0pp5pp0 = 两组无差异D1: B−A = +1.8pp, 95%CI [-2.7, +6.2]+1.8ppD1不显著D2: B−A = -3.1pp, 95%CI [-7.4, +1.3]-3.1ppD2不显著D3: B−A = -5.3pp, 95%CI [-9.6, -1.1]-5.3ppD3显著D4: B−A = -6.1pp, 95%CI [-10.3, -1.8]-6.1ppD4显著D5: B−A = -4.7pp, 95%CI [-9.3, -0.1]-4.7ppD5显著
P2 各队列日的 D3 留存:4/4 全部 B 更低* = 落在 7/9 的读数(当日约完成 70%)
0%10%20%30%7/3晚A · 7/3晚: 29.7%B · 7/3晚: 17.9%7/4A · 7/4: 25.3%B · 7/4: 14.1%7/5A · 7/5: 27.6%B · 7/5: 19.2%7/6*A · 7/6*: 19.8%B · 7/6*: 14.0%
P2 各队列日的 D4 留存:3/3 全部 B 更低逐队列方向一致,排除单日买量波动
0%10%20%30%7/3晚A · 7/3晚: 27.0%B · 7/3晚: 15.4%7/4A · 7/4: 20.7%B · 7/4: 8.2%7/5*A · 7/5*: 19.5%B · 7/5*: 9.6%

2 · 归因分析:D3+ 的留存下滑是由金币减产导致的

依据一(排除其它解释):两组为同平台随机分组、买量来源一致,且实测关卡难度与推进(下图到达率、逐关通关率)、体力、会话次数均无差异——两组体验中唯一的系统性差异就是金币配置。随机对照下,显著的组间留存差只能归因于该配置。依据二(配置到行为的完整传导,个体级实测):结算金币 −45%/局 → 余额腰斩 → 过半玩家付不起复活 → 复活响应腰斩、失败局增多 → 留存恰在存量耗尽的 D3 分叉。

A 对照组(原经济)B 实验组(金币减产)
关卡结算金币 / 局(分组标签实测)B 组配置 6/30 生效:单局 22 → 12 金币(约 −45%);A 组全程稳定
061218246/276/286/296/307/17/27/37/47/57/67/77/87/9A · 6/27: 23.5A · 6/28: 22.3A · 6/29: 21.3A · 6/30: 22.6A · 7/1: 22.0A · 7/2: 21.4A · 7/3: 21.3A · 7/4: 21.5A · 7/5: 21.6A · 7/6: 21.2A · 7/7: 21.0A · 7/8: 21.2A · 7/9: 20.8AB · 6/28: 23.3B · 6/29: 22.4B · 6/30: 15.3B · 7/1: 12.3B · 7/2: 12.2B · 7/3: 12.0B · 7/4: 11.9B · 7/5: 12.0B · 7/6: 11.9B · 7/7: 11.7B · 7/8: 11.9B · 7/9: 11.8B
日终金币余额中位数(P2)B 约为 A 的一半,且差距不随天数收敛(900 = 一次金币复活的价格)
045090013501800当日A · 当日: 545545B · 当日: 308308D1A · D1: 12441244B · D1: 784784D2A · D2: 15231523B · D2: 871871D3A · D3: 14471447B · D3: 833833D4A · D4: 16231623B · D4: 10301030
「付不起一次复活」玩家占比(日终余额 < 900,P2)B 组从 D1 起过半玩家处于破产状态(P1 复现:D1 63%/39%)
0%25%50%75%100%当日A · 当日: 72%72B · 当日: 86%86D1A · D1: 35%35B · D1: 62%62D2A · D2: 29%29B · D2: 53%53D3A · D3: 32%32B · D3: 56%56D4A · D4: 25%25B · D4: 48%48
每次失败后的复活率(P2)超出每日 1 次免费广告复活后,续命只能花金币——B 的复活响应腰斩
00112当日A · 当日: 1.221.22B · 当日: 0.500.50D1A · D1: 0.830.83B · D1: 0.530.53D2A · D2: 1.281.28B · D2: 0.490.49D3A · D3: 1.221.22B · D3: 0.610.61
以失败告终的局数 / 人(P2)少了金币续命,B 更多对局以失败收场
01122当日A · 当日: 0.330.33B · 当日: 0.470.47D1A · D1: 1.651.65B · D1: 1.981.98D2A · D2: 1.391.39B · D2: 1.911.91D3A · D3: 1.751.75B · D3: 1.521.52
首日关卡推进(P2):两组完全一致到达率——难度与内容体验无差异,排除「B 更难」的解释
0%25%50%75%100%通过第5关A · 通过第5关: 87.5%87.5B · 通过第5关: 87.9%87.9通过第12关A · 通过第12关: 73.2%73.2B · 通过第12关: 74.3%74.3通过第20关A · 通过第20关: 48.8%48.8B · 通过第20关: 49.5%49.5
通关局数 / 人(P2 活跃玩家)D2 起 B 的推进节奏放缓
05101520当日A · 当日: 18.118.1B · 当日: 18.518.5D1A · D1: 15.115.1B · D1: 16.316.3D2A · D2: 14.214.2B · D2: 12.912.9D3A · D3: 14.714.7B · D3: 9.39.3

3 · 传导的具体方式:累积效应为主,急性破产为辅

时间吻合:B 的余额在 D1-D2 跌破「一次复活」线(破产率 62%/53% vs A 35%/29%),留存正好在 D3 分叉。但个体层面的拆解显示,「死亡当场没钱→放弃」只是次要路径:

A 对照组(原经济)B 实验组(金币减产)
次日流失率:按当天最后一局的结果分(P2,D1-D2 合并)关键证据:B 连「以通关收尾」的玩家流失率也远高于 A —— 是累积性奖励体验变差,不是单次挫败
0%20%40%60%最后一局=通关A · 最后一局=通关: 39%39B · 最后一局=通关: 58%58最后一局=失败A · 最后一局=失败: 46%46B · 最后一局=失败: 46%46A n=174/28 · B n=164/37
激励视频完成次数 / 活跃玩家·日(P2)口径:event 223 仅计完成(step 1002);覆盖结算双倍/额外奖励/广告复活/商店等激励位,插屏不经服务器、ES 不可见
025810当日A · 当日: 5.85.8B · 当日: 5.95.9D1A · D1: 7.77.7B · D1: 7.87.8D2A · D2: 7.07.0B · D2: 6.96.9D3A · D3: 6.76.7B · D3: 5.75.7B 略高(结算双倍 d0-d2 +3~8%、广告复活 +20~45%)——与发行后台激励播放方向一致;D3 B 样本小(45人)
破产状态与次日流失(P2,D1→D2)破产玩家在两组都更易流失;结构分解:B 的破产占比高出 36pp,可解释其超额流失的约 22%
组 · 日终余额次日流失率样本
A · ≥900(付得起复活)40%97
A · <900(破产)54%37
B · ≥90053%55
B · <900(破产)61%96

读法:破产使流失 +8~14pp(两组方向一致,P1 复现);但 B 即使非破产、甚至当天通关收尾(左图 58% vs 39%),流失也系统性偏高 → 主体机制是金币获得速度砍半后,奖励获得感 / 成长反馈整体变差的累积流失,破产瞬间只是其中最尖锐的表现。

行为补偿:B 组更依赖激励视频金币缺口推着 B 玩家去看更多激励位

按「仅完成」口径重算后,B 组每活跃日的激励视频完成次数略高于 A:结算双倍金币 d0-d2 高 3~8%(4.85/6.60/5.94 vs 4.50/6.23/5.74 次/人),广告复活高 20~45%(受每天 1 次上限限制:0.25/0.43/0.45 vs 0.17/0.42/0.37 次/人)。这与发行后台「B 激励广告播放更多」的方向一致。注意 ES 只覆盖发奖励的激励视频,插屏广告与广告收入均不在 ES 可见范围,以发行后台为准。

4 · IAP 付费

IAP 付费(event 205)付费率无显著差异;人均金额被个别大 R 主导、两期方向相反,不能作为结论
期 · 组付费率付费者订单人均金额*
P1 · A4.9%192846.4
P1 · B5.3%18107148.8 → 剔最大 R 后 64.5
P2 · A4.0%235864.7 → 剔最大 R 后 55.2
P2 · B4.5%253246.7 → 剔最大 R 后 40.6

* 后台原始金额单位。P1-B 表面碾压完全来自单个大 R(占该组总额 57%)。商店金币直购人数两组几乎相同(16~22 人)——「减产逼玩家买金币」的信号没有出现。发行后台的内购 LTV(下一节)同样是 A 更高。

5 · 发行后台数据验证:留存交叉一致,LTV 也是 A 更高

发行后台(SayHeracles)7/4–7/8 新增队列,Android / US / Google Play,1.1.8.1=A(n=448)/ 1.1.8.2=B(n=443)。两点:① 留存与 ES 端独立分析交叉一致;② 补上了 ES 看不到的收入端——B 的变现强度确实更高(首日插屏 5.97 vs 5.57 次/人、广告 LTV 前 2 日领先),但留存塌陷让「变现更狠」变成了「人没留住」,累计 LTV 在 D2 被 A 反超且差距持续扩大。

A 对照组(原经济)B 实验组(金币减产)
累计 LTV / 用户(发行后台,7/4–7/8 队列)B 靠更强的早期变现在首日领先;D2 起 A 反超并持续拉开——留存塌陷吃掉了变现优势 · 5日 A $1.994 vs B $1.773(B −11%)
$0.0$0.5$1.0$1.5$2.0≈D2 A 反超3H6H12H1D2D3D4D5DA · 3H: 0.696$A · 6H: 0.863$A · 12H: 1.053$A · 1D: 1.357$A · 2D: 1.705$A · 3D: 1.903$A · 4D: 1.977$A · 5D: 1.994$AB · 3H: 0.874$B · 6H: 0.976$B · 12H: 1.087$B · 1D: 1.363$B · 2D: 1.614$B · 3D: 1.747$B · 4D: 1.768$B · 5D: 1.773$B
发行后台留存(7/4–7/8 队列):与 ES 端交叉一致D1/D2 持平、D3 起 B 显著走低——两套独立口径同一结论
0%10%20%30%40%D1A · D1: 37.7%37.7B · D1: 38.8%38.8D2A · D2: 23.4%23.4B · D2: 21.9%21.9D3A · D3: 19.0%19.0B · D3: 14.6%14.6D4*A · D4*: 12.5%12.5B · D4*: 6.8%6.8D5*A · D5*: 5.5%5.5B · D5*: 1.5%1.5* D4/D5 仅最早队列贡献(观察窗右删失),看方向勿看绝对值
广告 LTV / 用户(发行后台)B 前 2 日领先(1D $1.116 vs $1.083,插屏更多);3D 起被 A 反超,5日 $1.431 vs $1.484
$0.0$0.4$0.8$1.2$1.63D A 反超3H6H12H1D2D3D4D5DA · 3H: 0.571$A · 6H: 0.676$A · 12H: 0.841$A · 1D: 1.083$A · 2D: 1.288$A · 3D: 1.411$A · 4D: 1.47$A · 5D: 1.484$AB · 3H: 0.683$B · 6H: 0.764$B · 12H: 0.854$B · 1D: 1.116$B · 2D: 1.328$B · 3D: 1.405$B · 4D: 1.426$B · 5D: 1.431$B
内购 LTV / 用户(发行后台)D1 起 A 领先且持续扩大:5日 $0.510 vs $0.342(B −33%)
$0.0$0.2$0.4$0.63H6H12H1D2D3D4D5DA · 3H: 0.125$A · 6H: 0.187$A · 12H: 0.212$A · 1D: 0.274$A · 2D: 0.418$A · 3D: 0.491$A · 4D: 0.507$A · 5D: 0.51$AB · 3H: 0.191$B · 6H: 0.213$B · 12H: 0.233$B · 1D: 0.248$B · 2D: 0.285$B · 3D: 0.342$B · 4D: 0.342$B · 5D: 0.342$B
关键读数(5 日累计 / 用户)发行后台原值
指标A (1.1.8.1)B (1.1.8.2)B−A
总 LTV$1.994$1.773−11.1%
广告 LTV$1.484$1.431−3.6%(前 2 日 B 领先,3D 反超)
内购 LTV$0.510$0.342−33%
插屏 / 人8.488.50≈持平(首日 B +7%)
激励 / 人1.131.04−8%(队列人均口径)

激励次数两个口径不矛盾:按「活跃日人均」B 略高(第 3 节,看得更勤),按「队列全体人均」B 略低(存活的人更少)。这正是 B 的问题的缩影——单个玩家被榨得更狠,但盘子在缩小。

6 · 初步判定

留存:A 更好(确定)

B 的 D3/D4 真实低 5~6pp(相对 −25~50%),分析显示由金币减产导致,非波动;ES 与发行后台交叉一致。

收入:A 更好(5 日口径)

B 早期变现领先,但 D2 起总 LTV 被 A 反超:5 日 −11%(广告 −3.6%、内购 −33%),且差距随天数扩大——变现优势没能覆盖留存损失。

若保留减产方向

问题集中在「D1-D2 余额跌破复活线 + 奖励节奏变差」:可以给玩家提供更多通过观看广告获得复活的机会(目前每天仅 1 次,可增加次数),或对 D1-D3 新用户保护早期产出,而非全线回调。