跳到内容

Uplift 报告

Uplift 报告显示营销活动或 journey 本身带来了什么效果。它将收到消息的用户与 holdout 进行比较(holdout 是您有意留出、不让其收到消息的一组用户),并显示第一组用户达成目标的频率高出多少。

只有当您发送营销活动时设置了 holdout(即您留出的一部分收件人),该营销活动才会出现在报告中。您的开发人员可以在 Messaging API 中通过 holdout_percentage 参数进行设置,取值范围为 1 到 20。journey 中包含的每个 Holdout Split 节点都会在报告中各占一项。

如何获取报告

Anchor link to
  • Journey:打开 journey 的 Holdout Split 节点。它会在 Control Panel 中显示 Goal uplift vs holdout。
  • 营销活动:您只能以 CSV 文件的形式获取报告。导出通过 API 进行,因此请让您的开发人员运行导出。请向他们提供日期范围(最长 90 天),如果只需要其中一个,还需提供具体的营销活动或 journey。如果不指定,文件将涵盖该应用的所有营销活动和 journey。文件中包含的内容

控制组在 Settings 中有自己的影响报告。它衡量的是应用的控制组,而不是单个营销活动或 journey。

什么算作实验组和控制组

Anchor link to

报告比较两组用户:实验组(treatment),即收到消息的用户;控制组(control),即 holdout,未收到消息的用户。

实验组控制组
营销活动所有被发送了该营销活动的收件人。所有被 holdout 阻止收到该营销活动的收件人,与应用的控制组相同。
Journey所有通过 Holdout Split 节点进入 In journey 分支的用户。所有被路由到该节点 Holdout 分支的用户。

没有 User ID 的用户和收件人不会被计入任何一组,因为没有 User ID,Pushwoosh 无法判断他们属于哪一组,也无法将他们与转化匹配。

目标和归因窗口

Anchor link to

营销活动:目标和归因窗口(发送后多长时间内的转化仍会被计入)来自应用的转化目标。如果配置了多个,报告会使用其中最短的归因窗口,这样一次发送永远不会被归功于一次遥远且无关的转化。

Journey:目标是 journey 自身的 Goal 节点,窗口是 journey 的转化周期设置(如果 journey 未设置,则为 7 天)。窗口从每个用户通过 Holdout Split 节点时开始计算,因为 holdout 用户永远不会收到可作为起点的发送。

两者都会将消息互动事件(打开、点击等)排除在目标之外。holdout 组从未收到可以响应的消息,因此计入互动只能说明消息已发出,而不能说明它带来了什么效果。控制组分析出于同样的原因也排除了这些事件。

报告中的指标

Anchor link to
指标含义
Uplift %实验组与控制组转化率之间的百分比差异,相对于控制组转化率计算。与应用控制组的 Uplift 使用相同的公式。
Incremental events估算实验组产生的事件比按控制组人均水平预期的多出多少,按所有实验组用户计算。与消息驱动的转化使用相同的公式。
% of treatmentIncremental events 占实验组产生的所有事件的比例。
Z-score, P-value, Confidence %Confidence % 表示报告对两组之间的差距并非偶然有多大把握:数值越高,结果越可信。Z-score 和 P-value 是其背后的统计量,来自应用控制组所使用的同一检验。
SignificanceSignificant、Not significant 或 Not enough data。Significant 表示 Confidence % 高于 95%。它是双向的:显著为负的 Uplift % 表示该消息降低了转化率。当任一组的转化少于 10 个或未转化少于 10 个时,显示为数据不足。
Treatment revenue / Control revenue每组在报告目标事件上带来的收入,按货币分别统计。
Incremental revenueIncremental events 的金额版本:实验组与控制组之间人均收入的差异,按所有实验组用户、按货币计算。
Revenue tracked该事件的收入来源是否确实经过配置,而不是推测得出。请参阅报告中的收入。

例如,一个 journey 向 90,000 名用户发送欢迎消息,并留出 10,000 名用户。在 In journey 组中,有 4,500 名用户达成目标(5%)。在 Holdout 组中,有 400 名用户达成目标(4%)。报告显示:

指标值
Uplift %25%,因为 5% 比 4% 多四分之一
SignificanceSignificant,因为在如此大的组中,这一差距不太可能是偶然的

导出文件中包含的内容

Anchor link to

文件的每一行对应一个营销活动或 journey 的一个 Holdout Split 节点,针对一个目标事件。每一行包含:

  • 营销活动或 journey 以及目标事件;
  • 每组的用户数和转化数;
  • 上表中的指标;
  • 每种货币的收入。

对于每个营销活动、Holdout Split 节点和目标事件,文件包含您所选日期范围内最新的每日计算结果。请参阅报告可以回溯多久。

对于上面示例中的 journey,主要列如下所示:

列示例含义
owner_typeTYPE_JOURNEY该行关于 journey,而不是营销活动。
event_namepurchase目标事件。
treatment_users90000In journey 组中的用户。
control_users10000Holdout 组中的用户。
treatment_conversions4500In journey 组中达成目标的用户。
control_conversions400Holdout 组中达成目标的用户。
uplift_pct25.00Uplift %。
significanceTYPE_SIGNIFICANTSignificant。

报告中的收入

Anchor link to

实验组收入、控制组收入和增量收入的计算,使用与报告中转化数字相同的目标事件、相同的用户和相同的归因窗口。

收入按货币分别统计,从不换算

Anchor link to

收入不会在货币之间换算,因为 Pushwoosh 只保存当天的汇率,用当天的汇率换算较早窗口内的收入只能是猜测。Treatment revenue、Control revenue 和 Incremental revenue 各自按每种货币保存一个金额,而不是一个合并的总额。来自未指定货币的事件的收入列在 unknown 下。

Revenue tracked 告诉您收入来源是否已配置

Anchor link to

Revenue tracked 显示是否为目标事件设置了收入,这样从未设置收入的应用会显示为未衡量,而不是零收入。

Pushwoosh 按以下顺序从三个位置读取事件的收入:

  1. 内置 PW_Conversion 事件自身的 value 和 currency 字段。
  2. 您为该事件配置的事件收入映射。
  3. 如果以上两者都不适用,则使用事件上旧版的 __amount 和 __currency 属性。

只有前两种来源才会开启 Revenue tracked。对于第三种来源,报告仍会显示金额,但不开启该标志,因为没有人为该事件配置收入。

报告何时更新

Anchor link to

报告不是实时的。它每天在 UTC 时间 01:30 重新计算一次,因此今天发送的营销活动或今天通过的 journey 节点会在明天出现在报告中。

只有包含至少一个 Goal 节点且正在运行的 journey 才会被重新计算。journey 停止后,Holdout Split 节点会继续显示其最后的数字。

报告可以回溯多久

Anchor link to

每次每日计算会统计大约最近 45 天内的营销活动发送,以及最近 180 天内的 Holdout Split 通过记录。更早的发送和通过记录会在下一次计算中被剔除,因此营销活动在发送约 45 天后便不再被重新计算。

Pushwoosh 会将每次每日计算的结果保留 90 天。Holdout Split 节点显示最新的一次。导出显示您指定日期范围内最新的一次,因此针对两个月前日期的导出会显示当时的数字,涵盖那之前的发送和通过记录。