Zum Inhalt springen

Auswirkungen der Kontrollgruppe analysieren

Die Seite jeder Kontrollgruppe zeigt, wie Ihr Messaging im Vergleich zu dieser Gruppe abschneidet. Öffnen Sie sie unter Einstellungen > Kontrollgruppen, indem Sie auf die Zeile der Gruppe klicken.

Modus und Daten der Gruppe prüfen

Anchor link to

Unter dem Namen der Gruppe zeigt die Seite die Gruppengröße, den Modus, die Nummer des aktuellen Zyklus und ein Datum an, das vom Modus abhängt:

ModusDatum unter dem NamenBeschriftung der Datumsbereichsauswahl
DauerhaftLäuft seit: das Datum, an dem die Gruppe gestartet wurdeKeine Beschriftung
Automatische AktualisierungZeitraum des aktuellen ZyklusAktueller Zyklus
Experiment mit EnddatumZeitraum des aktuellen ZyklusAktuelles Experiment

Um die Ergebnisse eines früheren Zyklus anzuzeigen, öffnen Sie die Datumsbereichsauswahl und wählen Sie ihn unter Vorherige aus. Beendete Zyklen sind dort nach Nummer als Zyklus oder Experiment aufgeführt. Auch eine dauerhafte Gruppe kann frühere Zyklen haben, da eine Größenänderung, eine Neueingrenzung oder eine Änderung des Modus einen neuen Zyklus startet.

Kopfbereich der Kontrollgruppenseite mit Gruppengröße, Modus und „Läuft seit“ sowie einem Link „Neu berechnen“

Was die Seite vergleicht

Anchor link to

Die Seite hat zwei Blöcke: eine Ereignisvergleichstabelle oben und einen Wirkungsbericht darunter. Beide vergleichen zwei Benutzergruppen bei jedem von Ihnen gewählten Ereignis:

  • Behandlungsgruppe: Benutzer in der Zielgruppe der Gruppe, die nicht in der Kontrollgruppe sind. Sie erhalten weiterhin wie gewohnt Ihre Marketing-Nachrichten (Push, E-Mail, In-App, SMS, WhatsApp).
  • Kontrollgruppe: die oben von Ihnen konfigurierte Holdout-Gruppe. Diese Benutzer sind von Marketing-Nachrichten ausgeschlossen, sodass jeder Unterschied in ihrem Verhalten nicht von Ihren Kampagnen beeinflusst wird.

Beide Gruppen stammen aus der Zielgruppe der Gruppe, die auf der Seite der Gruppe unter Gemessen unter angezeigt wird: Alle Benutzer oder die Benutzer, die heute den Ländern und Tag-Werten der Gruppe entsprechen.

  • Ein Benutzer, dessen Tag-Wert sich ändert, fällt aus der Zählung heraus.
  • Die Daten des aktuellen Zyklus werden einmal täglich aktualisiert. Wenn ein Zyklus endet, erscheinen seine endgültigen Ergebnisse in der Regel innerhalb von 15 Minuten unter Vorherige.
  • Pushwoosh filtert keine der beiden Gruppen auf Benutzer mit einem gültigen Push-Token, einer verifizierten E-Mail oder einem anderen erreichbaren Kanal.

Behandlungs- und Kontrollgruppe stammen aus derselben Benutzermenge, ohne separate Filterung zwischen ihnen.

Ereignisse vergleichen

Anchor link to
  1. Wählen Sie ein Zeitfenster: Letzte 3 Tage, Letzte 7 Tage oder Letzte 30 Tage. Um einen früheren Zyklus zu vergleichen, wählen Sie ihn unter Vorherige aus.

    Das Messfenster wird neu gestartet und frühere Daten werden nicht mehr einbezogen, wenn:

    Daten von vor diesem Zeitpunkt entsprechen nicht mehr den aktuellen Mitgliedern oder der aktuellen Zielgruppe. Beendete Zyklen sind in der Datumsbereichsauswahl unter Vorherige aufgeführt.

  2. Überprüfen Sie die Ereignisvergleichstabelle. Sie zeigt Ereignisse nur dann automatisch an, wenn Sie Konversionsziele in Customer Journey festgelegt haben. Andernfalls ist die Tabelle zunächst leer.

  3. Klicken Sie auf Ereignisse zum Vergleich hinzufügen, um jedes Ereignis hinzuzufügen, das Sie messen möchten. Sie können insgesamt bis zu 10 Ereignisse hinzufügen.

Ereignisvergleichstabelle für den aktuellen Zyklus mit Konv. Kontrolle, Konv. Behandlung, Uplift und Signifikanz für drei Ereignisse

Die Tabelle zeigt diese Metriken für jedes Ereignis:

MetrikWas sie zeigt
Konv. KontrolleDer Anteil der einzigartigen Benutzer, die von Marketing-Nachrichten zurückgehalten wurden und das Ereignis trotzdem mindestens einmal ohne jeglichen Nachrichteneinfluss ausgelöst haben.
Konv. BehandlungDer Anteil der einzigartigen Benutzer, die Ihre Marketing-Nachrichten (Push, E-Mail, In-App, SMS, WhatsApp) erhalten und das Ereignis mindestens einmal ausgelöst haben.
UpliftDer prozentuale Unterschied zwischen den Konversionsraten der Behandlungs- und Kontrollgruppe im Verhältnis zur Kontrollrate. Ein positiver Wert bedeutet, dass die Behandlungsgruppe besser konvertiert hat. Berechnet als (conv. treatment − conv. control) / conv. control × 100%.
SignifikanzOb der Unterschied statistisch zuverlässig ist. Die Status finden Sie in der nächsten Tabelle.
SignifikanzstatusWas er bedeutet
SignifikantDer Uplift ist unwahrscheinlich auf Zufall zurückzuführen.
Nicht signifikantDer Unterschied ist noch nicht statistisch zuverlässig.
Nicht genügend DatenEine der beiden Gruppen hat weniger als 10 Konversionen oder weniger als 10 Nicht-Konversionen für dieses Ereignis, sodass die Signifikanz nicht berechnet werden kann.

Wirkungsbericht anzeigen

Anchor link to

Verwenden Sie das Dropdown-Menü Ereignis anzeigen, um ein Ereignis aus der Tabelle auszuwählen. Der Wirkungsbericht unten zeigt eine detailliertere Aufschlüsselung für dieses Ereignis.

Wirkungsbericht, der Uplift, durch Nachrichten erzielte Konversionen und eine Aufschlüsselungstabelle der Gruppen zeigt

MetrikWas sie zeigt
Uplift (Änderung gegenüber der Kontrolle)Wie stark sich die Konversionsrate der Behandlungsgruppe von der Konversionsrate der Kontrollgruppe unterscheidet. Derselbe Wert wie in der Ereignistabelle.
Durch Messaging erzielte KonversionenDie geschätzte Anzahl zusätzlicher Ereignisse, die Ihre Nachrichten über die ohne Messaging erwartete Anzahl hinaus generiert haben. Der Prozentsatz zeigt sie als Anteil an allen Ereignissen der Behandlungsgruppe. Berechnet als (events per user in treatment − events per user in control) × treatment group size.
SignifikanzOb der Unterschied statistisch zuverlässig ist: Signifikant, Nicht signifikant oder Nicht genügend Daten. Basiert auf Konfidenz und P-Wert.
KonfidenzWie sicher Pushwoosh ist, dass der Uplift einen echten Unterschied und keinen Zufall widerspiegelt, als Prozentsatz. Je höher sie ist, desto stärker der Beweis.
P-WertWie wahrscheinlich dieser Unterschied zufällig auftreten würde, wenn das Messaging keine wirkliche Wirkung hätte. Je niedriger er ist, desto stärker der Beweis.
Z-ScoreWie weit die Leistung der beiden Gruppen auseinanderlag. Nahe 0 könnte der Unterschied zufällig sein. Je weiter von 0 entfernt, desto sicherer können Sie sein, dass eine Gruppe wirklich besser ist.
GruppenaufschlüsselungBehandlung und Kontrolle nebeneinander: Geschätzte Benutzer, Gesamtzahl der Ereignisse, Ereignisse pro Benutzer und Konv.-Rate (einzigartig).

Wie Sie die Ergebnisse lesen

Anchor link to
  • Signifikanter, positiver Uplift: Ihr Messaging treibt dieses Ereignis an. Senden Sie es weiter.
  • Signifikanter, negativer Uplift: Die Kontrollgruppe konvertiert bei diesem Ereignis besser als die Behandlungsgruppe. Bevor Sie schließen, dass das Messaging gegen Sie arbeitet, prüfen Sie, ob dieses Ereignis überhaupt eines ist, das das Messaging antreiben soll.
  • Nicht signifikant: Der Unterschied ist noch nicht zuverlässig, was nicht bedeutet, dass es keine Wirkung gibt. Lassen Sie das Ereignis mehr Konversionen sammeln, bevor Sie es beurteilen.
  • Nicht genügend Daten: Eine der beiden Gruppen hat weniger als 10 Konversionen oder weniger als 10 Nicht-Konversionen für dieses Ereignis. Vergleichen Sie ein Ereignis mit mehr Volumen oder warten Sie, bis es häufiger eintritt.

Zwei weitere Punkte sind zu beachten:

  • Vergleichen Sie innerhalb eines Messfensters. Neumischen, Größenänderung, Neueingrenzung, Änderung des Modus, ein Zykluswechsel der automatischen Aktualisierung oder das Ende eines Experiments startet das Fenster neu. Ergebnisse von vor und nach einem dieser Ereignisse sind nicht vergleichbar.
  • Wählen Sie Ereignisse, die Ihre Kampagnen antreiben sollen, wie z. B. einen Kauf oder eine Registrierung, statt Ereignisse, auf die das Messaging keinen direkten Einfluss hat.