Перейти к содержанию

Контрольные группы

Контрольная группа исключает фиксированную долю ваших пользователей из маркетинговых сообщений в каналах Push, Email, In-App, SMS и WhatsApp. Pushwoosh сравнивает этих пользователей со всеми остальными в вашем приложении, которые продолжают получать кампании, чтобы вы могли измерить, приносят ли ваши сообщения результаты.

Пользователи контрольной группы по-прежнему получают транзакционные сообщения по этим каналам, если вы соответствующим образом установите тип сообщения.

Как работает членство в контрольной группе

Anchor link to

Pushwoosh не хранит список тех, кто входит в контрольную группу. Вместо этого при каждой проверке он объединяет ваше приложение, текущий номер версии группы и User ID, пропускает их через хэш-формулу для получения числа и проверяет, попадает ли это число в установленный вами процент (например, 5%). Если да, пользователь находится в контрольной группе. Если нет, то нет. Поскольку это формула, а не сохраненный список, включение группы сразу же применяется ко всей вашей существующей базе пользователей, а не только к тем, кто зарегистрируется позже.

Результат для каждого пользователя со временем остается неизменным: после назначения пользователь остается в контрольной группе или вне ее, пока вы не переформируете группу, не измените ее размер или не изменится User ID пользователя. Поэтому, если вы отключите группу и снова включите ее позже без переформирования, вы получите точно ту же группу, что и раньше, поскольку сама формула не изменилась.

Как контрольная группа влияет на доставку сообщений

Anchor link to

Членство в контрольной группе блокирует или разрешает сообщения в зависимости от типа сообщения, который вы устанавливаете для каждой отправки.

  • Маркетинговое сообщение: блокируется для пользователей контрольной группы в каналах Push, Email, In-App, SMS и WhatsApp.

  • Транзакционное сообщение: по-прежнему доставляется по этим каналам. Выберите Транзакционное сообщение при создании Customer Journey или отправке разового сообщения.

Выберите Маркетинговое сообщение или Транзакционное сообщение для каждой отправки по этим каналам. См. где задать тип сообщения.

Узнайте больше о маркетинговых и транзакционных сообщениях.

Создание контрольной группы

Anchor link to

Создайте контрольную группу, чтобы начать исключать часть ваших пользователей из маркетинговых сообщений. Control Panel создает одну группу для каждого приложения. Кнопка Новая группа перестает отображаться, как только у вас появится группа.

  1. Перейдите в Настройки > Контрольные группы.
  2. Нажмите Новая группа.

Список контрольных групп без групп и стрелка, указывающая на кнопку «Новая группа»

  1. Установите Размер контрольной группы: доля пользователей, исключаемых из маркетинговых сообщений, от 1% до 20%.

Диалоговое окно новой контрольной группы с полем размера контрольной группы

  1. Нажмите Создать. Группа немедленно начнет исключать своих участников из маркетинговых сообщений.

Управление контрольной группой

Anchor link to

Откройте Настройки > Контрольные группы и щелкните по строке группы, чтобы перейти на ее собственную страницу, где применяются разделы ниже.

Редактирование размера и стран контрольной группы

Anchor link to

Вы можете в любое время настроить размер контрольной группы и страны, которые она исключает, на ее странице.

  1. Нажмите Настройки контрольной группы в правом верхнем углу. Кнопка также показывает текущий процент группы, например Настройки контрольной группы: 10%.
  2. Выберите новый процент:
  • 3% (Максимальный охват): наименьшая группа исключения для чувствительных или высокоценных аудиторий.
  • 5% (Рекомендуется для большинства приложений): оптимизированное сочетание уверенности в измерениях и охвата пользователей.
  • 10% (Более высокая уверенность): большая контрольная группа для более четкой и надежной проверки ROI.
  • Пользовательский (1%–20%): установите пользовательский размер контрольной группы для гибкого измерения.
  1. В поле Страны выберите одну или несколько стран, чтобы ограничить контрольную группу, или оставьте его пустым, чтобы исключать пользователей из всей вашей аудитории.
  2. Нажмите Применить, чтобы подтвердить изменения.

Диалоговое окно настроек контрольной группы с вариантами процентов и полем «Страны», где выбраны Азербайджан и Казахстан

Ограничение контрольной группы по странам

Anchor link to

Ограничение по стране — это вторая проверка для каждого устройства в дополнение к членству в контрольной группе. Установите его в том же диалоговом окне Настройки контрольной группы, описанном в разделе Редактирование размера и стран контрольной группы.

  • Пустое поле «Страны»: каждый пользователь, выбранный процентной формулой, исключается, независимо от местоположения.
  • Непустое поле «Страны»: исключаются только устройства, у которых системный тег Страна совпадает с одной из выбранных стран. Устройство за пределами выбранных стран продолжает получать маркетинговые сообщения, даже если его пользователь был выбран процентной формулой.

Пересчет размера группы

Anchor link to

Размер контрольной группы показывает сохраненное число, которое Pushwoosh обновляет примерно раз в день. Сразу после изменения размера группы или когда в ваше приложение приходит много новых пользователей, это число может быть устаревшим.

Чтобы обновить его немедленно, нажмите Пересчитать рядом с размером группы.

Переформирование контрольной группы

Anchor link to

Переформировать контрольную группу выбирает новый случайный набор пользователей, сохраняя тот же процент. Все, кто в настоящее время находится в группе, покидают ее, и их место занимает другой набор пользователей. Используйте эту функцию, когда одни и те же люди долгое время были исключены из ваших маркетинговых сообщений.

  1. Нажмите меню с тремя точками в правом верхнем углу.
  2. Выберите Переформировать контрольную группу.

Меню с тремя точками с опцией «Переформировать контрольную группу» на странице контрольной группы

  1. Подтвердите в появившемся диалоговом окне.

Экспорт пользователей контрольной группы

Anchor link to

Pushwoosh не присваивает теги пользователям контрольной группы. Экспортируйте с этой страницы для получения разового списка или вызовите CheckControlGroupMembership для программной проверки пакета User ID.

  1. Нажмите меню с тремя точками в правом верхнем углу.
  2. Выберите Экспортировать пользователей.
  3. Когда экспорт завершится, нажмите Скачать CSV, чтобы сохранить файл.

Уведомление о завершении экспорта с кнопкой «Скачать CSV» на странице контрольной группы

Отключение контрольной группы

Anchor link to
  1. Нажмите меню с тремя точками в правом верхнем углу.
  2. Выберите Отключить контрольную группу.

Меню с тремя точками с опцией «Отключить контрольную группу» на странице контрольной группы

Отключение немедленно прекращает исключение пользователей этой группой, и они снова начинают получать маркетинговые сообщения. Если вы снова включите ее позже без переформирования, Pushwoosh воспроизведет точно ту же группу, поскольку членство вычисляется по той же формуле. Чтобы получить другую группу после повторного включения, переформируйте ее.

Удаление контрольной группы

Anchor link to

Удаление контрольной группы навсегда удаляет ее и ее конфигурацию.

  1. Нажмите меню с тремя точками в правом верхнем углу.
  2. Выберите Удалить группу.
  3. Подтвердите в появившемся диалоговом окне. Это действие необратимо.

Анализ влияния контрольной группы

Anchor link to

На странице каждой контрольной группы показано, как ваши сообщения работают по сравнению с этой группой. Страница состоит из двух блоков: таблицы сравнения событий вверху и отчета о влиянии (Impact report) под ней. Оба сравнивают две группы пользователей по любому выбранному вами событию:

  • Основная группа (Treatment group): все пользователи, которые не входят в контрольную группу. Они продолжают получать ваши маркетинговые сообщения (Push, Email, In-App, SMS, WhatsApp) как обычно.
  • Контрольная группа: группа, которую вы настроили выше. Эти пользователи исключены из маркетинговых сообщений, поэтому любое различие в их поведении не зависит от ваших кампаний.

Сравнение событий

Anchor link to
  1. Выберите временной промежуток: Последние 3 дня, Последние 7 дней или Последние 30 дней.
  2. Просмотрите таблицу сравнения событий. Она показывает события автоматически, только если вы установили цели конверсии в Customer Journey. В противном случае таблица изначально пуста.
  3. Нажмите Добавить события для сравнения, чтобы добавить любое событие, которое вы хотите измерить. Вы можете добавить до 10 событий в общей сложности.

Страница контрольной группы с таблицей, сравнивающей события между основной и контрольной группами

Таблица показывает следующие метрики для каждого события:

  • Конв. в основной группе: коэффициент конверсии в основной группе. Это доля уникальных пользователей, которые получили ваши маркетинговые сообщения (Push, Email, In-App, SMS, WhatsApp) и вызвали событие хотя бы один раз.
  • Конв. в контрольной группе: коэффициент конверсии в контрольной группе. Это доля уникальных пользователей, которые были исключены из маркетинговых сообщений и все равно вызвали событие хотя бы один раз, без влияния сообщений.
  • Прирост (Uplift): процентная разница между коэффициентами конверсии основной и контрольной групп относительно коэффициента контрольной группы. Положительное значение означает, что основная группа конвертировалась лучше. Рассчитывается как (конв. в основной группе − конв. в контрольной группе) / конв. в контрольной группе × 100%.
  • Значимость: является ли разница статистически надежной:
    • Значимо: прирост вряд ли является случайным.
    • Незначимо: разница пока не является статистически надежной.
    • Недостаточно данных: в любой из групп менее 10 конверсий или менее 10 не-конверсий для этого события, поэтому значимость не может быть рассчитана.

Просмотр отчета о влиянии (Impact report)

Anchor link to

Используйте выпадающий список Просмотреть событие, чтобы выбрать событие из таблицы. Отчет о влиянии (Impact report) ниже показывает более подробную разбивку для этого события.

Отчет о влиянии, показывающий прирост, конверсии, обусловленные сообщениями, и таблицу разбивки по группам

  • Прирост (Uplift) (изменение по сравнению с контрольной группой): насколько коэффициент конверсии основной группы отличается от коэффициента конверсии контрольной группы. Это то же значение, что и в таблице событий.
  • Конверсии, обусловленные сообщениями: оценочное количество дополнительных событий, сгенерированных вашими сообщениями сверх ожидаемого количества без сообщений. Рассчитывается как (событий на пользователя в основной группе − событий на пользователя в контрольной группе) × размер основной группы. Процент показывает эти дополнительные события как долю всех событий основной группы.
  • Значимость: указывает, является ли измеренная разница статистически надежной. Отчет показывает Значимо, Незначимо или Недостаточно данных, на основе:
    • Доверительный уровень: насколько Pushwoosh уверен, что прирост отражает реальную разницу между основной и контрольной группами, а не случайность, показан в процентах. Чем выше доверительный уровень, тем сильнее доказательства.
    • P-значение: показывает, какова вероятность наблюдать эту разницу случайно, если сообщения не имеют реального эффекта. Более низкое P-значение предоставляет более сильные доказательства того, что разница не случайна.
  • Z-оценка: показывает, насколько далеко друг от друга находятся результаты ваших двух групп. Оценка, близкая к 0, означает, что разница может быть случайной. Чем дальше от 0, тем увереннее вы можете быть в том, что одна группа действительно лучше другой.
  • Разбивка по группам: сравнивает основную и контрольную группы по Оценочному количеству пользователей, Общему количеству событий, Событиям на пользователя и Коэффициенту конверсии (уникальные).

Часто задаваемые вопросы

Anchor link to

Может ли в приложении быть несколько контрольных групп?

Anchor link to

В Control Panel — нет. Для каждого приложения создается одна контрольная группа, которая автоматически применяется к каждой маркетинговой рассылке. Это ограничение интерфейса, а не платформы. Панель не предоставляет способа направить конкретное сообщение на другую группу.

Можно ли удалить контрольную группу?

Anchor link to

Да, из меню с тремя точками на странице группы. Это действие необратимо, и приложение останется без запасного варианта: маркетинговые сообщения будут отправляться всем, пока вы не создадите новую контрольную группу. Чтобы приостановить группу, не теряя ее, отключите ее вместо удаления.

Какие пользователи входят в контрольную группу?

Anchor link to

Pushwoosh не хранит список участников контрольной группы. Он использует формулу — вычисление, которое всегда дает одинаковый ответ при одинаковых входных данных, основанных на вашем приложении, User ID пользователя и текущих настройках группы. Это применяется ко всей вашей существующей базе пользователей в момент включения группы, а не только к новым регистрациям, и результат для данного пользователя каждый раз остается прежним, пока вы не переформируете группу или не измените ее размер.

Получают ли пользователи контрольной группы транзакционные сообщения?

Anchor link to

Да. Транзакционные сообщения (например, сброс пароля, подтверждение заказа) доставляются всем пользователям, включая контрольную группу. Блокируются только маркетинговые сообщения для пользователей контрольной группы.

Где задается тип сообщения: маркетинговое или транзакционное?

Anchor link to

Вы выбираете его везде, где отправляете сообщения. Для каждого канала см. Где задать тип сообщения.

Что происходит с кампаниями, созданными до включения контрольной группы?

Anchor link to

Кампании, созданные до включения контрольной группы, работают точно так же, как и новые: Pushwoosh проверяет тип сообщения кампании во время отправки, а не во время создания.

  • Маркетинговое сообщение (или отсутствие типа сообщения, что может произойти для кампаний, созданных через API): контрольная группа немедленно начинает исключать этих пользователей.
  • Транзакционное сообщение: пользователи контрольной группы продолжают получать его, как и раньше.

Отредактируйте кампанию и установите тип сообщения Транзакционное сообщение, если вы хотите, чтобы оно доходило до всех, включая контрольную группу.

Можно ли изменить размер контрольной группы после ее включения?

Anchor link to

Да. Откройте страницу группы из Настройки > Контрольные группы, нажмите Настройки контрольной группы, выберите новый процент (от 1% до 20%) и нажмите Применить. Pushwoosh пересчитывает членство для всей вашей базы пользователей с учетом нового процента: увеличение группы добавляет пользователей, не удаляя никого из уже находящихся в ней, а уменьшение освобождает некоторых существующих участников. Это может повлиять на сравнение с предыдущими кампаниями, поэтому изменяйте размер только при необходимости.

Можно ли ограничить контрольную группу определенными странами?

Anchor link to

Да. Откройте страницу группы из Настройки > Контрольные группы, нажмите Настройки контрольной группы и установите Страны. Оставьте поле пустым, чтобы исключать пользователей из всей вашей аудитории, или выберите одну или несколько стран, чтобы исключать только устройства в этих странах. Ограничение по стране — это проверка для каждого устройства в дополнение к процентной формуле: она не меняет, кого выбирает формула, а только то, какие из их устройств будут исключены из маркетинга. Изменение Стран перезапускает измерение прироста, так как сравниваемая аудитория меняется.

Что происходит с устройством без данных о стране?

Anchor link to

Оно никогда не исключается, даже если установлены Страны и его пользователь выбран в остальном. Pushwoosh проверяет системный тег Страна устройства на соответствие области действия, и у устройства без этого тега нечего проверять, поэтому оно продолжает получать маркетинговые сообщения.

Что произойдет, если я отключу контрольную группу?

Anchor link to

Pushwoosh перестает исключать пользователей, и все снова начинают получать маркетинговые сообщения. Если вы снова включите контрольную группу позже, не переформировывая ее, вы получите точно ту же группу, потому что членство вычисляется по той же формуле. Чтобы получить другую группу после повторного включения, переформируйте ее.

Что делает функция «Переформировать» (Reshuffle)?

Anchor link to

Переформировать контрольную группу создает совершенно новую случайную выборку с тем же процентом, заменяя текущую контрольную группу другим набором пользователей. Она доступна из меню с тремя точками на странице группы. Используйте ее, когда одни и те же пользователи были исключены из маркетинга в течение длительного времени, и вы хотите получить свежий охват контрольной группы. Переформирование также перезапускает окно измерения для аналитики контрольной группы.

Как посмотреть, какие пользователи находятся в контрольной группе?

Anchor link to

Pushwoosh не присваивает теги пользователям контрольной группы. Откройте страницу группы из Настройки > Контрольные группы, нажмите меню с тремя точками и выберите Экспортировать пользователей, чтобы загрузить CSV-файл с текущими участниками. Чтобы проверить членство программно, вызовите CheckControlGroupMembership с пакетом User ID.

Почему пользователь из контрольной группы все равно может получать маркетинговые сообщения?

Anchor link to

Pushwoosh определяет членство в контрольной группе по User ID. Если у одного и того же человека есть несколько способов связи (например, email, push-устройство), которые не связаны под одним User ID, Pushwoosh рассматривает их как разных пользователей и вычисляет членство для каждого отдельно: один может попасть в контрольную группу, а другой — нет. Способ связи без User ID никогда не исключается, так как Pushwoosh нужен User ID для вычисления членства. Чтобы избежать этого, зарегистрируйте все способы связи с одним и тем же User ID.

Какой процент для контрольной группы выбрать?

Anchor link to

Правильный процент зависит от ваших целей, размера приложения и того, как вы планируете использовать результаты. Меньший процент (например, 3%) оставляет больше пользователей в аудитории и может подойти командам, которые отдают приоритет охвату. Больший процент (например, 10%) может дать более высокую статистическую достоверность при сравнении групп. Вы можете установить Пользовательское значение от 1% до 20% в соответствии с вашими потребностями.

Почему моя контрольная группа не соответствует точно установленному проценту?

Anchor link to

Размер группы, отображаемый на странице, — это фактическое количество пользователей, которое хэш-формула присвоила группе, а не процент, умноженный на количество ваших пользователей. В небольших приложениях это число может заметно отличаться от процента, так как формула распределяет пользователей индивидуально, а не выбирает точную долю. Количество кэшируется и обновляется примерно раз в день; вы можете запустить немедленный пересчет со страницы, который показывает предыдущее количество с индикатором загрузки во время выполнения.

Что означает «Недостаточно данных» в таблице событий?

Anchor link to

Недостаточно данных означает, что в основной или контрольной группе было менее 10 конверсий или менее 10 не-конверсий для этого события в течение выбранного периода времени. Pushwoosh не может определить, является ли разница между группами статистически значимой, пока не будет доступно больше данных.

Как рассчитывается «Прирост (Uplift)»?

Anchor link to

Прирост (Uplift) показывает процентную разницу между коэффициентами конверсии основной и контрольной групп относительно коэффициента контрольной группы. Положительное значение означает, что основная группа конвертировалась лучше. Pushwoosh рассчитывает его как (конв. в основной группе − конв. в контрольной группе) / конв. в контрольной группе × 100%.

Что означает «Конверсии, обусловленные сообщениями»?

Anchor link to

Конверсии, обусловленные сообщениями — это оценочное количество дополнительных событий, сгенерированных вашими сообщениями сверх ожидаемого количества без сообщений. Pushwoosh рассчитывает его как (событий на пользователя в основной группе − событий на пользователя в контрольной группе) × размер основной группы. Процент показывает эти дополнительные события как долю всех событий основной группы.

Какие события я могу сравнивать и сколько?

Anchor link to

Вы можете сравнивать события, настроенные как цели конверсии в Customer Journey. Вы можете добавить до 10 событий в таблицу сравнения. События взаимодействия с сообщениями (например, открытия, клики, отправки, возвраты) исключаются, даже если они установлены в качестве цели, поскольку пользователи контрольной группы никогда не получают маркетинговые сообщения, на которые могли бы отреагировать.