ข้ามไปยังเนื้อหา

วิเคราะห์ผลกระทบของกลุ่มควบคุม

หน้าของแต่ละกลุ่มควบคุมจะแสดงให้เห็นว่าการส่งข้อความของคุณมีประสิทธิภาพเป็นอย่างไรเมื่อเทียบกับกลุ่มนั้น เปิดหน้าได้จาก Settings > Control groups โดยคลิกที่แถวของกลุ่ม

ตรวจสอบโหมดและวันที่ของกลุ่ม

Anchor link to

ใต้ชื่อกลุ่ม หน้าจะแสดง Group size, Mode, หมายเลขของ Cycle ปัจจุบัน และวันที่ซึ่งขึ้นอยู่กับโหมด:

โหมดวันที่ใต้ชื่อกลุ่มป้ายกำกับของตัวเลือกช่วงวันที่
PermanentRunning since: วันที่กลุ่มเริ่มทำงานไม่มีป้ายกำกับ
Auto-refreshRange ของรอบปัจจุบันCurrent cycle
Experiment with an end dateRange ของรอบปัจจุบันCurrent experiment

หากต้องการดูผลลัพธ์ของรอบก่อนหน้า ให้เปิดตัวเลือกช่วงวันที่และเลือกรอบนั้นใต้ Previous รอบที่สิ้นสุดแล้วจะแสดงตามหมายเลขเป็น Cycle หรือ Experiment กลุ่มแบบ Permanent ก็อาจมีรอบก่อนหน้าได้เช่นกัน เนื่องจากการปรับขนาด การกำหนดขอบเขตใหม่ หรือการเปลี่ยนโหมดจะเริ่มรอบใหม่

ส่วนหัวของหน้ากลุ่มควบคุมที่แสดง Group size, Mode และ Running since พร้อมลิงก์ Recalculate

สิ่งที่หน้านี้เปรียบเทียบ

Anchor link to

หน้านี้มีสองส่วน: ตารางเปรียบเทียบเหตุการณ์ที่ด้านบนและ Impact report ด้านล่าง ทั้งสองส่วนเปรียบเทียบผู้ใช้สองกลุ่มในเหตุการณ์ใดๆ ที่คุณเลือก:

  • Treatment group: ผู้ใช้ในผู้ชมของกลุ่มที่ไม่ได้อยู่ในกลุ่มควบคุม พวกเขาจะยังคงได้รับข้อความทางการตลาดของคุณ (Push, Email, In-App, SMS, WhatsApp) ตามปกติ
  • Control group: กลุ่มที่กันไว้ที่คุณกำหนดค่าไว้ ผู้ใช้เหล่านี้จะถูกยกเว้นจากข้อความทางการตลาด ดังนั้นความแตกต่างใดๆ ในพฤติกรรมของพวกเขาจึงไม่ได้รับอิทธิพลจากแคมเปญของคุณ

ทั้งสองกลุ่มถูกดึงมาจากผู้ชมของกลุ่ม ซึ่งแสดงใน Measured among ในหน้าของกลุ่ม: All users หรือผู้ใช้ที่ตรงกับประเทศและค่าแท็กของกลุ่มในปัจจุบัน

  • ผู้ใช้ที่ค่าแท็กเปลี่ยนไปจะไม่ถูกนับอีกต่อไป
  • ข้อมูลของรอบปัจจุบันจะอัปเดตวันละครั้ง เมื่อรอบสิ้นสุดลง ผลลัพธ์สุดท้ายของรอบนั้นมักจะปรากฏใต้ Previous ภายใน 15 นาที
  • Pushwoosh ไม่ได้กรองกลุ่มใดกลุ่มหนึ่งให้เหลือเฉพาะผู้ใช้ที่มี push token ที่ถูกต้อง อีเมลที่ตรวจสอบแล้ว หรือช่องทางที่เข้าถึงได้อื่นๆ

กลุ่ม treatment และ control มาจากผู้ใช้ชุดเดียวกัน โดยไม่มีการกรองแยกต่างหากระหว่างกัน

เปรียบเทียบเหตุการณ์

Anchor link to
  1. เลือกช่วงเวลา: Last 3 days, Last 7 days หรือ Last 30 days หากต้องการเปรียบเทียบรอบก่อนหน้า ให้เลือกรอบนั้นใต้ Previous

    หน้าต่างการวัดผลจะเริ่มต้นใหม่ และข้อมูลก่อนหน้าจะไม่ถูกรวมอีกต่อไป เมื่อ:

    ข้อมูลจากก่อนจุดนั้นจะไม่ตรงกับสมาชิกหรือผู้ชมปัจจุบันอีกต่อไป รอบที่สิ้นสุดแล้วจะแสดงอยู่ใต้ Previous ในตัวเลือกช่วงวันที่

  2. ตรวจสอบตารางเปรียบเทียบเหตุการณ์ ตารางจะแสดงเหตุการณ์โดยอัตโนมัติก็ต่อเมื่อคุณได้ตั้งค่า Conversion Goals ใน Customer Journey เท่านั้น มิฉะนั้นตารางจะว่างเปล่าในตอนเริ่มต้น

  3. คลิก Add events to compare เพื่อเพิ่มเหตุการณ์ใดๆ ที่คุณต้องการวัดผล คุณสามารถเพิ่มได้สูงสุด 10 เหตุการณ์

ตารางเปรียบเทียบเหตุการณ์ของรอบปัจจุบัน แสดง Conv. Control, Conv. Treatment, Uplift และ Significance ของสามเหตุการณ์

ตารางจะแสดงเมตริกเหล่านี้สำหรับแต่ละเหตุการณ์:

เมตริกสิ่งที่แสดง
Conv. Controlสัดส่วนของผู้ใช้ที่ไม่ซ้ำกันที่ถูกกันออกจากข้อความทางการตลาดแต่ยังคงทำให้เกิดเหตุการณ์อย่างน้อยหนึ่งครั้ง โดยไม่มีอิทธิพลจากการส่งข้อความ
Conv. Treatmentสัดส่วนของผู้ใช้ที่ไม่ซ้ำกันที่ได้รับข้อความทางการตลาดของคุณ (Push, Email, In-App, SMS, WhatsApp) และทำให้เกิดเหตุการณ์อย่างน้อยหนึ่งครั้ง
Upliftความแตกต่างเป็นเปอร์เซ็นต์ระหว่างอัตราคอนเวอร์ชันของกลุ่ม treatment และ control เทียบกับอัตราของกลุ่ม control ค่าบวกหมายความว่ากลุ่ม treatment มีคอนเวอร์ชันดีกว่า คำนวณเป็น (conv. treatment − conv. control) / conv. control × 100%
Significanceความแตกต่างนั้นน่าเชื่อถือทางสถิติหรือไม่ ดูสถานะต่างๆ ในตารางถัดไป
สถานะ Significanceความหมาย
Significantuplift ไม่น่าจะเกิดจากความบังเอิญ
Not significantความแตกต่างยังไม่น่าเชื่อถือทางสถิติ
Not enough dataกลุ่มใดกลุ่มหนึ่งมีคอนเวอร์ชันน้อยกว่า 10 ครั้ง หรือมีผู้ที่ไม่เกิดคอนเวอร์ชันน้อยกว่า 10 ครั้งสำหรับเหตุการณ์นี้ ดังนั้นจึงไม่สามารถคำนวณนัยสำคัญได้

ดูรายงานผลกระทบ (Impact report)

Anchor link to

ใช้เมนู View event เพื่อเลือกเหตุการณ์จากตาราง Impact report ด้านล่างจะแสดงรายละเอียดที่ลึกซึ้งยิ่งขึ้นสำหรับเหตุการณ์นั้น

รายงาน Impact ที่แสดง uplift, conversions driven by messaging และตารางแยกตามกลุ่ม

เมตริกสิ่งที่แสดง
Uplift (change from control)อัตราคอนเวอร์ชันของกลุ่ม treatment แตกต่างจากอัตราคอนเวอร์ชันของกลุ่ม control มากน้อยเพียงใด เป็นค่าเดียวกับที่แสดงในตารางเหตุการณ์
Conversions driven by messagingจำนวนเหตุการณ์เพิ่มเติมโดยประมาณที่เกิดจากข้อความของคุณ นอกเหนือจากจำนวนที่คาดว่าจะเกิดขึ้นหากไม่มีการส่งข้อความ เปอร์เซ็นต์จะแสดงเหตุการณ์เพิ่มเติมเหล่านี้เป็นสัดส่วนของเหตุการณ์ทั้งหมดในกลุ่ม treatment คำนวณเป็น (events per user in treatment − events per user in control) × treatment group size
Significanceความแตกต่างนั้นน่าเชื่อถือทางสถิติหรือไม่: Significant, Not significant หรือ Not enough data โดยอิงจาก Confidence และ P-value
ConfidencePushwoosh มั่นใจแค่ไหนว่า uplift สะท้อนถึงความแตกต่างที่แท้จริงแทนที่จะเป็นความบังเอิญ แสดงเป็นเปอร์เซ็นต์ ยิ่งสูง หลักฐานก็ยิ่งแข็งแกร่ง
P-valueความน่าจะเป็นที่ความแตกต่างนี้จะปรากฏขึ้นโดยบังเอิญหากการส่งข้อความไม่มีผลจริง ยิ่งต่ำ หลักฐานก็ยิ่งแข็งแกร่ง
Z-scoreประสิทธิภาพของสองกลุ่มห่างกันแค่ไหน หากใกล้เคียงกับ 0 ความแตกต่างอาจเป็นเรื่องสุ่ม ยิ่งห่างจาก 0 มากเท่าไหร่ คุณก็ยิ่งมั่นใจได้ว่ากลุ่มหนึ่งดีกว่าอีกกลุ่มหนึ่ง
Group breakdownกลุ่ม Treatment และ Control แสดงเคียงข้างกัน: Estimated users, Total number of events, Events per user และ Conv. rate (unique)

วิธีอ่านผลลัพธ์

Anchor link to
  • Significant และ Uplift เป็นบวก: การส่งข้อความของคุณกำลังผลักดันเหตุการณ์นี้ ส่งต่อไป
  • Significant และ Uplift เป็นลบ: กลุ่มควบคุมมีคอนเวอร์ชันดีกว่ากลุ่ม treatment ในเหตุการณ์นี้ ก่อนสรุปว่าการส่งข้อความส่งผลเสียต่อคุณ ให้ตรวจสอบว่าเหตุการณ์นี้เป็นเหตุการณ์ที่การส่งข้อความตั้งใจจะผลักดันจริงหรือไม่
  • Not significant: ความแตกต่างยังไม่น่าเชื่อถือ ไม่ได้หมายความว่าไม่มีผล ให้รอให้เหตุการณ์สะสมคอนเวอร์ชันมากขึ้นก่อนตัดสิน
  • Not enough data: กลุ่มใดกลุ่มหนึ่งมีคอนเวอร์ชันน้อยกว่า 10 ครั้ง หรือมีผู้ที่ไม่เกิดคอนเวอร์ชันน้อยกว่า 10 ครั้งสำหรับเหตุการณ์นี้ ให้เปรียบเทียบเหตุการณ์ที่มีปริมาณมากกว่า หรือรอให้เหตุการณ์เกิดขึ้นมากขึ้น

อีกสองสิ่งที่ควรคำนึงถึง:

  • เปรียบเทียบภายในหน้าต่างการวัดผลเดียว การสับเปลี่ยน การปรับขนาด การกำหนดขอบเขตใหม่ การเปลี่ยนโหมด การเปลี่ยนรอบของ Auto-refresh หรือการสิ้นสุดของ Experiment จะเริ่มหน้าต่างใหม่ ผลลัพธ์จากก่อนและหลังเหตุการณ์เหล่านี้ไม่สามารถเปรียบเทียบกันได้
  • เลือกเหตุการณ์ที่แคมเปญของคุณตั้งใจจะผลักดัน เช่น การซื้อหรือการลงทะเบียน แทนที่จะเป็นเหตุการณ์ที่การส่งข้อความไม่มีทางส่งผลโดยตรง