落地頁 A/B 測試怎麼做?分流、註冊率與判讀案例

MeetROAS 編輯團隊 · 發布

落地頁A/B測試是在同一期間,把符合條件的訪客隨機分到不同版本,依事先指定的成果與規則比較。先固定假設、分配單位、主要成果、追蹤長度及停止方法;8%對10%是觀測差異,還需確認資料品質與不確定性,不能直接宣告勝出。

A/B 測試要比較頁面選擇,而不是兩批不同客群

落地頁 A/B 測試,是在同一期間把符合條件的訪客隨機分配到不同版本,再比較事先指定的成果。 A 是目前頁面,B 是想試的改動。對投手有用的問題要具體:把方案說清楚,能否帶來更多完成註冊,而且不犧牲名單品質?

把 Google 流量送到 A、社群流量送到 B,客群與頁面同時不同;這週跑 A、下週跑 B,也混入時間變化。這些比較本身無法單獨辨認頁面的效果。先看投放漏斗:表單如果根本送不出去,應先修好,再測標題。

先寫出能對應改動的假設

假設一個虛構線上課程提供免費入門課。A 標題是「今天開始學習」,B 改成「免費試上入門課」。假設是:明確說出相同優惠,能增加有效的完成註冊。價格、資格、主圖、表單及目的地都不變;兩句話都必須符合真實方案。

這是教學設計,不是客戶成果,也不是說某種用詞一定比較有效。Microsoft 的規劃指南把明確假設、可量測成果與合適的分配單位連在一起。上線前先選一個主要成果;按鈕點擊可以協助解釋行為,但不能代替完成註冊。

第一次測試可先縮小改動,方便解讀。如果標題、價格與表單一起換,只能評估整包方案,不能說結果都是標題造成的。也先核對廣告與頁面的訊息一致性,確認新文字仍履行廣告承諾。

同期分配,讓重複造訪維持原版本

本例以符合條件的瀏覽器識別值為分配單位,首次進入測試、尚未顯示任一版本時,隨機分配 A 或 B。保存分配結果,符合條件的回訪沿用原版本;分母每個識別值只計一次,不把重新整理當成另一個人。

瀏覽器識別值不等於一個人。清除 Cookie、換裝置或換瀏覽器環境,都可能破壞連續性。應說明實際識別範圍;有簽章連結或 Cookie,也不代表能證明跨裝置是同一位真人。

兩組採一致的資格、流量設定及觀察日期。預計 50/50 分配,不表示每個小樣本都必須剛好一半。若某組紀錄異常缺少,先查分配、跳轉、事件收集及排除條件。Microsoft 的樣本比例研究提醒,正式檢查需要考慮樣本量,不能只看百分比就決定資料正常。

8% 對 10%,究竟能說到哪裡?

以下全部是假設教學數字。A、B 各有 1,000 個符合條件且已分配的瀏覽器識別值;從分配起各觀察七天,每個識別值最多計一次有效完成註冊。假設能可靠串接並去除重複成果,且分配前就固定測試帳號的排除規則。

假設教學:兩組各分配1000個識別值,七天有效註冊為80與100,註冊率8%與10%;多2個百分點,還不能宣告勝出。
虛構教學數字,非客戶成果。每組1000個符合條件、已分配的瀏覽器識別值,各觀察七天、每個最多一次有效註冊。相差2個百分點不等於已證明勝出或利潤提升。
相同計數規則A:原標題B:明說免費入門課
符合條件、已分配的識別值1,0001,000
有有效註冊的識別值80100
註冊率80 / 1,000 = 8%100 / 1,000 = 10%
觀測差異比較基準+2 個百分點;相對 +25%

相對差異是(10% − 8%)/ 8% = 25%,不是增加 25 個百分點,也不是證明利潤增加 25%。先釐清轉換率的分母,不要拿本例的識別值比例,直接比以造訪或重複事件計算的報表。

本例分母包含所有符合條件且已分配的識別值。只計成功載入新版的人,可能把因新版故障而流失的人藏起來。觀察完整但沒有有效註冊,算零次成功;事件管線缺紀錄則是量測問題,不能當成零轉換。

七天與 1,000 個識別值都是算術假設,不是通用測試門檻。最後一位加入者也要有完整、相同的追蹤長度,再做最終分析。直接看同一曆週,晚進來的人通常觀察較短;轉換延遲有解釋這個陷阱。光有這兩個比例,仍不能宣告 B 已經可靠勝出。

在數字變好看之前,先決定何時下結論

測試前寫下主要成果、納入客群、分配單位、追蹤長度、分析方法與停止規則。一般固定樣本分析若反覆檢查顯著性,看到第一次有利就停止,會增加誤判風險。為持續監看設計的序貫方法有自己的規則;每天可看的儀表板,不會自動具備這種方法。Optimizely 的統計方法比較說明了差別。

沒有負責任的通用答案,能說「跑七天」或「有 100 次轉換」就一定夠。值得辨認的改善幅度、原本轉換率、不確定性與可用流量都影響規劃。本文教比較流程,不提供樣本量計算器。測試期間仍要持續檢查安全與品質;頁面或追蹤壞掉應立即調查,不能為了等結論而放著不處理。

投手可照著做的上線與解讀順序

  • 上線前: 保存假設與 A/B 精確版本。手機實走兩條路徑,包含載入表現、錯誤恢復及真正完成成果,並記錄改動。
  • 進行中: 檢查分配與事件是否完整。不要悄悄改投放對象、優惠或排除條件;必要的大修要記錄中斷,再評估是否仍能當成同一個測試解讀。
  • 解讀時: 等候可比較的追蹤期間,依原定方法評估不確定性,再核對後續品質。註冊增加,但合格客戶減少,仍可能不符業務目標。
  • 下一步: 有足夠支持才採用改善;新版傷害目標就保留原版;沒有明確答案則記為未定,重新設計。證據不足也是有效結果。

MeetROAS 支援 Campaign A/B 方案及已接入的下游成果;事件文件區分完成註冊與入金事件,方便觀察頁面選擇之後發生什麼事。仍須核對報表計數基礎:可重複事件的總數不會自動等於不重複人數轉換率,成果歸因本身也不等於統計顯著或利潤。

資料來源