A/B 測試要比較頁面選擇,而不是兩批不同客群
落地頁 A/B 測試,是在同一期間把符合條件的訪客隨機分配到不同版本,再比較事先指定的成果。 A 是目前頁面,B 是想試的改動。對投手有用的問題要具體:把方案說清楚,能否帶來更多完成註冊,而且不犧牲名單品質?
把 Google 流量送到 A、社群流量送到 B,客群與頁面同時不同;這週跑 A、下週跑 B,也混入時間變化。這些比較本身無法單獨辨認頁面的效果。先看投放漏斗:表單如果根本送不出去,應先修好,再測標題。
先寫出能對應改動的假設
假設一個虛構線上課程提供免費入門課。A 標題是「今天開始學習」,B 改成「免費試上入門課」。假設是:明確說出相同優惠,能增加有效的完成註冊。價格、資格、主圖、表單及目的地都不變;兩句話都必須符合真實方案。
這是教學設計,不是客戶成果,也不是說某種用詞一定比較有效。Microsoft 的規劃指南把明確假設、可量測成果與合適的分配單位連在一起。上線前先選一個主要成果;按鈕點擊可以協助解釋行為,但不能代替完成註冊。
第一次測試可先縮小改動,方便解讀。如果標題、價格與表單一起換,只能評估整包方案,不能說結果都是標題造成的。也先核對廣告與頁面的訊息一致性,確認新文字仍履行廣告承諾。
同期分配,讓重複造訪維持原版本
本例以符合條件的瀏覽器識別值為分配單位,首次進入測試、尚未顯示任一版本時,隨機分配 A 或 B。保存分配結果,符合條件的回訪沿用原版本;分母每個識別值只計一次,不把重新整理當成另一個人。
瀏覽器識別值不等於一個人。清除 Cookie、換裝置或換瀏覽器環境,都可能破壞連續性。應說明實際識別範圍;有簽章連結或 Cookie,也不代表能證明跨裝置是同一位真人。
兩組採一致的資格、流量設定及觀察日期。預計 50/50 分配,不表示每個小樣本都必須剛好一半。若某組紀錄異常缺少,先查分配、跳轉、事件收集及排除條件。Microsoft 的樣本比例研究提醒,正式檢查需要考慮樣本量,不能只看百分比就決定資料正常。
8% 對 10%,究竟能說到哪裡?
以下全部是假設教學數字。A、B 各有 1,000 個符合條件且已分配的瀏覽器識別值;從分配起各觀察七天,每個識別值最多計一次有效完成註冊。假設能可靠串接並去除重複成果,且分配前就固定測試帳號的排除規則。

| 相同計數規則 | A:原標題 | B:明說免費入門課 |
|---|---|---|
| 符合條件、已分配的識別值 | 1,000 | 1,000 |
| 有有效註冊的識別值 | 80 | 100 |
| 註冊率 | 80 / 1,000 = 8% | 100 / 1,000 = 10% |
| 觀測差異 | 比較基準 | +2 個百分點;相對 +25% |
相對差異是(10% − 8%)/ 8% = 25%,不是增加 25 個百分點,也不是證明利潤增加 25%。先釐清轉換率的分母,不要拿本例的識別值比例,直接比以造訪或重複事件計算的報表。
本例分母包含所有符合條件且已分配的識別值。只計成功載入新版的人,可能把因新版故障而流失的人藏起來。觀察完整但沒有有效註冊,算零次成功;事件管線缺紀錄則是量測問題,不能當成零轉換。
七天與 1,000 個識別值都是算術假設,不是通用測試門檻。最後一位加入者也要有完整、相同的追蹤長度,再做最終分析。直接看同一曆週,晚進來的人通常觀察較短;轉換延遲有解釋這個陷阱。光有這兩個比例,仍不能宣告 B 已經可靠勝出。
在數字變好看之前,先決定何時下結論
測試前寫下主要成果、納入客群、分配單位、追蹤長度、分析方法與停止規則。一般固定樣本分析若反覆檢查顯著性,看到第一次有利就停止,會增加誤判風險。為持續監看設計的序貫方法有自己的規則;每天可看的儀表板,不會自動具備這種方法。Optimizely 的統計方法比較說明了差別。
沒有負責任的通用答案,能說「跑七天」或「有 100 次轉換」就一定夠。值得辨認的改善幅度、原本轉換率、不確定性與可用流量都影響規劃。本文教比較流程,不提供樣本量計算器。測試期間仍要持續檢查安全與品質;頁面或追蹤壞掉應立即調查,不能為了等結論而放著不處理。
投手可照著做的上線與解讀順序
- 上線前: 保存假設與 A/B 精確版本。手機實走兩條路徑,包含載入表現、錯誤恢復及真正完成成果,並記錄改動。
- 進行中: 檢查分配與事件是否完整。不要悄悄改投放對象、優惠或排除條件;必要的大修要記錄中斷,再評估是否仍能當成同一個測試解讀。
- 解讀時: 等候可比較的追蹤期間,依原定方法評估不確定性,再核對後續品質。註冊增加,但合格客戶減少,仍可能不符業務目標。
- 下一步: 有足夠支持才採用改善;新版傷害目標就保留原版;沒有明確答案則記為未定,重新設計。證據不足也是有效結果。
MeetROAS 支援 Campaign A/B 方案及已接入的下游成果;事件文件區分完成註冊與入金事件,方便觀察頁面選擇之後發生什麼事。仍須核對報表計數基礎:可重複事件的總數不會自動等於不重複人數轉換率,成果歸因本身也不等於統計顯著或利潤。
資料來源
- Microsoft Research: Patterns of Trustworthy Experimentation — Pre-Experiment Stage — 查證日期: 2026-10-30
- Microsoft Research: Diagnosing Sample Ratio Mismatch in A/B Testing — 查證日期: 2026-10-30
- Optimizely: Fixed horizon, Bayesian, or sequential — choosing a stats engine — 查證日期: 2026-10-30
- MeetROAS: Partner Event API reference — 查證日期: 2026-10-30