談?wù)動螒蜃鯝/B Test的誤區(qū)

0 評論 6031 瀏覽 2 收藏 6 分鐘

 

最近關(guān)于Zynga如何運營的一些有趣見解出現(xiàn)在了社交新聞?wù)军cReddit上,發(fā)表的人正是上周被解雇的520名員工中的一員。我想特別說下其中的兩篇帖子。

帖子1:在游戲方面,我認(rèn)為他們關(guān)于拉取所有玩家行為數(shù)據(jù)的整體概念是非常了不起的,但他們對此的依賴也不是那么驚人。它使開發(fā)非常善于分析而且更直觀,很容易就可以知道一個游戲哪里是有趣的。盡管難點在于如何拉取關(guān)于他們的行為數(shù)據(jù)

帖子2:在某些時候,該公司似乎從真正嘗試創(chuàng)新切換到嘗試“之前的工作方式”。我不確定有多少游戲在過去的一年里真正做過a / b測試來發(fā)現(xiàn)新的樂趣和受歡迎的點。公司擅長數(shù)據(jù)收集、數(shù)據(jù)分析以及游戲心理學(xué)的理解可以幫助我們改進(jìn)游戲體驗。

Zygna似乎遭受了A / B測試的隱性成本。

A / B測試的顯性成本是顯而易見的:A / B測試需要時間來設(shè)計,實現(xiàn)和評估,這種時間代表了一種機(jī)會成本,表明在這段時間里可以進(jìn)行其他各項工作的收益(注:機(jī)會成本又稱為擇一成本、替代性成本。機(jī)會成本對商業(yè)公司來說,是利用一定的時間或資源生產(chǎn)一種商品時,而失去利用這些資源生產(chǎn)其他最佳替代品的機(jī)會就是機(jī)會成本。來源;百度百科)。A / B測試的顯性成本常常被引用為不進(jìn)行全面測試的理由,但是我相信這些成本一般來說都是過分夸大。

如果需要大約30分鐘以上來設(shè)計和實現(xiàn)一個A / B測試,那么,說明該組織還沒有專門足夠的分析基礎(chǔ)設(shè)施資源來通過一些內(nèi)部工具進(jìn)行A / B測試。它本身并不是一個問題:像DataEye這樣的產(chǎn)品存在就是為了通過提供“分析服務(wù)”來減輕開發(fā)人員的負(fù)擔(dān)。

一個真正的數(shù)據(jù)驅(qū)動的組織是處在一個永久A / B測試和優(yōu)化的狀態(tài)。在這樣一個組織A / B測試的機(jī)會成本是微不足道的。

然而,A / B測試的隱性成本卻有著更大的影響。A / B測試隱形成本的產(chǎn)生是因為一個產(chǎn)品團(tuán)隊過度依賴迭代、增量改進(jìn)。而這種過度依賴會將產(chǎn)品牢牢綁定在基礎(chǔ)結(jié)構(gòu)以及產(chǎn)品現(xiàn)有缺陷之上。

漸進(jìn)式改進(jìn)并不是完全不重要:通常在某個過程當(dāng)中還是會以百分比的方式增長,比如,游戲的登錄頁轉(zhuǎn)化,總體收入,會話時長都會得到一些增長。這個圖表是經(jīng)歷10%的周期增長率的一個過程:

111

但是對這種持續(xù)的測試優(yōu)化使一個團(tuán)隊不能集中精力于他們產(chǎn)品的真正的問題。這不是機(jī)會成本(即“我們應(yīng)該選擇進(jìn)一步的A / B測試還是修復(fù)產(chǎn)品的結(jié)構(gòu)性問題?”),而是不去識別或考慮核心產(chǎn)品的弱點,因為大家認(rèn)為改進(jìn)是包治百病的靈丹妙藥。這個圖表是經(jīng)歷10%周期增長率后下降:20%的過程。

211

A / B測試的隱性成本并不體現(xiàn)在誤用資源, 他們體現(xiàn)在科學(xué)數(shù)據(jù)可以取代產(chǎn)品開發(fā)的想法。A / B測試失敗的產(chǎn)品就像帶著槍傷去健身:該做的沒做好,最終也是徒勞。

存在數(shù)據(jù)問題的廠商其實是放棄了真正宏觀層面問題的處理,讓位給了微觀過程的改進(jìn),其實并未解決產(chǎn)品的根本問題,反而在某種程度上加速了問題的擴(kuò)散速度。

A / B測試是一種工具,而不是一個產(chǎn)品開發(fā)戰(zhàn)略,它應(yīng)該被用來給那些已經(jīng)獲得一定成功的產(chǎn)品帶來更大的優(yōu)勢,而不是讓他們以為自己對產(chǎn)品的直覺是錯的(GRG游戲研究組注:他只是適用于一些微觀過程的改進(jìn),而不是戰(zhàn)略級的開發(fā)策略解決不了產(chǎn)品的本質(zhì)問題)。

source:上方

更多精彩內(nèi)容,請關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發(fā)揮!