談?wù)劵叶葴y試
編輯導(dǎo)語:利用灰度測試,產(chǎn)品經(jīng)理及研發(fā)團(tuán)隊可以在產(chǎn)品或應(yīng)用正式發(fā)布、推廣前選擇一定人群使用,進(jìn)而找到可能問題,以避免打擊用戶體驗。那么,如何進(jìn)行灰度測試?本篇文章里,作者介紹了進(jìn)行灰度測試的方法,以及灰度測試與A/B測試的區(qū)別,一起來看一下。
微信版本在修改微信號頁面輸入框下方的提示文案是“微信好賬號的唯一憑證,只能設(shè)置一次”,在我朋友和我說微信號可以修改時,我進(jìn)行了查看,發(fā)現(xiàn)不同的手機(jī)顯示的不一樣,我是“只能設(shè)置一次”,而我朋友的手機(jī)的微信賬號則顯示的是“微信號是唯一憑證,一年只能修改一次”。
這是因為什么原因?qū)е鲁霈F(xiàn)這樣的差異呢?本文章通過對灰度測試的講解,解釋這一原因。
一、概述
灰度測試,就是在某項產(chǎn)品或應(yīng)用正式發(fā)布前,選擇特定人群試用,逐步擴(kuò)大其試用者數(shù)量,以便及時發(fā)現(xiàn)和糾正其中的問題。
二、為什么要進(jìn)行灰度測試?
看到灰度測試,首先我問了自己什么是灰度測試,通過百度后我了解了灰度測試的概念,其次,我再問自己為什么產(chǎn)品要進(jìn)行灰度測試?
我先從一個產(chǎn)品的開發(fā)流程大致走一波,來解答自己的為什么,我的目的是什么?
產(chǎn)品落地之前會進(jìn)行產(chǎn)品測試,這時候就會有一個疑問點都已經(jīng)有產(chǎn)品測試了為什么還要進(jìn)行灰度測試。
其實,測試是為了修復(fù)BUG,測試并不是在開發(fā)完成后才開始的,在第一次接觸到這個項目的時候,負(fù)責(zé)測試的同事需要思考這個項目的測試檢測測試方式,并反復(fù)與研發(fā)人員產(chǎn)品經(jīng)理溝通。
當(dāng)溝通完成后,QA就會把測試的點、流程以及測試的方法寫成“測試用例”,再找產(chǎn)品經(jīng)理和研發(fā)人員確人,以保證不會因為對需求的理解問題和疏漏漏掉本來該發(fā)現(xiàn)的BUG。測試發(fā)現(xiàn)BUG,讓研發(fā)人員進(jìn)行修復(fù)。
修復(fù)后產(chǎn)品經(jīng)理需要對產(chǎn)品效果進(jìn)行確定,確定產(chǎn)品沒有BUG且符合預(yù)期后就可以上線了。
可是呢QA也不是萬能的,不可能測試到所有的所有情況,這就是我們?yōu)槭裁催€要進(jìn)行灰度測試的原因。除了書上說的某些BUG只在用戶量非常小的手機(jī)上面出現(xiàn),還比如,夏天手機(jī)容易發(fā)熱、手機(jī)太卡等等,都會導(dǎo)致BUG的出現(xiàn)。
總而言之,我的目的就是,灰度測試做二手準(zhǔn)備,幫助又累又慘的產(chǎn)品經(jīng)理以及研發(fā)團(tuán)隊快速試驗并發(fā)現(xiàn)問題并在正式全面推廣之前及時把問題修正,避免用戶體驗差、讓用戶對產(chǎn)品產(chǎn)生厭惡,那研發(fā)團(tuán)隊的努力就付之東流了,所以灰度測試非常重要。
三、怎么進(jìn)行灰度測試?
知道了為什么要灰度測試,就要問自己怎么進(jìn)行灰度測試。雖然我們產(chǎn)品經(jīng)理不需要親自去灰度測試,但是都想到為什么了,肯定會想到那這個怎么去做??!翻閱書籍和百度就是最快知道怎么去做灰度測試的最好方法。
首先選擇用戶,做灰度測試需要選擇適合的用戶,需要基于隨機(jī)原則。
- 第一類,經(jīng)典用戶,這一類用戶最大的特點就是沒有特點。比如,小米“發(fā)燒友”就是小米的經(jīng)典用戶,能代表最多使用小米手機(jī)的特征群體。
- 第二類,極端用戶,選擇這一類用戶的原因是因為我們需要檢測一些極端的情況。比如,一雙鞋用來慢跑的運動鞋,但是有人穿它去爬山,把產(chǎn)品某些功能用到極致的人,就是極端用戶。
其次選擇合適的對比方法。數(shù)據(jù)的對比有兩種方法,時間先后的對比和不同用戶群體的對比。
四、灰度測試和A/B測試的區(qū)別
A/B測試定義:AB測試是為Web或APP頁面或流程制作兩個(A/B)或多個(A/B/n)版本,在同一時間維度,分別讓組成成分相同(相似)的訪客群組(目標(biāo)人群)隨機(jī)地訪問這些版本,收集各群組的用戶體驗數(shù)據(jù)和業(yè)務(wù)數(shù)據(jù),最后分析、評估出最好版本,正式采用。
灰度測試指的是系統(tǒng)測試通過后,將測試版本發(fā)布到線上環(huán)境,替換部分的線上服務(wù)器代碼進(jìn)行預(yù)測試。當(dāng)灰度測試結(jié)束后,線上版本實現(xiàn)會統(tǒng)一。
本質(zhì)上是上線前的測試,收集用戶的反饋。
例:知乎升級了視頻資源的播放格式,但不知道新版本是否有問題。那么知乎可以通過配置下發(fā),控制一部分的知乎APP去播放新格式的視頻。然后通過監(jiān)控來觀測播放成功率和卡頓率等,一旦有問題會立即回滾。
A/B測試指的是系統(tǒng)測試通過并發(fā)布后,同一個軟件功能不同的用戶會看到不同的實現(xiàn)方式,收集每個用戶的反饋。
本質(zhì)上是上線后的測試,收集用戶的反饋。
例:知乎春節(jié)換皮膚,可以把兩種待選皮膚都投入市場,看哪種皮膚的按鈕用戶點擊量大,用戶停留時長高。
總結(jié):AB的兩種功能都是可用的,投放的用戶群體無差別,讓用戶選擇更受歡迎的功能。目標(biāo)不明確,后期可能是A上線,也可能是B上線。
灰度版本未必是可用的,或者說沒有嚴(yán)重bug的,投放的客戶群體可能被選擇和約束(例如只投放安卓低端機(jī)),由監(jiān)控確定是否有問題,目標(biāo)明確,只要灰度版本沒問題,就會繼續(xù)放量上線,直到全量。
五、總結(jié)
不知道大家心中會不會有著這樣的疑惑,微信號不就是微信的一個小得不能再小的東西了,為什么要大費周章地進(jìn)行灰度測試。換個思維去想,微信用戶過億,但是這幾億的用戶微信號不能重復(fù),如果不經(jīng)過灰度測試吧,直接上線,后果就是會有人的微信號重復(fù)、修改申請不過等問題。
在將產(chǎn)品大規(guī)模退給用戶時,灰度測試是必須的,如果要使用灰度發(fā)布,與往常的項目過程不同的是,需要做好提升點的準(zhǔn)備,通過數(shù)據(jù)分析、日志分析找到改進(jìn)點,快速地定位到問題,并解決。
本文由 @小向日葵 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)許可,禁止轉(zhuǎn)載。
題圖來自Unsplash,基于CCO協(xié)議
寫的很棒,學(xué)到了。不過作者大大也要注意一下錯別字哦
思維嚴(yán)謹(jǐn) 邏輯清晰 框架明確
太厲害了吧,這就是仙女的實力嗎
哇寫的太可了吧