題目一:使用ABTest對(duì)新算法進(jìn)行評(píng)估
經(jīng)過(guò)一番研究后,我們開(kāi)發(fā)出了商品頁(yè)面上“相關(guān)商品”模塊的一個(gè)新的推薦算法,并且打算通過(guò)AB Test(50%用戶保留原先的算法邏輯為控制組,50%用戶使用新的算法邏輯為實(shí)驗(yàn)組)來(lái)對(duì)新的算法效果進(jìn)行評(píng)估。
假設(shè)你是此次實(shí)驗(yàn)的數(shù)據(jù)分析師,請(qǐng)問(wèn)你會(huì)如何評(píng)估控制組和實(shí)驗(yàn)組的表現(xiàn)?(假設(shè)需要數(shù)據(jù)都可取到)請(qǐng)按重要性列出最重要的三個(gè)指標(biāo)并給出你的分析過(guò)程/思考。
思路:
先看下ABtest的實(shí)驗(yàn)步驟:
- 第一步,要先設(shè)定我們的評(píng)估目標(biāo)(也就是題目說(shuō)的最重要的三個(gè)指標(biāo),在實(shí)際工作中可以根據(jù)實(shí)際情況定);
- 第二步,分配流量給幾個(gè)對(duì)照組并統(tǒng)計(jì)好數(shù)據(jù),明確要評(píng)估哪個(gè)點(diǎn),對(duì)照組與實(shí)驗(yàn)組和之間只能有一個(gè)變量是不同的。
- 第三步,得到參考組數(shù)據(jù)后,再去分析實(shí)驗(yàn)組的數(shù)據(jù)。
注意使用ABtest的前提一定要是數(shù)據(jù)比較多的情況下才能使用,不然數(shù)量比較少的話,會(huì)容易受到那些異常數(shù)據(jù)的影響,比如有些用戶可能每買(mǎi)一單的錢(qián)都特別多,這樣你可能就對(duì)比了50個(gè)用戶,有一個(gè)用戶的購(gòu)買(mǎi)價(jià)格比后面49個(gè)加起來(lái)還多,那他的購(gòu)買(mǎi)行為會(huì)很影響我們的實(shí)驗(yàn)結(jié)果。
分析實(shí)驗(yàn)數(shù)據(jù)是使用假設(shè)檢驗(yàn)的統(tǒng)計(jì)學(xué)方法,在統(tǒng)計(jì)顯著性水平達(dá)到95%或者以上的時(shí)候,并且維持一段時(shí)間,那實(shí)驗(yàn)就可以結(jié)束了。如果一直在95%以上,我們可能就要適當(dāng)延長(zhǎng)實(shí)驗(yàn)時(shí)間,如果很長(zhǎng)時(shí)間都是95%或者90%以下,就可以直接終止實(shí)驗(yàn)了。
接下來(lái)具體來(lái)看本題目的流程:
1、指標(biāo)梳理:
1)要去設(shè)計(jì)評(píng)估目標(biāo)就是我們的指標(biāo),我們可以用什么去做衡量呢?因?yàn)檫@個(gè)是相關(guān)商品模塊的推薦算法,是要銷(xiāo)售產(chǎn)品,是一個(gè)購(gòu)買(mǎi)行為,所以我們可以定銷(xiāo)售額的指標(biāo),這個(gè)指標(biāo)可以很直觀地反映你的算法推薦是否有效有效,越有效,你通過(guò)推薦進(jìn)來(lái)的銷(xiāo)售額就越高。
2)考慮商品展示渠道,渠道就要考慮點(diǎn)擊率、轉(zhuǎn)化率、復(fù)購(gòu)率的指標(biāo)。這個(gè)可以看你是否給用戶推薦對(duì)了,你推薦的越合適越貼現(xiàn),點(diǎn)擊的可能性就越高越,也就越容易去點(diǎn)擊。
指標(biāo):銷(xiāo)售額、點(diǎn)擊量、轉(zhuǎn)化率
這是考慮的指標(biāo),那么我們分析過(guò)程是什么呢?
分析過(guò)程就是考慮統(tǒng)計(jì)學(xué)的假設(shè)檢驗(yàn),基本的流程是下面的幾步:
2、分析過(guò)程:
1)設(shè)原假設(shè)為使用新的推薦算法后,上述指標(biāo)降低或不變,備擇假設(shè)為使用新的推薦算法后上述指標(biāo)增加(也就是設(shè)定原假設(shè)和備擇假設(shè),備擇假設(shè)就是使用新的推薦算法之后上述指標(biāo)增加,這樣的結(jié)果就是拒絕或默認(rèn)拒絕原假設(shè),只要拒絕了原假設(shè),那就說(shuō)明算法有用,因?yàn)榫芙^了的話,那說(shuō)明備擇假設(shè)是成立的);
2)選擇顯著性水平臨界值為5%,采集數(shù)據(jù)(在統(tǒng)計(jì)學(xué)里面,概率小于5%就默認(rèn)是小概率事件);
選擇周期時(shí)間為2周,在數(shù)據(jù)采集前檢查兩組數(shù)據(jù)是否有明顯差異,若無(wú),繼續(xù)采集數(shù)據(jù);
3)使用T檢驗(yàn),計(jì)算P值(計(jì)算P值也可以用pandas里面集成的模塊);
4)最后分析結(jié)論,如果P值小于5%,那么原假設(shè)不成立,備擇假設(shè)成立,即使用新算法后指標(biāo)提升,反之無(wú)法推翻原假設(shè),不能證明使用新算法后指標(biāo)提升。
只有拒絕和不能拒絕,而不是拒絕或者接受,這也是假設(shè)檢驗(yàn)比較有意思的地方,這是我們是假設(shè)設(shè)計(jì)反的原因。
這也是ABtest的一個(gè)常規(guī)流程。
題目二:銷(xiāo)量下降了怎么辦
如果我們發(fā)現(xiàn),某店鋪的X品類(lèi)在今年3月的銷(xiāo)量,比去年3月的銷(xiāo)量下降了50%,如果你是負(fù)責(zé)此次分析的數(shù)據(jù)分析師,你會(huì)如何分析?請(qǐng)寫(xiě)出你的分析思路/過(guò)程/想法。
這種怎么辦的問(wèn)題,面試的時(shí)候經(jīng)常都會(huì)問(wèn)到。這這類(lèi)題目其實(shí)考察的就是數(shù)據(jù)分析思維方法,是否有數(shù)據(jù)分析思維經(jīng)驗(yàn),這類(lèi)問(wèn)題經(jīng)常使用的是多維度拆解的方法。
通常的解題步驟是這樣的:
第一步,先定位問(wèn)題,先確定是不是真的有問(wèn)題或者說(shuō)問(wèn)題的嚴(yán)重性,然后外部市場(chǎng)環(huán)境和內(nèi)部問(wèn)題進(jìn)行分析。
1)是否數(shù)據(jù)統(tǒng)計(jì)有問(wèn)題、或者個(gè)例問(wèn)題(如某個(gè)客服說(shuō)投訴特別高,可能是她負(fù)責(zé)的那部分客戶投訴率很高,但是整體的投訴率是在正常水平,或者是某個(gè)客服負(fù)責(zé)的商品退貨率特別低,但是整體水平?jīng)]有改變多少,這時(shí)數(shù)據(jù)是沒(méi)錯(cuò)的,但是卻是個(gè)例問(wèn)題)
2)外部市場(chǎng)環(huán)境問(wèn)題,銷(xiāo)售額是比去年同期下降,那這是一個(gè)什么樣的性質(zhì)?我們的今年三月份的銷(xiāo)售目標(biāo)是直接對(duì)照去年三月份加10%嗎?有沒(méi)有去調(diào)研過(guò)今年市場(chǎng)行情的情況、競(jìng)品情況是怎樣的?
有沒(méi)有可能這個(gè)品類(lèi)在今年市場(chǎng)上普遍不受歡迎呢?如果是整體市場(chǎng)不受歡迎,那么問(wèn)題就不是很?chē)?yán)重,可能就需要考慮產(chǎn)品的更新或者考慮改進(jìn)運(yùn)營(yíng)營(yíng)銷(xiāo)方式逆勢(shì)而上引領(lǐng)整個(gè)市場(chǎng)。還是去年平臺(tái)方有做了一個(gè)大型活動(dòng),產(chǎn)品有參與活動(dòng)效果很不錯(cuò),但是今年平臺(tái)方?jīng)]有做這樣的活動(dòng),而自己店鋪?zhàn)龅幕顒?dòng)力度沒(méi)有那么大導(dǎo)致的?這樣就需要對(duì)比去年活動(dòng)效果的去銷(xiāo)售額的提升情況與今年的情況進(jìn)行對(duì)比對(duì)照。
第二步,指標(biāo)拆解,內(nèi)部問(wèn)題,主要對(duì)渠道、新老用戶、地區(qū)、時(shí)間段、某個(gè)商品方面進(jìn)行拆解
①②③④⑤通過(guò)渠道、新老用戶、地區(qū)、時(shí)間段、某個(gè)商品等維度進(jìn)行拆分,是不是某個(gè)渠道的問(wèn)題、還是新老客戶的問(wèn)題、或者是某個(gè)地區(qū)的銷(xiāo)售額下降導(dǎo)致影響到整體的銷(xiāo)售額?是不是某一段時(shí)間銷(xiāo)售額下降得特別厲害(那個(gè)時(shí)間是否有發(fā)生什么事情?是不是公司內(nèi)部問(wèn)題導(dǎo)致的?)?是不是某個(gè)銷(xiāo)量比較大的商品,受到了一些因素的影響導(dǎo)致銷(xiāo)量大幅下降?
②指標(biāo)拆解,指標(biāo)通常是按照組成分析和時(shí)間流程進(jìn)行拆解的。指標(biāo)體系一般是金字塔型的,越往下拆分的指標(biāo)是越多的(參考用戶行為流程、指標(biāo)構(gòu)成、轉(zhuǎn)化漏斗模型等)
銷(xiāo)售額=訪客數(shù) * 下單率 * 客單價(jià)-退貨金額
看是哪個(gè)指標(biāo)除了問(wèn)題,還是都出了問(wèn)題?然后繼續(xù)往下分析
訪客數(shù)=新客戶+老客戶,新客戶=渠道的流量 * 轉(zhuǎn)化率
看是新客戶減少還是老客戶減少?老客戶可能是直接購(gòu)買(mǎi)比較多,新客戶可能是從渠道進(jìn)入購(gòu)買(mǎi)的比較多,如果是新客戶減少導(dǎo)致的,那么需要看渠道和轉(zhuǎn)化率,看是不是廣告少了或者是渠道客群出問(wèn)題了?需不需要擴(kuò)展新的渠道或者更換渠道?
下單率=頁(yè)面訪問(wèn)量 * 轉(zhuǎn)化率
頁(yè)面是否吸引人?需不需要使用ABtest做頁(yè)面優(yōu)化測(cè)試?
訂單取消率=訂單取消數(shù) / 訂單總數(shù)
檢查退貨金額,訂單取消率是不是比同期更高?可以從產(chǎn)品的好評(píng)差評(píng)情況進(jìn)行進(jìn)一步分析;
客單價(jià):通過(guò)同期群分析、單變量分析、ABC分析
同期群分析師比較常用的分析方法,把用戶進(jìn)行群組劃分之后,對(duì)不同群組相同指標(biāo),進(jìn)行一個(gè)時(shí)期的比較,看是不是有明顯不利的指標(biāo)下降,導(dǎo)致了銷(xiāo)售額下降,最終去定位這個(gè)問(wèn)題,然后去針對(duì)性的做些活動(dòng)。
第三步,針對(duì)指標(biāo)的變化進(jìn)行提建議
針對(duì)這些指標(biāo)的變化可以提些建議,這些建議要是實(shí)打?qū)嵉?、有針?duì)性的,而不是只籠統(tǒng)的說(shuō)要提高。
可以做一些有針對(duì)性的促銷(xiāo)活動(dòng)、商品優(yōu)化、渠道優(yōu)化。
例如是老客戶流失嚴(yán)重,而且老客戶在客戶群里面的占比也是比較多,但是突然就下降了10%,這時(shí)候是不是要針對(duì)老客戶做一個(gè)特別的活動(dòng)呢?可以給客戶的淘寶、微信、手機(jī)等等進(jìn)行活動(dòng)推送,比如贈(zèng)送促銷(xiāo)消費(fèi)券等等。而且這種活動(dòng)也是有些原則的,不是所有的都送錢(qián)、送優(yōu)惠券都是好的,你要結(jié)合你的商品情況,以及你想提高的目標(biāo),因?yàn)獒槍?duì)客戶流失,需要要根據(jù)你的商品購(gòu)買(mǎi)周期是一年買(mǎi)一次、還是一個(gè)月兩次還是那種幾天就給買(mǎi)一次的,每個(gè)店鋪?zhàn)鲞@樣的活動(dòng)都是不一樣的。
題目三:請(qǐng)你估算營(yíng)業(yè)額(費(fèi)米思想)
小紅書(shū)上海辦公室樓下有一便利店,面積約為20平方米,主要提供零食及飲料。請(qǐng)預(yù)估該便利店每周的營(yíng)業(yè)額是多少?
解題思路:
費(fèi)米思想的兩個(gè)步驟:
- 1、把問(wèn)題進(jìn)行拆解,直到拆解到不能拆解需要估算的基本問(wèn)題
- 2、對(duì)基本問(wèn)題的估算,不要估算其本身,而是先估算其上下界,然后在10倍的范圍內(nèi)估算出數(shù)值
營(yíng)業(yè)額=消費(fèi)人數(shù) * 平均消費(fèi)金額(區(qū)分工作日和周末)
消費(fèi)人數(shù)=營(yíng)業(yè)時(shí)間 * 單位時(shí)間消費(fèi)人數(shù)(區(qū)分高峰時(shí)段+低峰時(shí)段)
費(fèi)米思想問(wèn)題有個(gè)明顯特征,就是它沒(méi)有數(shù)據(jù)也沒(méi)有明顯的計(jì)算邏輯,看起來(lái)很無(wú)厘頭,這些數(shù)據(jù)是通過(guò)你的一些常識(shí)去得到。理解這類(lèi)問(wèn)題,也是沒(méi)有標(biāo)準(zhǔn)答案的,這類(lèi)題目實(shí)際上考察的是數(shù)據(jù)分析思維能力,在有限條件下,通過(guò)一些假設(shè)和推算得到答案。
解決費(fèi)米思想的關(guān)鍵辦法就是拆解,也就是多維度拆解分析方法,拆解的原則是:是把問(wèn)題拆解到不能拆解(MECE原則),然后對(duì)于不能拆解的基本問(wèn)題進(jìn)行估算(估算一個(gè)范圍)。
估算:
每天按照12h營(yíng)業(yè)時(shí)間計(jì)算,其中客流量大有4h,客流量小有8h(正常估計(jì))。
休息日平均營(yíng)業(yè)額=1/4工作日平均營(yíng)業(yè)額(正常估計(jì))。
工作日流量大的時(shí)候,每2分鐘接待3人次,人均消費(fèi)10元(高估)。
那這樣工作日高峰時(shí)間段每小時(shí)消費(fèi)人數(shù)=60*3/2 =90個(gè),非高峰就算30個(gè)
工作日一天營(yíng)業(yè)額=4h *90個(gè) * 10元+8h * 30個(gè) * 10元=6000
一周的營(yíng)業(yè)額=6000 * 5+6000/4 * 2=33000
題目四:思維拓展
如果APP有一個(gè)功能是用戶的位置信息能夠每隔1分鐘上傳一次數(shù)據(jù)庫(kù),那么怎么發(fā)揮它的作用?
這個(gè)題目思維拓展題,也是沒(méi)有標(biāo)準(zhǔn)的答案,就是考你思維發(fā)散的力,如果你有接觸過(guò)相關(guān)的應(yīng)用的話,答案就會(huì)就更貼近實(shí)際。
這種位置信息我們經(jīng)常用來(lái)做什么呢?就做用戶畫(huà)像。用戶畫(huà)像可以做什么呢?
我們這里有幾個(gè)思路,
1)根據(jù)定位信息可以獲取用戶的生活區(qū)域,從而分析出用戶的消費(fèi)水平,推薦相應(yīng)價(jià)格區(qū)間適合用戶消費(fèi)的產(chǎn)品;
你住在在哪個(gè)區(qū)域?例如你是住城中村還是豪華小區(qū),知道你常年出現(xiàn)的地方、你住在是哪個(gè)小區(qū)能夠推出來(lái)你的消費(fèi)能力。甚至可以根據(jù)你的位置信息變動(dòng)來(lái)判斷你是否是開(kāi)車(chē)還是沒(méi)開(kāi)車(chē),以及你住的地方離公司的遠(yuǎn)近情況。
2)可以分析用戶的活動(dòng)習(xí)慣,推斷用戶的一些偏好,并做針對(duì)性推薦;
例如用戶經(jīng)常出入健身房,可以推薦運(yùn)動(dòng)器材,經(jīng)常出入服裝店美容店等,可以為用戶推薦服裝美容項(xiàng)目。這些店鋪在地圖上都是固定的,通過(guò)這些位置可以推斷用戶的偏好,還能判斷你去的地方是進(jìn)去還是僅僅路過(guò)而已。
3)可以推測(cè)用戶的職業(yè),比如教師、醫(yī)生、程序員,從而推薦符合用戶職業(yè)需求的商品;
比如通過(guò)你經(jīng)常去的地點(diǎn),可能看到你是那個(gè)公司的,附近還有什么公司?
4)用戶位置可以實(shí)時(shí)向用戶推薦周邊的一個(gè)生活服務(wù)比如附近的商店、便利店、住宿、停車(chē)場(chǎng)等,還可以還原用戶的行為軌跡、交通擁堵情況、分析熱點(diǎn)區(qū)域、分析各區(qū)域停留時(shí)長(zhǎng),從而確定用戶的一個(gè)行為習(xí)慣,然后進(jìn)行更好的提供服務(wù)和消費(fèi)。
這些就是有針對(duì)性的提供數(shù)據(jù)給用戶,說(shuō)的不好聽(tīng)叫大數(shù)據(jù)殺手,因?yàn)槊恳环昼娚蟼饕淮挝恢眯畔⒌綌?shù)據(jù)庫(kù),這個(gè)是很可怕的,而且后面的話一般都是配套有流式處理,用大數(shù)據(jù)平臺(tái)去做計(jì)算,然后給用戶打標(biāo)簽,做一個(gè)用戶畫(huà)像的項(xiàng)目出來(lái),這種就是做用戶殺熟。
大數(shù)據(jù)殺熟就是你自己看到的數(shù)據(jù)只有你自己知道,別人看到的數(shù)據(jù)和你是不一樣的,大數(shù)據(jù)殺熟就是應(yīng)用在這種場(chǎng)景,每個(gè)人都是分隔開(kāi)的,大家只能看到自己的數(shù)據(jù),其他人的數(shù)據(jù)他們是看不到,然后就特別容易做大數(shù)據(jù)殺手。當(dāng)然這確實(shí)也是有用的,因?yàn)橛嗅槍?duì)性的對(duì)你推薦一些東西,那你購(gòu)買(mǎi)的可能性是很高的,能夠符合你的當(dāng)前需求(淘寶的千人千面也是類(lèi)似的原理)。
—— 歡迎在線投稿 ——
特別提示:關(guān)注本專(zhuān)欄,別錯(cuò)過(guò)行業(yè)干貨!
PS:本司承接 小紅書(shū)推廣/抖音推廣/百度系推廣/知乎/微博等平臺(tái)推廣:關(guān)鍵詞排名,筆記種草,數(shù)據(jù)優(yōu)化等;
咨詢微信:139 1053 2512 (同電話)
首席增長(zhǎng)官CGO薦讀:
- 《增長(zhǎng)導(dǎo)航:高效增長(zhǎng)工具整理》
- 《小紅書(shū)推廣:筆記排名,代寫(xiě)代發(fā),探店合作》
- 《淘寶逛逛營(yíng)銷(xiāo)推廣:KOC種草,達(dá)人筆記,筆記撰寫(xiě),拍照攝影》
更多精彩,關(guān)注:增長(zhǎng)黑客(GrowthHK.cn)
增長(zhǎng)黑客(Growth Hacker)是依靠技術(shù)和數(shù)據(jù)來(lái)達(dá)成各種營(yíng)銷(xiāo)目標(biāo)的新型團(tuán)隊(duì)角色。從單線思維者時(shí)常忽略的角度和高度,梳理整合產(chǎn)品發(fā)展的因素,實(shí)現(xiàn)低成本甚至零成本帶來(lái)的有效增長(zhǎng)…
本文經(jīng)授權(quán)發(fā)布,不代表增長(zhǎng)黑客立場(chǎng),如若轉(zhuǎn)載,請(qǐng)注明出處:http://m.gptmaths.com/mcn/xiaohongshu/36405.html