導(dǎo)語：互聯(lián)網(wǎng)金融時代，如何借助互聯(lián)網(wǎng)思維利用機(jī)器學(xué)習(xí)方法建立高效安全的大數(shù)據(jù)風(fēng)控系統(tǒng)？

隨著互聯(lián)網(wǎng)的發(fā)展，互聯(lián)網(wǎng)金融已成為當(dāng)前最熱門的話題，包括支付、理財、眾籌、消費(fèi)等功能在內(nèi)的各類互聯(lián)網(wǎng)金融產(chǎn)品和平臺如雨后春筍般涌現(xiàn)?；ヂ?lián)網(wǎng)金融是傳統(tǒng)金融行業(yè)與互聯(lián)網(wǎng)精神相結(jié)合的新興領(lǐng)域，是對傳統(tǒng)金融行業(yè)的有效補(bǔ)充，因此互聯(lián)網(wǎng)金融的健康發(fā)展應(yīng)遵循金融業(yè)的基本規(guī)律和內(nèi)在要求，核心仍是風(fēng)險控制。

傳統(tǒng)金融的風(fēng)險控制，主要是基于央行的征信數(shù)據(jù)及銀行體系內(nèi)的生態(tài)數(shù)據(jù)依靠人工審核完成。在國內(nèi)的征信服務(wù)遠(yuǎn)遠(yuǎn)不夠完善的情況下，互聯(lián)網(wǎng)金額風(fēng)險控制的真正核心在于可以依靠互聯(lián)網(wǎng)獲取的大數(shù)據(jù)，如BAT等公司擁有大量的用戶信息，這些數(shù)據(jù)可以用來更加全面的預(yù)測小額貸款的風(fēng)險。而機(jī)器學(xué)習(xí)將是大數(shù)據(jù)時代互聯(lián)網(wǎng)金融企業(yè)構(gòu)建自動化風(fēng)控系統(tǒng)的利器。

什么是機(jī)器學(xué)習(xí)？

機(jī)器學(xué)習(xí)這個詞相信大家都是耳熟能詳，尤其是近幾年機(jī)器學(xué)習(xí)界的執(zhí)牛耳者與互聯(lián)網(wǎng)界的大鱷的聯(lián)姻（見圖1），更加推動了大眾對機(jī)器學(xué)習(xí)的追求熱情和在互聯(lián)網(wǎng)行業(yè)中應(yīng)用的探索熱情。

圖1：機(jī)器學(xué)習(xí)界的執(zhí)牛耳者與互聯(lián)網(wǎng)界的大鱷的聯(lián)姻（左起分別是Geoffrey Hinton，加拿大多倫多大學(xué)教授，”Google Brain”負(fù)責(zé)人；Yann LeCun，紐約大學(xué)教授，F(xiàn)acebook人工智能實(shí)驗室主任；Andrew NG，斯坦福大學(xué)副教授，百度首席科學(xué)家，”Baidu Brain”負(fù)責(zé)人。）

那么，什么是機(jī)器學(xué)習(xí)呢？機(jī)器學(xué)習(xí)這個詞是英文名稱Meaching Learning的直譯，從字面意義不難知道，這門技術(shù)是讓計算機(jī)具有“自主學(xué)習(xí)”的能力，因此她是人工智能的一個分支。我個人還是比較喜歡Tom Mitchell在《Machine Learning》一書中對其的定義：

A computer program is said to learn from experience E with respect to some task T and some performance measure P, if its performance on T, as measured by P, improves with experience E.

關(guān)于機(jī)器學(xué)習(xí)的具體概念及介紹，有很多這方面的資料，有興趣的話大家可以去查看，在這里我就不贅述。簡而言之，機(jī)器學(xué)習(xí)方法就是計算機(jī)利用已有的數(shù)據(jù)（經(jīng)驗），得出某種模型，并利用模型來預(yù)測未來的一種方法，這種方法很類似于人類的思考方式（見圖2）。也就是說，機(jī)器學(xué)習(xí)的一個主要目的就是把人類思考?xì)w納經(jīng)驗的過程轉(zhuǎn)化為計算機(jī)對數(shù)據(jù)的處理計算得出模型的過程。

圖2：機(jī)器學(xué)習(xí)與人類思考的對比

機(jī)器學(xué)習(xí)算法的類型

一般來說，機(jī)器學(xué)習(xí)算法可以分為監(jiān)督學(xué)習(xí)，無監(jiān)督學(xué)習(xí)，半監(jiān)督學(xué)習(xí)，強(qiáng)化學(xué)習(xí)（Reinforcement learning）以及推薦這幾大類。各部分常見應(yīng)用場景和算法詳見圖3。

圖3：機(jī)器學(xué)習(xí)算法分類

機(jī)器學(xué)習(xí)在互聯(lián)網(wǎng)金融行業(yè)中的應(yīng)用

在企業(yè)數(shù)據(jù)的應(yīng)用的場景下，人們最常用的主要是監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí)的模型，在金融行業(yè)中一個天然而又典型的應(yīng)用就是風(fēng)險控制中對借款人進(jìn)行信用評估。因此互聯(lián)網(wǎng)金融企業(yè)依托互聯(lián)網(wǎng)獲取用戶的網(wǎng)上消費(fèi)行為數(shù)據(jù)、通訊數(shù)據(jù)、信用卡數(shù)據(jù)、第三方征信數(shù)據(jù)等豐富而全面的數(shù)據(jù)，可以借助機(jī)器學(xué)習(xí)的手段搭建互聯(lián)網(wǎng)金融企業(yè)的大數(shù)據(jù)風(fēng)控系統(tǒng)。

除了在放貸前的信用審核外，互聯(lián)網(wǎng)金融企業(yè)還可以借助機(jī)器學(xué)習(xí)完成傳統(tǒng)金融企業(yè)無法做到的放貸過程中對借款人還貸能力進(jìn)行實(shí)時監(jiān)控，以及時對后續(xù)可能無法還貸的人進(jìn)行事前的干預(yù)，從而減少因壞賬而帶來的損失。以點(diǎn)融網(wǎng)為例，經(jīng)過這兩年的發(fā)展，我們積累了很多用戶的借款還款信息，這為我們提供了高質(zhì)量的模型訓(xùn)練樣本，也為我們搭建點(diǎn)融的大數(shù)據(jù)自動化審批系統(tǒng)奠定了堅實(shí)的基礎(chǔ)。除了自動化審批系統(tǒng)外，后續(xù)我們將在用戶還款能力實(shí)時監(jiān)控，標(biāo)的的有效組合，資產(chǎn)的合理配置等方面進(jìn)行發(fā)力。

目前互聯(lián)網(wǎng)金融企業(yè)以及第三方征信公司在信用評估這方面比較常用的架構(gòu)是規(guī)則引擎加信用評分卡。說到信用評分卡，最常用的算法就是Logistic Regression，這也是被銀行信用卡中心或金融工程方面奉為法寶的算法。的確，Logistic Regression因其簡單、易于解釋、開發(fā)及運(yùn)維成本較低而受到追捧。然而互聯(lián)網(wǎng)中獲取的用戶的數(shù)據(jù)維度較多，以離散或分類屬性變量居多，且缺失數(shù)據(jù)較多，在這種情況下，Logistic Regression的適應(yīng)性會較差。而且規(guī)則引擎和信用評分卡模型分開的模式，有時會因為規(guī)則引擎里面某些規(guī)則過強(qiáng)而拒絕掉很多優(yōu)質(zhì)客戶。比如，某人因?qū)W生時代的助學(xué)貸款在剛畢業(yè)時未能及時償還而發(fā)生過逾期，按現(xiàn)有銀行審批規(guī)則是無論現(xiàn)在怎樣，申請信用卡時一律拒絕。因此比較好的改進(jìn)方法是，將規(guī)則引擎作為一系列弱的分類器，與信用卡評分分類器一塊構(gòu)成強(qiáng)的分類器模型。在這方面，GBDT將是一個不錯選擇。

GBDT(Gradient Boosting Decision Tree)又叫MART(Multiple Additive Regression Tree)，該模型不像決策樹模型那樣僅由一棵決策樹構(gòu)成，而是由多棵決策樹構(gòu)成，通常都是上百棵樹，而且每棵樹規(guī)模都較小（即樹的深度會比較淺）。模型預(yù)測的時候，對于輸入的一個樣本實(shí)例，首先會賦予一個初值，然后會遍歷每一棵決策樹，每棵樹都會對預(yù)測值進(jìn)行調(diào)整修正，最后得到預(yù)測的結(jié)果。

F(x)=F_0+β_1 T_1 (x)+β_2 T_2 (x)+?+β_m T_m (x)

其中，F(xiàn)_0為設(shè)置的初值，T_i是一棵棵的決策樹（弱的分類器）。

GBDT在被提出之初就和SVM一起被認(rèn)為是泛化能力（generalization）較強(qiáng)的算法。近些年更因被廣泛應(yīng)用于搜索排序以及推薦中而引起大家的關(guān)注，如Yahoo, Ebay等大型互聯(lián)網(wǎng)公司就采用過GBDT進(jìn)行搜索排序。在國內(nèi)，我在攜程工作時就曾應(yīng)用GBDT算法對客人進(jìn)行酒店noshow和延住的預(yù)測，為公司每年帶來千萬的收入，該項目是攜程技術(shù)驅(qū)動業(yè)務(wù)發(fā)展的典型代表。

GBDT作為一種boosting算法，自然包含了boosting的思想，即將一系列弱分類器組合起來構(gòu)成一個強(qiáng)分類器。它不要求每個分類器都學(xué)到太多的東西，只要求每個分類器都學(xué)一點(diǎn)點(diǎn)知識，然后將這些學(xué)到的知識累加起來構(gòu)成一個強(qiáng)大的模型。

分類模型的性能評估

分類模型應(yīng)用較多的除上面講的Logistic Regression和GBDT，還有Decision Tree、SVM、Random forest等。實(shí)際應(yīng)用中不僅要知道會選用這些模型，更重要的是要懂得對所選用的模型的性能做評估與監(jiān)控。

涉及到評估分類模型的性能指標(biāo)有很多，常見的有Confusion Matrix(混淆矩陣),ROC,AUC, Recall, Performance, lift, Gini ,K-S之類。其實(shí)這些指標(biāo)之間是相關(guān)與互通的，實(shí)際應(yīng)用時只需選擇其中幾個或者是你認(rèn)為是重要的幾個即可，無須全部都關(guān)注。下面就以Logistic Regression為例對這些常見的指標(biāo)做些簡單的說明，以方便大家理解與應(yīng)用。

注： 以下所有說明均以信用評分中的好壞用戶為例，壞客戶（壞人）標(biāo)識為1（也稱正例），好客戶（好人）標(biāo)識為0（也稱負(fù)例）。

1）Confusion Matrix

一個完美的分類模型就是，一個客戶實(shí)際上屬于壞的類別，模型也將其預(yù)測為壞人，實(shí)際上是好人時也預(yù)測為好人。而實(shí)際情況是模型不可能做到這一點(diǎn)，即常說的模型會存在誤判，因此我們必須知道模型預(yù)測對的有多少，預(yù)測錯的部分又占了多少，混淆矩陣就是囊括了這些所有信息。

注：

1. a是正確預(yù)測到的負(fù)例的數(shù)量，True Negative(TN)
2. b是把負(fù)例預(yù)測成正例的數(shù)量，F(xiàn)alse Positive (FP)
3. c是把正例預(yù)測成負(fù)例的數(shù)量，F(xiàn)alse Negative(FN)
4. d是正確預(yù)測到的正例的數(shù)量，True Positive(TP)
5. a+b是實(shí)際上為負(fù)例的數(shù)量，Actual Negative
6. c+d是實(shí)價上為正例的數(shù)量，Actual Positive
7. a+c是預(yù)測成負(fù)例的數(shù)量，Predicted Negative
8. b+d是預(yù)測成正例的數(shù)量，Predicted Positive

2）Accuracy（準(zhǔn)確分類率）

Accuracy=(true positive and true negative)/total=(a+d)/(a+b+c+d)

3）Error Rate（誤分類率）

Error Rate=(false positive and false negative)/total=(c+b)/(a+b+c+d)

4）Recall（正例覆蓋率）

recall也稱為sensitivity,在機(jī)器學(xué)習(xí)中稱recall較多，而sensitivity是生物統(tǒng)計中的常用叫法

Recall=(true positive )/(actual positive)=d/(c+d)

5）Performance也稱為Precision（正例的命中率簡稱命中率）

Performance=(true positive )/(predicted positive)=d/(b+d)

6）Specificity（負(fù)例覆蓋率）

Specificity=(true negative )/(actual negative)=a/(a+b)

7）Negative predicted value (負(fù)例命中率)

Negative predicted value=(true negative )/(predicted negative)=a/(a+c)

一般在工業(yè)化應(yīng)用中看重的是recall和performance，以信用審批為例，我們更關(guān)注的是在一定審批通過率的情況下，盡量降低壞賬率。

8）ROC

ROC曲線就是不同的閾值下，Sensitivity和1-Specificity的組合,ROC曲線是根據(jù)與45度線的偏離來判斷模型好壞。

圖4：ROC曲線圖

9）AUC與GINI

AUC=ROC曲線下的面積

GINI=2AUC-1

10）K-S

用于衡量好壞兩個群體分布之間的最大差異，KS=max(Sensitivity-Specificity)，KS取值處即為統(tǒng)計意義上的最佳cutoff切點(diǎn)

圖5：KS關(guān)系圖

結(jié)語

本文簡單介紹了下什么是機(jī)器學(xué)習(xí)，機(jī)器學(xué)習(xí)的常用算法，應(yīng)用機(jī)器學(xué)習(xí)搭建大數(shù)據(jù)風(fēng)控系統(tǒng)的探索以及分類模型的性能評估指標(biāo)。機(jī)器學(xué)習(xí)聽起來很高大上，在實(shí)際工作中也經(jīng)常會遇到一味炒作概念的人，過分夸大機(jī)器學(xué)習(xí)所能起到的作用，或者盲目的追求高深復(fù)雜的算法。我個人的觀點(diǎn)還是一方面現(xiàn)階段機(jī)器學(xué)習(xí)是可以幫我們提高工作效率的科學(xué)方法，另外一個方面就是能用簡單方法解決問題絕不為了高大上而去選擇復(fù)雜的方法，畢竟算法是沒有三六九等之分。最后，希望有更多的同學(xué)加入到統(tǒng)計與機(jī)器學(xué)習(xí)的研究中來。

作者：甘華來（點(diǎn)融黑幫），現(xiàn)任點(diǎn)融網(wǎng)高級數(shù)據(jù)分析師，曾在Ebay和攜程從事數(shù)據(jù)分析與機(jī)器學(xué)習(xí)方面的工作，關(guān)注統(tǒng)計與機(jī)器學(xué)習(xí)方面的研究、大數(shù)據(jù)風(fēng)控系統(tǒng)的建設(shè)。

本文由 @甘華來 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理?，未經(jīng)許可，禁止轉(zhuǎn)載。