編輯導(dǎo)語：如今隨著互聯(lián)網(wǎng)行業(yè)的不斷發(fā)展，金融行業(yè)也逐漸的融入到互聯(lián)網(wǎng)行業(yè)中去，在金融行業(yè)的模型風(fēng)險管理中，需要進(jìn)行審查的工作；本文作者分享了關(guān)于模型審查的4個核心要點(diǎn)，我們一起來了解一下。

在模型風(fēng)險管理不斷被監(jiān)管重視的當(dāng)下，從銀行金融機(jī)構(gòu)開始，消費(fèi)金融公司、網(wǎng)絡(luò)小貸公司將會循序漸進(jìn)、逐步建立完善的模型評審制度和標(biāo)準(zhǔn)，籌備模型審查部或小組。

或許“模型評審部“對于大部分在中國金融體系內(nèi)從業(yè)的風(fēng)控工作者相對陌生，但其在金融系統(tǒng)發(fā)達(dá)國家如美國、新加坡等地，如美國Capital one會單獨(dú)設(shè)立“模型評審部”。

也有一些外資銀行/互聯(lián)網(wǎng)金融機(jī)構(gòu)會設(shè)立雙模型審查組，一個組成立于模型內(nèi)部，一個組成立于應(yīng)用方外部。

模型審查的目的有三，如下：

• 為提供金融產(chǎn)品和服務(wù)的公司提供一套在決策中使用AIDA時需要考慮的基本原則；
• 協(xié)助企業(yè)在其自身的商業(yè)模式和結(jié)構(gòu)中對AIDA的使用進(jìn)行情境化和操作化管理；
• 促進(jìn)公眾對使用AIDA的信心和信任。

注釋：AIDA是Artificial Intelligence and Data Analytics的縮寫簡稱，以下用AIDA代表模型與分析。

在算法模型不斷被金融機(jī)構(gòu)大量應(yīng)用的當(dāng)下，為了避免模型風(fēng)險的不斷累計和放大，模型審查尤為重要。

在金融機(jī)構(gòu)符合以下非量化條件時，可能就要啟動模型審查，具體量化程度目前仍以各家金融機(jī)構(gòu)模型審查部決定。

• 在決策中使用AIDA的程度；
• AIDA模型的復(fù)雜性；
• AIDA驅(qū)動決策過程的自動化程度；
• 對不同利益相關(guān)者（包括個人）影響的嚴(yán)重性和可能性；
• 貨幣和金融系統(tǒng)的影響；
• 監(jiān)管影響；
• 可用追索權(quán)的選擇。

既然，模型審查于監(jiān)管特別重視，于金融機(jī)構(gòu)內(nèi)部管理十分重要，于金融產(chǎn)品使用者利益相關(guān)甚大，那么，怎么開展模型審查呢？

在大部分美系銀行內(nèi)部，是有一套標(biāo)準(zhǔn)的模型評審制度和流程，大到宏觀如金融產(chǎn)品公平性的審查，小到微觀核心代碼的逐字審查，都有跡可循。

本文我們就單以宏觀層，介紹模型審查工作的四個切入口。

01 公平性模型審查

公平性模型審查最重要的作用是，保證AIDA驅(qū)動的決策不會在沒有理由的情況下使任何特定的個人或個人群體處于不利地位。

如今，對不同群體的人提供不同的待遇是一種現(xiàn)有的做法，也是當(dāng)前商業(yè)模式的一部分；雖然使用AIDA可以基于數(shù)據(jù)的分割和聚類進(jìn)行分析，但這也意味著不同組之間的區(qū)別可以以更大的規(guī)模和更快的速度發(fā)生。

使用AIDA還可以創(chuàng)造出識別或分析以前無法做到的新類型分化的能力。如果不加以妥善管理，這可能會使系統(tǒng)層面上發(fā)生不合理的分化現(xiàn)象，并出現(xiàn)永久化。

舉個例子，對于性別的特征，男女不應(yīng)在貸款業(yè)務(wù)中出現(xiàn)性別歧視，也不能因?yàn)槟行院团栽谫J后逾期表現(xiàn)中不同，出現(xiàn)較大的貸款傾向性偏差。

對于專業(yè)的第三方AIDA公司，需要有適當(dāng)?shù)膬?nèi)部治理框架，以保證AIDA驅(qū)動決策的背后，有適當(dāng)?shù)恼撟C水平標(biāo)準(zhǔn)，包括使用特定的數(shù)據(jù)屬性，這樣的內(nèi)部治理框架也可能細(xì)化到評估數(shù)據(jù)和模型的過程。

綜上，公平原則關(guān)注兩個關(guān)鍵方面，一是合理性，二是AIDA驅(qū)動的決策的準(zhǔn)確性和偏向性。

02 道德性模型審查

所有使用或不使用AIDA的公司都符合其道德標(biāo)準(zhǔn)。這些道德標(biāo)準(zhǔn)通過多種方式表達(dá)，包括公司價值觀、行為準(zhǔn)則和使命聲明，并可能因公司和地域的不同而有所不同，遵守這些道德標(biāo)準(zhǔn)同樣適用于使用AIDA。

可能讀者朋友們對于道德性模型審查不好理解，我來舉一個人力資源部AIDA道德性模型審查的例子。

在使用模型和分析算法，實(shí)現(xiàn)通過模型或算法幫助企業(yè)人力部門篩選潛在的就業(yè)候選人時，模型或算法不能使用性別作為輸入或派生屬性。

03 責(zé)任性模型審查

在金融機(jī)構(gòu)，使用AIDA驅(qū)動的決策，需要建立明確的責(zé)任和所有權(quán)，并有適當(dāng)?shù)膬?nèi)部批準(zhǔn)機(jī)構(gòu)來批準(zhǔn)使用AIDA；這種責(zé)任適用于所有AIDA的使用，無論是內(nèi)部開發(fā)的還是外部來源的。

AIDA驅(qū)動的決策，特別是那些可能對數(shù)據(jù)主體產(chǎn)生重大影響的決策，需要基于對數(shù)據(jù)主體（如三方數(shù)據(jù)）盡可能準(zhǔn)確的理解；數(shù)據(jù)主體可以通過促進(jìn)溝通和尋求求助的渠道的方式，提供準(zhǔn)確信息。

因此，問責(zé)原則集中在兩個關(guān)鍵方面：

• 內(nèi)部問責(zé)，這與使用AIDA金融公司的內(nèi)部治理有關(guān)；
• 外部問責(zé)，這與使用AIDA金融公司對數(shù)據(jù)主體的責(zé)任有關(guān)。

內(nèi)部問責(zé)可以從3個角度開展：

• 在AIDA驅(qū)動的決策中使用AIDA是由適當(dāng)?shù)膬?nèi)部權(quán)力機(jī)構(gòu)批準(zhǔn)的；
• 使用AIDA的公司要對內(nèi)部開發(fā)的和外部采購的AIDA模型負(fù)責(zé)；
• 使用AIDA的公司主動提高管理層和董事會對其使用AIDA的認(rèn)識；

外部問責(zé)主要在執(zhí)行AIDA驅(qū)動的決策評審時，要考慮數(shù)據(jù)主體提供的已核實(shí)的和相關(guān)的補(bǔ)充數(shù)據(jù)。

04 透明性模型審查

雖然提高使用AIDA的透明度可以提高公眾對AIDA的理解和信心，但過度的透明度可能會造成混亂或個人利用或操縱AIDA模型的意外機(jī)會。

在確定使用AIDA的適當(dāng)透明度水平時，平衡這些考慮因素是很重要的。

透明性模型審查分為內(nèi)、外透明。

內(nèi)部透明，是指模型和組成特征的可解釋性、透明度模型審查，如模型的P-Value、MSE、KS，特征的Zero rate、Missing rate、KS等。

外部透明性審查是指應(yīng)用模型進(jìn)行決策時，使用金融服務(wù)的客戶對于AIDA的決策的知情性。

舉個例子，一家提供汽車保險的金融公司通知客戶，他們將使用駕駛模式的數(shù)據(jù)來審查客戶的保費(fèi)。

該公司解釋了某些駕駛模式如何影響保費(fèi)。公司提供了圖解和圖表來解釋識別的模式以及對不同客戶群體的影響；該公司還開發(fā)了一個用戶界面，允許客戶改變潛在的輸入，以了解對保費(fèi)結(jié)果的影響。

一個被收取更高保費(fèi)的客戶可以向公司尋求關(guān)于保費(fèi)上漲原因的有意義解釋。

這家汽車保險公司與客戶共享其所屬的客戶群體及其對保費(fèi)的影響，還與客戶廣泛分享用于分析其駕駛模式的數(shù)據(jù)，并為客戶提供更準(zhǔn)確和更新的信息。

從長遠(yuǎn)來看，客戶可能會選擇改變自己的行為，培養(yǎng)良好的駕駛習(xí)慣，以確保保費(fèi)不會增加。

以上，僅是模型審查的4個核心要點(diǎn)，并非全部要點(diǎn)。

模型評審不僅要滿足監(jiān)管要求，也要從科技和業(yè)務(wù)應(yīng)用等多方面綜合考慮如何評估、審查一個模型，只有這樣，全面數(shù)字驅(qū)動型金融系統(tǒng)才能逐步安全實(shí)現(xiàn)，大眾對于模型的認(rèn)知也會逐漸提升。

本文由 @FAL金科應(yīng)用研院 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理，未經(jīng)許可，禁止轉(zhuǎn)載。

題圖來自 unsplash，基于 CC0 協(xié)議