編輯導(dǎo)語(yǔ)：互聯(lián)網(wǎng)的終點(diǎn)是內(nèi)容，如今的內(nèi)容生產(chǎn)雖然沒(méi)有門(mén)檻，但是要做好優(yōu)質(zhì)內(nèi)容卻不是一件簡(jiǎn)單的事情，同時(shí)也需要平臺(tái)相關(guān)專(zhuān)業(yè)人員進(jìn)行把關(guān)。作者從內(nèi)容審核的工作流詳細(xì)分析我們所看到的平臺(tái)內(nèi)容是怎么來(lái)的，我們一起來(lái)看看吧，

有人言“互聯(lián)網(wǎng)的終點(diǎn)是內(nèi)容”，現(xiàn)如今內(nèi)容的生產(chǎn)已經(jīng)沒(méi)有門(mén)檻，每天億萬(wàn)級(jí)的內(nèi)容生產(chǎn)量，讓每一個(gè)到達(dá)你面前的內(nèi)容都是經(jīng)過(guò)了激烈的競(jìng)爭(zhēng)和“資本的加持”后的最終呈現(xiàn)，而競(jìng)爭(zhēng)的第一環(huán)節(jié)就是平臺(tái)審核。

今天我們從內(nèi)容的來(lái)源、政策環(huán)境、審核準(zhǔn)備、工作流程、平臺(tái)工具、管理等方面詳細(xì)聊一聊這個(gè)讓所有內(nèi)容平臺(tái)“只恨不愛(ài)”的問(wèn)題。

一、內(nèi)容來(lái)源和表現(xiàn)形式

1. 來(lái)源：平臺(tái)的內(nèi)容是如何產(chǎn)生的

內(nèi)部生產(chǎn)：由用戶，機(jī)構(gòu)和平臺(tái)本身生產(chǎn)的內(nèi)容，按照生產(chǎn)角色和目的主要形式為以下幾種。

• UGC：普通用戶生產(chǎn)的內(nèi)容，占比最高，最難管理的部分。其生產(chǎn)動(dòng)機(jī)多是用戶將自己原創(chuàng)的內(nèi)容通過(guò)互聯(lián)網(wǎng)平臺(tái)進(jìn)行展示或者提供給其他用戶，經(jīng)濟(jì)回報(bào)、社區(qū)用戶感情關(guān)系、成就感等
• PGC：有一定知識(shí)儲(chǔ)備的專(zhuān)業(yè)用戶發(fā)布的內(nèi)容。其內(nèi)容專(zhuān)業(yè)，優(yōu)質(zhì)且垂直，是平臺(tái)核心內(nèi)容的主要來(lái)源
• OGC：平臺(tái)/入駐平臺(tái)的結(jié)構(gòu)發(fā)布的內(nèi)容，有營(yíng)銷(xiāo)和商業(yè)目的。目前多以平臺(tái)邀約入駐，憑稿付傭的模式合作
• PUGC：伴隨時(shí)代發(fā)展和商業(yè)模式進(jìn)步催生的一種已UGC的形式生產(chǎn)堪比專(zhuān)業(yè)化水平的內(nèi)容，典型代表B站，以及各大知識(shí)付費(fèi)平臺(tái)

外部引進(jìn)：通過(guò)技術(shù)手段或內(nèi)容合作的方式獲取外部?jī)?yōu)質(zhì)內(nèi)容來(lái)補(bǔ)充內(nèi)容池，多用于冷啟動(dòng)階段的暫時(shí)手段，其形式主要為 ：

利用爬蟲(chóng)技術(shù)爬取公網(wǎng)數(shù)據(jù)，不修改或者稍作修改呈現(xiàn)到平臺(tái)。風(fēng)險(xiǎn)大！

從第三方平臺(tái)購(gòu)買(mǎi)或引入內(nèi)容，引入的合作機(jī)制可以是購(gòu)買(mǎi)，也可以將引入的內(nèi)容廣告化做曝光/點(diǎn)擊付傭，具體機(jī)制以內(nèi)容的類(lèi)別和優(yōu)質(zhì)程度決定。

以上是目前內(nèi)容的主要2大來(lái)源，不同的來(lái)源帶來(lái)的多元化的內(nèi)容，使得平臺(tái)可以為用戶提供更加豐富的內(nèi)容供消費(fèi)，而伴隨科技發(fā)展和時(shí)代進(jìn)步不斷發(fā)生變化的用戶需求，又讓內(nèi)容的表現(xiàn)也更加多樣化 ~，這就使得內(nèi)容的審核難度在逐漸加大。

2. 內(nèi)容表現(xiàn)形式：即呈現(xiàn)在前端的展示樣式

• 視頻：短視頻，中、長(zhǎng)視頻
• 圖文：兼有圖片（含gif) 和文字的富文本
• 圖集：為展示某一同類(lèi)信息的圖片集合
• 純文字：只有文字的內(nèi)容，是UGC發(fā)布量最高的內(nèi)容
• 音頻：用戶發(fā)布的語(yǔ)音信息
• VR視頻、圖片：需借助VR物理設(shè)備觀看的圖片和視頻,有一定的技術(shù)門(mén)檻，目前多是影視機(jī)構(gòu)在產(chǎn)出，對(duì)應(yīng)的消費(fèi)平臺(tái)也非常垂直

簡(jiǎn)單聊一下不同形式的內(nèi)容當(dāng)前和未來(lái)一些趨勢(shì)，僅供交流：

視頻尤其是短視頻是目前發(fā)布量增長(zhǎng)最快的，移動(dòng)智能設(shè)備的普及，視頻制作工具的傻瓜化，消費(fèi)者的注意傾斜都在助推視頻內(nèi)容的增長(zhǎng)，成為第一只是時(shí)間問(wèn)題。

圖文類(lèi)是當(dāng)下發(fā)布量最多的內(nèi)容形式，其中以情感化，故事化的圖文內(nèi)容最受消費(fèi)者青睞。

但是也催生了胡編亂造，博眼球賺流量的低劣內(nèi)容，雖占比不多但是由精細(xì)化的腳本支撐的文章每每都能收獲一大批粉絲，其背后無(wú)疑是利用人性中“善良，同情”去追求終極“財(cái)富密碼”。

當(dāng)讀者沉迷于其中而不自拔時(shí)，在某個(gè)地方的屏幕前有一批人看著不斷增長(zhǎng)的關(guān)注數(shù)量，都在私下里相互摩擦著拇指食指，眼中閃過(guò)一絲狡黠盤(pán)算著何時(shí)收割。平臺(tái)對(duì)它們是真的愛(ài)也不是，恨也不是，哎 ~

純文字 – 曾經(jīng)的UGC王者，當(dāng)下已逐漸跌落下神壇，消費(fèi)者對(duì)內(nèi)容多元化需求的提升，社會(huì)發(fā)展對(duì)人民生活環(huán)境的改變，圖片/視頻社交的興起都在推著純文字下臺(tái)，但是！這并不影響中華文字依舊是最直接最能徹底擊穿人類(lèi)靈魂的終極殺器！

有能力吃文字這碗飯的人，只要合適，多數(shù)平臺(tái)很樂(lè)意開(kāi)價(jià)簽人。

音頻除開(kāi)喜馬拉雅，蜻蜓，得到這樣的音頻付費(fèi)平臺(tái)外，從去年開(kāi)始語(yǔ)音播客逐漸興起，面對(duì)的多是24歲以下的年輕群體，相信未來(lái)定會(huì)在內(nèi)容領(lǐng)域占有重要的一席之地，潛力無(wú)限。

二、審核

審核全局視角的思維導(dǎo)圖：

1. 原則 ：所有非官方產(chǎn)出的內(nèi)容必須審核后才能展示！

為什么做這樣一個(gè)原則， 我們來(lái)看看近期的法規(guī)政策：

• 《關(guān)于加強(qiáng)網(wǎng)絡(luò)直播服務(wù)管理工作的通知》
• 《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》
• 《互聯(lián)網(wǎng)新聞信息服務(wù)單位內(nèi)容管理從業(yè)人員管理辦法》

再看看近幾年因內(nèi)容合規(guī)問(wèn)題而整改或消失的平臺(tái)：

從16年大力度整治互聯(lián)網(wǎng)環(huán)境開(kāi)始，直播是首當(dāng)其沖，曾經(jīng)熟悉的“段友”也見(jiàn)不到了， 內(nèi)涵段子和即刻還有最右是幾個(gè)比較有趣的平臺(tái)，曾經(jīng)豐富了多少人的精神世界，貢獻(xiàn)了多少新奇搞笑的段子，后面要么沒(méi)了，要么經(jīng)歷長(zhǎng)久下架，著實(shí)讓人痛心，受用戶喜愛(ài)的產(chǎn)品本應(yīng)長(zhǎng)青的。

政策環(huán)境以及ZF的監(jiān)管力度和決心，讓我們對(duì)內(nèi)容審核不能有絲毫的掉以輕心，沒(méi)有傳播發(fā)酵還好，一旦傳播開(kāi)來(lái)形成了影響力，平臺(tái)多是承受不起，輕則整頓，重則責(zé)令下架。

但是目前行業(yè)對(duì)審核的重視程度如何呢？

用我們BOSS的一句笑瞇瞇的話說(shuō) “也不知道你們這群人天天做啥，好像挺忙，好像又沒(méi)做什么事情，不能為公司創(chuàng)收，感覺(jué)養(yǎng)你們還不如養(yǎng)zhu”。

這當(dāng)然是一句玩笑話， 但是也反應(yīng)出企業(yè)對(duì)內(nèi)容安全的不重視，這種態(tài)度在中小企業(yè)是普遍存在的。后來(lái)平臺(tái)做大被人釣魚(yú)了，老板的態(tài)度大轉(zhuǎn)變，過(guò)來(lái)拱著手說(shuō)“你們這個(gè)部門(mén)，啊哈，沒(méi)有消息就是最好的消息。都別站著，干活吧?！?/p>

說(shuō)到監(jiān)管這里需要內(nèi)容產(chǎn)品經(jīng)理在開(kāi)展工作時(shí)要重視這個(gè)分析模型：PESTEL。

排在第一位的就是P -Political 政治因素，第一位可見(jiàn)其重要程度。

它包含具有實(shí)際與潛在影響的政治力量和有關(guān)的政策、法律及法規(guī)等因素，ZF管制和管制解除。

隨著社會(huì)整體對(duì)內(nèi)容質(zhì)量要求的提高以及相關(guān)監(jiān)督的介入，內(nèi)容審核規(guī)則必須在這個(gè)大框架下進(jìn)行，這是游戲規(guī)則，不遵守就出局。

再來(lái)看S -Social 社會(huì)因素：所在社會(huì)中成員的歷史發(fā)展、文化傳統(tǒng)、價(jià)值觀念、教育水平以及風(fēng)俗習(xí)慣。乍一看我審核個(gè)文章怎么還和社會(huì)因素掛鉤了？

不要小看社區(qū)實(shí)體人民群眾的力量，三人成虎，三十人足以形成傳播灶點(diǎn)，三百人可以讓你完蛋。聳人聽(tīng)聞 ？

想一想曾經(jīng)血洗B站的“耗子尾汁”的馬某，起初火爆到何種程度，視頻平臺(tái)、廣告、自媒體，日常聊天處處都是，就是此刻打字用的某輸入法都做了聯(lián)想熱詞。

后來(lái)全部下架，有人說(shuō)是央媽點(diǎn)名了，其實(shí)在此之前部分媒體和群眾已經(jīng)不買(mǎi)賬了，扒光了馬某炒作背后的利益目的，這才是導(dǎo)火索。

內(nèi)容這一行干的時(shí)間越久，對(duì)人民群眾的力量越是感到敬畏，同時(shí)對(duì)短時(shí)間內(nèi)傳播較廣的內(nèi)容有著近乎偏執(zhí)的敏感，不安的敏感，太多的內(nèi)容在傳播之初都是正向積極的，隨著傳播范圍的擴(kuò)張，覆蓋人群的增加慢慢的就變味兒了，變化的終點(diǎn)幾乎都奔著“財(cái)富密碼”去了。

最近2年我們也看到越來(lái)越多的博主，UP主發(fā)布致歉類(lèi)的信息，并刪除與此相關(guān)的內(nèi)容，都在佐證社會(huì)因素對(duì)平臺(tái)內(nèi)容管理的影響力。

對(duì)于內(nèi)容審核來(lái)說(shuō)這是一個(gè)擺在眼前的難點(diǎn)，我們很難判別一篇帖子是否和某一社會(huì)群體的”價(jià)值觀念“相悖，繼而他們會(huì)推倒第一塊多米諾骨牌，造成不可控的情況出現(xiàn)。

往往我們對(duì)這種情況的發(fā)現(xiàn)都是滯后的，而后亡羊補(bǔ)牢式的去補(bǔ)救。針對(duì)這一點(diǎn)，后面的審核管理章節(jié)中會(huì)提到一些措施方案。

三、準(zhǔn)備工作

1. 人員確定

選定認(rèn)真負(fù)責(zé)的人員，前期用自己的人有助于摸清平臺(tái)的內(nèi)容大概情況，后期酌情減少人員，并啟用第三方服務(wù)，機(jī)審為主，人工輔助檢查審核是個(gè)極其枯燥且挑戰(zhàn)耐心的事情，還要認(rèn)真仔細(xì)，你不經(jīng)意不留意的一幀情色畫(huà)面就可能導(dǎo)致平臺(tái)被網(wǎng)信辦通報(bào)，罰款。

選的人一定是耐得住寂寞，經(jīng)得住枯燥，乏味的工作內(nèi)容（看到這里的小伙伴，認(rèn)真講一句：如果可能請(qǐng)盡量不要從事內(nèi)容審核的工作，包括鑒黃師）。

謹(jǐn)慎選用開(kāi)車(chē)不用方向盤(pán)的老司機(jī)，這條僅代表個(gè)人過(guò)往經(jīng)歷的真心建議。如果是用來(lái)活躍團(tuán)隊(duì)氛圍的，那要優(yōu)先啟用這樣的人，其出產(chǎn)質(zhì)量不一定好，但是能調(diào)節(jié)工作氛圍，釋放部分工作壓力，對(duì)于團(tuán)隊(duì)而言利大于弊。

心理不夠健壯的不建議選用，長(zhǎng)期大量的負(fù)面，暴恐畫(huà)面會(huì)影響人的心理健康。一年下來(lái)摔壞十來(lái)個(gè)鍵盤(pán)，拍散幾張桌子不是什么大事，人出問(wèn)題就不是大家愿意看到的了。

2. 任務(wù)分配

專(zhuān)人專(zhuān)項(xiàng)：按照內(nèi)容的分類(lèi)進(jìn)行分配，即只審核某一/幾類(lèi)內(nèi)容，可以精確到類(lèi)別，模塊，頻道，欄目。此方法可以有效鍛煉審核人員對(duì)所屬分類(lèi)內(nèi)容的把控精度，缺點(diǎn)就是人容易崩潰。

統(tǒng)籌分配：不區(qū)分類(lèi)別按照發(fā)布數(shù)量均等分配給審核人。

按時(shí)分配：根據(jù)時(shí)段分配任務(wù)給到對(duì)應(yīng)的人員。因內(nèi)容發(fā)布高峰大多是相對(duì)集中的時(shí)段，此方案極有可能造成“旱的旱死，澇的澇死”情況出現(xiàn)， 如果你們公司正在采取這種方案，而且你是負(fù)責(zé)發(fā)布量大的時(shí)段， 提桶跑路吧 ~

3. 政策對(duì)接，信息解讀

選定專(zhuān)人對(duì)接相關(guān)部門(mén)發(fā)布的敏感詞，不定期“酌情”維護(hù)到審核后臺(tái)作為審核依據(jù)，酌情是因?yàn)楸O(jiān)管部門(mén)發(fā)布是針對(duì)全網(wǎng)的，有些不一定適用自己平臺(tái)。

相關(guān)政策信息的解讀， 這里主要針對(duì)指導(dǎo)性的政策，遇到后急速和內(nèi)容、運(yùn)營(yíng)、用戶、商品線的leader快速敲定應(yīng)對(duì)機(jī)制，立即發(fā)郵件給到業(yè)務(wù)線負(fù)責(zé)人執(zhí)行相關(guān)操作。

基于此平臺(tái)需要有個(gè)全局操作的功能，包括且不限于：內(nèi)容，昵稱，個(gè)性簽名，活動(dòng)，話題，商品，收藏， 加購(gòu)，特殊標(biāo)簽（如星月標(biāo)識(shí)）等等。

如果你打算在建黨百年的喜慶日子在遠(yuǎn)處航拍這歷史時(shí)刻的到來(lái)繼而在某寶搜無(wú)人機(jī)發(fā)現(xiàn)沒(méi)了，對(duì)，沒(méi)了，明明昨晚加購(gòu)了，可是現(xiàn)在什么都沒(méi)了，完全沒(méi)有預(yù)兆！

不要驚訝，人家解讀了某些信息做的正確反應(yīng)。幾天后你再看，一切都恢復(fù)正常了，像什么都沒(méi)發(fā)生一樣。

這迷幻的現(xiàn)實(shí)背后是監(jiān)管部門(mén)針對(duì)某些特別情況做出的或明確或隱晦的指示，企業(yè)一定要“聽(tīng)懂”并及時(shí)響應(yīng)。

為了做好審核工作，我們的休閑項(xiàng)目要加入觀看新聞聯(lián)播， 微博關(guān)注的對(duì)象要加入人民網(wǎng)，新華社，地方黨媒等賬號(hào)，密切關(guān)注他們發(fā)布和轉(zhuǎn)發(fā)的信息。

4. 審核標(biāo)準(zhǔn)

溫馨提示 ：標(biāo)準(zhǔn)制定質(zhì)量的高低，在很大程度上決定平臺(tái)做大以后因內(nèi)容合規(guī)被罰款的金額大小，被通報(bào)的幾率。

制定標(biāo)準(zhǔn)針對(duì)內(nèi)容本身，不以行業(yè)所屬為邊界。但是起始要基于自身所在的行業(yè)為中心展開(kāi)根據(jù)平臺(tái)內(nèi)容的真實(shí)情況逐步擴(kuò)展到其他領(lǐng)域以營(yíng)造和諧，安全，健康的內(nèi)容環(huán)境為核心， 標(biāo)準(zhǔn)要做到“莫得感情”。

首要條款：合規(guī)合法。涉及：黃/暴/毒/廣告、英烈、時(shí)政、官員、靈異、邪教、惡心圖文視頻、嬌喘、情欲（音頻），謠言等這是審核基準(zhǔn)線，不能觸碰。

知識(shí)圖譜：針對(duì)平臺(tái)本身的所處行業(yè)，整理&完善相關(guān)的知識(shí)圖譜，避免出一些低級(jí)、常識(shí)性錯(cuò)誤。

結(jié)合發(fā)布者角色/平臺(tái)：內(nèi)容審核一定要結(jié)合發(fā)布者的角色和平臺(tái)定位一起來(lái)看，否則就和機(jī)器沒(méi)有區(qū)別。

來(lái)源：分為兩部分。

第一指內(nèi)容的內(nèi)容來(lái)源：原創(chuàng)，二改，轉(zhuǎn)載等。

原創(chuàng)的優(yōu)質(zhì)內(nèi)容是各大平臺(tái)花錢(qián)都愿意要的內(nèi)容，是掌中寶。

二改目前處于管和不管的夾縫中，縱然大廠們聯(lián)合起來(lái)要求抵制二改，但是缺乏明確法規(guī)的支撐，雷聲大但是下不來(lái)雨，如果二改內(nèi)容影響到了行業(yè)發(fā)展相信應(yīng)該會(huì)頒布對(duì)應(yīng)的管理?xiàng)l例。

但是目前因?yàn)橛耙曎|(zhì)量的下降，二改在一批有趣靈魂的手中發(fā)生奇妙的變化成了寶貝，用戶買(mǎi)單，發(fā)布者漲粉，平臺(tái)留存提升，一舉三得。

在一定程度上其價(jià)值不亞于原創(chuàng)優(yōu)質(zhì)內(nèi)容，也頗受運(yùn)營(yíng)青睞，對(duì)于二改目前審核策略以寬松為準(zhǔn)；轉(zhuǎn)載的內(nèi)容在原平臺(tái)已經(jīng)受審，一般沒(méi)有問(wèn)題，只需注明出處來(lái)源，判定整體合規(guī)合法性并做標(biāo)簽標(biāo)記即可放行。

第二是發(fā)布者來(lái)源：政務(wù)，KOl，運(yùn)營(yíng)人員等。

政務(wù)部門(mén)，新聞媒體的內(nèi)容擁有高優(yōu)先權(quán)，在審核隊(duì)列中是要插隊(duì)甚至免審，相應(yīng)的某些規(guī)則對(duì)其也是不適用或適當(dāng)放寬。擁有插隊(duì)特權(quán)的還包括高級(jí)Kol, 和老板花大價(jià)錢(qián)剛簽過(guò)來(lái)的網(wǎng)絡(luò)紅人

內(nèi)容容量：指內(nèi)容信息的多少，有很多雜亂無(wú)章但是文字很多的帖子可能在某一行甚至某幾行的開(kāi)頭插入了廣告，短短幾十個(gè)字的內(nèi)容反過(guò)來(lái)讀也可能是發(fā)泄私憤的涉政言論，這些都是目前機(jī)審所不能有效捕捉的場(chǎng)景，很考驗(yàn)人的觀察和聯(lián)想能力，實(shí)在防不勝防。

總之能創(chuàng)作能寫(xiě)并不一定都是有料，目前看來(lái)一般字越多，風(fēng)險(xiǎn)越大。

對(duì)平臺(tái)的價(jià)值：當(dāng)一篇文章是對(duì)平臺(tái)有價(jià)值的優(yōu)質(zhì)內(nèi)容，應(yīng)當(dāng)酌情給予放寬審核并且加大曝光。

什么是對(duì)平臺(tái)有價(jià)值？判斷的標(biāo)準(zhǔn)是內(nèi)容是否直接幫助用戶更好的去了解和認(rèn)知平臺(tái)的產(chǎn)品和運(yùn)營(yíng)規(guī)則。比如游戲社區(qū)一部講解游戲新副本打法的攻略視頻，交友社區(qū)一篇以親身經(jīng)歷講述交友安全防范的民間科普帖等。

對(duì)用戶的價(jià)值：大多數(shù)精華內(nèi)容都隸屬這個(gè)范疇，但是有時(shí)候也有斟酌和掙扎，比如新出來(lái)的汽車(chē)款型，一個(gè)百萬(wàn)粉絲的kol購(gòu)買(mǎi)后做了一個(gè)拆解視頻詳細(xì)說(shuō)明了優(yōu)缺點(diǎn)放出來(lái)視頻，對(duì)汽車(chē)平臺(tái)來(lái)說(shuō)通過(guò)審核可能造成接不到這個(gè)汽車(chē)品牌的廣告影響收入，但是于用戶來(lái)說(shuō)真正了解汽車(chē)的構(gòu)造為他們下一步的購(gòu)買(mǎi)決策提供了珍貴的資料。

這樣的怎么處理，過(guò)么？過(guò)！平臺(tái)對(duì)用戶的價(jià)值越大，用戶口碑傳播帶來(lái)的流量越多，這些流量沉淀留存所產(chǎn)生的影響力和價(jià)值最終會(huì)撬動(dòng)廣告主打開(kāi)錢(qián)包。當(dāng)然如果我們正在恰飯，那就另說(shuō)，掙錢(qián)么，不磕磣。

其他：針對(duì)臨時(shí)發(fā)生熱點(diǎn)事件相關(guān)內(nèi)容的處理，尤其留意時(shí)政相關(guān)的，對(duì)于沒(méi)有把握的信息，先做隔離處理，拉著同事商議是否放行。

事后針對(duì)此類(lèi)內(nèi)容進(jìn)行解讀分析，產(chǎn)出審核建議補(bǔ)充到審核標(biāo)準(zhǔn)中審核標(biāo)準(zhǔn)的制定為工作執(zhí)行提供實(shí)打?qū)嵉膮⒖家罁?jù)，是保障平臺(tái)內(nèi)容安全合規(guī)的重要支撐，同時(shí)避免審核工作不會(huì)因人員流動(dòng)而產(chǎn)生很大影響，是審核工作中的第一桿槍?zhuān)⌒枰麄€(gè)團(tuán)隊(duì)認(rèn)真對(duì)待且持續(xù)健全和優(yōu)化。

四、審核平臺(tái)的搭建

工欲善其事必先利其器，一個(gè)優(yōu)秀的管理后臺(tái)可以使得審核效率事半功倍。審核平臺(tái)搭建主要涉及到以下幾個(gè)方面：權(quán)限管理， 分配規(guī)則管理，人員管理，審核流程，內(nèi)容管理。

權(quán)限管理：為審核人員，管理人員配置對(duì)應(yīng)的管理。要求精確度要到頁(yè)面按鈕級(jí)別，僅僅控制到菜單層面不行，一個(gè)誤操作就可能是一個(gè)客訴，權(quán)限管理必須嚴(yán)格，新增權(quán)限需要走審核。任務(wù)分配管理：支持上文提到的三種分配方式，且能做到組合使用，實(shí)時(shí)切換。

初期是大家一視同仁統(tǒng)籌分配，發(fā)展到后期基于人員能力的塑造成型和內(nèi)容生產(chǎn)相對(duì)集中于某幾個(gè)大類(lèi)某幾個(gè)時(shí)段的情況，造成某一批人負(fù)責(zé)具體的幾個(gè)大類(lèi)， 剩下的人統(tǒng)籌或分時(shí)分配的情況出現(xiàn)。

人員管理：涉及后臺(tái)賬號(hào)的創(chuàng)建，賦予賬號(hào)角色關(guān)聯(lián)角色權(quán)限。同時(shí)為保證審核的效率需要引入組織化管理，對(duì)審核人員進(jìn)行分組管理，設(shè)置組長(zhǎng)+成員，管理員分配任務(wù)給到各組，再由組長(zhǎng)分配給成員，也可以繞過(guò)組長(zhǎng)直接分配給成員，且組長(zhǎng)和成員兩者角色可隨時(shí)互換。

建議人員管理和OA系統(tǒng)掛鉤，避免出現(xiàn)人員流動(dòng)后變動(dòng)信息沒(méi)有拉通對(duì)齊，對(duì)審核工作造成不必要的麻煩。比如張三離職了，已分配的待審核內(nèi)容無(wú)人處理；李四組長(zhǎng)調(diào)崗了，任務(wù)沒(méi)有及時(shí)分配下發(fā)，組內(nèi)工作停擺。

審核流程：

1. 待審核內(nèi)容池

無(wú)論是自產(chǎn)還是外部引進(jìn)的內(nèi)容都需要進(jìn)審核池篩一遍，如果是之前被駁回后用戶直接申訴或二改申訴的也先篩一遍，通過(guò)帖子ID標(biāo)記其二次申訴貼的屬性做提醒用。

只有內(nèi)容要審核么？顯然不是，用戶昵稱，頭像，個(gè)性簽名，私信等等，理論上用戶可自主上傳和編輯的對(duì)象都是審核的范圍。

見(jiàn)過(guò)市面上不少公司都遺漏了這些，直到發(fā)生了事情后知后覺(jué)，比如用戶A用了一張P站視頻的截圖做了頭像，B起名叫：“平臺(tái)名稱”垃圾，C 的簽名是博彩平臺(tái)的廣告……

不得不承認(rèn)只有平臺(tái)想不到的，沒(méi)有用戶不敢做的。

除上述之外，來(lái)源于真實(shí)用戶的真實(shí)舉報(bào)作為一種特殊的內(nèi)容源頭，圖方便可以和審核做在一起因?yàn)閮烧咴跇I(yè)務(wù)上有耦合性，當(dāng)然有條件的還是走工單系統(tǒng)。

2. 機(jī)審

指的是第三方/自建自動(dòng)化審核系統(tǒng)。先說(shuō)要不要引入機(jī)審，衡量標(biāo)準(zhǔn)主要有內(nèi)容量級(jí)，投入成本，效率要求，數(shù)據(jù)安全4個(gè)方面。

當(dāng)平臺(tái)用戶增量和留存進(jìn)入穩(wěn)定期，內(nèi)容生產(chǎn)量相對(duì)沒(méi)有大波動(dòng)的時(shí)候， 根據(jù)投入成本和效率去衡量是否引入，隱藏前提條件是量大，一天百來(lái)個(gè)帖子就別了，機(jī)審服務(wù)也不是多劃算 ，而且一旦確認(rèn)引入就要做好數(shù)據(jù)遷移及數(shù)據(jù)開(kāi)放的心里準(zhǔn)備，部分公司考慮數(shù)據(jù)安全問(wèn)題放棄使用第三方服務(wù)的也不少。

也有一部分是聘請(qǐng)實(shí)習(xí)生，或者外包給長(zhǎng)沙、西安、東莞、江蘇等地的審核公司來(lái)做以降低成本支出。

機(jī)審的高效是毋庸置疑的，但是我說(shuō)是“傻瓜式”的是因?yàn)槟壳案鞔髲S商動(dòng)不動(dòng)宣傳的95%的識(shí)別成功率，從歷史經(jīng)歷來(lái)看差了10%左右，大數(shù)據(jù)和AI 在內(nèi)容審核的商業(yè)化利用以及技術(shù)的成熟程度還是有很長(zhǎng)一段路要走，大家唯一拿得出手目前只有文字方向基于NLP的語(yǔ)義分析，音頻轉(zhuǎn)錄也馬馬虎虎，圖片識(shí)別、視頻切幀是真的有待提高。

在正式商務(wù)合作前無(wú)論服務(wù)方吹噓的多么厲害，已合作的客戶多么出名，他且說(shuō)你且聽(tīng)，丟幾個(gè)有毛病的圖片、視頻放到對(duì)方官網(wǎng)的試用功能中一測(cè)便知深淺好的機(jī)審結(jié)果應(yīng)該是這樣的。

• 文字：對(duì)于確定性極高的違規(guī)內(nèi)容和亂碼直接剔除做駁回操作，拿捏不準(zhǔn)的敏感詞做標(biāo)記進(jìn)入下一步人工審核。
• 圖片：類(lèi)似于PS中的磁性套索圈出有嫌疑的區(qū)域，為避免干擾人工審核套索的顏色盡量是半透明的。
• 視頻：標(biāo)記出有問(wèn)題的視頻幀，如果問(wèn)題是連續(xù)的則標(biāo)記區(qū)間段。
• 音頻：轉(zhuǎn)錄為文字，標(biāo)記有問(wèn)題的語(yǔ)音片段以及其對(duì)應(yīng)的轉(zhuǎn)錄文字。
• 重復(fù)性：以完整內(nèi)容為單位判定其在近期是否有重合性超過(guò)50%的歷史數(shù)據(jù)，并做標(biāo)記和關(guān)聯(lián)。

3. 人工校驗(yàn)

審核指導(dǎo)方針：“發(fā)布人性質(zhì)”結(jié)合發(fā)布的“內(nèi)容中心思想”與“平臺(tái)定位”三位一體的統(tǒng)籌評(píng)判給審核的兄弟姐妹配備一個(gè)21吋以上的高清顯示器，提供一個(gè)便捷的管理后臺(tái) ！頁(yè)面配色素雅簡(jiǎn)約，整體頁(yè)面布局避免上面搜索條件，下面是待審核列表，點(diǎn)擊跳轉(zhuǎn)到新頁(yè)面查看詳情，還有的彈窗顯示詳情，咋不上天呢？

安安穩(wěn)穩(wěn)的左列表，右詳情的布局，是比較人性且能保證效率的布局。如果你還有更好的建議，歡迎評(píng)論區(qū)討論（工作站就別說(shuō)了啊，我們買(mǎi)不起）。

搜索條件字段：發(fā)布人（昵稱，手機(jī)號(hào)）、時(shí)間段、關(guān)鍵詞 、分類(lèi)、話題，審核狀態(tài)，精華/推薦到首頁(yè)等。

審核狀態(tài)：待審核，通過(guò)， 駁回，屏蔽，刪除，隔離。

輔助工具：

文字：機(jī)審后篩出來(lái)敏感文字用40-60%透明度冷色系顏色標(biāo)注，標(biāo)記內(nèi)容可被取消也可以不處理（不處理需要有個(gè)默認(rèn)的前端顯示邏輯：比如用※替換內(nèi)容），但是不要輕易擅自幫助作者去修改。對(duì)于機(jī)審沒(méi)有識(shí)別出但是有問(wèn)題的亦支持人工標(biāo)記供審核人員自用

圖片：如上文所說(shuō)，系統(tǒng)將有問(wèn)題的圖片選出來(lái)后用半透明套索把問(wèn)題區(qū)域圈出來(lái)，讓人可以捕捉到問(wèn)題點(diǎn)，判定是否違規(guī)，同時(shí)圖片查看工具應(yīng)該支持基本的縮小、多倍放大、旋轉(zhuǎn)、倒轉(zhuǎn)、左右切換多張圖、右鍵（站內(nèi)或全網(wǎng)）搜索應(yīng)對(duì)抄襲和侵權(quán)。

視頻：支持倍速播放，一鍵截屏（用于和同事討論拿捏不準(zhǔn)的畫(huà)面），正常區(qū)域的倍速播放，播放到被標(biāo)記有問(wèn)題的視頻區(qū)域自動(dòng)切換成正常/0.5倍播放。

視頻的審核比文字存在更加的主觀性因素影響最終的判斷，目前很多平臺(tái)是有個(gè)別擦邊的放行，非作者/拍攝者明顯意圖的極個(gè)別畫(huà)面放行，具體的容忍畫(huà)面總數(shù)各家都不同，很多心照不宣的是3處，我們稍微暖一點(diǎn)給了4處，如果是連續(xù)的畫(huà)面一定是駁回不通過(guò)。

視頻類(lèi)有拿不準(zhǔn)的地方的建議參考B站今年3月-6月份舞蹈區(qū)的女up主的作品變化，重點(diǎn)不是看作品是看變化啊。

音頻：給到審核人員的一定是降噪后的清晰聲音數(shù)據(jù)，且自動(dòng)轉(zhuǎn)錄為文字，并同時(shí)標(biāo)記有問(wèn)題的音頻部分及其對(duì)應(yīng)的轉(zhuǎn)錄文字。

多數(shù)情況聽(tīng)聲音就能判定是否合規(guī)，文字是輔助。要是遇到降噪后也聽(tīng)不清的過(guò)還是不過(guò)？自信點(diǎn)，別人也聽(tīng)不清楚。

好的輔助功能是可以直接提升審核效率和質(zhì)量的， 有一套趁手的小工具足以讓工作事半功倍，是審核工作中當(dāng)之無(wú)愧的第二桿槍 ！

4. 通過(guò)與否

通過(guò)：合規(guī)合法的內(nèi)容，通過(guò)審核進(jìn)入到內(nèi)容池內(nèi)，待推薦系統(tǒng)調(diào)用。

屏蔽：

①屏蔽僅發(fā)布人可見(jiàn)，第三方進(jìn)入作者主頁(yè)也不可見(jiàn)，此類(lèi)內(nèi)容的分享，收藏功能需隱藏；

②全局屏蔽針對(duì)的是時(shí)下不易外露的內(nèi)容，后序可酌情放開(kāi)的”優(yōu)質(zhì)“內(nèi)容，不是優(yōu)質(zhì)就直接屏蔽僅發(fā)布人可見(jiàn)。

比如今年清明節(jié)的大力宣揚(yáng)紅色精神，各地都在悼念革命先烈，一個(gè)幾十萬(wàn)粉絲的KOL發(fā)了一部穿和服跳著歡快舞蹈的視頻，擱在平常沒(méi)問(wèn)題 ，但在時(shí)下特殊的時(shí)期是斷然不合適出現(xiàn)。特別說(shuō)明：屏蔽的內(nèi)容是一種特殊的審核通過(guò)狀態(tài)。

• 刪除：違法違規(guī)內(nèi)容，敏感信息占比較多的內(nèi)容，危害平臺(tái)或平臺(tái)用戶的內(nèi)容做刪除處理。
• 駁回：不滿足刪除條件，有修正空間的內(nèi)容做駁回處理，說(shuō)明內(nèi)容被駁回酌情通知到作者并告知原因，且給到用戶申訴途徑，以應(yīng)對(duì)誤操作引起的客訴。
• 隔離：當(dāng)下不能判定的內(nèi)容，暫時(shí)“隔離”單獨(dú)處理，可以是一個(gè)按鈕功能也可以非功能員工自行管理。

后序和同事商議后判定是否通過(guò)，并從該事件提煉相關(guān)特征在例會(huì)中和團(tuán)隊(duì)討論后把結(jié)果補(bǔ)充到審核標(biāo)準(zhǔn)中。隔離多發(fā)生在新梗，新詞匯，比如：無(wú)“遞”自容、姐姐殺我、yyds 、py交易。

題外話 – 對(duì)于審核通過(guò)內(nèi)容可附加的工作：

對(duì)于審核通過(guò)的內(nèi)容打標(biāo)簽。缺乏資金和技術(shù)支持的，粗暴的用關(guān)鍵詞匹配，詞頻等維度提煉標(biāo)簽，審核人員二次增刪標(biāo)簽。

有技術(shù)條件的：依托NLP、AI等相關(guān)算法技術(shù)，總結(jié)內(nèi)容的中心思想，提煉核心標(biāo)簽。

當(dāng)平臺(tái)運(yùn)行了一段時(shí)間，有了數(shù)據(jù)基礎(chǔ)的建議盡早建立/完善自己的標(biāo)簽數(shù)據(jù)模型，審核通過(guò)的內(nèi)容直接進(jìn)模型，產(chǎn)出內(nèi)容標(biāo)簽，逐步做到撤銷(xiāo)人工干預(yù)?；蛘哒业谌絹?lái)處理，當(dāng)前內(nèi)容提煉的服務(wù)商的成果還是值得肯定的。

• 評(píng)選精華內(nèi)容：審核通過(guò)的內(nèi)容符合精華內(nèi)容標(biāo)準(zhǔn)的直接打上精華標(biāo)簽，進(jìn)入推薦系統(tǒng)
• 信息同步：審核結(jié)果同步給端上，涉及到創(chuàng)作獎(jiǎng)勵(lì)需調(diào)用對(duì)應(yīng)業(yè)務(wù)接口發(fā)放獎(jiǎng)勵(lì)，需要用戶進(jìn)一步操作的打通MQ推送相關(guān)消息給到用戶
• 封號(hào)：根據(jù)用戶發(fā)布內(nèi)容的惡劣程度基于不同時(shí)長(zhǎng)的封號(hào)懲罰，需提前和用戶運(yùn)營(yíng)部門(mén)協(xié)商定義和內(nèi)容違規(guī)相關(guān)的封號(hào)條款

5. 內(nèi)容管理

審核前，中，后的內(nèi)容管理及于此相關(guān)的特殊場(chǎng)景的解決方案。

（人工）審核前：標(biāo)記內(nèi)容來(lái)源，用戶性質(zhì)，用戶擅長(zhǎng)領(lǐng)域，內(nèi)容主標(biāo)簽等字段輔助審核人員工作。針對(duì)不同的內(nèi)容/用戶，其對(duì)應(yīng)的操作按鈕需要根據(jù)運(yùn)營(yíng)指導(dǎo)規(guī)范決定功能的可用性，前期會(huì)增加一部分工作量，后期將有效避免因人工疏忽而導(dǎo)致的誤操作。

審核中：主要針對(duì)是審核中的協(xié)同機(jī)制，包括任務(wù)分配回退，二次分配，單內(nèi)容轉(zhuǎn)移等。

審核后：精華優(yōu)質(zhì)內(nèi)容到根據(jù)分類(lèi)、標(biāo)簽、匹配規(guī)則等進(jìn)入到對(duì)應(yīng)頻道/用戶的推薦列表進(jìn)行強(qiáng)曝光，將過(guò)審的普通內(nèi)容進(jìn)入內(nèi)容管理池等待推薦系統(tǒng)調(diào)用。

所有過(guò)審的內(nèi)容對(duì)應(yīng)的狀態(tài)都是可切換甚至可逆轉(zhuǎn)的，對(duì)于審核工作是結(jié)束， 對(duì)于內(nèi)容管理是開(kāi)始。審核后需定時(shí)關(guān)注數(shù)據(jù)表現(xiàn)，發(fā)現(xiàn)異常立即調(diào)查做到萬(wàn)無(wú)一失，從這點(diǎn)上說(shuō)我們的審核工作沒(méi)有終點(diǎn) ~

五、運(yùn)營(yíng)管理

1. 以人為本

以人為本，審核的負(fù)面信息多，人是第一位的，員工上班在微信群里聊天，或者三兩人聚在一起聊天，只要不耽誤工作不要過(guò)多管理。

有員工提出身體不適請(qǐng)假直接批，一直不能適應(yīng)就盡早安排轉(zhuǎn)崗。如果看到他們?cè)谒⑽⒉?，擼B站要相信他們是在出于工作的目的在收集信息，而不是摸魚(yú)。摸魚(yú)的人會(huì)在審核效率和質(zhì)量有直觀的反饋，很容易被發(fā)覺(jué)。

2. 審核規(guī)則

審核規(guī)則的動(dòng)態(tài)更新，內(nèi)容是跟隨時(shí)代和生活變化的，審核規(guī)則需根據(jù)新的情況做對(duì)應(yīng)的調(diào)整和更新，保證給到員工的參考資料是與時(shí)俱進(jìn)的， 同時(shí)維持其在團(tuán)隊(duì)中的權(quán)威性，而不是入職后的培訓(xùn)資料過(guò)了就算了。

3. 異常監(jiān)聽(tīng)

對(duì)平臺(tái)全局內(nèi)容結(jié)合外網(wǎng)榜單對(duì)新產(chǎn)生的內(nèi)容進(jìn)行狀態(tài)監(jiān)聽(tīng)， 尤其注意是短時(shí)間內(nèi)大量相似內(nèi)容產(chǎn)量增加的現(xiàn)象。

此現(xiàn)象的出現(xiàn)多為有組織，有策劃的目的性事件，且目的多不純粹，有資本有經(jīng)驗(yàn)的團(tuán)隊(duì)可以短期在多個(gè)高流量平臺(tái)無(wú)差別發(fā)布“炮彈內(nèi)容”，其背后的策劃方案時(shí)間線，事件軸，不同發(fā)酵階段的內(nèi)容安排的明明白白，且組織性紀(jì)律性極強(qiáng)，精細(xì)度不亞于一臺(tái)精彩大戲，令人咂舌！

另外一種需要特別注意的情況是在沒(méi)有高曝光助推的前提下，瀏覽、贊、評(píng)，彈幕、分享等互動(dòng)數(shù)據(jù)在短時(shí)間內(nèi)一場(chǎng)攀高， 此場(chǎng)景的調(diào)查結(jié)果一般是三種：

1. 審查中被遺漏的優(yōu)質(zhì)內(nèi)容被用戶頂起來(lái)了；
2. 擦邊、引戰(zhàn)、水軍等因素的助推；
3. 因時(shí)下某一熱點(diǎn)事件引出與其相關(guān)內(nèi)容的二次活躍， 如袁隆平老先生千古引起與其相關(guān)文章的再度火爆。

希望大家遇到的都是第一種情況。

4. 數(shù)據(jù)統(tǒng)計(jì)

以日、周、月、時(shí)（備選）為單位的可視化數(shù)據(jù)統(tǒng)計(jì)業(yè)務(wù)維度包括不限于：審核總量，通過(guò)，屏蔽， 刪除，隔離，精華的數(shù)量及其占比詞頻。

尤其統(tǒng)計(jì)新出現(xiàn)的高頻詞頻，針對(duì)出現(xiàn)的頻率以及發(fā)布人的性質(zhì)酌情判斷是否周知到內(nèi)容運(yùn)營(yíng)部門(mén)和活動(dòng)部門(mén)上下游的數(shù)據(jù)鏈協(xié)同分析：結(jié)合上游日活，發(fā)布頁(yè)訪問(wèn)量， 編輯頁(yè)停留時(shí)間，新增草稿數(shù)，未發(fā)布草稿存量等數(shù)據(jù)判定整體內(nèi)容發(fā)布量的走勢(shì)， 結(jié)合下游瀏覽、點(diǎn)擊、轉(zhuǎn)贊評(píng)的互動(dòng)數(shù)據(jù)判定審核的質(zhì)量。

審核人員每日的工作數(shù)據(jù)，在線時(shí)間，審核數(shù)量，審核的類(lèi)型分布，平均完成時(shí)間，任務(wù)完成率等維度的數(shù)據(jù)，分析后判定工作分配是否合理，是否需要增減人手，是否有人怠工，新進(jìn)同事是否需要協(xié)助等。

所有的數(shù)據(jù)按照天，周為單位按照管理需求統(tǒng)計(jì)好上班前自動(dòng)發(fā)送到關(guān)系人郵箱中，有問(wèn)題及早發(fā)現(xiàn)解決。

5. 團(tuán)隊(duì)管理

人員分組和職能責(zé)任的清晰界定，此為開(kāi)展工作的基礎(chǔ)，防止內(nèi)部發(fā)生不和諧的扯皮現(xiàn)象知識(shí)圖譜的構(gòu)建和維護(hù)。

這是一個(gè)長(zhǎng)期工作且對(duì)學(xué)術(shù)專(zhuān)業(yè)性有一定要求，是諸多審核場(chǎng)景的參考資料，非常重要，需要和內(nèi)容運(yùn)營(yíng)、用戶運(yùn)營(yíng)、客服團(tuán)隊(duì)協(xié)同合作每日/周在工作群匯報(bào)單日審核情況，由組員上報(bào)給組長(zhǎng)，組長(zhǎng)匯總后發(fā)到工作群，形式不限。

供應(yīng)商的管理：如果審核工作交由第三方全權(quán)處理，那么以上的所有條款的性質(zhì)將由“執(zhí)行和管理”變成純管理，在減輕公司開(kāi)支的時(shí)候，增加了管理成本，如果三方很靠譜，管理起來(lái)的成本是可以很低的，反之審核抽查團(tuán)建。

六、企業(yè)責(zé)任

如果我們的平臺(tái)為消費(fèi)者提供了內(nèi)容消費(fèi)模塊， 無(wú)論我們是否依托于此來(lái)促進(jìn)活躍，增加用戶訪問(wèn)時(shí)長(zhǎng)， 或以此為營(yíng)收，都應(yīng)該為消費(fèi)者營(yíng)造一個(gè)和諧積極充滿意義和樂(lè)趣的良好內(nèi)容氛圍，為生產(chǎn)者努力創(chuàng)造一個(gè)有創(chuàng)意，有深度，有專(zhuān)業(yè)度即可有所匯報(bào)的公平公開(kāi)的平臺(tái)。

企業(yè)作為“話事人”協(xié)同兩者的不同需求點(diǎn)，不斷摸索合適的運(yùn)營(yíng)方案去營(yíng)造一個(gè)“興趣化”“圈層化”的社區(qū)氛圍，并有的放矢地使其“失控”，給予一定的自然發(fā)展空間讓消費(fèi)者和生產(chǎn)者都有所得，有所成長(zhǎng)，這些所得和成長(zhǎng)很大程度能夠持續(xù)反哺平臺(tái)使其更加健壯，而多數(shù)時(shí)候”失控”狀態(tài)下衍生出的管理方法往往比刻意的方案更加有活力。

當(dāng)一個(gè)平臺(tái)發(fā)展到一定階段， 擁有的用戶量級(jí)到了一定數(shù)值，那么它不單單只是一個(gè)平臺(tái)，更多的要肩負(fù)社會(huì)和人文責(zé)任。

如果你看到一個(gè)10多歲的男孩子上傳了幾篇“遺言”的視頻，一個(gè)初中小姑娘連續(xù)發(fā)表了幾篇抑郁輕生的文章，一個(gè)疑似虐待兒童的隱晦視頻，我們除了能把它屏蔽，刪除就什么都干不了了么？

不是，如今的中國(guó)各式各樣的非營(yíng)利性健康機(jī)構(gòu)已遍布全國(guó)大中城市，我們可以與其接洽，有選擇的分享一些信息，雙方協(xié)作去干預(yù)一些事情向不好的形勢(shì)發(fā)展下去，去幫助哪些信賴我們將他們不輕易對(duì)外展示的東西發(fā)布到我們平臺(tái)的特殊群體，他們的信賴值得我們做些什么，而且必須做些什么。

本文由 @漢武帝 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理，未經(jīng)作者許可，禁止轉(zhuǎn)載。

題圖來(lái)自Unsplash，基于CC0協(xié)議。