編輯導(dǎo)讀：做社區(qū)產(chǎn)品的，避免不了要對社區(qū)內(nèi)的生態(tài)進行管理，對社區(qū)不良內(nèi)容進行干預(yù)。那么，如何治理內(nèi)容生態(tài)呢？本文作者對此進行了分析，希望對你有幫助。

一、內(nèi)容生態(tài)治理是什么

內(nèi)容生態(tài)治理一般是指對社區(qū)不良內(nèi)容進行干預(yù)。

國家互聯(lián)網(wǎng)信息辦公室于2019年12月15日發(fā)布《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》將“網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理”定義為，政府、企業(yè)、社會、網(wǎng)民等主體，以培育和踐行社會主義核心價值觀為根本，以網(wǎng)絡(luò)信息內(nèi)容為主要治理對象，以建立健全網(wǎng)絡(luò)綜合治理體系、營造清朗的網(wǎng)絡(luò)空間、建設(shè)良好的網(wǎng)絡(luò)生態(tài)為目標(biāo)，開展的弘揚正能量、處置違法和不良信息等相關(guān)活動。并要求網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者應(yīng)當(dāng)采取措施，防范和抵制各類不良信息，營造良好網(wǎng)絡(luò)生態(tài)。

內(nèi)容生態(tài)治理源于內(nèi)容演變速度與社區(qū)管控能力存在的沖突。

如果社區(qū)內(nèi)容是穩(wěn)定不變的，那么只需要一套固定的管控能力，不需要長期地治理。這也就是為啥隨著社區(qū)內(nèi)容的豐富，各家企業(yè)開始重視生態(tài)治理、內(nèi)容風(fēng)控業(yè)務(wù)，大量招人的原因。

內(nèi)容生態(tài)治理負責(zé)平衡內(nèi)容質(zhì)量與業(yè)務(wù)規(guī)模存在沖突。

社區(qū)需要優(yōu)質(zhì)內(nèi)容和優(yōu)質(zhì)用戶，而優(yōu)質(zhì)內(nèi)容和優(yōu)質(zhì)用戶是稀缺的，且很難被大眾理解的。

為了迎合不那么優(yōu)質(zhì)的，但能給社區(qū)帶來大量dua、gmv的用戶，社區(qū)原本定義的優(yōu)質(zhì)內(nèi)容也會變成不良內(nèi)容，比如知乎一開始只是針對特定有影響力的作者開放，后來開始削弱大V點贊訂閱不再推送給所有粉絲，某些有理有據(jù)的文章會出現(xiàn)“爭議較大的觀點”提示，比如小紅書最近的“照騙”事件，博主上傳精心拍攝、后期的優(yōu)質(zhì)內(nèi)容原本是一件雙贏的事，博主收獲了粉絲和變現(xiàn)，平臺也收獲了用戶和廣告分成，但依然會有用戶覺得被騙了，小紅書肯定馬上會對“照騙”內(nèi)容進行一波生態(tài)治理。

二、具體怎么做

1. 判斷內(nèi)容是否要治理

生態(tài)治理有2大來源，一種是外部倒逼的，一種是內(nèi)部自發(fā)的。不同的來源的緊急程度、判斷方式不同。

外部倒逼的治理：指令、輿情

1）指令

指令有兩種，第一種是國家部門公開發(fā)布的清查、政治指令。這類指令一般描述得較為抽象和寬泛，需要專業(yè)的政府關(guān)系部門和風(fēng)控部門共同進行研判解讀后，基于平臺定位制定具體的執(zhí)行范圍和方向。

比如：6月15日，中央網(wǎng)信辦宣布在全國范圍內(nèi)開展“清朗·‘飯圈’亂象整治”專項行動。豆瓣開始對違規(guī)賬號、問題小組等進行刪除和解散，愛奇藝對集資、打榜徹底“自查自糾”。

另一種是國家部門直接給企業(yè)下達的查殺的指令，比如互聯(lián)網(wǎng)舉報中心收到xx舉報，命令平臺處理，這類指令必須執(zhí)行。

2）輿情

輿情一般指用戶或媒體在站外對平臺出現(xiàn)的內(nèi)容進行負面評價，并達到一定傳播量，如果不及時處理，可能對平臺品牌形象、聲譽有惡劣影響。官媒發(fā)出的負面評價，嚴肅程度不亞于指令。

比如：9月末，《新京報》和《央視網(wǎng)》等多家媒體報道了社交媒體的“佛媛”現(xiàn)象，一時間上了熱搜。各個社區(qū)在第一時間進行了清查，抖音共處罰利用“佛媛”形象營造人設(shè)開展虛假營銷行為相關(guān)帳號48個，其中永久封禁帳號7個，同時，清理違規(guī)視頻148條。小紅書第一時間已啟動專項檢查，清理違規(guī)筆記70篇，封禁賬號3個。

10月，很多人假期出游后，在社交網(wǎng)絡(luò)上吐槽小紅書“濾鏡景點”，一時沖上了熱搜，之后小紅書進行了公開道歉。

對于外部倒逼的指令、輿情，一般由企業(yè)內(nèi)專業(yè)的公關(guān)部門，政府關(guān)系部門進行快速交涉和判斷，給出應(yīng)對措施到各個部門執(zhí)行落地，進行生態(tài)治理是其中必備的措施之一。

內(nèi)部自發(fā)的治理：監(jiān)測到平臺內(nèi)容風(fēng)險上升

日常觀察社區(qū)整體內(nèi)容風(fēng)險的監(jiān)控數(shù)據(jù)，以及定期對社區(qū)內(nèi)容的抽樣摸底，及時發(fā)現(xiàn)風(fēng)險的變化。風(fēng)險上升主要體現(xiàn)為：

1. 用戶負反饋上漲，某類內(nèi)容被集中舉報投訴或不感興趣，有演化成外部輿情的趨勢。
2. 內(nèi)容特征升級，需要在原有治理策略的基礎(chǔ)上進行迭代，比如一開始大家喜歡在簡介里導(dǎo)流微信，發(fā)現(xiàn)容易被平臺和諧，后來大家發(fā)現(xiàn)還可以通過多個視頻封面連在一起導(dǎo)流微信。
3. 內(nèi)容影響變大，之前只有個別人喜歡這么玩，突然很多人這么玩，比如劇本賣貨一開始是頭部主播在玩，大家還覺得新鮮，但后來模仿者越來越多，影響了業(yè)務(wù)指標(biāo)（比如觀眾瀏覽直播的時長變低、退貨率變高等），于是平臺開始進行干涉。

比起外部輿情指令，這類內(nèi)部監(jiān)測到的風(fēng)險變動，有更充足的時間來進行判斷分析，所以需要進一步通過數(shù)據(jù)分析該內(nèi)容的實際風(fēng)險情況來做決策。一般使用以下指標(biāo)：

風(fēng)險衡量指標(biāo)：

• 該內(nèi)容在整個社區(qū)的瀏覽（vv）占比
• 該內(nèi)容引發(fā)的舉報投訴、輿情等

收益衡量指標(biāo)：

• 該內(nèi)容為平臺帶來的營收（廣告營收、gmv營收、打賞營收）、對應(yīng)作者的粉絲量等
• 已有風(fēng)控策略的質(zhì)量指標(biāo)
• 召回率
• 準(zhǔn)確率

最終得出的結(jié)論：

1. 風(fēng)險較低，或收益顯著大于風(fēng)險，暫時不需要治理，并保持觀察
2. 風(fēng)險較高，原來不打，現(xiàn)在需要打，或原來打得松，現(xiàn)在需要嚴打

決定要打以后，就可以開始進行內(nèi)容生態(tài)策略設(shè)計了。

2. 治理策略三步走

第1步?定義治理對象，基于用戶特征、內(nèi)容場景特征等，給出治理對象的具體定義和機器/人工可執(zhí)行的規(guī)則。

當(dāng)我們得出初步的治理方向后，落地執(zhí)行的第一步就是基于社區(qū)內(nèi)容現(xiàn)狀的分析，定義及刻畫治理的對象。比如要對社區(qū)“侮辱謾罵”評論進行治理，分析步驟如下：

1. 取出社區(qū)內(nèi)過去n天，可能存在侮辱謾罵內(nèi)容的評論內(nèi)容、用戶id、評論點贊次數(shù)、評論曝光次數(shù)。
2. 從總體n條數(shù)據(jù)中簡單隨機抽樣，使每個可能的樣本被抽中的概率相等。
3. 對每條樣本標(biāo)注特征標(biāo)簽、有害程度。標(biāo)記前，需要制定標(biāo)注規(guī)則，確保判斷維度一致，如果對內(nèi)容比較陌生，標(biāo)記時盡可能用細致的標(biāo)簽，標(biāo)記完成后可以進行同類項合并。
4. 匯總標(biāo)注結(jié)果并得出結(jié)論。將各類標(biāo)簽照合理的邏輯框架整理匯總，綜合影響面、風(fēng)險情況確定優(yōu)先級，作為接下來的策略依據(jù)。對于侮辱謾罵來說，明確對他人進行人身攻擊、引戰(zhàn)的評論風(fēng)險最高，需要進行治理，而臟話口頭禪類風(fēng)險較低，只需要保持觀察或輕度干預(yù)。

第2步?針對不同程度的內(nèi)容，制定干預(yù)規(guī)則，內(nèi)容對社區(qū)傷害的程度（也就是風(fēng)險）決定干預(yù)規(guī)則。

有了干預(yù)規(guī)則，就可以結(jié)合平臺已有的策略手段設(shè)計實現(xiàn)方式了。

1. 在線策略：事前識別內(nèi)容及用戶，實時召回進行干預(yù)，比如對內(nèi)容進行發(fā)布干預(yù)，命中某些特征直接禁發(fā)，或進行流量干預(yù)，比如調(diào)整推薦策略、對內(nèi)容限制分發(fā)或刪除自見，還可以對用戶權(quán)限進行干預(yù)，某些喜歡發(fā)布這些內(nèi)容的用戶直接限流或禁止發(fā)布新內(nèi)容
2. 離線策略：事后結(jié)合歷史數(shù)據(jù)進行干預(yù)，比如內(nèi)容被干預(yù)n次后，升級為用戶權(quán)限。

對于侮辱謾罵內(nèi)容來說，明確對他人進行人身攻擊、引戰(zhàn)的評論風(fēng)險最高，需要進行治理，而臟話口頭禪類風(fēng)險較低，只需要保持觀察或輕度干預(yù)。在實際情況中，需要根據(jù)社區(qū)的生態(tài)特征窮舉可能出現(xiàn)內(nèi)容類型和特征，下表僅作為簡單示例：

百度貼吧還曾對“笨蛋”進行過精細地治理，一開始“笨蛋”被設(shè)成禁發(fā)詞，后來很多人都愛用 “傘兵”指代“笨蛋”，官媒發(fā)文說了請不要污名化傘兵。

為了避免網(wǎng)友又演化出其他詞替代，帶來不可預(yù)估的風(fēng)險，百度不再簡單粗暴地對“傘兵”進行屏蔽，而是把“笨蛋”兩個字放開，輸入笨蛋可以直接發(fā)布，但是發(fā)送后會自動被這張圖代替，也算是業(yè)界清流了。

第3步?上線后復(fù)盤效果，驗證治理策略是否解決問題，如果有解決，有沒有進一步優(yōu)化空間、有沒有引入新的問題，優(yōu)化/解決手段是什么，如果沒有解決，分析為什么，以及如果要達到目標(biāo)，接下來要做什么。

確定問題及后續(xù)做法時，同樣也從第一步走進行，如果某類內(nèi)容特征出現(xiàn)演變、或者曝光量、風(fēng)險出現(xiàn)變化，則需要調(diào)整對應(yīng)的策略。

下一篇文章，我會用具體的案例來講解這三步走的實際運用，比如小紅書“照騙”如何治理、非原創(chuàng)視頻如何治理等。歡迎同行留言一起討論～

本文由 @暉暉 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理，未經(jīng)作者許可，禁止轉(zhuǎn)載。

題圖來自Unsplash，基于CC0協(xié)議。