線上平臺和線下社區(qū)的運作模式有類似的地方。違規(guī)和破壞行為的滋生會導(dǎo)致大規(guī)模拋棄的發(fā)生。同樣的道理對于線上社區(qū)和市場也適用，尤其是在社區(qū)增長的過程中尤其如此。

因為網(wǎng)絡(luò)效應(yīng)的存在，在線社區(qū)規(guī)模的增大使其變得更加有價值。但是，如果系統(tǒng)無法治理好用戶行為的話，破壞行為的滋生會讓網(wǎng)絡(luò)效應(yīng)發(fā)揮相反的作用。一旦發(fā)生這種情況，一個快速發(fā)展中的用戶網(wǎng)絡(luò)就會開始大范圍地流失用戶（比如ChatRoulette就是），在線討論的氛圍會變得荒謬（比如YouTube評論），而在線上做出的決定甚至可能會導(dǎo)致線下不愉快的結(jié)果（比如Airbnb房主被洗劫）。

贏得許多關(guān)注、正在快速增長的創(chuàng)業(yè)公司也會面臨失敗的局面，尤其是在無法設(shè)計一套違規(guī)控制系統(tǒng)避免、監(jiān)管并修正這種噴子行為的情況下。

了解用戶驅(qū)動（user-initiated）的行為

每個在線用戶驅(qū)動的行為都設(shè)計兩個對象：

生產(chǎn)者（The Producer）：一部分用戶在平臺上生產(chǎn)內(nèi)容或信息，基于此產(chǎn)生了與其他用戶間的互動和交流。寫作平臺上的作者和電商網(wǎng)站上的賣家都是各自系統(tǒng)里的生產(chǎn)者。

種子（The Seed）：指的是內(nèi)容或消息的基本單元，由生產(chǎn)者生產(chǎn)。在視頻網(wǎng)站上，指的就是生產(chǎn)的視頻。在短租網(wǎng)站上，指的就是列表上的產(chǎn)品?？傊褪沁@個平臺上生產(chǎn)和消費的基本單元。

避免噴子和違規(guī)行為在系統(tǒng)中出現(xiàn)的措施可以施加在生產(chǎn)者一方，也可以施加在種子一方，我們將在下文的例子中看到。

避免違規(guī)行為的制度設(shè)計框架

從醫(yī)療行業(yè)中借用一個比喻（對一個社區(qū)來說，破壞行為就好像組織器官里的疾?。?，一個在線平臺設(shè)計相關(guān)制度可以有這樣三種方式：

預(yù)防

最容易的方法就是掐斷源頭。這里有兩種方式：

一、生產(chǎn)者：在線平臺在生產(chǎn)者被允許使用系統(tǒng)之前就要進行挑選。一些網(wǎng)站有員工專門負責(zé)哪些用戶可以訪問它們的系統(tǒng)。有寫作社區(qū)會嚴(yán)格限制作者身份，但是向讀者開放閱讀權(quán)限。這種方式的問題是在對一部分人說不的時候，也相應(yīng)損失了一定的吸引力。

二、種子：在線平臺將不符合要求的種子內(nèi)容剔除。應(yīng)用商店要求在app上架之前滿足一定的要求。問答社區(qū)Quora要求用戶在提問前有一定的系統(tǒng)用戶信用等級，之后才允許和其他用戶互動。和前一種方式的缺點類似，這種做法也會損失一定的對用戶的吸引力，并且會導(dǎo)致更低的用戶活躍度。

監(jiān)管

鼓勵高質(zhì)量貢獻的一個更好的方式是向所有人開放使用及生產(chǎn)權(quán)限，但是恰到好處地限制可見度（visibility）和被發(fā)現(xiàn)的機率（discoverability）。

一、生產(chǎn)者：基于某生產(chǎn)者的歷史活動，設(shè)計一套判斷可靠程度的信用系統(tǒng)。比如Hackers News和Reddit這些平臺的算法就是偏愛聲譽高的用戶。這些聲望較高的用戶同樣也會有更高的權(quán)限，Wikipedia的編輯和超級用戶也是如此。

二、種子：投票和評級功能實現(xiàn)社會化甄選，能夠在內(nèi)容產(chǎn)生之后再行挑選。一些平臺偏好生產(chǎn)者的信用等級，以及種子內(nèi)容的評分，即評級結(jié)果。一些網(wǎng)站則只關(guān)注種子內(nèi)容的質(zhì)量分?jǐn)?shù)。

一般來說，監(jiān)管策略需要基于用戶規(guī)模的大小來設(shè)計，能夠為成千上百萬用戶服務(wù)，也能夠為上千萬的用戶服務(wù)。

糾正

最后，在線平臺需要糾正生產(chǎn)者以及其內(nèi)容種子的問題。需要向用戶提供報告違規(guī)行為的渠道，并且能夠從算法上判斷違規(guī)行為的模式，對于建立一個涵蓋廣泛的系統(tǒng)，這一點至關(guān)重要。

一、生產(chǎn)者：約會網(wǎng)站常常需要屏蔽那些有不當(dāng)行為的用戶。在一些情況下，用戶并沒有被平臺完全屏蔽，而只是被禁止某種互動，比如LinkedIn允許用戶拉黑某些用戶聯(lián)系他們。Facebook允許用戶屏蔽一些好友的某些內(nèi)容（狀態(tài)更新）在他們的news feed里面出現(xiàn)。

二、種子：通常，用戶可能不會被移除，但是為了減少系統(tǒng)的噪音，種子內(nèi)容會被刪除。YouTube就移除了色情/版權(quán)內(nèi)容，Quora也會折疊“玩笑答案”（該社區(qū)用這種方式稱呼此種答案內(nèi)容），這都是移除系統(tǒng)噪聲的例子。在許多情況下，移除種子內(nèi)容反饋的舉動可能最終也會導(dǎo)致將生產(chǎn)者從系統(tǒng)中剔除的情況。

避免網(wǎng)上的違規(guī)行為特別是噴子們的出現(xiàn)對于一家發(fā)展中的創(chuàng)業(yè)公司來說至關(guān)重要。在許多在線平臺還在糾結(jié)創(chuàng)業(yè)初期“先有雞還是先有蛋”的問題時，那些不需要解決這些問題的公司可能卻會失去所積累的優(yōu)勢，如果他們的用戶社區(qū)中出現(xiàn)噴子威脅的話。

via：虎嗅