編輯導(dǎo)語(yǔ)：前段時(shí)間，網(wǎng)信辦公布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見(jiàn)稿）》，當(dāng)中涉及到了許多的互聯(lián)網(wǎng)服務(wù)，對(duì)很多細(xì)節(jié)都進(jìn)行了相關(guān)規(guī)定。本文針對(duì)該規(guī)定進(jìn)行了詳細(xì)的解讀，了解算法推薦管理?xiàng)l例中的一些變化以及是如何進(jìn)行管理的。

前一陣網(wǎng)信辦公布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見(jiàn)稿）》（以下簡(jiǎn)稱(chēng)《算法推薦管理規(guī)定》或《規(guī)定》）公開(kāi)征求意見(jiàn)的通知。

通知里的內(nèi)容實(shí)際上涉及了之前熱議的許多話(huà)題，例如大數(shù)據(jù)殺熟、隱私問(wèn)題、外賣(mài)配送調(diào)度問(wèn)題等等，同時(shí)也對(duì)互聯(lián)網(wǎng)服務(wù)中算法里的很多細(xì)節(jié)進(jìn)行了規(guī)定。不得不說(shuō)，立法團(tuán)隊(duì)里還是有高人在的。不過(guò)法律條文大都比較枯燥，所以今天這里聊一聊我對(duì)《算法推薦管理規(guī)定》的解讀。

首先要聲明一下：本文僅為從業(yè)人員發(fā)表的個(gè)人觀(guān)點(diǎn)，不作為法律意見(jiàn)，僅供參考。

一、定義

前六條基本上是各種管理規(guī)定里的例行條例。

這里比較重要的是第二條，對(duì)算法推薦服務(wù)的定義：

第二條：前款所稱(chēng)應(yīng)用算法推薦技術(shù)，是指應(yīng)用生成合成類(lèi)（圖片視頻AI生成）、個(gè)性化推送類(lèi)（推薦、Push）、排序精選類(lèi)（熱榜）、檢索過(guò)濾類(lèi)（搜索）、調(diào)度決策類(lèi)（外賣(mài)、網(wǎng)約車(chē)等）等算法技術(shù)向用戶(hù)提供信息內(nèi)容。

括號(hào)內(nèi)容是我理解的場(chǎng)景，不是原文。可以看到這里基本上囊括了互聯(lián)網(wǎng)產(chǎn)品中涉及到的大部分算法技術(shù)服務(wù)，不過(guò)有一塊例外——廣告業(yè)務(wù)，當(dāng)然廣告可以視為每個(gè)場(chǎng)景下的商業(yè)化方案，廣告內(nèi)容也可以作為內(nèi)容的一種納入監(jiān)管，但也有一些場(chǎng)景不在上面的范圍內(nèi)，比如聯(lián)盟廣告。

而廣告又是比較容易引起用戶(hù)關(guān)注隱私問(wèn)題的場(chǎng)景（常見(jiàn)案例：輸入法DMP帶來(lái)的廣告精準(zhǔn)投放），所以這塊還是要看后續(xù)怎么界定。

二、內(nèi)容風(fēng)控

接下來(lái)第七條到第九條是對(duì)互聯(lián)網(wǎng)平臺(tái)內(nèi)容風(fēng)控提出的要求，可以預(yù)見(jiàn)大廠(chǎng)未來(lái)對(duì)這塊的投入應(yīng)該還要持續(xù)增加，中小廠(chǎng)可能會(huì)找一些第三方的解決方案（比如數(shù)美之類(lèi)），對(duì)內(nèi)容安全行業(yè)和從業(yè)人員持續(xù)利好。

這一部分條例值得討論的有兩點(diǎn)。第一點(diǎn)是關(guān)于第八條提到的不得設(shè)置誘導(dǎo)用戶(hù)沉迷的算法模型這塊，基本上就是點(diǎn)名各短視頻平臺(tái)了：

第八條：算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等，不得設(shè)置誘導(dǎo)用戶(hù)沉迷或者高額消費(fèi)等違背公序良俗的算法模型。

但短視頻平臺(tái)推薦模型的優(yōu)化目標(biāo)，核心就是瀏覽時(shí)長(zhǎng)，這是業(yè)界多年累積下來(lái)的、能夠和商業(yè)化目標(biāo)更一致的經(jīng)驗(yàn)，那這算不算是「誘導(dǎo)用戶(hù)沉迷」呢？如果算的話(huà)，也不可能退回到優(yōu)化點(diǎn)擊率的模型去，只能是往多目標(biāo)優(yōu)化發(fā)展，那這樣是不是能夠稍微圓回來(lái)一些呢？

所以這個(gè)地方，我覺(jué)得平臺(tái)可能更多能做的，是反過(guò)來(lái)思考：你的防沉迷系統(tǒng)，有沒(méi)有做得足夠好（尤其是未成年人防沉迷）？然后祈禱不會(huì)出現(xiàn)各種抨擊短視頻導(dǎo)致用戶(hù)沉迷、抨擊「信息繭房」的新聞報(bào)道。第二點(diǎn)是第九條，關(guān)于生成合成信息（圖片視頻AI生成）這塊：

第九條：算法推薦服務(wù)提供者應(yīng)當(dāng)加強(qiáng)信息內(nèi)容管理，建立健全用于識(shí)別違法和不良信息的特征庫(kù)，完善入庫(kù)標(biāo)準(zhǔn)、規(guī)則和程序。發(fā)現(xiàn)未作顯著標(biāo)識(shí)的算法生成合成信息的，應(yīng)當(dāng)作出顯著標(biāo)識(shí)后，方可繼續(xù)傳輸。發(fā)現(xiàn)違法信息的，應(yīng)當(dāng)立即停止傳輸，采取消除等處置措施，防止信息擴(kuò)散，保存有關(guān)記錄，并向網(wǎng)信部門(mén)報(bào)告。發(fā)現(xiàn)不良信息的，應(yīng)當(dāng)按照網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理有關(guān)規(guī)定予以處置。

目前AI生成圖片和視頻這塊的技術(shù)，說(shuō)實(shí)話(huà)已經(jīng)要比想象中成熟很多了，比如隔一段時(shí)間就火一陣的換臉App。好在目前還都是娛樂(lè)用途為主，比如B站上面各種大司馬的換臉視頻，但保不齊也會(huì)被人用來(lái)惡意制作篡改、傳播謠言，所以這個(gè)條例還是有必要的。

但怎么說(shuō)呢，AI生成是基于生成對(duì)抗網(wǎng)絡(luò)（GAN）的技術(shù)，本身就是用一個(gè)生成器和一個(gè)判別器來(lái)對(duì)抗，直到判別器也真假難辨的時(shí)候生成器生成的圖片或視頻方能出山。所以這塊對(duì)AI生成內(nèi)容的鑒定，無(wú)論是人還是機(jī)器來(lái)做，我覺(jué)得未來(lái)都是一個(gè)大的挑戰(zhàn)。

三、核心條例

接下來(lái)的第十條到第十八條，是圍繞各互聯(lián)網(wǎng)算法推薦場(chǎng)景做出的規(guī)定，我們一個(gè)一個(gè)來(lái)聊。

第十條：算法推薦服務(wù)提供者應(yīng)當(dāng)加強(qiáng)用戶(hù)模型和用戶(hù)標(biāo)簽管理，完善記入用戶(hù)模型的興趣點(diǎn)規(guī)則，不得將違法和不良信息關(guān)鍵詞記入用戶(hù)興趣點(diǎn)或者作為用戶(hù)標(biāo)簽并據(jù)以推送信息內(nèi)容，不得設(shè)置歧視性或者偏見(jiàn)性用戶(hù)標(biāo)簽。

用戶(hù)畫(huà)像：像什么「好色」、「好賭」這種用戶(hù)標(biāo)簽，以后就都不允許存在了。當(dāng)然這里面可能不僅僅是標(biāo)簽名字的問(wèn)題，用戶(hù)畫(huà)像使用的數(shù)據(jù)源也要符合條例當(dāng)中的規(guī)定，否則這兩個(gè)標(biāo)簽改成「喜歡異性」、「喜歡刺激」不就好了？

第十一條：算法推薦服務(wù)提供者應(yīng)當(dāng)加強(qiáng)算法推薦服務(wù)版面頁(yè)面生態(tài)管理，建立完善人工干預(yù)和用戶(hù)自主選擇機(jī)制，在首頁(yè)首屏、熱搜、精選、榜單類(lèi)、彈窗等重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價(jià)值導(dǎo)向的信息內(nèi)容。

第十二條：算法推薦服務(wù)提供者應(yīng)當(dāng)綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略，并優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性，避免對(duì)用戶(hù)產(chǎn)生不良影響、引發(fā)爭(zhēng)議糾紛。

第十三條：算法推薦服務(wù)提供者不得利用算法虛假注冊(cè)賬號(hào)、非法交易賬號(hào)、操縱用戶(hù)賬號(hào)，或者虛假點(diǎn)贊、評(píng)論、轉(zhuǎn)發(fā)、網(wǎng)頁(yè)導(dǎo)航等，實(shí)施流量造假、流量劫持；不得利用算法屏蔽信息、過(guò)度推薦、操縱榜單或者檢索結(jié)果排序、控制熱搜或者精選等干預(yù)信息呈現(xiàn)，實(shí)施自我優(yōu)待、不正當(dāng)競(jìng)爭(zhēng)、影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)管。

第十一到第十三條主要是對(duì)算法推薦服務(wù)提供者干預(yù)算法模型做出的相關(guān)規(guī)定，里面甚至提到了「去重」、「打散」等術(shù)語(yǔ)，可以說(shuō)是相當(dāng)專(zhuān)業(yè)了。

這個(gè)部分也有兩塊值得一提，一個(gè)是第十三條第一款提到的：算法推薦服務(wù)提供者不得利用算法……實(shí)施流量造假、流量劫持。事實(shí)上，條例中提到的虛假注冊(cè)賬號(hào)等這些行為，壓根用不上算法，這樣的措辭反而會(huì)讓人覺(jué)得，我不用算法做這些事情，是不是就可以了？

所以，「利用算法」這四個(gè)字，我覺(jué)得可以去掉。其次，在實(shí)際情況中，雖然不排除有平臺(tái)方做虛假注冊(cè)賬號(hào)（僵尸號(hào)）等流量造假行為，但第三方進(jìn)行賬號(hào)虛假注冊(cè)交易、刷贊刷評(píng)刷榜是更常見(jiàn)的行為，對(duì)這個(gè)情況的監(jiān)管也應(yīng)該納入到條例中來(lái)。

第二個(gè)是對(duì)熱榜、熱搜的干預(yù)行為，這部分要把第十一條和第十三條結(jié)合起來(lái)看。平臺(tái)方對(duì)熱榜、熱搜的干預(yù)后門(mén)肯定會(huì)有，否則萬(wàn)一遇到什么突發(fā)情況（比如被境外勢(shì)力惡意刷上熱榜），平臺(tái)方怎么撤熱榜熱搜呢？

但另一方面，平臺(tái)方對(duì)熱榜、熱搜黑盒式、不透明的干預(yù)行為，也讓平臺(tái)方有非常強(qiáng)力的影響輿論的能力（參考蔣凡事件），需要被監(jiān)管。所以這三條圍繞這一點(diǎn)進(jìn)行了一些規(guī)定。第十一條提到，要完善人工干預(yù)機(jī)制，第十三條又提到，不得利用算法干預(yù)信息呈現(xiàn)。

這塊怎么理解呢？我的理解是，這實(shí)際上意思是說(shuō)，從此以后，平臺(tái)方就不能再說(shuō)，是因?yàn)椤杆惴ā垢深A(yù)的熱榜熱搜結(jié)果，這個(gè)托詞，對(duì)不起以后沒(méi)有了。

未來(lái)所有對(duì)熱榜熱搜的干預(yù)，都是你平臺(tái)人工進(jìn)行的，所以這里面平臺(tái)方需要有一個(gè)完善的干預(yù)流程和干預(yù)機(jī)制，并且所有操作記錄要在平臺(tái)數(shù)據(jù)庫(kù)中留底備查，這是監(jiān)管希望達(dá)到的效果。

第十四條：算法推薦服務(wù)提供者應(yīng)當(dāng)以顯著方式告知用戶(hù)其提供算法推薦服務(wù)的情況，并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖、運(yùn)行機(jī)制等。

這一條，雖然是對(duì)第二條定義提到的所有算法推薦服務(wù)提出的要求，但主要針對(duì)的還是熱榜熱搜場(chǎng)景，這個(gè)場(chǎng)景對(duì)輿論影響大，算法原理又簡(jiǎn)單，公示之后大部分人都能看得懂。

第十五條：算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶(hù)提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向用戶(hù)提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。用戶(hù)選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。

算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶(hù)提供選擇、修改或者刪除用于算法推薦服務(wù)的用戶(hù)標(biāo)簽的功能。

用戶(hù)認(rèn)為算法推薦服務(wù)提供者應(yīng)用算法對(duì)其權(quán)益造成重大影響的，有權(quán)要求算法推薦服務(wù)提供者予以說(shuō)明并采取相應(yīng)改進(jìn)或者補(bǔ)救措施。

好的，重點(diǎn)來(lái)了，第十五條，要求算法推薦服務(wù)提供者提供關(guān)閉個(gè)性化或算法推薦服務(wù)的選項(xiàng)給用戶(hù)，直指過(guò)去個(gè)性化推薦被詬病許久的隱私問(wèn)題。這一條也是單獨(dú)被拎出來(lái)，作為新聞報(bào)道宣發(fā)的一條：

首先，算法推薦依據(jù)的個(gè)人特征其實(shí)是有分類(lèi)的，既有用戶(hù)的個(gè)人屬性（如年齡、性別）、設(shè)備屬性（如機(jī)型）、環(huán)境上下文屬性（如地理位置）等等，也有用戶(hù)在平臺(tái)的各種過(guò)往行為。

關(guān)閉個(gè)性化推薦，要不要區(qū)分具體的特征呢？比如只關(guān)閉個(gè)人屬性，過(guò)去的行為特征還是讓平臺(tái)保留？你說(shuō)我都看了那么多小姐姐，把號(hào)養(yǎng)好了，你這說(shuō)關(guān)就全都關(guān)了？

但如果不做約定，我覺(jué)得平臺(tái)大概率不會(huì)分得這么細(xì)，只有一個(gè)「是否關(guān)閉個(gè)性化推薦」的選項(xiàng)，你說(shuō)你關(guān)不關(guān)吧？那你要是能只關(guān)屬性，保留行為特征，那我肯定關(guān)啊。

所以這個(gè)地方，最好還是有細(xì)則或解釋能夠進(jìn)行一下指導(dǎo)或要求。

其次，假設(shè)真的提供這種便捷的關(guān)閉選項(xiàng)，包括更細(xì)化的關(guān)閉選項(xiàng)，最后會(huì)有多少用戶(hù)愿意真正地關(guān)閉「?jìng)€(gè)性化推薦」而不是直接卸載應(yīng)用？我還是很好奇這個(gè)關(guān)閉率的。

關(guān)閉之后，如果后悔，是不是還應(yīng)該提供便捷的打開(kāi)措施給用戶(hù)？所以，我覺(jué)得這一條可以稍微調(diào)整一下措辭，把「提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)」改為「提供便捷的開(kāi)關(guān)算法推薦服務(wù)的選項(xiàng)」即可。

第十六條：算法推薦服務(wù)提供者向未成年人提供服務(wù)的，應(yīng)當(dāng)依法履行未成年人網(wǎng)絡(luò)保護(hù)義務(wù)，并通過(guò)開(kāi)發(fā)適合未成年人使用的模式、提供適合未成年人特點(diǎn)的服務(wù)等方式，便利未成年人獲取有益身心健康的信息內(nèi)容。算法推薦服務(wù)提供者不得向未成年人用戶(hù)推送可能引發(fā)未成年人模仿不安全行為和違反社會(huì)公德行為、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息內(nèi)容，不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)。

第十七條：算法推薦服務(wù)提供者向勞動(dòng)者提供工作調(diào)度服務(wù)的，應(yīng)當(dāng)建立完善平臺(tái)訂單分配、報(bào)酬構(gòu)成及支付、工作時(shí)間、獎(jiǎng)懲等相關(guān)算法，履行勞動(dòng)者權(quán)益保障義務(wù)。

第十八條：算法推薦服務(wù)提供者向消費(fèi)者銷(xiāo)售商品或者提供服務(wù)的，應(yīng)當(dāng)保護(hù)消費(fèi)者合法權(quán)益，不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，利用算法在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇等違法行為。

這三條相對(duì)就比較容易理解了，第十六條是對(duì)未成年人保護(hù)提出的要求，第十七條基本就是點(diǎn)名對(duì)外賣(mài)平臺(tái)、網(wǎng)約車(chē)平臺(tái)提出的要求，第十八條是對(duì)「大數(shù)據(jù)殺熟」行為進(jìn)行了定義和約束。

同時(shí)，這三條的主管部門(mén)也不是網(wǎng)信辦，具體到監(jiān)管執(zhí)行的時(shí)候還是要聯(lián)合其他部門(mén)（比如教育、人社、消保等）來(lái)處理的。

四、監(jiān)管措施與罰則

《規(guī)定》的第十九條到第二十六條是約定的具體監(jiān)管措施，比如分級(jí)監(jiān)管、備案等，其余第二十七條開(kāi)始是約定的罰則，都是法律條文中比較常規(guī)的內(nèi)容，就不一一細(xì)聊了。

簡(jiǎn)單說(shuō)下第二十條，關(guān)于備案的內(nèi)容：

第二十條：具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過(guò)互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱(chēng)、服務(wù)形式、應(yīng)用領(lǐng)域、算法類(lèi)型、算法自評(píng)估報(bào)告、擬公示內(nèi)容等信息，履行備案手續(xù)。

首先，備案主體是具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者，所以社區(qū)類(lèi)、社交類(lèi)、短視頻類(lèi)、新聞?lì)惖绕缃?、?nèi)容的應(yīng)用都應(yīng)該備案，而像外賣(mài)、網(wǎng)約車(chē)、電商等應(yīng)該就不屬于需要備案的主體了。

其次，備案哪些內(nèi)容？比較被關(guān)注的是算法自評(píng)估報(bào)告和公示內(nèi)容，光看名字也看不出啥來(lái)，具體還是要看執(zhí)行要求。

不過(guò)既然有公示，那就到時(shí)候可以看看公示到什么程度了，我覺(jué)得至少各家熱榜算法公式應(yīng)該是要公布出來(lái)了，而不是像之前這樣藏著掖著。

以上就是一些關(guān)于《算法推薦管理規(guī)定》的個(gè)人解讀，總體來(lái)說(shuō)是一份相當(dāng)完備的監(jiān)管條例了，既包括了網(wǎng)信辦重點(diǎn)關(guān)注的內(nèi)容輿情方面的監(jiān)管規(guī)定，也對(duì)算法涉及的其他方面的社會(huì)影響有所提及。

對(duì)于各互聯(lián)網(wǎng)服務(wù)平臺(tái)來(lái)說(shuō)，《規(guī)定》不僅僅是讓算法更加透明、更加白盒化，同時(shí)也對(duì)平臺(tái)的內(nèi)容風(fēng)控能力提出了更高的要求。

最后再次聲明一下：本文僅為從業(yè)人員發(fā)表的個(gè)人觀(guān)點(diǎn)，不作為法律意見(jiàn)，僅供參考。

作者：青十五；公眾號(hào)：青十五，新書(shū)《策略產(chǎn)品經(jīng)理：模型與方法論》作者

本文由 @青十五 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理，未經(jīng)作者許可，禁止轉(zhuǎn)載。

題圖來(lái)自Unsplash，基于CC0協(xié)議。