你可以拒絕算法了

3 評(píng)論 3587 瀏覽 3 收藏 13 分鐘

編輯導(dǎo)語(yǔ):伴隨著互聯(lián)網(wǎng)技術(shù)的發(fā)展,人們的生活與互聯(lián)網(wǎng)、與數(shù)據(jù)都有了深層次的融合,然而,如何確保用戶自身對(duì)數(shù)據(jù)擁有掌控權(quán)?近日通過(guò)的《中華人民共和國(guó)個(gè)人信息保護(hù)法》便推動(dòng)這一掌控權(quán)回歸至用戶手中,在一定程度上,也為未來(lái)的互聯(lián)網(wǎng)發(fā)展做了指引。

《黑鏡》里有一集短劇,講述的是一個(gè)失去新婚丈夫的女主,為了緩解自己的傷痛,使用了一家公司的AI算法服務(wù)。后者通過(guò)收集丈夫在線上留存的各種數(shù)據(jù),重新還原丈夫的說(shuō)話與反應(yīng)習(xí)慣,并以此為原型,造出了跟丈夫相似度極高的機(jī)器人。

隨著我們使用數(shù)字化場(chǎng)景越來(lái)越多元和深入,“數(shù)據(jù)”本身的意義越來(lái)越復(fù)雜。它不再是代表一次次孤立的使用行為,或者簡(jiǎn)單的業(yè)務(wù)數(shù)據(jù)記錄。通過(guò)將圍繞一個(gè)人的數(shù)據(jù)不斷串聯(lián),“數(shù)據(jù)”這一資產(chǎn),或許將逐漸演化為人類在社會(huì)存在中的“DNA”。

換言之,如果失去了對(duì)自己數(shù)據(jù)的掌控權(quán),未來(lái)真正了解你的或許將不再是你自己,而是某些擁有巨大數(shù)據(jù)存量體系的互聯(lián)網(wǎng)平臺(tái)。這是在過(guò)去幾年移動(dòng)互聯(lián)網(wǎng)徹底滲透人們生活,平臺(tái)型企業(yè)逐漸變成龐然大物的過(guò)程中,越來(lái)越困擾普通人的問(wèn)題。

如何避免這樣的風(fēng)險(xiǎn),世界各國(guó)都在加強(qiáng)監(jiān)管手段。2021年8月20日,十三屆全國(guó)人大常委會(huì)第三十次會(huì)議表決通過(guò)了《中華人民共和國(guó)個(gè)人信息保護(hù)法》(以下簡(jiǎn)稱“《保護(hù)法》”),該法案將于2021年11月1日起執(zhí)行。

《保護(hù)法》的第四條對(duì)這里提到的個(gè)人信息進(jìn)行了定義:個(gè)人信息是以電子或者其他方式記錄的與已識(shí)別或者可識(shí)別的自然人有關(guān)的各種信息,不包括匿名化處理后的信息。

其實(shí)這里的個(gè)人信息在大眾語(yǔ)境里,就是數(shù)據(jù)。

據(jù)新華社的總結(jié),《保護(hù)法》明確了:

  1. 通過(guò)自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送、商業(yè)營(yíng)銷,應(yīng)提供不針對(duì)其個(gè)人特征的選項(xiàng)或提供便捷的拒絕方式。
  2. 處理生物識(shí)別、醫(yī)療健康、金融賬戶、行蹤軌跡等敏感個(gè)人信息,應(yīng)取得個(gè)人的單獨(dú)同意。
  3. 對(duì)違法處理個(gè)人信息的應(yīng)用程序,責(zé)令暫?;蛘呓K止提供服務(wù)。

也就是說(shuō),《保護(hù)法》從數(shù)據(jù)產(chǎn)生、收集、使用等各個(gè)維度,對(duì)互聯(lián)網(wǎng)業(yè)務(wù)進(jìn)行規(guī)范。而信息處理在大眾語(yǔ)境里,更多就是指向算法。

由于數(shù)據(jù)收集的隱蔽性,人們對(duì)個(gè)人信息保護(hù)的訴求越來(lái)越多的體現(xiàn)在對(duì)算法帶來(lái)的影響的反思上。

一個(gè)最常討論的話題就是,“算法有原罪嗎?”

把算法作為一項(xiàng)新技術(shù)來(lái)表達(dá)支持的人們認(rèn)為,“算法”是一個(gè)典型的技術(shù)產(chǎn)物。從某種程度上而言,這種技術(shù)中立性達(dá)到了一種極致——在很多時(shí)候。即便是算法的設(shè)計(jì)者本身,也不能完全弄清楚這背后發(fā)生的機(jī)理。

而作為互聯(lián)網(wǎng)的發(fā)展引擎,算法同時(shí)締造了娛樂(lè)神話和商業(yè)神話,在互聯(lián)網(wǎng)奇跡中功不可沒(méi)。

但對(duì)算法充滿警惕的人們則認(rèn)為,算法背后有明顯的目的性。如果沒(méi)有定量的反饋結(jié)果,算法便無(wú)法工作。而正是這種目的本身,無(wú)論是增加用戶的點(diǎn)擊概率,還是延長(zhǎng)用戶在界面上的停留時(shí)間,甚至是臭名昭著的“大數(shù)據(jù)殺熟”,都是帶有部分“原罪”的。

無(wú)論是支持者,還是反對(duì)者,沒(méi)有誰(shuí)是絕對(duì)正確或者錯(cuò)誤。但問(wèn)題在于,“算法”有一種與生俱來(lái)的裹挾能力:

一方面,算法以海量的數(shù)據(jù)為食。通過(guò)不斷優(yōu)化的正向反饋,“算法”像滾雪球一樣放大自己在用戶中的地位;另一方面,算法背后需要海量的數(shù)據(jù)驗(yàn)證,這也意味著“算法邏輯”天然是傾向于平臺(tái)級(jí)巨頭的。這些平臺(tái)以及背后的商業(yè)體系,并不會(huì)讓我們輕易拒絕這套高效率的運(yùn)營(yíng)工具。

而且,算法對(duì)人的追逐并不局限在單個(gè)應(yīng)用或者平臺(tái),它們開(kāi)始出現(xiàn)“合謀”。

最典型的案例,莫過(guò)于蘋果在去年宣布調(diào)整臭名昭著的IDFA(Identifier For Advertising)規(guī)則修訂。IDFA這類系統(tǒng)簡(jiǎn)單來(lái)講,就是當(dāng)你在不同平臺(tái)跳轉(zhuǎn)時(shí),所有平臺(tái)依然能知道你是誰(shuí),從而形成一種各個(gè)算法對(duì)同一個(gè)用戶的“圍獵”。

去年,IOS系統(tǒng)將IDFA從默認(rèn)開(kāi)啟改為默認(rèn)關(guān)閉。這套系統(tǒng)通過(guò)標(biāo)記用戶的行為,將用戶與廣告做高效率匹配。盡管擁有一定的條例授權(quán),但大部分用戶都并不知曉這種收集+匹配行為,因此被廣泛認(rèn)知為“灰色產(chǎn)業(yè)”。

條例出臺(tái)之后,引發(fā)了大量的廣告代理商反彈。Facebook據(jù)稱可能因此損失旗下“廣告聯(lián)盟”一半的營(yíng)收潛力。

僅一個(gè)IDFA調(diào)整,便可以引發(fā)行業(yè)劇震。隱私權(quán)歸屬問(wèn)題在商業(yè)中的影響力,或許將遠(yuǎn)超我們想象。在國(guó)內(nèi)外的流媒體和社交平臺(tái)生態(tài)體系中,大量的用戶數(shù)據(jù)獲取行為,其實(shí)都是互聯(lián)網(wǎng)商業(yè)變現(xiàn)效率的養(yǎng)料。

例如,某電商平臺(tái)頁(yè)面中,如果用戶不登陸,便無(wú)法做商品搜索。

某社交平臺(tái)中,用戶關(guān)閉掉個(gè)性化廣告功能后,6個(gè)月便會(huì)自動(dòng)恢復(fù)。

在某視頻流媒體中,用戶的每一次點(diǎn)選,都會(huì)變成平臺(tái)進(jìn)一步分析用戶喜好的工具,短視頻流媒體的個(gè)人賬號(hào),可以成為新時(shí)代的“人品鑒定器”。

在某探交友平臺(tái)上,用戶的每一次點(diǎn)選與劃掉,都在幫助平臺(tái)記錄使用者的喜好……

在購(gòu)物與閱讀軟件的結(jié)束頁(yè),則都會(huì)留下一個(gè)游蕩在互聯(lián)網(wǎng)世界幽靈:“猜你喜歡”。在巨頭提供的“便利服務(wù)”面前,用戶往往是沒(méi)有充分選擇權(quán)的。大部分用戶不能真正離開(kāi)上述的那些帶有壟斷色彩的互聯(lián)網(wǎng)平臺(tái)。在當(dāng)下即刻滿足的便利,與副作用遙遙無(wú)期的隱私相比,大部分人只能捏著鼻子選擇前者。

而這次的《保護(hù)法》就非常有針對(duì)性的對(duì)這些被詬病許久的行為做出約束。

比如其中的第十六條規(guī)定,“個(gè)人信息處理者不得以個(gè)人不同意處理其個(gè)人信息或者撤回同意為由,拒絕提供產(chǎn)品或者服務(wù);處理個(gè)人信息屬于提供產(chǎn)品或者服務(wù)所必需的除外”。

這就是針對(duì)老百姓總在抱怨的“不同意這些流氓條款,app你就用不了”的現(xiàn)象,強(qiáng)制要求平臺(tái)方為用戶提供選擇權(quán)。

比如其中第二十四條要求,“個(gè)人信息處理者利用個(gè)人信息進(jìn)行自動(dòng)化決策,應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正,不得對(duì)個(gè)人在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇。

通過(guò)自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送、商業(yè)營(yíng)銷,應(yīng)當(dāng)同時(shí)提供不針對(duì)其個(gè)人特征的選項(xiàng),或者向個(gè)人提供便捷的拒絕方式。

通過(guò)自動(dòng)化決策方式作出對(duì)個(gè)人權(quán)益有重大影響的決定,個(gè)人有權(quán)要求個(gè)人信息處理者予以說(shuō)明,并有權(quán)拒絕個(gè)人信息處理者僅通過(guò)自動(dòng)化決策的方式作出決定。”

這是在法律的語(yǔ)境里的表述,而事實(shí)上指向的就是“大數(shù)據(jù)殺熟”,以及經(jīng)常讓用戶感到被濫用的個(gè)性化推薦。在互聯(lián)網(wǎng)企業(yè)帶著用戶的數(shù)據(jù)狂奔多年后,終于有了一部法律,讓人們可以對(duì)這些習(xí)以為常但事實(shí)上問(wèn)題重重的算法規(guī)制行為說(shuō)不。

從《保護(hù)法》的草案,征求意見(jiàn)到最終的定稿發(fā)布,業(yè)內(nèi)都將其嚴(yán)厲程度與歐盟的GDPR(《通用數(shù)據(jù)保護(hù)條例》)對(duì)標(biāo)。在同意規(guī)則、數(shù)據(jù)保存期限、信息處理者的行為規(guī)范和義務(wù)以及如人臉數(shù)據(jù)等重要的具體類型數(shù)據(jù)的保護(hù)規(guī)定上,《保護(hù)法》都給出了明確和具體的指引與要求。

《保護(hù)法》配合的懲罰措施也十分嚴(yán)厲:

有前款規(guī)定的違法行為,情節(jié)嚴(yán)重的,由省級(jí)以上履行個(gè)人信息保護(hù)職責(zé)的部門責(zé)令改正,沒(méi)收違法所得,并處五千萬(wàn)元以下或者上一年度營(yíng)業(yè)額百分之五以下罰款,并可以責(zé)令暫停相關(guān)業(yè)務(wù)或者停業(yè)整頓、通報(bào)有關(guān)主管部門吊銷相關(guān)業(yè)務(wù)許可或者吊銷營(yíng)業(yè)執(zhí)照;對(duì)直接負(fù)責(zé)的主管人員和其他直接責(zé)任人員處十萬(wàn)元以上一百萬(wàn)元以下罰款,并可以決定禁止其在一定期限內(nèi)擔(dān)任相關(guān)企業(yè)的董事、監(jiān)事、高級(jí)管理人員和個(gè)人信息保護(hù)負(fù)責(zé)人。

而且,縱覽整個(gè)法律文本,在舉證等行為以及權(quán)利的認(rèn)定和界定上,都能看出立法向普通用戶們的傾斜。

這些都使得普通人對(duì)自我的數(shù)據(jù)保護(hù)有了前所未有的詳細(xì)和明確的依據(jù)。

在《保護(hù)法》中另一個(gè)值得關(guān)注的地方是,它專門用一章來(lái)明確了個(gè)人信息跨境提供的規(guī)則,要求跨境提供信息者要接受國(guó)家網(wǎng)信部門組織的各類安全檢查。這也呼應(yīng)著最近多個(gè)企業(yè)數(shù)據(jù)出海中涉及到的安全隱患處置方法,這些跨境流動(dòng)的數(shù)據(jù)也是普通用戶需要被保護(hù)起來(lái)的重要數(shù)據(jù)的一部分。

《中華人民共和國(guó)個(gè)人信息保護(hù)法》注定是一部里程碑式的法律。它希望全方位為普通用戶提供保護(hù),同時(shí)也給這個(gè)互聯(lián)網(wǎng)時(shí)代的企業(yè)們提供了一個(gè)指引。當(dāng)它在11月正式生效后,任何掌握和處理著數(shù)據(jù)的企業(yè),再以監(jiān)管跟不上業(yè)務(wù)和技術(shù)進(jìn)步為由來(lái)搪塞自己的平臺(tái)責(zé)任,放任算法去逐利而忽視對(duì)用戶權(quán)益的保護(hù),就不僅不合時(shí)宜,而且要付出真金白銀的代價(jià)了。

躲在“黑箱”里的算法,之后終于要拿出來(lái)溜一溜了。

 

作者:郭海惟;公眾號(hào):品玩

本文由 @品玩 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載。

題圖來(lái)自Unsplash,基于CC0協(xié)議。

更多精彩內(nèi)容,請(qǐng)關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號(hào)或下載App
評(píng)論
評(píng)論請(qǐng)登錄
  1. 法律條文和繞口令一樣
    是故意讓人讀不懂的嗎??

    回復(fù)
  2. 法律在塑造下一代的完美

    回復(fù)
  3. 太棒了,個(gè)人自己的信息決定權(quán)終于可以握在自己手中了。生活中太多僅僅只是和朋友聊了一嘴但馬上就推送過(guò)來(lái)的相關(guān)廣告,大數(shù)據(jù)殺熟也時(shí)常會(huì)碰到,感覺(jué)自己被深深的裹挾著,很反感也很無(wú)奈。在互聯(lián)網(wǎng)企業(yè)帶著用戶的數(shù)據(jù)狂奔多年后,終于有了一部法律,讓人們可以對(duì)這些習(xí)以為常但事實(shí)上問(wèn)題重重的算法規(guī)制行為說(shuō)不,為《中華人民共和國(guó)個(gè)人信息保護(hù)法》點(diǎn)贊!

    來(lái)自上海 回復(fù)