治理“網(wǎng)絡(luò)水軍”已成為全球難題，而由于其分散、量大兼具技術(shù)隱蔽性，對(duì)其的治理更需要講究專(zhuān)業(yè)化和智能化。此時(shí)，人工智能也派上了用處。但虛假賬號(hào)不斷進(jìn)化，AI能做的還是有限。

你的社交平臺(tái)擁有多少個(gè)粉絲？一千？一萬(wàn)？還是更多？你知道其中存在多少個(gè)“僵尸粉”嗎？

近日，據(jù)美國(guó)權(quán)威科技媒體The Information引述研究機(jī)構(gòu)Ghost Data的報(bào)告稱(chēng)：

2015年，Instagram平臺(tái)的僵尸賬號(hào)占比為7.9%，到目前已經(jīng)攀升至9.5%。Instagram的閱讀用戶已經(jīng)增加到了十億人。根據(jù)上述比例，Instagram平臺(tái)上現(xiàn)在大約有9500萬(wàn)個(gè)僵尸賬號(hào)。

有媒體評(píng)論指出，如此規(guī)模的“僵尸賬號(hào)”，讓Instagram成為下一個(gè)互聯(lián)網(wǎng)行業(yè)打擊假新聞、假信息和政客營(yíng)銷(xiāo)的重要陣地。

為什么這么說(shuō) ？

恐怕得看看“網(wǎng)絡(luò)水軍”在近些年的“杰作”。?2017 年，至少有 18 個(gè)國(guó)家在選舉中遭遇了線上操縱和虛假信息策略，包括德國(guó)聯(lián)邦總統(tǒng)選舉期間社交機(jī)器人活躍和垃圾新聞?lì)l出等。

顯然，治理“網(wǎng)絡(luò)水軍”已成為全球難題。而由于其分散、量大兼具技術(shù)隱蔽性，對(duì)其的治理更需要講究專(zhuān)業(yè)化和智能化。此時(shí)，人工智能也派上了用處。

道高一尺，魔高一丈，虛假賬號(hào)與AI的斗智斗勇

從創(chuàng)建應(yīng)用軟件、官方網(wǎng)站或內(nèi)容傳播平臺(tái)，到生產(chǎn)具有實(shí)質(zhì)性?xún)?nèi)容的圖像、視頻或文字，通過(guò)或真或假或自動(dòng)地與用戶交互，虛假賬號(hào)已經(jīng)越來(lái)越“真實(shí)”。就在去年，有研究表明，連人工智能都可以被用來(lái)生成復(fù)雜的點(diǎn)評(píng)信息，而這些虛假的點(diǎn)評(píng)不僅機(jī)器無(wú)法檢測(cè)出來(lái)，就連人類(lèi)讀者也分辨不出來(lái)。

虛假賬號(hào)不再“虛假”，整個(gè)社交網(wǎng)站都面臨著潛在卻嚴(yán)重的沖擊。筆者梳理了三種智能“鑒粉”方式，分別囊括了用戶行為、內(nèi)容和情感特征三種形式，試圖解決這一問(wèn)題。

首先是用戶行為特征的分析。這種方式大多依托于爬蟲(chóng)技術(shù)，即通過(guò)主動(dòng)爬取特定微博或者論壇的主體相關(guān)的注冊(cè)行為、社交行為、轉(zhuǎn)發(fā)與評(píng)論等行為 , 從而進(jìn)行多維特征向量刻畫(huà)。同時(shí)，有研究者還采用了隱馬爾可夫模型來(lái)對(duì)用戶行為進(jìn)行建模，利用模型參數(shù)來(lái)對(duì)用戶行為進(jìn)識(shí)別和分類(lèi)，畢竟“僵尸”掉進(jìn)了“植物”里，總是有區(qū)別的。

這主要是利用賬號(hào)之間的社會(huì)關(guān)系來(lái)識(shí)別那些“僵尸號(hào)”，而面對(duì)這種方式，水軍們也“與時(shí)俱進(jìn)”，比如：一些職業(yè)差評(píng)師的賬號(hào)在注冊(cè)行為上就無(wú)懈可擊，他們的賬號(hào)一般會(huì)同時(shí)配備有身份證、用戶手持證件照、實(shí)名手機(jī)號(hào)碼卡、實(shí)名銀行卡等，還能通過(guò)作弊軟件騙過(guò)實(shí)名認(rèn)證系統(tǒng)。即使是微博里的“僵尸粉”，也會(huì)存在一些粉絲關(guān)系。

第一種方式被“見(jiàn)招拆招”，AI也不得不拿出第二種方式——即對(duì)內(nèi)容特征的分析?；趦?nèi)容分析的識(shí)別技術(shù)主要從發(fā)帖內(nèi)容本身切入，建立“僵尸粉”，惡意或者美化信息等本體模型, 同時(shí)建立敏感語(yǔ)義庫(kù)，通過(guò)語(yǔ)言特征統(tǒng)計(jì)區(qū)分虛假賬號(hào)。

但是，由于語(yǔ)義領(lǐng)域的不統(tǒng)一性，同一本體在不同領(lǐng)域，甚至同一領(lǐng)域都會(huì)存在很多象征意義的現(xiàn)狀，比如：用戶在討論某手機(jī)時(shí)，提到“這手機(jī)的上網(wǎng)速度真快”?！翱臁笔且环N夸贊，如果說(shuō)“這手機(jī)耗電速度真快”，“快”又變成了一種批評(píng)。

因此，內(nèi)容特征模型在不同的情況，平臺(tái)上都會(huì)有較大的變化，這也造成了AI分析內(nèi)容特征進(jìn)而識(shí)別“僵尸粉”的通用性較差的問(wèn)題。

如此來(lái)看，基于單一特征對(duì)虛假賬號(hào)進(jìn)行識(shí)別還是比較困難的。因此，AI也不得不開(kāi)始思考第三種方式。

第三種方式源于第二種方式，即對(duì)內(nèi)容中情感特征的分析。

有研究者通過(guò)分析推特內(nèi)容中的情感，發(fā)現(xiàn)在線社交網(wǎng)絡(luò)中的內(nèi)容創(chuàng)建、傳播與證券市場(chǎng)波動(dòng)、期貨商品價(jià)格及國(guó)家、社會(huì)重大事件之間有著緊密的聯(lián)系。這也表明情感傾向，是社交網(wǎng)站內(nèi)容中的重要特征。

而水軍也往往帶有強(qiáng)烈的感情色彩（好評(píng)或差評(píng)），針對(duì)單個(gè)發(fā)帖的情感傾向性，AI可以設(shè)定一個(gè)閾值，若對(duì)某個(gè)主題發(fā)表的正面或者負(fù)面帖子比例超過(guò)設(shè)定閾值,，則認(rèn)為該用戶為水軍。

但是，用于虛假賬號(hào)監(jiān)測(cè)的內(nèi)容和情感特征的融合，屬于比較明顯的特征，而忽視了隱藏式的異常用戶，比如用戶上傳與文字內(nèi)容沒(méi)有任何關(guān)系的圖片，?抑或者用戶評(píng)論情感與用戶打分不匹配等新特征。

當(dāng)網(wǎng)友對(duì)水軍開(kāi)始麻木，活著的水軍其實(shí)已經(jīng)死了

事實(shí)上，網(wǎng)絡(luò)水軍要想操作輿論，只需要錯(cuò)開(kāi)發(fā)帖時(shí)間，編輯同一核心的不同文字內(nèi)容就可以了，雖然這樣做的成本會(huì)高一點(diǎn)，但是具體操作起來(lái)也不是什么高難度的事情。如果有人真心實(shí)意想要給某個(gè)作品一個(gè)差評(píng)，人工智能還真不能立即判斷出他是真實(shí)用戶還是水軍。

那我們就拿這些虛假賬號(hào)沒(méi)辦法了嗎？

新浪微博里首個(gè)突破一億粉絲的女藝人，我們不會(huì)真的相信是有一億個(gè)人關(guān)注了她；一部好電影上映，眾口皆碑下也不會(huì)有人在意零星幾個(gè)差評(píng)；百分百好評(píng)的商品，消費(fèi)者也會(huì)對(duì)其持有懷疑；疫苗事件后，網(wǎng)民對(duì)調(diào)查記者的呼喚，其實(shí)是一種自我保護(hù)……不得不說(shuō)，中國(guó)的輿論形成和監(jiān)督機(jī)制正在翻新，水軍操縱輿情的力量也越來(lái)越弱。

以最近的疫苗事件為例：在事件剛爆發(fā)時(shí)，也不乏一些別有用心的人，整理出一些兒童因疫苗殘疾的圖片，卻不做任何文字說(shuō)明，引起了許多人的恐慌和憤怒。但是筆者在其中還是發(fā)現(xiàn)了許多比較理性的言論，表明疫苗的不良反應(yīng)也是客觀存在的，這類(lèi)危言聳聽(tīng)的做法反而會(huì)阻礙健康疫苗在國(guó)內(nèi)的普及。

?目前，網(wǎng)上對(duì)疫苗流向的追問(wèn)，有關(guān)人員的責(zé)問(wèn)，各種po文有理有據(jù)，也是眾多網(wǎng)友理性思考后的結(jié)果。

所以，盡管虛假賬號(hào)的痕跡越來(lái)越隱蔽，但網(wǎng)民們的理性和成熟也在不斷加快，更多網(wǎng)民也不再盲目輕信，反而會(huì)批判式地去看待每一個(gè)輿論觀點(diǎn)，從情緒化到更加理智，從感性到理性，社交軟件上的觀點(diǎn)已經(jīng)越來(lái)越多元化，網(wǎng)絡(luò)水軍也越來(lái)越難以左右輿論走向。

【完】

作者：顔璇，公眾號(hào)：智能相對(duì)論（微信id：aixdlun）：深挖人工智能這口井，評(píng)出咸淡，講出黑白，道出vb深淺。

本文由 @智能相對(duì)論 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)許可，禁止轉(zhuǎn)載

題圖來(lái)自Unsplash，基于CC0協(xié)議