警惕AI造黃謠 淺析大數(shù)據(jù)掃黃應(yīng)用中的SNA算法原理

0 評論 1136 瀏覽 1 收藏 8 分鐘

隨著AI技術(shù)的深度發(fā)展,“AI換臉”“AI脫衣”工具變得常見。一些不法分子將歪主意打到了造“黃謠”,甚至威脅、詐騙上。4月19日,北京市海淀區(qū)人民法院審理了一起使用“AI去衣”軟件制作淫穢物品案。被告人將他人提供的承載人臉信息的不特定多數(shù)女性圖片,通過深度偽造技術(shù)、AI軟件制作成裸體圖片販賣牟利,同時出售“AI去衣”軟件及使用教程牟利。(引5月13日《南方都市報》)

當(dāng)今社會網(wǎng)絡(luò)造謠事件頻發(fā),我們在警惕AI造謠的同時,也要對大數(shù)據(jù)掃黃引起更多的關(guān)注。本文就來淺析一下在警務(wù)情報分析系統(tǒng)中常見的SNA算法原理是怎樣的。

一、什么是SNA算法

簡單來說,SNA算法稱為社交網(wǎng)絡(luò)算法。社會網(wǎng)絡(luò)分析(social network analysis,SNA)是復(fù)雜系統(tǒng)的一個分支,可用于構(gòu)建多智能體系系統(tǒng)。

首先,在研究社會網(wǎng)絡(luò)分析如何協(xié)助多智能體系系統(tǒng)建模的同時,需要解決兩種實例之間的異同。所以在構(gòu)建SNA體系之前需要建構(gòu)一個多智能體系系統(tǒng)的原型,通過在智能體實例之間建立的社會網(wǎng)絡(luò)基礎(chǔ)之上,形成的智能集群來解決任務(wù)。

我們再來看下MAS的定義,多智能體系(Multi-Agent Systems,MAS)的定義是:代表社會結(jié)構(gòu)(如組織和聯(lián)盟)的模型,以便客觀地分析開放系統(tǒng)的關(guān)聯(lián)行為。通過不同類型的關(guān)系(如對目標的依賴、對資源的沖突、相似的信念等)相互關(guān)聯(lián)的個體組成了組織和聯(lián)盟。

弄清了SNA和MAS兩者定義之后,我們可以發(fā)現(xiàn)多智能體系統(tǒng)(MAS)和復(fù)雜系統(tǒng)理論之間存在密切關(guān)系,并且可以在社交網(wǎng)絡(luò)分析的背景下進行表示。在情報分析系統(tǒng)原理中將MAS和SNA技術(shù)相結(jié)合,使智能體社會能夠在決策過程中利用SNA指標,考慮智能體在網(wǎng)絡(luò)中的位置、價值和重要性等屬性。

二、SNA的作用

社交網(wǎng)絡(luò)分析(SNA)是一種源自社會學(xué)、社會心理學(xué)和人類學(xué)等領(lǐng)域的科學(xué)研究領(lǐng)域。這個領(lǐng)域研究社會行為者之間的關(guān)系鏈接(也稱為關(guān)系紐帶)。

在SNA中,角色可以是個人或公司,可以作為個體單元進行分析,也可以作為集體社會單位進行分析。

SNA與其他研究的根本區(qū)別在于它不關(guān)注行為者的屬性(特征),而是關(guān)注它們之間的聯(lián)系。行為者之間的關(guān)系由關(guān)系紐帶或連接建立。

最常見的連接類型有:個體評估(例如友誼或情感交換);物質(zhì)資源的交易和轉(zhuǎn)移(兩家公司之間的購買和銷售交易);非物質(zhì)資源的轉(zhuǎn)移(電子消息的交換);當(dāng)行為參與者與事件同時發(fā)生具有地域、行為等關(guān)聯(lián)或隸屬關(guān)系時,那么交易網(wǎng)絡(luò)就形成了。例如:網(wǎng)絡(luò)關(guān)聯(lián)集群關(guān)系(QQ、微博、微信使用者之間的社交網(wǎng)絡(luò)聯(lián)系);正式節(jié)點之間的聯(lián)系(公司中的上下級權(quán)威循環(huán));生物關(guān)系(父子關(guān)系)等等。

SNA是一種通過分析行為者之間的位置和結(jié)構(gòu)(即它們的關(guān)系)來增強知識共享的方法。

那么您可能會提出疑問

  • 本文主要討論了多智能體團隊組成的基于SNA的推理方法,那么在這個方法中,SNA如何被應(yīng)用于多智能體系統(tǒng)的決策過程中?
  • 本文中提到了多智能體系統(tǒng)和社交網(wǎng)絡(luò)的緊密聯(lián)系,那么在這個集成過程中,如何利用SNA指標來評估智能體在網(wǎng)絡(luò)中的地位和重要性?

那么我們下面就通過一個列舉的例子來談?wù)勆缃魂P(guān)系網(wǎng)絡(luò)的實際效用。

三、SNA的應(yīng)用領(lǐng)域案例

在情報分析系統(tǒng)領(lǐng)域中,我們熟知的IBM I2就是一款常用的警務(wù)情報分析系統(tǒng)。IBM I2的底層邏輯中就運用了SNA的模型應(yīng)用。

我們淺看一例:

圖片摘自-360doc【知識】IBM i2可視化分析產(chǎn)品概述(網(wǎng)圖侵刪)

在本案例中,通過IBM i2的網(wǎng)絡(luò)節(jié)點分析,由中心節(jié)點引出關(guān)聯(lián)節(jié)點的關(guān)系集群推算。該原型使用SNA原理展示了團隊動態(tài)形成的模型,團隊中的節(jié)點是在基于其本地社會網(wǎng)絡(luò)的決定后自發(fā)且分散地形成的。該集群的參與者擁有一個社會網(wǎng)絡(luò)。

對于一個節(jié)點來說,要成為團隊的一員,它必須至少與團隊中的一名成員擁有社交連接(即網(wǎng)絡(luò)中的邊)。因此,在此集群中,多節(jié)點包含N個子節(jié)點,A={a1,a2,…,aN},其中每個子節(jié)點都可以被視為社會網(wǎng)絡(luò)中的一個節(jié)點。網(wǎng)絡(luò)被建模為一個鄰接矩陣E,其中每個鄰接矩陣元素eij=1,如果存在,則連接兩個代理人ai和aj的邊,否則eij=0。簡單來說就是0出度邊界。即邊界中的最后一個節(jié)點。那么該集群的選定范圍就確定了。

四、結(jié)語

筆者大學(xué)畢業(yè)后兩年在國家級法治期刊從事新媒體記者工作,后又投入IT領(lǐng)域從事風(fēng)控領(lǐng)域中的情報分析系統(tǒng)產(chǎn)品設(shè)計工作多年。

筆者想說:在如今AI大流行的時代,我們務(wù)必從風(fēng)控角度意識到這樣一個觀點。

科技越發(fā)達,網(wǎng)絡(luò)造謠、別有用心的人網(wǎng)絡(luò)違法的可能性就越高。

但還是一句老話:天網(wǎng)恢恢疏而不漏。

時代的進步同樣也是網(wǎng)絡(luò)法治的進步。會有更多的高科技系統(tǒng)來杜絕、偵查、抓捕那些利用AI、利用網(wǎng)絡(luò)造謠、詐騙、違法行為的人。千萬不要抱有僥幸心理。尊重科技遵守優(yōu)良品德做個良好公民。

本文由 @kingwu 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理。未經(jīng)作者許可,禁止轉(zhuǎn)載

題圖來自Unsplash,基于CC0協(xié)議

該文觀點僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺僅提供信息存儲空間服務(wù)

更多精彩內(nèi)容,請關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發(fā)揮!