AI領(lǐng)域發(fā)展迅猛，但應(yīng)用最快、最廣泛的，估計(jì)也就是騙術(shù)和灰產(chǎn)了。AI浪潮的席卷也使得詐騙變得更為猖獗，如果缺乏應(yīng)有規(guī)束，AI換臉則可能打開潘多拉魔盒。

AI技術(shù)的發(fā)展已經(jīng)逐漸滲透到了各個(gè)領(lǐng)域，電影和電視劇的制作方式也在發(fā)生著翻天覆地的變化，AI換臉技術(shù)更是成為影視圈中備受矚目的一環(huán)。

近日，一部名為《萌探2024》的綜藝中，有一期節(jié)目以“反詐”為主題，設(shè)計(jì)了一個(gè)既刺激又充滿挑戰(zhàn)的游戲環(huán)節(jié)，嘉賓們需要通過AI換臉技術(shù)，偽裝成自己的親朋好友，進(jìn)行視頻通話來獲取他人的信任。

這期綜藝節(jié)目將AI換臉玩出了新花樣，讓眾多觀眾爆笑連連，但笑過之后卻對AI詐騙不寒而栗。

一、反詐主題綜藝，AI換臉惹觀眾爆笑

4月26日，由愛奇藝出品的全開放式IP任務(wù)對抗真人秀《萌探2024》迎來首播。節(jié)目中精彩的AI換臉體驗(yàn)為觀眾們帶來了滿滿驚喜，本期節(jié)目播出后熱度持續(xù)升溫，諸多話題登上全網(wǎng)各大社交媒體平臺熱搜，其中#向太沒認(rèn)出來向佐#登微博主榜TOP7、#高葉模仿吳鎮(zhèn)宇一模一樣#登抖音熱榜TOP4、#向太要跟吳鎮(zhèn)宇互換兒子#登抖音熱榜TOP9。

向佐和黃子韜作為節(jié)目的亮點(diǎn)，他們的表演無疑是這一期節(jié)目的高潮。他們分別選擇了吳鎮(zhèn)宇和向佐的形象進(jìn)行換臉，然后給向太打電話。這一舉動，無疑是對向太智慧的一次考驗(yàn)，也是對觀眾洞察力的一次挑戰(zhàn)。

令人驚訝的是，向太作為視頻聊天的對象，似乎并未察覺到這一變化，與這個(gè)被AI換臉后的“向佐”和“吳鎮(zhèn)宇”進(jìn)行了交談。事后，在陳嵐發(fā)文中，她調(diào)侃自己好像被向佐“電信詐騙”了，同時(shí)提醒大家小心AI換臉詐騙。

除此之外，高葉AI換臉成吳鎮(zhèn)宇騙古力娜扎、孟子義AI換臉成高葉邀請演員王陽參加綜藝也同樣沒有被發(fā)現(xiàn)。而徐志勝換臉楊坤給張碧晨打視頻則因?yàn)榕銮杀咀鹁驮谏砼远话l(fā)現(xiàn)，其他人則因?yàn)槁曇艉湍樞偷牟町愡^大而分分鐘被識破。

其實(shí)早在2023年11月的《王牌對王牌第八季》中，以“反詐”主題的一期節(jié)目中同樣安排了AI換臉打視頻電話的游戲環(huán)節(jié)。其中，當(dāng)所有人都AI換臉成“沈騰”后更是引起全場爆笑，好似各個(gè)平行宇宙的騰哥都聚在一起開會一樣。

不論是《王牌對王牌第八季》還是《萌探2024》，節(jié)目中的AI換臉環(huán)節(jié)都有著極佳的節(jié)目效果，不論是節(jié)目嘉賓還是觀眾都十分歡樂。但在笑過之后，AI換臉技術(shù)的逼真程度也著實(shí)令人震驚，很多時(shí)候已經(jīng)能夠以假亂真了。

而節(jié)目也沒有單純停留搞笑層面，而是肩負(fù)起了社會責(zé)任，也就是電信詐騙問題。對于很多人來說AI換臉詐騙相對離我們的生活比較遙遠(yuǎn)，節(jié)目中明星的現(xiàn)身說法，則能讓大家真正意識到這項(xiàng)技術(shù)的以假亂真程度，繼而在生活中提高警惕。

《王牌對王牌第八季》還邀請節(jié)目嘉賓和浙江各地民警拍攝“小劇場”講解了AI技術(shù)的工作原理，分享反詐技巧?！睹忍?024》則是與“平安北京”等數(shù)十家各地公安新媒體矩陣賬號聯(lián)動，發(fā)起#萌探2024致敬反詐英雄#話題科普反詐知識。

節(jié)目和警察們?nèi)绱速u力宣傳“反詐”是因?yàn)椋S著生成式人工智能技術(shù)的發(fā)展，通過AI技術(shù)換臉換聲的方式來模擬出另一個(gè)人的真實(shí)外觀已不再困難。據(jù)不完全統(tǒng)計(jì)，AI詐騙案件數(shù)量在近年來快速增長，僅2023年一年在全國已發(fā)生至少16起。

二、AI換臉案件激增，AI合成聲音讓騙局更真實(shí)

去年7月17日，一女子在社交軟件上被一個(gè)自稱是埃隆·馬斯克的賬號添加為好友。在聊天過程中取得了該女子的信任，不久后就騙取了7000萬韓元(約合人民幣36萬)。

最后，為安撫受害者，該賬號還發(fā)送了一段錄音，聲稱“我是埃隆·馬斯克，希望聽到這個(gè)錄音文件后能放心”，但專業(yè)人士分析這段錄音后確認(rèn)其由AI合成。

今年年初，香港警方透露了一場涉及深度AI造假技術(shù)的復(fù)雜騙局，一家跨國公司的香港辦事處遭受了高達(dá)1.8億元的重大財(cái)務(wù)損失。該公司首席財(cái)務(wù)官和其他員工的通過AI技術(shù)，出現(xiàn)在視頻電話會議中，指示員工轉(zhuǎn)移資金。

因?yàn)槠渌鱿娜丝雌饋砗吐犉饋矶枷袼J(rèn)識的同事，最終這名員工相信電話中的其他人都是真實(shí)的，因此同意匯出總計(jì) 2 億港元(約合 2560 萬美元)。

而在今年的3月1日晚，劉德華電影公司發(fā)聲明稱，微信用戶“華仔共享團(tuán)”及其關(guān)聯(lián)號利用AI合成劉德華聲音，未經(jīng)授權(quán)在微信發(fā)布剪輯視頻，誤導(dǎo)公眾，利用劉先生知名度吸引流量、售賣商品獲利。該行為侵犯劉先生肖像權(quán)、姓名權(quán)及聲音權(quán)益，并涉嫌詐騙。

AI換臉本就已經(jīng)真假難辨了，而AI合成聲音則讓整個(gè)騙局更加逼真了。在社交媒體上，許多留學(xué)生發(fā)帖表示曾遇到利用AI合成本人語音，對在國內(nèi)的父母進(jìn)行的詐騙。這些詐騙以綁架為名，放出AI合成的求救語音，同時(shí)利用時(shí)空差，在造成恐慌的心理下騙取大量金額。

因此，在享受科技帶來便利的同時(shí)，我們也應(yīng)該保持警惕，不斷提升自己對于科技安全的意識和防范能力。正如陳嵐在節(jié)目后的發(fā)文中所言，“一定要小心現(xiàn)在AI換臉的科技，謹(jǐn)防被換臉親友詐騙”。AI換臉不止是綜藝節(jié)目中的小游戲，更是真實(shí)發(fā)生在我們生活中的詐騙手段。

三、面對AI詐騙，我們?nèi)绾翁幹?

不管技術(shù)如何發(fā)展，很多詐騙的套路萬變不離其宗：竊取隱私，利用恐懼、貪欲、情緒價(jià)值編故事，冒充熟人或包裝自己獲取信任，圖窮匕見以錢為最終目的。

詐騙分子往往會AI換臉偽裝成親人、朋友、同事、領(lǐng)導(dǎo)等有一定交集的熟人，而想要完美的騙過受害者則需要事先收集到面部、聲音等重要信息。因此，我們總結(jié)了一些防范詐騙的建議：

1. 驗(yàn)證身份：如果接到聲稱是親友或同事的緊急求助電話或視頻通話，應(yīng)該通過其他途徑(如直接撥打?qū)Ψ降囊阎娫?來驗(yàn)證對方的真實(shí)身份。
2. 保護(hù)個(gè)人信息：不要輕易分享個(gè)人生物信息和社交賬號，同時(shí)要警惕社交媒體上的隱私設(shè)置，限制不熟悉的人獲取你的個(gè)人信息。
3. 留意異常：在交流過程中，注意對方的行為是否與平時(shí)相符，比如語言習(xí)慣、說話風(fēng)格等，如果有不尋常之處，應(yīng)提高警覺。
4. 雙重驗(yàn)證：對于重要的操作請求，如轉(zhuǎn)賬匯款，要求進(jìn)行雙重驗(yàn)證，例如通過銀行的官方渠道或面對面確認(rèn)。
5. 反詐普及：向家人和朋友普及此類詐騙手法，特別是老年人和不太熟悉科技產(chǎn)品的人群，因?yàn)樗麄兛赡芨菀咨袭?dāng)受騙。
6. 使用安全軟件：確保電腦和手機(jī)安裝了最新的安全軟件，以防止惡意軟件收集個(gè)人信息。
7. 關(guān)注官方信息：時(shí)刻關(guān)注政府、金融機(jī)構(gòu)和網(wǎng)絡(luò)安全機(jī)構(gòu)發(fā)布的防騙提示和警告。
8. 報(bào)警處理：一旦發(fā)現(xiàn)可能遭遇了換臉詐騙，應(yīng)立即停止所有交易并與警方聯(lián)系。

除去提高警惕意識自我防范外，還需要法律法規(guī)等各方面的監(jiān)管。對于AI換臉技術(shù)，法律上通常會采取一系列應(yīng)對措施，包括加強(qiáng)監(jiān)管、制定嚴(yán)格的法律法規(guī)以及追究相關(guān)責(zé)任人的法律責(zé)任等。此外，技術(shù)手段如數(shù)字水印、身份驗(yàn)證等也可以用于防范和打擊不法行為。

為規(guī)范人工智能發(fā)展，去年1月10日，國家互聯(lián)網(wǎng)信息辦公室，工業(yè)和信息化部，公安部聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》正式施行，內(nèi)容明確了合成數(shù)據(jù)和技術(shù)管理規(guī)范。其中提到：深度合成服務(wù)提供者對使用其服務(wù)生成或編輯的信息內(nèi)容，應(yīng)當(dāng)添加不影響使用的標(biāo)識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識，避免公眾混淆或者誤認(rèn)。

近期，也有平臺和企業(yè)發(fā)布了“關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議”，明確禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識產(chǎn)權(quán)等，一經(jīng)發(fā)現(xiàn)，平臺將嚴(yán)格處罰。

人工智能技術(shù)在近年來的迅猛發(fā)展中，已經(jīng)在多個(gè)領(lǐng)域取得了驚人的成果。從語音助手到自動駕駛，從醫(yī)療診斷到金融風(fēng)控，人工智能已經(jīng)深刻影響了我們的生活和工作。然而，隨之而來的安全隱患也是不可忽視的，我們需要更加重視對于人工智能技術(shù)的監(jiān)管和規(guī)范，以充分發(fā)揮其積極作用的同時(shí)，最大限度地避免其負(fù)面影響。

四、寫在最后

AI浪潮的席卷也使得詐騙變得更為猖獗，而兩期AI換臉綜藝則是在搞笑之余宣傳發(fā)詐知識，幫助更多人認(rèn)識到AI換臉詐騙的嚴(yán)重性。作為普通人，我們往往是技術(shù)變革大潮里的一朵浪花，面對迭代超乎想象的AI技術(shù)，能做的只有緊跟時(shí)代的腳步。

人們固然不能因噎廢食，但也不能忽略它的雙刃劍效應(yīng)。如果缺乏應(yīng)有規(guī)束，AI換臉則可能打開潘多拉魔盒。因勢利導(dǎo)，使其趨利避害，才能促成科技輔助生活的美好未來。