隨著AI技術(shù)的迅猛發(fā)展，直播領(lǐng)域也掀起了AI應(yīng)用的熱潮。然而，這股風(fēng)潮并非全然正面，一系列亂象隨之涌現(xiàn)。其中，“AI美女”批量打造，利用AI技術(shù)吸粉帶貨；賣課、分銷等灰產(chǎn)也層出不窮。針對(duì)這些亂象，平臺(tái)已開始出手整治，維護(hù)直播行業(yè)的健康發(fā)展。

AI風(fēng)口吹到了直播，先吃到紅利的不只有賣課的知識(shí)付費(fèi)博主，還有“AI主播”

她們或是外國美女，借助吸引眼球的形象和話題吸粉，然后帶貨；或是單身女性，輸出“心靈雞湯”，目的要么是帶貨，要么是吸引男粉轉(zhuǎn)化為付費(fèi)用戶…..

這些“AI主播”、“AI美女”，正通過AI技術(shù)而被批量化、模板化復(fù)制。

不僅如此，圍繞這個(gè)產(chǎn)業(yè)鏈，還出現(xiàn)了如賣課、分銷等亂象。如今，針對(duì)這些亂象，平臺(tái)已經(jīng)開始出手整治。

一、抖音出手整治AI虛擬人

近日，“抖音安全中心”官微發(fā)布抖音關(guān)于不當(dāng)利用AI生成虛擬人物的治理公告。公告稱，近期平臺(tái)發(fā)現(xiàn)，站內(nèi)仍有不當(dāng)使用AI技術(shù)生成虛擬人物發(fā)布內(nèi)容的賬號(hào)，平臺(tái)進(jìn)行了嚴(yán)厲處置。

針對(duì)違規(guī)使用AI生成虛擬人物的行為，平臺(tái)會(huì)對(duì)違規(guī)視頻下架，對(duì)違規(guī)賬號(hào)進(jìn)行取消其投稿和營利權(quán)限、抹除賬號(hào)粉絲、封禁賬號(hào)等處置，并利用模型、技術(shù)識(shí)別能力等手段，進(jìn)行長期系統(tǒng)的識(shí)別發(fā)現(xiàn)和處置。

有關(guān)AI生成虛擬人物的違規(guī)行為，改公告列出了幾個(gè)類型，主要包括利用AI生成假外國人、假精英及利用AI生成形象騙互動(dòng)等三類內(nèi)容。

抖音此番出手，讓人想到此前爆火的“俄羅斯美女”——娜塔莎。

這是賬號(hào)“娜塔莎進(jìn)口食品”塑造的一個(gè)俄羅斯美女，說自己在中國生活了8年、熱愛中國文化、要嫁給中國男人，在吸粉之后，通過帶貨俄羅斯的相關(guān)產(chǎn)品進(jìn)行變現(xiàn)，其粉絲量一度達(dá)到了20多萬。

“美女人設(shè)+精準(zhǔn)話題吸粉+帶貨變現(xiàn)”的路徑，看起來似乎沒有問題。然而，該賬號(hào)之后被曝出其塑造的“俄羅斯美女”形象是通過AI換臉生成，且沒有經(jīng)過授權(quán)使用了烏克蘭博主、YouTube網(wǎng)紅“Olga Loiek”的面容和聲音。

如今，該賬號(hào)已經(jīng)遭到封禁。

二、被批量打造的“AI美女”

實(shí)際上，如今抖音上的AI主播并不少見，尤其是“AI美女”。

研究了這些賬號(hào)之后，我們發(fā)現(xiàn)這些“AI美女”，要么是直接生成虛擬人設(shè)，打造單身成熟女性的人設(shè)，甚至還有“單身媽媽”、“離婚女性”等，比如“小姨妹”、“梨過，你要么”。

這些賬號(hào)可以說是批量生成的，模板化、套路化非常明顯。

另一種類型則是通過真人主播自身的形象，生成與她形象較為相符的虛擬形象，如“巧克力，小檸檬”。這是一位娛樂主播，目前擁有1000多萬粉絲。

其通過AI生成個(gè)人的虛擬形象，主要用于短視頻，內(nèi)容是情感類“雞湯”。如“欺騙一個(gè)對(duì)你掏心掏肺的男人”、“經(jīng)常流淚的男人是什么性格呢”等內(nèi)容，從而達(dá)到吸粉、導(dǎo)流的目的。這類內(nèi)容看起來十分粗糙，而且口型和畫面對(duì)不上，很明顯是通過AI生成的。

可以看到，這兩種類型的賬號(hào)的目標(biāo)群體都瞄準(zhǔn)了男性。

其中，前者會(huì)在短視頻掛載小黃車，通過帶貨進(jìn)行變現(xiàn)，產(chǎn)品也以日常用品和男士用品為主，譬如抖音平臺(tái)上有50.5萬粉絲的AI主播“陳佳麗”，其櫥窗商品價(jià)格從幾元到幾十元不等，部分產(chǎn)品銷量可達(dá)上百萬。

后者則主要通過短視頻進(jìn)行吸粉，然后靠直播打賞進(jìn)行變現(xiàn)。從短視頻內(nèi)容來看，也是精準(zhǔn)面向男性，無論是主播的形象和短視頻話題都是投其所好。

除了抖音，小紅書也同樣有一批以AI美女為主角的博主。

這類博主塑造了類似“旅游博主”、“街拍模特”的人設(shè)，發(fā)布的內(nèi)容也幾乎一致，基本都是都是發(fā)布AI生成的美照。比如以街拍為主要內(nèi)容的博主“cyberAngel”、“往之”，粉絲數(shù)量均已突破一萬。目前，尚未發(fā)現(xiàn)明顯的變現(xiàn)渠道，最常見的方式是建群引流。

三、“AI直播”催生的亂象

除了這類批量打造的“AI美女”之外，如今AI的火熱風(fēng)口還催生了賣課、AI代理分銷等亂象。

據(jù)媒體報(bào)道，有商家出售所謂的AI換臉課程，售價(jià)29.9元，素材包包含幾千張明星照片；還有商家將騙術(shù)當(dāng)做技術(shù)出售，還提供人臉定制，定制價(jià)格在2000元到上萬元不等。

而圍繞AI課程的產(chǎn)業(yè)鏈，還形成了分銷的灰產(chǎn)。315期間，就有媒體曝光了有關(guān)“數(shù)字人源頭廠商”和“數(shù)字人代理”的騙局。

有不法商家利用“數(shù)字人產(chǎn)業(yè)是時(shí)代風(fēng)口”作為噱頭，對(duì)外售賣高達(dá)十幾萬元的AI代理服務(wù)，宣稱“只要付錢成為代理，就能將數(shù)字人技術(shù)層層分銷給下級(jí)買家，不需要任何資質(zhì)審核，還能自己隨意定價(jià)，零基礎(chǔ)小白也能參與，閉著眼睛就能年入百萬?！?/p>

然而，“AI換臉”不僅涉嫌侵權(quán)，而且還因?yàn)橹辈バЧ患?、臺(tái)詞重復(fù)、表現(xiàn)生硬等，導(dǎo)致直播間頻繁被封。

如今，隨著平臺(tái)監(jiān)管力度的加大，這樣的亂象正在進(jìn)一步遭到整治。新播場(chǎng)在抖音搜索“AI主播課程、“AI直播課程”等關(guān)鍵詞，已經(jīng)搜不到相關(guān)賣課內(nèi)容。

可以看到，風(fēng)口之下，AI在直播領(lǐng)域的應(yīng)用催生了不少亂象。實(shí)際上，如果能夠更好地利用AI技術(shù)，不僅能夠減少成本，還能為直播帶來新的想象空間。

有業(yè)內(nèi)人士表示，從目前來看，AI主播目前的應(yīng)用還是存在較多問題和挑戰(zhàn)，更多是應(yīng)用于不需要依賴內(nèi)容輸出的場(chǎng)景，比如本地生活賽道的團(tuán)購直播；或者作為真人主播的“替身”，在無法開播的時(shí)間段運(yùn)作。

四、押注AI直播，前景如何？

實(shí)際上，AI直播帶貨早已經(jīng)不是什么新鮮事了。

2023年，隨著AI技術(shù)的逐步成熟，頭部直播公司開始大舉入局AI直播帶貨，謙尋就是其中之一。

據(jù)報(bào)道，謙尋控股很早就已經(jīng)在AI領(lǐng)域開始布局，旗下的兩家子公司謙語智能和羚客就是專門用來研發(fā)AI直播帶貨。

2023年8月9日，在“再定義?直播的生命力-2023AI創(chuàng)新發(fā)布會(huì)”上，謙尋旗下的謙語智能和羚客分別發(fā)布了“AI數(shù)字人直播業(yè)務(wù)”和“一站式AI智能直播綜合平臺(tái)”，其中多個(gè)AI數(shù)字人都有薇婭的身影。

而不久前，宣布淡出直播電商的頭部帶貨主播辛巴，也稱未來兩年將去學(xué)習(xí)AI技術(shù)。

頭部機(jī)構(gòu)和主播押注AI，正是看到了AI技術(shù)與直播結(jié)合帶來的新想象力。

與此同時(shí)，面對(duì)廣闊的海外市場(chǎng)，AI主播也有更大的發(fā)展空間。

如今許多AI研發(fā)商都在著力完善相關(guān)產(chǎn)品，閃剪智能舉辦的2024 BocaLive AI數(shù)字人智能播控系統(tǒng)在3月21日舉行了線上發(fā)布會(huì)，新上線的AI能夠直接幫助商家自動(dòng)寫好外語直播腳本，支持29國語言和豐富的AI配音。

AI主播具有龐大的語言庫，可以進(jìn)行數(shù)十種語言的翻譯，商家把中文的商品介紹或者直播腳本輸入進(jìn)去，就可以自動(dòng)轉(zhuǎn)換成英語、法語、德語等多種語言。

據(jù)《中國AI數(shù)字人市場(chǎng)現(xiàn)狀與機(jī)會(huì)分析,2022》預(yù)測(cè)，到2026年，我國AI數(shù)字人的市場(chǎng)規(guī)模將達(dá)到102.4億元。

AI數(shù)字人的前景廣闊，但是未來會(huì)與直播融合到怎樣的程度，一切都是未知數(shù)。