從暴露的AI美女到帶有暗示性的AI帥哥，這些“辣眼睛”的內(nèi)容不僅違背了社交平臺(tái)應(yīng)有的價(jià)值觀，也引發(fā)了公眾對(duì)平臺(tái)監(jiān)管的質(zhì)疑。本文將深入探討這一現(xiàn)象背后的原因，供大家參考。

“AI很好很強(qiáng)大，但如果在使用的過程中變味，那就值得深思了?！?/p>

最近，沉迷AI寫真的90后林姐頗為感嘆，她直言，如今，社交平臺(tái)的各種AI寫真，頗為“辣眼睛”，“現(xiàn)在，我只要打開那些社交平臺(tái)，整個(gè)人都難受。”

“這種難受，是直接的視覺沖擊?！绷纸阒毖?，“直接跳出來的是各種AI美女，或行走在‘擦邊’上的AI帥哥，這和日常想象和見到的AI寫真相差甚遠(yuǎn)。一點(diǎn)也不正常，‘辣眼睛’?！?/p>

而更普遍的是，打開小紅書、抖音等社交平臺(tái)，運(yùn)營該類賬號(hào)的博主，發(fā)布的“職業(yè)裝小姐姐系列”、“泳裝系列”等，有的還在內(nèi)容上打上“無不良引導(dǎo)”的標(biāo)簽。

這在很多用戶看來，簡(jiǎn)直“指鹿為馬”。一位網(wǎng)友甚至表示，“在社交平臺(tái)天天高喊嚴(yán)監(jiān)管，積極構(gòu)建優(yōu)質(zhì)內(nèi)容生態(tài)的今天，自己卻仿佛回到了曾經(jīng)那個(gè)看成人網(wǎng)站的年代?！?/p>

還有網(wǎng)友表示了強(qiáng)烈的質(zhì)疑，“平臺(tái)對(duì)成人內(nèi)容的放開，是否想過對(duì)未成年人的荼毒？”

而于更多的網(wǎng)友而言，他們不止一次對(duì)平臺(tái)感到失望。

小紅書重度用戶小然就表示，“每一次內(nèi)容的擴(kuò)容，小紅書似乎與‘擦邊’都會(huì)扯上關(guān)系。從旅游搭子事件到名媛培訓(xùn)班，再到AI應(yīng)用，形形色色不良引導(dǎo)的內(nèi)容就沒干凈過。”

顯然，企業(yè)目標(biāo)和內(nèi)容操作的悖論，這很難讓用戶理解。

無論平臺(tái)審核標(biāo)準(zhǔn)是否精細(xì)，還是創(chuàng)作者利用了平臺(tái)機(jī)制的灰色地帶，亦或整個(gè)監(jiān)管還存在漏洞，在“萬物AI”的時(shí)代，用戶需要的僅僅是一個(gè)干凈且高質(zhì)量的內(nèi)容生態(tài)。

實(shí)際上，監(jiān)管部門對(duì)此高度重視。2025年3月5日，在十四屆全國人大三次會(huì)議首場(chǎng)“部長(zhǎng)通道”上，國家市場(chǎng)監(jiān)督管理總局表示，今年重點(diǎn)整治“大數(shù)據(jù)殺熟”、“主播惡意炒作”等內(nèi)容。

或許，平臺(tái)是時(shí)候真正高度重視那些利用AI惡意制作的不良內(nèi)容了。

01 “辣眼睛”的AI內(nèi)容

林姐是一名90后，日常的工作就是新媒體運(yùn)營，也會(huì)在社交平臺(tái)運(yùn)營相關(guān)內(nèi)容。在看到平臺(tái)很多人用AI拍寫真讓“老照片復(fù)活”，假裝在夏威夷群島旅游，嵌入多套造型和發(fā)型，實(shí)現(xiàn)百變?cè)煨汀芭恼掌焙?，林姐也想玩一玩AI。

按照經(jīng)驗(yàn)，林姐打開社交平臺(tái)先搜索AI拍寫真的教程，沒想到輸入“AI寫真”關(guān)鍵字后，跳出來的頁面居然大多數(shù)是“AI美女”和“AI帥哥”。

但讓林姐震驚的是，這些左下角標(biāo)識(shí)“由AI生成”的照片，并不是傳統(tǒng)意義上的寫真。這些內(nèi)容雖是AI合成，但無論男性女性，都衣著暴露，或展示身材，或做不雅舉動(dòng)，整體給人的感覺就是“辣眼睛”。

讓林姐尤其不能理解的是，她是初次在社交平臺(tái)搜“AI寫真”，平時(shí)也對(duì)這類照片完全不感興趣，何以被大數(shù)據(jù)推送至該內(nèi)容？

作為一位賽博原住民，林姐經(jīng)歷了早期互聯(lián)網(wǎng)內(nèi)容的野蠻時(shí)代。最早，林姐上網(wǎng)，網(wǎng)站隨處可見成人內(nèi)容頁面，但她沒想到的是，“都2025年了，這些擦邊內(nèi)容依然活躍在大眾面前。刷短視頻，就像在看那些成人網(wǎng)頁?！?/p>

習(xí)慣逛小紅書的小然，對(duì)此也深惡痛絕。

小然是一名00后，平日喜歡美妝和旅行，由此成為小紅書的?？?。小然也是一名潮流新科技應(yīng)用愛好者，在知曉“AI寫真”后，便在小紅書率先瀏覽關(guān)于“AI寫真”的博主使用和拍攝心得。

圖：社交平臺(tái)關(guān)于”AI寫真“的內(nèi)容

來源：小紅書《左》、抖音（右） 《聽筒Tech》截圖

“不看不知道，一看嚇一跳?！彼阉鳌癆I寫真”，小然的小紅書頁面瞬間被顯露身材的“美女”和“帥哥”霸占。

“他們是非典型性寫真。有的圖顯示‘疑似包含AI創(chuàng)作信息’，有‘浴袍’、‘健身OOTD’、‘跑馬的漢子’等等系列，但內(nèi)容都直指‘擦邊’?！毙∪桓锌斑@是小Hong書，還是小Huang書？”

曾經(jīng)一度，在“旅行搭子”盛行的時(shí)候，小紅書就爆出存在“不良引導(dǎo)”新聞。小然也曾在小紅書找旅游搭子的時(shí)候，發(fā)現(xiàn)類似案例。

令小然沒想到的是，一直將高質(zhì)量?jī)?nèi)容作為平臺(tái)標(biāo)簽的小紅書，依然保持原來的樣子。尤其是，此前Tiktok因受封事件，小紅書一度在美登頂下載量第一，一大波海外紅人也入駐小紅書，連小然都引以為傲地表示，“不得不說，中國社交應(yīng)用也算是在海外出息了?！?/p>

但如今，一個(gè)小小的體驗(yàn)，再次讓小然感到失望，“有些無語，也有些看不上。如果一直保持這樣的內(nèi)容生態(tài)水準(zhǔn)，沒準(zhǔn)自己會(huì)慢慢逃離這個(gè)平臺(tái)?！?/p>

據(jù)小然透露，實(shí)際上，不僅僅是小紅書，在抖音、快手、微信視頻號(hào)等社交平臺(tái)，同樣存在大量類似的內(nèi)容。

小然表示，自從在抖音上搜索過“AI 寫真”后，他的推薦內(nèi)容便“畫風(fēng)大變”。如今，小然直呼，他的抖音賬號(hào)已經(jīng)完全無法直視，“我是硬生生地將抖音刷成了青樓?！?/p>

02 快速起號(hào)，急于吸金

“AI瘋狂秀肌肉”，“真人越來越假，AI越來越真”，似乎慢慢成為最貼切的形容。

而運(yùn)營這些“AI美女”賬號(hào)的博主，正在利用擦邊吸引力，快速起號(hào)并掘金。

在抖音，一些“AI美女”穿著暴露，在平臺(tái)不斷發(fā)布跳舞視頻，短短半年就漲粉100多萬。

據(jù)媒體報(bào)道，去年，抖音還有一名為“小姨妹”的博主，每條視頻都帶不同產(chǎn)品，價(jià)格一般在10元以內(nèi)，但封面圖卻是AI生成的美女加上產(chǎn)品介紹，一度收獲超110萬粉絲。

甚至還有博主，將此視為下一個(gè)“撈偏門”的掘金賽道。在抖音，有不少博主一本正經(jīng)講解，該“如何成為一個(gè)AI擦邊博主”。

圖：社交平臺(tái)關(guān)于”如何成為AI擦邊博主“的內(nèi)容

來源：抖音 《聽筒Tech》截圖

實(shí)際上，在小紅書，從2024年開始，平臺(tái)就出現(xiàn)了妝容精致、身材火辣的AI寫真美女快速起號(hào)。這些博主經(jīng)常發(fā)布穿著泳衣在海邊度假，或者在時(shí)髦的街道拍照的美女照片，點(diǎn)贊量超過幾千。

以坐標(biāo)浙江的某博主為例，其認(rèn)證“設(shè)計(jì)服務(wù)公司”，服務(wù)涉及“數(shù)字視頻和數(shù)字寫真”，從2024年3月開始發(fā)布第一條筆記，內(nèi)容多為擦邊，涉及“純欲風(fēng)”、“御姐風(fēng)”等。截至目前，其粉絲超3.6萬，獲贊與收藏超20萬。

實(shí)際上，在平臺(tái)早期，很多人通過簡(jiǎn)單的“拍一拍、寫一寫”就能收獲不錯(cuò)的流量。但隨著平臺(tái)內(nèi)容生態(tài)的逐漸成熟，內(nèi)容分發(fā)機(jī)制越來越依賴算法邏輯，而非單純的運(yùn)氣。

一位小紅書運(yùn)動(dòng)博主亦向我們透露，她的內(nèi)容如果“稍微擦點(diǎn)邊”，流量便比正常發(fā)布的內(nèi)容要好。

在該運(yùn)動(dòng)博主看來，雖然平臺(tái)并未承認(rèn)過“擦邊內(nèi)容能夠吸流”，但經(jīng)過她的多次嘗試，至少在她看來，“擦邊的內(nèi)容，流量遠(yuǎn)比正常發(fā)布的內(nèi)容要高?！?/p>

該運(yùn)動(dòng)博主表示，不僅僅是小紅書，在抖音、快手、微信視頻號(hào)等短視頻平臺(tái)，同樣存在類似的問題，“我在這幾個(gè)短視頻平臺(tái)都嘗試過發(fā)泳裝AI短視頻，流量非常好?！钡紤]到她的運(yùn)動(dòng)IP形象，她最終沒有走該風(fēng)格。

一名在社交平臺(tái)擔(dān)任運(yùn)營工作的內(nèi)部人士也表示，一般來說，內(nèi)部生態(tài)會(huì)給到特定內(nèi)容的流量支持，在平臺(tái)的扶持下的快速起號(hào)。

上述內(nèi)部人士表示，“流量支持的參考標(biāo)準(zhǔn)，包括關(guān)鍵詞匹配、興趣推薦，以及互動(dòng)和停留時(shí)間等不同參考維度。比如，用戶的點(diǎn)贊、收藏、評(píng)論，以及在筆記上的停留時(shí)間，直接決定了內(nèi)容是否會(huì)被推薦給更多人?！?/p>

這也造成這樣一個(gè)誤區(qū)， 很多人以為爆款內(nèi)容是“隨機(jī)的”，但實(shí)際上，爆款背后都有清晰的流量邏輯。當(dāng)然，上述內(nèi)部人士亦表示，“刷流”也是重要的推流手段。??

針對(duì)“上述野蠻生長(zhǎng)的AI擦邊寫真，是否存在一定意義上的扶持”，上述人士表示，“這并不好說，但平臺(tái)的算法問題肯定存在?！?/p>

03 是時(shí)候高度重視了

無論是大量擦邊AI寫真內(nèi)容的存在，還是兜售AI擦邊生意的賣課行為，這背后都直指一個(gè)問題，平臺(tái)監(jiān)管存在漏洞。

而這已不是第一次出現(xiàn)。

以小紅書為例，在過去的幾年里，平臺(tái)涉黃、違規(guī)交易等都曾掀起過輿論焦點(diǎn)。

2020年11月，小紅書被曝出推送大尺度美女裸露照片和視頻，內(nèi)容露骨且包含暗示性。2021年9月，央視曝光小紅書存在大量泄露未成年人身體隱私的視頻。

更廣為人知的，2023年8月，一篇題為《小紅書“旅游搭子費(fèi)用全包”涉黃了》的文章在網(wǎng)上引發(fā)軒然大波，稱小紅書上的旅游搭子筆記，打著”找搭子“旗號(hào)，實(shí)則涉及性交易。

盡管，每次小紅書都表示將進(jìn)行調(diào)查和處理，但實(shí)際效果卻并不理想。

即便時(shí)間走到2025年，面對(duì)TikTok“面臨封禁”期間，海量美國用戶投向小紅書，幾乎在一夜之間，小紅書平臺(tái)就出現(xiàn)了大量海外博主擦邊信息和照片。

這再次暴露了小紅書內(nèi)容生態(tài)監(jiān)管的薄弱。而彼時(shí)，有業(yè)內(nèi)人士表示，小紅書真的需要進(jìn)一步細(xì)化審核標(biāo)準(zhǔn)了，以適應(yīng)不同法律環(huán)境下的內(nèi)容監(jiān)管要求，避免因內(nèi)容違規(guī)而引發(fā)的法律風(fēng)險(xiǎn)。

小紅書也不是沒有行動(dòng)。今年2月13日，小紅書官方賬號(hào)“薯管家”發(fā)布公告，稱從去年12月至今，治理團(tuán)隊(duì)對(duì)美妝個(gè)護(hù)、食品、3C數(shù)碼、生活服務(wù)等15個(gè)行業(yè)、1695個(gè)存在違規(guī)營銷行為品牌進(jìn)行了處罰。

但從目前的情況來看，小紅書似乎有點(diǎn)“心有余而力不足”。

而抖音方面，盡管也進(jìn)行了多次對(duì)“涉黃”等相關(guān)內(nèi)容進(jìn)行監(jiān)管，但截至目前，依然無法有效改善平臺(tái)的生態(tài)。

實(shí)際上，這種反復(fù)出現(xiàn)的問題不僅損害了平臺(tái)的形象和聲譽(yù)，更讓用戶對(duì)其信任度大打折扣。尤其是，在監(jiān)管日益嚴(yán)格的今天，平臺(tái)如何有效遏制不良內(nèi)容的傳播，仍成為亟待解決的問題。

不過，一位算法工程師告訴我們，“實(shí)際上，各大主流App，也都推出了AI標(biāo)識(shí)功能，而且也在加強(qiáng)對(duì)AI圖片、視頻的審核。但從目前的情況來看，效果一般。尤其是面對(duì)越來越先進(jìn)的AI工具，有時(shí)連平臺(tái)也無法真正判別出來。”

當(dāng)然，對(duì)此，國家方面也有了一定的動(dòng)作。2024年9月，網(wǎng)信辦發(fā)布了關(guān)于《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見稿）》征求意見通知，要求平臺(tái)和服務(wù)提供者，對(duì)AI生成內(nèi)容明確標(biāo)識(shí)，比如添加水印。

但這仍需要平臺(tái)端的大力支持。

此前，中國社會(huì)科學(xué)院大學(xué)法學(xué)院副教授、互聯(lián)網(wǎng)法治研究中心主任劉曉春表示，“為防止平臺(tái)利用AI涉及暴力、侮辱性內(nèi)容的輸出，可采取不同的技術(shù)手段。在輸出端，服務(wù)商應(yīng)進(jìn)行篩選和再次審查?！?/p>

不過，面對(duì)用戶的種種質(zhì)疑，平臺(tái)的監(jiān)管力度明顯仍有欠缺。至少目前來說，這無法改變用戶對(duì)平臺(tái)和整個(gè)生態(tài)的不信任。

“你美得像AI”，對(duì)女生來說，這是一種讓人難以抗拒的贊美。AI科技的進(jìn)步不可逆轉(zhuǎn)，相關(guān)應(yīng)用也確實(shí)讓人們的生活更美好。

“但僅從擦邊寫真方面來看，如果我們或者我們的下一代，仍被各種隨處可見的色情內(nèi)容和低級(jí)趣味所喂養(yǎng)，那大概是人類為科技進(jìn)步和平臺(tái)的逐利行為，所付出的慘痛的代價(jià)?！毙∪恢毖浴?/p>

“我們?nèi)云诖鼳I向善，不要被惡意利用?！痹谛∪缓土纸憧磥恚拔覀儾皇桥u(píng)平臺(tái)，我們更希望平臺(tái)能夠加強(qiáng)監(jiān)管，還網(wǎng)友一個(gè)真正純凈的空間?！?/p>

而這些，都建立在平臺(tái)、技術(shù)、監(jiān)管部門和整個(gè)社會(huì)對(duì)內(nèi)容生產(chǎn)保持基本的尊重和敬畏的基礎(chǔ)之上。