在當今科技飛速發(fā)展的時代，AI的應(yīng)用場景不斷拓展，在愚人節(jié)這個充滿玩笑與調(diào)侃的日子里，本文展現(xiàn)一些AI技術(shù)在實際應(yīng)用中仍存在的諸多問題和局限性，提醒大家AI并非萬能，它只是一個有待不斷完善的技術(shù)工具。

前幾年提到人工智能，網(wǎng)上的主流說法是管它叫“人工智障”。但這兩年，隨著大模型技術(shù)的突飛猛進，各類AIGC能力層出不窮。曾經(jīng)輕視AI的大家，逐漸在各路專家、大V、營銷號對AI的熱捧中感覺有點暈乎。

“這AI好像還真挺厲害啊”“讓我隨便寫幾千字的論文可做不到啊”“讓我隨便畫張宮崎駿我也不行”“咱們怕不是真要被AI取代了吧”——這類褒獎AI，進而對未來產(chǎn)生迷惘的言論開始激增。

從最初的調(diào)侃，到某個時間點真的動了心思。我們似乎開始認真思考是否AI覺醒會給接下來的生活工作帶來沖擊。學習是不是沒用了？工作是不是不好找了？是不是真的要在社交媒體上發(fā)一句“AI大神我是自己人，將來在人類監(jiān)獄里給我留個好位置”？

既然大伙有點急，那就先別急。在愚人節(jié)這個春風拂面的日子里，我們不妨給自己來點安慰劑，一起看看那些依舊蠢到爆炸，但依舊占據(jù)主流市場的AI技術(shù)。

看完之后你會發(fā)現(xiàn)，AI那么蠢，到底怕它個啥？

01 大語言模型，忽悠兩下就不靈

DeepSeek爆火之后，大家很快就發(fā)現(xiàn)它有個最大的問題，就是這幻覺也忒嚴重了。根據(jù)Vectara發(fā)布的大模型幻覺排行榜，DeepSeek-R1的幻覺率達到了14.3%，在主流大模型里已經(jīng)屬于非常高的水平了。

高幻覺率帶來的體驗感受，就是我們經(jīng)常會發(fā)現(xiàn)DeepSeek給出的各種信息都是它瞎編的。推薦的店鋪是不存在的，給出的文獻是AI捏造的，提出的專業(yè)觀點是信口胡謅的，最可氣的是大模型編的還有鼻子有眼的。編造的歷史文獻居然還有朝代、有作者，上下文的文言文也沒問題，簡直防不勝防。

事情發(fā)展到這里，我們可能還主要是感嘆AI挺厲害，不僅知道得多，騙人也這么有水平。但如果換個角度想想，我們就會發(fā)現(xiàn)大語言模型其實非常蠢：它胡編亂造的這些信息，都是從哪來的呢？

答案是，AI絕大部分時間都是被人類忽悠瘸的。

大語言模型為了保證信息的時效性，在今天一般都會加入聯(lián)網(wǎng)搜索機制。即讓AI來進行信息檢索，再將檢索到的信息整理給用戶。這里的問題在于，AI檢索到的信息都是互聯(lián)網(wǎng)公開內(nèi)容，換言之就是每個人都能隨便寫，營銷號可以隨便發(fā)的內(nèi)容。這樣一來，問AI和直接看這些虛假信息就沒區(qū)別了，只不過加一道AI濾鏡，很多人反而就信了。

我們可以注意一下大模型進行聯(lián)網(wǎng)檢索時提供的參考聯(lián)接，其中大部分都不來自權(quán)威平臺、權(quán)威作者，缺乏信源支撐。

更要命的是，想要用信息污染大模型在今天是非常容易的，只要換兩個平臺發(fā)布兩個觀點近似，但標題不一的文稿，大模型很容易采信你剛剛瞎編的說法。

更進一步的玩法是，可以用大模型生成虛假內(nèi)容，發(fā)布之后再污染其他大模型。用大模型生成內(nèi)容作為證據(jù)，再去發(fā)布更多內(nèi)容。周而復(fù)始，虛假信息可以在自媒體平臺與大模型幻覺之間形成一個莫比烏斯環(huán)，讓辟謠的人跑斷腿也解不開。

大語言模型特別好騙這件事，已經(jīng)變成了一個急待修補的漏洞，開始被不法分子鉆營。最關(guān)鍵的是污染AI這個辦法，還特別容易騙到年輕人。很多年輕人一邊反感長輩被微信群里的養(yǎng)生信息忽悠，一邊問跟大模型求醫(yī)問藥。

咱們吶，是誰也別想好。

02 機器視覺，看啥都是幻覺

前幾天我買了一臺某品牌今年最新型號的掃地機器人。家電嘛，到2025年了沒有不加AI的。這臺掃地機主打的也當然是AI能力，尤其是依靠機器視覺來進行路線規(guī)劃和避障。

然而就在它上崗的第一天，問題還是發(fā)生了。它工作一陣之后，我突然發(fā)現(xiàn)它在客廳門口無盡徘徊，既不工作，也不回去充電清洗，更沒被東西纏住。打開APP之后才發(fā)現(xiàn)，它是把客廳門檻地墊上的圖案識別成了線團。怕被纏住所以不能前進，但這種情況也沒有繞過或者其他選項。它只能可憐巴巴地在地墊身邊徘徊，徘徊，徘徊，一直徘徊了倆小時，沒電了。

這種愚蠢的現(xiàn)象，其實普遍發(fā)生于今天所有機器視覺類的AI技術(shù)里。

機器視覺的一大“原罪”，在于它的基本實現(xiàn)路徑是模糊比對。即對比兩種物體有多少相似的視覺信息點，如果達到一定比率就對比成功。

但問題在于，AI會把真貓和畫出來的貓當作同一種東西。于是地板上有個圖案，機器人也會停步不前。同時，還可能把路標和加了一些像素點的路標當作截然不同的兩種東西。前方有限速標識，但只要在標識上加一點干擾自動駕駛汽車就會猛沖過去，這就是對機器視覺的對抗生成攻擊法。

缺乏3D視覺能力，特別容易被干擾，以及誤判率過大等問題，讓機器視覺常年處在看啥都是幻覺的亂吃菌子狀態(tài)。

購買AI產(chǎn)品，或者企業(yè)引入AI能力時一定要想清楚：AI的視力可跟你的視力不一樣。

03 方言識別，想罵一句嫩蝶

早幾年，語音助手有個飽受詬病的問題，就是難以識別方言。怎么著，中國這么大，我想用個數(shù)碼設(shè)備還得先練好普通話？字正腔圓播音腔跟你一個AI聊天？想什么呢？

于是乎，這幾年智能語音方案的供應(yīng)商快馬加鞭，終于基本實現(xiàn)了方言識別的問題，今天已經(jīng)很難找到只支持普通話識別的語音助手。

但是問題真解決了嗎？并沒有。如果我們留心一下，就會發(fā)現(xiàn)方言識別這個AI能力普遍存在一個巨大的問題，就是它需要慢速，且清晰地講出方言，才能完成交互。

那么來自五湖四海的小伙伴可以回想一下了，我們大部分人的家鄉(xiāng)方言，語速比普通話快還是慢？真的會像普通話教育里要求的一樣咬字清晰，四聲分明嗎？

平時對著電視、手機、音箱講話可能還好，但在車載場景、家務(wù)場景、運動場景里，要求慢速清晰講方言簡直就是個悖論。于是我們能看到全國各地怒懟導航，怒罵語音助手的群體狂歡。

有時候真不怪大哥大姐脾氣暴。當你第十次對一臺設(shè)備說出需求，然而換來還是那句：對不起，我沒有聽清，請您再說一次。小X很高興為您服務(wù)。

這時你可能只想說一句：握是嫩蝶。

04 智能家電，聽取蛙聲一片

除了人類之外，你的家里還有多少會說話的東西？

十年前這句話可能是想講個鬼故事，但現(xiàn)在大家可能真的已經(jīng)算不清楚了。電視、手機、音箱、掃地機會說話還則罷了。冰箱、洗衣機、電飯煲、馬桶會說話到底是為了什么？為了給家里制造一點活潑緊張，略顯靈異的氛圍嗎？

原本這種情況已經(jīng)夠離譜了，今年開始更是離離原上譜。大模型爆火之后，所有白家電、黑家電、小家電都想給自己加大模型，反正開源的不要錢，還能蹭個熱度。但最后的結(jié)果是，冰箱、洗衣機、洗碗機、抽濕機，都想跟你山南海北地聊上一頓，跟你輸出個幾百字上千字的內(nèi)容感悟。家里住了十幾二十位小X，XX，XY已經(jīng)很煩躁了，這些位都化身話癆了可真是攢勁得很。

更愚蠢的是，這些智能家電每人的名字還都不一樣。小這個小那個，感覺在辦公室記人名都沒這么麻煩。

而整件事最愚蠢的事情在于，語音喚醒這事的精度確實不高，經(jīng)常想要叫洗碗機，電視答應(yīng)了。更可怕的是家電們有時候會相互喚醒，一個不留神它們自己聊上了。

請設(shè)想這樣一幕：深更半夜，睡到迷糊的你突然餓了，起身去廚房找吃的。黑燈瞎火的時候，背后突然一個聲音說“抱歉，我沒有聽清”。然后緊接著另一個角落里說，“已為您打開某某APP”，接著是冰冷的女聲七嘴八舌響成一團……

啊，年年都說是AI元年，而我只聽到蛙聲一片。

05 AI只是AI，其他啥也不是

說了這么多，是為了唱衰AI嗎？完全不是，我是一個堅定的技術(shù)樂觀主義者。并且AI連年的進步，應(yīng)該早就證明了這條技術(shù)路線的價值與前景。

我只是試圖展示這樣一個客觀現(xiàn)象：AI只是技術(shù)工具的一種，它不會過分聰明，也不會過分愚蠢。它不是人工智障，也不是機械降神。

如果拋除掉我們腦海中對科幻文化里AI覺醒、機械生命這類概念的記憶，只把AI當作內(nèi)燃機、數(shù)控機床一類的技術(shù)名詞?；蛟S會發(fā)現(xiàn)關(guān)于AI的種種魅影都煙消云散。然后我們可能會更坦然接受它的優(yōu)點和缺點，享受它的每一次進步。

相信不久之后，以上所說的問題都會解決，但依舊會有更多問題留下。AI就像任何技術(shù)一樣，必須一步步在“問題”與“解決問題”中完成進化。是人類推動AI走向更好，同時AI作為工具也讓人類獲得更高的效率，更便捷的生活，僅此而已。

如果辦個愚AI節(jié)，能消解我們對技術(shù)的恐慌，那不妨就辦一個吧。希望你所有對AI的擔憂與迷惘，都能在這個春天里煙消云散。