最近一段時(shí)間，以ChatGPT為代表的大語(yǔ)言模型在互聯(lián)網(wǎng)平臺(tái)上引發(fā)了大量用戶的討論，那么如果想將LLM大語(yǔ)言模型與智能客服產(chǎn)品進(jìn)行結(jié)合，或者將前者落地于ToB SaaS應(yīng)用軟件領(lǐng)域，可以遵循什么樣的搭建策略呢？

就聊聊當(dāng)下熱門(mén)話題：ChatGPT在智能客服產(chǎn)品中該如何落地？

關(guān)于ChatGPT為代表的大語(yǔ)言模型，每個(gè)人的朋友圈都被刷爆了，不再水字?jǐn)?shù)。咱們直接來(lái)做一道真題：如果在智能客服這樣一個(gè)ToB SaaS應(yīng)用軟件領(lǐng)域，想要落地LLM大語(yǔ)言模型，如何實(shí)現(xiàn)？

01

首先，先來(lái)解決一個(gè)值不值得做的問(wèn)題：智能客服領(lǐng)域，值得用LLM大語(yǔ)言模型進(jìn)行智能化產(chǎn)品改造嘛？

產(chǎn)品的幾個(gè)典型特征匯總下：

人力密集：

智能客服，是一個(gè)高度依賴人工操作的系統(tǒng)，有解放生產(chǎn)力的內(nèi)在需求。

數(shù)據(jù)密集：

智能客服產(chǎn)品可沉淀大量過(guò)程性數(shù)據(jù)，如會(huì)話信息，通話記錄，錄音，操作日志。有數(shù)據(jù)，就有了人工智能應(yīng)用滋生的沃土。

流程可定義：

這類產(chǎn)品，往往都可以有典型的業(yè)務(wù)流程抽象：如IVR語(yǔ)音交互、外呼任務(wù)、工單流轉(zhuǎn)等。

有智能化應(yīng)用基礎(chǔ)：

智能客服是很早邁入AI人工智能技術(shù)的賽道之一：文本機(jī)器人，語(yǔ)音機(jī)器人，智能質(zhì)檢的應(yīng)用已經(jīng)非常成熟?？蛻艉陀脩舻男闹且训玫浇逃?。

結(jié)論：一個(gè)行業(yè)，有相對(duì)落后的生產(chǎn)工具、有比較標(biāo)準(zhǔn)的生產(chǎn)流程，有大量未充分處理的數(shù)據(jù)，且對(duì)人工智能無(wú)抵觸，那么肯定是一個(gè)值得LLM落地生根發(fā)芽的沃土。

只不過(guò)。這片田地在現(xiàn)階段LLM們眼中看來(lái)，還是小了一點(diǎn)而已。

02

如果值得做，那么如何做？

這就是一個(gè)見(jiàn)仁見(jiàn)智的問(wèn)題了，大家的產(chǎn)品架構(gòu)不同，目標(biāo)客群不同、業(yè)務(wù)規(guī)模不同、主打產(chǎn)品各異。

我們可以假設(shè)，已經(jīng)有了一套得到驗(yàn)證，穩(wěn)定運(yùn)營(yíng)的成熟產(chǎn)品，不希望引入LLM帶來(lái)現(xiàn)有產(chǎn)品的巨大變化，進(jìn)而影響客戶體驗(yàn)。如何搞？

提倡擁抱變化，嘴上鼓吹A(chǔ)GI通用人工智能帶來(lái)行業(yè)巨變，這些都沒(méi)問(wèn)題，真要不破不立，付出真金白銀的代價(jià)來(lái)決策，去執(zhí)行，還是一個(gè)很難抉擇的命題。

1. 架構(gòu)設(shè)計(jì)問(wèn)題

審視本身產(chǎn)品架構(gòu)，是否具備LLM大語(yǔ)言模型落地基礎(chǔ)。

可以理解、由于歷史原因，當(dāng)前主打產(chǎn)品架構(gòu)陳舊，模塊化解耦不完善，性能瓶頸無(wú)法解決，但因?yàn)榕苤芏嗌a(chǎn)客戶，輕易無(wú)法改動(dòng)。這種情況下，再塞入ChatGPT到整個(gè)架構(gòu)中，將帶來(lái)更多沉重壓力。

那么第一步先想清楚，是打算好好優(yōu)化下，還是另辟蹊徑，單獨(dú)做一個(gè)外圍LLM應(yīng)用。

好比老房子改造，是不是要打算做做基礎(chǔ)施工，還是簡(jiǎn)單刷刷墻、做下軟裝得了。

歷史包袱較重的話，也不妨另起爐灶，聚攏有心氣的一支精銳之師沖一下。也算是給原有池塘中投入一只鯰魚(yú)。

2. 工具設(shè)計(jì)問(wèn)題

做頂層應(yīng)用設(shè)計(jì)之前，我們需要先梳理工具。如AI引擎管理、數(shù)據(jù)建模工具、意圖管理管理、標(biāo)簽標(biāo)注和管理，流程生成工具，業(yè)務(wù)構(gòu)建工具等等……

ChatGPT能力的引入，相較于以前智能客服產(chǎn)品所沉淀的基于自然語(yǔ)言處理、語(yǔ)義理解、意圖識(shí)別，關(guān)鍵字和正則處理等方式，帶來(lái)顛覆性的改變。借助其能力涌現(xiàn)，上下文關(guān)聯(lián)，邏輯鏈提示處理等方式，原有的手把手定義流程，字詞句填槽的舊模式，勢(shì)必得到極大改變。

如果以前構(gòu)建復(fù)雜AI應(yīng)用，需要是半編程化的方式，用ChatGPT們來(lái)實(shí)現(xiàn)，打個(gè)比方更像是RPG游戲編程工具，以場(chǎng)景搭建、角色扮演，提示格式化、邏輯化，輔以人工反饋監(jiān)督的模式去進(jìn)行。

為什么不能是呢。如果我們做的足夠好用，是不是也可以直接邀請(qǐng)用戶參與到“游戲”開(kāi)發(fā)中來(lái)？

另外，很多工具本身，更可借助ChatGPT進(jìn)行智能化的改造。以更高效和智能的方式來(lái)處理數(shù)據(jù)、生成數(shù)據(jù)。

如進(jìn)行自動(dòng)訓(xùn)練和標(biāo)注、知識(shí)庫(kù)的自動(dòng)化擴(kuò)充、來(lái)代替語(yǔ)料手工標(biāo)注，代替?zhèn)鹘y(tǒng)問(wèn)答對(duì)的低效人力處理，給出標(biāo)準(zhǔn)問(wèn)，自動(dòng)擴(kuò)展相似問(wèn)等等。

3. 應(yīng)用設(shè)計(jì)問(wèn)題

最后說(shuō)說(shuō)智能客服應(yīng)用層面的設(shè)計(jì)，這里是用戶可感知的界面和內(nèi)容。

我們來(lái)根據(jù)智能客服的一些典型場(chǎng)景，看看ChatGPT們的優(yōu)勢(shì)能力，可帶來(lái)哪些富有想象力的改變。

1）增強(qiáng)型對(duì)話能力

不可否認(rèn)，ChatGPT帶來(lái)了極其強(qiáng)大的對(duì)話能力，我們?nèi)f分期待，甚至開(kāi)始腦補(bǔ)其進(jìn)入智能客服對(duì)話中的效果。

但是很遺憾，智能客服產(chǎn)品領(lǐng)域內(nèi)的對(duì)話，是一個(gè)非常典型的限定業(yè)務(wù)領(lǐng)域、任務(wù)驅(qū)動(dòng)的對(duì)話需求，我們客戶肯定不希望訪客進(jìn)來(lái)，是尋找一個(gè)超高智能、善解人意、能寫(xiě)會(huì)畫(huà)的陪聊機(jī)器人。

會(huì)話內(nèi)容必須收斂于企業(yè)業(yè)務(wù)范疇內(nèi)，服務(wù)于客服和營(yíng)銷場(chǎng)景下，解決和處理問(wèn)題，不要浪費(fèi)寶貴的資源。

不加控制的直接引入ChatGPT到客服領(lǐng)域，那感覺(jué)就好比你回家撞見(jiàn)掃地機(jī)器人不干活，和隔壁的智能吸塵器聊的你儂我儂，是不是恨不得一棒子打死了事！

所以，構(gòu)建增強(qiáng)型對(duì)話能力，一方面我們借助ChatGPT簡(jiǎn)化了對(duì)話流程設(shè)計(jì)：以前需要設(shè)定N多個(gè)意圖，關(guān)聯(lián)無(wú)數(shù)個(gè)上下文才能實(shí)現(xiàn)的方式，現(xiàn)在開(kāi)箱即用，自然語(yǔ)言對(duì)話獲取、格式化提示完成限定任務(wù)、收集訪客數(shù)據(jù)和意向。另外，通過(guò)私有化訓(xùn)練和公共文本數(shù)據(jù)的結(jié)合，對(duì)訪客提供不僵化、更優(yōu)質(zhì)的回答體驗(yàn)。

ChatGPT和傳統(tǒng)文本，語(yǔ)音機(jī)器人能力的結(jié)合，會(huì)給智能客服的機(jī)器人服務(wù)能力帶來(lái)質(zhì)的飛躍。

2）智能質(zhì)檢

傳統(tǒng)智能質(zhì)檢已經(jīng)是非常成熟的解決方案，但如果通過(guò)ChatGPT，投入預(yù)訓(xùn)練和一定的業(yè)務(wù)規(guī)則定義，可以實(shí)現(xiàn)無(wú)需復(fù)雜設(shè)定，更智能的質(zhì)檢結(jié)果輸出。

我們向模型內(nèi)投入一定數(shù)量的優(yōu)質(zhì)錄音、文本，然后告知ChatGPT都有哪些加分因子、讓他自動(dòng)判別生產(chǎn)數(shù)據(jù)的質(zhì)檢情況，然后不斷通過(guò)手工質(zhì)檢的對(duì)齊調(diào)優(yōu)，讓ChatGPT持續(xù)不斷學(xué)習(xí)和改進(jìn)。

3）智能化輔助

同理，對(duì)于座席側(cè)智能輔助功能，也是可以通過(guò)對(duì)優(yōu)質(zhì)樣本的投喂，正確流程和加分因子的定義，不斷的讓ChatGPT在數(shù)據(jù)滋養(yǎng)下，實(shí)時(shí)對(duì)座席給出更好的輔助能力。原有的輔助功能框架可以保留，但是內(nèi)里是一個(gè)不斷進(jìn)化，自動(dòng)學(xué)習(xí)的“業(yè)務(wù)助理”

4）內(nèi)訓(xùn)機(jī)器人

基于智能質(zhì)檢和智能輔助的基本能力，針對(duì)使用場(chǎng)景是企業(yè)內(nèi)訓(xùn)的機(jī)器人，也完全可以基于現(xiàn)有數(shù)據(jù)樣本，更自動(dòng)化的生成內(nèi)訓(xùn)“教官”，我們業(yè)務(wù)管理人員，可以針對(duì)崗前培訓(xùn)、業(yè)務(wù)流程、服務(wù)過(guò)程設(shè)定不同內(nèi)訓(xùn)主題，一定量標(biāo)準(zhǔn)語(yǔ)料訓(xùn)練后，讓內(nèi)訓(xùn)機(jī)器人指導(dǎo)座席進(jìn)行自我訓(xùn)練，這種對(duì)于強(qiáng)調(diào)學(xué)習(xí)能力和管理能力的運(yùn)營(yíng)型客戶，很有吸引力。

5）智能填單類

智能客服應(yīng)用中，有大量需要手工輸入的表單：客戶資料、跟進(jìn)記錄、服務(wù)工單，目前市面上CRM領(lǐng)域已經(jīng)出現(xiàn)借助ChatGPT進(jìn)行智能填單的實(shí)驗(yàn)性應(yīng)用。按以往的實(shí)現(xiàn)方式，必須有復(fù)雜的工程化設(shè)計(jì)，將會(huì)話文本實(shí)時(shí)匹配，借助詞性分析，語(yǔ)義分析和關(guān)鍵字查找等方式，使用表現(xiàn)往往不盡如人意。我們可以期待LLM大語(yǔ)言模型的超強(qiáng)能力可以有效提升這類型產(chǎn)品的實(shí)用度。

6）從幫助中心到座席助理

全功能的智能客服產(chǎn)品已經(jīng)是一個(gè)非常龐大的產(chǎn)品體系，功能多如牛毛，上手難度很高。

很多產(chǎn)品的設(shè)計(jì)，需要操作者進(jìn)行到處跳轉(zhuǎn)去查找、配置、調(diào)整。以往的幫助形式，除了簡(jiǎn)單的頁(yè)面的功能提示，就是如wiki一般厚重的在線幫助頁(yè)面，對(duì)使用者說(shuō)不上友好，對(duì)開(kāi)發(fā)者也有持續(xù)更新維護(hù)的沉重負(fù)擔(dān)。

而使用智能助理模式的在線幫助，不同角色的人員可以通過(guò)對(duì)話式的簡(jiǎn)單體驗(yàn)，來(lái)獲取使用上的實(shí)時(shí)協(xié)助，甚至一些功能型的配置和要求，聰明的助理也可以準(zhǔn)確理解使用者的對(duì)話，直接進(jìn)行配置和改變。

比如：系統(tǒng)管理員喚起智能配置助理：

“小C小C，幫我查找一個(gè)近半個(gè)月名字叫做***的客戶所有訪問(wèn)和對(duì)話記錄”

這個(gè)對(duì)小C的能力來(lái)說(shuō)，就是小case了。

“小C小C，我需要設(shè)置一個(gè)清明節(jié)的IVR語(yǔ)音導(dǎo)航，所有清明節(jié)時(shí)間呼入的電話，都提示這樣一句話：***”

這個(gè)要求嘛，還是有一定風(fēng)險(xiǎn)，出于謹(jǐn)慎目的，小C還需要和你反復(fù)確認(rèn)一些關(guān)鍵配置要素，確認(rèn)無(wú)誤才去執(zhí)行。

7）AIGC知識(shí)庫(kù)

智能客服產(chǎn)品中，最需要內(nèi)容生產(chǎn)能力的地方，莫過(guò)于知識(shí)庫(kù)。

產(chǎn)品必備的知識(shí)庫(kù)通常分幾類：內(nèi)部知識(shí)庫(kù)、機(jī)器人知識(shí)庫(kù)和外部知識(shí)庫(kù)。

① 內(nèi)部知識(shí)庫(kù)

是提供給座席使用者，會(huì)話中實(shí)時(shí)定位查詢使用。企業(yè)的業(yè)務(wù)變化多端，知識(shí)庫(kù)的調(diào)整要及時(shí)到位。對(duì)于內(nèi)部知識(shí)庫(kù)的整理。一般需要專人進(jìn)行上傳、編輯、整理，用過(guò)的都知道這是一個(gè)非常耗費(fèi)工作量的事情。

ChatGPT的引入，能協(xié)助高效智能的歸類，自動(dòng)生成知識(shí)庫(kù)類目、明細(xì)。如果增加對(duì)外部數(shù)據(jù)源的引用，知識(shí)庫(kù)還可以自動(dòng)關(guān)聯(lián)，減少知識(shí)庫(kù)同步的操作。使用者在應(yīng)用中，可給與知識(shí)點(diǎn)反饋，能幫助知識(shí)庫(kù)進(jìn)行權(quán)重自動(dòng)調(diào)節(jié)。

② 機(jī)器人知識(shí)庫(kù)

文本和語(yǔ)音機(jī)器人能夠回答訪客問(wèn)題，依賴機(jī)器人知識(shí)庫(kù)的有效內(nèi)容。一旦無(wú)法命中，機(jī)器人只能回避或者推薦其他知識(shí)點(diǎn)。對(duì)于未知問(wèn)題的整理，是需要智能客服使用者大量投入工作量的一個(gè)地方。

同樣，對(duì)于調(diào)用量遠(yuǎn)大于內(nèi)部知識(shí)庫(kù)的機(jī)器人知識(shí)庫(kù)來(lái)說(shuō)，借助用戶反饋來(lái)對(duì)未知問(wèn)題進(jìn)行自動(dòng)整理和關(guān)聯(lián)，能節(jié)省很多知識(shí)庫(kù)維護(hù)者的工作。我們也可以通過(guò)多機(jī)器人組合的方式，在一通會(huì)話中接力棒一般服務(wù)于客戶的不同場(chǎng)景，那么被訓(xùn)練好的ChatGPT專屬機(jī)器人，也可以在特定的場(chǎng)合發(fā)揮能力，并可以逐步替代一些以往模式僵化的問(wèn)答型機(jī)器人。

③ 外部知識(shí)庫(kù)

如果企業(yè)有知識(shí)門(mén)戶的需求，需要整合在智能客服產(chǎn)品中，如果不把這類產(chǎn)品算作一個(gè)獨(dú)立品類的話，基于ChatGPT的多模態(tài)的AIGC能力，可以更方便的將已整理的知識(shí)內(nèi)容轉(zhuǎn)化為輸出產(chǎn)物，更方便的生成知識(shí)文章、圖片、甚至音視頻，快速生成一個(gè)個(gè)性化的知識(shí)空間。

充分發(fā)揮ChatGPT創(chuàng)造性的工作，這里還有很多的想象空間。

④ 數(shù)據(jù)預(yù)測(cè)類應(yīng)用

最后我想到的一個(gè)品類，是基于對(duì)智能客服數(shù)據(jù)的預(yù)測(cè)分析。作為以往智能客服類產(chǎn)品的一個(gè)“短板”，建設(shè)數(shù)據(jù)預(yù)測(cè)類產(chǎn)品可能需要很重的CDP數(shù)據(jù)平臺(tái)建設(shè)，CEM客戶體驗(yàn)管理等方式，如果ChatGPT可以更高效精準(zhǔn)的進(jìn)行銷售意向，行為，成交概率的預(yù)測(cè)，對(duì)利潤(rùn)中心導(dǎo)向的智能客服產(chǎn)品，將具有很大價(jià)值。

4. 商業(yè)化前景

以上，完全只是構(gòu)想，甚至算是空想，想要做出真正落地的應(yīng)用，我們更應(yīng)該同步關(guān)注這些問(wèn)題：

• 投入產(chǎn)出比？
• 可衡量的客戶認(rèn)可和價(jià)值體現(xiàn)？
• 通用性與行業(yè)性？
• 數(shù)據(jù)風(fēng)險(xiǎn)和監(jiān)管安全？

這樣的問(wèn)題繼續(xù)深入下去，將有很多的擴(kuò)展，也不是我這一篇短文就能聊清楚。后續(xù)我會(huì)隨著思考和實(shí)踐，再單獨(dú)分類整理。

ChatGPT們的到來(lái)，首先讓我們震驚，然后是思考，更重要是發(fā)現(xiàn)全新的機(jī)會(huì)。

所知有限，期待與大家的深入交流。

最后的最后，來(lái)看看ChatGPT和文心一言對(duì)這個(gè)問(wèn)題的解答吧