現(xiàn)在AI客服已經(jīng)在各行業(yè)普遍使用了，但是實(shí)際效果并不如意——用戶寧愿等人工客服，也不愿意找AI客服解決問(wèn)題。如果給當(dāng)前的AI客服換成大模型，效果會(huì)不會(huì)更好一些？這篇文章，我們來(lái)看看作者的思考。

一、為什么要用大模型來(lái)實(shí)現(xiàn)（現(xiàn)在NLP客服的問(wèn)題）

1. 用戶體驗(yàn)較差

為什么會(huì)出現(xiàn)這樣的問(wèn)題昵？

傳統(tǒng)智能客服以NLP技術(shù)為主，核心是分詞。在處理問(wèn)題上有兩個(gè)關(guān)鍵的步驟：

1. 識(shí)別出用戶輸入問(wèn)題中的關(guān)鍵詞；
2. 余弦相似度等計(jì)算。通過(guò)關(guān)鍵詞在已有的QA問(wèn)答庫(kù)中進(jìn)行問(wèn)題的匹配計(jì)算。將相似度的問(wèn)題與答案給出來(lái)。深度一點(diǎn)的，也會(huì)用到深度學(xué)習(xí)的算法。比如進(jìn)行語(yǔ)意模型，識(shí)別情緒，Rerank重排序等。抽取知識(shí)圖譜的三元素等進(jìn)行深度匹配。

所以他目前解決問(wèn)題時(shí)，大部分依賴于用戶輸入問(wèn)題的關(guān)鍵字，進(jìn)行檢索匹配。將已經(jīng)匹配好的答案給到用戶

2. 使用成本高

受限于技術(shù)，需要花費(fèi)極高的人力成本進(jìn)行配置，來(lái)達(dá)到業(yè)務(wù)訴求。

• 當(dāng)業(yè)務(wù)變化，或者新項(xiàng)目上線，需要去配置整理用戶意圖、配置各種意圖問(wèn)法。準(zhǔn)備大量的FAQ，以及各種關(guān)聯(lián)問(wèn)題，配置實(shí)體等。
• 整個(gè)過(guò)程通常需要專業(yè)的機(jī)器人訓(xùn)練師，來(lái)保證問(wèn)題的覆蓋率、相似問(wèn)題重復(fù)度、解決率、意圖識(shí)別率等。

二、大模型產(chǎn)品的優(yōu)勢(shì)

大模型是根據(jù)大量的知識(shí)訓(xùn)練出來(lái)，所以天然能夠“理解”基礎(chǔ)的問(wèn)題。所以不需要去準(zhǔn)備大量的相似問(wèn)題，復(fù)雜的知識(shí)圖譜，實(shí)體關(guān)系。

• 如相似問(wèn)法：如退貨，不需要補(bǔ)充”我想退貨”，”退個(gè)貨“等相似問(wèn)法
• 如基礎(chǔ)知識(shí)圖譜：活著->作者->余華

其次模型的cot能力，讓模型具備較強(qiáng)的推理能力，借助模型推理的能力，去理解流程做決策。不用去配置大量的流程，以及實(shí)體的抽取，傳參，整個(gè)流程讓模型解決。

所以他的使用成本門檻會(huì)低很多。

三、大模型Agent如何解決？

1. agent框架的基礎(chǔ)邏輯

Agent的核心如下：

Planning 規(guī)劃

• -子目標(biāo)和分解:AIAgent 將大型任務(wù)分解為更小的、可管理的子目標(biāo)，從而能夠有效處理復(fù)雜的任務(wù)。
• -反思和完善:Agent可以對(duì)過(guò)去的行為進(jìn)行自我批評(píng)和自我反思，從錯(cuò)誤中吸取教訓(xùn)，并針對(duì)未來(lái)的步驟進(jìn)行完善，從而提高最終結(jié)果的質(zhì)量

Memory 記憶

• 短期記憶:所有的上下文學(xué)習(xí)(參見提示工程)都是利用模型的短期記憶來(lái)學(xué)習(xí)。
• 長(zhǎng)期記憶:這為AIAgent提供了長(zhǎng)期保留和調(diào)用無(wú)限信息的能力，通常是通過(guò)利用外部向量存儲(chǔ)和快速檢索來(lái)實(shí)現(xiàn)。

Tool / Toolkit

• Agent學(xué)習(xí)調(diào)用外部 AP! 來(lái)獲取模型權(quán)重中缺失的額外信息，通常這些信息在預(yù)訓(xùn)練后很難更改，包括當(dāng)前信息、代碼執(zhí)行能力、對(duì)專有信息源的訪問(wèn)等工具是代理可以調(diào)用的功能，本質(zhì)上就是一個(gè)函數(shù)。

2. 將Agent框架邏輯應(yīng)用到客服場(chǎng)景

應(yīng)用邏輯和過(guò)程如下：

當(dāng)用戶輸入詢問(wèn)時(shí)：

1、記憶能力

• 先通過(guò)模型的記憶能力，將用戶畫像、瀏覽記錄、訂單數(shù)據(jù)、歷史會(huì)話記錄等推送給大模型
• 拿到解決對(duì)應(yīng)問(wèn)題的參考sop流程

2、計(jì)劃能力+推理

• 讓模型基于用戶的提問(wèn)+解決的SOP，制定與用戶的溝通計(jì)劃
• 根據(jù)用戶反饋調(diào)整溝通計(jì)劃，推理出新的步驟

3、tools：

• 根據(jù)推理出來(lái)的計(jì)劃、選擇執(zhí)行的內(nèi)容
• 比如調(diào)用ERP、知識(shí)庫(kù)等
• 最終得出結(jié)論、輸出給用戶

整個(gè)過(guò)程中，模型能夠模擬人+參考sop流程，執(zhí)行對(duì)應(yīng)的任務(wù)，從而達(dá)到相應(yīng)的結(jié)果

四、大模型的解決方案的價(jià)值

1. agent的價(jià)值

1、使用成本、維護(hù)成本極低。

使用：三步完成使用

• Step1：用純文本定義有情感的機(jī)器人，用Chat文本來(lái)描述賦予機(jī)器人情感、明確處理任務(wù)SOP流程。
• Step2：補(bǔ)全產(chǎn)品與服務(wù)知識(shí)。構(gòu)建企業(yè)專屬知識(shí)庫(kù)“產(chǎn)品手冊(cè)、服務(wù)規(guī)則，退貨規(guī)則“實(shí)現(xiàn)產(chǎn)品、服務(wù)信息與大模型的互通，加強(qiáng)模型的理解。
• Setp3：快速對(duì)接企業(yè)已有系統(tǒng)。選擇要接入的系統(tǒng)，如有贊商城、自有CRM、ERP。讓模型實(shí)時(shí)獲取信息，精準(zhǔn)響應(yīng)問(wèn)題。

OK！普通客服主管，花費(fèi)1-2天，既可配置基于大模型的智能咨詢服務(wù)機(jī)器人

維護(hù)內(nèi)容少。

• 1、優(yōu)化人思考sop流程
• 2、更新知識(shí)庫(kù)文件

2、全渠道能接入、全面的解答：模型的關(guān)鍵在于理解、所以任何意圖都能理清楚。同時(shí)授權(quán)授權(quán)即多個(gè)渠道，多種問(wèn)題類型都能被全解答。

3、服務(wù)先知：會(huì)話開始前，將用戶行為數(shù)據(jù)、標(biāo)簽提前給到大模型，開口即可知道你的用戶想做什么！解答問(wèn)題更加精準(zhǔn)。

3、更靈活的策略：Agent 的推理、計(jì)劃、思考…讓模型根據(jù)SOP和用戶輸入，自己做決策、做計(jì)劃，靈活應(yīng)對(duì)用戶問(wèn)題，不再需要固定的死流程。

2. 方法效果應(yīng)用

Ai客服退貨

Ai代購(gòu)

Ai會(huì)員卡的辦理

五、大模型的Agent客戶服務(wù)、用戶體驗(yàn)帶來(lái)了什么？

1、更低的成本：模型的能力強(qiáng)大，開發(fā)成本低、使用成本低

2、更智能的效果：用的推理代替了關(guān)鍵之的匹配，能解決的問(wèn)題更廣、效果更好。