在大語(yǔ)言模型的趨勢(shì)下，是否可以使用大語(yǔ)言模型，自己做一款智能客服機(jī)器人出來(lái)？成本有多高？難度有多大？本文對(duì)此進(jìn)行解析，一起來(lái)看看吧。

有非常多的朋友，聯(lián)系我推薦靠譜的智能客服產(chǎn)品，但在2023年的今天再次審視這個(gè)問(wèn)題，我們面臨一個(gè)全新的選擇，是不是可以使用大語(yǔ)言模型，自己做一款智能客服機(jī)器人出來(lái)？成本有多高？難度有多大？

我們可以把智能客服拆分為“智能”+“客服”兩個(gè)不同的產(chǎn)品維度來(lái)看。

1. 客服

如果要實(shí)現(xiàn)客服系統(tǒng)，需要我們準(zhǔn)備多渠道的接入管理和設(shè)置，常見(jiàn)的渠道包括電話、Web網(wǎng)站、H5移動(dòng)端頁(yè)面、微信、企微、郵件、短信、微博等，如果是自己開(kāi)發(fā)，則選擇自己需要用到的服務(wù)場(chǎng)景和獲客渠道。主要功能是實(shí)現(xiàn)渠道消息的接入，在線IM消息和座席人工消息工作臺(tái)。可以簡(jiǎn)單的實(shí)現(xiàn)，配合自己的客戶信息系統(tǒng)，實(shí)現(xiàn)訪客的關(guān)聯(lián)和管理。

2. 智能

接下來(lái)就是智能的部分，以往自行開(kāi)發(fā)智能客服系統(tǒng)，大部分受制于智能機(jī)器人的難度，只能實(shí)現(xiàn)人工方式的在線客服。傳統(tǒng)方式的智能客服機(jī)器人，需要搭建AI引擎，對(duì)接ASR和TTS能力接口，實(shí)現(xiàn)智能語(yǔ)音AI能力的接入。

建立機(jī)器人知識(shí)庫(kù)，實(shí)現(xiàn)問(wèn)答模式的相似問(wèn)，擴(kuò)展詞、專(zhuān)有詞管理等建立機(jī)器人流程，配置機(jī)器人意圖、識(shí)別、分支流轉(zhuǎn)以及復(fù)雜的流程控制方式，以實(shí)現(xiàn)多輪會(huì)話和任務(wù)管理建立機(jī)器人數(shù)據(jù)統(tǒng)計(jì)分析模塊，方便運(yùn)營(yíng)管理和數(shù)據(jù)標(biāo)準(zhǔn)、訓(xùn)練。將兩者結(jié)合，才可以完成智能客服的基本工作流程。

2022年大語(yǔ)言模型的爆發(fā)，對(duì)智能客服機(jī)器人產(chǎn)品帶來(lái)了最直接的沖擊。一個(gè)最核心的焦點(diǎn)問(wèn)題就是：如何使用大語(yǔ)言模型，更快更好的搭建一個(gè)客服機(jī)器人呢？今天就和大家具體聊聊看，怎樣手搓一個(gè)有“人格”的大語(yǔ)言模型客服機(jī)器人，可以完成文本和語(yǔ)音的個(gè)性化接待工作。

一、為什么需要人格特征

其實(shí)在大語(yǔ)言模型到來(lái)之前，除了像小冰等獨(dú)立的AI產(chǎn)品，可以訓(xùn)練不同人格，音色的機(jī)器人來(lái)唱歌，對(duì)話，作詩(shī)。客服機(jī)器人領(lǐng)域就一直在探索如何實(shí)現(xiàn)機(jī)器人的性格，受限于技術(shù)能力和實(shí)現(xiàn)難度，以及經(jīng)濟(jì)性，并沒(méi)有比較好的產(chǎn)品方案。大家使用的客服型機(jī)器人，幾乎千篇一律是標(biāo)準(zhǔn)化的問(wèn)候，回答，處理問(wèn)題，使用多輪會(huì)話處理特定任務(wù)。你說(shuō)它們智障也好，人家就是不生氣，有啥說(shuō)啥，主打一個(gè)兢兢業(yè)業(yè)。但是現(xiàn)在大語(yǔ)言模型來(lái)了，我們可以狠狠期待一波，那么今天就聊聊，怎么手搓一個(gè)有人格特征的大語(yǔ)言模型機(jī)器人

二、開(kāi)始前的準(zhǔn)備工作

如果你對(duì)客服機(jī)器人很熟悉了，那么我們直接開(kāi)始。如果還需要補(bǔ)充一些基礎(chǔ)知識(shí)，可以關(guān)注我，翻翻我以前整理的關(guān)于大語(yǔ)言模型的一些應(yīng)用，關(guān)于知識(shí)庫(kù)文檔提取，知識(shí)庫(kù)自動(dòng)擴(kuò)寫(xiě)等方法，手搓機(jī)器人都要用得到。文末我也會(huì)貼上鏈接。另外就是，你需要有一定的編程基礎(chǔ)，尤其是對(duì)大語(yǔ)言模型相關(guān)的用法，對(duì)LangChain等框架和常用國(guó)內(nèi)外LLM的調(diào)用已經(jīng)學(xué)會(huì)，懂向量數(shù)據(jù)庫(kù)。

三、客服機(jī)器人的連接渠道

現(xiàn)在機(jī)器人的服務(wù)場(chǎng)景是確定的。就是微信、企微、網(wǎng)站、H5、以及一些視頻媒體、社交媒體，以及電話。電話的實(shí)現(xiàn)需要用到CTI通信集成技術(shù)，比較復(fù)雜，先實(shí)現(xiàn)以上渠道的在線客服，通過(guò)IM對(duì)話方式接入訪客到座席的消息連接。在這之間，就可以使用我們的客服機(jī)器人進(jìn)行訪客接待，并且在適當(dāng)?shù)挠|發(fā)情況下，設(shè)置出口，將消息轉(zhuǎn)發(fā)人工座席。以上是客服機(jī)器人的場(chǎng)景和基本原理。

四、向量數(shù)據(jù)庫(kù)的設(shè)置

要做出和以往不同的機(jī)器人來(lái)?；谙蛄繑?shù)據(jù)庫(kù)與OpenAI Embedding，以及OpenAI chat/completions接口，實(shí)現(xiàn)的基于企業(yè)知識(shí)庫(kù)的大語(yǔ)言模型機(jī)器人。從產(chǎn)品化的角度考慮，應(yīng)在多租戶賬戶中設(shè)置獨(dú)立的知識(shí)庫(kù)，提供文件上傳和訓(xùn)練的功能。支持主流的docx 、txt、xlsx、pdf等格式。獲取文檔內(nèi)容后，按字符長(zhǎng)度分塊，調(diào)用OpenAI Embedding接口，存入到向量數(shù)據(jù)庫(kù)。如果是SaaS系統(tǒng)，要注意基于多租戶實(shí)現(xiàn)數(shù)據(jù)分割。

五、大語(yǔ)言模型客服機(jī)器人的設(shè)置

關(guān)鍵的步驟來(lái)了，我們要給機(jī)器人賦予“人格”除以往的客服機(jī)器人設(shè)置之外，增加大語(yǔ)言模型獨(dú)有的機(jī)器人性格參數(shù)，建議增加以下內(nèi)容

1. 角色扮演設(shè)置

你要設(shè)定的機(jī)器人是什么身份、什么背景。比如“假設(shè)你是“AA公司”的銷(xiāo)售顧問(wèn)，名字叫Alice，你的微信和電話是***，公司的網(wǎng)站是”“假設(shè)你是“唉呀馬呀旗艦店”的電商客服，你的名字叫首席體驗(yàn)師，主要針對(duì)訪客的咨詢(xún)，訂單，售后，投訴等問(wèn)題進(jìn)行服務(wù)”“假設(shè)你是“天天優(yōu)秀”醫(yī)院的服務(wù)代表，你的名字是林醫(yī)生，醫(yī)院的官微官網(wǎng)地址是**，你主要了解訪客的病情并推薦引導(dǎo)訪客來(lái)院進(jìn)一步檢查”

如果是做產(chǎn)品化設(shè)計(jì)，也可以抽取字段作為配置項(xiàng)目：名稱(chēng)、角色、職責(zé)、背景信息等。目的是開(kāi)啟一段RolePlay的角色基本的設(shè)定，玩過(guò)游戲的都會(huì)吧。發(fā)揮你的想象力，給出demo，讓你的客戶自己來(lái)填寫(xiě)也沒(méi)問(wèn)題。

2. 限制范圍

如果不加以限制，機(jī)器人就會(huì)天馬行空的和訪客瞎講了。所以這里要加以明確的約束，比如“你只能根據(jù)對(duì)話的上下文回答問(wèn)題”“你只能根據(jù)已知知識(shí)信息回答問(wèn)題”“你絕對(duì)不能和訪客暴露自己是個(gè)“AI、機(jī)器人、人工智能、大模型、ChatGPT””目的是限定機(jī)器人的回答內(nèi)容限定在歷史會(huì)話數(shù)據(jù)上下文和企業(yè)知識(shí)庫(kù)體系內(nèi)作答，以及隱藏真實(shí)身份，如果有必要的話。這里也可以增加對(duì)歷史會(huì)話記錄和知識(shí)庫(kù)文檔的關(guān)聯(lián)配置。

3. 字?jǐn)?shù)限定

為了防止大模型話癆，我們可以設(shè)定簡(jiǎn)潔明快的字?jǐn)?shù)限定。

當(dāng)然，也為了節(jié)約一些寶貴的Token，可設(shè)置如下規(guī)則“你應(yīng)該盡量口語(yǔ)化回應(yīng)，并盡量安撫用戶的情緒，你的回答應(yīng)該是簡(jiǎn)潔的、不要超過(guò)50字”

4. 未知問(wèn)題提示詞

還是一種限定，實(shí)在無(wú)法解答的問(wèn)題，可以引導(dǎo)機(jī)器人如此回答，避免機(jī)器人自己“智能涌現(xiàn)”了，亂答一氣。

比如：對(duì)于訪客與知識(shí)無(wú)關(guān)的問(wèn)題，你應(yīng)明確拒絕并告知用戶“很抱歉哦，您的這個(gè)問(wèn)題很有趣，但是我無(wú)法回答您。麻煩您提供描述的更細(xì)致詳細(xì)一點(diǎn)”產(chǎn)品化思路是，這里可以增加多樣性回復(fù)和人工座席的出口，推薦訪客點(diǎn)擊或者直接轉(zhuǎn)接人工座席服務(wù)。

5. 口語(yǔ)化語(yǔ)氣詞

為了讓大模型機(jī)器人更加有趣一些，可以增加語(yǔ)氣詞的設(shè)定。如“可以在回答過(guò)程中，適當(dāng)?shù)丶尤胄┱Z(yǔ)氣詞，如:“嗯嗯”、“哇”、“親”、“哈”、“哦”等詞語(yǔ)?！?/p>

6. 首次咨詢(xún)問(wèn)答

一個(gè)引導(dǎo)語(yǔ)的配置，可以規(guī)范機(jī)器人在接待時(shí)與客戶打招呼的內(nèi)容，交給客戶自行設(shè)定即可。當(dāng)然，要和自己的人設(shè)盡量保持一致。

以上內(nèi)容的組合，通過(guò)產(chǎn)品界面配置，生成promte工程化提示詞，來(lái)觸發(fā)角色扮演場(chǎng)景的初始化設(shè)定，并且限定了知識(shí)領(lǐng)域。

7. “溫度”

最后，再提一下一個(gè)隱藏參數(shù)：溫度在讓大模型回答問(wèn)題時(shí)，Temperature溫度這個(gè)參數(shù)很有作用，是最重要的源指令之一。這個(gè)值一般介于0-2之間，數(shù)值越低就越精確，數(shù)值越高就越發(fā)散。原理是大模型生成回復(fù)內(nèi)容是，為不同單詞分配不同概率的輸出。當(dāng)溫度趨近于0時(shí)，模型傾向于保守的回復(fù)，選擇概率最高的單詞回復(fù)，這樣意義很準(zhǔn)確，但可能不夠個(gè)性和多樣化。就是比較僵化一些。

當(dāng)溫度為1時(shí)，默認(rèn)初始化設(shè)置，兼顧多樣性和連貫性當(dāng)溫度趨近于最大值2時(shí)，模型可以輸出更多樣性的內(nèi)容，文案也更加跳脫。如果你希望獲得更具創(chuàng)造性的回答效果，調(diào)高溫度如果你希望機(jī)器人更保守精準(zhǔn)一些，溫度就調(diào)低。大家可以實(shí)際測(cè)試下效果對(duì)比。

8. “監(jiān)控保護(hù)”

大模型在判斷問(wèn)題時(shí)，如果遇到涉及政策、宗教、暴力、血腥、色情等不合時(shí)宜問(wèn)題時(shí)，根據(jù)自身知識(shí)庫(kù)深度會(huì)給出返回值。建議可以增加對(duì)這些觸發(fā)的處理。以一個(gè)通用引導(dǎo)語(yǔ)作為規(guī)避。

此處也可以外接擴(kuò)展敏感詞字庫(kù)進(jìn)行問(wèn)題的過(guò)濾。

一些優(yōu)秀產(chǎn)品實(shí)現(xiàn)效果截圖，僅供參考

使用Claude模擬角色扮演場(chǎng)景對(duì)話（注意，沒(méi)有限定本地化知識(shí)）

六、參考信息

以上基于原生chatGPT3.5會(huì)話接口，向量生成接口等，F(xiàn)ine-tuning和Embedding嵌入的搜索提問(wèn)方式，客服機(jī)器人是文本對(duì)話聊天，不考慮多模態(tài)向量搜索方式，會(huì)比較簡(jiǎn)單一些。定義人格機(jī)器人，已經(jīng)有很多成熟的例子，推薦一個(gè)https://ora.ai大家可以上手定制下自己的人格機(jī)器人玩一下。腦洞大的話能玩出花來(lái)

人格機(jī)器人定制和社群ORA

以上內(nèi)容，就是設(shè)置一個(gè)具有一定“人格”的客服機(jī)器人的一些要點(diǎn)。當(dāng)然，要真的完整實(shí)現(xiàn)一個(gè)產(chǎn)品化的智能客服，那最少還是要有大量的配套功能要做的。

單一個(gè)在線客服功能，沒(méi)有幾百個(gè)參數(shù)，不好意思說(shuō)自己是成熟產(chǎn)品。大家耐下心來(lái)好好打磨，也很期待能夠看到更多有趣的“人格”智能客服機(jī)器人出現(xiàn)在人工智能產(chǎn)品序列中。