隨著大型語言模型（LLM）技術(shù)的快速發(fā)展，越來越多的企業(yè)開始探索如何將這一強大的工具集成到他們的應(yīng)用程序中。本文提供了一個基于LLM構(gòu)建應(yīng)用程序的詳細設(shè)計指南，以智能客服系統(tǒng)為例，為產(chǎn)品經(jīng)理或項目經(jīng)理提供了一個全面的框架，從需求確立到技術(shù)選型，每一步都至關(guān)重要。了解如何有效地利用LLM的能力，不僅能夠提升產(chǎn)品的智能水平，還能為企業(yè)帶來顯著的效率和成本優(yōu)勢。

在前2節(jié)中，我們介紹了LLM的基本原理，以及如何在企業(yè)的真實業(yè)務(wù)中，應(yīng)用LLM（大語言模型）。

大語言模型：LLM的基本原理解讀

大語言模型：LLM如何應(yīng)用到實際的業(yè)務(wù)中

今天我們來詳細介紹一下：基于LLM構(gòu)建應(yīng)用程序：設(shè)計指南。本文將以“智能客服”系統(tǒng)為例來進行說明，主要的閱讀對象為產(chǎn)品或項目經(jīng)理。整個設(shè)計指南，遵循以下流程：

一、?

一、確立需求

第一步要先明確需求，即目前業(yè)務(wù)中的痛點，并且這個痛點是可以通過LLM的能力，來得到有效的改善。

建議使用以下“需求評估模版”，來綜合性的分析需求。在分析需求的過程中，要重點評估ROI。畢竟LLM的實施，不管是調(diào)用第三方接口，還是部署開源LLM，都會有不小的成本支出。

—-需求評估模版—-

場景：什么角色，在哪里，執(zhí)行什么任務(wù)

需求：遇到什么問題？具體的影響是什么？需求強度如何？

解決方案：借助LLM的什么能力來解決？（文本補全、知識檢索、意圖識別、情感分析、多輪對話、創(chuàng)意生成、數(shù)據(jù)分析等等）

成本投入：所需花費成本（服務(wù)器資源、人力資源、資金成本，等等）

產(chǎn)品收益：短期收益：例如，為客服團隊，節(jié)省了xx小時/天/人；長期收益：提升客戶滿意度、產(chǎn)品續(xù)費率等等；

投入產(chǎn)出比（ROI）：短期ROI評估：每天節(jié)省xxx成本；長期ROI評估：提高續(xù)約率，品牌知名度等等；

清晰明了的需求分析，不僅有利于向上資源申請，也有助于向下的需求溝通。

有的時候，得不到上下協(xié)作的支持，并不是因為他們反對你，而是他們?nèi)鄙贈Q策支撐。

二、市場調(diào)研競品分析

市場調(diào)研和競品分析，是最容易被忽略的環(huán)節(jié)，但是這個環(huán)節(jié)卻相當(dāng)?shù)闹匾?。如果不進行市場調(diào)研和競品分析，僅局限于自身業(yè)務(wù)的個性化，而陷入具體的問題解決中，則會導(dǎo)致系統(tǒng)設(shè)計與整個市場脫節(jié)，在后續(xù)的迭代中以及對外賦能時遇到更大問題。

下文將以“智能客服系統(tǒng)”來舉例。為了確保智能客服系統(tǒng)的持續(xù)競爭力，深入的市場調(diào)研和競品分析必不可少。對于競品分析，可以聚焦以下幾個方面：

• 回答的準確性與豐富度：對比不同智能客服的回答是否準確且情感化。
• 響應(yīng)速度與多輪對話能力：評估競品的響應(yīng)效率與多輪對話流暢度。
• 自定義業(yè)務(wù)知識庫的支持情況：查看競品是否支持特定業(yè)務(wù)場景的知識庫，以及定制的難易度。
• 用戶界面與交互設(shè)計：智能客服的易用性和界面設(shè)計對用戶體驗有重要影響，可借鑒競品在界面設(shè)計上的優(yōu)點。

通過調(diào)研了解市場主流趨勢和競品優(yōu)劣勢，有助于為我們智能客服的功能和流程設(shè)計提供重要的參考依據(jù)。

三、業(yè)務(wù)流程設(shè)計

通過前2個環(huán)節(jié)的梳理，我們基本上已經(jīng)能夠確定，整個業(yè)務(wù)的行業(yè)通用流程，以及自身業(yè)務(wù)的個性化訴求。

在業(yè)務(wù)流程設(shè)計的過程中，一方面需要考慮疏通現(xiàn)有業(yè)務(wù)的阻塞點，另一方面還需要考慮未來的業(yè)務(wù)擴展性，以及產(chǎn)品的更長遠規(guī)劃（比如，由內(nèi)部孵化到外部商業(yè)化輸出等）。

進行業(yè)務(wù)流程設(shè)計過程時，可以將行業(yè)內(nèi)通用的流程，作為主業(yè)務(wù)流程，將自身業(yè)務(wù)的個性化訴求拆解到子流程中，這樣一方面確保自身的業(yè)務(wù)訴求得到解決，另一方面確保未來的可擴展性。

智能客服的業(yè)務(wù)流程設(shè)計要充分考慮到實際客戶服務(wù)的業(yè)務(wù)邏輯。主流程如下：

• 意圖識別：通過LLM強大的自然語言理解能力來快速判斷用戶意圖。
• 問題分類：根據(jù)問題意圖將問題劃分給不同的模塊，并自動觸發(fā)知識庫查詢等操作。
• 任務(wù)分派：將不同的任務(wù)分配到不同的任務(wù)處理智能體流程中；
• 多輪對話管理：通過上下文關(guān)聯(lián)和指令工程實現(xiàn)對多輪對話的精準回應(yīng)。
• 升級和轉(zhuǎn)接機制：針對LLM無法處理的復(fù)雜或特殊問題，智能客服應(yīng)具備及時轉(zhuǎn)接至人工服務(wù)的功能，保障用戶問題的全面解決。

業(yè)務(wù)流程的合理設(shè)計可以讓任務(wù)實例在遇到不確定性或理解難點時，能有效調(diào)用備選方案或進入備用流程，最大程度地提升系統(tǒng)的穩(wěn)定性和用戶體驗。

四、確定核心功能

通過以上環(huán)節(jié)的梳理，基本上可以確定系統(tǒng)的核心能力，接著還需要將其細化為具體的核心功能，這將構(gòu)成未來系統(tǒng)迭代的藍圖。

以智能客服為例，對于智能客服，核心功能通常包括：

• 知識庫構(gòu)建：包括QA文檔庫、情緒詞庫、專業(yè)知識文檔、以及API接口庫等，維護好這些知識，便于LLM的學(xué)習(xí)和調(diào)用；
• 智能問答：支持基于知識庫的快速回答、模糊匹配、模版回復(fù)等。
• 情感識別與回應(yīng)：利用LLM生成符合用戶情感的答案，以更具人性化的方式溝通。
• 多輪對話能力：在多輪對話中追蹤上下文，確保用戶的復(fù)雜需求得以滿足。
• 智能轉(zhuǎn)接：當(dāng)LLM未能準確識別用戶需求時，將對話無縫轉(zhuǎn)接至人工客服。
• 自學(xué)習(xí)與優(yōu)化：定期基于用戶交互數(shù)據(jù)優(yōu)化模型，讓智能客服持續(xù)成長，適應(yīng)業(yè)務(wù)變化。

確定核心功能后，我們可以根據(jù)優(yōu)先級合理分配開發(fā)資源，以確保在有限的時間和預(yù)算內(nèi)實現(xiàn)商業(yè)價值最大化。

五、產(chǎn)品流程設(shè)計

產(chǎn)品流程設(shè)計環(huán)節(jié)涉及如何讓用戶順暢地使用智能客服的每一個功能，并確保對話流程的高效和準確性。產(chǎn)品流程節(jié)點包括：

1. 歡迎語和起始引導(dǎo)：為用戶提供簡潔友好的對話開場詞，引導(dǎo)用戶更好地使用智能客服。
2. 主任務(wù)流程：設(shè)計各類問題的基本應(yīng)答流程和備選流程，涵蓋用戶的常見需求和意外問題。
3. 錯誤處理流程：當(dāng)智能客服識別錯誤或理解不準確時，設(shè)計柔性引導(dǎo)流程，避免用戶流失。
4. 終止對話與用戶反饋：引導(dǎo)對話結(jié)束并收集用戶反饋，以評估客服效果和用戶滿意度。

有效的流程設(shè)計不僅讓用戶體驗更為流暢，也能夠提升客服系統(tǒng)的服務(wù)水平。

六、? UI交互設(shè)計

UI設(shè)計直接影響用戶的操作感受，因此UI界面和交互設(shè)計必須簡潔、直觀且貼合用戶需求。

以下為關(guān)鍵點：

• 對話界面設(shè)計：提供簡潔的對話框，突出聊天內(nèi)容與選項，減少視覺干擾。
• 按鈕與操作提示：通過適當(dāng)?shù)陌粹o設(shè)計，引導(dǎo)用戶快速選擇和進入不同服務(wù)流程。
• 輸入交互：支持文本和語音輸出，提高輸入效率，讓整個交互更流程。
• 多輪對話切換：為每輪對話提供清晰的上下文指示，讓用戶始終知道當(dāng)前對話的狀態(tài)。
• 即時反饋與情感化設(shè)計：通過動畫和表情元素，讓用戶感到智能客服的溫暖和親切。

UI設(shè)計和交互設(shè)計的核心在于提供一致、清晰的用戶體驗，讓用戶無需培訓(xùn)即可輕松上手并持續(xù)使用。

七、? 參與技術(shù)選型與研發(fā)

在完成設(shè)計工作后，作為產(chǎn)品和設(shè)計人員，同時也需要深度參與到技術(shù)的選型和研發(fā)中。

參與到技術(shù)中去，一方面，有助于我們了解更多的技術(shù)原理和特性，另一方面我們能夠站在業(yè)務(wù)和產(chǎn)品的角度一起來評估技術(shù)的可行性，同時也方便后續(xù)的測試驗收，以及未來要是出了問題，我們能夠快速預(yù)判故障，提高解決問題的效率。

例如：在完成智能客服的需求評審后，參與到技術(shù)評審中（選型與研發(fā)），了解到其他研發(fā)團隊已經(jīng)私有化部署了Llama大模型，且算力充足，但是對模型效果上不確定是否可以滿足，此時產(chǎn)品人員可介入與業(yè)務(wù)人員一起來作用例評估。

最后，項目經(jīng)理需要注意，技術(shù)選型時要注意平衡功能需求、性能需求與開發(fā)成本，確保項目在實際應(yīng)用中穩(wěn)定運行。

以上，便是一個真實的基于LLM的應(yīng)用程序的設(shè)計過程。其中LLM作為核心引擎，知識庫作為LLM的服務(wù)升級燃料，不斷的優(yōu)化業(yè)務(wù)流程和系統(tǒng)能力，使LLM能夠發(fā)揮出更大的作用。