業(yè)務(wù)中“接入大模型”,到底有哪幾種接入方法?

0 評論 4170 瀏覽 21 收藏 10 分鐘

隨著AI大模型技術(shù)的飛速發(fā)展,越來越多的企業(yè)開始探索如何將其融入自身業(yè)務(wù),以提升效率、優(yōu)化用戶體驗(yàn)并創(chuàng)造新的價(jià)值。本文將詳細(xì)梳理接入大模型的五種常見方式,幫助大家全面了解不同接入方式的適用場景、成本考量以及技術(shù)門檻。

DeepSeek 帶來的國民級熱度,很大程度上,是讓整個(gè)社會(huì)都意識到,AI 大模型對于生產(chǎn)力提效的巨大價(jià)值,同時(shí)也帶來了 AI 的洪流勢不可擋、不擁抱就落伍的危機(jī)感。今年以來,很多公司都在積極擁抱 AI 實(shí)踐,希望通過 AI,一方面提升自己企業(yè)、自己業(yè)務(wù)的效率,另一方面也希望為自己的用戶提供 AI 的能力。

我們在新聞通稿中,會(huì)看到很多公司,都使用了“接入 DeepSeek”的說法,那么,所謂的“接入 DeepSeek 等大模型”,究竟都有哪幾種形式?

其實(shí)不論是 DeepSeek,還是其他大模型,企業(yè)能夠接入的方式,一般就是以下 5 種:

1. 個(gè)人直接使用平臺(tái)功能

2.通過智能體平臺(tái)搭建 Agent

3.API 調(diào)用

4.私有化本地部署

5.通過云服務(wù)商間接部署

01 個(gè)人直接使用平臺(tái)功能

個(gè)人直接使用平臺(tái)功能,就是以個(gè)人身份,直接使用大模型官方的 C 端的服務(wù),比如直接登錄 ChatGPT 官網(wǎng)、DeepSeek 官網(wǎng)使用,或者通過一些集成產(chǎn)品使用,但都是以個(gè)人身份使用通用的大模型產(chǎn)品。

這種方式對于小公司來說,實(shí)際落地的方式也就是作為內(nèi)部的提倡,鼓勵(lì)員工使用,或者公司出錢,買幾個(gè) ChatGPT 賬號。比如我已知的幾家大廠,程序員編程已經(jīng)大規(guī)模使用 Cursor(一款 AI 編程軟件),代碼寫得又快又好。

這種方式輕量簡便,好處是能最快感受 AI 帶來的工作變化,劣勢是僅能作為個(gè)人工作提效的輔助,沒有定制功能,數(shù)據(jù)安全也有風(fēng)險(xiǎn)。

02 通過智能體平臺(tái)搭建 Agent

如果只是在官網(wǎng)中與 AI 進(jìn)行簡單的對話,AI 能夠進(jìn)行工作,也很有限,AI 的產(chǎn)出物也不太可控。實(shí)際工作當(dāng)中,任何工作都有一個(gè)流程和標(biāo)準(zhǔn)的限制,才能讓產(chǎn)出的結(jié)果,達(dá)到預(yù)定的標(biāo)準(zhǔn)。

比如「小紅書運(yùn)營」這項(xiàng)工作,如果讓 AI 直接進(jìn)行工作,是沒有辦法完成的,因?yàn)樾〖t書運(yùn)營包含著多種不同的工種環(huán)節(jié)。我們拆解一下,「小紅書運(yùn)營」這項(xiàng)工作,其實(shí)包含以下步驟:

選題-撰寫文案-配圖-發(fā)布-數(shù)據(jù)分析 

這種把工作拆解成標(biāo)準(zhǔn)執(zhí)行動(dòng)作的過程,就是一個(gè)工作流,在工作流中,我們分別識別出 AI 可以應(yīng)用的點(diǎn),然后調(diào)用不同的 AI,幫助我們完成一長串的工作。

就好像有好幾個(gè)“AI 員工”相互配合,最終做出一個(gè)成品。

比如以上的「小紅書運(yùn)營」工作流,AI 介入后,就可以:

  • 通過可聯(lián)網(wǎng)的大模型收集今日熱點(diǎn)新聞
  • 通過大模型分析有哪些選題
  • AI 為選題生成文案
  • 通過大模型為文案的配圖,創(chuàng)作一個(gè)生圖的 Prompt
  • 調(diào)用文生圖的大模型,使用 Prompt,生成配圖
  • 【人工】將文案和圖片手動(dòng)發(fā)布至小紅書(實(shí)際上,這一步通過 RPA 也能自動(dòng)發(fā)布,但不可控因素比較多,亨亨 V:xiaozidaheng 建議手動(dòng)發(fā)布)
  • 通過發(fā)布的筆記鏈接,抓取點(diǎn)贊收藏評論數(shù)據(jù),進(jìn)行數(shù)據(jù)分析

在每個(gè)環(huán)節(jié),AI 都只解決一個(gè)具體的問題,然后把許多個(gè) AI 的工作串起來,就成為了 AI 工作流(如下圖)。

這種串聯(lián)起來的工作流,就被稱作 Agent 或者智能體,通過智能體搭建平臺(tái),可以方便的搭建出適合自己業(yè)務(wù)的智能體,并可以將智能體發(fā)布到企業(yè)內(nèi)部的飛書、微信等平臺(tái),解決各種各樣實(shí)際的問題。

智能體搭建平臺(tái),國內(nèi)做得比較好的是扣子,集成了多種大模型。通過智能體平臺(tái),在企業(yè)內(nèi)部部署 AI 的方式,好處很明顯,就是能夠低成本的將 AI 融合進(jìn)企業(yè)的工作流當(dāng)中,解決企業(yè)的實(shí)際問題,并且也不用開發(fā),對于大多數(shù)不涉密的工作,這是性價(jià)比非常高的一種方式。缺點(diǎn)依然是使用公共的能力,不涉及私有部署,并且對于一些深度復(fù)雜的工作,還是沒辦法做好。

03 通過 API 調(diào)用

API 調(diào)用本質(zhì)上也是在訪問大模型廠商的能力,只不過無需去官網(wǎng)的對話框發(fā)消息,而是直接通過技術(shù)接口,將數(shù)據(jù)傳遞給大模型,大模型處理完成后,再通過 API 接口將處理結(jié)果返回。

調(diào)用 API 的好處是,能夠?qū)?AI 與自己的產(chǎn)品相結(jié)合,而無需跳轉(zhuǎn)到 AI 大模型的網(wǎng)站。

04 私有化本地部署

DeepSeek R1 能夠掀起 AI 應(yīng)用的大浪潮,一方面是模型實(shí)力頂尖,另一方面是模型開源(DeepSeek 使用 MIT 協(xié)議開源)。開源就意味著,任何企業(yè),都能夠?qū)?DeepSeek R1 部署到自己的服務(wù)器當(dāng)中,并且可以通過微調(diào),擁有一個(gè)屬于自己的大模型。

目前宣布接入 DeepSeek 的企業(yè)中,幾家大廠基本上都是采用私有部署的方式,為用戶提供 DeepSeek 的能力。

私有部署的優(yōu)勢和劣勢都很明顯,適合有技術(shù)實(shí)力的公司。

優(yōu)勢:

1.企業(yè)自主可控的本地大模型,業(yè)務(wù)安全等級最高;

2.可對模型進(jìn)行一定程度的微調(diào),使其更符合企業(yè)業(yè)務(wù)需要。

劣勢:

1.成本較高,不僅需要足夠的算力,也需要人力進(jìn)行運(yùn)維;

2.需要比較高的技術(shù)能力,才能實(shí)現(xiàn)大模型的訓(xùn)練。

05 通過云服務(wù)商間接部署

DeepSeek 火爆之后,阿里云、騰訊云等云服務(wù)廠商,也第一時(shí)間推出了部署能力。這個(gè)過程,本質(zhì)上是云服務(wù)廠商進(jìn)行了私有部署,然后幫助使用云服務(wù)的企業(yè),快速獲得私有部署的能力。

這種部署方式,算是完全本地私有部署的優(yōu)化版,犧牲一部分自主性,獲得更方便的部署能力。

優(yōu)勢:

1.無需自行準(zhǔn)備算力,可以使用云服務(wù)商的算力;

2.接入方便,成本較低,有一定的技術(shù)能力就可以完成接入;

3.可以進(jìn)行小量的私有數(shù)據(jù)部署,實(shí)現(xiàn)大模型輸出結(jié)果的小量定制。

劣勢:

1.服務(wù)質(zhì)量受到云服務(wù)商服務(wù)質(zhì)量的影響;

2.并非完全自主可控,大部分信息是安全的,但絕密信息依然有風(fēng)險(xiǎn)。

06 總結(jié)

基本上,企業(yè)內(nèi)部接入大模型的方式,就是以上 5 種。企業(yè)可以根據(jù)不同的情況和需要,選擇合適的方式,進(jìn)行部署。

我做了一張表,一目了然。

作者:亨哼;公眾號:產(chǎn)品變量(ID:hengpaper)

本文由 @亨哼 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理,未經(jīng)許可,禁止轉(zhuǎn)載

題圖來自 Unsplash,基于 CC0 協(xié)議

該文觀點(diǎn)僅代表作者本人,人人都是產(chǎn)品經(jīng)理平臺(tái)僅提供信息存儲(chǔ)空間服務(wù)。

更多精彩內(nèi)容,請關(guān)注人人都是產(chǎn)品經(jīng)理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發(fā)揮!