智猩猩GenAI整理

編輯:倩倩

騰訊云「AI實戰(zhàn)講堂 · 企業(yè)級大模型應(yīng)用實踐創(chuàng)新系列」是圍繞企業(yè)業(yè)務(wù)需求,聚焦大模型應(yīng)用,推出的系列課程。課程緊扣案例、應(yīng)用Demo、知識庫運(yùn)營方法論等要點,深度剖析大模型企業(yè)級應(yīng)用的優(yōu)秀實踐,探索大模型落地B端應(yīng)用的最佳路徑。

目前,「AI實戰(zhàn)講堂 · 企業(yè)級大模型應(yīng)用實踐創(chuàng)新系列」課程前三期已順利完結(jié)。來自騰訊云的三位專家,分別圍繞騰訊云大模型知識引擎在智能客服、員工問答助手、企業(yè)內(nèi)部專業(yè)知識問答(專家助手)三大場景的應(yīng)用實踐,進(jìn)行了深入講解。

01

騰訊云大模型知識引擎

加速一汽豐田智能客服升級

在第一期,騰訊云大模型知識引擎客戶成功經(jīng)理孫敏一以《騰訊云大模型知識引擎:全面升級智能客服體驗》為主題,介紹了傳統(tǒng)客服面臨的挑戰(zhàn),并結(jié)合實際案例,對大模型知識引擎在車企智能客服場景中的應(yīng)用實踐和企業(yè)知識庫的運(yùn)營方法論進(jìn)行了系統(tǒng)講解。

傳統(tǒng)客服面臨著響應(yīng)慢、問答不精準(zhǔn)等問題。同時,由于企業(yè)現(xiàn)有咨詢渠道(APP、官網(wǎng)、小程序等)的多樣化,使得企業(yè)知識庫難以實現(xiàn)共享和沉淀,無法有效互通,且更新滯后,嚴(yán)重影響了用戶體驗。

本期介紹的騰訊云大模型知識引擎,支持混元大模型、騰訊行業(yè)大模型以及DeepSeek等第三方開源大模型,用戶可以根據(jù)自身需求靈活選擇。同時,騰訊云大模型知識引擎還將文檔解析、文檔拆分和多輪改寫等功能以原子能力形式進(jìn)行輸出,供企業(yè)通過API調(diào)用,并提供標(biāo)準(zhǔn)模式、工作流模式以及Agent模式三種應(yīng)用形態(tài),目前已在政務(wù)、零售、文旅、汽車等多個領(lǐng)域的智能客服場景實現(xiàn)了應(yīng)用落地。

打開網(wǎng)易新聞 查看精彩圖片

在車企智能客服場景中,企業(yè)往往會在APP、微信小程序和官網(wǎng)等業(yè)務(wù)終端提供客服應(yīng)答,并希望借助大模型知識引擎,提升客服機(jī)器人獨立解決問題的能力,以減少人工處理量,降低客服中心的人力成本。

但在實際應(yīng)用中,車企智能客服面臨諸多挑戰(zhàn),比如C端意圖不明確、垂直場景業(yè)務(wù)知識更新快等。同時,企業(yè)文檔往往圖文并茂、篇幅長、內(nèi)容多樣化,涵蓋了文檔、表格、流程畫布等不同形式,復(fù)雜的信息形態(tài)也進(jìn)一步提高了大模型的信息處理難度。

打開網(wǎng)易新聞 查看精彩圖片

騰訊云大模型知識引擎團(tuán)隊通過調(diào)研總結(jié),將車企知識庫內(nèi)容劃分為事實性問題知識、概念性知識和程序系統(tǒng)知識三大類,并結(jié)合騰訊云大模型知識引擎提供了針對性的智能客服解決方案。

比如針對產(chǎn)品操作手冊這類事實性問題知識,引入具備OCR能力的大模型,提升說明書場景下文、圖、公式等多模態(tài)元素的識別準(zhǔn)確度,生成圖文并貌的答案。對于概念性知識,知識引擎提供基于全新文本檢索模型和COT技術(shù),提升對多樣化表格的檢索和問答準(zhǔn)確率。而程序系統(tǒng)知識,則采用知識引擎的工作流模式,通過可視化拖拉拽的方式編排不同原子能力,實現(xiàn)零代碼構(gòu)建業(yè)務(wù)流程。

數(shù)據(jù)顯示,基于騰訊云大模型知識引擎,一汽豐田智能客服機(jī)器人的問題獨立解決率從30%+提升到80%+,知識問答準(zhǔn)確率超過80%。

此外,騰訊云大模型知識引擎團(tuán)隊基于豐富的應(yīng)用實踐,形成了一套完善的知識庫運(yùn)營方法論,能夠幫助企業(yè)快速實現(xiàn)知識庫的構(gòu)建,加速企業(yè)級AI應(yīng)用在不同業(yè)務(wù)場景中的應(yīng)用落地。

500強(qiáng)企業(yè)智能客服+DeepSeek最佳實踐分享

02

利用騰訊云大模型知識引擎

高效構(gòu)建大參林員工問答助手

在第2期中,騰訊云大模型知識引擎產(chǎn)品運(yùn)營陳葉以《大模型的企業(yè)級實踐路徑:從0-1構(gòu)建員工問答助手》為主題,分享了從0-1構(gòu)建員工知識服務(wù)平臺的全流程,并結(jié)合實際案例,探討了如何將知識引擎從員工服務(wù)擴(kuò)展到高層決策支持。最后,陳葉老師還系統(tǒng)講解了如何通過工作流和Agent技術(shù)優(yōu)化員工的信息獲取效率,以及復(fù)雜業(yè)務(wù)場景的流程實現(xiàn)。

企業(yè)知識庫能夠幫助員工高效獲取內(nèi)部信息,提升工作效率。但由于部門限制,企業(yè)知識往往分散在不同的部門或指定人員手中,同時缺乏系統(tǒng)性沉淀和統(tǒng)一入口,且更新不及時,導(dǎo)致內(nèi)部員工信息獲取效率極低。

企業(yè)希望借助大模型來構(gòu)建統(tǒng)一的知識庫,實現(xiàn)內(nèi)部知識的集中管理,并借助AI互動問答,實現(xiàn)便捷的信息查詢,提升企業(yè)內(nèi)部服務(wù)效率。

但是,現(xiàn)有大模型往往基于過去的知識進(jìn)行訓(xùn)練,導(dǎo)致企業(yè)自身知識庫服務(wù)與大模型的深度融合面臨一定挑戰(zhàn)。如何實現(xiàn)企業(yè)內(nèi)部知識與大模型的深度融合,構(gòu)建一個不僅能理解員工和用戶語義,并且能夠結(jié)合企業(yè)動態(tài)更新的知識服務(wù)平臺至關(guān)重要。

騰訊知識引擎提供包括知識問答、API調(diào)用和文本生成等多個功能在內(nèi)的大模型知識庫底座,能夠幫助企業(yè)快速構(gòu)建統(tǒng)一的知識服務(wù)平臺。

打開網(wǎng)易新聞 查看精彩圖片

在與大參林的合作中,騰訊云知識引擎幫助企業(yè)構(gòu)建了統(tǒng)一的知識服務(wù)平臺,并將大模型接入企業(yè)自有APP、企業(yè)微信、門店pos系統(tǒng)等多個渠道,通過多入口的方式,隨時隨地服務(wù)企業(yè)員工高效獲取知識。

同時,騰訊云知識引擎的標(biāo)簽?zāi)芰?,還幫助大參林實現(xiàn)了文檔和用戶權(quán)限的個性化管理,當(dāng)不同用戶查詢同一個問題時,能夠?qū)崿F(xiàn)千人千面的回答。

數(shù)據(jù)顯示,借助騰訊云知識引擎,企業(yè)內(nèi)部員工的問題響應(yīng)時間縮短了80%以上,問答結(jié)果可用率90%+,幫助企業(yè)員工實現(xiàn)了高效的數(shù)字化轉(zhuǎn)型。

打開網(wǎng)易新聞 查看精彩圖片

此外,企業(yè)還可以借助大模型的推理能力,對員工和一線用戶的反饋進(jìn)行深度挖掘和探索,幫助企業(yè)高層快速了解用戶和員工的真實反饋,為企業(yè)高層的業(yè)務(wù)決策提供輔助。

打開網(wǎng)易新聞 查看精彩圖片

針對復(fù)雜任務(wù),騰訊云知識引擎提供可視化畫布和及流程編排能力,結(jié)合Agent可以實現(xiàn)復(fù)雜任務(wù)的自主規(guī)劃和工具調(diào)用,有效提升運(yùn)營人員的維護(hù)和調(diào)優(yōu)效率。

騰訊云大模型知識引擎團(tuán)隊也建立了完整的項目機(jī)制和服務(wù)流程,涵蓋需求響應(yīng)、階段性復(fù)盤、場景收集、需求應(yīng)答、知識庫梳理、方案評估、測評評分標(biāo)準(zhǔn)、上線服務(wù)機(jī)制等關(guān)鍵節(jié)點,為大模型在企業(yè)內(nèi)部的應(yīng)用落地提供全方位支持。

大模型員工問答助手助力上市集團(tuán)人事服務(wù)與行政服務(wù)效能提升

03

騰訊云大模型知識引擎

在企業(yè)知識問答等不同業(yè)務(wù)場景下的應(yīng)用

騰訊云大模型知識引擎產(chǎn)品運(yùn)營葉瑞以《騰訊云大模型知識引擎,助力企業(yè)客戶打造內(nèi)部專用知識問答的最佳實踐》為主題,進(jìn)行了第三期的分享。葉瑞老師首先從產(chǎn)品定位、核心能力、三大應(yīng)用模式等方面,對騰訊云大模型知識引擎的進(jìn)行了系統(tǒng)介紹。之后,葉瑞老師結(jié)合實際案例,分享了騰訊云大模型知識引擎幫助頭部客戶企業(yè)構(gòu)建員工問答助手的落地實踐。

騰訊云大模型知識引擎定位為大模型應(yīng)用開發(fā)平臺,旨在幫助企業(yè)加速大模型應(yīng)用落地。

從產(chǎn)品架構(gòu)來看,騰訊云大模型知識引擎可以分為模型層、RAG層、應(yīng)用構(gòu)建層三個層面。

在模型層,騰訊云大模型知識引擎支持自研和三方開源大模型的接入。目前,知識引擎已接入騰訊混元全系列大模型、自研精調(diào)大模型和以DeepSeek為代表的三方開源大模型。在企業(yè)知識問答場景中,知識引擎能夠減少無關(guān)知識的輸出,降低模型幻覺,目前已在醫(yī)學(xué)、金融、教育等多個領(lǐng)域成功應(yīng)用。

在RAG層,騰訊云大模型知識引擎將RAG環(huán)節(jié)的文檔解析、文檔拆分、向量化以及多輪改寫和Rerank等基礎(chǔ)原子能力,開放給客戶來靈活選擇和調(diào)用。RAG層擅長圖文表以及公式的解析,并且支持騰訊元器、元寶的調(diào)用。在圖文混排文檔問答、復(fù)雜大表問答場景中,騰訊云大模型知識引擎具有明顯的優(yōu)勢。

打開網(wǎng)易新聞 查看精彩圖片

在應(yīng)用構(gòu)建層,知識引擎提供標(biāo)準(zhǔn)、工作流和Agent三種應(yīng)用模式。

標(biāo)準(zhǔn)模式內(nèi)置最佳實踐流程,企業(yè)只需導(dǎo)入文檔/問答對,即可實現(xiàn)穩(wěn)定且精確的知識問答效果,適用于企業(yè)知識服務(wù)、產(chǎn)品咨詢等嚴(yán)肅問答場景。

工作流模式則使用指定的工作流來響應(yīng)用戶所有對話。如果客戶對應(yīng)用的執(zhí)行流程,有更加個性化的需求,可以通過工作流,來拖拉拽各種原子能力,編排想要的流程,投入售后運(yùn)營場景的使用,高效解決用戶的復(fù)雜問題和需求。

在Agent模式下,大模型可以實現(xiàn)任務(wù)的自主規(guī)劃和工具調(diào)用,能夠高速實現(xiàn)應(yīng)用搭建,適用于有靈活回復(fù)或快速搭建需求的服務(wù)問答場景。

三種應(yīng)用模式為企業(yè)提供了靈活、多樣的應(yīng)用搭建方式,能夠幫助企業(yè)加速大模型在不同業(yè)務(wù)場景中的應(yīng)用落地。

目前,某頭部客戶利用騰訊云大模型知識引擎,已在企業(yè)行政知識問答、專業(yè)知識問答與查詢、銷售消息質(zhì)檢、保險建議書生成等不同業(yè)務(wù)場景實現(xiàn)了應(yīng)用落地,大大提升了企業(yè)員工的工作效率。

打開網(wǎng)易新聞 查看精彩圖片

企業(yè)級AI應(yīng)用在不同場景的落地過程中,并非簡單的將企業(yè)知識導(dǎo)入引擎中即可,在一些細(xì)分場景依然面臨諸多挑戰(zhàn)。比如垂直領(lǐng)域知識更新快,通用大模型缺少對垂直場景的理解;企業(yè)輸入知識形態(tài)復(fù)雜,處理難度大;復(fù)雜任務(wù)處理流程繁瑣等。

針對這些挑戰(zhàn),騰訊云大模型知識引擎基于RAG架構(gòu),整合了OCR解析、語義切分、向量檢索等多種能力,支持復(fù)雜文檔處理和多模態(tài)場景下的精準(zhǔn)問答,通過Text2SQL技術(shù),能夠?qū)崿F(xiàn)大表和跨表場景下的高準(zhǔn)確率檢索,滿足企業(yè)復(fù)雜業(yè)務(wù)需求。同時,知識引擎支持無關(guān)知識拒答、模糊問題主動澄清,從而進(jìn)一步提升問答的準(zhǔn)確性。此外,知識引擎為企業(yè)提供可視化拖拉拽工作流編排能力,來幫助用戶快速搭建復(fù)雜業(yè)務(wù)流程。知識引擎還建立了嚴(yán)格的安全防護(hù)體系,從輸入審核到數(shù)據(jù)加密,全方位保障企業(yè)私域知識的安全與合規(guī)。

憑借先進(jìn)的技術(shù)架構(gòu)和功能設(shè)計,騰訊云大模型知識引擎能夠為企業(yè)級AI應(yīng)用在不同場景下的落地提供高效解決方案。