我們認為， AI Answer 為結合大語(yǔ)言模型（LLM）和信息檢索（IR，Information retrieval）技術(shù)的智能信息互動(dòng)應用。在這個(gè)應用中，LLM 負責理解語(yǔ)境并構建查詢(xún)，而 IR 技術(shù)則依據這些查詢(xún)獲取相關(guān)數據或文檔。檢索到的結果最終由LLM 生成回應，從而形成一個(gè)以模型外部信息為支撐的動(dòng)態(tài)對話(huà)過(guò)程。

AI Answer檢索的信息可以是企業(yè)閉源知識庫、行業(yè)知識圖譜、或是互聯(lián)網(wǎng)開(kāi)放信息。相較于傳統知識檢索應用，AI Answer在交互模式、泛化能力及精確度上均有能力躍遷，我們認為通用智能模型在企業(yè)端或將率先以AI Answer模式落地，價(jià)值增量包括：

??數據價(jià)值挖掘：企業(yè)端根據企業(yè)內部數據與已有知識，自動(dòng)生成數據洞察與前瞻性的預測分析，提高企業(yè)運維效率與知識創(chuàng )新動(dòng)能。同時(shí)用戶(hù)端AI Answer通過(guò)分析用戶(hù)的角色、需求、歷史查詢(xún)記錄，自動(dòng)分配合適的數據訪(fǎng)問(wèn)權限，推薦個(gè)性化檢索路徑與知識生成。

??知識資產(chǎn)沉淀：自動(dòng)為線(xiàn)上知識文檔生成分類(lèi)標簽，降低人工信息整理成本。根據用戶(hù)使用應用的情況跟蹤企業(yè)知識庫變化，自動(dòng)更新生成內容，確保信息準確性與實(shí)時(shí)。同時(shí)用戶(hù)使用AI Answer產(chǎn)生的行為可作為人類(lèi)反饋，訓練AI Answer在生成內容上進(jìn)一步對齊應用領(lǐng)域的需求和偏好。

??搜索效率提升：通過(guò)精準分析用戶(hù)需求，自動(dòng)剔除重復或冗余的信息，整合高質(zhì)量知識資產(chǎn)。同時(shí)AI Answer應用可作為虛擬助手，在平臺上同步協(xié)助員工解決問(wèn)題、主動(dòng)提供建議和關(guān)聯(lián)資料，促進(jìn)信息獲取的及時(shí)性。

以C端檢索范式演進(jìn)為鑒，我們認為B端 AI賦能內部知識庫重建有望帶來(lái)諸多價(jià)值增量，滿(mǎn)足企業(yè)端提效需求。微軟2月8日發(fā)布基于OpenAI大模型的搜索引擎新版Bing（中文名“必應”）[1]，首次推出嵌入搜索引擎的“問(wèn)答式搜索”功能，搜索界面的問(wèn)答機器人可以與用戶(hù)聊天、協(xié)助撰寫(xiě)文本、匯總全網(wǎng)絡(luò )信息并以對話(huà)方式響應查詢(xún)。

StatCounter數據顯示谷歌的搜索引擎幾乎占據了90%的市場(chǎng)份額，我們認為Bing憑借智能化檢索有望不斷突破市場(chǎng)份額。據 Data.AI 的圖示區間數據，在嵌入了OpenAI大模型能力后，Bing的APP日均下載量在全球范圍內增長(cháng)了823%，同期對比谷歌搜索應用的下載量?jì)H增長(cháng)3%。

以Glean為例，大模型賦能的AI Answer重構企業(yè)管理軟件。AI技術(shù)在企業(yè)端的應用場(chǎng)景廣闊，其中知識內容檢索場(chǎng)景知識密度要求較高，需求明確且技術(shù)路徑相對成熟。Glean通過(guò)打通跨應用數據打造駕于SaaS層之上的“聚合層”，成為企業(yè)應用場(chǎng)景的入口級產(chǎn)品。Glean可以結合企業(yè)內部知識圖譜、以及上百家第三方SaaS應用中進(jìn)行信息檢索，為每位用戶(hù)的自然語(yǔ)言查詢(xún)生成定制化的結果，覆蓋信息查找、復雜功能執行等場(chǎng)景。

目前，Glean只面向企業(yè)客戶(hù)提供服務(wù)，公司推出兩種定價(jià)方案，1）按席位收費，每月不超過(guò)100美元；2）根據企業(yè)的需求定制價(jià)格，目前商業(yè)模式以第二種為主。此外，在服務(wù)模式上，Glean 還提供高水平的安全性和靈活性，可以選擇在本地或云端部署，并且對用戶(hù)數據進(jìn)行加密和權限層級管理。

供給端，模型層技術(shù)趨于平權，企業(yè)具備閉源數據卡位，商業(yè)落地可得性較高。數據層面，與其他B端AI應用相比集成了垂直行業(yè)知識的AI Answer應用更易實(shí)施落地。

通用人工智能積累了強大的通識能力，但由于其廣泛而非專(zhuān)精的數據結構，其在專(zhuān)業(yè)領(lǐng)域的檢索實(shí)效性及性?xún)r(jià)比尚有欠缺。通過(guò)擬合垂直領(lǐng)域的數據，AI Answer能理解行業(yè)內的專(zhuān)業(yè)詞匯、概念和信息，從而在搜索過(guò)程中融入垂域要素，更好的理解用戶(hù)意圖并產(chǎn)生更準確的搜索結果。

模型層面，B端企業(yè)AI Answer場(chǎng)景對于算法模型在知識涌現、數理分析等高階能力需求較弱，對檢索能力和文本生成能力需求較強，技術(shù)平權背景下可以通過(guò)使用LLAMA、Bloom、ChatGLM等開(kāi)源模型也可在垂域細分領(lǐng)域達到較優(yōu)效果。

例如，企業(yè)可以使用LangChain將數據庫文檔加載并索引到本地知識庫中，通過(guò)嵌入模型對文本進(jìn)行矢量化，助力快速檢索相關(guān)段落，再通過(guò)ChatGLM協(xié)助用戶(hù)基于檢索到的信息和用戶(hù)會(huì )話(huà)歷史生成精準的答案。

需求端，AI Answer助力企業(yè)知識圖譜重構，實(shí)現內外雙向賦能。

1）企業(yè)需要快速準確地獲取和利用特定領(lǐng)域的知識和信息，以提高決策效率和質(zhì)量。傳統的搜索引擎往往不能滿(mǎn)足企業(yè)的個(gè)性化需求，而需要一個(gè)能夠理解企業(yè)商業(yè)模式下特定語(yǔ)境和邏輯的智能問(wèn)答系統。

2）企業(yè)需要對自己擁有或者能夠獲取的數據和知識進(jìn)行有效地組織和管理，以提高數據質(zhì)量和可用性。傳統的知識庫構建和維護往往需要大量的人力和時(shí)間成本，AI Answer能夠助力企業(yè)自動(dòng)化地從各種數據源中抽取、整合、更新和驗證知識。

3）企業(yè)需要與客戶(hù)、合作伙伴、員工等各方有效地溝通和協(xié)作，傳統的人工客服或者機器人往往不能滿(mǎn)足用戶(hù)的多樣化和復雜化的問(wèn)題，AI Answer經(jīng)過(guò)細化調優(yōu)，能夠靈活地適應不同場(chǎng)景和需求。

LangChain是一個(gè)封裝了各種大語(yǔ)言模型應用開(kāi)發(fā)工具的開(kāi)源Python框架，提供了一套開(kāi)發(fā)大模型的工具、組件和接口。LangChain幫助開(kāi)發(fā)者將大模型和其他知識源/數據庫結合起來(lái)，以創(chuàng )建功能更強大的應用程序，包括基于知識庫問(wèn)答、聊天機器人、智能代理等。該開(kāi)源Python可被用于整合和管理大模型（如ChatGLM）的輸出，提供了標準的模塊化組件、集成了不同的大語(yǔ)言模型并將其進(jìn)行整合，并將它們連接到各種外部數據源和API。

通過(guò)各種模塊化組件，LangChain框架提供了全方位全流程的優(yōu)化服務(wù)。傳統的大模型無(wú)法聯(lián)網(wǎng)、無(wú)法調用其他API、無(wú)法訪(fǎng)問(wèn)本地文件、對Prompt要求高、生成能力強但內容準確度無(wú)法保證，而LangChain則提供了相應模塊，旨在解決這一系列問(wèn)題。

? Prompt：使用LLM需要用戶(hù)輸入需求，LangChain將用戶(hù)的輸入傳遞給Prompt Template。一個(gè)Prompt通常由Instructions、Context、Input Data和Output Indicator組成，但一般用戶(hù)并不會(huì )完整地輸入每個(gè)部分，使用LangChain的Prompt Template可以很好地根據用戶(hù)輸入定義各個(gè)部分，同時(shí)將Input Data留作動(dòng)態(tài)輸入項。

? Chain：利用該模塊，LangChain可以不單單利用本身的LLM和Prompt Template，而是將原模型鏈接到其他信息源或API，將模塊組合成完整的工作流，拓展LLM應用邊界。

? Agent：如果LLM僅利用Chain模塊，那么模型將按照預設的接口和順序執行工作，而Agent模組可以利用LLM分析應該使用哪個(gè)API或者搜索引擎、數據源等工具鏈，并自行決定調用和實(shí)現的順序。比如，ChatGPT有很強的生成回答能力，但不夠準確；Wolfram Alpha有很準確的知識儲備，但語(yǔ)義理解能力較差，Agent可以針對ChatGPT的問(wèn)題，自行判斷是否需要調用Wolfram Alpha，并生成回答。

? Memory：默認情況下，Chain和Agent是無(wú)狀態(tài)（stateless）的[2]，這意味著(zhù)它們獨立地處理每個(gè)傳入的Query（就像底層的LLM和聊天模型），不具備上文記憶的能力。為了記住先前的交互，LangChain通過(guò)每次Prompt加入上文內容和記錄的tricks，在不同的Query間傳遞上文，在前ChatGPT時(shí)代就實(shí)現了記憶的功能。

案例：YouTube博主Data Independent通過(guò)LangChain構建了一個(gè)PDF問(wèn)答機器人。

LangChain憑借PDF Loader的幫助加載上傳的PDF，并使用Splitter分割語(yǔ)句向量，同時(shí)盡可能保留原始語(yǔ)義，調用OpenAI的Embedding引擎進(jìn)行長(cháng)向量變換并存儲在本地或者Pinecone云向量數據庫，最后用戶(hù)只需調用LangChain的QA Chain就可以針對上傳的PDF進(jìn)行問(wèn)答。整個(gè)過(guò)程中，LangChain相當于對每個(gè)環(huán)節集成，并對整體的交互進(jìn)行封裝。

LangChain受到廣泛關(guān)注和使用，獲得種子輪融資，但商業(yè)化任重道遠。2023年4月6日，LangChain宣布獲得由Benchmark領(lǐng)投的1,000萬(wàn)美元種子輪融資。

截至2023年4月19日，LangChain在Github上已有2.8萬(wàn)Stars、478位貢獻者，被2,400多名用戶(hù)使用。但究其本質(zhì)，LangChain是“整合其他開(kāi)源庫的開(kāi)源庫”，提供開(kāi)發(fā)LLM的框架，以此節省開(kāi)發(fā)人員編寫(xiě)代碼的時(shí)間。而由于開(kāi)源加之經(jīng)濟成本不穩定、對輸出沒(méi)有評估步驟，客戶(hù)目前更偏好直接的模型交付，LangChain商業(yè)化仍有待探索。

LangFlow為L(cháng)angChain開(kāi)源且無(wú)代碼的可視化開(kāi)發(fā)界面，用戶(hù)可以通過(guò)拖拽模塊和自然語(yǔ)言交互的模式構建應用原型。

Langchain將制作AI應用的工具能力模板化和標準化，而LangFlow 提供了一系列可供選擇的LangChain組件，包括 LLMs、提示模板、代理和鏈等等，用戶(hù)可以通過(guò)鏈接節點(diǎn)的方式輕松構建和測試產(chǎn)品原型，例如聊天機器人和文本解析助手。LangFlow基于Python開(kāi)發(fā)，同類(lèi)產(chǎn)品還有基于JavaScript開(kāi)發(fā)的Flowise。

圖表：LangFlow通過(guò)簡(jiǎn)單鏈接四個(gè)模塊即可構建具備記憶且可自定義模板的聊天機器人

大模型：開(kāi)源模型百花齊放，助力B端高效部署

ChatGLM等開(kāi)源模型帶來(lái)大模型普惠，助力B端部署AI Answer。

企業(yè)可以通過(guò)Langchain平臺調用部分開(kāi)源的自然語(yǔ)言處理模型，例如ChatGLM、Bloom與LLAMA模型等，這些開(kāi)源模型為企業(yè)級AI應用的推廣奠定了基礎。其中，ChatGLM是可被集成到LangChain的一款重要開(kāi)源模型，能夠通過(guò)提供自然語(yǔ)言處理能力為企業(yè)打造高效的AI Answer應用。

其研發(fā)企業(yè)智譜AI成立于2019年，源自清華大學(xué)計算機系知識工程實(shí)驗室。2022年，公司合作研發(fā)了支持中英雙語(yǔ)的千億級超大規模預訓練模型GLM-130B，并搭建了高精度通用知識圖譜。

GLM-130B在多個(gè)公開(kāi)評測榜單上超越了GPT-3的性能，支持單張消費級推理并且具備跨平臺跨芯片的快速推理能力?；贕LM-130B模型，公司又開(kāi)發(fā)了6B參數規模的雙語(yǔ)對話(huà)模型ChatGLM，可以處理多種自然語(yǔ)言任務(wù)（如對話(huà)聊天和智能問(wèn)答），并且支持在單張消費級顯卡上推理使用。目前，GLM-130B和ChatGLM均開(kāi)源，為企業(yè)端客戶(hù)提供了更低門(mén)檻和更高安全性的應用方案。

向量是多模數據的壓縮，是AI學(xué)習的通用數據形式。非結構化數據通常需要向量化之后才能被AI模型所理解，向量嵌入（vector embedding）是自然語(yǔ)言處理和深度學(xué)習中常用的數據預處理技術(shù)，即將非數值如文本、圖片、視頻等源數據轉化為機器可以理解的多維數值向量。

向量搜索是一種模糊匹配，區別于傳統的關(guān)鍵詞索引精準查詢(xún)。向量搜索一般采用K近鄰法或近似臨近算法，計算目標對象與數據庫中向量嵌入的距離以表示兩者的相似度，排序后返回最為相似的結果。區別于傳統數據庫的精確索引，向量搜索是一種模糊匹配，輸出的是概率上的最近似答案。

向量數據庫是專(zhuān)門(mén)用來(lái)存儲和查詢(xún)向量的數據庫。向量數據庫即原生面向向量設計的、專(zhuān)門(mén)用于存儲、管理、查詢(xún)、檢索向量的數據庫。向量化技術(shù)已較為成熟，也出現了不少開(kāi)源的向量搜索算法庫（如Facebook的FAISS），但向量數據庫提供一種開(kāi)箱即用的解決方案，在數據持久化、實(shí)時(shí)增刪改、分布式計算、容災備份等方面提供更完整的支持，更適合企業(yè)級應用。

向量數據庫幫助拓展LLM時(shí)空邊界，是企業(yè)知識庫的必備存儲“大腦”。目前向量數據庫的核心應用場(chǎng)景之一便是拓展LLM的時(shí)空邊界，賦能企業(yè)打造基于專(zhuān)屬知識庫的AI Answer應用。

時(shí)間維度上，初始的LLM是基于歷史的通用語(yǔ)料庫訓練的，而實(shí)際企業(yè)應用場(chǎng)景中需要補充實(shí)時(shí)的、專(zhuān)業(yè)性的知識；空間維度上，LLM的輸入token存在長(cháng)度限制，因此無(wú)法直接將企業(yè)知識庫的全量信息作為prompt一次性輸入，僅需最相關(guān)的部分。

向量數據庫和LLM的具體交互過(guò)程為：用戶(hù)首先將企業(yè)知識庫的全量信息通過(guò)嵌入模型轉化為向量后儲存在向量數據庫中，用戶(hù)輸入prompt時(shí)，先將其同樣向量化，并在向量數據庫中檢索最為相關(guān)的內容，再將檢索到的相關(guān)信息和初始prompt一起輸入給LLM模型，以得到最終返回結果。

案例：星環(huán)科技Hippo向量數據庫具備多種企業(yè)級特性。目前向量數據庫市場(chǎng)參與者以海外初創(chuàng )型公司的開(kāi)源產(chǎn)品為主，近期一級市場(chǎng)投融資熱度較高。

國內大數據基礎軟件領(lǐng)軍企業(yè)星環(huán)科技在向量數據庫上已有數年技術(shù)積累，之前主要內部自用，今年5月底正式產(chǎn)品化對外發(fā)布為Hippo向量數據庫產(chǎn)品，在高可用、高性能、易拓展等方面具備優(yōu)勢，支持多種向量搜索索引，支持數據分區分片、數據持久化、增量數據攝取、向量標量字段過(guò)濾混合查詢(xún)等功能，能夠很好地滿(mǎn)足企業(yè)針對海量向量數據的高實(shí)時(shí)性查詢(xún)、檢索、召回等場(chǎng)景。

應用場(chǎng)景和未來(lái)展望：企業(yè)內部知識庫有望重構

知識管理平臺重新整合內部知識，助力B端客戶(hù)打造AI Answer應用。我們認為企業(yè)知識庫有望成為AI Answer在B端的先行落地形式，目前我們觀(guān)察到第四范式、星環(huán)科技、云知聲、創(chuàng )新奇智、中科聞歌、鼎捷軟件等廠(chǎng)商均具備了基于企業(yè)內部知識打造知識庫的能力。

OA有望成為企業(yè)管理軟件領(lǐng)域AI Answer先行落地場(chǎng)景。知識管理是OA的新興模塊，其主要用于企業(yè)內部文檔和知識資料的存儲和管理，目前泛微、致遠、藍凌等頭部OA廠(chǎng)商均推出了知識管理類(lèi)產(chǎn)品（如泛微采知連、致遠知識管理解決方案、藍凌知識管理平臺等），而現階段知識管理模塊主要為知識存儲，并通過(guò)簡(jiǎn)單的搜索功能實(shí)現知識提取，企業(yè)應用效率低下。

我們認為AI有望助力知識管理能夠進(jìn)行全方位升級，通過(guò)第三方大模型賦能實(shí)現AI Answer，真正將企業(yè)知識靈活運用，進(jìn)一步激勵企業(yè)員工充實(shí)知識庫并提高其使用效率。

? 泛微網(wǎng)絡(luò )：千里聆&采知連&小E助手實(shí)現知識的管理和問(wèn)答。泛微千里聆基于RPA（機器人流程自動(dòng)化）和NLP（自然語(yǔ)言處理）技術(shù)，具備信息采集功能；采知連未知識管理領(lǐng)域專(zhuān)項產(chǎn)品，實(shí)現文檔管理、知識倉庫、知識運營(yíng)；小E智能語(yǔ)音輔助系統能夠實(shí)現智能助理、知識問(wèn)答、數據查詢(xún)、業(yè)務(wù)處理等功能。我們認為未來(lái)公司產(chǎn)品有望與大模型實(shí)現深度融合，期待大模型融合后的企業(yè)協(xié)同管理應用推出。

? 致遠互聯(lián)：AICOP助力實(shí)現“智能協(xié)同”。6月12日，致遠互聯(lián)發(fā)布智能協(xié)同應用AICOP的視頻演示，展示了智能協(xié)同助手“小致”在預訂會(huì )議、準備會(huì )議資料、生成報告&文稿&會(huì )議紀要、填寫(xiě)表單、發(fā)起流程等場(chǎng)景的賦能應用。

ERP 中 AI Answer落地展望：大模型助力下AI Answer 賦能生產(chǎn)流程管理。與OA相比，ERP與業(yè)務(wù)和生產(chǎn)聯(lián)系更緊密且具有更明顯的行業(yè)屬性，在業(yè)務(wù)運行過(guò)程ERP沉淀的行業(yè)垂類(lèi)數據有望助力大模型的訓練。海外微軟的Dynamics 365 Copilot展示了客服、市場(chǎng)、供應鏈管理等場(chǎng)景的AI賦能應用；國內對標來(lái)看，用友網(wǎng)絡(luò )深耕ERP多年布局二十余個(gè)行業(yè)并積累了各行業(yè)豐富的用戶(hù)授權數據，公司計劃后續將通過(guò)和通用大模型廠(chǎng)商合作+自研結合的方式進(jìn)一步訓練企業(yè)服務(wù)大模型，期待大模型賦能下AI Answer在財務(wù)、人力、采購、制造、營(yíng)銷(xiāo)等領(lǐng)域場(chǎng)景落地。

釘釘有望為中小組織和個(gè)人構建“知識圖譜”。2023年6月，釘釘AI正式邀請測試，其展示了AI+文檔、AI+群聊、AI+應用、AI+問(wèn)答機器人等功能。其中AI+問(wèn)答機器人能夠接收用戶(hù)主動(dòng)上傳特定的文檔數據，生成特定場(chǎng)景的問(wèn)答機器人，并作為專(zhuān)業(yè)模型實(shí)現更有效、準確的AI問(wèn)答。我們認為這類(lèi)功能為中小型組織和個(gè)人快速構建知識庫，實(shí)現知識的沉淀和應用。

WPS、印象筆記等文檔類(lèi)軟件有望基于用戶(hù)端海量文檔實(shí)現AI Answer。我們認為WPS、印象筆記等文檔類(lèi)軟件作為文檔沉淀的平臺，具備天然接入AI大模型的應用條件。如印象筆記的“知識星圖”功能，能夠借助AI語(yǔ)義分析產(chǎn)生知識圖譜和知識網(wǎng)絡(luò )，實(shí)現信息的高效收集和利用。我們認為文檔類(lèi)軟件有望在B端和C端幫助用戶(hù)更好地基于平臺沉淀的文檔實(shí)現AI Answer。

垂類(lèi)場(chǎng)景：各行業(yè)知識應用有望百花齊放

各個(gè)細分行業(yè)積累的大量知識有望在大模型賦能下實(shí)現歸集，賦能千行百業(yè)。如醫療行業(yè)的衛寧健康、保險行業(yè)的新致軟件、教育行業(yè)的科大訊飛均憑借過(guò)去在垂類(lèi)行業(yè)的深耕，借助大模型實(shí)現知識的賦能應用。展望未來(lái)，我們期待更多行業(yè)能夠在大模型賦能下實(shí)現行業(yè)知識萃取，各行業(yè)知識應用有望百花齊放。

圖表：衛寧健康推出醫療垂類(lèi)模型WiNGPT賦能問(wèn)診、報告生成等場(chǎng)景，未來(lái)計劃以Copilot形式融入WiNEX

于鐘海 SAC 執證編號：S0080518070011 SFC CE Ref：BOP246

魏鸛霏 SAC 執證編號：S0080523060019 SFC CE Ref：BSX734

王之昊 SAC 執證編號：S0080522050001 SFC CE Ref：BSS168

韓蕊 SAC 執證編號：S0080121080059

胡安琪 SAC 執證編號：S0080122070070

譚哲賢 SAC 執證編號：S0080122070047