當大模型走向商業(yè)化落地，一批“老概念”正在迎來新的應(yīng)用浪潮。

與數(shù)據(jù)中臺、業(yè)務(wù)中臺類似，AI中臺并不是一個新鮮詞。一般而言，各項“煙囪式”的獨立業(yè)務(wù)系統(tǒng)架構(gòu)，希望通過AI中臺共享智能化能力，降低AI業(yè)務(wù)場景的開發(fā)門檻。但在大模型技術(shù)出現(xiàn)之前，AI技術(shù)應(yīng)用的場景往往也是一個個孤島，缺乏泛化的通用落地場景。

大模型技術(shù)的能力涌現(xiàn)，使得AI中臺再次成為企業(yè)，特別是金融機構(gòu)探索的方向，而作為AI應(yīng)用與大模型之間的中間層基礎(chǔ)工具，大模型中間件也成為當下投資機構(gòu)關(guān)注的熱點。面對AI對基礎(chǔ)設(shè)施、工具、應(yīng)用層的全面重塑，投資機構(gòu)又將如何“掘金”？

(資料圖)

圖片來源：視覺中國

重構(gòu)AI中臺

“在沒有大模型的情況下，我們過去也在思考AI應(yīng)該怎么做?！币患一鸸拘畔⒓夹g(shù)部總經(jīng)理向記者坦言，但在此之前AI的應(yīng)用始終是“煙囪式”的，一旦遇到另外一個未覆蓋的新問題，業(yè)務(wù)部門就需要重新開發(fā)相應(yīng)的模型，導(dǎo)致算力使用效率不高。

“大模型技術(shù)對傳統(tǒng)人工智能廠商和IT服務(wù)商的沖擊都是非常大的?！焙闵娮邮紫茖W(xué)家白碩向記者提到，過去各個AI系統(tǒng)都是煙囪式的單個系統(tǒng)，每一個部分都是一個小模型，都需要數(shù)據(jù)訓(xùn)練，而小模型的學(xué)習(xí)效果也存在提升空間，但基于大量參數(shù)的大語言模型技術(shù)使得機器具備同時完成不同任務(wù)的通用能力。

與此同時，AI廠商與IT廠商的業(yè)務(wù)范圍也在改變。“過去IT廠商與AI井水不犯河水，或者淺淺涉足AI的局面打破了?！卑状T指出，AI賦能已成為IT服務(wù)商的必爭之地，而在資管領(lǐng)域的AI技術(shù)應(yīng)用都面臨重塑?！凹夹g(shù)層面，無論是界面、數(shù)據(jù)庫訪問、業(yè)務(wù)流程、API調(diào)用都出現(xiàn)低代碼化的趨勢，大家會普遍使用AI工具來提質(zhì)增效?！卑状T表示。

在考量新興技術(shù)應(yīng)用時，安全是重中之重。

在保障數(shù)據(jù)安全的情況下進行大模型應(yīng)用的落地，把通用數(shù)據(jù)建設(shè)能力沉淀下來，搭建AI中臺，使得各業(yè)務(wù)條線共享通用智能化能力，成為許多金融機構(gòu)的第一選擇方案。

“企業(yè)專屬私有可控的大模型是必然形態(tài)，機構(gòu)需要保障大模型100%的安全和所有權(quán)。”科杰科技CTO高經(jīng)郡告訴記者，目前大模型應(yīng)用落地的解決路徑主要有三種：第一是進行全量模型訓(xùn)練，在企業(yè)做大模型的私有化部署，結(jié)合企業(yè)私有數(shù)據(jù)進行訓(xùn)練，打造垂直領(lǐng)域的專業(yè)大模型。第二是基于開源或商業(yè)大模型，結(jié)合企業(yè)私有化數(shù)據(jù)對參數(shù)進行微調(diào)，使得大模型在掌握企業(yè)私有化數(shù)據(jù)的基礎(chǔ)上進行深度理解。第三是通過通用大模型接口，幫助企業(yè)構(gòu)建數(shù)據(jù)知識庫，打造企業(yè)專屬的AI應(yīng)用。

“第一種方案需要從0開始構(gòu)建自己的大模型，需要大量的人才與資金投入，當下基于開源大模型結(jié)合私有數(shù)據(jù)進行微調(diào)與模型訓(xùn)練是比較普遍的一種方案。”高經(jīng)郡坦言。

前述基金公司信息技術(shù)部領(lǐng)導(dǎo)告訴記者，在大模型技術(shù)出現(xiàn)后，其所在機構(gòu)與多個系統(tǒng)做了連調(diào)測試，并嘗試進行本地化部署，將大模型進行微調(diào)、精調(diào)，基于公司原有的量化平臺、機器學(xué)習(xí)成果、算力中臺探索AI中臺建設(shè)。

他指出，搭建AI中臺需要將大模型作為所有應(yīng)用的入口，基于業(yè)務(wù)場景的核心需求搭建相應(yīng)的業(yè)務(wù)中臺，最終實現(xiàn)大模型在具體業(yè)務(wù)上的應(yīng)用。但是隨之而來的問題是，一方面在進行精調(diào)時算力不夠，另一方面是落地時選擇不同廠商算法較為復(fù)雜?！白詈?，最難的是數(shù)據(jù)?！彼蛴浾咧毖?，例如在自動生成代碼的場景下，要實現(xiàn)項目可用，至少要提供30個以上的優(yōu)質(zhì)項目代碼，這對于機構(gòu)來說有較高門檻。

大模型中間件或再“受寵”

在金融大模型落地的過程中，如何縮短AI研發(fā)周期、降低AI應(yīng)用成本、提供實際工作效率？

受到大模型浪潮推動，作為位于AI應(yīng)用與大模型之間的中間層基礎(chǔ)軟件，在解決大模型商用化問題方面，中間件行業(yè)再次受到市場關(guān)注。其主要解決大模型落地過程中資源調(diào)度、數(shù)據(jù)集成、模型訓(xùn)練、應(yīng)用集成、知識庫與大模型融合等問題。

在政府、金融、電信、交通等重點行業(yè)，中間件作為信創(chuàng)的重要部分，曾有過快速增長。上市公司東方通（300379.SZ）、寶蘭德（688058.SH）是金融行業(yè)國產(chǎn)中間件市場占有率最高的兩家公司，在2020年東方通凈利潤同比增幅超過72%，但受疫情沖擊影響收入確認與業(yè)務(wù)開展，去年全年與今年一季度兩家公司業(yè)績表現(xiàn)并不佳。

隨著大模型技術(shù)的商用落地，中間件行業(yè)有望迎來新市場需求。今年6月9日，東方通在互動平臺表示，AI大模型訓(xùn)練需要依托大量的硬件基礎(chǔ)設(shè)施來對海量數(shù)據(jù)訓(xùn)練和優(yōu)化，在數(shù)據(jù)處理和部署管理方面有著很高的要求。因此需要有高效的數(shù)據(jù)處理和管理中間件來支持大規(guī)模數(shù)據(jù)的存儲、傳輸和處理，支持模型的快速部署、監(jiān)控和調(diào)優(yōu)等，還需要通過中間件來支持多種不同的硬件和軟件環(huán)境，以滿足不同場景下的需求。

“對于企業(yè)而言，降低大模型落地實施的能力，企業(yè)大模型的中間件是關(guān)鍵?！备呓?jīng)郡提到，例如AI OPS能力可以加速大模型應(yīng)用，提供了一整套工具幫助機構(gòu)解決私有環(huán)境中大模型訓(xùn)練的工程問題，通過提供全自動化訓(xùn)練環(huán)境配置與構(gòu)建，低代碼一站式完成數(shù)據(jù)接入、標注、監(jiān)督微調(diào)、反饋強化學(xué)習(xí)和模型發(fā)布全流程，同時可以支持數(shù)據(jù)回流及模型的持續(xù)迭代。

投資機構(gòu)如何“掘金”？

大模型正在重塑基礎(chǔ)設(shè)施層面與應(yīng)用層，面臨這些新機遇，投資機構(gòu)如何看待新市場？

風險投資機構(gòu)XVC合伙人陸宜向記者表示，目前全球生成式AI的發(fā)展分三個層面，一是模型層，二是基礎(chǔ)設(shè)施與工具層，三是應(yīng)用層。

“模型層的變化日新月異。”陸宜提到，無論是Open AI的ChatGPT還是Meta AI發(fā)布的Llama2，在參數(shù)量級與實際表現(xiàn)的發(fā)展都非常迅猛。在工具層，隨著模型的快速發(fā)展，數(shù)據(jù)庫、開發(fā)框架等基礎(chǔ)設(shè)施也在同步進行。從應(yīng)用層面來看，目前“百花齊放”的大模型已經(jīng)成為多個垂直領(lǐng)域釋放生產(chǎn)力的工具。

談及基礎(chǔ)模型的快速演進，亞馬遜云科技生態(tài)架構(gòu)師團隊負責人孔雷直言，這主要是開源大模型開源生態(tài)越來越受到市場歡迎。“再過幾個月，你可能會發(fā)現(xiàn)大模型變得非常平民化，門檻越來越低，開源基礎(chǔ)模型又可以商用，大模型的成本會大幅降低。”他認為，隨著C端大模型應(yīng)用的普及，下一步大模型應(yīng)用領(lǐng)域?qū)⒅饕性贐端場景。

與此同時，由于訓(xùn)練大語言模型需要投入的參數(shù)量巨大，整個環(huán)節(jié)會變得非常精細化和系統(tǒng)化?！袄缱罱袌霰容^關(guān)注的向量數(shù)據(jù)庫，都是傳統(tǒng)數(shù)據(jù)公司目前發(fā)展的新業(yè)務(wù)方向。”孔雷提到，在大模型應(yīng)用落地的過程中，在算力、算法、數(shù)據(jù)層面廠商都會有新的機遇，伴隨著大模型的生態(tài)來展開。

“我們目前投了兩家與大模型相關(guān)的公司，一家做基于大模型的個人情感陪伴聊天，一家為大模型及AI應(yīng)用落地提供基礎(chǔ)設(shè)施?！标懸烁嬖V記者，當下國內(nèi)大模型市場還處于快速發(fā)展的早期，雖然大量大廠、行業(yè)領(lǐng)袖已經(jīng)躬身入局，但是對于創(chuàng)業(yè)公司來說，大模型基礎(chǔ)設(shè)施公司和應(yīng)用型公司還有大量機會等待挖掘，投資機構(gòu)也會緊密跟蹤。