容聯(lián)云，12個月趟出一條AI生產力的路

這種AI的真實需求對應的已然不再是單純的技術本身的命題，而更是一個集合工程能力、產品能力、技術能力的綜合命題，只有把這個綜合命題答好，才能真正被市場認可和買單。

“大模型這一波是典型的技術驅動。但我們相信，伴隨著越來越多的場景落地，到明年包括像質檢、洞察在內的環(huán)節(jié)會成為新的需求，進而進入需求驅動階段?！?/p>

作者| 皮爺

出品|產業(yè)家

在孔淼的感知里，大模型風向在今年正在發(fā)生發(fā)生微妙的變化?！白铋_始基本是模型的需求，而從今年Q1、Q2開始，應用的需求開始起來了?！?/p>

這是他和容聯(lián)云團隊在一線的真正感受。

其中，金融行業(yè)首當其沖。根據一組來自中國移動產業(yè)研究院的數據顯示，在金融行業(yè)，大模型的滲透率如今已經超過了50%，幾乎是所有產業(yè)之首。

但這種滲透率并不代表真實的生產力。即對金融行業(yè)而言，如果說一年前的更多動作是基于基座大模型進行自身專屬模型的訓練，那么如今包括銀行、保險、證券等不同金融機構的核心焦點恰只有一個：應用。

這些應用的需求廣泛分布在足夠精細的場景中，比如智能客服、坐席輔助、證券質檢、數字營銷等等。

這也對應的是孔淼和容聯(lián)云的真實反饋。實際上，不僅是金融，在千行百業(yè)，如今基于AI的需求都在從模型層向更具體的應用層（copilot/agent）轉變，這些轉變的底層對應的是企業(yè)在如今AI發(fā)展一年后，對有效的產品加持和對更高ROI轉化的真實需求。

不過一個真實情況是，對于如何將大模型真正嵌入自身的業(yè)務系統(tǒng)，或者是如何在應用層進行基于自身業(yè)務的適配開發(fā)，如今市場上并沒有一個標準的答案。

但已經有企業(yè)正在跑出一條路徑。

2023年12月的發(fā)布會上，容聯(lián)云正式發(fā)布基于自研赤兔大模型的全新產品品牌【容犀智能】及生成式應用【容犀Copilot】，旨在幫助企業(yè)進行包括營銷服等一系列流程的AI改造和重構，其中覆蓋包括數據、Copilot、Agent等一系列落地形態(tài)。

從當時的行業(yè)視角來看，這幾乎是國內最早被拆解的AI應用路徑之一。而如今，一年過去了，容聯(lián)云的這個答題卷上已經有了新答案。

一、金融，

智能化變革前夕

“金融現(xiàn)在對AI應用的需求很大?！币晃换ヂ?lián)網大廠相關AI應用負責人告訴我們，根據他向我們透露，在今年以及接下來的KPI中，金融都將成為最重要的大頭。

誠然如此。如果從整個大模型落地的橫向來看，金融幾乎可以算是有最為豐沃的AI落地土壤。根據一組不完全數據統(tǒng)計，截止目前，如今國有六大行的MAU均已經超過4億，排名靠前的股份制銀行MAU也已經超過2億，此外，區(qū)域性農商行等用戶數也已經超過大幾千萬。

從宏觀視角來看，在過去幾年時間里，金融行業(yè)已經初步進行了數字化底層框架的建設，其中包括線上線下的一體化，即銀行網點和手機線上渠道的一體化，以及不同渠道（移動金融生態(tài)、APP等）的拓寬加碼等等，這些“立柱架梁”的措施也恰構成了如今金融行業(yè)的高度線上化和數據化。

但下一步的挑戰(zhàn)也更在浮現(xiàn)。“從現(xiàn)狀上講，絕大多數場景比如像數字化營銷平臺、智能運營等這些平臺包括智能坐席，真正做到成熟應用的還是比較少的，大多數屬于初步的部署，有些淺層次的應用但還沒有深入到業(yè)務中?！?/strong>孔淼表示。

實際上，這也恰是前文報告所說的金融企業(yè)普遍布局大模型的原因之一。即在相對成熟的數字化基座之上，金融企業(yè)需要基于AI的手段幫助其完成更精細化的業(yè)務搭建和客群運營，這其中包括營、銷、服的全部場景和節(jié)點。

這顯然不是一件容易的事。

首先，從應用本身來看，就當下大模型服務市場來看，大部分大模型廠商更多的聚焦點仍然是模型層，即基于訓練和微調幫助企業(yè)落地自身的大模型，即使中間有自適應的調優(yōu)工具或RAG手段，其也很難細化到某個如營銷、客服等細分場景的應用，這也就導致了對金融企業(yè)而言，其采購的產品很難在具體的業(yè)務場景落地應用。

其次，對于金融行業(yè)而言，從過去的數字化時代能看出的一個特點是，其需要足夠精通特定金融場景和流程的服務商，比如對于營、銷、服不同環(huán)節(jié)的產業(yè)理解和加持，只有對癥下藥，才能幫助其構建足夠可用的數字化基礎設施，而在AI大模型時代，在AI能力的疊加下，這些要求的含金量還更在肉眼可見的上升。

此外，也是最重要的，則是金融行業(yè)對于數據安全合規(guī)的要求，即對于服務商而言，其需要有特定的方式來保證數據的安全合規(guī)，不論是在訓練側還是后續(xù)的RAG等環(huán)節(jié)，都需要對數據有特殊的處理。

實際上，這些要求背后對應的也更是過去一年不少金融企業(yè)嘗試的現(xiàn)狀——即花費大量的人力、物力，但最終卻很難實現(xiàn)高性價比的回報，僅僅在底層構建了一個“受限”的金融大模型底座，在數據治理、數據表達，以及具體的AI應用環(huán)節(jié)，都未收到成效。

從更大的視角來看，AI對應的是金融企業(yè)的第二次競爭力構建，是必行之事。這其中不論是營、銷、服的任何一個節(jié)點，都需要AI的加持進而放大其固有邊界，使企業(yè)進化。

對金融行業(yè)而言，真正的大模型工具應該是怎樣的？或者如果把視角放大，對于產業(yè)而言，一個真正的AI生產力工具應該是怎樣的模式？

二、容聯(lián)云的12個月：

尋找一條生產力路徑

“準確率從90%到94%，召回率從67%到96%”。在容聯(lián)云活動現(xiàn)場，容聯(lián)云產業(yè)智能云大模型應用產品經理彭波給出了一組數字——這是在容聯(lián)云質檢代理（QM Agent）的加持下，某個國內頭部證券機構內部發(fā)生的新改變。

提及質檢，在證券行業(yè)不會有人陌生。即基于質檢的環(huán)節(jié)，證券機構可規(guī)避來自市場層面和內部操作層面的一系列風險，最終做到合規(guī)安全和對投資人負責，可以說，質檢是證券公司保證自身業(yè)務正常推進的核心環(huán)節(jié)。

但這個核心環(huán)節(jié)伴隨著企業(yè)業(yè)務的增長也更對應出現(xiàn)一些問題。比如隨著客戶服務數增加，對傳統(tǒng)的人工質檢而言，其對應的工作量和投入的人力成本也更在與日俱增；此外，伴隨著表達形式的多元化，由于質檢人員的業(yè)務水平不一，部分對于質檢語言的篩查力度存在漏洞。

這正是容聯(lián)云錨定的節(jié)點。和前面顯著提升的數據對應的是，基于容聯(lián)云質檢代理（QM Agent）產品，證券公司可以實現(xiàn)“10000通會話、300小時時長、8大語義質檢項、6.5小時質檢完成”的成績，而這些標簽之外，企業(yè)需要部署的僅僅是一個14B參數的小模型和幾張市面上通用的GPU算力卡。

同樣有相似效果的也更在壽險場景，以坐席環(huán)節(jié)為例，基于容聯(lián)云的坐席代理（Virtual Agent）產品，某壽險企業(yè)實現(xiàn)了超過50人/天的人力節(jié)省，其咨詢問答首解率由原來的60%提升至80%，轉人工率由85%降低至55%。對企業(yè)而言，其同樣僅需要基于數量不多的顯卡進行14B小參數模型的部署，即可以達到這些效果。

這些都是在剛剛舉辦的“2024數智金融應用論壇”上容聯(lián)云的交出的成績單。除了上述提到的容犀質檢代理（QM Agent）、容犀坐席代理（Virtual Agent），還有容犀坐席助理(Agent Copilt) 、洞察代理Insight Agent等等面向具體業(yè)務環(huán)節(jié)的AI應用產品和具體實例。

“過去這一年，伴隨著和客戶的溝通，我們對大模型的落地場景也越來越清晰，包括那些是真正的痛點，哪些是癢點，再或者哪些是能產生真正的商業(yè)價值和增量的?！?/strong>孔淼告訴產業(yè)家。

這些愈加清晰的場景在容聯(lián)云內部進一步基于AI被轉化為應用產品，不論是容犀質檢代理（QM Agent）、容犀坐席代理（Virtual Agent），容犀坐席助理(Agent Copilt) 、洞察代理Insight Agent，還是如今一眾仍在加速落地的產品，對容聯(lián)云而言，其對應都是團隊基于真實考察的AI剛需點，輔助各種AI訓練/調優(yōu)方式最終的成果。

實際上，這也恰是對待新技術應有的審慎的態(tài)度，即在AI大模型的技術浪潮中，在技術的極致理想之外，對更多的企業(yè)而言，其更需要真實可見的生產力抓手，這些抓手是更加有價值的線索梳理、更智能的營銷輔助等等。

在孔淼看來，相較于大模型在預訓練等環(huán)節(jié)的推進，在具體的落地層面，其更需要基于工程的能力進行需求的滿足，比如大小模型結合的方式，比如在不同的環(huán)節(jié)基于copolit或者agent的方式等等。

實際上，孔淼說的工程能力不僅于產品層面。據了解，對于不同企業(yè)的需求，容聯(lián)云可以采取靈活的滿足方式，即不論是其底層是否具備基座大模型，還是需要靈活的模型部署等，再或者是僅需要上層的應用部署等等，基于基于RAG、大小模型結合的方式，容聯(lián)云都可以幫助金融企業(yè)完成落地。

一個數據是，截至目前，在金融行業(yè)，容聯(lián)云的相關AI產品已經落地超過幾十個場景，在幾十家銀行、證券、保險等不同細分領域的金融企業(yè)成功落地，幫助其構建出新的智能化營銷服體系。

三、中國產業(yè)AI落地的密鑰到底在哪？

對于金融，在過去的數字化時代，市場往往冠以“明珠”的稱謂。即因為其本身對于數字化技術的應用足夠廣泛，不論在底層的數據層面，還是上層的軟件層面，金融企業(yè)往往都是最先進生產力的代名詞。

在中國一眾產業(yè)的數字化轉型中，刨除產業(yè)本身的差異性之外，更多的產業(yè)轉型路徑都是以金融為模板進行布局。

而能看到的是，在如今的AI時代，這個命題正在再次上演。也或者可以說，在金融行業(yè)對于AI應用的落地中，我們更能看到在中國的土壤上，怎樣的AI模型才能真正轉化為企業(yè)的市場競爭力和生產力。

“現(xiàn)在我們的上層應用之間，應用和底層模型之間的各個組塊都是解耦的，企業(yè)可以根據自身需要或者現(xiàn)階段的業(yè)務需求來一步步使用。”容聯(lián)云大模型產品負責人唐興才告訴產業(yè)家，“而且不需要使用參數特別大的模型，只需要在特定的小參數模型上，經過推理強化或規(guī)則增強等就可以做到相關能力。”

即一個真實的情況是，對于企業(yè)的AI項目而言，其需要的往往是漸進式的落地和“小成本”的業(yè)務嘗試，以更小參數量的模型和特定的場景環(huán)節(jié)為切入點，可以讓企業(yè)感受到AI的真正加持，進而一步步完成AI化的改造。

此外，對服務商而言，其需要的也更是聚焦企業(yè)特殊痛點，比如銀行和壽險的坐席環(huán)節(jié)，比如證券的質檢環(huán)節(jié)，比如營銷環(huán)節(jié)等等，這些細分場景在過去的多年里已經完成了數字化改造，需要AI幫助其釋放更大的活力和能力邊界。

對應到產品側則是要求服務商需要對特定的環(huán)節(jié)和場景有足夠深的理解和數據沉淀，同時在工程落地側具備特定的推理強化或專屬訓練能力，進而打磨出對應細分場景的產品。

實際上，這也恰對應著容聯(lián)云能夠給到金融企業(yè)真實加持的核心原因。不論是在整個金融方向的基于金融數據的底座赤兔大模型的訓練，還是聚焦到細分場景環(huán)節(jié)的規(guī)則增強、推理增強，以及在落地過程中的大小模型結合和不同模塊的解耦，其本質都是為了適配當下金融企業(yè)對大模型的真實需求：真實可用，小步迭代。

也可以說，這種真實需求對應的已然不再是單純的技術本身的命題，而更是一個集合工程能力、產品能力、技術能力的綜合命題，只有把這個綜合命題答好，才能真正發(fā)揮作用，被市場認可和買單。

“大模型這一波是典型的技術驅動。但我們相信，伴隨著越來越多的場景落地，到明年包括像質檢、洞察在內的環(huán)節(jié)會成為新的需求，進而進入需求驅動階段。”孔淼說道。

12個月后的如今，容聯(lián)云正在趟出一條真實的AI路。