理性迴歸：金融行業落地大模型拐點將至

“一年時間漲10倍，我認爲這事就成了。”

11月12日，在2024年百度世界大會上，百度集團創始人、董事長兼CEO李彥宏在演講中，回憶起半年前與高管們討論大模型未來走向時的想法。

彼時，百度文心大模型的日均調用量約爲2億次。李彥宏認爲，如果在一年時間內，這個數字能跳升10倍，達到20億，就意味着用戶與市場存在剛需，大模型的需求得到驗證。

而根據大會上最新披露的數據，如今文心大模型的日均調用量超過15億次，半年內增長7.5倍，已接近於半年前的預期數字。相較於一年前首次披露的5000萬次的數據而言，更是增長約30倍，來勢洶洶。

調用量增速迅猛的背後，一方面是文心大模型本身技術能力持續迭代，另一方面，也暗合着當前大模型應用大爆發的趨勢。其中，大模型在產業端的落地，是百度持續探索的方向。“過去這一年半左右，我們看到在金融、能源、教育、招聘、公共服務等領域，大模型與場景結合後，在降本和增效兩個方面都取得了實實在在的成果。”李彥宏指出。

“大模型正在從技術變革走向產業變革。無數的AI原生應用，正在重新定義我們與數字世界乃至物理世界的交互方式。”在大會上，百度集團執行副總裁、百度智能雲事業羣總裁沈抖同樣表示。在他看來，AI應用正率先在B端爆發。

作爲產業端落地的重要行業之一，大模型在金融領域，也正在創造越來越多的增量價值。

大模型深入金融行業

當前，金融行業已成爲大模型應用的熱門行業之一。

由於金融業具備大規模、高質量的數據資源和多維度、多元化的應用場景，被視爲大模型技術應用的最優行業之一。在日前舉辦的在2024金融街論壇年會上，有專家指出，金融領域是大模型滲透率最高的行業，滲透率超過50%，而智慧銷售、智能問答和智能風控是現階段金融行業最熱門，也是應用成熟度最高的AI大模型應用場景。

不過，在擁抱大模型的過程中，由於金融業對準確性、精準性的要求特別高，並對風險外溢的防範要求嚴格，因此，大模型在金融領域的應用必須經過嚴格的測試驗證，從而確保其能夠滿足金融業務發展的需要。

與此同時，考慮到實施大模型應用落地需要一定的成本投入，金融機構需要在投入與產出之間找到平衡點，從而確保技術應用的經濟合理性。此外，由於金融行業數據的敏感性和保密性，大模型在應用過程中必須嚴格遵守相關法律法規和監管要求，確保數據安全和隱私保護。

這也爲包括百度在內的大模型廠商提出了更高的要求。而作爲百度構建智能產業生態的主要依託，百度智能雲就此有自己的感受與思考。

“最初大模型興起時，金融機構可能會追逐新潮，但隨着最初的熱潮退卻之後，本質的問題就會出現，就是它到底價值在哪。”百度智能雲金融業務部總經理徐旭直言道，“在這個過程中，大家都在探索，我們的產品矩陣也在不斷完善。”

徐旭介紹，自去年開始，百度智能雲與金融機構的合作從底層基礎設施到上層應用均在升級。今年以來，百度智能雲陸續發佈金融行業智能體應用“智金”、開元智慧金融解決方案2.0等。前者爲金融機構提供智能、高效的輔助工具，助力金融機構增收提效，後者在通用大模型上增強了行業專業性，從而成爲最懂行業、最具性價比的解決方案之一。

值得注意的是，在推動大模型落地金融行業的過程中，百度智能雲的思路也有變化。徐旭介紹，起初，百度考慮過把重心放在輸出基礎大模型本身，也考慮過是否去做金融行業大模型，但落地過程中發現對客戶來說，性價比不是最高的。“目前看的話，大模型快速落地的過程中，就是一個基礎模型疊加專業細分領域重要數據進行精調，然後把需要的產品功能加進去實現，這個速度會更快。”

產業應用提速

當前，百度智能雲在與金融機構的大模型產品合作上，已有不錯的進展。

在本次大會上，百度智能雲千帆大模型平臺正式發佈“工作流Agent”功能，旨在幫助企業快速開發出面向複雜對話場景的AI應用，快速擁有專業水平的“數字員工”。目前百度智能雲正在聯合某頭部保險集團，基於工作流Agent探索、落地車險續保售前數字員工。

在與泰康保險的合作中，百度智能雲和泰康科技基於百度智能雲知識管理平臺“甄知”打造了私有化、新一代的泰康知識中臺，把泰康過去沉澱的行業知識、多源異構數據接入進來，基於大模型能力，將企業知識在內部更高效地流動，爲業務創造價值。

據介紹，作爲金融保險行業的頭部企業，泰康保險內部系統繁多，知識分佈在不同的系統中，知識生產、獲取效率較低，員工難以高效應用企業信息資源。通過打造泰康知識中臺，泰康的內勤工作人員可以快速獲取公司最新的福利制度、通知公告，泰康保險代理人則可以實時獲取專業保險理賠建議，獲取最新保險政策，實現搜得更全，搜得更快，大幅提高知識獲取和辦公效率。

在與泛華控股集團的合作中，百度智能雲與客戶共同打造了保險業AI智能體“度曉保”，基於智金提供的智能對話、智能獲客、智能營銷等能力，在規劃決策、長短記憶、外聯協同、金融輸出等方面做了“最後一公里”優化。

據介紹，“度曉保”能提供專業的產品解讀、產品對比、產品腦圖等，大幅提升了保險銷售人員的專業性，條款收錄、問答準確度達到90%以上；可以在幾分鐘內快速完成不同保險產品間的對比與建議書，方便保險從業者爲客戶推薦更匹配其需求的產品；還能快速生成專業的面客營銷話術和營銷文章，讓保險銷售人員可以更高效地經營私域，溝通與回覆客戶，銷售人員產能增加20%以上。

需要注意的是，這些還僅僅是個開始。隨着百度智能雲面向金融行業的產品矩陣不斷豐富，徐旭認爲明年有望成爲一個轉折時點。

“明年對於大模型而言，應該是真正開始去構建行業價值和產品價值的階段，會是一個行業價值兌現的時期，”徐旭判斷道，“無論是百度自己的方案或是合作伙伴生態，都能夠將產品價值更明顯地實現出來。”

十萬卡部署能力保障

大模型在落地的過程中，算力是個繞不開的話題。

沈抖指出，由企業級大模型工程平臺、異構算力平臺組成的新型AI基礎設施，將替代傳統雲計算，爲大模型應用在企業生產力場景中的規模落地提供關鍵支撐。

爲了滿足企業落地大模型從集羣創建、開發實驗，到模型訓練、模型推理的全旅程算力需求，百度智能雲推出百舸AI異構計算平臺 4.0，目前已具備了成熟的10萬卡集羣部署和管理能力。

其中，在算力供給方面，百舸平臺兼容崑崙芯、昇騰、海光DCU、英偉達、英特爾等國內外主流AI芯片，幫助中國企業擺脫單一芯片帶來的高溢價和供應鏈風險。同時，百舸能夠將兩種芯片混合訓練大模型的效率折損控制在5%以內，達到業界領先的水平。

對於金融機構的需求而言，這樣的算力能力已綽綽有餘，甚至是“降維打擊”。“國內頭部的金融機構最大的需求量大約也就是大幾千卡規模，”徐旭指出，“從這一點而言，理論上我們具備十萬卡集羣納管和調度的能力，去做千卡的話，無論是故障率或異構複雜度，甚至跨集羣跨地域的能力等都毫無問題。”

這一點，從百度智能雲與中國郵政儲蓄銀行的合作可見一斑。

據介紹，郵儲銀行擁有近4萬個網點、6.5億用戶和18億賬戶，“毛細血管”非常發達，希望用戰略入腦進行全局化數字化轉型，建設支持全行業務系統智能應用的AI PaaS“人工智能大腦”，對各類模型應用整體統籌、規劃，提升各金融場景的模型開發及訓練能力。

2023年，爲加速大模型應用落地，郵儲銀行新增大量來自不同廠商的GPU資源，基於大模型爲18個核心業務系統、30多家分行的金融業務提供AI賦能。在百舸平臺的支持下，郵儲銀行順利完成了不同型號GPU資源的部署、上線。

在這個過程中，郵儲銀行還實現了GPU、CPU算力的規劃重組，有力保障了300多個大小模型、6000多次訓練任務。模型迭代時間也從過去的一個半月大幅縮短至半天，並實現了更好的模型效果。

也正是在高效的算力基礎設施保障下，通過引入百度智能雲 AI 中臺解決方案，郵儲銀行構建了國內大型商業銀行中首個落地的全行範圍統一機器學習平臺“郵儲大腦”，並持續進行平臺升級、拓展場景建設，藉助生成式大模型能力，孵化出測試用例分類、貨幣交易機器人、金融領域對話生成、金融領域輔助文檔分析、金融領域投訴分析等AI原生應用。

目前，郵儲銀行零售信貸自動化審批判斷處理從5分鐘壓縮至10秒以內，實現了以天爲週期的模型迭代；支持信用卡、個貸等零售業務約14億賬戶的風險分池建模，模型迭代時間從43天縮短到10小時；對信用卡億級別樣本的數據清洗和分析時間從月級別、周級別壓縮至小時級別，提升數據處理工作效率；AI平臺集羣支撐18個核心業務系統、3大主管部門、14個支撐業務部門、30餘家分行，成爲行內智能化戰略規劃推進的中樞。

徐旭指出，儘管目前大模型的落地嘗試更多聚焦在金融機構的對內賦能上，未來等待時機成熟時，大模型也可能切入直接面客的核心場景，從而有潛力發揮更大的價值，爲金融機構帶來降本增效的核心收益。