謹防金融大模型應用風險

當前，人工智能大模型正在逐步影響各行各業，金融領域也不例外。

根據英偉達發佈的針對近400家金融機構的調研結果，43%的金融機構已開始使用大模型。麥肯錫2024年的調研數據顯示，金融行業從業者反饋“在工作中常規使用大模型”“在生活中常規使用大模型”和“在工作和生活中均常規使用大模型”的數量佔比已達到48%。據麥肯錫測算，大模型有望給全球金融行業帶來每年2500億美元至4100億美元的增量價值。這些數據無疑爲大模型在金融領域的進一步應用描繪了光明的前景。

然而，隨着大模型的廣泛應用，一些新風險也逐漸顯露出來，一旦應對不當，可能對金融行業構成嚴峻的挑戰。

首先，大模型的進一步推廣可能會加劇金融行業的“兩極分化”。由於技術投入、業務稟賦和人力資源等方面的差異，一些頭部金融機構在大模型展現的能力上開始顯現出明顯優勢。相比之下，中小機構受限於資金預算約束、相對有限的業務規模和專業人才資源，與頭部機構之間的差距將被逐漸拉大，呈現出“強者愈強，弱者愈弱”的趨勢。從行業整體來看，金融行業原本就具有信息數據密集、人才智力密集等特點，大模型的推廣應用可能導致金融行業資源進一步集中。

其次，目前大模型本身存在的缺陷也可能給金融系統帶來安全風險。大模型仍存在專業能力有限、生成結果不可控、算法可解釋性較差等問題，當前在合規性和適當性等方面仍缺乏保障。一旦訓練數據不完備或質量較差，可能會生成低質量的錯誤內容，導致結果不可用，甚至誤導金融機構和金融消費者的判斷和決策。在模型可解釋性方面，大模型的複雜程度較高，使得內容生成的結果和過程難以被清晰地解釋，產生“黑箱”問題，導致金融機構難以在事前、事中、事後進行有效的風險溯源和管理。此外，考慮到大模型基於海量數據進行訓練，若底層數據本身存在偏見和歧視，可能會導致大模型內容輸出、決策生成方面存在偏見，進而導致金融服務存在歧視性定價等風險。

最後，金融機構對少數大型科技公司提供的基座大模型的依賴可能形成新的風險點。考慮到基座大模型通常與部分大型科技公司雲業務捆綁銷售，這可能進一步加大金融機構對少數第三方的依賴，加大相關技術服務商對金融系統的潛在影響力。一旦服務商的運營出現問題或系統出現故障，將對金融系統的穩定造成嚴重影響。

當前，大模型的深入應用對金融監管提出了更高要求，現實中如何既鼓勵創新，又確保金融行業的健康穩定發展，已成爲金融監管部門的重要議題。只有防患於未然，在深刻認識大模型的特點並妥善應對這些風險的基礎上，才能推動金融大模型更好發揮作用，促進金融業高質量發展。（本文來源：經濟日報 作者：蘇瑞淇）