謹(jǐn)防金融大模型應(yīng)用風(fēng)險

 當(dāng)前，人工智能大模型正在逐步影響各行各業(yè)，金融領(lǐng)域也不例外。

  根據(jù)英偉達(dá)發(fā)布的針對近400家金融機構(gòu)的調(diào)研結(jié)果，43%的金融機構(gòu)已開始使用大模型。麥肯錫2024年的調(diào)研數(shù)據(jù)顯示，金融行業(yè)從業(yè)者反饋“在工作中常規(guī)使用大模型”“在生活中常規(guī)使用大模型”和“在工作和生活中均常規(guī)使用大模型”的數(shù)量占比已達(dá)到48%。據(jù)麥肯錫測算，大模型有望給全球金融行業(yè)帶來每年2500億美元至4100億美元的增量價值。這些數(shù)據(jù)無疑為大模型在金融領(lǐng)域的進(jìn)一步應(yīng)用描繪了光明的前景。

  然而，隨著大模型的廣泛應(yīng)用，一些新風(fēng)險也逐漸顯露出來，一旦應(yīng)對不當(dāng)，可能對金融行業(yè)構(gòu)成嚴(yán)峻的挑戰(zhàn)。

  首先，大模型的進(jìn)一步推廣可能會加劇金融行業(yè)的“兩極分化”。由于技術(shù)投入、業(yè)務(wù)稟賦和人力資源等方面的差異，一些頭部金融機構(gòu)在大模型展現(xiàn)的能力上開始顯現(xiàn)出明顯優(yōu)勢。相比之下，中小機構(gòu)受限于資金預(yù)算約束、相對有限的業(yè)務(wù)規(guī)模和專業(yè)人才資源，與頭部機構(gòu)之間的差距將被逐漸拉大，呈現(xiàn)出“強者愈強，弱者愈弱”的趨勢。從行業(yè)整體來看，金融行業(yè)原本就具有信息數(shù)據(jù)密集、人才智力密集等特點，大模型的推廣應(yīng)用可能導(dǎo)致金融行業(yè)資源進(jìn)一步集中。

  其次，目前大模型本身存在的缺陷也可能給金融系統(tǒng)帶來安全風(fēng)險。大模型仍存在專業(yè)能力有限、生成結(jié)果不可控、算法可解釋性較差等問題，當(dāng)前在合規(guī)性和適當(dāng)性等方面仍缺乏保障。一旦訓(xùn)練數(shù)據(jù)不完備或質(zhì)量較差，可能會生成低質(zhì)量的錯誤內(nèi)容，導(dǎo)致結(jié)果不可用，甚至誤導(dǎo)金融機構(gòu)和金融消費者的判斷和決策。在模型可解釋性方面，大模型的復(fù)雜程度較高，使得內(nèi)容生成的結(jié)果和過程難以被清晰地解釋，產(chǎn)生“黑箱”問題，導(dǎo)致金融機構(gòu)難以在事前、事中、事后進(jìn)行有效的風(fēng)險溯源和管理。此外，考慮到大模型基于海量數(shù)據(jù)進(jìn)行訓(xùn)練，若底層數(shù)據(jù)本身存在偏見和歧視，可能會導(dǎo)致大模型內(nèi)容輸出、決策生成方面存在偏見，進(jìn)而導(dǎo)致金融服務(wù)存在歧視性定價等風(fēng)險。

  最后，金融機構(gòu)對少數(shù)大型科技公司提供的基座大模型的依賴可能形成新的風(fēng)險點。考慮到基座大模型通常與部分大型科技公司云業(yè)務(wù)捆綁銷售，這可能進(jìn)一步加大金融機構(gòu)對少數(shù)第三方的依賴，加大相關(guān)技術(shù)服務(wù)商對金融系統(tǒng)的潛在影響力。一旦服務(wù)商的運營出現(xiàn)問題或系統(tǒng)出現(xiàn)故障，將對金融系統(tǒng)的穩(wěn)定造成嚴(yán)重影響。

  當(dāng)前，大模型的深入應(yīng)用對金融監(jiān)管提出了更高要求，現(xiàn)實中如何既鼓勵創(chuàng)新，又確保金融行業(yè)的健康穩(wěn)定發(fā)展，已成為金融監(jiān)管部門的重要議題。只有防患于未然，在深刻認(rèn)識大模型的特點并妥善應(yīng)對這些風(fēng)險的基礎(chǔ)上，才能推動金融大模型更好發(fā)揮作用，促進(jìn)金融業(yè)高質(zhì)量發(fā)展。

關(guān)鍵詞：