“金融智能體應(yīng)用應(yīng)堅守‘人是關(guān)鍵新型技術(shù)的主人’，按風(fēng)險等級合理界定人機協(xié)同與AI替代邊界，在風(fēng)險處置和關(guān)鍵判斷環(huán)節(jié)由人把關(guān)，保障AI應(yīng)用安全、穩(wěn)健、可持續(xù)�！�3月28日，在新金融聯(lián)盟主辦的“金融智能體的業(yè)務(wù)賦能與安全合規(guī)”內(nèi)部研討會上，與會專家表示。
會議由新金融聯(lián)盟秘書長吳雨珊主持，中國金融四十人論壇提供學(xué)術(shù)支持。國家金融監(jiān)督管理總局科技監(jiān)管司相關(guān)領(lǐng)導(dǎo)、建設(shè)銀行原首席信息官金磐石作主題交流。民生銀行首席信息官張斌、北京銀行(601169)首席信息官明立松、交通銀行金融科技部副總經(jīng)理朱麟、中科金財(002657)董事長朱燁東發(fā)表主題演講。94家銀行、非銀機構(gòu)與科技公司代表通過線上線下參會。
研討會現(xiàn)場
金融智能體融入核心業(yè)務(wù)
隨著生成式AI技術(shù)快速迭代，金融智能體正從交互輔助向自主執(zhí)行演進，在渠道服務(wù)、客戶經(jīng)營、風(fēng)險管理、科技研發(fā)、智能辦公等領(lǐng)域多點落地，有效提升業(yè)務(wù)自動化水平與運營效率，成為金融業(yè)數(shù)字化轉(zhuǎn)型的重要方向。
交通銀行搭建了企業(yè)級AI能力平臺與智能體應(yīng)用研發(fā)平臺，實現(xiàn)國產(chǎn)算力適配與調(diào)度，已打造智能體2500余個，覆蓋風(fēng)險防控、流程再造、零售運營、員工賦能及分行特色場景數(shù)百個。在AI產(chǎn)品矩陣上，該行打造了反洗錢、反詐、信貸助手等AI拳頭產(chǎn)品，建立總分協(xié)同的AI研發(fā)機制，助力分行特色AI應(yīng)用快速落地。此外，在信貸、客服等領(lǐng)域持續(xù)探索和推進端到端人機協(xié)同新模式。朱麟認為，如何將數(shù)據(jù)轉(zhuǎn)化為知識、形成智能決策與執(zhí)行的閉環(huán)能力，將成為銀行未來核心競爭力。
民生銀行將生成式AI作為重點工程推進，2025年日均token用量達40億，大模型日均調(diào)用量超100萬次，應(yīng)用覆蓋辦公及業(yè)務(wù)用戶6.3萬人，落地40個項目、260個細分場景。在信貸領(lǐng)域，審查審批環(huán)節(jié)智能輔助生成內(nèi)容采納率達84%，全年累計節(jié)約人工4萬小時；法律合同審查耗時從小時級壓縮至分鐘級，財務(wù)分析中風(fēng)險信號識別率提升至50%。在軟件工程領(lǐng)域，氛圍編程、代碼補全廣泛應(yīng)用，規(guī)格驅(qū)動開發(fā)（SDD）模式顯著提升代碼生產(chǎn)效率與質(zhì)量。張斌表示，在信貸業(yè)務(wù)AI賦能與流程重塑項目中，民生銀行(600016)信貸業(yè)務(wù)專家深度參與其中，業(yè)務(wù)與技術(shù)的協(xié)作模式從融合到共創(chuàng)是一個必然趨勢。
北京銀行按照任務(wù)類型構(gòu)建速辦、深研、巡航三類智能體，通過統(tǒng)一超級智能體實現(xiàn)集中調(diào)度與監(jiān)控。速辦智能體聚焦標準化業(yè)務(wù)辦理，深研智能體支撐多源信息整合研判，巡航智能體開展常態(tài)化風(fēng)險監(jiān)測。明立松表示，在信貸流程中，人工智能嵌入關(guān)鍵業(yè)務(wù)需完成三項前提工作：一是重構(gòu)所有業(yè)務(wù)系統(tǒng)，消除線下與手工操作節(jié)點，實現(xiàn)數(shù)據(jù)標準化與接口統(tǒng)一；二是推動端到端流程全面線上化，覆蓋貸前客戶篩選、貸中審批、貸后監(jiān)控及不良資產(chǎn)歸因處置，確保流程無縫銜接；三是在此基礎(chǔ)上，識別可由人工智能替代的環(huán)節(jié)。
智能體自主執(zhí)行帶來安全挑戰(zhàn)
盡管金融智能體應(yīng)用成效顯著、前景廣闊，但行業(yè)仍處于探索初期。智能體自主執(zhí)行、高權(quán)限的特性，帶來遠超傳統(tǒng)大模型的風(fēng)險與治理挑戰(zhàn)，成為向核心業(yè)務(wù)深度滲透的關(guān)鍵瓶頸。
一是操作風(fēng)險從“說錯”轉(zhuǎn)向“做錯”。與傳統(tǒng)大模型“說錯話”不同，智能體一旦被賦予系統(tǒng)操作、數(shù)據(jù)訪問、文件修改等高權(quán)限，在缺乏有效管控情況下極易出現(xiàn)誤刪、誤改、數(shù)據(jù)泄露等問題。金融交易不可逆的特性，使此類風(fēng)險危害更大、后果更難挽回。
二是技術(shù)、業(yè)務(wù)與制度適配不足。朱燁東表示，通用大模型對金融專業(yè)邏輯理解有限，易產(chǎn)生幻覺、輸出錯誤信息，難以滿足高合規(guī)、高精準要求。技術(shù)與業(yè)務(wù)之間存在天然“語言壁壘”，語義理解偏差會直接導(dǎo)致任務(wù)編排錯誤、決策失準。與會專家認為，銀行現(xiàn)有授權(quán)體系偏靜態(tài)、碎片化，難以支撐智能體跨系統(tǒng)、全流程高效運行，嚴重制約了其能力發(fā)揮。
三是安全防護與治理機制建設(shè)相對滯后。金磐石表示，智能體的架構(gòu)特性大幅擴大了網(wǎng)絡(luò)攻擊面，提示詞注入、插件投毒、敏感信息泄露等新型安全風(fēng)險顯著上升。更關(guān)鍵的是，智能體權(quán)限與責(zé)任界定模糊，風(fēng)險暴露面從對話內(nèi)容、數(shù)據(jù)安全，延伸至金融機構(gòu)內(nèi)部所有任務(wù)執(zhí)行對象，但目前尚無統(tǒng)一行業(yè)標準明確責(zé)任歸屬。
四是算力與資源成本壓力持續(xù)加大。智能體在研發(fā)、算力、人才、數(shù)據(jù)治理等環(huán)節(jié)均需大額持續(xù)投入，高頻交互場景下算力成本激增，全行業(yè)面臨投入產(chǎn)出平衡壓力，中小銀行資源約束更為突出。
構(gòu)建安全可控的金融智能體治理體系
面對挑戰(zhàn)，業(yè)界正以安全可控、務(wù)實創(chuàng)新為原則，探索適配金融場景的智能體治理路徑，推動技術(shù)應(yīng)用與風(fēng)險防控協(xié)同落地。
一是建立分級分類、權(quán)責(zé)清晰的人機協(xié)同機制。張斌介紹，民生銀行依據(jù)應(yīng)用場景風(fēng)險等級實施差異化人工介入策略：低風(fēng)險場景采用抽樣審計，中低風(fēng)險場景實行例外驅(qū)動，中高風(fēng)險場景嚴格執(zhí)行人機協(xié)同，避免AI失誤造成不可逆損失。朱麟表示，交通銀行(601328)推進模型分級分類管理，完善安全測評體系與應(yīng)用安全圍欄，在風(fēng)險處置與關(guān)鍵決策環(huán)節(jié)由人工最終把關(guān)。
二是強化異構(gòu)模型儲備與智能體冗余設(shè)計。若行業(yè)過度依賴少數(shù)幾款模型，一旦底層邏輯出現(xiàn)偏差或遭受針對性攻擊，極易引發(fā)行業(yè)共振式失效。通過異構(gòu)模型交叉運用與驗證，可有效阻斷單一模型風(fēng)險傳導(dǎo)，避免技術(shù)風(fēng)險演化為系統(tǒng)性風(fēng)險。同時，關(guān)鍵業(yè)務(wù)不應(yīng)依賴單一智能體，可采用多智能體共同決策，進一步提升系統(tǒng)韌性與運行穩(wěn)定性。
三是推進權(quán)限治理變革，收縮智能體自主邊界。朱麟建議，從靜態(tài)授權(quán)轉(zhuǎn)向任務(wù)級動態(tài)授權(quán)，按上下文臨時授予最小必要權(quán)限，任務(wù)完成立即回收，通過靈敏權(quán)限引擎支撐智能體合規(guī)高效運行。金磐石表示，智能體技術(shù)創(chuàng)新應(yīng)明確應(yīng)用場景邊界，嚴格權(quán)限與工具使用規(guī)范，在安全管控體系完善前，嚴控自主能力范圍，防范過度授權(quán)與不可控操作風(fēng)險。
四是構(gòu)建本體智能底座，從根源破解幻覺難題。朱燁東提出，本體語義模型是讓AI真正懂金融、懂業(yè)務(wù)的核心支撐。通過將客戶、賬戶、交易行為、風(fēng)險規(guī)則、執(zhí)行動作等業(yè)務(wù)要素“顯性化”為機器可理解的動態(tài)本體語義網(wǎng)絡(luò)，實現(xiàn)從技術(shù)數(shù)據(jù)模型向業(yè)務(wù)事實模型升級，提升通用大模型理解、關(guān)聯(lián)與推理能力，從源頭降低幻覺風(fēng)險�；诒倔w語義底座可構(gòu)建統(tǒng)一調(diào)度的銀行大腦，實現(xiàn)硅基員工標準化管理與協(xié)同作業(yè)，提升智能體可靠性與安全性。與會專家建議由行業(yè)協(xié)會牽頭，制定金融行業(yè)本體標準，夯實規(guī)模化應(yīng)用基礎(chǔ)。
五是優(yōu)化技術(shù)架構(gòu)，探索成本可控路徑。朱麟建議采用先進架構(gòu)，將預(yù)填充與解碼階段分離，分別搭配差異化AI芯片，提升系統(tǒng)吞吐量、降低算力成本。明立松提出，可探索混合云、共享算力等模式，優(yōu)化資源配置、提升投入產(chǎn)出比。
本文首發(fā)于微信公眾號：新金融聯(lián)盟NFA。文章內(nèi)容屬作者個人觀點，不代表和訊網(wǎng)立場。投資者據(jù)此操作，風(fēng)險請自擔(dān)。
【免責(zé)聲明】本文僅代表作者本人觀點，與和訊網(wǎng)無關(guān)。和訊網(wǎng)站對文中陳述、觀點判斷保持中立，不對所包含內(nèi)容的準確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考，并請自行承擔(dān)全部責(zé)任。郵箱：news_center@staff.hexun.com
最新評論