低成本、低門檻、高效能的優(yōu)勢,加之開源策略支持本地私有化部署,讓DeepSeek在近期席卷金融科技圈,從國有大行、互聯(lián)網(wǎng)大廠金融科技公司到消費(fèi)金融公司、第三方支付機(jī)構(gòu)、上市金融科技企業(yè)紛紛宣布接入DeepSeek,加入這場AI(人工智能)應(yīng)用大潮。
在這場AI狂歡里,應(yīng)看到DeepSeek開源版本與某些金融場景需求存在差距,大模型高并發(fā)推理對現(xiàn)有基礎(chǔ)設(shè)施壓力較大,且開源模型易受攻擊,數(shù)據(jù)接口需強(qiáng)化防護(hù)。此外,DeepSeek推理模型相對于通用模型會產(chǎn)生更大幻覺(即人工智能在信息處理和生成中的誤差或錯覺),是金融科技企業(yè)在AI落地過程中需要解決的另一個關(guān)鍵問題。
DeepSeek席卷金融科技圈
金融科技圈迎來DeepSeek時刻。2月20日,騰訊理財通宣布正式接入DeepSeek-R1模型滿血版,同時支持騰訊混元大模型。升級接入DeepSeek后,騰訊理財通進(jìn)一步整合專業(yè)金融信息數(shù)據(jù)、微信公眾號文章等資源,金融服務(wù)專業(yè)性更強(qiáng)、時效性更高。
多家上市金融科技企業(yè)也在近日宣布接入DeepSeek。奇富科技自主研發(fā)的大模型產(chǎn)品ChatBI在日前完成關(guān)鍵升級,通過與Deepseek-R1大模型的深度融合,最大化地結(jié)合了DeepSeek卓越的MOE(混合專家)模型和COT(思維鏈)推理能力優(yōu)勢,顯著提升了ChatBI處理復(fù)雜數(shù)據(jù)分析任務(wù)的能力。
此外,信也科技自主研發(fā)的兩個大模型平臺近日正式接入DeepSeek-R1,使得信也科技能夠提升大模型對于復(fù)雜問題的語義理解和處理能力,擴(kuò)大大模型服務(wù)邊界,更有力地支持決策類場景。連連數(shù)字也在近日正式對外宣布已完成DeepSeek大模型的私有化部署,結(jié)合自身的技術(shù)實(shí)力和DeepSeek的自然語言處理、推理等能力,連連數(shù)字已將DeepSeek應(yīng)用到業(yè)務(wù)、研發(fā)、辦公等多個關(guān)鍵場景。繼去年5月引入DeepSeek-V2版本后,近期樂信正式接入和部署了DeepSeek-R1版本,通過DeepSeek完善了本地化部署的、樂信專有大模型“奇點(diǎn)”AI大模型,在研發(fā)提效、內(nèi)部工具、業(yè)務(wù)賦能等方面深入落地應(yīng)用。
《國際金融報》記者了解到,目前多家消費(fèi)金融公司通過自研智能平臺接入DeepSeek。中原消費(fèi)金融公司依托自研的智能化平臺“元擎Matrix”引入DeepSeek-R1版本,在智能質(zhì)檢、智能問答、意圖識別、提示詞編寫等場景進(jìn)行探索應(yīng)用。中郵消費(fèi)金融公司將DeepSeek作為基座大模型之一,提供智能問答和智能編程輔助服務(wù)。中信消費(fèi)金融公司基于自主研發(fā)的“信智”一站式大模型服務(wù)平臺接入DeepSeek,并應(yīng)用于智能質(zhì)檢與知識庫檢索兩大業(yè)務(wù)場景。海爾消費(fèi)金融公司已經(jīng)部署了DeepSeek私有化版本,沉淀出海爾消金私有領(lǐng)域大模型,正在打通公域私域大小模型,接入智能體平臺,開始全面賦能營銷、風(fēng)險、貸后、客服、運(yùn)營、研發(fā)、數(shù)據(jù)分析等多個場景。
優(yōu)刻得董事長兼CEO季昕華告訴記者,DeepSeek性能比肩GPT核心模型,但訓(xùn)練所需算力資源和資金投入更少,顯著降低了企業(yè)的技術(shù)門檻和經(jīng)濟(jì)成本。DeepSeek開源策略支持地方政府和金融機(jī)構(gòu)私有化部署,滿足國產(chǎn)化適配要求,吸引金融科技企業(yè)快速接入。相較于同類模型,DeepSeek的推理成本大幅降低,推動行業(yè)應(yīng)用廣泛落地。
合規(guī)與數(shù)據(jù)安全備受關(guān)注
由于金融科技行業(yè)的特殊性,在接入DeepSeek時,數(shù)據(jù)安全與合規(guī)性備受關(guān)注。海爾消費(fèi)金融首席信息官梁樹峰對記者表示,DeepSeek開源版本隱私安全性與金融數(shù)據(jù)隱私保護(hù)需求存在差距,且大模型高并發(fā)推理對現(xiàn)有金融基礎(chǔ)設(shè)施還會產(chǎn)生較大壓力。此外,開源模型易受攻擊,數(shù)據(jù)接口須強(qiáng)化防護(hù)。
中郵消費(fèi)金融科技發(fā)展部負(fù)責(zé)人朱威告訴記者,雖然DeepSeek降低了訓(xùn)練和推理成本,但是大模型的資源需求還是較大的,同時由于金融行業(yè)嚴(yán)格的數(shù)據(jù)安全與合規(guī)性規(guī)定,消費(fèi)金融企業(yè)在涉及數(shù)據(jù)安全的場景下需要采用私有部署的方式來降低合規(guī)風(fēng)險。在GPU(圖形處理單元)資源有限的情況下,如何高效安全地使用DeepSeek模型成為各金融企業(yè)需要解決的問題。
針對大模型應(yīng)用的潛在風(fēng)險,梁樹峰認(rèn)為,需要采取多維度防控:關(guān)于數(shù)據(jù)安全與隱私保護(hù),可通過本地化部署核心模型,避免敏感數(shù)據(jù)外流;采用聯(lián)邦學(xué)習(xí)與同態(tài)加密技術(shù),實(shí)現(xiàn)“數(shù)據(jù)可用不可見”。針對模型失真與合規(guī)風(fēng)險,可建立模型監(jiān)控體系,定期及時審計模型輸出偏差;嵌入監(jiān)督模型及監(jiān)管規(guī)則引擎,確保決策符合個人信息保護(hù)法等要求。針對系統(tǒng)性風(fēng)險傳導(dǎo),應(yīng)設(shè)計熔斷機(jī)制,當(dāng)模型異常時自動切換至傳統(tǒng)系統(tǒng);與行業(yè)聯(lián)盟共建風(fēng)險預(yù)警平臺,共享攻擊特征與防御方案。
朱威建議,一是選用參數(shù)規(guī)模合適的模型,將DeepSeek聚焦在需要復(fù)雜推理的應(yīng)用場景,如數(shù)據(jù)分析、機(jī)器人決策等,并與其他大小模型相互結(jié)合,保證智能化服務(wù)質(zhì)量;二是借鑒DeepSeek-R1的訓(xùn)練方式,蒸餾更加細(xì)分的垂類模型以減少對GPU資源的需求;三是期望在合規(guī)前提下,行業(yè)推出可信的行業(yè)大模型金融云,解決各企業(yè)的GPU資源瓶頸。
上海金融與發(fā)展實(shí)驗(yàn)室首席專家、主任曾剛對記者分析指出,在數(shù)據(jù)安全和隱私保護(hù)方面,可以通過數(shù)據(jù)加密、脫敏處理和差分隱私技術(shù),確保數(shù)據(jù)在傳輸和處理中的安全性。同時,支持本地化部署,避免數(shù)據(jù)外流,增強(qiáng)企業(yè)對數(shù)據(jù)的掌控力。此外,嚴(yán)格的訪問控制和操作審計機(jī)制也能進(jìn)一步保障數(shù)據(jù)安全。而在合規(guī)運(yùn)營上,DeepSeek需符合歐盟的GDPR(《通用數(shù)據(jù)保護(hù)條例》)、美國的CCPA(《加州消費(fèi)者隱私法案》)等數(shù)據(jù)保護(hù)法規(guī)和金融行業(yè)標(biāo)準(zhǔn)(如ISO27001信息安全管理體系認(rèn)證)。通過提供模型可解釋性工具,滿足監(jiān)管對算法透明度的要求,并定期進(jìn)行模型審計和性能監(jiān)控,確保合規(guī)性和風(fēng)險可控。
“幻覺”問題仍是一大挑戰(zhàn)
DeepSeek系列模型以其出色表現(xiàn)迅速席卷金融科技圈,但“幻覺”問題依然是它面臨的一大挑戰(zhàn)。在Vectara HHEM人工智能幻覺測試(行業(yè)權(quán)威測試,通過檢測語言模型生成內(nèi)容是否與原始證據(jù)一致,從而評估模型的幻覺率,幫助優(yōu)化和選擇模型)中,DeepSeek-R1顯示出14.3%的幻覺率。
“目前有待解決的是幻覺問題!比A泰證券科技與電子行業(yè)首席分析師黃樂平對記者直言,數(shù)據(jù)是金融企業(yè)的核心資源,使用OpenAI公司開發(fā)的閉源模型時,需要上傳私有數(shù)據(jù),是金融行業(yè)使用大模型的主要痛點(diǎn)。DeepSeek開源,可以以更低的成本部署在金融企業(yè)自己的本地服務(wù)器上,這解決了數(shù)據(jù)泄露的風(fēng)險,為大模型在金融行業(yè)普及鋪平了道路。
朱威也指出,DeepSeek推理模型相對于通用模型會產(chǎn)生更大幻覺,這是消費(fèi)金融企業(yè)在AI落地過程中需要解決的另一個主要問題。他建議,通過知識庫檢索增強(qiáng)生成(RAG)、領(lǐng)域微調(diào)、人工校驗(yàn)等方式進(jìn)行緩解,從而確保推理結(jié)果的準(zhǔn)確性與可靠性。
針對大模型幻覺問題,曾剛建議,通過引入金融領(lǐng)域知識圖譜和規(guī)則庫,限制生成內(nèi)容在可信范圍內(nèi);同時,通過高質(zhì)量數(shù)據(jù)的監(jiān)督微調(diào)優(yōu)化模型表現(xiàn),并結(jié)合結(jié)果驗(yàn)證機(jī)制和人工審核,確保輸出的準(zhǔn)確性和可靠性。這種多層次的控制能夠有效降低幻覺風(fēng)險,提升模型在金融場景中的可信度。
記者:余繼超文字編輯:姚惠版面編輯:畢丹丹