來(lái)源：三號(hào)女青年

隨著大模型技術(shù)的深度滲透,，金融行業(yè)正經(jīng)歷著前所未有的智能化變革。從“投顧助手”精準(zhǔn)導(dǎo)航投資藍(lán)海，到“智能客服”秒速響應(yīng)客戶需求,，大模型以其對(duì)海量金融數(shù)據(jù)的深度挖掘與高效利用,，正顯著提升金融服務(wù)的智能化水準(zhǔn),，在金融領(lǐng)域的實(shí)際應(yīng)用中展現(xiàn)出無(wú)可估量的價(jià)值,。這一變革的幕后推手,，正是包括浪潮信息AI服務(wù)器與AIStation智能業(yè)務(wù)生產(chǎn)創(chuàng)新平臺(tái)在內(nèi)的頂尖智算基礎(chǔ)設(shè)施,，它們正攜手金融科技企業(yè)如恒生電子,，共同塑造金融智能化的新未來(lái)。

借助浪潮信息AI服務(wù)器,、AIStation智能業(yè)務(wù)生產(chǎn)創(chuàng)新平臺(tái)等領(lǐng)先的智算基礎(chǔ)設(shè)施,，國(guó)內(nèi)領(lǐng)先的金融科技企業(yè)恒生電子實(shí)現(xiàn)算力高效分發(fā)、算力資源高效管理，加速了金融行業(yè)大模型LightGPT的開發(fā)和落地,，模型訓(xùn)練和精調(diào)時(shí)間周期由數(shù)周縮短至數(shù)天,，應(yīng)用于客服、運(yùn)營(yíng),、投顧,、投研等金融業(yè)務(wù)場(chǎng)景，助力金融行業(yè)智能化轉(zhuǎn)型,。“量身定制”金融大模型,，高效訓(xùn)練是關(guān)鍵恒生電子是一家以“讓金融變簡(jiǎn)單”為使命的金融科技公司，致力于為證券,、期貨,、基金、信托,、保險(xiǎn),、銀行、交易所,、私募等機(jī)構(gòu)提供整體解決方案和服務(wù),，連續(xù)16年入選FinTech100全球金融科技百?gòu)?qiáng)榜單，2023年排名第22位,，位列亞洲上榜企業(yè)第一,。

恒生電子高度重視大模型技術(shù)的創(chuàng)新與應(yīng)用，率先發(fā)布了領(lǐng)先的金融行業(yè)大模型LightGPT,。LightGPT基于海量高質(zhì)量金融數(shù)據(jù)訓(xùn)練,，使用超2000億中文tokens和80多項(xiàng)中文金融任務(wù)指令微調(diào)，涵蓋投研,、投顧,、智能客服、合規(guī)風(fēng)控等多領(lǐng)域金融應(yīng)用場(chǎng)景,，實(shí)現(xiàn)金融相關(guān)任務(wù)高效,、準(zhǔn)確理解，顯著超越通用大模型,。在測(cè)試中,，LightGPT的邏輯推理、超長(zhǎng)文本處理,、多模態(tài)交互,、代碼、金融專業(yè)問答等多項(xiàng)能力都表現(xiàn)突出,，表現(xiàn)出極高的準(zhǔn)確性和專業(yè)水準(zhǔn),。同時(shí)，LightGPT學(xué)習(xí)中國(guó)的金融法律法規(guī)，更符合中國(guó)金融市場(chǎng)的監(jiān)管要求,。

就像一個(gè)“多面手”,，LightGPT綜合能力突出，單個(gè)模型即可滿足金融機(jī)構(gòu)眾多應(yīng)用場(chǎng)景的需求,，為投顧,、客服、運(yùn)營(yíng),、合規(guī),、投研、交易等業(yè)務(wù)系統(tǒng)注入AI能力,，加速行業(yè)升級(jí)和智能化轉(zhuǎn)型。如在信批材料審計(jì)場(chǎng)景,，LightGPT可幫助審計(jì)員將文檔的審計(jì)時(shí)間從2小時(shí)縮短到5分鐘,；在投顧場(chǎng)景，可幫助投資顧問將客戶咨詢問題的平均回答時(shí)間由十幾分鐘縮短至幾秒,，大幅提升工作效率,，提升客戶體驗(yàn)。

面向不同金融機(jī)構(gòu)的個(gè)性化需求,，恒生電子需要針對(duì)具體業(yè)務(wù)“量身定制”,，對(duì)LightGPT進(jìn)行強(qiáng)化訓(xùn)練和精調(diào)，以提升模型的精度,，或輸出符合要求的內(nèi)容,。為了更好地推動(dòng)大模型的開發(fā)和應(yīng)用，恒生電子希望在AI基礎(chǔ)設(shè)施方面進(jìn)行深度改造,。一方面,，大模型預(yù)訓(xùn)練與微調(diào)需要性能強(qiáng)大、高效易用的算力平臺(tái),，租用算力資源雖然可解燃眉之急,，但在算力穩(wěn)定性、安全保障方面存在著隱患,。另一方面,，大模型的開發(fā)運(yùn)營(yíng)涉及多團(tuán)隊(duì)、多業(yè)務(wù)與大量數(shù)據(jù),，需要有效的任務(wù)排隊(duì)和調(diào)度機(jī)制來(lái)確保資源的合理分配和高效使用,。否則，將導(dǎo)致各團(tuán)隊(duì)搶占算力資源,，計(jì)算任務(wù)下發(fā)后需要長(zhǎng)時(shí)間等待才能得到結(jié)果,，不僅會(huì)影響開發(fā)進(jìn)度，而且會(huì)提升成本。

創(chuàng)新智算平臺(tái),，提速大模型開發(fā)恒生電子攜手浪潮信息,，部署了大模型智算平臺(tái)，涵蓋AI服務(wù)器,、AIStation智能業(yè)務(wù)生產(chǎn)創(chuàng)新平臺(tái),，大幅提升了LightGPT大模型開發(fā)和應(yīng)用效率。

在算力方面,，浪潮信息為恒生電子提供了AI服務(wù)器,，并通過軟硬件一體化的平臺(tái)建設(shè)模式，實(shí)現(xiàn)了上線即使用的應(yīng)用目標(biāo),。同時(shí)支持靈活擴(kuò)展,，滿足恒生電子業(yè)務(wù)快速增長(zhǎng)對(duì)算力資源的靈活需求。

浪潮信息AIStation平臺(tái)為恒生電子提供敏捷可靠的大模型開發(fā)支持和可擴(kuò)展的人工智能基礎(chǔ)設(shè)施管理能力。AIStation統(tǒng)一管理和調(diào)度算力資源,，為恒生電子算法工程師提供統(tǒng)一的算法開發(fā)環(huán)境,，實(shí)現(xiàn)大模型預(yù)訓(xùn)練、精調(diào)和推理測(cè)試的完整業(yè)務(wù)流程,。對(duì)于千億,、百億參數(shù)的模型精調(diào)，AIStation自動(dòng)創(chuàng)建分布式訓(xùn)練環(huán)境,，為大模型訓(xùn)練提供高效,、穩(wěn)定的計(jì)算環(huán)境。AIStation推理服務(wù)與恒生的模型測(cè)試平臺(tái)實(shí)現(xiàn)對(duì)接,，有效提升了模型部署和測(cè)試效率,。借助AIStation平臺(tái),，恒生電子加速了面向投顧咨詢、投資合規(guī),、運(yùn)營(yíng)管理,、客戶服務(wù)等金融業(yè)務(wù)場(chǎng)景的大模型應(yīng)用的開發(fā)和交付。此外,，浪潮信息分享了源大模型項(xiàng)目的開發(fā)經(jīng)驗(yàn),，以及開源大模型的微調(diào)方案和實(shí)踐經(jīng)驗(yàn)，為恒生電子金融大模型LightGPT的預(yù)訓(xùn)練,、微調(diào)提供了有力的幫助,。

依托大模型智算平臺(tái)的強(qiáng)大支撐，恒生電子不僅實(shí)現(xiàn)了LightGPT金融大模型的快速開發(fā)與高效部署,，更引領(lǐng)了金融行業(yè)數(shù)智化轉(zhuǎn)型的浪潮,。目前，LightGPT已順利完成國(guó)家網(wǎng)信辦大模型算法備案,，并在多個(gè)核心業(yè)務(wù)場(chǎng)景如客服,、運(yùn)營(yíng)、投顧,、投研等中廣泛應(yīng)用，為多家頂尖金融機(jī)構(gòu)的智能化升級(jí)提供了堅(jiān)實(shí)支撐,。此外,，恒生電子還攜手超過20家金融機(jī)構(gòu)，共同探索LightGPT及光子系列大模型在金融領(lǐng)域的無(wú)限可能,，通過持續(xù)的技術(shù)迭代與場(chǎng)景拓展,，不斷推動(dòng)金融業(yè)務(wù)的形態(tài)創(chuàng)新與邏輯重塑，為金融行業(yè)的智能化未來(lái)鋪設(shè)了堅(jiān)實(shí)的基石,。