人工智能(AI)正以前所未有的速度滲透到金融系統(tǒng),推動著金融服務(wù)的創(chuàng)新和變革。這種深度融合不僅可以提高金融服務(wù)的效率和準(zhǔn)確性,未來還可催生全新的金融產(chǎn)品和服務(wù)模式。尤其是生成式人工智能(GenAI)的出現(xiàn),通過生成文本、圖像、代碼等多種形式的內(nèi)容,為金融機構(gòu)提供了全新的工具和視角。
AI如何加速金融服務(wù)的創(chuàng)新和變革?關(guān)鍵在于能否利用AI實現(xiàn)業(yè)務(wù)的質(zhì)效提升,并通過真正優(yōu)化用戶體驗,加速金融AI滲透率。在8月上海城創(chuàng)金融科技國際產(chǎn)業(yè)園舉行的2024FDS金融領(lǐng)袖峰會上,云軸科技ZStack CTO王為以“ZStack AIOS平臺智塔加速金融行業(yè)重構(gòu) AI 基礎(chǔ)設(shè)施”為主題,與峰會上百位銀行、證券、保險、基金等金融客戶代表分享了AIOS平臺智塔在金融行業(yè)的應(yīng)用。
ZStack AIOS平臺智塔可以在金融機構(gòu)的市場和銷售、渠道與運營、產(chǎn)品開發(fā)、投顧服務(wù)、客戶關(guān)系管理、風(fēng)險合規(guī)等領(lǐng)域發(fā)揮重要的作用。舉例來看,在金融資訊領(lǐng)域充斥著大量信息,AI不僅可以基于RAG查詢上下文生成結(jié)論,還可以進行文章生成,并對文字審核、規(guī)范審核、邏輯檢查、事實核查和敏感內(nèi)容檢查,提高內(nèi)容質(zhì)量和可信度。又比如金融分析師面對每天成百上千篇新研報,通過ZStack AIOS平臺智塔進行摘要和觀點提取,可實現(xiàn)快速響應(yīng)。
此外,ZStack企業(yè)自身正在通過AI提升客戶服務(wù)效率。ZStack通過在AIOS平臺智塔對AI進行技術(shù)知識訓(xùn)練,結(jié)合RAG知識庫搭建SupportAI智能機器人,接入到企業(yè)內(nèi)部群,實現(xiàn)了面向客戶支持和新員工學(xué)習(xí)的智能服務(wù)。相比以往的“憑經(jīng)驗”純?nèi)斯し⻊?wù),AI的賦能讓ZStack技術(shù)服務(wù)響應(yīng)速度提升約30倍。
王為認為,AI應(yīng)用發(fā)展呈現(xiàn)三個趨勢,而企業(yè)客戶尤其是金融客戶可以通過AIOS平臺來應(yīng)對三大趨勢帶來的機遇和挑戰(zhàn):
開源大模型涌現(xiàn),大部分企業(yè)從頭訓(xùn)練大模型既無必要也不劃算。在這樣的背景下,金融客戶可以通過AIOS平臺模型層快速體驗新模型,通過模型評測服務(wù)測試新模型是否提升;而在快速導(dǎo)入、體驗最新的大模型時,還可以通過自有數(shù)據(jù)微調(diào)和RAG構(gòu)建自己的應(yīng)用;最后可以通過對多種推理引擎的支持,達到對模型兼容性和模型性能的均衡。
一個 AI 應(yīng)用將涉及多個大、小模型的配合,單一模型難以一次完成任務(wù)。對于金融客戶來說,通過AIOS平臺的 MaaS 模型層整合、管理模型生命周期及多種模型資源,還可精細化控制解決模型幻覺,更充分的使用平臺算力。
高端算力昂貴和供應(yīng)問題將長期存在。對于金融客戶來說,他們需要利用AIOS平臺算力層能力,進行平臺調(diào)度、顯卡切割提升 GPU 利用率;通過分布式推理、分層推理,讓小卡“合并”成大卡裝載模型;以此合理使用智算卡的同時,多方面尋找硬件資源降低硬件成本,并跟蹤各主流國產(chǎn)智算卡的 AI 推理能力進展,分散供應(yīng)渠道。
云軸科技ZStack AIOS平臺智塔,期望通過同時解耦算力豎井和模型豎井,幫助金融客戶從容應(yīng)對三大趨勢,優(yōu)化AI應(yīng)用性能和成本,加速金融AI市場應(yīng)用進程。
算力層:ZStack AIOS平臺智塔的算力精分調(diào)度平臺,支持NVIDIA、AMD、Intel、海光、華為昇騰、寒武紀(jì)、燧原、天數(shù)智芯、太初元碁、壁仞、摩爾線程、沐曦等中國市場上的主流品牌和幾十種AI芯片型號,實現(xiàn)異構(gòu)算力協(xié)同不同AI 模型之間的優(yōu)化路由,降低AI算力成本。
模型層:ZStack AIOS平臺智塔的動態(tài)模型自適應(yīng)平臺,可以支持生成式AI(GenAI)、自然語言處理 (NLP)、計算機視覺、機器學(xué)習(xí)(ML)、深度學(xué)習(xí)(DL)以及多模態(tài)AI,并支持Llama、Gemma、通義千問Qwen、智譜ChatGLM、百川Baichuan、零一萬物Yi、智源BGE、StableDiffusion、XTTS等數(shù)百種開源文字類、圖形類、聲音類大模型,實現(xiàn)模型壓縮與性能優(yōu)化,模型選型與生命周期管理,訓(xùn)推高效部署與自適應(yīng)調(diào)度,達到跨軟硬件的全面性能優(yōu)化。
運營層:ZStack AIOS平臺智塔的全域感知自服務(wù)平臺,可以進行多租戶隔離和動態(tài)資源配額管理,實現(xiàn)跨智算中心、跨集群的全域感知統(tǒng)一調(diào)度,提供按量計費的動態(tài)訓(xùn)推服務(wù),具備可視化統(tǒng)一門戶,彈性跨域容錯,實現(xiàn)精細化的自服務(wù)運營體系。
“面對企業(yè)AI應(yīng)用三大趨勢,企業(yè)需要在模型層,緊跟開源模型趨勢,從模型篩選做起,傳統(tǒng)AI與生成式AI并行;在運營層,降低每個人使用AI的門檻,應(yīng)用蘊含在一線場景之中;在算力層,長期關(guān)注算力供應(yīng)問題,國產(chǎn)GPU能力儲備。” 王為表示,“ZStack AIOS平臺智塔可以同時從算力層、模型層、運營層協(xié)助金融企業(yè)以AI為核心進行重塑,加速金融服務(wù)的創(chuàng)新和變革!
此外,新一代金融AI軟件基礎(chǔ)設(shè)施ZStack AIOS平臺智塔在此次峰會上還獲得金融優(yōu)秀解決方案領(lǐng)袖獎。
(免責(zé)聲明:此文內(nèi)容為廣告,相關(guān)素材由廣告主提供,廣告主對本廣告內(nèi)容的真實性負責(zé)。本網(wǎng)發(fā)布目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點和對其真實性負責(zé),請自行核實相關(guān)內(nèi)容。廣告內(nèi)容僅供讀者參考。)
【免責(zé)聲明】【廣告】本文僅代表作者本人觀點,與和訊網(wǎng)無關(guān)。和訊網(wǎng)站對文中陳述、觀點判斷保持中立,不對所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考,并請自行承擔(dān)全部責(zé)任。郵箱:news_center@staff.hexun.com
最新評論