無問芯穹Infini-AI云平臺宣布支持千卡混訓，具備萬卡擴展能力

新浪科技訊 7月9日上午消息，近日，無問芯穹聯合創(chuàng)始人兼CEO夏立雪發(fā)布了無問芯穹大規(guī)模模型異構分布式混合訓練系統，該系統千卡異構混合訓練集群算力利用率最高達97.6%。同時，無問芯穹Infini-AI云平臺宣布已集成大模型異構千卡混訓能力，可進行單任務千卡規(guī)模異構芯片混合訓練，具備萬卡擴展性，支持包括AMD、華為昇騰、天數智芯、沐曦、摩爾線程、NVIDIA六種異構芯片在內的大模型混合訓練。

據介紹，7月起，通過試訓申請的用戶，已可在Infini-AI上一鍵發(fā)起700億參數規(guī)模的大模型訓練。今年三月，無問芯穹Infini-AI大模型開發(fā)與服務云平臺宣布首次公測，智譜AI、月之暗面、生數科技等大模型公司客戶在Infini-AI上穩(wěn)定使用異構算力，還有20余家AI Native應用創(chuàng)業(yè)公司在Infini-AI上持續(xù)調用各種預置模型API，使用無問芯穹提供的工具鏈開發(fā)業(yè)務模型。

“上次我們證明了10多種異構芯片在Infini-AI上可被用于大模型推理，這次我們則是證明了異構算力在Infini-AI上可以被用來做大模型訓練�！毕牧⒀┍硎荆�“這項技術工程化的初衷，是希望能夠通過整合更多異構算力，繼續(xù)推高大模型技術能力的上限，同時通過打通異構芯片生態(tài)，持續(xù)降低大模型應用落地成本�！保ㄎ拿停�

責任編輯：郝欣煜