當前,隨著終端應用場景不斷擴展,數(shù)據(jù)即時處理需求水漲船高。云端大模型落地行業(yè)逐漸面臨日趨明顯的數(shù)據(jù)缺失、反饋緩慢、成本過高等許多挑戰(zhàn),與云端AI相輔相成又優(yōu)勢明顯的邊緣AI成為攻克瓶頸的關鍵。意識到這一點的科技巨頭們紛紛入局低成本、高效率且更具隱私性的邊緣 AI,也讓業(yè)內(nèi)驚呼,邊緣AI正進入發(fā)展快車道。
以國內(nèi)搶先發(fā)力邊緣AI的領軍企業(yè)云天勵飛為列,其8月26日發(fā)布的2024年半年度報告顯示,云天勵飛2024上半年營業(yè)收入達到2.89億元,同比增長97%。其主要業(yè)績均來自于基于邊緣AI平臺的智能硬件、智算運營和智慧行業(yè)三大業(yè)務領域,也再次驗證了邊緣AI未來的廣闊市場前景。
邊緣AI進入加速發(fā)展期
和人們更為熟知的云端AI相比,邊緣AI發(fā)展初期并未受到同等的重視。不過,邊緣AI固有的更低成本、更好的數(shù)據(jù)隱私保護以及更快的響應速度,使其在近年來吸引了越來越多行業(yè)巨頭的關注。大模型方面,谷歌、微軟、Meta以及云天勵飛都推出了輕量化大模型支撐邊緣AI的應用;芯片方面,蘋果、英偉達等巨頭先后推出邊緣AI芯片,應用在AI 手機和機器人上,云天勵飛也在2022年底推出DeepEdge 10系列芯片,以支撐邊緣端的大模型運行。
有了成熟大模型的支撐以及性能不斷提升的芯片,邊緣AI的應用變得更加廣泛和實用。邊緣設備需要處理更加復雜的任務,反過來也促進了邊緣AI技術的發(fā)展。良性循環(huán)為邊緣AI的行業(yè)發(fā)展提供了加速度。
以既有自研大模型又有自研芯片的云天勵飛為例,其在今年7月由中國信息通信研究院承辦的WAIC 2024“邁向AGI:大模型煥新與產(chǎn)業(yè)賦能”論壇上公開的邊緣AI戰(zhàn)略即顯示,將依托多模態(tài)大模型、NPU加速計算平臺這兩大平臺,發(fā)展智能硬件、智算運營、智慧行業(yè)三大主營業(yè)務,并確定了個人、家庭、城市三個應用方向。
從云天勵飛剛剛發(fā)布的半年報來看,三大主營業(yè)務都有不錯成績,其邊緣AI戰(zhàn)略初見成效。
邊緣智能硬件未來增長態(tài)勢驚人
在邊緣AI應用方面,邊緣智能硬件是最貼近廣大用戶,也是增長態(tài)勢最為迅猛的智能設備領域之一。據(jù)市場研究報告顯示,預計到2025年,全球智能硬件市場規(guī)模將達到數(shù)千億美元規(guī)模,年復合增長率保持在兩位數(shù)以上。特別是,隨著技術進步和產(chǎn)品創(chuàng)新,物聯(lián)網(wǎng)升級成AIoT,加上國家相關產(chǎn)業(yè)政策的大力扶持,預計未來3年邊緣智能硬件設備將保持50%以上的復合增長率。
從云天勵飛的半年報來看,如今市面上可應用智能硬件的場景十分豐富,與從前相比實用領域也有了明顯擴展。云天勵飛基于自研“云天天書”大模型和神經(jīng)網(wǎng)絡處理器,打造面向各類邊緣AI場景的各類硬件設備并對外銷售,包括 AI 芯片、與華為昇騰合作打造的“天舟”大模型一體機等。報告期內(nèi),云天勵飛還推出了融合“云天天書”多模態(tài)大模型能力的警務安全智能終端,具備萬物識別、自然語言檢索、警務知識咨詢等功能,可全面助力基層警務人員提升執(zhí)法水平。
此外,云天勵飛還收購了智能穿戴方案設計頭部公司岍丞技術。岍丞技術主要產(chǎn)品包括智能藍牙耳機PCBA、智能手表PCBA、智能音箱PCBA等IoT產(chǎn)品,主要應用在華為、榮耀、OPPO、VIVO、安克、boAt、Noise等品牌的終端產(chǎn)品上。行業(yè)領先企業(yè)對于“大模型+智能可穿戴”相關產(chǎn)品的積極探索和加速布局,也使得邊緣AI賦能下游終端應用漸呈百花齊放。
自研大模型+自研芯片是云天勵飛邊緣AI業(yè)績增長底氣
智慧行業(yè)是邊緣AI可發(fā)揮作用的重要領域之一。從云天勵飛半年報可見,目前云天勵飛已形成了城市治理、智慧交通、智慧應急、智慧城管、智慧園區(qū)、智慧社區(qū)、智慧泛商業(yè)、智慧道路巡檢、智慧警務、低空經(jīng)濟、智慧教育等行業(yè)產(chǎn)品與解決方案體系,并結合多模態(tài)大模型技術特點和行業(yè)需求,持續(xù)拓展創(chuàng)新業(yè)務。
另一主營業(yè)務智算運營也是極具發(fā)展前景的潛力股。今年6月,云天勵飛與德元方惠簽署AI算力運營合作協(xié)議。德元方惠將向云天勵飛購買AI訓練及推理異構算力服務,總算力規(guī)模約4000 PFLOPS,該協(xié)議在未來三年服務期內(nèi)將為云天勵飛貢獻約16億的營收。
無論是智慧行業(yè),還是智算運營,想要在邊緣AI領域有所建樹,都離不開成熟的大模型技術以及性能足夠強大的芯片支持。
以大模型為例,云天勵飛自主研發(fā)了千億級大模型“云天天書”。今年中國信通院發(fā)布《2024大模型示范應用案例》,云天勵飛與深圳市龍崗區(qū)打造的數(shù)字政務行業(yè)大模型入選。在智慧交通和智慧警務解決方案中,云天天書大模型助力城市實現(xiàn)了交通的智能調(diào)控以及公共安全事件的有效預防;在智慧商業(yè)領域,大模型通過分析客流動線等信息,為商業(yè)智能體的運營決策提供了有力支撐;在智慧教育方面,云天勵飛提出了 Fly計劃,致力于構建全面、立體的人工智能教育生態(tài)系統(tǒng)。
再以芯片為例,云天勵飛去年底發(fā)布了大模型推理芯片DeepEdge10;今年推出采用D2D Chiplet技術,基于DeepEdge10芯片平臺打造的大算力芯片DeepEdge200,并打造了IPU-X6000加速卡,可應用于語言、視覺、多模態(tài)等各類大模型的推理加速,目前已適配云天天書、通義千問、百川智能、Llama2/3等近10個主流大模型。
可以預見,未來云天勵飛會利用這些技術優(yōu)勢,將自研大模型與自研芯片更好結合,進一步促進行業(yè)邊緣AI發(fā)展。
長遠來看,我們必將進入一個由云端AI+邊緣AI的混合式AI時代。而在這一過程中,離不開邊緣AI的重要支撐。目前,無論是從自動駕駛、機器人/具身智能到 AI PC/phone,基于設備端智能化的邊緣 AI 正逐步發(fā)展壯大,并顯現(xiàn)出蓬勃發(fā)展的積極活力。顯然,把握邊緣AI的發(fā)展趨勢,加速其技術與產(chǎn)業(yè)的深度融合,將是推動未來智能科技革命的重要力量。而如何更好地制訂邊緣AI戰(zhàn)略,在這一過程中分到更多的蛋糕,正是業(yè)內(nèi)應該深入思考的重要議題。
（免責聲明：此文內(nèi)容為廣告，相關素材由廣告主提供，廣告主對本廣告內(nèi)容的真實性負責。本網(wǎng)發(fā)布目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點和對其真實性負責，請自行核實相關內(nèi)容。廣告內(nèi)容僅供讀者參考。）
【免責聲明】【廣告】本文僅代表作者本人觀點，與和訊網(wǎng)無關。和訊網(wǎng)站對文中陳述、觀點判斷保持中立，不對所包含內(nèi)容的準確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考，并請自行承擔全部責任。郵箱：news_center@staff.hexun.com
最新評論