中國基金報記者 邱德坤
記者11月16日獲悉，華為將在11月21日發(fā)布AI領(lǐng)域的突破性技術(shù)，有望解決算力資源利用效率的難題。
具體來看，華為即將發(fā)布AI領(lǐng)域的突破性技術(shù)，可將GPU（圖形處理器）、NPU（神經(jīng)網(wǎng)絡(luò)處理器）等算力資源的利用率，從行業(yè)平均的30%至40%提升至70%，顯著釋放算力硬件潛能。
據(jù)透露，華為即將發(fā)布AI領(lǐng)域的突破性技術(shù)，是通過軟件創(chuàng)新實現(xiàn)英偉達(dá)、昇騰及其他三方算力的統(tǒng)一資源管理與利用，屏蔽算力硬件差異，為AI訓(xùn)練推理提供更高效的資源支撐。
同時，華為即將發(fā)布AI領(lǐng)域的突破性技術(shù)，與以色列AI初創(chuàng)公司Run:ai的核心技術(shù)路線有共同性，后者在2024年底被英偉達(dá)以7億美元資金收購。
公開資料顯示，Run:ai自2018年成立以來，一直專注于GPU調(diào)度技術(shù)，并致力于打造一個能將AI模型拆分并行運(yùn)行的平臺，無論硬件位于本地、云端還是邊緣。
據(jù)悉，管理生成式AI、推薦系統(tǒng)、搜索引擎等工作負(fù)載，需要復(fù)雜的調(diào)度來優(yōu)化系統(tǒng)和底層硬件的性能。
Run:ai的核心產(chǎn)品是基于kubernetes（開源容器編排平臺）構(gòu)建的軟件平臺，用于調(diào)度GPU的計算資源，通過動態(tài)調(diào)度、池化、分片等技術(shù)，實現(xiàn)GPU資源利用率的優(yōu)化，讓深度學(xué)習(xí)訓(xùn)練與推理任務(wù)在企業(yè)級環(huán)境中高效運(yùn)行。
上一篇：麻省理工學(xué)院發(fā)明“可注射”腦機(jī)芯片，有潛力用于治療老年癡呆癥
下一篇：沒有了