“據統計,GPU的平均利用率不超過(guò)30%,會(huì )產(chǎn)生巨大的算力資源浪費。我們用軟件定義的方式通常可以把用戶(hù)GPU的利用率提升3-8倍,甚至可以到10倍。”

這是算力池化軟件公司趨動(dòng)科技援引行業(yè)報告數據并結合自身企業(yè)最佳實(shí)踐經(jīng)驗給出的最新數據。通過(guò)自研的獵戶(hù)座OrionX AI算力資源池化軟件,趨動(dòng)科技可以幫助客戶(hù)構建數據中心級 AI 算力資源池,客戶(hù)無(wú)需修改應用就能使用數據中心內任一臺服務(wù)器的 AI 算力,并通過(guò)大幅優(yōu)化應用部署,提升用戶(hù)的資源利用率,為AI產(chǎn)業(yè)帶來(lái)全新的算力供給模式。

 重新定義AI算力資源

 在第二屆光合組織AI解決方案大賽上,趨動(dòng)科技基于與海光硬件產(chǎn)品底座的適配和優(yōu)化,打造的“信創(chuàng )全棧自主可控異構AI算力資源池”(以下簡(jiǎn)稱(chēng)“AI算力資源池”)方案,獲得了本屆大賽一等獎。

趨動(dòng)科技生態(tài)運營(yíng)總監文禹翔介紹,AI算力資源池方案主要針對當前異構算力使用方式粗放、跨廠(chǎng)商異構算力資源難以統一管理調度等問(wèn)題。方案將物理異構算力資源進(jìn)行池化管理,實(shí)現按需調度異構算力資源及跨廠(chǎng)商異構算力資源精細化管理。

方案架構圖

方案中的基礎設施層,依托于海光服務(wù)器的性能優(yōu)勢,可以實(shí)現兩大躍升;在操作系統層,AI算力資源池基于銀河麒麟服務(wù)器操作系統,借助海光CPU、DCU平臺優(yōu)勢,對內核安全、RAS特性、I/O性能、虛擬化和國產(chǎn)硬件、驅動(dòng)支持等方面進(jìn)一步優(yōu)化增強;在虛擬化層,趨動(dòng)科技OrionX將AI算力資源抽象為虛擬資源,最終實(shí)現AI算力資源的軟件定義。

“目前,應用部署中資源直連獨占,造成算力資源浪費和使用不靈活等問(wèn)題,讓算力用戶(hù)的成本負擔持續加重,已經(jīng)在一定程度上阻礙了AI技術(shù)的進(jìn)一步大發(fā)展。我們希望過(guò)去看起來(lái)‘陽(yáng)春白雪’的算力,能夠真正成為一種普惠大眾的資源,就像水電一樣按需隨用隨取、靈活便捷且便宜高效”文禹翔表示。

讓生態(tài)飛輪加速旋轉

最近由人民銀行主管的期刊《金融電子化》中,刊登了一篇華夏銀行CIO署名文章題為《人工智能GPU算力資源池化應用研究》的文章。該文章詳細論述了異構算力資源池化軟件在信創(chuàng )領(lǐng)域的應用價(jià)值,進(jìn)一步驗證了趨動(dòng)科技OrionX異構算力池化軟件方案的可行性,同時(shí)也對海光加速卡等國產(chǎn)硬件性能給予了肯定。

“信創(chuàng )領(lǐng)域的算力資源池建設需要鏈接國產(chǎn)軟硬件廠(chǎng)商共同推動(dòng),海光在國產(chǎn)芯片行業(yè)處于領(lǐng)先梯隊,為我們提供了很大的支撐。”文禹翔表示,通過(guò)與海光合作,趨動(dòng)科技實(shí)現了池化軟件異構算力多元化,進(jìn)一步滿(mǎn)足了信創(chuàng )市場(chǎng)的應用需求。

事實(shí)上,自加入光合組織以來(lái),趨動(dòng)科技與海光等產(chǎn)業(yè)鏈上下游伙伴開(kāi)展了一系列生態(tài)合作。在趨動(dòng)科技看來(lái),用戶(hù)需要的是完整的解決方案,而單一廠(chǎng)商很難提供從底層架構到前端應用的一整套產(chǎn)品,在此背景下,生態(tài)力量的整合非常關(guān)鍵。

“光合組織為AI產(chǎn)業(yè)的生態(tài)對接提供了一個(gè)很好的平臺。”文禹翔指出,基于光合組織大賽,趨動(dòng)科技不僅與伙伴深化了產(chǎn)品技術(shù)合作、展示了方案成果,同時(shí)也廣泛聯(lián)動(dòng)更多產(chǎn)業(yè)力量,逐漸形成生態(tài)的“飛輪”,在市場(chǎng)賦能、項目引進(jìn)等領(lǐng)域逐漸跑出了加速度。

“我相信,隨著(zhù)飛輪的轉速不斷加快,未來(lái),算力池化方案將觸達更多業(yè)務(wù)應用場(chǎng)景,AI算力會(huì )釋放出更大的價(jià)值。”文禹翔表示。