體驗文章從管理員和用戶(hù)兩個(gè)維度全面展示了AIStation。管理員維度動(dòng)手體驗了管理集群、創(chuàng )建用戶(hù)、分配資源、資源監控等；用戶(hù)維度動(dòng)手體驗了創(chuàng )建訓練任務(wù)，啟動(dòng)并完成任務(wù)的完整過(guò)程。此外，STH還刊載了記者就AIStation市場(chǎng)策略對浪潮AI&HPC總經(jīng)理劉軍的訪(fǎng)談。

　　STH認為“做好AI集群運營(yíng)可能并不像發(fā)現一種解決深度學(xué)習問(wèn)題的新方法那樣振奮人心，但對于在組織內擴展共享資源至關(guān)重要。”

　　在深入了解【用戶(hù)系統】前，我們先對【管理員系統】進(jìn)行了體驗。基于Kubernetes容器引擎的AIStation，與許多傳統的GPU/HPC/AI調度系統比較，不管是系統本身還是界面設計，都更具領(lǐng)先性。

　　后臺的管理：AIStation在后臺開(kāi)始運行后，大部分日常管理工作都可以使用腳本或通過(guò)Web GUI完成。管理員可以深入查看各個(gè)節點(diǎn)的負載、硬件配置，甚至可以追蹤從用戶(hù)到容器、硬件，再到單個(gè)GPU的整個(gè)流程。

　　浪潮AIStation管理/GPU監控&節點(diǎn)監控'''
 

　　浪潮AIStation管理員/新建資源組

　　比如，一家公司可能不會(huì )讓一個(gè)實(shí)習生100％使用整個(gè)集群或訪(fǎng)問(wèn)敏感的訓練數據/模型，而會(huì )把優(yōu)先權給到深度學(xué)習專(zhuān)家組成的內部咨詢(xún)小組。AIStation的主要價(jià)值主張是通過(guò)單個(gè)系統進(jìn)行全面管理。

　　浪潮AIStation/Admin系統管理/用戶(hù)管理

　　浪潮AIStation 開(kāi)發(fā)平臺/容器監控

　　AIStation還具有相當全面的可視化界面，用于監控集群，界面上可以看到CPU、GPU和內存的利用率等信息。在集群生命周期管理方面，這類(lèi)數據可幫助管理員查看資源配置情況以及系統容量。

　　例如，如果集群以50％的CPU、60％的GPU、95％的內存運行，這就充分說(shuō)明下一代節點(diǎn)需要更多的內存容量。

　　浪潮AIStation管理員/報告管理/資源數據

　　管理員用戶(hù)還可以查看已完成的任務(wù)，以查看用戶(hù)先前運行的內容，包括作業(yè)是否成功。在某些情況下，人們會(huì )在公司GPU集群上挖掘加密貨幣。此類(lèi)功能可根據已運行的內容進(jìn)行審核跟蹤，這項功能非常重要。

　　浪潮AIStation管理員/訓練管理/已完成任務(wù)

　　除了上述功能之外，另一個(gè)重要功能是管理用戶(hù)在系統中擁有的資源。接下來(lái)，我們會(huì )從用戶(hù)的角度進(jìn)行詳細闡述。

　　登錄AIStation時(shí)可以看到這個(gè)界面。這里面許多使用限制是通過(guò)管理板塊中顯示的用戶(hù)、組和資源組功能定義的。每個(gè)用戶(hù)都可以訪(fǎng)問(wèn)到一組資源。

　　浪潮AIStation用戶(hù)界面

　　鏡像查看：開(kāi)發(fā)人員如果要開(kāi)始訓練任務(wù)，可以查看可訓練的鏡像。這些鏡像很重要，因為在系統中創(chuàng )建任務(wù)時(shí)，它們就是可能正在使用的鏡像。它可以是來(lái)自NVIDIA GPU Cloud的鏡像或更加標準的鏡像。AIStation還具有組鏡像甚至用戶(hù)鏡像的功能，讓用戶(hù)可以更輕松地選擇容器鏡像。

　　用戶(hù)可以看到個(gè)人、組和公共鏡像。管理員可以將鏡像定義為個(gè)人鏡像或公共鏡像，將敏感鏡像的查看權限僅開(kāi)放給特定組或員工，這點(diǎn)也非常重要。

　　浪潮AIStation用戶(hù)/鏡像管理

　　框架選擇與任務(wù)設置：浪潮AIStation支持多種框架，用戶(hù)可以使用tensorflow、pytorch、paddlepaddle或其他框架。

　　注：開(kāi)發(fā)用戶(hù)通過(guò)界面化的方式選擇所需要的鏡像和資源配置，系統秒級完成資源配置，快速創(chuàng )建開(kāi)發(fā)環(huán)境。平臺內置juputer和webshll開(kāi)發(fā)工具，保證用戶(hù)快速進(jìn)入模型開(kāi)發(fā)。

　　從用戶(hù)的角度來(lái)看，他們可以查看哪些數據集可供使用。用戶(hù)能夠將容器圖像、節點(diǎn)/物理資源和訓練數據相關(guān)聯(lián)。而管理員可以對這些數據集設置權限。這一點(diǎn)很重要，因為有些數據集只有指定用戶(hù)才能查閱、使用和下載。

　　在A(yíng)IStation中還可以加載Jupyter筆記本，直接編輯python文件，并且可以將筆記本保存在集群的存儲后臺，并輕松與其他用戶(hù)共享。

　　浪潮AIStation用戶(hù)平臺/開(kāi)發(fā)平臺/Jupyter

　　浪潮AIStation/訓練任務(wù)設置

　　注：用戶(hù)可以圖形化的方式提交分布式訓練任務(wù)，快速在K8S系統中展開(kāi)分布式訓練，并通過(guò)優(yōu)化調度策略保證分布式訓練資源快速準確分配。

　　可視化操作：?jiǎn)��?dòng)任務(wù)后，AIStation平臺將集成許多可視化工具。例如，您可以啟動(dòng)Tensorboard、Visdom或Netscope等工具，從下拉菜單中顯示可視化效果；用戶(hù)可以直接從Web GUI進(jìn)入容器的終端。

　　訓練作業(yè)可能要花數小時(shí)或數天，用戶(hù)可隨時(shí)查看當前作業(yè)狀態(tài)進(jìn)度、檢查結果以及待處理的作業(yè)及其歷史。

　　浪潮AIStation用戶(hù)開(kāi)發(fā)平臺可視化Tensorboard

　　03. 對話(huà)浪潮劉軍

　　AIStation上市戰略方面，我們采訪(fǎng)了浪潮AI&HPC總經(jīng)理劉軍。

　　劉軍：AIStation有直接銷(xiāo)售和渠道銷(xiāo)售兩種銷(xiāo)售方式，我們在全球有數十個(gè)渠道合作伙伴出售AIStation。

　　劉軍：是的，AIStation能夠集成其他供應商的集群節點(diǎn)。

　　劉軍：AIStation發(fā)布于2019年4月，目前已已實(shí)際應用于金融、教育、互聯(lián)網(wǎng)和智慧城市等行業(yè)。

　　劉軍：AIStation專(zhuān)為深度學(xué)習開(kāi)發(fā)領(lǐng)域而設計，適用于金融、互聯(lián)網(wǎng)、通信、交通、醫療和教育等行業(yè)的大小型企業(yè)。

　　劉軍：按GPU服務(wù)器節點(diǎn)出售。

　　劉軍：用戶(hù)可享受三年內AIStation的免費升級服務(wù)，然后需要購買(mǎi)新密鑰進(jìn)行升級。

　　劉軍：未來(lái)AIStation將支持更多的AI加速器，并實(shí)現資源管理、調度、監控、優(yōu)化等方面的異構加速。我們將建立一個(gè)更全面的AI開(kāi)發(fā)生態(tài)系統，為行業(yè)主流AI開(kāi)發(fā)工具、開(kāi)發(fā)框架和深度學(xué)習模型提供一個(gè)集成的開(kāi)發(fā)平臺。

　　最后我想強調一下在此展示AIStation的動(dòng)手視圖和上市策略的原因。AIStation發(fā)布第一年即獲得不俗的軟件銷(xiāo)售額。要是看到他們所投資公司的AI管理軟件平臺首年就獲得如此成績(jì)，投資者一定會(huì )非常興奮。重點(diǎn)是，盡管浪潮將其作為產(chǎn)品發(fā)布，但實(shí)際上它已經(jīng)有很多付費客戶(hù)。這些客戶(hù)已經(jīng)在使用此解決方案來(lái)管理其AI集群和開(kāi)發(fā)團隊。

　　結合當前的功能，再想想異構加速器的概念，就能馬上明白該解決方案的前景。隨著(zhù)組織中集群的增多，調度和管理集群資源將成為越來(lái)越嚴峻的挑戰，浪潮AIStation的作用也將進(jìn)一步凸顯。

　　掃碼獲取AIStation技術(shù)白皮書(shū)

　　閱讀原文獲取完整評測內容

　　*注：浪潮今年重磅發(fā)布了元腦生態(tài)計劃，在元腦生態(tài)中浪潮將與合作伙伴共享三大核心平臺能力，包括AI計算平臺、AI資源平臺和AI算法工具平臺。其中AIStation作為AI資源平臺具備重要的作用，構建開(kāi)放的AI創(chuàng )新生態(tài)，無(wú)縫對接行業(yè)ISV，賦能生態(tài)伙伴，兼容各AI應用和場(chǎng)景。目前AIStation已經(jīng)聚合了包含百度、第四范式、英特爾、英偉達、VMware等數十家家企業(yè)的AI框架、模型和工具組件，已應用到互聯(lián)網(wǎng)、通信、金融、交通、制造、醫療等場(chǎng)景中，成為生態(tài)豐富的人工智能資源平臺。