
華為EBG中國區行業(yè)云拓展部部長(cháng)胡維琦做現場(chǎng)發(fā)布
全球首發(fā)GPU共享型高性能AI容器
讓人工智能觸手可及
當下,人工智能已成為各行各業(yè)的熱點(diǎn)和趨勢,在實(shí)際應用中,企業(yè)在不斷追求各類(lèi)AI計算場(chǎng)景下性能和成本的極致體驗。容器以其獨特的技術(shù)優(yōu)勢,已經(jīng)成為業(yè)界主流AI計算框架(如Tensorflow、Caffe)的核心引擎。華為云為了進(jìn)一步解決企業(yè)在A(yíng)I計算性能與成本上面臨的問(wèn)題,為企業(yè)量身打造了AI容器產(chǎn)品。
華為云AI容器是全球首款支持共享GPU的高性能容器產(chǎn)品,在業(yè)界首家實(shí)現了多容器共享GPU資源,大幅降低了AI計算的成本,并在A(yíng)I計算性能上比通用方案提升了3-5倍以上。

極致性能
裸金屬NUMA架構與高速I(mǎi)B網(wǎng)卡,性能提升3-5倍
在典型的深度學(xué)習模型訓練場(chǎng)景下,需要傳輸和處理海量的數據。
華為云AI容器運行在高性能的裸金屬服務(wù)器上,并通過(guò)NUMA架構和100G IB網(wǎng)卡實(shí)現高速、低延遲的大數據量傳輸,讓GPU充分發(fā)揮大規模并行計算的優(yōu)勢,從而大幅縮短訓練的時(shí)間。經(jīng)實(shí)踐驗證,深度學(xué)習訓練對比傳統GPU加速方式能夠進(jìn)一步提升3-5倍。
高效計算
GPU資源多容器共享調度,計算成本大幅降低
華為云通過(guò)優(yōu)化K8S容器調度引擎,能夠為容器中的AI計算任務(wù)分配更細粒度的GPU資源,實(shí)現多個(gè)AI計算任務(wù)共享GPU,在部分AI計算如推理類(lèi)場(chǎng)景中能夠實(shí)現更高的資源利用率,從而大幅降低AI計算成本。
成熟應用
主流GPU型號全適配,并在華為云EI產(chǎn)品大規模使用
華為云AI容器已完成多款主流GPU的適配,包括 Nvidia Tesla P4/P100/V100等產(chǎn)品系列,客戶(hù)可根據不同應用場(chǎng)景靈活選取,以達到最高的性?xún)r(jià)比。
華為云AI容器支持Tensorflow、Caffe等主流深度學(xué)習框架,并在華為云EI的深度學(xué)習、推理平臺、人臉/圖像/文字識別等多個(gè)服務(wù)得到廣泛應用與驗證。
國內首發(fā)公有云Istio服務(wù)網(wǎng)格
讓云原生應用治理更簡(jiǎn)單
華為EBG中國區行業(yè)云拓展部部長(cháng)胡維琦現場(chǎng)分享到:“在Cloud 2.0時(shí)代,容器技術(shù)解決了應用快速部署、上線(xiàn)、升級與彈性伸縮等運維效率問(wèn)題,但應用運行時(shí)的灰度發(fā)布、流量治理與健康管理等方面仍存在諸多難點(diǎn)。Istio是云原生Cloud Native生態(tài)的重要一環(huán),通過(guò)提供完整的非侵入式的微服務(wù)治理解決方案,能夠很好地解決云原生應用的管理、網(wǎng)絡(luò )連接以及安全管理等應用網(wǎng)絡(luò )治理問(wèn)題。”
華為云在云容器引擎CCE中深度集成了Istio最新版本,并在易用性、可靠性、可視化等方面進(jìn)行了一系列增強。

一鍵啟動(dòng),與容器引擎無(wú)縫整合
無(wú)需用戶(hù)自行安裝,華為云容器引擎CCE已實(shí)現Istio的深度集成,只需在創(chuàng )建集群時(shí)做一次簡(jiǎn)單勾選,即可在集群和應用中啟用完整的Istio服務(wù)網(wǎng)格,實(shí)現了開(kāi)箱即用。
內置多種灰度發(fā)布流程,確保應用平滑升級
應用上線(xiàn)后,運維面臨的一大挑戰是如何不中斷業(yè)務(wù)升級,華為云Istio服務(wù)網(wǎng)格內置了金絲雀、A/B Testing等多種灰度發(fā)布策略,完美地解決了這一難題。用戶(hù)還可自定義配置,實(shí)現更多復雜流量策略。
圖形化應用拓撲,讓流量治理可視化
華為云Istio服務(wù)網(wǎng)格提供了可視化的流量監控,異常響應、超長(cháng)響應時(shí)延、流量狀態(tài)信息拓撲等一目了然;同時(shí),結合華為云AOM/APM服務(wù),提供了詳細的微服務(wù)級流量監控、異常響應流量報告以及調用鏈信息,實(shí)現更快速、更精準的問(wèn)題定位。
智能路由與彈性流量管理,讓流量治理更輕松
華為云Istio服務(wù)網(wǎng)格支持根據微服務(wù)的流量協(xié)議,提供策略化、場(chǎng)景化的網(wǎng)絡(luò )連接、安全策略管理能力。支持基于應用拓撲對服務(wù)配置負載均衡、熔斷容錯等治理規則,并提供實(shí)時(shí)的、可視化的微服務(wù)流量管理。應用無(wú)需任何改造,即可進(jìn)行動(dòng)態(tài)的智能路由和彈性流量管理。
云容器引擎CCE(Cloud Container Engine)是華為云提供的企業(yè)級容器應用管理服務(wù),致力于為客戶(hù)提供高安全、高可靠、端到端的容器全棧解決方案,完全兼容Kubernetes社區原生應用和工具,大幅簡(jiǎn)化了云上自動(dòng)化容器運行環(huán)境搭建。
目前AI容器與Istio服務(wù)已在華為云的CCE容器服務(wù)中開(kāi)展公測
掃描下方二維碼
申請試用
