深信服創(chuàng )新研究院AI專(zhuān)家孟賓賓
觀(guān)點(diǎn)一越來(lái)越多的AI應用下沉到邊緣端
孟賓賓首先對AI產(chǎn)業(yè)的發(fā)展進(jìn)行了分析，他認為當下的AI應用正在逐漸下沉到邊緣端和設備端，而這個(gè)趨勢主要有四個(gè)驅動(dòng)因素。
首先，邊緣計算場(chǎng)景的興起會(huì )使得AI應用的體驗變得更好。在無(wú)人駕駛、語(yǔ)音識別這樣的實(shí)時(shí)計算場(chǎng)景里，要求AI應用需要達到毫秒級的實(shí)時(shí)響應，如果不能達到這個(gè)要求，則應用就不能落地。采用云端的方案，延遲可能達到數百毫秒，而下沉到邊緣端則可以做到幾毫秒延遲。
其次，隨著(zhù)AI場(chǎng)景的數據量不斷增加，邊緣到云端的數據通信以及對帶寬的要求逐漸加大，有一些任務(wù)下沉到本地，會(huì )使帶寬的壓力大大減小。
第三，可以解決鏈接問(wèn)題，通過(guò)邊緣將現實(shí)生產(chǎn)環(huán)境與數字化云環(huán)境（私有云）鏈接打通，通過(guò)邊緣采集實(shí)際生產(chǎn)數據做數據價(jià)值挖掘、數據智能模型沉淀，再通過(guò)云邊管道注入到邊緣賦能生產(chǎn)，真正形成數智化落地閉環(huán)，幫助組織加速數智化落地速度，解決實(shí)際問(wèn)題。
第四，邊緣端的系統部署和維護更簡(jiǎn)單，同時(shí)邊緣設備的AI能力可以進(jìn)行動(dòng)態(tài)擴展。在實(shí)際部署環(huán)境中，設備部署完之后可以添加不同AI推理的模型和能力，還可以通過(guò)云邊協(xié)同系統，讓它能夠像安裝手機APP一樣，能夠動(dòng)態(tài)地更新和下載。
第五，下沉到邊緣端后，AI應用的數據隱私保護能力可以得到提升。在邊緣端，AI應用的數據可以本地采集、本地處理，有效的減少了數據暴露在公共網(wǎng)絡(luò )的機會(huì )，因此大大降低了發(fā)生數據安全問(wèn)題的風(fēng)險。
觀(guān)點(diǎn)二邊緣AI的趨勢與挑戰
在A(yíng)I技術(shù)的發(fā)展和落地方面，孟賓賓也分享了自己的看法。他提出了四個(gè)技術(shù)發(fā)展趨勢：
- AI框架和AI芯片硬件方案多樣性增加，而且國內的服務(wù)商在快速崛起；
- AI模型復雜度和業(yè)務(wù)數據量越來(lái)越大，對計算優(yōu)化需求越來(lái)越明顯；
- 邊緣AI需求呈碎片化，需要場(chǎng)景化來(lái)解決用戶(hù)實(shí)際問(wèn)題，單一通用算法難以實(shí)現，這就對算法跨場(chǎng)景遷移，多算法的升級部署，算法本身的持續迭代維護的需求會(huì )越來(lái)越明顯。
- 場(chǎng)景化的AI+業(yè)務(wù)能力也是必須要考慮的一個(gè)維度，深入+AI的場(chǎng)景都需要對現場(chǎng)業(yè)務(wù)邏輯很好的理解，支撐甚至融合，所以多元數據分析及業(yè)務(wù)融合也是一個(gè)現實(shí)需求。
與此同時(shí)，要讓邊緣AI遍地開(kāi)花，需要解決四個(gè)方面的挑戰。
首先，軟、硬件異構導致兼容適配難度高。由于底層AI芯片和框架的方案很多，AI應用的開(kāi)發(fā)者在做軟硬協(xié)同及適配開(kāi)發(fā)時(shí)難度會(huì )非常高，場(chǎng)景化多算法注入及協(xié)同則更困難。
其次，邊緣設備資源受限，對性能要求高。相較于中心云服務(wù)器，邊緣節點(diǎn)的資源配置有限，難以運行大而全的復雜模型。將云端訓練好的AI算法模型遷移至資源、算力相對有限的邊緣節點(diǎn)，算法開(kāi)發(fā)人員需要做大量模型量化、優(yōu)化以及算子層面的調整工作，過(guò)程繁雜，優(yōu)化效果高度依賴(lài)開(kāi)發(fā)者經(jīng)驗。
第三，邊緣環(huán)境變化導致邊緣AI模型漂移。隨著(zhù)環(huán)境變化，數據分布存在差異，這導致在實(shí)驗室采集樣本訓練出的模型在邊緣場(chǎng)景下識別率降低。
第四，邊緣端雖然在數據隱私上有較大幫助，但環(huán)境不確定因素導致的安全問(wèn)題及邊緣設備本體安全也是一個(gè)必須要考慮的問(wèn)題。
這些問(wèn)題無(wú)法解決，邊緣端的AI應用就難以落地。
觀(guān)點(diǎn)三云邊協(xié)同的解決之道
孟賓賓在活動(dòng)現場(chǎng)分享了信服云針對以上挑戰的解決之道——信服云邊緣智能計算平臺。
信服云邊緣智能計算平臺
孟賓賓介紹，目前信服云邊緣智能計算平臺可以接入、管理各種異構的邊緣傳感器設備，并通過(guò)邊緣計算一體機結合AI算法在本地進(jìn)行智能處理，把初步處理的結果數據上傳到云端進(jìn)行應用層面的管理。在這個(gè)過(guò)程中，邊緣計算應用ISV開(kāi)發(fā)人員可以通過(guò)深信服自研的容器云管平臺對邊緣計算一體機和云端上的任務(wù)進(jìn)行統一編排和調度。
對于邊緣計算應用ISV開(kāi)發(fā)人員而言，信服云邊緣智能計算平臺最為核心的能力是，為智能化場(chǎng)景業(yè)務(wù)開(kāi)發(fā)工作提供了一個(gè)云邊協(xié)同的智能計算平臺。在這個(gè)平臺上，AI數據、訓練、邊緣推理計算優(yōu)化和服務(wù)部署工具可以形成一個(gè)高效地運作的閉環(huán)，AI模型可以被部署到設備上運行，運行過(guò)程中又可以指導模型的調優(yōu)，甚至收集新的增量數據。這樣的開(kāi)發(fā)模式可以大幅提升開(kāi)發(fā)者的開(kāi)發(fā)速度，降低開(kāi)發(fā)門(mén)檻，保證開(kāi)發(fā)質(zhì)量，同時(shí)能夠讓開(kāi)發(fā)的業(yè)務(wù)快速的就緒部署到實(shí)際業(yè)務(wù)環(huán)境中，形成一個(gè)良性閉環(huán)。
“信服云想要打造下一代簡(jiǎn)單易用、靈活高性能、結果可信的云邊協(xié)同的算法開(kāi)發(fā)訓練交付平臺。”孟賓賓在演講最后透露，信服云邊緣智能計算平臺已經(jīng)在一些智慧園區和智慧交通的場(chǎng)景中進(jìn)行了應用，并幫助不少AI應用開(kāi)發(fā)者減少了開(kāi)發(fā)成本，節省了邊緣AI應用落地的開(kāi)發(fā)時(shí)間。“未來(lái)，信服云邊緣智能計算平臺會(huì )面向更多的智慧場(chǎng)景，如：智慧電網(wǎng)、智慧能源、智慧工廠(chǎng)、智慧水利、智慧礦山等場(chǎng)景，面向更廣泛的行業(yè)的AI生態(tài)伙伴以及邊緣計算應用ISV開(kāi)放。我們希望擁抱整個(gè)生態(tài)，和大家一起在人工智能領(lǐng)域，在邊緣計算領(lǐng)域做一些有意義的事情，為更多用戶(hù)創(chuàng )造一個(gè)簡(jiǎn)單、安全、可閉環(huán)、有價(jià)值的智能化業(yè)務(wù)落地體驗，幫助用戶(hù)實(shí)現更簡(jiǎn)單、更安全的數字化轉型及智能化升級。”
信服云：助力數據中心云化演進(jìn) 在云計算業(yè)務(wù)上，深信服作為成長(cháng)迅猛的創(chuàng )新云計算廠(chǎng)商，致力于為全球用戶(hù)交付省時(shí)省事、平滑彈性、安全可靠、業(yè)務(wù)承載豐富的數據中心云化的優(yōu)選方案及服務(wù)，解決用戶(hù)數字化轉型各階段核心問(wèn)題，解放生產(chǎn)力，專(zhuān)注業(yè)務(wù)創(chuàng )新。
