讓數據可用不可見(jiàn)的“隱私計算”,由此被越來(lái)越頻繁地提及。有人打了一個(gè)形象的比喻:隱私計算就像是一個(gè)黑箱,人們不需要看到黑箱內是如何運作的,卻可以得到想要運算結果,可以說(shuō)是“魚(yú)與熊掌”兼得的最優(yōu)解。
在大廠(chǎng)扎堆的隱私計算賽道中,有一個(gè)“黑馬”級的創(chuàng )新團隊——沖量在線(xiàn),成立僅三年多時(shí)間就躋身國內隱私計算第一梯隊,并頻頻在人工智能應用落地有關(guān)的重量級比賽中嶄露頭角。
首創(chuàng )隱私計算與海光異構加速卡結合,性能比肩國際主流產(chǎn)品
可能不少人對“沖量在線(xiàn)”這個(gè)名字還有些陌生,卻是隱私計算賽道中名符其實(shí)的實(shí)力派選手。
2022年6月,沖量在線(xiàn)與中科海光聯(lián)合推出了全國產(chǎn)化的異構加速隱私計算一體機,將適用于CPU芯片上的CSV技術(shù)與海光芯片異構加速芯片直通,利用GPU資源加速TEE中的隱私計算。和市場(chǎng)上的其他可信方案相比,沖量在線(xiàn)的異構加速隱私計算一體機表現出了多方面的優(yōu)勢:
第一,在整個(gè)機器學(xué)習的訓練和推理過(guò)程中,數據無(wú)需落盤(pán),保證數據不存在隱私泄露的困擾;
第二,基于海光異構加速卡,保證上層基于深度學(xué)習框架上的AI應用和隱私計算算法不需要修改;
第三,攜手海光,實(shí)現底層核心的自主、安全,達成了端到端的軟硬件全國產(chǎn)化。
目前,沖量在線(xiàn)基于海光的異構加速機密計算產(chǎn)品已經(jīng)在中國電信和浦發(fā)銀行的項目中落地,安全性能可以比肩國際主流產(chǎn)品,是國內首個(gè)基于GPU的TEE方案,可同時(shí)滿(mǎn)足大規模數據訓練推理的高性能和安全需求。
打通隱私計算“最后一公里”,需要產(chǎn)業(yè)鏈互促共贏(yíng)
在沖量在線(xiàn)的異構加速隱私計算一體機方案中,“AI安全開(kāi)放平臺”是一個(gè)不可或缺的模塊,用于實(shí)現AI安全對外共享服務(wù)的場(chǎng)景,也就是現在很流行的可信MaaS平臺(Model as a Service)。
而沖量在線(xiàn)“AI安全開(kāi)放平臺”的誕生契機,則是第二屆光合組織解決方案大賽。通過(guò)大賽這一平臺,沖量在線(xiàn)加深與了海光的合作。在經(jīng)歷了長(cháng)達7個(gè)月的研發(fā)“急行軍“后,雙方聯(lián)合推出了“沖量AI安全開(kāi)放平臺”。該平臺為政務(wù)、金融、算力中心等領(lǐng)域提供安全可靠的AI服務(wù)。
銀行等金融機構通過(guò)“AI安全開(kāi)放平臺”,將成熟應用的AI能力(OCR能力、NLP能力等) 向第三方輸出,無(wú)需修改AI應用和隱私計算算法,就能對外提供隱私計算AI SaaS服務(wù)。這不僅可以保證第三方提交的合同、數據等信息的安全,也能保證銀行AI算法的安全性,在全面可控的隱私計算機制下實(shí)現數據資產(chǎn)的價(jià)值變現。
沖量在線(xiàn)合伙人、解決方案總經(jīng)理黃淼介紹:“在整個(gè)比賽過(guò)程中,光合組織給予了非常多的資源支持。比如一些深度學(xué)習框架,框架的開(kāi)發(fā)者并未對國產(chǎn)芯片進(jìn)行適配。比賽過(guò)程中,我們向海光提出了大量?jì)?yōu)化和適配需求,對方基本在一個(gè)禮拜內就能解決,可以明顯感受到國產(chǎn)軟硬件生態(tài)的持續改善。”
而國產(chǎn)生態(tài)的改善,帶來(lái)的直接結果就是業(yè)務(wù)量的激增。黃淼介紹,在某銀行AI SaaS服務(wù)的安全能力技術(shù)提升的項目招標中,參與投標的企業(yè)不乏一些知名的金融科技和AI公司,但最終中標的是沖量在線(xiàn)的產(chǎn)品和方案。因為沖量在線(xiàn)對業(yè)務(wù)的理解更加深刻,譬如如何將模型在國產(chǎn)芯片上運行和優(yōu)化,對外應該提供什么樣的接口,怎么和客戶(hù)的業(yè)務(wù)系統進(jìn)行集成等。
光合組織的第三屆解決方案大賽已經(jīng)啟動(dòng)。大賽設置了集智計劃(人工智能)、桃李計劃(教育信息化)、堡壘計劃(安全技術(shù)應用)三大細分賽道,優(yōu)勝者將贏(yíng)取超過(guò)1000萬(wàn)的資金及資源,參賽者將獲得專(zhuān)屬技術(shù)指導、產(chǎn)業(yè)資源對接、品牌推廣助力等多維度支持。
