據了解，人工智能模型需要用大量的數據進(jìn)行訓練，以提高其準確性和性能。訓練完成后，人工智能模型就可以用于推理，即執行一些具體的任務(wù)，比如根據輸入生成文本回復，或者判斷一張圖片是否包含貓。推理是人工智能技術(shù)在產(chǎn)品中廣泛應用的環(huán)節，但也會(huì )增加企業(yè)的成本，其中一個(gè)主要成本就是電力。
高通公司利用其在為手機等低功耗設備設計芯片的經(jīng)驗，推出了一款專(zhuān)為云端和邊緣端提供高性能、低功耗人工智能處理的芯片，名為 Cloud AI 100.該芯片在周三公布的由 MLCommons(一個(gè)維護人工智能芯片行業(yè)測試標準的工程聯(lián)盟)發(fā)布的測試數據中，在兩項功率效率指標上擊敗了英偉達的旗艦芯片 H100.
功率效率指標是指每瓦特電力可以執行多少次服務(wù)器查詢(xún)。高通的 Cloud AI 100 在圖像分類(lèi)方面達到了 227.4 次查詢(xún)每瓦特，而英偉達的 H100 只有 108.4 次查詢(xún)每瓦特，圖像分類(lèi)可以用于識別圖片中的物體或場(chǎng)景。高通還在物體檢測方面領(lǐng)先于英偉達，分別達到了 3.8 次查詢(xún)每瓦特和 2.4 次查詢(xún)每瓦特。物體檢測可以用于分析零售店的監控視頻，了解顧客最常去哪些地方。
然而，在自然語(yǔ)言處理方面，英偉達卻占據了絕對優(yōu)勢，無(wú)論是在性能還是功率效率方面都排名第一。自然語(yǔ)言處理是人工智能技術(shù)中最廣泛應用于聊天機器人等系統的技術(shù)，英偉達達到了 10.8 次查詢(xún)每瓦特，而高通排名第二，為 8.9 次查詢(xún)每瓦特。
高通和英偉達都希望通過(guò)提供高效的人工智能芯片來(lái)?yè)屨紨祿行氖袌?chǎng)的份額。隨著(zhù)越來(lái)越多的企業(yè)將人工智能技術(shù)融入他們的產(chǎn)品中，這個(gè)市場(chǎng)預計將快速增長(cháng)。
