• <strike id="fdgpu"><input id="fdgpu"></input></strike>
    <label id="fdgpu"></label>
    <s id="fdgpu"><code id="fdgpu"></code></s>

  • <label id="fdgpu"></label>
  • <span id="fdgpu"><u id="fdgpu"></u></span>

    <s id="fdgpu"><sub id="fdgpu"></sub></s>
    您當前的位置是:  首頁(yè) > 資訊 > 國內 >
     首頁(yè) > 資訊 > 國內 >

    大模型一體機塞進(jìn)這款游戲卡,價(jià)格砍掉一個(gè)數量級

    2025-04-10 11:03:46   作者:   來(lái)源:   評論:0  點(diǎn)擊:


      來(lái)源:量子位 作者:金磊 夢(mèng)晨

      家人們,你知道近段時(shí)間大火的各種大模型一體機,里面到底是什么卡嗎?

      相信很多小伙伴的第一反應,或許就是N卡。

      但在我們接觸、體驗了真實(shí)的大模型一體機之后,發(fā)現了一個(gè)大寫(xiě)的“萬(wàn)萬(wàn)沒(méi)想到”:

      沒(méi)錯,里面也可以是英特爾的銳炫™ 顯卡!

      那這性能到底能不能跟上呢?

      帶著(zhù)這個(gè)問(wèn)題,在體驗之余,我們還“抓”來(lái)了一個(gè)正在為這種一體機開(kāi)發(fā)方案的軟件公司進(jìn)行了一番“盤(pán)問(wèn)”。

      這家公司叫飛致云,主要是把大模型一體機用在了自家的MaxKB上(一款基于大語(yǔ)言模型的知識庫問(wèn)答系統)。

      他們是把4張銳炫™ A770顯卡和2張N卡放到一起,做了一下對比測試:

      但是!

      買(mǎi)半張N卡的錢(qián),就能輕松搞定4張銳炫™ 顯卡。

      由此,飛致云給出了這樣一個(gè)結論:

      一個(gè)“性?xún)r(jià)比”關(guān)鍵詞,道破了為什么大模型一體機里面會(huì )出現英特爾游戲卡。

      畢竟之前企業(yè)要私有化部署一個(gè)目前最流行的DeepSeek一體機,那個(gè)價(jià)格可是動(dòng)輒便破百萬(wàn)元

      但現在,英特爾靠著(zhù)自家的游戲卡,把這個(gè)價(jià)格直接就砍掉一個(gè)數量級。

      因此,現在的大模型一體機,有了另一種更高性?xún)r(jià)比的選擇

      而且有一說(shuō)一,除了一體機本身,若是聚焦在AI推理的任務(wù)上,現在可以說(shuō)是處處都有銳炫™ 顯卡的影子。

      ##搞AI推理,請記住全新英特爾GPU+CPU組合

      首先要說(shuō)明的一點(diǎn)是,搞大模型一體機,英特爾靠的不僅僅是自家游戲卡那么簡(jiǎn)單。

      它的背后其實(shí)是一記組合拳的模式:

      英特爾銳炫™ 顯卡 至強® W處理器。

      銳炫™ 顯卡在這里面的角色不用多說(shuō),主要是推理的“加速器”

      而至強® W處理器不僅能充當“大腦”的角色,來(lái)負責通用計算與系統協(xié)調,還能在一些開(kāi)源軟件平臺,如KTransformer或英特爾自己開(kāi)發(fā)的工具,如FlashMOE的幫助下,與顯卡協(xié)作進(jìn)行異構加速,例如在DeepSeek中承擔一些稀疏MOE的處理工作。

      為了充分發(fā)揮銳炫™ 顯卡的能力,英特爾通過(guò)優(yōu)化顯存帶寬(如A770卡間通信達20G/秒)和低時(shí)延技術(shù)(如內存拷貝優(yōu)化),解決了多卡并行時(shí)的性能損耗問(wèn)題,提升了吞吐量(如70B模型支持12路實(shí)時(shí)聊天)。

      即便對于不同規模場(chǎng)景,英特爾也能做到適配——從供AGI開(kāi)發(fā)人員使用的工作站(2卡)到裝載4卡或8卡的大尺寸一體機,能滿(mǎn)足多樣化且差異化的需求。

      例如我們剛才提到的飛致云的MaxKB,在知識問(wèn)答、智能客服、內容生成、文檔合規檢查等場(chǎng)景中就實(shí)現了效率提升、成本優(yōu)化和風(fēng)險控制。

      同時(shí)依托高性能硬件解決了AI模型私有化部署與算力需求問(wèn)題。

      除此之外,我們發(fā)現還有好多企業(yè)都在選擇構建英特爾這對CPU與GPU組合的一體機系統、軟件或整體解決方案。

      超云,便是其中之一。

      超云基于英特爾的平臺,打造了三種不同形態(tài)的設備。

      例如適應普通辦公環(huán)境的塔式工作站、小型液冷一體機,支持包含英特爾銳炫™ 顯卡在內的2-4張GPU卡。

      再如最高可配8卡的大尺寸高端一體機,可運行32B-70B參數規模的大模型。

      據了解,所有這些機型都已經(jīng)投入到了實(shí)際使用當中,主打:

      · 企業(yè)內部AI助手:超云自身使用開(kāi)源模型搭建知識庫系統,實(shí)現自動(dòng)化報價(jià)、報銷(xiāo)審批;

      · 金融行業(yè)智能投顧:基于32B蒸餾模型,提供實(shí)時(shí)數據分析與投資建議;

      · 海量文檔處理:使用智能OCR+大模型,實(shí)現公文自動(dòng)歸檔與檢索。

      與之類(lèi)似的還包括云尖

      它推出邊緣推理工作站,可支持4張GPU卡,適用7B-32B輕量化模型,可以滿(mǎn)足文檔OCR、智能質(zhì)檢等企業(yè)本地化AI應用。

      此外,已經(jīng)pick英特爾平臺的一體機解決方案還有很多,未來(lái)可能還會(huì )有更多,而如此多合作伙伴的一致選擇,也就不難從側面印證一點(diǎn):

      不論是單純的AI推理應用,亦或是融合了推理及各種可視化生產(chǎn)力應用的復合場(chǎng)景,英特爾這套組合拳,已然成為了一種業(yè)界公認的、高性?xún)r(jià)比的新選項。

      ##一體機,為什么紛紛選擇英特爾平臺?

      自春節前DeepSeek-R1驚艷亮相,經(jīng)過(guò)兩個(gè)多月的沉淀,從行業(yè)落地情況來(lái)看,明顯呈現出一個(gè)趨勢:

      越來(lái)越多的企業(yè)選擇以一體機的形式將DeepSeek融入業(yè)務(wù)。而這一趨勢,也在影響其他大模型落地的“姿式”。

      而部署速度快,正是這一趨勢得以率先顯現的原因。

      一方面,得益于一體機開(kāi)箱即用且方便為各垂直行業(yè)深度定制化的特點(diǎn),預裝模型、優(yōu)化軟硬件協(xié)同,讓企業(yè)無(wú)需自行復雜調試。

      另一方面,啟動(dòng)成本低的優(yōu)勢讓企業(yè)能先用一體機把大模型跑起來(lái),再慢慢迭代。

      當然,對于眾多企業(yè)而言,在選擇一體機時(shí),除了追求速度優(yōu)勢之外,實(shí)際上還有著(zhù)更多深層次、全方位的考量因素,這些因素綜合起來(lái)影響著(zhù)企業(yè)的決策:

      ·性能與成本更平衡,運營(yíng)成本降低

      一體機可實(shí)現性能與成本的精妙平衡,其憑借強大高效的硬件配置和優(yōu)化的軟件系統,為企業(yè)提供穩定高效算力,滿(mǎn)足業(yè)務(wù)需求,避免使用云算力的持續費用,降低運營(yíng)成本。

      ·運維簡(jiǎn)化

      傳統 IT 系統由多種硬件設備和軟件系統組成,運維管理復雜繁瑣,企業(yè)需投入大量人力、物力和時(shí)間進(jìn)行安裝、配置、維護和更新。而一體機將軟硬件深度集成為統一整體,簡(jiǎn)化了運維流程,企業(yè)統一管理維護即可應對業(yè)務(wù)需求和技術(shù)挑戰,運維效率大幅提高,而管理難度和成本都顯著(zhù)降低。

      ·穩定可靠

      對AI業(yè)務(wù)而言,連續性和穩定性很重要。一體機軟硬件經(jīng)嚴格集成測試與優(yōu)化,能在復雜環(huán)境長(cháng)時(shí)間穩定運行。同時(shí)可以專(zhuān)機專(zhuān)用,避免云服務(wù)在高峰期造成速度和可用性上的波動(dòng)。

      英特爾所推出的銳炫™ 顯卡與至強® W處理器的組合,正是一套滿(mǎn)足以上因素的極具潛力的解決方案。

      像這樣的配置,不光能夠很好地支持DeepSeek R1系列,同時(shí)還與Qwen、Baichuan、Llama等多個(gè)開(kāi)源模型兼容適配。

      這意味著(zhù)在不同的應用場(chǎng)景和業(yè)務(wù)需求下,這個(gè)組合都能靈活應對,為企業(yè)帶來(lái)多樣化的選擇和更豐富的功能體驗。

      這些選擇,這些體驗,目標都只有一個(gè),那就是AI普惠或者說(shuō)AI無(wú)處不在!

      站在歷史的角度,一體機要承擔的使命,正是要將強大的AI模型引入各行各業(yè),這與計算機從大型機時(shí)代發(fā)展至個(gè)人計算機(PC)時(shí)代的進(jìn)程類(lèi)似。

      包括DeepSeek在內的大模型前沿創(chuàng )新企業(yè)選擇開(kāi)源,是激發(fā)這一進(jìn)程的起點(diǎn),而整個(gè)進(jìn)程能否迅速演進(jìn),就要靠全行業(yè)的共同參與了。

      英特爾在此時(shí),就像穿越回了上世紀80年代,那時(shí)它曾憑借開(kāi)放架構和高性?xún)r(jià)比方案重新定義了PC,并拉著(zhù)全球的合作伙伴們一手促成了PC真正意義上的“個(gè)人化”普及,而今,到了在A(yíng)I世界復刻這一成功經(jīng)驗的時(shí)候了。

    【免責聲明】本文僅代表作者本人觀(guān)點(diǎn),與CTI論壇無(wú)關(guān)。CTI論壇對文中陳述、觀(guān)點(diǎn)判斷保持中立,不對所包含內容的準確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考,并請自行承擔全部責任。

    相關(guān)閱讀:

    專(zhuān)題

    CTI論壇會(huì )員企業(yè)

    亚洲精品网站在线观看不卡无广告,国产a不卡片精品免费观看,欧美亚洲一区二区三区在线,国产一区二区三区日韩 西安市| 祁连县| 阳朔县| 根河市| 南溪县| 乌苏市| 色达县| 砚山县| 图木舒克市| 巴彦县| 玉树县| 高密市| 九龙坡区| 武乡县| 黑龙江省| 鹤山市| 莱西市| 房产| 鄂托克旗| 祥云县| 枝江市| 鄯善县| 喀什市| 房产| 封开县| 崇文区| 百色市| 宁安市| 抚州市| 兴海县| 安岳县| 通州市| 安康市| 玉田县| 丰原市| 同心县| 本溪市| 平阳县| 苍南县| 武鸣县| 衡南县| http://444 http://444 http://444 http://444 http://444 http://444