NVIDIA 發(fā)布 NVIDIA NVLink Fusion?,這款全新芯片將助力行業(yè)用戶通過(guò)全球領(lǐng)先且廣泛采用的計(jì)算互連架構(gòu) —— NVIDIA NVLink? 打造的強(qiáng)健合作伙伴生態(tài)系統(tǒng),構(gòu)建半定制 AI 基礎(chǔ)設(shè)施。
MediaTek、Marvell、Alchip Technologies、Astera Labs、Synopsys 和 Cadence 是首批采用 NVLink Fusion 的廠商,可支持定制化芯片縱向擴(kuò)展(Scale-up)以滿足模型訓(xùn)練和代理式 AI 推理等要求嚴(yán)苛的工作負(fù)載的需求。使用 NVLink Fusion,富士通和 Qualcomm CPU 還可與 NVIDIA GPU 進(jìn)行整合,以構(gòu)建高性能的 NVIDIA AI 工廠。
NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示:“一場(chǎng)翻天覆地的變革正在發(fā)生:數(shù)據(jù)中心架構(gòu)數(shù)十年來(lái)首度必須從根本上徹底改變 —— AI 正在融入每個(gè)計(jì)算平臺(tái)。NVLink Fusion 將 NVIDIA AI 平臺(tái)和豐富的生態(tài)系統(tǒng)對(duì)外開(kāi)放,助力合作伙伴構(gòu)建專用 AI 基礎(chǔ)設(shè)施?!?/p>
NVLink Fusion 還為云服務(wù)商提供了便捷的途路,他們可以使用自定義 ASIC、NVIDIA 機(jī)架級(jí)系統(tǒng)和 NVIDIA 端到端網(wǎng)絡(luò)平臺(tái),將 AI 工廠擴(kuò)展到數(shù)百萬(wàn)個(gè) GPU。該平臺(tái)支持高達(dá) 800Gb/s的吞吐量,搭配 NVIDIA ConnectX?-8 SuperNIC、NVIDIA Spectrum-X? 以太網(wǎng)和 NVIDIA Quantum-X800 InfiniBand 交換機(jī),以及即將到來(lái)的光電一體化封裝網(wǎng)絡(luò)交換機(jī)。
相互關(guān)聯(lián)的技術(shù)生態(tài)系統(tǒng)
通過(guò) NVLink Fusion,超大規(guī)模企業(yè)可以與 NVIDIA 合作伙伴生態(tài)系統(tǒng)協(xié)作,無(wú)縫集成 NVIDIA 機(jī)架級(jí)解決方案,輕松部署至數(shù)據(jù)中心基礎(chǔ)設(shè)施。
MediaTek、Marvell、Alchip、Astera Labs、Synopsys 和 Cadence 等 AI 芯片制造合作伙伴使用 NVIDIA NVLink Fusion 技術(shù)打造可部署的自定義 AI 計(jì)算系統(tǒng)。
MediaTek 副董事長(zhǎng)兼 CEO Rick Tsai 表示:“借助我們的世界級(jí) ASIC 設(shè)計(jì)服務(wù)和在高速互連領(lǐng)域深厚的專業(yè)知識(shí),MediaTek 正與 NVIDIA 合作構(gòu)建下一代 AI 基礎(chǔ)設(shè)施。我們之間的合作始于汽車領(lǐng)域,現(xiàn)在進(jìn)一步延伸,讓我們能提供可擴(kuò)展、高效而靈活的技術(shù),以滿足云級(jí) AI 快速增長(zhǎng)的需求?!?/p>
Marvell 董事長(zhǎng)兼 CEO Matt Murphy 指出:“Marvell 正與 NVIDIA 合作,重新定義 AI 工廠集成的邊界。Marvell 定制芯片與 NVLink Fusion 相結(jié)合,為客戶構(gòu)建先進(jìn) AI 基礎(chǔ)設(shè)施提供了靈活、高性能的基礎(chǔ)架構(gòu),可滿足下一代萬(wàn)億級(jí)參數(shù) AI 模型需要的高帶寬、可靠性和敏捷性需求?!?/p>
Alchip CEO Johnny Shen 稱:“Alchip 正通過(guò)自己的設(shè)計(jì)和制造生態(tài)系統(tǒng),包括先進(jìn)工藝和經(jīng)驗(yàn)證的封裝技術(shù),以及在 ASIC 行業(yè)靈活的合作模式和支持,推動(dòng) NVLink Fusion 技術(shù)的普及應(yīng)用。我們致力于確保下一代 AI 模型能夠進(jìn)行高效訓(xùn)練和部署,以滿足未來(lái)智能應(yīng)用的需要?!?/p>
Astera Labs CEO Jitendra Mohan 表示:“長(zhǎng)久以來(lái)我們與 NVIDIA 緊密合作,現(xiàn)在能夠提供專為 NVLink Fusion 生態(tài)系統(tǒng)量身設(shè)計(jì)的連接解決方案,我們感到十分雀躍。低延遲、高帶寬的縱向擴(kuò)展互連產(chǎn)品與原生內(nèi)存語(yǔ)義支持相結(jié)合,對(duì)于最大限度地提高 AI 服務(wù)器利用率和性能至關(guān)重要。通過(guò) NVLink 解決方案,我們的縱向互連產(chǎn)品系列得到了擴(kuò)展,為超大規(guī)模廠商和企業(yè) AI 客戶提供了更多選項(xiàng),并加快了產(chǎn)品上市速度?!?/p>
Synopsys 總裁兼 CEO Sassine Ghazi 說(shuō):“數(shù)據(jù)中心正在轉(zhuǎn)型成為 AI 工廠,Synopsys 行業(yè)領(lǐng)先的 AI 芯片設(shè)計(jì)解決方案和基于標(biāo)準(zhǔn)的接口 IP 將成為關(guān)鍵推動(dòng)者。我們對(duì) NVIDIA NVLink Fusion 的支持,表明我們致力于為下一代 AI 和高性能計(jì)算構(gòu)建開(kāi)放、可擴(kuò)展的生態(tài)系統(tǒng)?!?/p>
Cadence 芯片解決方案集團(tuán)高級(jí)副總裁兼總經(jīng)理 Boyd Phelps 指出:“ 高性能計(jì)算 和 AI 工作負(fù)載的需求獨(dú)特且瞬息萬(wàn)變,構(gòu)建先進(jìn)定制 AI 系統(tǒng)的超大規(guī)模企業(yè)客戶,依賴 Cadence 提供從數(shù)據(jù)中心到邊緣的關(guān)鍵技術(shù)支撐。我們?nèi)轿坏?IP 產(chǎn)品系列,包括設(shè)計(jì) IP、Chiplet 基礎(chǔ)設(shè)施、子系統(tǒng)和其他關(guān)鍵 IP,將與 NVIDIA NVLink 生態(tài)系統(tǒng)互為補(bǔ)充,加速交付功能強(qiáng)大、高效節(jié)能且可大規(guī)模生產(chǎn)的 AI 工廠?!?/p>
借助 NVLink Fusion,富士通和 Qualcomm 等 AI 創(chuàng)新企業(yè)還可在機(jī)架級(jí)擴(kuò)展架構(gòu)中將其自定義 CPU 與 NVIDIA GPU 相結(jié)合,顯著提升 AI 性能。
富士通 CTO Vivek Mahajan 表示:“富士通先進(jìn)的 CPU 技術(shù)與 NVIDIA 全棧 AI 基礎(chǔ)設(shè)施相結(jié)合,可將性能提升到更高水平。富士通的下一代處理器 FUJITSU-MONAKA 是一款基于 Arm 的 2 納米 CPU,旨在實(shí)現(xiàn)極高的能效。將我們的技術(shù)與 NVIDIA 架構(gòu)直接相連,標(biāo)志著我們通過(guò)世界領(lǐng)先的計(jì)算技術(shù)推動(dòng) AI 發(fā)展的愿景向前邁出了關(guān)鍵一步,這為開(kāi)發(fā)新型可擴(kuò)展、自主且可持續(xù) 的 AI 系統(tǒng)奠定了基礎(chǔ)?!?/p>
Qualcomm 總裁兼 CEO Cristiano Amon 表示:“Qualcomm 先進(jìn)的自定義 CPU 技術(shù)與 NVIDIA 全棧 AI 平臺(tái)相結(jié)合,可為數(shù)據(jù)中心基礎(chǔ)設(shè)施帶來(lái)強(qiáng)大、高效的智能。由于能夠?qū)⒆远x處理器連接到 NVIDIA 的機(jī)架級(jí)擴(kuò)展架構(gòu),我們正將高性能、高效節(jié)能計(jì)算的愿景推廣到數(shù)據(jù)中心?!?/p>
NVIDIA NVLink 展示了經(jīng)業(yè)界驗(yàn)證的規(guī)模
為了以節(jié)能高效的方式更大限度地提高 AI 工廠的吞吐量和性能,第五代 NVIDIA NVLink 平臺(tái)應(yīng)用于 NVIDIA Grace Blackwell 計(jì)算密集型機(jī)架,為每個(gè) GPU 提供 1.8 TB/s的總帶寬,比 PCIe 5.0 快 14 倍。
領(lǐng)先的超大規(guī)模企業(yè)皆已開(kāi)始部署 NVIDIA NVLink 整機(jī)架解決方案,可以通過(guò) NVLink Fusion 在 NVIDIA 機(jī)架架構(gòu)上實(shí)現(xiàn)異構(gòu)芯片數(shù)據(jù)中心標(biāo)準(zhǔn)化,從而加快上市速度。
專為 AI 工廠打造的軟件
應(yīng)用 NVIDIA NVLink Fusion 互連的 AI 工廠由統(tǒng)一運(yùn)營(yíng)和編排軟件平臺(tái) NVIDIA Mission Control? 提供支持,可自動(dòng)完成對(duì) AI 數(shù)據(jù)中心和工作負(fù)載的復(fù)雜管理。
NVIDIA Mission Control 可強(qiáng)化 AI 工廠運(yùn)營(yíng)的各個(gè)環(huán)節(jié) —— 從配置部署、驗(yàn)證基礎(chǔ)設(shè)施、再到編排關(guān)鍵任務(wù)工作負(fù)載,幫助企業(yè)更快啟動(dòng)和運(yùn)行前沿模型。
供應(yīng)情況
NVIDIA NVLink Fusion 芯片設(shè)計(jì)服務(wù)和解決方案現(xiàn)在可通過(guò) MediaTek、Marvell、Alchip、Astera Labs、Synopsys 和 Cadence 獲取。