紅帽推出llm-d社區(qū),賦能大規(guī)模分布式生成式AI推理
該項(xiàng)目讓生產(chǎn)型生成式AI像Linux一樣無處不在,與創(chuàng)始貢獻(xiàn)者CoreWeave、Google Cloud、IBM Research和NVIDIA合作打造,攜手行業(yè)領(lǐng)導(dǎo)者AMD、思科、Hugging Face、英特爾、Lambda和Mistral AI,并獲得了來自加州大學(xué)伯克利分校和芝加哥大學(xué)的支持 全球領(lǐng)先的開源解決方案提供商紅帽公司近日宣布啟動(dòng)全新開源項(xiàng)目llm-d,以滿足生成式AI(gen