全球領(lǐng)先的開源解決方案提供商紅帽公司和AMD（納斯達克股票代碼：AMD）近日宣布建立戰(zhàn)略合作，旨在推動AI能力發(fā)展，并優(yōu)化虛擬化基礎(chǔ)設(shè)施。通過此次深化合作，紅帽與AMD將拓展客戶在混合云環(huán)境中的選擇——從部署經(jīng)過優(yōu)化、高效的AI模型，到更具成本效益地實現(xiàn)傳統(tǒng)虛擬機（VM）的現(xiàn)代化升級。

隨著AI的引入導致工作負載需求和多樣性持續(xù)增加，企業(yè)必須具備滿足這些不斷增長需求的能力和資源。然而，典型的數(shù)據(jù)中心主要專注于傳統(tǒng)IT系統(tǒng)，幾乎沒有余力支持AI等密集型工作負載。為滿足這一需求，紅帽與AMD正攜手，將紅帽行業(yè)領(lǐng)先的開源解決方案與AMD全面的高性能計算架構(gòu)產(chǎn)品組合結(jié)合起來。

AMD與紅帽：推動更高效生成式AI的實現(xiàn)

紅帽和AMD正將紅帽AI的強大能力與AMD基于x86架構(gòu)的處理器及GPU架構(gòu)的產(chǎn)品組合相結(jié)合，為AI驅(qū)動的工作負載提供優(yōu)化、成本高效且生產(chǎn)就緒的環(huán)境。

AMD Instinct GPU現(xiàn)已全面支持紅帽O(jiān)penShift AI，為客戶提供在混合云環(huán)境中部署AI所需的高性能處理能力，且無需極高的資源需求。此外，使用AMD Instinct MI300X GPU與紅帽企業(yè)Linux AI，紅帽與AMD在Microsoft Azure ND MI300X v5上進行了測試，成功演示了在單個虛擬機（VM）上跨多個GPU部署的小型語言模型（SLM）和大型語言模型（LLM）的AI推理能力，減少了橫跨多個虛擬機部署的需求，降低了性能成本。

為了進一步提升性能加速和調(diào)優(yōu)能力，紅帽與AMD正在上游vLLM社區(qū)開展合作，以推動更高效的AI推理。通過這些上游的激活措施，紅帽與AMD旨在提供：

• AMD GPU性能提升：通過將AMD內(nèi)核庫上游化并優(yōu)化Triton內(nèi)核及FP8等組件，紅帽與AMD正在提升密集型和量化模型的推理性能，使vLLM在AMD Instinct MI300X加速器上實現(xiàn)更快速、更高效的執(zhí)行。
• 增強的多GPU支持：通過提升集合通信和優(yōu)化多GPU工作負載，可為更具可擴展性和能效的AI部署打開大門，這對需要跨多個GPU進行分布式計算的工作負載尤為有利，可減少瓶頸并提升整體吞吐量。
• 擴大的vLLM生態(tài)系統(tǒng)合作：紅帽、AMD與IBM等其他行業(yè)領(lǐng)導者之間的交叉協(xié)作，有助于加速上游開發(fā)，推動vLLM項目與AMD GPU優(yōu)化的持續(xù)改進，進而為依賴AMD硬件進行AI推理和訓練的vLLM用戶帶來益處。

基于在vLLM社區(qū)中的此次合作，AMD Instinct GPU將原生支持紅帽AI推理服務(wù)器（Red Hat AI Inference Server）——紅帽的企業(yè)級vLLM發(fā)行版，為用戶帶來一個開箱即用、強大、可靠且可擴展的AI推理服務(wù)器。作為vLLM項目的頂級商業(yè)貢獻者，紅帽致力于在企業(yè)選擇的硬件上部署vLLM時實現(xiàn)兼容性，其中包括AMD Instinct GPU。在AMD Instinct GPU上運行vLLM使企業(yè)能夠在經(jīng)過驗證和測試的GPU硬件上部署任何開源AI模型，獲得出色的優(yōu)化效果和性能表現(xiàn)。

AMD EPYC?處理器還可實現(xiàn)端到端的AI性能，是托管GPU驅(qū)動系統(tǒng)的理想選擇。這有助于提升每臺GPU服務(wù)器的性能和投資回報率（ROI），即使面對最嚴苛的AI工作負載也不例外。

重塑現(xiàn)代數(shù)據(jù)中心

通過優(yōu)化現(xiàn)有數(shù)據(jù)中心布局，企業(yè)能夠更高效、更便捷地重新配置資源以推動AI創(chuàng)新。紅帽O(jiān)penShift虛擬化是紅帽O(jiān)penShift的一項功能，它為企業(yè)提供了一條簡化路徑，使其能夠以云原生應(yīng)用平臺的便捷性和速度來遷移和管理虛擬機工作負載。紅帽O(jiān)penShift虛擬化已針對AMD EPYC處理器完成驗證，能夠充分利用AMD EPYC處理器卓越的性能與能效，無論在混合云的哪個位置，都能確保性能和效率，同時為通向云原生未來架設(shè)橋梁。

基于AMD EPYC處理器的紅帽O(jiān)penShift虛擬化可助力企業(yè)優(yōu)化在領(lǐng)先服務(wù)器（如戴爾PowerEdge、HPE ProLiant和聯(lián)想ThinkSystem產(chǎn)品等）上的應(yīng)用部署。在升級傳統(tǒng)數(shù)據(jù)中心時，紅帽O(jiān)penShift虛擬化能夠?qū)崿F(xiàn)虛擬機與容器化應(yīng)用在本地、公有云或混合云中的統(tǒng)一管理。這有助于實現(xiàn)更高的基礎(chǔ)設(shè)施整合率，從而顯著降低硬件、軟件許可及能源層面的總體擁有成本（TCO）。此外，該方案還可以具有額外優(yōu)勢：使IT團隊能夠更高效地管理當前關(guān)鍵工作負載，同時釋放資源與能源以應(yīng)對當前及未來的AI工作負載需求。

支持證言

紅帽高級副總裁兼首席產(chǎn)品官Ashesh Badani

“充分實現(xiàn)AI的價值意味著企業(yè)必須擁有選擇和靈活性，以優(yōu)化其IT基礎(chǔ)設(shè)施來應(yīng)對規(guī)模需求帶來的嚴苛挑戰(zhàn)。我們與AMD擴展合作，為尋求為未來不斷演變的IT環(huán)境做好準備的企業(yè)提供了更廣泛的選擇，從在高性能CPU架構(gòu)和虛擬化平臺上實現(xiàn)現(xiàn)有投資的現(xiàn)代化，到通過下一代硬件加速器和開源AI技術(shù)為生產(chǎn)級AI做好準備?！?/p>

AMD執(zhí)行副總裁及首席商務(wù)官Philip Guido

“隨著企業(yè)客戶工作負載日益多樣化和嚴苛，他們需要可擴展的解決方案。通過將紅帽行業(yè)領(lǐng)先的開源平臺與世界一流的AMD Instinct GPU和AMD EPYC CPU相結(jié)合，我們正提供客戶所需的性能和效率，以加速AI、虛擬化和混合云創(chuàng)新?！?/p>