當(dāng)前,隨著數(shù)據(jù)中心流量的不斷增加,數(shù)據(jù)中心內(nèi)部的流量被稱為橫向流量,現(xiàn)在年負(fù)荷增長率在 25%以上,給數(shù)據(jù)中心帶來巨大的壓力,數(shù)據(jù)中心正在面臨聯(lián)網(wǎng)危機(jī)。隨著 SDN 在的增加,云服務(wù)器會(huì)在 CPU 和軟件中使用很多 SDN 功能。隨著網(wǎng)絡(luò)數(shù)據(jù)爆炸式增長,額外的非應(yīng)用級處理工作涌入云數(shù)據(jù)中心服務(wù)器,從而耗費(fèi)更多 CPU 資源。對于云服務(wù)供應(yīng)商,需要這樣的計(jì)算能力支持其商業(yè)活動(dòng);對于公有云,需要把這些資源出售給客戶進(jìn)行變現(xiàn);而邊緣的一級云服務(wù)提供商,例如:亞馬遜、微軟,在很多年以前就已經(jīng)意識(shí)到了這個(gè)問題,并從服務(wù)器上卸載聯(lián)網(wǎng)功能,把他們轉(zhuǎn)移到 SmartNIC 上來解決。
現(xiàn)在超過 80%的云服務(wù)供應(yīng)商只有傳統(tǒng)的 NIC,還沒有 SmartNIC,只能繼續(xù)在軟件上運(yùn)行聯(lián)網(wǎng)功能。其實(shí)并不是這些云服務(wù)供應(yīng)商沒有遇到微軟和亞馬遜所面臨的問題,而是很難憑一己之力采用 SmartNIC。亞馬遜和微軟有雄厚的研發(fā)資源,能夠自行設(shè)計(jì)測試做大規(guī)模的部署,小型云服務(wù)供應(yīng)商,尤其是二級和三級云服務(wù)商沒有強(qiáng)大的研發(fā)團(tuán)隊(duì),也沒有專門的工程技術(shù)和能力部署自己的解決方案,所以他們更需要開箱即用的解決方案能夠符合即插即入的標(biāo)準(zhǔn),無需自行開發(fā)就能夠?qū)崿F(xiàn)卸載的優(yōu)勢。
左:賽靈思大中華區(qū)銷售副總裁唐曉蕾(Maria Tang)
右:賽靈思數(shù)據(jù)中心事業(yè)部產(chǎn)品及平臺(tái)營銷副總裁 Donna Yasay
為了滿足云服務(wù)提供商、電信公司和私有云數(shù)據(jù)中心運(yùn)營商的需求,賽靈思推出了業(yè)界首款“一體化 SmartNIC 平臺(tái)”— Alveo U25。賽靈思數(shù)據(jù)中心事業(yè)部產(chǎn)品及平臺(tái)營銷副總裁 Donna Yasay 向與非網(wǎng)介紹,“U25 將高度優(yōu)化的 SmartNIC 平臺(tái)與強(qiáng)大靈活的 FPGA 引擎相結(jié)合,實(shí)現(xiàn)了全可編程與一站式加速應(yīng)用。U25 為應(yīng)對業(yè)界最具挑戰(zhàn)性的需求與工作負(fù)載如 SDN、虛擬交換、NFV、NVMe-oF、電子交易、AI 推斷、視頻轉(zhuǎn)碼和數(shù)據(jù)分析等,提供了一個(gè)強(qiáng)大的一體化 SmartNIC 平臺(tái)?!?/p>
市場調(diào)研機(jī)構(gòu) Dell’Oro 集團(tuán)預(yù)測,到 2024 年,SmartNIC 市場規(guī)模將超過 6 億美元,占據(jù)全球以太網(wǎng)適配器市場的 23%。隨著云服務(wù)提供商的縱向擴(kuò)容,他們正在不斷增加 SmartNIC 的部署,以便為業(yè)務(wù)應(yīng)用釋放寶貴的 CPU 核,優(yōu)化服務(wù)器利用率。而電信服務(wù)提供商則是另一大具有強(qiáng)勁增長潛力的市場,他們正考慮將 SmartNIC 從核心網(wǎng)集成到邊緣網(wǎng),為 NFV 和 AI 推斷等應(yīng)用提供服務(wù)。
平臺(tái)化的技術(shù)優(yōu)勢
賽靈思為什么把 Alveo U25 稱為首個(gè)一體化的 SmartNIC 平臺(tái)?在采訪中,Donna 向與非網(wǎng)解釋,“其它方案只關(guān)注聯(lián)網(wǎng)或存儲(chǔ),Alveo U25 融合了聯(lián)網(wǎng)、存儲(chǔ),又加上了計(jì)算加速的功能。從這個(gè)角度來講,確實(shí)是首個(gè)在一張卡上實(shí)現(xiàn)計(jì)算、存儲(chǔ)和聯(lián)網(wǎng)卸載的加速平臺(tái)。U25 基于賽靈思的 FPGA 技術(shù),具有靈活性和全可編程性,可以支持 FPGA 用戶級編程特征。除此之外,賽靈思為客戶提供一個(gè)完全經(jīng)過測試并且驗(yàn)證的比特文件,能夠上載到卡片的啟動(dòng),并且能夠符合標(biāo)準(zhǔn)的行業(yè) API。所以這張卡能夠無縫地卸載并且加速服務(wù)器的聯(lián)網(wǎng)、存儲(chǔ)、計(jì)算,而不需要做任何額外的編程。我們還基于 OVS 標(biāo)準(zhǔn)推出一站式的應(yīng)用來支持虛擬交換、卸載加速,未來推出更多一站式的應(yīng)用,比如 IPSEC、加密卸載、SSL 等?!?/p>
Alveo U25
賽靈思大中華區(qū)銷售副總裁唐曉蕾也表示,“對于板卡,用戶認(rèn)為只是一個(gè)部件,但是賽靈思在數(shù)據(jù)中心不僅提供加速計(jì)算,未來越來越多向平臺(tái)方向發(fā)展,扮演越來越重要的角色?!?/p>
關(guān)于 Alveo U25 的技術(shù)優(yōu)勢,Donna 介紹,依托于賽靈思業(yè)界領(lǐng)先的 FPGA 技術(shù),Alveo U25 SmartNIC 平臺(tái)相比基于 SoC 的 NIC,可以提供更高的吞吐量和更強(qiáng)大的靈活應(yīng)變引擎,支持云架構(gòu)師快速為多種類型的功能與應(yīng)用提速。U25 SmartNIC 平臺(tái)支持“bump-in-the-wire (線纜內(nèi)的塊)”式無縫嵌入網(wǎng)絡(luò)、存儲(chǔ)和計(jì)算卸載及加速功能,可以避免不必要的數(shù)據(jù)傳輸和 CPU 處理,從而最大限度提高效率。而這也顯著降低了 CPU 的負(fù)擔(dān)并釋放更多資源,以運(yùn)行更多應(yīng)用。嵌入式 ARM 處理器提供了獨(dú)特、關(guān)鍵的控制層處理功能,可以支持新興的裸機(jī)服務(wù)器用例?;拘?NIC 可提供超高吞吐量、小數(shù)據(jù)包性能與低時(shí)延。標(biāo)準(zhǔn)型全功能 NIC 解決方案與驅(qū)動(dòng)程序采用獲得專利的 Onload 應(yīng)用加速軟件,時(shí)延降幅高達(dá) 80%,并且在云應(yīng)用中為基于傳輸控制協(xié)議( TCP )的服務(wù)器應(yīng)用提高了效率 --- 最高可達(dá) 400%。
U25 所提供的首個(gè)開箱即用型加速應(yīng)用是對 Open vSwitch ( OVS )卸載與加速的支持。這個(gè)即插即用型解決方案將從服務(wù)器卸載 90% 以上的 OVS 處理,從而將數(shù)據(jù)包吞吐量提升 5 倍以上。未來,賽靈思還計(jì)劃推出針對安全功能的一站式解決方案,這些安全功能諸如 IPSec、SSL/TLS、AES-256/128,同時(shí)還有分布式防火墻和 AI 推斷。
軟硬件平臺(tái)化協(xié)同助力客戶節(jié)約成本
用戶在服務(wù)器上把工作卸載下來并且高效的在一個(gè) SmartNIC 平臺(tái)上去運(yùn)行,這意味著完成同樣工作量時(shí),所需要的服務(wù)器數(shù)量減少,硬件成本減少,大大降低云服務(wù)提供商的支出成本,從資本支出來看,采購設(shè)備的成本由于所需要服務(wù)器的數(shù)量減少而下降。另外,數(shù)據(jù)中心功耗也能夠降低,從而節(jié)約運(yùn)營成本。另外,一站式的應(yīng)用幫助之前 80%無法使用 SmartNIC 的云服務(wù)供應(yīng)商,擴(kuò)展 SmartNIC 的能力。
Alveo U25 SmartNIC 平臺(tái)在性能上兼具了 GPU 和聯(lián)網(wǎng)處理器兩者的優(yōu)勢,是否會(huì)帶來價(jià)格上升,給云服務(wù)商帶來更大成本壓力?Donna 認(rèn)為,“這款產(chǎn)品能夠很好地融合聯(lián)網(wǎng)和計(jì)算,我覺得能夠?yàn)榭蛻魟?chuàng)造很多價(jià)值,節(jié)約很多成本。如果用戶做擴(kuò)展處理的話,他們可能需要用到很多微服務(wù)器,因此舊的服務(wù)器就沒有辦法用了,只能買新的。但是現(xiàn)在采用這個(gè)平臺(tái),就可以保住現(xiàn)有的基礎(chǔ)設(shè)施,如果重新購買,花三分之一的成本就可以滿足很多新的要求?!?/p>
目前,數(shù)據(jù)中心的客戶也在轉(zhuǎn)型,從原來的平臺(tái)產(chǎn)品轉(zhuǎn)向結(jié)合了云服務(wù)、智能計(jì)算的服務(wù)型產(chǎn)品,這些轉(zhuǎn)型對基礎(chǔ)硬件架構(gòu)提出新的需求。Donna 表示,“現(xiàn)在數(shù)據(jù)中心確實(shí)有很多物聯(lián)網(wǎng)和計(jì)算應(yīng)用,正在改變整個(gè)行業(yè),為了跟上技術(shù)的需求,軟件編程也必須做到簡單易用,給客戶提供一站式平臺(tái)。以前,F(xiàn)PGA 編程確實(shí)非常困難,必須是專業(yè)人士才能夠做到代碼級編程工作,但是現(xiàn)在新的 FPGA 編程非常容易,而且和 CPU 的語言類似,所以整個(gè)行業(yè)的應(yīng)用都在發(fā)生轉(zhuǎn)型,盡可能滿足客戶的需求?!?/p>
去年,賽靈思發(fā)布了 Vitis 軟件平臺(tái),Vitis 和 Alveo U25 將如何進(jìn)行結(jié)合?唐曉蕾表示,“Vitis 統(tǒng)一軟件平臺(tái)和 U25 以及所有的 Alveo 卡可以有機(jī)結(jié)合。Alveo U25 SmartNIC 平臺(tái)實(shí)現(xiàn)了一站式加速應(yīng)用,可以助力非一級云數(shù)據(jù)中心運(yùn)營商更加方便地部署 SmartNIC 并迅速收獲成效;U25 SmartNIC 還支持賽靈思和獨(dú)立軟件提供商 (ISV)提供的一站式應(yīng)用。其編程模型既支持 HLS 和 P4 等高級網(wǎng)絡(luò)編程抽象,也支持 Vitis 統(tǒng)一軟件平臺(tái)等計(jì)算加速框架,以便實(shí)現(xiàn)賽靈思和第三方所提供的加速應(yīng)用。我們之所以要做平臺(tái)化產(chǎn)品,是因?yàn)槠脚_(tái)化涉及很廣,無論 SaaS、FaaS 或 OS 支持要求都很高,我們希望通過 Vitis 軟件平臺(tái)加上 U25 硬件平臺(tái)相結(jié)合,讓企業(yè)在數(shù)據(jù)加速方面更快面向市場,解決以前 FPGA 的開發(fā)門檻問題。而在數(shù)據(jù)中心里,隨著應(yīng)用場景和新客戶的不斷擴(kuò)展,我們必須要做硬件軟件協(xié)同,才能保障客戶群體的利益。”