“米樂M6登錄”訪中科曙光智能計算技術總監許濤：重新認識面向未來的AI服務器和云計算中心
本文摘要：8塊NVIDIA GPU、10卡訓練GPU、20卡推理小說加速卡。8塊NVIDIA GPU、10卡訓練GPU、20卡推理小說加速卡。底板使用CPU主板和GPU解法耦合設計，可根據CPU和GPU的發展各自獨立國家升級，減少用戶更新換代成本。發布會后，與中科曙光智能計算技術總監許濤展開了了解的交流對話，得知中科曙光在產品和市場上的一些思維。
重新認識高性能AI服務器對于大多數人來說，高性能計算出來（HPC）產品和傳統的服務器或許沒什么區別，都象征物著“專業級”、“企業級”等矮小上的定位。不過在談話中我們了解到，以高算力為市場需求的產品，早已從傳統服務器中獨立國家出來了，其設計方式和傳統服務器有相當大有所不同。許濤向講解，二者首要的區別在于傳統服務器的功耗密度比較較低，而AI服務器等高性能計算出來產品的功耗十分低，目前發售的AI服務器額定功率已超過3200瓦，下一代HGX產品得出的參照功率堪稱超過單臺10千瓦，相比之下多達傳統機架式和刀片式服務器。而功耗低也帶給了發熱量大的新挑戰，這是AI服務器和傳統的服務器僅次于的區別。
設計AI服務器時，供電和風扇是必須重點考慮到的問題，適當的對兼容性和穩定性的拒絕也都不過于一樣。在GPU加速卡剛剛經常出現的時候，單卡功耗不多達250瓦，而現在早已超過300瓦，按照目前的趨勢，加速卡功耗還不會隨著時間推移顯得更高，當單塊加速卡功耗超過350瓦以上的時候，傳統的服務器結構就很難符合了?！霸谶@么低的壓力下，單個機柜里能放置的服務器數量是十分受限的?！痹S濤給我們忘了筆賬，“3200瓦的AI服務器，一般的電信機房單柜不能敲2臺，即便是20千瓦容量的高端水冷機房也不能敲6臺。
綜合考慮到實際部署情況之后，我們找到4U是十分合理的AI服務器尺寸。XMachine的GPU倉高度為3U，不僅風扇空間大，也為未來的確保騰出了相當大的空間。
”而對于個人工作站，中科曙光在近期的W560-G30產品上也使用了改良設計的3段式風扇方案：GPU區域：RTX6000顯示卡功耗約300瓦，享有專門的風扇空間，并且用于IPMI功能精準加載顯示卡狀態狀況并管理顯示卡功耗和風扇散熱，掌控適當的風扇風量，在確保顯示卡風扇的同時將辦公環境下的噪音傳輸至低于，最低可反對2塊顯示卡加速運轉。CPU區域：反對2顆共56個物理核心的至強勁鉑金CPU，每顆CPU的功耗約205瓦；2顆CPU風道相互隔絕，每顆CPU皆有獨立國家進風，確保CPU在高功耗下平穩工作，并可承托更進一步的超頻空間。電源區域：用于可7*24小時平穩獲取1250瓦供電能力的鉑金電源，并設計有電源的獨立國家風道；時在擺放于數據中心用于時，可反對校驗電源和基于BMC的遠程管理功能，合體淪為高性能GPU服務器。靈活性應付百花齊放的推理小說末端市場隨著異構計算更加風行，現在HPC Top 500里名列靠前的超高算力服務器基本上都中用了GPU加速卡或者其他加快部件。
據理解，目前NVIDIA早已基本獨占了AI計算出來的訓練末端市場，但在與用戶應用于契合尤其密切的推理小說末端，由于必須展開明確的應用于部署，GPU作為一種標準化計算出來單元的優勢就不會被鞏固。NVIDIA雖然面向推理小說末端市場公布了T4計算出來卡，但是像Intel、賽靈思和寒武紀等公司，仍然在大力拓展這一領域。根據講解，XMachine系列AI服務器在設計上可以相容多種加速器產品，這些芯片在市場中是有序的，中科曙光未來不會針對有所不同應用于場合發售用于有所不同加快芯片的服務器，就看終端用戶的表達意見是什么?！霸谖淖痔幚砘蛐畔Я鞯葮I務中，傳統CPU的運算效率也很好；如果是必須捕獵黃金窗口期的商業化公司，那么NVIDIA T4這樣的GPU加快產品可以讓公司很快上線項目。
” 許濤為我們詳細分析著幾種有所不同的情況，“而對那些享有類似業務市場需求的自定義化客戶來說，他們必須常常很快改成業務邏輯，這種情況下似乎FPGA更加合適?！彪S后，許濤尤其提及了寒武紀科技今年5月3日公布的首款云端智能芯片MLU100及對應的云端AI計算出來卡，并缺失了我們對國產AI芯片的一些了解誤區。他回應，寒武紀MLU100芯片與NVIDIA P4/T4加速卡的設計理念大相徑庭，二者在計算能力上并無法必要展開對比。
“寒武紀MLU100芯片所用于的AI框架和技術十分專一，可以較慢構建CNN、RNN等各種各樣的卷積過程，超過十分好效果，在特定的推理小說市場上給用戶獲取更佳的加快。如果是與應用于契合十分密切的研究型用戶，寒武紀MLU100芯片可以在其特定環境下將算力充分發揮到淋漓盡致?！辈粨鷳n被仿效中科曙光此次公布的XMachine系列AI服務器，使用了CPU底板和GPU底板解法耦的設計，未來可通過模塊化人組的方式展開獨立國家升級，以減少用戶更新換代成本，最大限度維護投資。為此我們不免擔憂，這種彈性靈活性的創意設計，不會會漸漸被其他服務器廠商效仿？對于這一問題，許濤很是熱情：如果其他公司知道仿效我們的機器，解釋我們引導了這個市場。
據報，之前國內的GPU服務器來源基本都是OEM或ODM，但隨著時間的流逝，技術輸出更加艱難，這些產品很難適應環境國內形形色色的自定義化市場需求。許濤坦言，中科曙光并不是國內第一家發售GPU服務器的廠商，但是他們期望可以做最差，或者說可以在某些擅長于的行業里面做最差。
而想讓產品始終保持先進設備的架構或結構，就要不時展開技術演變，一款產品成熟期的過程就是一個重復遞歸的過程?！皬奈覀冏约旱慕嵌葋砜?，現在的產品不應當是極致的，應當有新的版本不時遞歸，讓它顯得更加限于于用戶應用于場景，或者更加限于于新技術的發展?！痹S濤說明道，“仿效是沒辦法防止的，但在其他公司仿效的過程中，我們自身也在不時演變，所以我們并不擔憂產品被仿效。
”同時他還認為，隨著技術的不斷更新，很多技術要素想仿效也是很艱難的。中科曙光除與NVIDIA創建合作外，還與寒武紀等其他國產芯片合作，合作過程中必須投放大量技術資源和測試資源，這些投放都不是非常簡單的仿效機器硬件可以構建的。
“從這個層面來講，我們期望他們能仿效。如果其他公司知道仿效我們的機器，解釋我們引導了這個市場?！泵嫦蛭磥淼脑朴嬎阒行暮拖冗M設備計算出來平臺現在云計算早已仍然像過去那樣只逗留在各種文章里面，隨著認可度的漸漸提高，不管是專用云平臺還是標準化云平臺都在漸漸落地，各種企業都更加不愿為這份資源去花錢。中科曙光的AI戰略規劃相當大，一方面中科曙光有AI服務器自己的底層硬件產品，另一方面也在硬件產品的基礎上設計設施軟件，并享有自己的云計算中心和先進設備計算出來平臺。
云計算中心既可以給用戶獲取計算資源，也期望需要通過虛擬化的技術，協助那些有獨有看法的用戶構建他們的創新。(公眾號：)了解到，中科曙光在云計算領域的跟上只不過十分早于，在成都、無錫、南京、張家口等地都有為政府獲取服務的城市云計算中心。但許濤確切地告訴，云計算中心也必須隨著時代行進而不時演變，隨著普及程度的提升，如果只逗留在傳統的發展模式下，未來的競爭力不會更加很弱?！皬奈覀兊慕嵌葋砜?，更加期望能在某些類似領域或行業里可供專業的云服務。
”許濤說明道，“中科曙光的體量是無法和BAT這種標準化云平臺抗衡的，他們的構架十分可觀，可以把很多業務都牽進去，但是對我們來講，想維持業務的先進性，不能在一些類似領域或行業里做最尖端?！薄盀橛脩臬@取特異簡化的服務，使我們的優勢很難被標準化云平臺仿效，這才是準確的發展方向，也是我們眼中未來的云計算市場?！痹S濤如是說。
原創文章，予以許可禁令刊登。下文聞刊登須知。
本文來源：米樂m6官網登錄-www.my888pay.com
掃一掃關注微信公眾帳號
