圖片泉源視覺中國,文丨親愛的數據作者丨譚婧,DPU是人工智能芯片之後的又一大熱門,業內人士笑談那些投資人鑽研DPU的熱情比造DPU的人還高,有人在問DPU芯片是啥的時刻創業公司里飄來一個熟悉的女聲支付寶到賬人民幣一億元沒錯就是融資額經常上億,別說互聯網大廠國字頭大基金也刀背藏身眼睛直勾勾盯着DPU伺機而動,雲廠商對DPU芯片的盼望是歇斯底里的逼得造DPU的人鼻孔噴血雙眼冒火,而坊間有個說法DPU只有兩個品牌亞馬遜雲和阿里雲以及其他,DPU的故事要從良久之前講起了,一,1998年美國斯坦福大學的球場上,尖尖綠草被陽光溫柔撫摸孩子們尖叫雀躍球衣鮮艷帶風奔跑,球場外一些家長等着接孩子回家他們中有的是斯坦福大學的同事及其家族,左右無事家長群里的兩位閑聊了起來,最近在忙啥,創業了,創業偏向是啥,在一台盤算機上可以跑多個操作系統,提問的這位男士文質彬彬聽到回覆突然眼睛一亮脫口而出這個想法挺好很新鮮,最怕一盛行家遇見了一盛行家一聊就迸射火花,兩位家長在球場邊就地殺青投資意向,這位家長不這位看準就脫手的早期投資人氣質儒雅風姿瀟洒,他就是張首晟著名華裔物理學家楊振寧的愛徒主要從事凝聚態物理領域的研究斯坦福大學終身教授,創業的那名家長也不簡樸叫黛安格林DianeGreen一位先天型女性治理者從創業之日起就擔任高管掌管公司長達十年之久,后話是她還管了一陣子谷歌雲,此番操作把孩子們都看懵了,另一個孩子的爸爸黛安格林的老公是斯坦福大學教授孟德爾羅森布拉姆MendelRosenblum簡稱羅教授是公司的首席科學家他也是操作系統領域的天下級專家,彼時創業路上配偶倆剛剛啟程公司名叫VMware,二十多年後這家公司成為虛擬化手藝領域的巨頭,盤算機手藝的術語經常閃灼理性光澤而虛擬化這個詞一看就是鏡花水月太虛幻夢把一種仙風道骨的玄幻氣質拿捏得死死的,不意外虛擬化手藝的一最先學術研究站C位,為數不多的高校在研究美國斯坦福大學英國劍橋大學,屈指可數的公司在探索IBM公司英特爾公司微軟公司,上世紀70年月是虛擬化學術研究的黃金年月有多篇學術論文為這個偏向奠基了理論基礎,科學手藝這行光憑論文不行得拿出器械來還得用起來,等有代表性的公司降生年年等斷腸從七十年月到九十年月一等二十年,據VMware公司CEO黛安格林回憶一天晚上羅教授回抵家談起事情他說我想重新審閱虛擬化將隔離引入操作系統能同時運行新舊代碼又不必構建一個新的操作系統,想法像洪水一樣從腦中湧出羅教授異常激動睡醒的第二天就最先做原型,不久之後洶湧的行動力讓羅教授和他的學生們實現了X86服務器的虛擬化,科學家的同夥圈往往光澤四射首創人集齊五位專家擺開了陣型對虛擬化提議衝鋒這一次載入史冊,攻陷X86打開虛擬化由守轉攻的新事態,相傳虛擬化手藝公司的文化和互聯網企業文化差異,美國斯坦福大學的學生閉眼挑offer的時刻說谷歌的文化吸引年輕人擼狗上班睡衣轟趴而VMware公司的員工則能在公司平穩地娶親生子,隨後學術派傳球至邊路PC的虛擬化接球,雖然在小型PC機時代虛擬化不是剛需然則開創了硬件新玩法沸騰了極客的熱血,戰戰兢兢問一句虛擬化是不是在騙CPU,義正辭嚴回覆CPU有一種受騙的能力,虛擬化手藝很厲害照樣要戒驕戒躁後面的路還長,二,無疑VMware公司是樂成的當開源天下崛起軟件甩開商業軟件的統治開源極客走上舞台,請人人記着這兩個虛擬化手藝的精神小領伙袖由於他們對DPU的生長至關主要,按姓氏筆畫排序安東尼李國瑞AnthonyLiguori美國人張獻濤中國人,2001年英國劍橋大學盤算機實驗室IanPratt教授帶着幾個博士生做了一個異常着名的虛擬化項目,叫Xenproject,Xen的讀音和than有點像但不完全一樣發音不吐舌頭,Xen有一個重大的活力十足的開發社區深遠地影響了雲盤算虛擬化和平安,兩年後XenX86虛擬機監視器的第一個穩固版本就問世了,2004年張獻濤在武漢大學念博士多年寒窗沒有少下功夫他手藝水平強着手能力更強,手藝大神何愁去向可張獻濤照樣有些憂鬱由於虛擬化手藝的擇業面太小了,讀博士用功很主要有一位好的博士導師也主要,張獻濤的博士導師是全球着名的密碼學家卿斯漢張獻濤一定是花掉了許多運氣才遇到了這麼一個好導師,他一臉慈祥地對張獻濤說虛擬化這個研究偏向我和英特爾有互助你先去那裡實習別憂鬱我幫你放置剩下的要看你自己了,現在看來卿斯漢教授將張獻濤送去企業實習是完完全全從學生的利益思量,有些博士導師那是死活都不願意放博士生出去幹活此處省略三千字吐槽,於是張獻濤從一名英特爾的實習生做起一做就是3年時光飛逝手藝水平飛漲他於2008年正式入職英特爾,他可能也沒有想到這份事情一干就是9年,把鏡頭搖到2002年的美國IBM公司虛擬化的另一個前沿陣地,一位名叫安東尼李國瑞的大學生在學校念書時代一直在IBM實習每周20小時延續四年風霜雪雨從不中止,2006年安東尼入職IBMLinux手藝中央成為一名軟件工程師這份事情一干就是7年,人這一生找到一個至心喜歡的手藝作為興趣然後不計成內陸支出時間和耐心專心打磨收穫的將不只是一個拿得脫手的手藝,更主要的另有一個洗手不幹的自己,也許某日黃昏紅霞染盡天涯張獻濤在看雲安東尼也在看雲可能會有那麼一瞬間他們都意識到自己要和這個名字極富詩意的手藝打一輩子交道了,世間因緣因緣世間,三,芯片江湖有人有酒有故事就有指斥英特爾的聲音,PC為王的時代由於虛擬化不是主流以是英特爾X86指令集對虛擬化的服務態度很不友好,這鍋得英特爾背還背到了2005年,英特爾在那一年才笑容相迎態度友幸虧CPU內里做了一些擴展指令集,這次重拳扭轉了虛擬化的乾坤,那一年的年11月英特爾宣布產物支持硬件虛擬化VTxVTdAMD也屁顛跟上宣布產物支持硬件虛擬化SVM,別看姍姍來遲然則這套手藝也足夠硬核黨能做出來也很了不起,然則英特爾罪名也很昭彰低效,VMware公司眼疾嘴快把英特爾一頓猛批,模擬駱賓王誅討武則天出了一篇著名的檄文誅討英特爾,指責支持虛擬化的擴展指令集低效還沒有自己家做的性能好這裏指VMware公司的二進制翻譯binarytranslation,指責別人乘隙誇讚自己沒誤差,經此一事也能一窺VMware公司的江湖職位指斥別人得自己腰杆子倍兒直,經此一變虛擬化便有了CPU芯片廠商的全火力支持似乎被按下二倍速播放鍵,這是虛擬化的短板第一次被拯救,那時刻英特爾沒有白忙活蘸着唾沫點鈔票心裏樂開了花支持Xen跟支持Linux的原理一模一樣虛擬化動員了生態人人都愛用戶黏性,窗外陽光正好又是用飯時間天上白雲飄過人世沒有巨變雲盤算悄然巨變,雲盤算的第一張門票亞馬遜雲搶到了雲盤算的軍號一吹響開源迅速佔領C位,Xen底氣十足首席科學官兼劍橋大學盤算機實驗室教授IanPratt說微軟正處於追趕我們的蹊徑上,此言不虛微軟公司的產物確也深受Xen的啟發,一時間紅帽SunMicrosystemsSuseLinux四處都有Xen的身影,一時間似乎任何新事物都市在Xen萌發,Xen被掌聲籠罩連雲巨頭都伸出橄欖枝2006年亞馬遜雲EC2推出第一個接納Xen的實例類型m1small,Xen登上了第一朵雲自此成為雲盤算的生力軍,虛擬化手藝猛火烹油微軟公司好不佩服悄悄收購位於美國波士頓的虛擬化廠商Softricity公司趕快宣布了為WindowsServer引進新的虛擬機治理產物的時間表,別催了在買了,後續是微軟公司再露土豪本色為了虛擬化延續多次脫手多家創業公司,這也從側面反映了虛擬化這個手藝又小眾又難又要害連微軟公司也啞巴吃黃連有苦說不出,2007年英特爾出了VTx增強了許多功效又反超了VMware公司的二進制翻譯手藝,VMware公司心裏獨白指斥英特爾輕率了,在2009年的時刻研究公司Gartner展望三種手藝將主導虛擬化VMware公司的ESXServerXen和微軟公司的Viridianhypervisor,有些手藝預占測卜聽一聽別認真,正面談論高聲說Xen是那時的業界尺度之一異常成熟,負面評價小聲說Xen的架構異常龐大代碼鏈異常長對內核的改動也對照大,Xen是一個異常好的項目然則確實太龐大全球真正搞懂Xen架構的人不跨越50人大部門人停留在僅僅能用這個條理,再者Xen照樣傳統虛擬化手藝,Xen的傳統結構決議了它身上的擔子稀奇主要忙於許多事情珍愛物理硬件珍愛BIOS虛擬化CPU虛擬化存儲虛擬化網絡另有諸多治理功效,Xen過於粗笨註定退場但Xen的泛起為虛擬化打開了開源天下的大門,夢裡幾十年長風幾萬里才把虛擬化吹進開源天下,2014年同樣是開源的KVM來了,作為Linux的家族成員以組件的形式泛起這個輕盈的超級治理程序身姿輕盈席捲天下,這時刻VMware公司的日子也不紅火了閉源商業軟件花錢不說雲廠商改動也晦氣便,不要遺忘的是亞馬遜雲和阿里雲的DPU早期架構都能看到Xen與KVM的身影,四,問世間是否此山最高,或者尚有高處比天高,手動打節奏嘿哈,開源社區背後的慘綠少年藏身於開源江湖苦練特技,十多年前的虛擬化手藝並不成熟,放眼全天下做虛擬化手藝研究的人至心不多,開源社區里最有權力最受人尊重的人有一個統一的稱謂Maintainer軟件維護者也是高級其餘代碼孝順者掌管開源項目的設計設計對全局有深入領會對未來也有獨到看法,天下有時刻很大有時刻很小,安東尼是QEMU的Maintainer,張獻濤是KVM跨平台支持以及KVMIA64的作者和Maintainer,QEMU曾是天下上壓倒一切的系統仿真器和虛擬器QEMU支持Xen和KVM並普遍部署在大多數雲環境中,從Xen到KVM安東尼和張獻濤的手藝突飛猛進天天打破天花板只要解決性能方面的難題什麼姿勢都市,要知道那些系統底層要去解決性能方面的故障或者錯誤Bug都是異常難的伸脫手就能扼住整個項目的喉嚨讓人轉動不得,安東尼和張獻濤身上不停泛起巧合,張獻濤和安東尼在Xen和KVM開源社區都有交集是享譽社區的極客令無數開源玩家高山仰止,履歷諸多採訪報道他們在做自我先容時都曾說到一句話我一直做虛擬化偏向的事情,同樣的話一個用中文講出來一個用英文表達,只要一有虛擬化平安的新聞熱門泛起外洋手藝媒體都以採訪到安東尼為榮張獻濤則是海內第一批介入做KVM的,巧合的背後往往是一定,2013年安東尼加入亞馬遜雲,2014年張獻濤加入阿里雲,昔日在虛擬化開源社區兩位最有勢力的人,現在在頭部雲盤算廠商主導DPU手藝變化,更巧的是一個認真Nitro系統一個認真神龍系統,亞馬遜雲和阿里雲的DPU均吸取了開源虛擬化軟件Xen和KVM的精髓,雲盤算帶來了虛擬化手藝的繁榮實現了手藝的躍遷,此時虛擬化的專家從硬件廠商的瑰寶釀成了雲盤算廠商大型互聯網公司的瑰寶,35歲就鐫汰之類的話在這些人眼前純當放了一個臭屁,所有人都意識到虛擬化手藝值錢了蜂擁而至惋惜門檻很高,虛擬化是一門異常難的手藝虛擬機是對真實盤算環境的抽象許多人被抽象二字難住,操作系統內核已是掃地僧級其餘手藝了虛擬化則是獨孤求敗,張獻濤說以前我們以為操作系統內核是最難明白的也是最龐大的系統軟件業界有不少異常資深的內核kernel工程師轉去做虛擬化都明白不了也做欠好,為什麼呢,由於虛擬化又抽象了一層其難度大大增添要用軟件去實現硬件的功效,在雲廠商沒有虛擬化專家的時代亞馬遜雲也找英特爾的人去解決問題,十幾年前英特爾工程師前線救援雲廠商的故事都快被人遺忘了,2010年阿里雲準備在5月10日宣布產物ECS10,那時有三家企業的工程師擠在阿里雲攻堅攻了一個多月有人都要把頭急禿了眼看到日子了另有一個坎過不去,也許1000台服務器運行一晚之後總會發生一件巧妙的事情硬盤找不到了,硬盤也很委屈我掉線了,攻堅小組被死死逼到了牆角他們拿出了一個認真任的推斷問題要麼出在芯片組身上要麼出在芯片身上攻堅小組在嘶吼得讓英特爾派人來快點,命懸一線之際無論英特爾派誰來都市被人死盯着恨不得用秒錶計時,意外的是英特爾的專家到現場后看了一下所有的設置想了一會之後說改個參數就可以了,計時那小我私人看了下錶從拿到阿里雲的服務器日誌到搞定約莫用時3000秒50分鐘,這一刻的如釋重負讓在場的阿里雲工程師一輩子也忘不了,快拿幾條真絲圍巾我們要纏在胳膊上跳廣場舞,這事讓一個外助在阿里雲內部小火了一把,誰知不久之後阿里雲的章文嵩問了團隊一個問題若是要挖一個虛擬化做得最好的人應該挖誰,章文嵩是何人呢Linux虛擬服務器首創人開源大神曾任阿里雲CTO首席科學家,阿里雲的工程師們雙手不脫離鍵盤頭也不用抬張嘴就有了張獻濤,無獨佔偶,有人告訴我二零零幾年的時刻亞馬遜雲還沒把安東尼搞已往虛擬化的問題也解決不了也得靠英特爾由於虛擬化的大牛工程師亞馬遜雲也缺,亞馬遜雲有了安東尼,阿里雲有了張獻濤,尋隱者不遇那虛擬化的能手到底在哪,雲深不知處他們就群集在IBM英特爾紅帽,新聞靈通人士透露2008年左右英特爾公司上海辦公室里虛擬化團隊也許十幾號人云盤算動員虛擬化手藝熱門之後全天下都來挖人,自此許多虛擬化的人才就留在了美國直到現在,人爭一口吻佛受一炷香為什麼雲廠商會憋着口吻一頓猛搞芯片,謎底是誰痛苦誰難受誰逼瘋誰知道,張獻濤懇切的語氣令人印象深刻就算不是神龍團隊阿里雲也會有另一支團隊把DPU做出來,眾所周知現在雲盤算廠商的服務器規模有多大當規模擴大用戶量增進對DPU的渴求就變得心切,幾十萬台服務器一天天嗷嗷待哺,在安東尼心裏應該也反頻頻復問過許多遍DPU的本詰責題,為了獲得更好的產物我們要設計硬件要設計一個專門用於虛擬化的硬件平台不是通用軟件不是通用硬件,回望來路已無退路在手藝最佳的更迭期DPU泛起了用DPU定製化硬件加速成為最準確的偏向,五,別怪我沒提醒雲盤算的虛擬化和前幾代虛擬化大為差異,前幾代產物與DPU隔着一條深不見底的天塹跳已往就是通天大道,問題來了怎麼跳,從2012年最先亞馬遜雲團隊尤其是EC2虛擬化就最先思索,誰人叫做Hypervisor的超級治理員得膽子再大一點能力再強一點那麼問題來了世間能做出比純軟件架構更好的超級治理程序嗎,這是我能找到的安東尼在外媒採訪中談到的亞馬遜雲關於DPU頭腦萌芽最早的時間點,但誰人時刻還沒有Nitro的影子,厥後把NitroSystem曝光於民眾眼前的是一次着名的收購案,被收購的公司叫做AnnapurnaLabs也就是安娜普爾納峰實驗室公司在以色列和美國都設有研發中央,爬山興趣者瞅這個名字很眼熟,巧了喜馬拉雅山最高十峰之一安娜普爾納峰,角峰銳利山體挺秀線條凌厲冰雪籠罩雲海兇猛翻騰在向全天下的爬山者搔首弄姿你過來呀,又巧了公司兩位首創人Billy和Nafea也是爬山興趣者以攀緣此峰為榮雖未抵達但心已至他們將角峰設計成LOGO印在了封裝好的芯片上,爬山是小我私人英雄主義DPU是團隊實幹整體主義,安娜普爾納峰實驗室對於亞馬遜雲來說就是上天恩賜的禮物海內雲廠商一最先有這個好生意午夜睡覺都笑醒,收購這件事情光有鈔票不行好的收購目的極其罕有,這家爬山興趣者公司除了爬山另有幾個絕活,其一Graviton芯片雲廠商第一顆Arm芯片,其二是一種虛擬機抄近路小能手的手藝ENA,ENA全稱是ElasticNetworkAdapter一種網卡驅動能用於虛擬機和物理機是開源項目宣布在GitHub網站上,這種手藝考究的是四兩撥千斤使得虛擬機繞過軟件內核和用戶空間網絡處置程序直接操作硬件網卡云云這般提升了網絡效率,昔日寂寂無名的ENA成為亞馬遜雲網絡虛擬化的要害手藝日後是赫赫著名的Nitro的一部門,互助如絲般順滑那就買過來誰叫那時刻天下首富掌管亞馬遜公司呢,2015年收購價35億美元,別看那時花了若干要看日後省了若干這是一場險些完善的收購每年都為亞馬遜節約大把美金,由於DPU的專長之一就是很能打一套降龍十八掌打敗虛擬化消耗不在話下,消耗少了固然省錢,安娜普爾納峰實驗室開發的這張卡不僅卸載了VPC網絡功效還卸載了EBS存儲網絡功效,這就是前文提到的義務卸載手藝,據網飛公司手藝高管BrendanGregg的說法Nitro的性能消耗異常小不到1Nitro的虛擬化性能靠近裸裝備,亞馬遜的文化里有單向門Theonewaydoor和雙向門twowaydoor決議的說法這個翻譯頗為艱澀,單向門的義務像影戲魷魚遊戲大致是幹活時被人用槍指着腦殼,只要義務失敗就嘣一槍驚不驚險刺不刺激,雙向門就是這個場景用得欠好搬到其餘地方說不定還能用上橫豎不會白忙活KPI保住了萬事好商議,DPU是專用的專用意味着拿到別處沒用,Nitro系統開發的時刻槍和腦殼的距離幾毫米,失敗和樂成的距離一丟丟,研發團隊在形貌艱難的開發歲月的時刻像個文科生一口吻用了四個形容詞,他們說這次我們做決議有條不紊鄭重緩慢深圖遠慮,懂行的心裏明了這不是通俗的義務其要求已經超出了傳統虛擬化手藝的能力由於打破傳統就是浴火重生,研發團隊在手藝博客里寫下只有創新才行但我們沒有急着拍腦殼整個探索的旅程歷經五年仔細頻頻試驗每一步都很小心驗證我們前進的偏向是準確的,喜大普奔的2013年亞馬遜雲研發團隊推出了第一款Nitro卸載卡C3實例類型將網絡歷程卸載到硬件中,馬一直蹄的2014年將EBS存儲卸載到硬件中C4實例類型這次研發團隊首次與一家名為安娜普爾納峰實驗室的公司互助,Nitro研發團隊談到了研發的時間節點2017年我們卸載了最後的組件包羅控制面和剩餘的IO我們引入了一個新的治理程序具有C5實例類型的完整Nitro系統,代碼長什麼樣子現在已經記不清了但工程師依然記着那時的心情,這是投入的揮金如土是身心的殫精竭慮是答應的使命必達是不能思議的時刻當Nitro系統推出時五年辛勤今生憂傷,Nitro給亞馬遜雲帶來什麼,Nitro的迭代推動亞馬遜雲最焦點的EC2產物家族不停往更大更快更平安更穩固更多類型更高性價比偏向演進,Nitro系統讓亞馬遜雲有能力提供100Gbps增強型以太網網絡的雲支持更高吞吐量或受網絡限制的事情負載如HPC應用程序,藉助Nitro系統將虛擬化功效卸載到專用硬件上將EC2的架構剖析為更小的塊這些塊以多種差其餘方式組裝能夠天真地設計和快速交付EC2實例並提供越來越多的盤算存儲內存和網絡選項,亞馬遜雲CTO沃納威格爾WernerVogels曾經說過在亞馬遜雲90到95的新項目都是來自於客戶給我們的反饋剩下的5也是從客戶角度出發所做的創新實驗,而Nitro系統正是這種項目之一它降生於2013年成熟於2017年到現在還在不停進化中2021年已經迭代到第五代,六,最主要的一點亞馬遜雲科技的團隊看到了阿里雲神龍團隊也看到了,安東尼看到了張獻濤也看到了,把傳統的虛擬化手藝直接移到雲盤算缺陷極其顯著事實不是為了雲盤算的服務器而生的,把時間花在最值得思索的問題上,2016年左右張獻濤博士天天都在思索統一個問題什麼樣的虛擬化手藝才適合雲盤算,得從基本上解決傳統虛擬化應用到數據中央內里存在的缺陷也就是性能資源隔離方面所有的問題,他腦中的神龍系統逐步清晰,那一年裡張獻濤博士麋集低調往返於北京和杭州兩地意在勸說多位大咖級芯片主架構師加入阿里雲,有這樣一句話很打悅耳心日後實現的時刻更激悅耳心,外界無法明白互聯網公司要做DPU的刻意這件事情絕對是前人沒有做過的它可以改變雲盤算內里最焦點的手藝,神龍芯片給阿里雲帶來什麼手藝價值,張獻濤以為第一解決CPU和內存完全隔離的問題這裏的隔離有兩個層面意思一個是平安方面的隔離一個是性能的隔離,第二IO鏈路上最容易出平安破綻QEMU這個模擬器是從傳統的虛擬化帶過來的在神龍芯片第一代的誰人時間點上它是完完全全過時了,所謂的過時了包羅兩點其一代碼是開源的人人皆可見其次平安破綻多常發生一些虛擬機逃逸的情形,在公共雲的天下里虛擬機逃逸五個字還沒有說出口就有一群人撲上去捂住你的嘴,虛擬機逃逸絕對不允許,DPU解決了性能同時也解決了平安方面的問題,神龍芯片一最先就想好了多張卡解決問題強調多合一多種功效在一張卡上實現龐大度下降穩固性增強,兩架馬車解決的問題一樣實現的思緒差異,佛山無影腳神龍無影刀,DPU的一個要害就是從那裡切與切到那邊謎底充滿玄機和禪意,這讓人想起庖丁解牛若要回覆骨在哪肉在哪骨血相連又在哪,生怕要稔知全牛結構全憑手感刀法在腦海里在肌肉里,這還不夠難題在於每一家雲廠商的軟件是紛歧樣的,怎樣處置漫衍式存儲和漫衍式網絡的軟件接口,哪些應該放在控制路徑,哪些放在數據路徑,若是不懂虛擬化你就不知道怎麼切或者切完后性能也欠好,DPU團隊外面生氣心裏憋悶誰出的破題,再或者有的DPU團隊還沒有看到牛在那裡,DPU這個器械光有硬件思緒或光有軟件思緒一定會出大問題,當故事講到這裏虛擬化的知識就不夠用了要細聊張獻濤在英特爾的另一段履歷,上海虹橋作為著名的交通樞紐周邊房價一直看漲,2005年的時刻張獻濤剛到英特爾實習人為不高錢包不鼓在大虹橋地段找屋子住選來選去選了仙霞路周圍的茅台路一個叫做天山五村的老式小區,大虹橋的房價逼得張獻濤和師兄合租了一個單間逼仄的房間里擺了兩張單人床已經夠窄小了沒想到更窄小的在後面,一進英特爾張獻濤的壓力值就爆表了,為什麼他發現六年的盤算機專業白讀了媽耶英特爾大牛們說的話居然聽不太懂緣故原由是他們講的那些器械都牽涉到芯片內部的專業知識,能主宰一個時代的門派半導體產業鏈的頂端照樣有許多秘笈的,腦殼混沌了幾天之後張獻濤那股子不平輸的勁兒上頭了,經高人指點他衝到藏經閣就找寶典,英特爾系統編程手冊SystemDevelopmentManual是這樣一種存在你看第一遍包你基本看不懂,照理說盤算機的操作系統是按此寫出來的好比英特爾的64位處置器用的是IA64配套的手冊有好幾卷,手冊也誠不我欺卷卷厚如板磚就不信你能讀完,晚上師兄睡了張獻濤不敢開大燈從枕頭下面摸出一樣器械手電筒於是咳嗽放屁都在一個被窩裡用手電筒的光照着看手冊,老舊小區的黑瓦和夜色融在一起樓層里閃灼着零星的光從窗口的方格里冒出來張獻濤屋裡的光從被子里透出來,開了頭才知道痛苦是一層套一層的套娃,逐日不輟的翻讀還要看操作系統的內核代碼這行代碼為什麼這麼寫他要到編程手冊里找謎底這還不夠要看Linux和Xen的代碼,看不懂怎麼辦英特爾另有一個師兄幫扶機制類似學霸紅領巾不懂問師兄,左手一本軟件編程手冊右手一本硬件編程手冊外加Linux內核代碼一行一行去明白,再看不懂怎麼辦去找美國的工程師討教,張獻濤吃一口編程手冊蘸幾行Linux內核代碼成為逐日的例行動作,日復一日張獻濤對CPU對操作系統的明白加深加深再加深,在英特爾公司張獻濤知道了一個冷知識,任何一顆芯片從英特爾公司走出來之前內部員工可能提前三到五年就已經拿到了未出廠的芯片,工程師們要把CPU所有的新功效用軟件用起來,說白了得手的芯片還沒有正式量產芯片內里會有林林總總的誤差你要去明白問題來自於軟件照樣硬件,不領會這點你永遠不會嫌疑CPU會出問題,DPU的手藝首腦需要對芯片對芯片組對PCIe總線對操作系統對虛擬化的領會到達一種境界關燈取物犹如開燈取物一樣自若,看似行雲流水的判斷是在日復一日年復一年無聲無息中形成的就像火山發作后熱風裡從早到晚飄落的火山灰把一切手藝難點都掩埋,從火山灰中醒來看到一個重塑的新天下,DPU的部署無異於完成了給高速飛馳的列車換防風質料給深海作業的潛艇換防水質料,2017年到2021年亞馬遜雲和阿里雲均已跑步進入了DPU產物迭代良性循環的新天下,2021年的炎天張獻濤博士對我說以前沒有人信託互聯網公司需要芯片手藝現在人人都信託了,七,裁判一聲長哨男主持人富有磁性的聲音播報觀眾同夥們這裡是數據中央賽場IaaS層終場雲盤算基礎設施最後一場競賽,當優異DPU問世的時刻海內雲盤算廠商在IaaS層這輪的戰鬥宣告竣事了,自研出DPU的雲盤算廠商說我攤牌了我贏了,哪怕五年前放眼找事情的網站就算雲盤算廠商放出招芯片專家的崗位誰敢去去幹啥再資深的HR一看崗位說明都懵了就沒接觸過搞芯片的人,軟件開發周期何其快硬件開發周期何其慢旁人都說這戀情看上去就不恆久,老牌芯片公司一扭頭眼角餘光里都是質鄙疑視,雲廠商只善於軟件若何面臨芯片,雲廠商面臨的場景極其龐大用芯片怎麼搞定,誰出的題這麼難,問題是龐大中的龐大需求是剛需中的剛需,很負疚文章科普得遲了DPU是一種雲上服務器的專用芯片,這句話有兩個要害詞雲上服務器和專用芯片,先講雲上服務器,雲上服務器有些像公共澡堂可以一小我私人用也可以多人共用窮苦都是一起用帶來的,公共澡堂一起用最好有隔板我看你你看我這樣不文安明全,適口可樂和百事可樂要在一朵雲上還能相互看文件立馬就翻臉了肥皂也不撿了,那怎麼辦,謎底是得插DPU而且是每台服務器都得插十萬台服務器插十萬張DPU殺毒軟件是用軟件珍愛平安DPU的作用之一是用硬件珍愛平安,說到平安硬件比軟件更能打這個就不贅述了,再講專用芯片,提到專用芯片挖礦炒幣賺到錢的人興奮了搶着說我最內行由於差其餘加密錢幣要差其餘礦機礦機越對口挖幣越賺錢,款項的銅臭味告訴我們專門的事情讓專門的芯片去做,現在另有爭議然則未來會看得清晰DPU是雲盤算的標配,摩爾和登納德兩位老先生無情指泛起實之無奈CPU成了最昂貴的打工人,以是DPU作為專用硬件除了平安還要來給CPU減負,幾條街之外都能聞聲DPU的嘮叨哎呦CPU我的祖宗快放下您哪敢動這可不能把資源虛耗在網絡和存儲的負載上,CPU則說救救孩子吧我太南了,CPU高聲呼救的緣故原由是CPU既要處置大量的上層應用又要維持底層軟件的基礎設施還要處置種種特殊的IO類協議不堪重負,把肩負從CPU上卸載下來DPU將有望成為承接這些肩負的代表性芯片,CPU也很喜悅DPU的泛起你行你上呀,簡直有人誇DPU是繼CPU和GPU之後的第三顆主力芯片,不要由於鮮花和掌聲太多就對DPU的能力有什麼誤會,CPU穩坐主咖寶座CPU可以當DPU用CPU也可以當GPU用然則反過來不確立,DPU的事情CPU能做然則CPU比DPU昂貴老多了牛刀太貴殺雞的人自然不捨得,雲廠商想實現一起沐浴一起用得靠虛擬化手藝虛擬化雖好然則會引發一堆糟心事兒好比性能消耗甚至有人把這種消耗比喻成交稅搞不定固然多交稅,這種消耗也相當於還沒有最先沐浴一半水在水管里就虛耗光了肥皂沫都沒有來得及衝掉,手藝問題越難極客們越興奮不自覺揚起了手裡的小皮鞭,虛擬化是DPU的精髓虛擬化的歷史險些和盤算機一樣悠久是盤算機科學史上最偉大的頭腦之一作育了偉大的雲盤算手藝和市場,製造假象隱藏細節給上層應用提供一種假象降低上層應用使用下層資源的龐大度,我們天天在用的操作系統也是一種虛擬化的頭腦是對硬件資源的虛擬化,PC機的虛擬化把盤算的焦點釀成歷程把存儲介質釀成文件系統,雲盤算的硝煙戰火中虛擬化這個噴塗了迷彩偽裝的彈藥庫終於藏不住了,八,說它低調誰意料DPU直接打破了次元壁在彈幕里打出火鉗劉明,有人造出來DPU的時刻DPU還沒火它們就是阿里雲的神龍芯片亞馬遜雲的NitroSystem,兩者都優異,不僅造出來了還規模化用起來了,不僅規模化了在雲的場景中收益還偉大了,阿里雲在海內雲盤算廠商手藝團隊里是最拔尖的,亞馬遜雲在手藝上從來沒讓人失望過公關廣告投入就另說了,他們造DPU的團隊犹如雄師過江天翻地覆慨而慷,自此雲廠商分成兩列縱隊有DPU的沒有DPU的,中國男足笑而不語大比分落伍說的就是那些沒有DPU的雲廠商,亞馬遜雲和阿里雲都是革命者且心有靈犀選了相同的手藝偏向,雲燦霞鋪同是天涯自滿人,亞馬遜雲的SA是解決方案架構師SolutionsArchitect很能打一言不合就秀show代碼簡直人人都匹敵創業公司CTO,一位SA私下里告訴我簡樸來講DPU就相當於是把虛擬化差其餘事情負載下放到差其餘卡上,注意下放這動詞得體會了一陣子才想通這個詞用得妙啊它背後的專業術語是義務卸載,Nitro是一張卡把負載Hypervisor虛擬層存儲網絡都綁上去也就是把影響虛擬化平安性能穩固性的那些器械都裝進板卡里去,它不是一張卡是一套卡每張卡片有差其餘目的,NitroSystem之以是稱為是一個系統它包羅三個自力的部門Nitro卡Nitro平安芯片和Nitro治理程序,以前嘴饞必須自己會燒兩個小菜然則現成的API準備好了,不僅會燒菜還會自創新菜,學搞燒創菜新沒那麼難,由於Nitro系統是一個基礎組件盒子有許多差其餘組裝方式從而使AWS能夠天真設計和快速交付EC2實例類型盤算存儲內存和網絡都可以成為組合的選項,選擇難題症患者看到后趕快喝了一口咖啡壓壓驚,亞馬遜雲員工也談到這種做法能夠將雲盤算微服務架構擴展到硬件利便創新API,2017年的時刻愛看熱鬧的人圍觀神龍MOC卡但萬萬沒有想到圍觀的就是DPU,一位阿里雲異構盤算團隊的員工私下里告訴我MOC可以明白為一台小服務器物如其名卡上微系統MicroservicerOnChip然則2021年我們對外口徑統一用神龍芯片不叫MOC卡,阿里雲員工還說對於神龍芯片的細節公司希望對外少談有不少人在探問,2021年10月20日神龍推出第四代江湖人稱神龍40,比起第三代神龍要害性能指標提升了若干呢,說兩個要害的網絡要害性能指標提升一倍以上存儲要害性能指標提升兩倍,神龍40全球首次搭載大規模彈性RDMA高性能網絡網絡延遲整體大幅降低,RDMA作為網絡通訊手藝不是一個新手藝然則阿里雲彈性RDMA讓RDMA這項手藝從高性能盤算HPC這個小眾領域走向公有雲,曾經RDMA大規模組網的能力是整個業界都解決不了的問題,彈性RDMA將對雲原生微服務無服務盤算應用的性能提升大有輔助甚至是Java中用Netty網絡編程框架的應用程序都市從中受益,2021年的秋天張獻濤對我說神龍芯片是現在業界最精彩的DPU沒有之一,DPU要才氣有才氣要顏值有顏值然則另有兩大怪,一大怪亞馬遜雲和阿里雲的DPU不外賣,DPU作為專用芯片不要你懂只要自己懂自己,另一大怪不少雲盤算廠商一提自研DPU就說拜拜,況且青雲和UCloud上市了也都在虧損,更況且造DPU怎麼著得拍出三個億人民幣來,九,村口的土牆上刷上了白底紅漆的廣告語,DPU早擁有早致富,DPU保平安,DPU隔離好,DPU省大錢,一定得用又沒錢自研可以用英偉達的DPU呀2020年英偉達69億美金收購Mellanox劍指DPU,惋惜不是量文體衣用起來不稱手很痛苦有專家絕不留情地指斥對英偉達現有的feature功效都不知足,樹上恭弘=叶 恭弘子綠了又黃雲盤算廠商給博通公司提交的工單在排隊,寒風吹來枝頭禿禿工單仍在排隊,阿里雲和亞馬遜雲的DPU都是2017年宣布的,事隔多年有沒有哪家雲廠商跟上了,眾人搖頭闃寂無聲,亞馬遜雲和阿里雲則可能會說原諒我沒忍住笑出了聲,非公然產物市場急需新聞靈通人士,巧了有一家著名的海內雲廠商跑到客戶那裡宣吹傳牛DPU不就是智能網卡嘛我廠2012年就有了比神龍和Nitro快多了,懂行的客戶發出靈魂一問瞬間社死現場,你家DPU果真云云那你為什麼不用,吹牛牛逼症泛起人傳人的徵象了嗎,又巧了笑傲江湖的轉身餘下的DPU產物要麼停留在並不怎麼好用的水平上,要麼只試探着做了個原型出來停留在驗證看法Proofofconcept的水平上,中國男足笑了笑說負疚打不開事態,球迷火了花了這麼多錢你想說重在介入,太巧了有人告訴親愛的數據多家公司暗地里派出員工天天找阿里雲的人套話這個為啥這樣做誰人接口為什麼這麼設計,芯片的水很深總會從供應鏈拿到一些內部新聞另有一家雲廠商抄了好幾年像素級別地抄也沒有抄出個像樣的,更糟糕的是規模越做越大快撐不下去了,那些有DPU的雲廠商熱升級多Happy迭代速率嗖嗖滴,那些沒有DPU的雲廠商可慘了聽說其中一家得一個月重啟一次服務器,曾以為重啟僅僅是文科生的常用操作別問我怎麼知道的,DPU是同夥圈凡爾賽的神器,雲廠商發同夥圈祝友商早日建整天下一流DPU,意識到友商已經建整天下一流DPU默默刪掉上一條同夥圈,Fungible公司在同夥圈寫下2019年我們界說了DPU,樓下談論公司挺值錢軟銀願景基金大手筆投了,惋惜產物做得一樣平常對雲盤算的明白不到位無法向其談論豎大拇指,英特爾坐不住了宣布了IPU基礎設施處置器來表達對DPU這件事情差其餘看法,希望同夥圈獲得高贊,雲廠商樓下依次排隊點贊但心裏唏噓不已DPU的天下英特爾也不能一聲令下一統江湖了,十,投資DPU至少有兩個不投,一不投那些不熟悉雲營業的需求的團隊,二不投那些對軟硬件融合部門明白得對照粗淺的團隊,惋惜投資DPU這潭水沒有水最混只有水更混,DPU身上有兩樁著名的冤案在沒有DPU之前SmartNIC一種智能網卡先一步問世給網絡減負,第一印象最深刻以是有些人至今誤以為DPU就是SmartNIC,SmartNIC是對網絡舉行加速但解決的問題比DPU小多了,這時刻ETC自動抬杠機精上線了你就回覆我DPU最基本的功效是不是一張網卡,哪怕是人民群眾都對新聞里的5G千兆光纖耳熟更別說工業互聯網車聯網,對網絡的要求越來越高了雲盤算的網絡帶寬從主流的10Gbps閉着眼睛就朝着100Gbps一起狂奔,惋惜的是DPU雖然能給網絡幫上忙但不是智能網卡,當一個產物已有排山倒海的轉變我們不妨叫它的新名字,遺憾的是沿着智能網卡的蹊徑一意孤行永遠也到達不了DPU的綠洲,不外在2021年智能網卡峰會上大談特談DPU也是特準時期的特色,所有誤解皆是雲煙,智能網卡是不是DPU的必經之路先一步造智能網卡做紮實了再做DPU這種思緒您怎麼樣明白,电子工業出書社出書的軟硬件融合超大規模雲盤算架構創新之路一書的作者原UCloud優刻得雲盤算廠商芯片及硬件研發認真人黃朝波這樣以為,站在功效的條理一定是從簡入繁的歷程這個說法是對的,轉折之後往往是重點,站在實現的角度這個說法值得商討智能網卡的路子往往隨着英偉達NVIDIA的做法先NIC再SmartNIC再SOC網絡功效的實現是定製ASIC專用集成芯片然而亞馬遜雲和阿里雲沒走尋常路從一最先就只有CPU來實現再逐步加入種種加速總之這條DPU的演進之路是從CPU到DPU,正如前文所述亞馬遜雲和阿里雲是相同的手藝偏向走法卻差異,你品你細品英偉達的手藝蹊徑是從定製加速到通用這和亞馬遜雲和阿里雲那種從通用到加入定製完全是兩個相反的手藝演進偏向,另一個冤案是按字面意思明白DPU,果真不能僅看外面,DPU的全名叫DataProcessingUnit是數據處置器自賽博開天闢地就有數據,CPU不能處置數據嗎GPU不能嗎既然不是那憑啥就你叫數據處置,CPU和GPU攥緊了拳頭強忍着扇耳光子的感動嚷嚷今天誰來都欠好使,更別說數據平安法砸得門板咚咚直響暫且檢查聽說你們這裡有數據照樣底層數據,這樣下去保安拉起黃色警戒帶排場生怕要失控,冤案掩飾了難點,DPU是軟件界說硬件是用硬件適配軟件做加速想懂DPU要懂許多器械芯片系統軟件盤算機系統結構雲盤算服務虛擬化,兩個雲廠商的樂成故事也淡化了難點,投資人常聽人說阿里雲和亞馬遜雲的DPU都造出來了留給創中業國者隊的時間不多了,2021年一堆國產DPU公司連續不斷拿到融資,雙手一伸數一下雲豹智能益思芯合肥邊緣智芯星雲智聯青雲半導體大禹智芯中科馭數芯啟源深存智能等,DPU創業企業存在於北京上海珠海等地,公然工商資料上可查的是互聯網大廠也已刷刷脫手,騰訊投資雲豹智能,美團投資星雲智聯,字節投資雲脈芯聯,DPU的利好點許多中國的雲盤算市場是一個多雲的市場好比電信云為代表的行業雲泛起后金融雲物流雲等更多的行業雲逐步湧現,甚至會有地方雲某權要部門雲,頭部的雲盤算廠商不是DPU唯一的客戶,再者中國盤算機學會專家曾估量用於數據中央的DPU的量將到達和數據中央服務器等量的級別每年以萬萬級新增算上存量的替換5年總體的需求將突破兩億枚,這一下就跨越自力GPU卡的需求量,甚至可以說一台服務器可能沒有GPU但不能沒有DPU,好比旅店每個房間都要有WIFI否則前台客服電話就會被打爆,目之所及一片形勢大好欣浪欣費向金榮錢,現實上小眾且專精的要害手藝難以一窺其全貌,DPU存在的本質是解決傳統虛擬化應用到雲盤算中的諸多問題的由於早期的虛擬化手藝更多用在桌面系統把傳統的用在桌面上的虛擬化直接搬來用用起來不隨手,DPU設計的本質和虛擬化慎密相關是為領會決虛擬化帶來的糟心事兒性能資源隔離方面等等,簡樸地說虛擬化主要分成四種CPU虛擬化內存虛擬化網絡虛擬化存儲虛擬化唯有DPU才是從基本上解決傳統虛擬化應用到數據中央內里存在的缺陷的最後一站,英特爾VTx只解決CPU虛擬化和內存的問題網絡虛擬化和存儲虛擬化的問題是個歷史遺留問題一直沒有獲得有用的解決尤其在雲盤算場景里功效上能實現然則性能可擴展性隔離性總是處置欠好,部門問題解決了其他的怎麼辦,DPU來解決其他的也就是說DPU是解決虛擬化短板的最後一站,DPU是瞄準了雲盤算里硬件虛擬化的真實痛點來做的,這麼強那DPU到底都牽涉哪些手藝,這麼說吧由於涉及的手藝領域異常之廣阿里雲彈性盤算認真人張獻濤說為了神龍芯片我險些發動了阿里雲全線的一流專家,可能在一些造CPU的人的眼裡造DPU對照簡樸我CPU這麼龐多數能造玩轉DPU算降維襲擊,可是DPU真的好造嗎,若是不懂虛擬化不懂系統軟件不懂雲盤算的場景光懂芯片就想做DPU那麼可以送出五個黑體大字無知者無畏,DPU是多派別手藝的集大成者有軟件有硬件有盤算有網絡有存儲有虛擬化有平安有加速器有驅動有框架有應用精鍊交織,也許有一天DPU會呼籲CPU不是替換,最後讓我們為那些真正的手藝革命者起身致敬拍手歡呼,事實一次局部手藝革命可比一場球賽更帶勁兒,帶球隊員距球場小禁區另有幾步之遙隊友在不遠處大呼傳中傳中守門員面色一動似乎在猶豫捉住時機小角度鼎力抽射破門,還愣着幹啥進球了拍手啊,完,適合算卦的網名(在四川聽過最扯把子的話)
送給算卦大師錦旗上面怎麼寫(回眸2018)