南方財經全媒體記者江月 上海報道5月29日在臺北國際電腦展上,英偉達創始人兼CEO黃仁勛宣布:“CPU擴張的時代已結束。”整場持續了2小時的演講中,他圍繞著生成式AI帶來的“觸發點”,將英偉達近期的硬件、軟件、系統新品進行了一番兜底式介紹。
黃仁勛稱,GPU塑造的“新計算機”到來了。由英偉達打造的新型“計算機”,形態已經不同以往,它的單臺售價高達20萬美元。在“昂貴”的爭議之中,黃仁勛又稱,GPU是每個電力預算有限的公司之不二選擇,也是最“省錢”的基建選擇。
(資料圖)
黃仁勛近期在公開演講中稱,面對AI時代,人們需要“奔跑、而不是慢慢地走”。在生成式AI的花園里,英偉達顯然正在奮力挖掘中。
解碼GPU數據中心成本
“大家總是說GPU數據中心很貴,讓我來算給你看。”5月29日,英偉達創始人兼首席執行官黃仁勛在臺北國際電腦展上,向公眾具體地介紹了GPU數據中心的成本。
在此次與供應商、客戶的見面中,英偉達帶來了全新的AI“計算機”DGX GH200。這是一款集成了256個英偉達最高性能CPU和GPU的超級計算機,能滿足“超大大模型”的訓練需求。
DGX GH200使用英偉達NVLink-C2C互連技術,將基于Arm的Grace架構CPU和Hopper架構GPU進行架構互聯,實現了高達900GB/s的總帶寬,比傳統加速系統中的標準PCIe Gen5通道高出7倍,這種算力能夠滿足眼下要求最苛刻的生成式AI和HPC應用。
(圖為英偉達于5月29日公布的GH200 Grace Hopper超級芯片,由英偉達公司供圖)
隨著市場對數據中心基建需求的增長,英偉達眼下也需要向市場施展一些“銷售手段”。最迫切的需求,就是化解人們對其設備“昂貴”的恐懼。
簡單來說,“使用GPU數據中心,你可以獲得150倍的性能,并省下2/3的成本。”黃仁勛稱。
黃仁勛介紹,以同樣的1000萬美元預算為例,AIGC開發商可以搭建一個由960個CPU服務器組成的數據中心,這足以訓練1個大語言模型,最終的運營消耗是11千兆瓦時電力(GWh,相當于1100萬度電)。
但若換做GPU,則可搭建一個由48個GPU服務器組成的數據中心,不過這個數據中心可以訓練44個大語言模型,總共消耗3.2千兆瓦時(相當于320萬度電)。
按照上面的計算方法,按照單片價格計算,一片GPU芯片的價格是一片CPU的20倍,似乎“更貴”。不過,如果按照數據中心TCO成本計算法,則GPU數據中心更“省錢”。
黃仁勛甚至直接在演示PPT中列出了一個公式:數據中心持有成本=f{硬件成本(芯片、系統、硬件生態系統),吞吐量(GPU、AIgo軟件、網絡、系統軟件、軟件生態系統),使用率(AIgo Lib、軟件生態系統),采購運營,生命周期最佳化,算力},從而解釋了數據中心的TCO成本問題。
“為什么這非常重要?因為現實生活中大多數企業都有電力限制。”黃仁勛再次強調。如果加上這一客觀因素,企業在投身AIGC時,就必須選擇更高效、更低功耗的數據中心產品。
為何GPU在數據中心中的性能如此強大?黃仁勛介紹,這主要歸功于三大功能:光線追蹤(模擬光的特性)、以張量計算為核心的人工智能和全新的算法。
英偉達于2017年開始實踐在GPU上同時實現上面三個功能,當時用GPU生成圖片的效果首次驚艷了市場。當時,使用CPU服務器“無中生有”一張圖片需要花費數個小時(這個過程用專業說法叫做“渲染”),但英偉達使用GPU只花了15秒。
不過,新型GPU計算機的所謂“便宜”,并不是針對消費級市場的。值得注意的是,由于它的高昂價格,目前無法在個人電腦市場上替代CPU為核心的PC、筆記本等。
在演講現場,黃仁勛揭開了一臺由8個H100芯片組成的“新型GPU計算機”。“它是全球最昂貴的計算機。”黃仁勛稱。
這個新型電腦重達65磅(大約29.5公斤),必須要借助機器人才能實現平穩、精確的安裝。“這臺電腦售價20萬美元。”黃仁勛稱。
啟動AIGC行業變革
用硬件來淘汰“CPU時代”,還只是英偉達攻占AIGC龍頭地位的第一步。眼下,英偉達已經在軟件生態圈中進行精心布局,除了將CUDA計算模型推廣給400萬名軟件開發者以外,還推出了游戲AI模型代工服務,并深入到制造業中支持虛擬工廠、機器人仿真技術和自動化檢測。
“為什么這么多年來,人們無法創造一種新的計算方法?”黃仁勛談及CPU時代時稱。他指出,這是因為硬件與軟件、消費市場與開發商供應者之間存在一種“雞生蛋、蛋生雞”的關系,導致互相牽制,令基于CPU的計算方法得以持續甚久。
因此,為了打破“CPU時代”的桎梏,英偉達除了大力設計芯片硬件,也十分關注搭建軟件生態環境。CUDA計算模型就是英偉達為這個長遠布局落下的一枚關鍵棋子。
“英偉達Cuda計算模型現在服務于400萬開發者和超過3000個應用程序。Cuda的下載量達到了4000萬次,其中僅去年一年就達到了2500萬次。”黃仁勛稱。他指出,在擁有了如此龐大規模的軟件基礎上,GPU取代CPU才實現可能。
總結黃仁勛兩個小時的演講內容,可以看到英偉達對AIGC領域的挖掘,涵蓋了核心的超級芯片、到互連技術再到算法引擎的優化、以及配套軟件的升級。
事實上,AIGC所涉及到的文生文、文生圖、2D圖生3D圖等,正在經過多種大模型或應用進行實現,包括英偉達旗下的對話式 AI 模型開源框架NeMo、Meta旗下的大模型LLaMa、使用GPT模型的應用ChatGPT、以及文生圖應用Stable Diffusion等。目前,全球最有影響力的AIGC科技龍頭都在深度使用英偉達所提供的工具,也推動英偉達在美股市場上攀爬“1萬億美元”市值的高峰,很快就要和蘋果、微軟、谷歌、亞馬遜一起處于“萬億俱樂部”中。
英偉達此次帶給AIGC行業的工具之多,令市場感到十分吃驚。除了以上的產品,英偉達在大型游戲創作和數字化工廠方面的介入,也十分引人注目。
在游戲創作方面,黃仁勛展示了一段游戲片段。這個片段中,除了現實感逼真的畫面制作外,游戲玩家和NPC之間的對話也是完全由AIGC生成的。換句話說,以后的游戲可以“千人千面”,玩家面對的不再是只會吐露模式化回復的NPC。這個功能依賴英偉達的AI模型代工服務ACE游戲開發版,有利于游戲開發商簡易上手上面的功能。
英偉達又介紹,現在一些領先的電子制造商已經使用英偉達的AIGC和元宇宙平臺omniverse實現工廠的“數字化”。
在制造業,全球大約有1000萬家工廠,它們是工業數字化的重點領域。
黃仁勛表示:“工業制造的都是實物,如果能先以數字的方式制造產品,可以節省數十億美元。”
眼下,在工業領域,英偉達主要打造了Omniverse和生成式AI來幫助工廠進行虛擬工廠的設計,還推出了Isaac Sim模擬和測試機器人、Metropolis光學檢測自動化工具。
據了解,富士康、和碩、廣達等電子設備制造商已經在利用英偉達上述工具加快筆記本電腦、智能手機的生產和裝配。
關鍵詞:
凡注有"環球傳媒網 - 環球資訊網 - 環球生活門戶"或電頭為"環球傳媒網 - 環球資訊網 - 環球生活門戶"的稿件,均為環球傳媒網 - 環球資訊網 - 環球生活門戶獨家版權所有,未經許可不得轉載或鏡像;授權轉載必須注明來源為"環球傳媒網 - 環球資訊網 - 環球生活門戶",并保留"環球傳媒網 - 環球資訊網 - 環球生活門戶"的電頭。
- 逐浪AIGC?|生成式AI的花園里 英偉達如何2023-05-30
- 英國法官戴假發開始時間介紹?英國法官戴假2023-05-30
- 中信建投證券(06066):李岷和閆小雷獲選舉2023-05-30
- BMO Capital:宏觀環境改善 上調博通(AVG2023-05-30
- 上港集團哪個子公司好?上港集團容易進嗎?2023-05-30
- 主力是怎么拉升的?主力吸籌怎樣才能看出?2023-05-30
- 金爆行動電影電視機放的音樂是啥?金爆行動2023-05-30
- 為什么主力能買進一字板?股票一字線會持續2023-05-30
- 慢牛股票是什么?慢牛股一般持續多久?2023-05-30
- 什么叫均線金叉?均線很亂是什么原因?2023-05-30
- 網課考試怎么考的(網課考試怎么作弊)2023-05-30
- 全球動態:油價小幅上漲 加一箱油多花約4元2023-05-30
- 勁仔食品今日大宗交易折價成交414.22萬股 2023-05-30
- 焦點信息:AI+ 采礦擦出新火花!全球最大礦2023-05-30
- 股東變更需要哪些手續?公司轉讓一般賣多少2023-05-30
- 基金贖回按哪一天凈值?基金贖回第二天跌了2023-05-30
- 股息紅利稅補繳什么意思?分紅后每一次做T2023-05-30
- 新華全媒+丨持續發展生態旅游——“西藏江2023-05-30
- 公司轉讓和注銷哪個好?轉讓營業執照合法嗎2023-05-30
- 劉佳的丈夫比他大幾歲 劉佳的丈夫|環球聚2023-05-30
- 環球微速訊:上海電力(600021.SH):多品種2023-05-30
- 擔保貸款逾期不還擔保人會怎么樣?老賴不還2023-05-30
- 抵押和質押的區別是什么?抵押和質押的所有2023-05-30
- 天津西站客運站電話(天津西站客運站)2023-05-30
- 環球今頭條!折心沐火的意思是什么_520人民2023-05-30
- 浪潮信息入圍Gartner全球服務器標桿廠商 2023-05-30
- 全球熱議:今日手工編織毛線帽女圖片_手工編2023-05-30
- 紅棗泡酒的正確方法?|實時焦點2023-05-30
- 嗶哩嗶哩直播如何獲得電池 嗶哩嗶哩獲得電2023-05-30
- 定期存款未到期不能取出?定期存款是存折還2023-05-30
資訊
- 勁仔食品今日大宗交易折價成交414.22萬股 成交額4945.78萬元-世界熱推薦
- 市場指導價52.18萬元 奧迪S4 Avant正式上市|焦點快報
- E選車丨奔馳EQE SUV:頂配比GLE入門還便宜 想買選低配就夠了
- 中國工程物理研究院職工工學院怎么樣 中國工程物理研究院職工工學院全國排名
- 最資訊丨蔚來車主慘遭背刺,李斌的“不降價”還能扛多久?
- 天天亮點!溜溜布親子游戲玩法(溜溜布游戲的玩法)
- 世界觀速訊丨日常保養!本澤馬社媒曬圖,給背部和腳部拔罐
- 妖尾露西和納茲接吻(妖尾露西)
- 做一個動平衡大概多少錢(方向盤抖動做動平衡還是四輪定位)
- 放棄華為百萬年薪也不虧?天才少年稚暉君創業獲百度投資,估值或超10億美元_天天微動態