隨著AI技術和應用創新不斷加速,模型復雜度和數據量急劇增加,對包括算力在內的新型基礎設施建設提出了新需求和新要求,建立適應AI+時代的高質量算力服務體系迫在眉睫。
日前國家信息中心信息化和產業發展部發布了《“人工智能+”時代公共云發展模式與路徑研究》報告,提出公共云是破解我國AI+時代算力“供不上、用不起”瓶頸問題的重要抓手。
公共云是指面向公眾提供的云計算資源,通過聚合各類算力并通過在線的模式為各類用戶提供簡單易用,且近乎無限擴展的計算服務,其本質是將云計算資源規模化、大范圍進行共享。“公共云能以資源利用效率最大化的方式,幫助提升我國算力供給能力,并通過規模經濟效應推動算力門檻降低,讓更多的用戶享受普適普惠的算力服務。”國家信息中心信息化和產業發展部主任單志廣介紹。
智能算力緊缺制約大模型規?;瘧?/strong>
智能算力資源緊缺已成為制約大模型規模化應用的主要瓶頸。
按照應用和功能特性,算力可分為基礎算力、智能算力、超算算力三類,基礎算力主要基于CPU芯片,用于滿足基礎通用計算需求,如網購、打游戲等;智能算力基于GPU、FPGA(現場可編程門陣列)、ASIC(專用集成電路芯片)等AI芯片的加速計算平臺,主要用于人工智能的訓練和推理計算,如語音、圖像和視頻的處理;超算算力由超級計算機等高性能計算集群提供,主要用于尖端科學領域的計算。
智能算力方面,以AIGC(生成式人工智能)為代表的AI應用、大模型訓練等所使用的數據量和參數規模呈指數級增長,帶來了智能算力需求爆炸式增加。例如GPT-3模型參數約為1746億個,訓練一次需要以每秒一千萬億次計算,運行3640天。GPT-4參數數量擴大到1.8萬億個,是GPT-3的10倍,訓練算力需求上升到GPT-3的68倍,在2.5萬個A100芯片上需要訓練90~100天。
在中文大語言模型方面,2023年3月百度發布文心一言,4月華為發布盤古大模型,阿里發布通義千問大模型,商湯科技公布日日新大模型體系,5月科大訊飛發布星火大模型等,到目前我國大語言模型已有上百個。根據中國信息通信研究院測算,從設備供給側看,2022年我國計算設備總算力規模中,基礎算力占比40%,智能算力占比則高達59%,成為算力快速增長的驅動力。根據預測,到2026年智能算力規模將進入每秒十萬億億次浮點計算(ZFlops)級別。
“大語言模型發展帶來了AI算力需求的快速上升,所消耗的計算資源每幾個月翻一倍,算力需求的增長速度已經遠超芯片性能提升和產能擴張速度上限。”單志廣介紹。
公共云具備緩解算力緊缺潛力
公共云是以需求為導向以應用為目的的一種公共服務模式。AI+時代,公共云將成為破解算力資源緊張、降低算力成本的關鍵抓手。
首先,公共云具備訓練大模型所需的強算力。訓練全球領先的基礎大模型需要調度至少萬張GPU芯片高效協同工作,只有極少數公共云具備相應能力。從亞馬遜、微軟和谷歌等科技巨頭運營公共云的經驗來看,其優勢是規模大、效率高,天然能向全球市場擴張。
其次,公共云的規模效應能夠帶來算力普惠。隨著AI大模型規模化應用,支撐海量用戶頻繁使用所需要的推理算力成本也將急劇上升,尤其是多模態大模型對于算力的消耗將遠高于文本類大語言模型。算力成本是限制大模型發展的關鍵因素之一,中小型AI企業往往難以通過自建算力設施解決訓練和推理算力需求,因此算力租賃需求旺盛。公共云可以多路復用,通過多租戶使用同一套計算資源大池,削峰填谷,顯著提升硬件資源利用率,降低使用成本。例如亞馬遜、阿里云等公共云廠商隨著用戶規模增加、技術優化和運營效率提升,持續降低云計算服務價格,亞馬遜AWS曾連續三年每年降價12次;過去十年阿里云將計算成本降低了80%,存儲成本降低了近90%。
再者,公共云能夠實現我國算力供給能力的邊界突破。公共云通過集群的計算、網絡、存儲平衡設計和軟硬一體化加速技術,調度“盤活”已有芯片,可以形成超大規模算力資源池,實現芯片復用、彈性可擴展;發揮公共云大規模機器調度、異構芯片兼容能力,不僅能將已有先進芯片集約化利用,還能充分利用已有的通用CPU資源,為AI大模型訓練和推理應用提供必要的算力支持;隨著公共云技術體系加速升級,AI訓練、AI推理以及HPC超算等計算資源將并池管理,實現算力普惠和模型普及。
觀眾在杭州舉行的2023云棲大會上了解云計算產品及應用(2023年10月31日攝) 黃宗治攝/本刊
推動云計算走向云智算
公共云和AI相結合將推動云計算走向云智算。未來云計算將不再局限于IT計算本身,而是提供包括算力、模型、數據、生態等與智能化發展相關的全方位創新服務,從而促進AI+切實落地,引領新質生產力發展。
推動云計算走向云智算,亟待解決技術層面的短板。國家信息中心信息化和產業發展部提出了公共云技術服務架構解決方案。
第一,以融合算力設施為支點搭建云計算基石。利用虛擬化技術把各種硬件資源,如計算、存儲、網絡等整合起來,并輸出融合異構算力服務。無論是X86、GPU還是ARM(微處理器芯片),都能在這個平臺上運行,不僅解決AI算力不足的問題,還能使大規模商業化成為可能。
第二,以AI工程化工具為重點搭建平臺,為開發者提供統一的研發、測試、運維工具,包括了智算服務和機器學習框架,讓AI開發變得更加高效。開發者無需在本地維護復雜的平臺就能享受到工程化的便利,降低開發成本。
第三,為開發者提供一站式模型服務。大模型是AI競爭的關鍵,通過模型聚合、開發和服務的整合,打破傳統AI應用的壁壘,讓AI技術更易于應用到各行各業。
第四,以智能化應用場景為特色,提供適用于各種智能化場景的軟件服務。
“此外,公共云需要進一步提升大規模集群管理能力,以優化資源利用效率,從而更好地滿足AI對算力的需求。”單志廣介紹。
關鍵詞:
凡注有"環球傳媒網 - 環球資訊網 - 環球生活門戶"或電頭為"環球傳媒網 - 環球資訊網 - 環球生活門戶"的稿件,均為環球傳媒網 - 環球資訊網 - 環球生活門戶獨家版權所有,未經許可不得轉載或鏡像;授權轉載必須注明來源為"環球傳媒網 - 環球資訊網 - 環球生活門戶",并保留"環球傳媒網 - 環球資訊網 - 環球生活門戶"的電頭。
- 【全球新要聞】瞭望 | 公共云提速“人工2024-04-24
- 內鄉縣桃溪鎮:送崗到家助就業,助民增收促2024-04-24
- 全球微動態丨郊區郵政分公司:真心付出換來2024-04-24
- 天天熱點評!方城縣博望鎮:常抓焚燒秸稈 2024-04-24
- 環球快報:平輿縣人民檢察院開展“世界讀書2024-04-24
- 西峽法院:“庭所”聯動凝聚合力 共謀基層2024-04-24
- 河南省內鄉縣:滿城月季滿城香|即時2024-04-24
- 鎮平縣法院:產品缺陷致損害,三方共賠消費2024-04-24
- 方城法院優化營商環境工作獲多項榮譽_聚看2024-04-24
- 天天快資訊丨鎮平法院:強制措施不遲疑 專2024-04-24
- 全球微頭條丨唐河縣桐河鄉:無償獻血傳真情2024-04-24
- 坐沙灘椅10分鐘被索要80元?平潭多部門聯合2024-04-24
- ?西平縣應急管理局調研校園應急預案工作2024-04-24
- ?西平縣專探趙丁莊小學召開數學教研學習會2024-04-24
- ?西平縣盆堯中心校校長代文輝一行到陳老莊2024-04-24
- ?雅言誦經典 書香滿校園——西平縣宋集高2024-04-24
- 乘風破浪 砥礪前行——河南佑善律師事務所2024-04-24
- ?西平縣柏苑武崗小學開展世界讀書日活動 2024-04-24
- 書香潤童心 好書伴成長——駐馬店市實驗幼2024-04-24
- 鄧州市張樓鄉:實施“四抓四促” 優化營商2024-04-24
- ?羅山縣“4·23”世界讀書日書展大集火熱2024-04-24
- ?羅山縣市場監管局竹竿市場監管所開展眼鏡2024-04-24
- 固始:這些暖心警事 讓春天充滿“公安溫度2024-04-24
- ?信陽市羊山新區:敲門行動、背包司法、伴2024-04-24
- 全球熱點!泌陽縣人民法院:生效判決未履行2024-04-24
- 鄧州市彭橋鎮: 優環境聚商機 助力鄉村振興2024-04-24
- 鄧州市張村鎮:優化營商環境 惠企便民優服2024-04-24
- 環球關注:鄧州市彭橋司法所:送法進企業入2024-04-24
- 越野賽道上的領跑者,三看新一代哈弗H92024-04-23
- 駐馬店市驛城區南海街道南海社區:深化“平2024-04-23
- 固始縣草廟集鄉人大開展養老服務體系專題調研
- 新縣:共饗民歌盛宴 樂享“詩和遠方”
- 每日熱點:?西平縣重渠澍河坡小學開展“詩詞朗誦,傳承文化”活動
- 環球速看:鄧州市花洲街道:聯動優化營商環境 推動誠信文化建設
- 鄧州市婦幼保健院召開黨紀學習教育啟動部署會-每日快看
- 【世界熱聞】?西平縣柏苑街道組織觀看《文明風盛新時代》電視專題片
- ?西平縣宋集中心學校積極開展法治教育宣傳周活動-獨家
- 微軟視頻編輯工具 Clipchamp 上線 AI 新功能,快速清理無聲部分內容
- 天天百事通!半年內超20人被查!反腐風暴席卷汽車巨頭東風公司
- 駐馬店市東祥小學開展“眼里有光 心中有大愛”優秀班主任工作經驗交流會 全球資訊
資訊
- 西峽法院:“庭所”聯動凝聚合力 共謀基層治理新“楓”景|熱資訊
- ?羅山縣“4·23”世界讀書日書展大集火熱開集
- 南召法院:彩禮返還起糾紛 類案合辦止紛爭-全球熱文
- ?西平縣人大常委會領導到出山鎮開展“基層養老服務”聯動監督調研
- 駐馬店市驛城區水屯鎮:禁毒宣傳耳邊響 筑牢全民“防毒墻”-環球新消息
- 天天熱點!?西平縣蘆廟鄉開展“亮實事、賽實績、評實效”暨第一季度“逐村觀摩 整鄉推進”活動
- 新野縣法院:鄰居地界互毆 執行彰顯耐心 全球播報
- 精選!駐馬店市驛城區古城街道:聚法治之力 筑穩定之基
- ?駐馬店市政協副主席張新領到棠河集團調研指導工作 天天百事通
- 內鄉縣大橋鄉加強麥田春季管理助力小麥豐產豐收