阿里云王超：云計算將成為大模型必選算力底座

(資料圖片僅供參考)

5月10日消息，在第六屆數(shù)字中國建設(shè)峰會“人工智能分論壇”上，阿里云智能計算集群靈駿負(fù)責(zé)人、資深技術(shù)專家王超發(fā)表了題為《建設(shè)大規(guī)模綠色智算，護(hù)航人工智能產(chǎn)業(yè)可持續(xù)發(fā)展》的演講。王超指出，大模型在推理和訓(xùn)練場景都需要大算力，云計算將成為大模型的必選算力底座。

王超在演講中表示，大模型訓(xùn)練通常需要數(shù)千張GPU卡，基于TB級別的數(shù)據(jù)，耗時幾個月進(jìn)行訓(xùn)練，然后其他用戶在預(yù)訓(xùn)練大模型的基礎(chǔ)上再進(jìn)行強(qiáng)化學(xué)習(xí)，而這需要數(shù)百張GPU卡，耗時一兩個月。

但這種現(xiàn)狀存在很多問題：一方面，廠商投資數(shù)億元建設(shè)的計算集群只用幾個月極不經(jīng)濟(jì)；另外一方面，購買、規(guī)劃和組建超大規(guī)模的算力集群也要耗時半年到一年的時間。此外，把算力集群的算力提供給全球各地的其他客戶使用也有著很大的技術(shù)挑戰(zhàn)。

標(biāo)簽：