国产99久久久国产精品成人免费_日韩 亚洲 制服 欧美 综合_亚洲国产中文激情在线一区_欧美特黄一级AAA免费看_51久久夜色精品国产水果派解说_欧美国产综合一区二区_另类小说 在线日韩 欧美_精品无码免费专区毛片_好爽好大www视频在线播放_国产色欲视频偷自精品一二

賦能企業(yè)發(fā)展數(shù)字化經(jīng)濟(jì)   7X24服務(wù)熱線:400-613-6156

大模型爭(zhēng)奪戰(zhàn):云廠商需要建什么樣的智算中心?

發(fā)布時(shí)間:09-15      

9月13日,阿里云宣布通義千問大模型已首批通過備案,并正式向公眾開放,廣大用戶可登錄通義千問官網(wǎng)體驗(yàn),企業(yè)用戶可以通過阿里云調(diào)用通義千問API。

9月7日,在2023騰訊全球數(shù)字生態(tài)大會(huì)上,騰訊自研的通用大語言模型——“混元”正式面向產(chǎn)業(yè)亮相,并通過騰訊云對(duì)外開放。介紹顯示,騰訊混元大模型擁有超千億參數(shù)規(guī)模,預(yù)訓(xùn)練語料超2萬億tokens,具備強(qiáng)大的中文創(chuàng)作能力,復(fù)雜語境下的邏輯推理能力,以及可靠的任務(wù)執(zhí)行能力。

在此之前的8月31日,文心一言正式向全社會(huì)全面開放,開放首日共計(jì)回復(fù)網(wǎng)友超3342萬個(gè)問題。同一天,百度智能云向企業(yè)客戶全面開放文心一言服務(wù),企業(yè)客戶可以通過百度智能云千帆大模型平臺(tái)調(diào)用文心一言能力。據(jù)稱,百度文心大模型已經(jīng)迭代到到3.5版本,相較于3.0版本訓(xùn)練速度提升2倍,推理速度提升17倍,模型效果累計(jì)提升超過50%。

與其他大模型產(chǎn)品不同的是,上述兩款大語言模型從訓(xùn)練到推理都依托于自身的云,服務(wù)也更多元化。

可以看出,面對(duì)增長(zhǎng)低迷、競(jìng)爭(zhēng)激烈的云計(jì)算市場(chǎng),云廠商開始從AI大模型上尋找新機(jī)會(huì),開發(fā)新生意。

云市場(chǎng)增速放緩  AI大模型成新增長(zhǎng)機(jī)會(huì)

Canalys發(fā)布的研究報(bào)告顯示,2023年第二季度,全球云基礎(chǔ)設(shè)施服務(wù)支出增長(zhǎng)16%,達(dá)到724億美元。由于市場(chǎng)感受到成本壓力的影響,增速與上一季度的19%相比有所下降。而上一季度全球云基礎(chǔ)設(shè)施服務(wù)支出增長(zhǎng)率首次降到20%以下。

此前云廠商們的高速增長(zhǎng),主要?dú)w功于大規(guī)模的企業(yè)數(shù)字化轉(zhuǎn)型和上云。當(dāng)前市場(chǎng)的增速放緩,除了上云普及帶來的市場(chǎng)增量見頂,也與全球宏觀經(jīng)濟(jì)的不確定性緊密相關(guān),降本增效成為主流,企業(yè)傾向于保守的IT策略,支出明顯下降。

在市場(chǎng)競(jìng)爭(zhēng)激烈、價(jià)格戰(zhàn)的當(dāng)下,云廠商需要新的市場(chǎng)增長(zhǎng)方向,ChatGPT帶來的大模型爆發(fā),可以說正得其時(shí)。面對(duì)這場(chǎng)“千模大戰(zhàn)”,坐擁算力、算法、數(shù)據(jù)的云廠商不可能作壁上觀,入場(chǎng)是必然。
 

 
大模型驅(qū)動(dòng) 云廠商服務(wù)與需求迎改變

據(jù)專業(yè)媒體不完全統(tǒng)計(jì),截止2023年8月,中國(guó)已發(fā)布的大模型超過130個(gè),教育、醫(yī)療等各行業(yè)垂類大模型也在持續(xù)增長(zhǎng)。

百模大戰(zhàn),云廠商要做什么?

從云廠商的行業(yè)客戶來看,他們應(yīng)用大模型主要有三種方式:其一,構(gòu)建基礎(chǔ)大模型產(chǎn)品,該方式需要極強(qiáng)的自身研發(fā)水平和人才數(shù)倍,并投入高額的訓(xùn)練成本,僅少數(shù)企業(yè)選擇自建大模型;其二,以強(qiáng)大的基礎(chǔ)大模型為前提,建立所在行業(yè)的大模型,結(jié)合行業(yè)數(shù)據(jù)不斷迭代;其三,在基礎(chǔ)大模型和行業(yè)大模型上開發(fā)AI應(yīng)用,這是大多數(shù)企業(yè)的選擇。

這些都蘊(yùn)藏了云廠商的業(yè)務(wù)機(jī)會(huì),因此阿里云推出“通義千問”,百度智能云發(fā)布“文心一言”與toB的大模型服務(wù)平臺(tái)“千帆”,混元大模型由騰訊研發(fā)但由騰訊云運(yùn)營(yíng)。百度CTO王海峰認(rèn)為,未來MaaS服務(wù)(Model as a Service模型即服務(wù))將成為云計(jì)算的主流商業(yè)模式。

一方面,云廠商面向客戶提供的服務(wù)面臨變化;另一方面,云廠商內(nèi)在資源和能力也面臨新需求。

百度智能云事業(yè)群總裁沈抖表示,隨著大模型時(shí)代到來,“AI加速芯片”GPU慢慢成為算力中心,算力增長(zhǎng)速度遠(yuǎn)遠(yuǎn)超過CPU,云正在從CPU云時(shí)代向GPU時(shí)代切換。

大規(guī)模與性價(jià)比 云廠商的智算中心這樣建

這種情況下,此前云廠商建設(shè)的云數(shù)據(jù)中心顯然難以滿足AI算力需求,大規(guī)模智算中心亟需建設(shè)。

業(yè)內(nèi)人士表示“AI大模型的訓(xùn)練過程中,往往使用成千上萬個(gè)GPU訓(xùn)練,整個(gè)服務(wù)器集群規(guī)模經(jīng)常是10萬以上”。對(duì)于云廠商來說,規(guī)?;⒓s化建設(shè)的大型智算中心從長(zhǎng)遠(yuǎn)來看更具性價(jià)比,能充分發(fā)揮在資源、能源、管理等方面的規(guī)模效益,降低部署和運(yùn)維成本。

支撐文心一言的百度陽泉智算中心正是如此,其為目前亞洲最大的單體智算中心,算力規(guī)模達(dá)4EFLOPS(每秒400億億次浮點(diǎn)計(jì)算),整個(gè)建筑面積約12萬平方米。智算中心一共包括13個(gè)模組,可承載約28萬臺(tái)服務(wù)器,采用CPU+GPU+XPU三種計(jì)算架構(gòu)。

考慮到成本和大模型訓(xùn)練對(duì)時(shí)延較低的要求,云廠商在智算中心建設(shè)時(shí),會(huì)偏向此前大規(guī)模云數(shù)據(jù)中心的建設(shè)選址,在具備氣候優(yōu)勢(shì)、能源充沛、地價(jià)低、電價(jià)低的地區(qū)部署,中衛(wèi)等“東數(shù)西算”西部節(jié)點(diǎn)集群是優(yōu)秀選項(xiàng)。

以中衛(wèi)為例:

在氣候環(huán)境方面,中衛(wèi)年平均氣溫8.8℃、平均風(fēng)速3.3米/秒,適宜采用自然風(fēng)冷技術(shù)用于智算中心散熱,節(jié)能效果好;

在電力資源和電價(jià)方面,寧夏是西電東輸?shù)闹匾獋鬏斖ǖ篮碗娏δ茉垂?yīng)點(diǎn),風(fēng)光水火互補(bǔ),區(qū)域供電可靠程度高,用電成本較低;

在土地資源方面,中衛(wèi)數(shù)據(jù)中心集群所在的土地大部分是是低丘緩坡未利用地,用地指標(biāo)有保障,中衛(wèi)市水和天然氣價(jià)格也相對(duì)低廉。


田鑫,專業(yè)的企業(yè)組網(wǎng)服務(wù)商,致力于為企業(yè)提供企業(yè)組網(wǎng)(SD-WAN、MPLS、云互聯(lián)),業(yè)務(wù)云化、數(shù)據(jù)中心、網(wǎng)絡(luò)安全、行業(yè)IT解決方案等相關(guān)服務(wù)。


更多相關(guān)內(nèi)容推薦:
工信部:五一期間全國(guó)5G流量日均同比增長(zhǎng)86.5%

5G行業(yè)應(yīng)用“從1到N”規(guī)模拓展需要加把力
眾多大廠項(xiàng)目齊聚中衛(wèi),算力產(chǎn)業(yè)效益逐步凸顯
云廠商大模型之戰(zhàn) 中衛(wèi)緣何成為智算必爭(zhēng)之地?
首個(gè)“雙節(jié)點(diǎn)”城市中衛(wèi)如何為算力構(gòu)建起網(wǎng)絡(luò)支撐?
為了讓算力成為“新水電氣”,中衛(wèi)做了哪些事?丨算力產(chǎn)業(yè)十問