商湯在第二十屆中國IDC産業年度大典上分享的算電協同實踐,說白了就是給智算中心這個“AI算力工廠”解決了用電的大難題——現在跑大模型的智算中心就是個巨型“電老虎”,不僅耗電多、電費貴,還經常因爲電力供應不穩導緻算力任務中斷。商湯靠一套“能源大模型+智慧儲能系統”的組合拳,讓算力和電力精準配合,實現了“算随電用、電随算動”,既降了成本,又保了穩定,還貼合了“雙碳”目标,下面就用最接地氣的話把這事拆明白。
一、爲啥智算中心非得搞“算電協同”?—— 電力已經成了AI發展的“卡脖子”難題
現在AI大模型越做越大,訓練一個千億參數的模型,需要成千上萬的服務器連軸轉,這些服務器堆在一起的智算中心,就是個實打實的“電老虎”。但行業裏一直有兩個繞不開的用電痛點,不解決的話,AI算力想發展根本無從談起。
1. 數據“各玩各的”,電力浪費嚴重
智算中心裏有三類關鍵數據:一是AI訓練任務的數據,比如今天要跑視頻生成模型、明天要做數據分析;二是服務器集群的負載數據,比如現在有多少服務器在幹活、負載有多高;三是電力調度的數據,比如電網什麽時候電價便宜、什麽時候綠電(風電、光伏)多、電網能提供多少電力。
但現在這三類數據就像三個互不搭理的“部門”,電力系統不知道智算中心接下來要幹啥、需要多少電,智算中心也不知道電網的電力情況,隻能“瞎用電”。比如電網深夜電價低、綠電充足時,智算中心的算力任務可能正處于低谷,白白浪費了便宜電;而白天電網用電高峰、電價高時,智算中心又剛好要跑大模型,需要大量電力,不僅電費飙升,還可能因爲電網供電不足導緻任務中斷。這種數據孤島,讓智算中心的電力使用效率大打折扣,錢花了不少,還沒辦好事。
2. 電力波動太坑,算力穩定沒保障
大模型訓練和推理時,算力負載就像坐過山車,可能上一秒還很平穩,下一秒因爲要處理海量數據,負載突然飙升,瞬間需要巨量電力。電網的供電能力是相對固定的,根本跟不上這種“尖峰需求”,很容易導緻服務器電壓不穩甚至宕機,辛苦跑了幾天的大模型訓練任務可能直接歸零,損失難以估量。
反過來,當算力任務進入低谷,服務器負載驟降,智算中心的電力需求也跟着減少,這時候電網的電力又沒處用,造成資源閑置。而且現在國家在推“雙碳”目标,智算中心作爲高耗能場所,要是不能降低能耗、減少碳排放,後續發展也會受政策限制。
3. 全球都在搶賽道,這是國家層面的戰略布局
不隻是國内有這問題,全球科技強國都在盯着“算力-能源”一體化的布局。比如美國的大數據企業Palantir推出了“Chain Reaction”平台,把它定位成“美國人工智能基礎設施的操作系統”,核心就是把算力調度、電力預測和芯片管理揉到一起,打造國家級的AI基礎設施。商湯搞算電協同,不隻是爲了解決自己智算中心的運營問題,更是在國家戰略層面,補齊我國AI基礎設施的能源短闆,避免在全球AI競争中落後。
二、商湯怎麽破解難題?—— 兩大核心抓手,讓算力和電力“心有靈犀”
商湯沒有簡單地給智算中心裝個電表或者買個充電寶,而是從底層邏輯入手,打造了“能源大模型+智慧儲能系統”的閉環,讓算力和電力能雙向适配,真正實現“算随電用、電随算動”。
1. 能源大模型:智算中心的“電力預言家+總調度”
商湯自研的能源大模型,就像給智算中心裝了個超級聰明的大腦,既能精準預測未來的電力需求,又能實時指揮電力怎麽用,核心靠三個獨門絕技。
(1)把所有數據串起來,實現“任務-算力-功耗”精準對應
以前智算中心的任務、算力、功耗數據是割裂的,現在商湯通過獨創的“能量塊”數據模型和“算電功耗模型”,把這些數據全打通了。比如跑一個千億參數的多模态大模型,能源大模型能精準算出需要啓動多少台服務器、每台服務器每小時耗多少電、整個算力集群的總功耗是多少,甚至能對應到配電系統的每一條線路。
簡單說,隻要輸入一個算力任務,能源大模型就能立刻算出“要花多少電”,就像你點外賣時,APP能精準算出配送時間和費用一樣,再也不用“盲猜”電力需求了。
(2)“能量塊”加持,複雜場景也能精準預測
爲了讓預測更準,商湯把能源本身的數據(比如風電、光伏的發電效率)、用戶的用能習慣(比如智算中心什麽時候跑大任務)、能源平衡規則(比如電網的供電限制),和算力服務器的信息綁在一起,做成一個個“能量塊”,作爲分析的基礎單元。
就像玩積木時,用不同的積木塊能拼出不同造型,這些“能量塊”能根據實際情況組合分析,再結合多輪訓練優化的算法,哪怕遇到極端天氣(比如陰天光伏發電少)、算力任務臨時調整等複雜場景,能源大模型也能精準預測未來的能源需求。目前這個模型的能源需求預測準确率已經超過88%,決策準确率超93%,未來還能達到90%-95%的行業頂尖水平。
(3)高頻次動态調度,讓電力使用“利益最大化”
能源大模型不是一天隻預測一次,而是每15分鍾更新一次電力需求預測,每5分鍾調整一次調度策略,相當于每分鍾都在“精打細算”怎麽用電。
它會綜合考慮各種因素:比如電網的實時電價(低谷電便宜就多用電)、綠電比例(綠電多就優先用,貼合雙碳)、儲能系統的電量(儲能滿了就少充,儲能空了就補)、電網的供電要求(電網高峰就少用點),然後自動生成最優的調度策略。比如電網深夜電價低、綠電足,就安排跑算力密集型任務;白天電網高峰,就把非緊急任務暫停,用儲能系統的電支撐基礎算力,真正讓智算中心從“隻能被動用電的剛性負荷”,變成“能靈活調節的電力資源”。
2. 聯合甯德時代做智慧儲能:智算中心的“超級充電寶”
光有預測和調度還不夠,得有實際的電力儲備來應對算力負載的突然波動,商湯找了甯德時代合作,打造了一個規模達17.888MW/35.776MWh的儲能系統,相當于給智算中心裝了個超大号的“充電寶”,而且還是帶智能大腦的。
(1)毫秒級響應,解決電力“瞬時缺口”
這個儲能系統最厲害的地方是響應速度快,能在毫秒級内釋放電力。比如智算中心的萬卡級服務器集群突然啓動,算力負載瞬間飙升,電網供電跟不上時,儲能系統能立刻補上電,就像汽車爬坡時渦輪增壓突然發力,保證服務器不會因爲電力不足宕機,大模型訓練任務也能順利進行。