在生成式人工智能與大規(guī)模模型訓(xùn)練快速擴(kuò)張的背景下，全球電力基礎(chǔ)設(shè)施正面臨前所未有的壓力。為應(yīng)對(duì)這一挑戰(zhàn)，能源優(yōu)化企業(yè)Utilidata與歐洲AI云服務(wù)提供商N(yùn)exGen Cloud達(dá)成合作，共同部署一款名為Karman的AI驅(qū)動(dòng)電力編排平臺(tái)。該平臺(tái)通過智能管理數(shù)據(jù)中心電力分配，有望在不增加電網(wǎng)供電的情況下，將現(xiàn)有AI基礎(chǔ)設(shè)施的計(jì)算容量提升最高50%。

Karman平臺(tái)的核心在于其定制化英偉達(dá)硬件模塊與軟件系統(tǒng)的結(jié)合。這一組合作為數(shù)據(jù)中心電力基礎(chǔ)設(shè)施的智能層，能夠?qū)崟r(shí)監(jiān)測并動(dòng)態(tài)調(diào)整機(jī)架與GPU集群間的電力分配。據(jù)Utilidata首席執(zhí)行官Josh Brumberger介紹，該技術(shù)通過挖掘因保守容量規(guī)劃或工作負(fù)載分配不均而產(chǎn)生的"閑置"電力，將其轉(zhuǎn)化為可用的計(jì)算資源，從而突破傳統(tǒng)數(shù)據(jù)中心的電力利用瓶頸。

現(xiàn)代數(shù)據(jù)中心普遍存在電力過度建設(shè)的問題。以機(jī)架設(shè)計(jì)為例，為確保冗余可靠性，單個(gè)機(jī)架通常配備四個(gè)電源供應(yīng)單元，但實(shí)際運(yùn)行中僅使用75%的容量。這種設(shè)計(jì)導(dǎo)致大量電力資源處于"備用狀態(tài)"，未能得到有效利用。Karman平臺(tái)通過每秒百萬級(jí)的數(shù)據(jù)采樣與20毫秒以內(nèi)的快速響應(yīng)控制，實(shí)現(xiàn)了對(duì)電力流的動(dòng)態(tài)管理。當(dāng)系統(tǒng)檢測到電力需求變化時(shí)，可立即調(diào)整工作負(fù)載或重新平衡電力分配，在保障穩(wěn)定性的前提下釋放更多計(jì)算潛力。

該技術(shù)的優(yōu)勢在AI推理工作負(fù)載場景中尤為突出。由于推理任務(wù)具有突發(fā)性和不可預(yù)測性，傳統(tǒng)電力管理系統(tǒng)難以快速響應(yīng)需求變化。Karman平臺(tái)提供的實(shí)時(shí)電力可視化功能，使運(yùn)營商能夠精準(zhǔn)掌握電力使用情況，在確保系統(tǒng)可靠性的前提下，安全地使用更多可用電力。這種能力不僅提升了計(jì)算效率，還為數(shù)據(jù)中心運(yùn)營商提供了更靈活的資源配置方案。

NexGen Cloud計(jì)劃將Karman平臺(tái)首先應(yīng)用于其位于蒙特利爾的展示設(shè)施，并逐步擴(kuò)展至北美和北歐地區(qū)的"AI工廠"部署。作為新興的"新云"提供商，該公司專注于為AI、機(jī)器學(xué)習(xí)和可視化工作負(fù)載提供按需GPU基礎(chǔ)設(shè)施。此次合作將支持其Hyperstack AI云平臺(tái)的發(fā)展，幫助其在不依賴新增電網(wǎng)連接的情況下，快速擴(kuò)展AI計(jì)算能力。

從行業(yè)視角來看，電力供應(yīng)已成為制約AI發(fā)展的關(guān)鍵因素。過去，計(jì)算擴(kuò)展主要受限于GPU或網(wǎng)絡(luò)帶寬，而如今電力基礎(chǔ)設(shè)施的升級(jí)周期長達(dá)數(shù)年，遠(yuǎn)落后于AI技術(shù)的迭代速度。Karman平臺(tái)通過優(yōu)化現(xiàn)有電力資源的使用效率，為數(shù)據(jù)中心運(yùn)營商提供了一種經(jīng)濟(jì)高效的解決方案。對(duì)于老舊設(shè)施或規(guī)模較小的數(shù)據(jù)中心而言，這項(xiàng)技術(shù)能夠幫助它們在不進(jìn)行大規(guī)模電氣改造的情況下，顯著提升AI服務(wù)能力。

Utilidata的長期愿景是構(gòu)建一個(gè)開放的AI電力管理生態(tài)系統(tǒng)。Brumberger表示，未來平臺(tái)將允許第三方開發(fā)者在其基礎(chǔ)上開發(fā)應(yīng)用程序，使云服務(wù)提供商、設(shè)備制造商等多方參與者都能受益于電力優(yōu)化帶來的額外容量。這種標(biāo)準(zhǔn)化技術(shù)若能得到廣泛采用，或?qū)⒅厮軘?shù)據(jù)中心容量規(guī)劃、能源效率指標(biāo)（PUE）以及電力供應(yīng)合同的定價(jià)模式。

隨著AI基礎(chǔ)設(shè)施規(guī)模持續(xù)擴(kuò)大，電力智能管理的重要性日益凸顯。Karman平臺(tái)的實(shí)踐表明，通過算法優(yōu)化實(shí)現(xiàn)電力資源的"再分配"，能夠在不增加物理投入的情況下創(chuàng)造顯著價(jià)值。這種創(chuàng)新模式不僅為數(shù)據(jù)中心運(yùn)營提供了新思路，也為其他依賴電力優(yōu)化的行業(yè)提供了可借鑒的范例。