4月2日，中電金信受邀參加“2025 AI算力產(chǎn)業(yè)技術(shù)應(yīng)用峰會(huì)”。大會(huì)以“點(diǎn)亮AI未來，匯聚算力之巔”為主題，聚焦前沿發(fā)展趨勢(shì)，與來自全國(guó)各地的學(xué)術(shù)界大咖、產(chǎn)業(yè)領(lǐng)軍人物及行業(yè)精英，共同探討算力基座、智算中心、大模型應(yīng)用、人機(jī)交互等核心議題。

會(huì)上，中電金信研究院容器云技術(shù)實(shí)驗(yàn)室主任王磊以《異構(gòu)算力管理與AI應(yīng)用開發(fā)的雙向奔赴》為主題發(fā)表演講，從算力市場(chǎng)調(diào)研分析、算力加速平臺(tái)功能架構(gòu)、典型應(yīng)用場(chǎng)景等角度，系統(tǒng)闡釋了異構(gòu)算力資源的高效調(diào)度與AI應(yīng)用開發(fā)的深度融合路徑。

王磊在會(huì)上進(jìn)行主題演講

王磊認(rèn)為，隨著人工智能技術(shù)進(jìn)入大模型時(shí)代，智能算力需求迅猛增長(zhǎng)，推動(dòng)算力產(chǎn)業(yè)規(guī)模飛速擴(kuò)張。算力市場(chǎng)正朝著智能化升級(jí)加速、算力服務(wù)化轉(zhuǎn)型提速以及 AI 服務(wù)場(chǎng)景化滲透等方向持續(xù)發(fā)展。然而，當(dāng)前在算力運(yùn)營(yíng)方面，仍面臨來自基礎(chǔ)設(shè)施、資源調(diào)度、業(yè)務(wù)支撐和運(yùn)維監(jiān)控等多個(gè)維度的挑戰(zhàn)。我們迫切需要對(duì)異構(gòu)算力進(jìn)行全面管理與智能調(diào)度，以滿足行業(yè)的場(chǎng)景化需求。最終，實(shí)現(xiàn)計(jì)算效力的最大化，有效支撐 AI 應(yīng)用的開發(fā)，推動(dòng)異構(gòu)算力管理與AI應(yīng)用開發(fā)的“雙向奔赴”。

源啟算力加速平臺(tái)是中電金信研發(fā)的智能算力管理平臺(tái)，定位為支撐AI應(yīng)用和服務(wù)的基礎(chǔ)設(shè)施，平臺(tái)集成多種硬件和軟件能力，提供高性能、高可靠性和高可擴(kuò)展性的計(jì)算資源。通過融合異構(gòu)算力資源接入、管理、調(diào)度與編排，向上為 AI 負(fù)載提供軟件服務(wù)能力，提高AI應(yīng)用的研發(fā)效率，降低技術(shù)門檻，幫助用戶實(shí)現(xiàn)從底層算力到上層業(yè)務(wù)的閉環(huán)價(jià)值輸出。

源啟算力加速平臺(tái)產(chǎn)品架構(gòu)圖

源啟算力加速平臺(tái)具備以下主要特性，廣泛適用于算力運(yùn)營(yíng)、云邊算力協(xié)同、智能知識(shí)庫、訓(xùn)推一體、故障智能診斷等典型場(chǎng)景，幫助用戶實(shí)現(xiàn)資源即智能。

■　采用集群化管理、資源池化調(diào)度，提供多種模式的算力調(diào)用和計(jì)量模式，滿足不同場(chǎng)景的算力需求；

■　支持加盟算力、邊緣算力接入，實(shí)現(xiàn)云邊協(xié)同下的算力納管，以及模型服務(wù)和AI 應(yīng)用的分發(fā)；

■　支持鏡像緩存和下載加速，集成 vLLM、SGLang 等推理加速框架，提高任務(wù)啟動(dòng)速度與推理效率；

■　提供開發(fā)者友好的虛擬化開發(fā)環(huán)境，支持傳統(tǒng)使用模式，兼顧效率和用戶體驗(yàn)，通過算力虛擬化提高資源利用率，降低采購成本；

■　提供面向LLM 推理場(chǎng)景的AI 網(wǎng)關(guān)，支持訪問權(quán)限控制、流量路由與負(fù)載均衡、模型服務(wù)灰度發(fā)布、token統(tǒng)計(jì)、流量監(jiān)控與治理等能力；

■　具備極致的彈性伸縮能力，支持0副本及基于訪問的冷啟動(dòng)；

■　具備豐富的網(wǎng)絡(luò)、算力、AI服務(wù)的監(jiān)控能力；

■　具備多租戶分層管理能力，為不同用戶提供安全、隔離且靈活的資源配置，通過調(diào)度優(yōu)化技術(shù)，實(shí)時(shí)監(jiān)控和管理算力資源，促進(jìn)高效的算力運(yùn)營(yíng)；

■　內(nèi)置豐富的鏡像、模型服務(wù)及智能體開發(fā)所需的中間件能力，開箱即用，提供必要的基礎(chǔ)設(shè)施能力；

■　采用Kubernetes Native架構(gòu)，所有資源均可通過原生工具進(jìn)行管理（如 kubectl 和資源 API），方便系統(tǒng)間集成。

源啟算力加速平臺(tái)作為一套集成多種計(jì)算資源和服務(wù)的技術(shù)框架，致力于為AI負(fù)載提供卓越的軟件服務(wù)能力，以促進(jìn)資源的智能化利用。未來，平臺(tái)將專注于軟硬能力協(xié)同、跨云編排與智能調(diào)度，以及分布式處理能力優(yōu)化等主要研究方向，力求打造一個(gè)高效、彈性且透明的多云算力加速平臺(tái)，以實(shí)現(xiàn)計(jì)算資源的最優(yōu)配置和智能決策的全面提升。