全新升級(jí)的 AI 智算平臺(tái) 2.0 正式發(fā)布！

AI 智算平臺(tái)致力于讓 AI 算力管理像本地資源管理一樣簡(jiǎn)單。2.0 新版全面擁抱云原生，實(shí)現(xiàn)從 AI 基礎(chǔ)設(shè)施到 AI 開(kāi)發(fā)訓(xùn)練推理的全流程高效管理。

功能升級(jí)，重塑算力管理體驗(yàn)

01.異構(gòu)算力管理與調(diào)度，靈活高效

平臺(tái)通過(guò)統(tǒng)一的集群管理，實(shí)現(xiàn)對(duì) NVIDIA、國(guó)產(chǎn) GPU 等多種異構(gòu)算力的高效調(diào)度。無(wú)論是高速 IB、RoCE 網(wǎng)絡(luò)建設(shè)，還是并行文件存儲(chǔ)集群管理，平臺(tái)均能提供從物理機(jī)到容器的全方位管理。新版平臺(tái)支持共享 GPU、單卡、多卡、多節(jié)點(diǎn)的算力調(diào)度，用戶(hù)可根據(jù)實(shí)際業(yè)務(wù)需求按需申請(qǐng)使用，極大地提高了算力資源的使用效率。

02.細(xì)致監(jiān)控，全面守護(hù) AI 基礎(chǔ)設(shè)施

AI 智算平臺(tái) 2.0?新增節(jié)點(diǎn)監(jiān)控、任務(wù)監(jiān)控、容器組監(jiān)控、高速網(wǎng)絡(luò)監(jiān)控和 GPU 監(jiān)控等功能，提供從硬件故障處理到資源使用情況的全方位監(jiān)控，及時(shí)發(fā)現(xiàn)并解決潛在問(wèn)題。同時(shí)，可視化的自定義告警配置支持郵件、企微、webhook 等多種通知渠道，確保用戶(hù)隨時(shí)掌握 AI 基礎(chǔ)設(shè)施的運(yùn)行狀態(tài)。

集群監(jiān)控

網(wǎng)絡(luò)監(jiān)控

自定義告警配置

03.豐富的 AI 業(yè)務(wù)支持，加速創(chuàng)新

在算力調(diào)度的基礎(chǔ)上，平臺(tái)支持自定義鏡像倉(cāng)庫(kù)，同時(shí)內(nèi)置 TensorFlow、PyTorch、MPI、DeepSpeed 等常用計(jì)算框架，支持一鍵創(chuàng)建開(kāi)發(fā)機(jī)、分布式任務(wù)，自動(dòng)掛載并行文件存儲(chǔ)等常用 AI 業(yè)務(wù)流程。用戶(hù)只需上傳代碼，即可快速啟動(dòng)多機(jī)多節(jié)點(diǎn)的分布式訓(xùn)練，系統(tǒng)將自動(dòng)調(diào)度到可用 GPU 進(jìn)行計(jì)算，任務(wù)完成后自動(dòng)釋放資源。這種自動(dòng)化的算力調(diào)度分發(fā)與回收機(jī)制，讓算法工程師能夠更專(zhuān)注于 AI 模型本身，加速科研成果的創(chuàng)新。

常用分布式計(jì)算環(huán)境與框架

快速啟動(dòng)分布式任務(wù)

資源總覽

04.便捷模型服務(wù)，一鍵部署，輕松推理

模型服務(wù)功能的優(yōu)化，讓用戶(hù)可以一鍵部署在線(xiàn)推理服務(wù)，極大地提升了模型開(kāi)發(fā)和部署的效率。無(wú)論是公開(kāi)模型還是用戶(hù)上傳的自有模型，均可在線(xiàn)推理，滿(mǎn)足各類(lèi)業(yè)務(wù)需求。

模型服務(wù)-模型廣場(chǎng)

05.自動(dòng)化運(yùn)營(yíng)，計(jì)量計(jì)費(fèi)服務(wù)

借助青云公有云智算專(zhuān)區(qū)運(yùn)營(yíng)經(jīng)驗(yàn)，平臺(tái)提供規(guī)格定價(jià)、在線(xiàn)充值、購(gòu)買(mǎi)產(chǎn)品的全流程自服務(wù)管理，減少運(yùn)營(yíng)的技術(shù)人員、管理人員投入，同時(shí)減少客戶(hù)試用溝通和準(zhǔn)備環(huán)境的時(shí)間，加快算力中心資源售賣(mài)，提升資源運(yùn)營(yíng)效率。

費(fèi)用中心

01.簡(jiǎn)化算力建設(shè)，跨越技術(shù)鴻溝

如同管理本地資源一樣，AI 智算平臺(tái)讓用戶(hù)即使面對(duì)復(fù)雜的 AI 基礎(chǔ)設(shè)施，也能輕松上手。無(wú)論是硬件配置、異構(gòu)計(jì)算資源、網(wǎng)絡(luò)架構(gòu)還是存儲(chǔ)資源，一切盡在掌握，大大降低了 AI 算力建設(shè)的技術(shù)門(mén)檻。

02.成本與效率雙輪驅(qū)動(dòng)

通過(guò)精細(xì)化監(jiān)控與智能調(diào)度，平臺(tái)能夠根據(jù)實(shí)際負(fù)載自動(dòng)調(diào)整算力資源，避免資源浪費(fèi)，同時(shí)提供財(cái)務(wù)管理工具，不僅支持價(jià)格設(shè)定，還支持詳盡的用戶(hù)消費(fèi)查詢(xún)與賬單統(tǒng)計(jì)，能有效控制成本，提升整體運(yùn)營(yíng)效率。

03.低門(mén)檻，模型全周期護(hù)航

從模型開(kāi)發(fā)、訓(xùn)練到部署推理，平臺(tái)提供了一站式解決方案。AI 智算平臺(tái)的大模型服務(wù)支持模型的快速訓(xùn)練、版本管理、在線(xiàn)推理服務(wù)，以及靈活的資源組配置，讓模型管理變得簡(jiǎn)單高效，加速 AI 應(yīng)用的商業(yè)化進(jìn)程。

04.運(yùn)維效率與穩(wěn)定性提升

自動(dòng)化運(yùn)維體系減少人工干預(yù)，自動(dòng)執(zhí)行和處理日常運(yùn)維任務(wù)，如資源分配、故障處理等，確保系統(tǒng)的高可用性和穩(wěn)定性，讓團(tuán)隊(duì)更加聚焦于業(yè)務(wù)創(chuàng)新與優(yōu)化。借助 AI 智算平臺(tái) 2.0，企業(yè)可以輕松應(yīng)對(duì) AI 算力建設(shè)與運(yùn)營(yíng)的挑戰(zhàn)，實(shí)現(xiàn)高效、靈活的 AI 算力管理，降低成本，提高競(jìng)爭(zhēng)力。

讓?AI?算力管理

更簡(jiǎn)單、更高效、更智能！