2025 年 4 月 29 日， 杭州電子科技大學(xué)發(fā)布《2025 年 4 月至 5 月政府采購(gòu)意向》。
項(xiàng)目名稱(chēng)： 人工智能大模型本地化服務(wù)
數(shù)量/單位：8
需實(shí)現(xiàn)的主要功能或者目標(biāo)：更好地為全校師生提供穩(wěn)定、安全、快速的本地化大模型服務(wù)，現(xiàn)需 8 臺(tái)配備 8 卡 4090 GPU 的本地化高性能算力，用于部署如DeepSeek - R1 671B 滿(mǎn)血版等大規(guī)模智能模型。
需滿(mǎn)足的質(zhì)量、服務(wù)、安全、時(shí)限等要求：?jiǎn)螜C(jī)算力 FP32≥180 TFLOPS，F(xiàn)P16 ≥ 720 TFLOPS 顯存共享：支持 8 卡顯存池化，總可用顯存 ≥ 192*8GB 網(wǎng)絡(luò)性能：RDMA 帶寬 ≥ 200 Gbps，多機(jī)擴(kuò)展效率 ≥ 90%；
1：基礎(chǔ)服務(wù)能力
a：支持千億參數(shù)級(jí)大模型
b：訓(xùn)練延遲 ≤ 0.5ms
2：運(yùn)維保障
a：7 × 24小時(shí)遠(yuǎn)程監(jiān)控，故障 4 小時(shí)現(xiàn)場(chǎng)響應(yīng)
b：每季度提供硬件健康報(bào)告及性能調(diào)優(yōu)服務(wù)；符合本地化機(jī)房安全管理調(diào)條例以及網(wǎng)絡(luò)數(shù)據(jù)安全條例；一年。
預(yù)算金額：460800.00 元
預(yù)計(jì)采購(gòu)時(shí)間：2025 年 06 月
熱門(mén)跟貼