近日，超聚變FusionOne AI大模型一體機通過軟硬協(xié)同的深度優(yōu)化，成功打破了業(yè)內(nèi)基于H20硬件運行DeepSeek滿血大模型的性能天花板。

單機極致性能，全面領(lǐng)先

在模擬問題對話場景下（上下文序列長度為1K/1K），僅需1臺搭載8張H20硬件的FusionServer G8600，即可流暢運行DeepSeek R1滿血版，實現(xiàn)1024并發(fā)訪問，總吞吐量高達6335 token/s，性能較業(yè)內(nèi)同類H20方案領(lǐng)先60%。

打開網(wǎng)易新聞 查看精彩圖片

單臺支持企業(yè)級規(guī)模應(yīng)用

FusionOne AI大模型一體機通過顯著降低TPOT（單token輸出延遲），時延相比業(yè)內(nèi)同類型方案減少了40%。

僅憑單機即能支撐數(shù)千人規(guī)模企業(yè)的AI使用需求，大幅提升企業(yè)級AI應(yīng)用的經(jīng)濟性和便利性，將單機性能提升至全新高度。

軟硬協(xié)同，優(yōu)化效率全面升級

高效算力釋放與顯存優(yōu)化：

通過精細的內(nèi)核優(yōu)化，將顯存空間利用率提高20%，KV cache池利用率提升至93%，確保模型參數(shù)和計算過程中的KV緩存高效運作。

高效模型并行與分布式計算調(diào)度：

融合數(shù)據(jù)并行（DP）與張量并行（TP）技術(shù)，有效調(diào)度多卡協(xié)同并行計算，將token生成吞吐效率提升50%，顯著提高推理計算效能。

混合任務(wù)切片與調(diào)度優(yōu)化：

采用Prefill階段長文本切片技術(shù)，快速生成初始內(nèi)容，并同步混合調(diào)度Decode任務(wù)，使得任務(wù)并行運行，無需串行等待。由此顯著降低了首次token輸出時間（TTFT）和單token輸出時間（TPOT），提高了整體資源利用效率。

FusionOne AI大模型一體機通過極致的性能突破與成本優(yōu)化，大幅降低DeepSeek-R1 671B超大規(guī)模模型的部署門檻，以普惠方式推動企業(yè)與科研機構(gòu)的AI應(yīng)用普及。

未來，超聚變將持續(xù)加強研發(fā)投入，不斷聚焦AI算力優(yōu)化和場景應(yīng)用擴展，助力企業(yè)快速實現(xiàn)AI技術(shù)落地。

打開網(wǎng)易新聞 查看精彩圖片