ROBOT INDUSTRY
AI大模型正從聚焦技術迭代向深耕場景應用轉變，而立之年的中科曙光不止于技術深耕，同時在智能算力與場景適配方面發(fā)力，為大模型從“能用”向“好用”邁進提供“好算力”。
當前，AI大模型進入商用階段，Qwen、豆包、Kimi、文心一言等國產(chǎn)大模型表現(xiàn)亮眼，現(xiàn)象級產(chǎn)品DeepSeek更以破竹之勢攪動全球AI產(chǎn)業(yè)格局。
從大模型發(fā)展路徑來看，建設千卡、萬卡以至十萬卡規(guī)模的算力集群成為行業(yè)認知中的發(fā)展關鍵。但實際輸出的算力水平卻并不如意，算力利用率低、成本高昂，基礎模型與應用場景脫鉤，大模型從預想中的“好用”僅發(fā)展為了堆砌參數(shù)的“能用”。
中科曙光智能計算產(chǎn)品事業(yè)部副總經(jīng)理胡曉東認為，大模型的發(fā)展要關注軟硬件協(xié)同、算力算法調優(yōu)等技術能力，而非單純依賴硬件堆砌的“疊卡模式”。
1
“好算力”的核心不只是加速卡
ChatGPT發(fā)布后，產(chǎn)業(yè)界逐漸形成“堆算卡、算卡即算力、算力即AI”等認知。目前公認的“好卡”就是英偉達的GPU卡，但其存在成本高昂、獲取困難的問題。
對大模型而言，加速卡并非決定性能的唯一指標，根本原因在于大模型需要面向應用，而算力也是一樣，參數(shù)、規(guī)模只是階段性的評價指標，軟硬件適配、調度、介入等每一個環(huán)節(jié)的能耗、效率、成本亦是影響大模型應用效果的關鍵因素。
圖1 中科曙光智能計算產(chǎn)品事業(yè)部副總經(jīng)理 胡曉東
胡曉東認為，算力產(chǎn)業(yè)的核心是應用，大模型及算力產(chǎn)業(yè)是一項復雜的系統(tǒng)性工程，不僅是芯片的設計，還包括算法優(yōu)化、軟硬件調優(yōu)、面向場景的應用等。在談到場景應用中什么樣的算力才是“好算力”時，他表示“好算力”需要滿足“三匹配一協(xié)同”，即精度匹配、效率匹配、場景匹配、算存運協(xié)同。
胡曉東指出，產(chǎn)業(yè)發(fā)展應遵循效率優(yōu)先原則，聚焦有效算力價值挖掘，規(guī)避資源錯配風險，構建算存運協(xié)同的三位一體架構，升級存儲性能以減少數(shù)據(jù)搬運損耗，支撐高頻實時場景，同步提升光通信速率并構建邊緣算力節(jié)點，為工業(yè)互聯(lián)網(wǎng)、自動駕駛等低時延場景提供應用基礎。而“東數(shù)西算”工程的建設，解決了區(qū)域算力不平衡問題，為產(chǎn)業(yè)的健康發(fā)展打下了堅實“地基”。
他強調，好算力不是絕對性能的競賽，而是“效率夠高、協(xié)同夠穩(wěn)、場景夠準、能耗夠低”的系統(tǒng)工程，最終目標是以最小資源代價解決實際問題。
2
大模型落地的關鍵是軟硬件協(xié)同
隨著AI大模型的廣泛應用，原有通用算力已無法滿足高端、復雜應用場景的需求，智能算力等先進算力成為新的需求熱點。“海外做智算、做大模型的思路是硬件驅動，但不代表我們也要走一樣的路，軟件層面的開發(fā)和推進行業(yè)應用也許是一條能夠超車的彎道。”胡曉東提到，從中科曙光的視角來看，大模型落地應用的關鍵在于軟硬件的協(xié)同設計優(yōu)化和“芯片-算法-模型”的深度耦合。
圖2 曙光AI基礎設施全景圖
發(fā)展國產(chǎn)算力，硬件是基礎，軟件是靈魂。硬件是否適用、好用，硬件性能有沒有得到極致釋放，硬件資源利用率能不能提高，相當大程度上取決于軟件，包括基礎軟件、管理軟件、應用軟件。
DeepSeek的出現(xiàn)打破了市場對進口高算力GPU的路徑依賴，為國產(chǎn)GPU加速卡帶來重要機遇的同時，軟件短板更加突顯。因此，針對GPU加速卡進行軟硬件協(xié)同設計優(yōu)化，實現(xiàn)“芯片-算法-模型”深度耦合，已成為AI基礎設施的重要創(chuàng)新方向。
中科曙光圍繞算力的生產(chǎn)、聚集、釋放、調用、服務各環(huán)節(jié)，形成了相對完整的AI基礎設施方案，從核心基礎層的國產(chǎn)AI部件，到系統(tǒng)設施層的智算中心、全閃存儲、AI服務器、浸沒式相變液冷等，再到服務平臺層的曙光云、全國一體化算力服務平臺等，貫穿AI算力全鏈條，從而降低使用成本、高效賦能場景。
3
DeepAI深算智能引擎讓大模型更易用
“客戶想用最火的DeepSeek實現(xiàn)業(yè)務應用”，胡曉東表示，客戶在意的是用“最好”的大模型來實現(xiàn)業(yè)務目標，能夠根據(jù)自己的實際需求，自行配置參數(shù)，快速搭建，并且不需要很深的編程基礎。
2024年以前，大模型一直以前沿技術形式出現(xiàn)，在產(chǎn)品規(guī)劃層面做得較少，雖然很熱，但真正落地應用的案例并不多。“去年是大模型的繁榮期，但也是大模型落地前的思考期、冷靜期，大家都開始關注行業(yè)應用，從之前‘卷’通用大模型參數(shù)，轉為開發(fā)行業(yè)大模型、場景應用大模型，思考如何從硬件、軟件等層面解決用戶業(yè)務層面的真實問題”。
圍繞產(chǎn)業(yè)和客戶的實際需求，中科曙光針對國產(chǎn)GPU加速卡先后研發(fā)從底層的編程開發(fā)軟件棧AI Toolkit，到中間的人工智能基礎軟件系統(tǒng)DAS，再到靠近上層的人工智能應用平臺DAP，共同構成了端到端全棧AI加速套件——DeepAI深算智能引擎。
圖3 DeepAI深算智能引擎
胡曉東介紹，基于DeepAI深算智能引擎，客戶能夠直接簡化部署流程，無需配置環(huán)境，直接根據(jù)自身的業(yè)務知識，選擇想要的大模型，就可以形成最符合業(yè)務一線的專用大模型或Agent，在國產(chǎn)AI算力底座上跑通DeepSeek、通義QwQ等大模型應用，解決了以往由技術團隊主導的開發(fā)模式存在業(yè)務脫鉤的問題。
目前，以DeepAI深算智能引擎為核心的相關產(chǎn)品方案，已經(jīng)進入眾多關鍵行業(yè)，支撐國家稅務總局、中國海關、中國氣象局、深圳紀委、中國電信天翼云、PICC人保財險、中石化物探院、上海市皮膚病醫(yī)院等客戶實現(xiàn)應用落地。
步入“而立之年”的中科曙光，經(jīng)過三十年的AI行業(yè)打拼與產(chǎn)業(yè)實踐，站在了核心基礎、系統(tǒng)設施、服務平臺的行業(yè)前沿。胡曉東表示，中科曙光將持續(xù)聚焦AI基礎設施領域，以“軟硬協(xié)同、從芯到云”的全棧AI產(chǎn)品布局，和“向下扎根、向上生長”的生態(tài)合作策略，賦能千行萬業(yè)智能化轉型。
閱讀更多內容，歡迎訂購《機器人產(chǎn)業(yè)》雜志。
點擊跳轉！圈內人都在看的專家觀點
熱門跟貼