智東西4月14日報道，明天，北電數智首屆酒仙橋論壇將于北京舉辦，以“開啟AI生產力元年”為主題，圍繞產業(yè)創(chuàng)新應用、生態(tài)發(fā)展與數智未來三大議題，覆蓋AI基礎設施、數據、算力、模型、產業(yè)、應用、人才多個話題開展為期6天11場論壇。
演講嘉賓包括中國工程院院士鄔賀銓、中國信通院云計算與大數據研究所所長何寶宏、京東方科技集團科學家冷長林、北方華創(chuàng)微電子副總裁夏凡等。
北電數智是北京電控旗下高科技企業(yè)，成立于2023年8月。上個世紀50年代，酒仙橋是北京電控前身北京751廠的所在地，在這片區(qū)域生產出了新中國第一支電子管、第一臺電話交換機等，北電數智的首屆酒仙橋論壇也在此開啟。
目前北電數智已經形成一個底座、兩個平臺的布局，即“星火·智算”AI產業(yè)發(fā)展底座與傳統(tǒng)產業(yè)賦能平臺、新興產業(yè)加速平臺。
北電數智CMO楊震談道，目前國內還沒有真正意義上的智算云，未來當芯片層、模型層進入穩(wěn)定收斂期，智算云才能有固化形態(tài)。因此，北電數智正以不同切面的共性平臺來逐步形成初步的智算云。
北電數智CTO謝東從三個角度剖析了北電數智在產業(yè)中的差異化優(yōu)勢，首先是目標，北電數智的目標是借助AI支持產業(yè)快速發(fā)展；其次是身份，作為國企，該公司可以更容易和頭部企業(yè)合作；第三是布局，北電數智擁有全棧AI能力，縱向提供算力、模型、軟件服務，根據不同城市的產業(yè)發(fā)展需求，打通當地產業(yè)鏈，讓技術能快速落地，橫向是廣泛的生態(tài)布局。
一、打造千P規(guī)模城市級智算中心，針對國產芯片進行算法優(yōu)化
北電數智打造的北京數字經濟算力中心，通過高性能“異構計算平臺”“星火·國產算力AI原生適配認證”技術體系，提供從芯片選型到算力配置、場景適配的最優(yōu)算力方案。
該算力中心占地面積35000平方米，PUE值為1.14，是城市級智算中心中最低的。楊震解釋說，一般這樣的PUE指標通常會出現在平原或戈壁等散熱條件好的智算中心上。
并且其混元算力已經部署達到1000P，其中集成了70%的國產芯片、30%的英偉達芯片，未來這一智算中心將有能力提供萬P算力。
從算力角度看，目前國產算力整體有兩個特性，產能不夠、各家發(fā)展不均，面對海量、高頻推理任務，需要不同的算力集群聯(lián)合。
2023年10月，北電數智打造了先進計算迭代驗證平臺，早期這一平臺的目的是以集群接近生產環(huán)境進行測試，之后他們發(fā)現，需要讓不同芯片協(xié)同作戰(zhàn)，才可以完成市面上的一些任務。
基于此，北電數智基于異構納管等策略，同時實現了算法加速和模型適配，使得芯片和主流基座模型實現交叉適配，同時基于稀疏計算等讓芯片性能提升。
楊震解釋說，其底層技術路線和DeepSeek的工程優(yōu)化類似，不同的是DeepSeek是其模型本身針對H800的優(yōu)化，北電數智則進行了普適的國產芯片、主流基座模型優(yōu)化。去年12月，北電數智推出了國產算力PoC平臺。
楊震透露，目前北電數智的算力集群中通過協(xié)同作戰(zhàn)的方式對外提供服務，已經打造了550P國產算力集群，這也是國內最大的混元集群。在算法加速提升芯片性能上，平均來說可以讓整個國產算力表現提升1-2倍、2-3倍，吞吐量提升7-8倍，推理表現上，配合針對性的算法加速，實現首字延遲的10倍優(yōu)化，解碼延遲10倍優(yōu)化，吞吐量提升80倍以上。
謝東談道，國產芯片單顆芯片綜合能力和國際的先進芯片有差距，因此他們的策略有兩個，一是芯片合起來辦大事，二是各自做擅長的事。
二、1個底座+2大平臺，智算中心要進入精細化運營
北電數智的底座包含AI計算基礎設施、AI數據服務。楊震談道，數據是模型的燃料，此前數據要素面臨供不出、流不動、用不好且不安全的難題，基于此，北電數智去年在可信數據空間的基礎上將其提升為AI可信數據服務。
兩個平臺為傳統(tǒng)產業(yè)升級平臺和新興產業(yè)加速平臺，傳統(tǒng)產業(yè)升級平臺指AI+產業(yè)、AI+城市等，新興產業(yè)加速平臺就是具身智能、無人駕駛等AI原生業(yè)務。
楊震認為，智算中心應該進入精細化運營階段，目前智算中心有的被閑置，有的智算中心與企業(yè)需求不相匹配，很多企業(yè)不會用、用不起，產生結構性矛盾。
在數據層面，去年7月，北電數智推出可信數據空間，實現了讓數據可用不可得、可用不可見。
楊震說，近期可以進行聯(lián)網搜索的DeepSeek在使用時效果變差了，這是因為它不可避免會受到互聯(lián)網數據的影響?？尚艛祿臻g中，可以實現數據源可信，就能有效避免模型被互聯(lián)網數據毒害。
謝東補充說，大模型的能力在企業(yè)中需要專業(yè)知識加持，需要好的基座模型+專業(yè)知識庫，保證信息實時更新，對專業(yè)問題回答得準，這也是可信數據空間能避免模型被互聯(lián)網數據毒害的原因。
這一數據底座之上，北電數智為企業(yè)提供了資產管理、數據流通和利用、AI數據生成等服務。楊震舉例說，在醫(yī)療行業(yè)，北電數智正將可信數據空間對外運營，也就是讓更多市場端企業(yè)可以在一定情況下調用其中的醫(yī)療數據能力。
AI全棧能力的協(xié)同計算方面，北電數智形成了AI異構計算平臺和模型適配平臺。
AI異構計算平臺可以將不同算力集群進行統(tǒng)一納管、靈活調度，模型適配平臺包含訓練推理的適配加速、混推混訓部署、數據集管理等。模型層有開源模型倉庫、訓推工具、Agent定制拼圖。模型適配平臺已經對主流24個大模型做了適配和加速支撐。楊震將其比作筆記本電腦，筆記本電腦需要在操作系統(tǒng)之上，安裝辦公、財務等各類軟件。
傳統(tǒng)產業(yè)賦能平臺分為醫(yī)療、工業(yè)制造的產業(yè)層面。北電數智正在和北京5家三甲醫(yī)院合作打造專項模型，楊震透露，截止到今年年底，其將和北京超過10家的三甲醫(yī)院合作。
對于企業(yè)而言，他們需要構筑企業(yè)層面知識庫、將企業(yè)工作流重新進行整合、通過數據整合實現企業(yè)的多智能體開發(fā)，產生全新的工作流模式等。
在新興產業(yè)方面，具身智能針對家庭場景訓練，需要虛擬仿真的訓練環(huán)境、物理模型等，基于此，北電數智將搭建平臺幫助機器人和實際場景相結合。
楊震進一步解釋了“搭平臺”的含義，就是提供從芯片、數據、服務、模型、應用層的服務，讓不同生態(tài)伙伴有機會接觸實際場景。
結語：AI落地加速，深度運營、持續(xù)增長、因地制宜成智算中心關鍵
AI正在加速落地各行各業(yè)，但不同企業(yè)的核心需求不同，為智算中心的建設提出了更高要求。
在業(yè)務布局上，北電數智圍繞一個AI底座以及傳統(tǒng)產業(yè)升級和新興產業(yè)加速兩大核心方向，構建起了一套完善的業(yè)務體系。楊震談道，北電數智的差異化定位和核心競爭優(yōu)勢是，找產業(yè)鏈的卡點和斷點，從算力、算法、數據、模型服務、工具鏈等全面服務，滿足全生命周期需求。
在這個基礎上，北電數智構建智算中心的邏輯就是深度運營、持續(xù)增長，并根據當地產業(yè)結構，實行“一地一策”，與此同時，他們在深入當地時，又會聯(lián)動生態(tài)伙伴找到自己的商業(yè)機會，形成有當地產業(yè)結構特色的新興產業(yè)生態(tài)和集群。
熱門跟貼