文 / 大力財(cái)經(jīng)
4月25日,以“模型的世界,應(yīng)用的天下”為主題的Create 2025百度AI開(kāi)發(fā)者大會(huì)在湖北武漢盛大啟幕。百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖在會(huì)上重磅揭曉百度智能云智能基礎(chǔ)設(shè)施建設(shè)的最新成果,并圍繞算力、模型及應(yīng)用等維度,推出一系列全新產(chǎn)品,為企業(yè)大模型應(yīng)用落地注入強(qiáng)勁動(dòng)能。
在AI時(shí)代,大模型的高效落地離不開(kāi)從底層算力到應(yīng)用的全棧、系統(tǒng)級(jí)支撐,既需要高性能硬件與集群優(yōu)化,也離不開(kāi)靈活的開(kāi)發(fā)工具鏈與場(chǎng)景化解決方案?;谠诖竽P脱邪l(fā)與產(chǎn)業(yè)落地領(lǐng)域多年的深厚積淀,百度智能云打造出新一代系統(tǒng)級(jí)智能基礎(chǔ)設(shè)施,為企業(yè)大模型應(yīng)用落地量身定制最佳解決方案。
亮眼的市場(chǎng)表現(xiàn)印證了百度智能云的實(shí)力。數(shù)據(jù)顯示,2024全年,百度智能云在大模型相關(guān)中標(biāo)項(xiàng)目數(shù)、行業(yè)覆蓋數(shù)、央國(guó)企中標(biāo)項(xiàng)目數(shù)三個(gè)關(guān)鍵維度均位居行業(yè)第一,在能源、政務(wù)、金融三個(gè)重要行業(yè)的中標(biāo)項(xiàng)目數(shù)也領(lǐng)跑所有廠(chǎng)商。截至目前,千帆平臺(tái)企業(yè)用戶(hù)數(shù)量已突破40萬(wàn),平臺(tái)組件數(shù)量超1000個(gè),企業(yè)在該平臺(tái)上開(kāi)發(fā)的應(yīng)用數(shù)量更是超過(guò)100萬(wàn)個(gè)。

沈抖強(qiáng)調(diào),系統(tǒng)的核心價(jià)值在于賦予企業(yè)“創(chuàng)造的能力”。企業(yè)可充分結(jié)合自身數(shù)據(jù)、業(yè)務(wù)流程和邏輯,借助百度智能云的系統(tǒng)級(jí)能力,打造專(zhuān)屬的AI基礎(chǔ)設(shè)施,實(shí)現(xiàn)個(gè)性化、智能化的升級(jí)轉(zhuǎn)型。
百舸+昆侖芯超節(jié)點(diǎn):性能飛躍,成本銳減
算力堪稱(chēng)AI時(shí)代的“新電力”。百度智能云憑借自研昆侖芯P800芯片及百舸大規(guī)模推理加速能力,在算力性能與成本控制上實(shí)現(xiàn)重大突破。
大會(huì)現(xiàn)場(chǎng),百度正式點(diǎn)亮昆侖芯P800三萬(wàn)卡集群。在金融領(lǐng)域,招商銀行與百度智能云基于昆侖芯P800開(kāi)展算力合作,穩(wěn)定支撐各類(lèi)開(kāi)源大模型,在智能客服、多模態(tài)數(shù)據(jù)分析等場(chǎng)景中展現(xiàn)出卓越性能,顯著提升業(yè)務(wù)效能。目前,昆侖芯P800算力已在國(guó)家電網(wǎng)、中國(guó)鋼研等央企,同濟(jì)大學(xué)、北京大學(xué)等高校,以及眾多互聯(lián)網(wǎng)企業(yè)實(shí)現(xiàn)規(guī)?;渴稹?/p>
為進(jìn)一步降低算力使用成本,百度智能云全新發(fā)布昆侖芯超節(jié)點(diǎn)。該超節(jié)點(diǎn)支持將64張昆侖芯AI加速卡集成于同一機(jī)柜,單節(jié)點(diǎn)性能超強(qiáng),一個(gè)機(jī)柜的算力相當(dāng)于過(guò)去100臺(tái)機(jī)器。與傳統(tǒng)方案相比,昆侖芯超節(jié)點(diǎn)以更快的機(jī)內(nèi)通信替代機(jī)間通信,有效降低帶寬成本,實(shí)現(xiàn)卡間互聯(lián)帶寬提升8倍,單機(jī)訓(xùn)練性能提升10倍,單卡推理性能提升13倍。
不過(guò),僅有高性能芯片和大規(guī)模集群還遠(yuǎn)遠(yuǎn)不夠,如何穩(wěn)定、高效地釋放算力價(jià)值才是關(guān)鍵。沈抖指出,未來(lái)三年,推理降本將成為企業(yè)的核心工作。
百度智能云全面升級(jí)百舸推理加速能力。通過(guò)大規(guī)模分布式推理的PD分離技術(shù),百舸支持客戶(hù)根據(jù)不同業(yè)務(wù)場(chǎng)景特點(diǎn),靈活設(shè)置PD配比,并實(shí)現(xiàn)token級(jí)別的PD負(fù)載均衡。針對(duì)MOE模型,百舸進(jìn)行了大規(guī)模多機(jī)專(zhuān)家并行的極致優(yōu)化,大幅降低推理通信開(kāi)銷(xiāo)。同時(shí),對(duì)核心鏈路的每個(gè)細(xì)節(jié)進(jìn)行系統(tǒng)級(jí)工程優(yōu)化,顯著提升GPU有效利用率。

在實(shí)際應(yīng)用中,百舸推理加速能力作為千帆的算力底座,為40萬(wàn)客戶(hù)提供服務(wù)。自上線(xiàn)以來(lái),千帆推理吞吐提升20倍,推理速度提升50%以上。在外部,百舸不僅滿(mǎn)足招商銀行、中國(guó)石化、長(zhǎng)安汽車(chē)等企業(yè)的超大規(guī)模算力需求,也為初創(chuàng)企業(yè)和合作伙伴的模型訓(xùn)練、推理提供有力支持。
以北京人形機(jī)器人創(chuàng)新中心為例,百度百舸為其構(gòu)建穩(wěn)定的超大算力集群,保障具身模型訓(xùn)練和推理高效進(jìn)行,助力人形機(jī)器人快速迭代。在全球首個(gè)人形機(jī)器人半程馬拉松比賽中,北京人形機(jī)器人創(chuàng)新中心的純電驅(qū)全尺寸人形機(jī)器人“天工”,憑借百舸算力支持,以2小時(shí)40分42秒的優(yōu)異成績(jī)率先沖線(xiàn)奪冠。
千帆平臺(tái)推新:提效企業(yè)應(yīng)用開(kāi)發(fā)
企業(yè)部署大模型,既需要高性?xún)r(jià)比的模型服務(wù),也離不開(kāi)全面的模型工具。在模型服務(wù)方面,千帆平臺(tái)目前匯聚超過(guò)100個(gè)模型,涵蓋文心4.5Turbo、文心X1 Turbo等百度自研模型,以及DeepSeek、Ilama、Vidu等第三方模型,服務(wù)穩(wěn)定可靠。在模型開(kāi)發(fā)層面,千帆平臺(tái)提供完善的模型開(kāi)發(fā)工具鏈,支持深度思考模型、多模態(tài)模型的定制與精調(diào)。

以模型蒸餾為例,智聯(lián)招聘在人崗匹配場(chǎng)景中,借助千帆平臺(tái)的模型蒸餾工具鏈,以千億參數(shù)的DeepSeek R1作為“教師模型”,百億參數(shù)的ERNIE Speed作為“學(xué)生模型”。經(jīng)過(guò)調(diào)優(yōu)后的小參數(shù)模型,效果可與“教師模型”相媲美,成本卻降低至原來(lái)的30%。
在應(yīng)用開(kāi)發(fā)領(lǐng)域,本次大會(huì)上,千帆平臺(tái)全面升級(jí)企業(yè)級(jí)Agent開(kāi)發(fā)工具鏈,推出全新推理式智能體——智能體Pro。智能體Pro實(shí)現(xiàn)從“快問(wèn)快答”到“深思熟慮”的跨越,并支持企業(yè)定制專(zhuān)屬智能體。以污水寶為例,基于千帆Agentic RAG能力,智能體Pro能夠結(jié)合企業(yè)私域數(shù)據(jù)和知識(shí)庫(kù),根據(jù)任務(wù)需求制定檢索策略,大幅減少模型幻覺(jué)。同時(shí),智能體Pro支持Deep Research深度研究模式,可自主完成復(fù)雜任務(wù)的步驟規(guī)劃、信息篩選整理,還能模擬人類(lèi)操作電腦瀏覽網(wǎng)頁(yè)進(jìn)行探索式知識(shí)收集,以及使用多種工具繪制圖表、撰寫(xiě)專(zhuān)業(yè)報(bào)告。

基于DeepResearch能力,榮耀正攜手千帆平臺(tái),面向高校學(xué)生、職場(chǎng)白領(lǐng)等群體,開(kāi)發(fā)一款科研場(chǎng)景深度研究應(yīng)用,該應(yīng)用即將在榮耀筆記本上線(xiàn)。
此外,百度智能云正式發(fā)布國(guó)內(nèi)首個(gè)企業(yè)級(jí)MCP服務(wù),首批上線(xiàn)超1000個(gè)MCP Servers,供企業(yè)和開(kāi)發(fā)者靈活選用。開(kāi)發(fā)者還可在千帆平臺(tái)開(kāi)發(fā)專(zhuān)屬M(fèi)CP Server,并發(fā)布至MCP廣場(chǎng),享受免費(fèi)托管服務(wù)。百度搜索將索引這些MCP Server,使其獲得更多開(kāi)發(fā)者的關(guān)注與引用。
從模型服務(wù)到應(yīng)用開(kāi)發(fā),企業(yè)客戶(hù)借助千帆平臺(tái)實(shí)現(xiàn)了眾多行業(yè)創(chuàng)新。民生銀行與百度智能云合作,探索大模型在商業(yè)銀行的落地,成功完成金融領(lǐng)域首個(gè)涵蓋算力、平臺(tái)、模型、應(yīng)用四層架構(gòu)的端到端項(xiàng)目。
自研AI應(yīng)用升級(jí):營(yíng)銷(xiāo)與視覺(jué)新體驗(yàn)
百度智能云打造的智能基礎(chǔ)設(shè)施,也為自身應(yīng)用創(chuàng)新提供了堅(jiān)實(shí)支撐。本次大會(huì)上,百度智能云針對(duì)智能營(yíng)銷(xiāo)、視覺(jué)AI兩大領(lǐng)域,升級(jí)兩大自研AI應(yīng)用產(chǎn)品。
在金融營(yíng)銷(xiāo)領(lǐng)域,精準(zhǔn)獲客、優(yōu)質(zhì)客服及高效流失預(yù)警至關(guān)重要。百度智能云升級(jí)發(fā)布客悅·ONE,全面優(yōu)化核心營(yíng)銷(xiāo)場(chǎng)景,為客戶(hù)提供全生命周期智能營(yíng)銷(xiāo)服務(wù),助力企業(yè)提升營(yíng)銷(xiāo)效能。以理財(cái)撤單場(chǎng)景為例,傳統(tǒng)模式下用戶(hù)操作繁瑣、效率低下,而客悅通過(guò)AI驅(qū)動(dòng)的智能交互,簡(jiǎn)化流程,不僅能識(shí)別并安撫用戶(hù)焦慮情緒,還能引導(dǎo)解決問(wèn)題,自動(dòng)提煉關(guān)鍵信息回流數(shù)據(jù),持續(xù)優(yōu)化服務(wù)體驗(yàn)。目前,客悅已服務(wù)50余家銀行、證券、保險(xiǎn)等金融企業(yè),落地10余個(gè)金融行業(yè)場(chǎng)景。
針對(duì)視覺(jué)AI模型訓(xùn)練周期長(zhǎng)、門(mén)檻高、人工干預(yù)多的問(wèn)題,百度智能云升級(jí)發(fā)布一見(jiàn)5.0。在標(biāo)準(zhǔn)化高、規(guī)則清晰的任務(wù)中,用戶(hù)僅需一句自然語(yǔ)言,即可秒級(jí)生成專(zhuān)業(yè)級(jí)視覺(jué)AI應(yīng)用,一線(xiàn)業(yè)務(wù)人員也能輕松上手。借助云邊協(xié)同技術(shù),一見(jiàn)5.0大幅降低應(yīng)用成本,加速視覺(jué)智能規(guī)?;涞?。
目前,百度智能云從算力、平臺(tái)到應(yīng)用的系統(tǒng)級(jí)能力,已在多個(gè)企業(yè)場(chǎng)景中穩(wěn)定運(yùn)行。中國(guó)鋼研與百度智能云攜手打造全棧智能基礎(chǔ)設(shè)施,基于昆侖芯和百舸搭建專(zhuān)屬智算平臺(tái),在千帆平臺(tái)進(jìn)行模型精調(diào),采用大、小模型結(jié)合的方式實(shí)現(xiàn)最佳效果,并結(jié)合一見(jiàn)視覺(jué)平臺(tái),快速完成表面缺陷檢測(cè)、金相分析等核心場(chǎng)景的應(yīng)用開(kāi)發(fā)。
熱門(mén)跟貼