小鵬汽車昨日在香港舉辦AI技術分享會,正式披露其正在研發(fā)的720億參數超大規(guī)模自動駕駛大模型——“小鵬世界基座模型”。這一模型不僅將為小鵬汽車提供全新的智能駕駛“大腦”,還將通過云端蒸餾技術部署到車端,同時賦能小鵬的AI機器人、飛行汽車等多種終端設備。

據小鵬汽車自動駕駛負責人李力耘介紹,該基座模型以大語言模型為骨干網絡,通過海量優(yōu)質駕駛數據訓練而成,具備視覺理解、鏈式推理和動作生成三大核心能力。通過強化學習訓練,這一基座模型能夠不斷自我進化,有望發(fā)展出媲美甚至超越人類的自動駕駛技能。

小鵬世界基座模型的參數規(guī)模高達720億,是主流VLA模型的約35倍。其顯著優(yōu)勢在于具備鏈式推理能力(CoT),能夠像人類一樣進行復雜的常識推理,并將推理結果轉化為方向盤、剎車等控制信號,實現與物理世界的有效交互。

為支持基座模型的研發(fā),小鵬汽車從零打造了“云端模型工廠”,并建成了國內汽車行業(yè)首個萬卡智算集群。目前,該“工廠”擁有10 EFLOPS的算力,集群運行效率常年保持在90%以上,從云到端的全鏈路迭代周期可達平均5天一次。小鵬汽車自主開發(fā)的數據基礎設施使數據上傳規(guī)模提升22倍、訓練中的數據帶寬提升15倍,模型訓練速度提升5倍。
在分享會上,小鵬公布了三項階段性成果:驗證了規(guī)模法則在自動駕駛領域持續(xù)生效;在后裝算力的車端成功實現基模控車;啟動72B參數基模訓練,搭建針對強化學習的模型訓練框架。



小鵬團隊通過大量實驗,首次驗證了“規(guī)模法則”在自動駕駛領域的適用性,即參數規(guī)模越大、訓練數據量越多,模型的能力就越強。研發(fā)團隊還基于過去“規(guī)則時代”的經驗沉淀,為強化學習設計了有效的獎勵函數,將規(guī)則經驗轉化為訓練基座模型的生產力。

同時,小鵬汽車已著手開發(fā)世界模型(World Model),作為“云端模型工廠”的重要環(huán)節(jié),支持基座模型的性能優(yōu)化。該世界模型能夠實時建模和反饋,基于動作信號模擬真實環(huán)境狀態(tài),構建閉環(huán)反饋網絡,幫助基座模型不斷進化。

小鵬汽車董事長何小鵬表示:“我們的目標是成為物理世界大模型的第一名,推動汽車、機器人、飛行汽車領域的巨大變化。”據悉,關于小鵬世界基座模型的更多研發(fā)和訓練細節(jié),小鵬汽車將于今年6月在計算機視覺國際頂會CVPR上進一步分享。
熱門跟貼