編輯部 整理自 凹非寺
量子位 | 公眾號 QbitAI
未來物理世界要實現(xiàn)AGI，一定是通過端側(cè)智能。
面壁智能CEO兼聯(lián)合創(chuàng)始人李大海在第三屆中國AIGC產(chǎn)業(yè)大會上分享了他們的經(jīng)驗認(rèn)知。
作為當(dāng)前端側(cè)智能的領(lǐng)跑者，面壁智能在過去一段時間以來可謂是進展頻頻。
他們發(fā)布了端側(cè)模型MiniCPM驅(qū)動的面壁小鋼炮超級助手cpmGO，MiniCPM也逐步開拓了手機、具身智能、AIPC、智能可穿戴設(shè)備等幾個主流落地方向。
未來他們的愿景是讓每一個設(shè)備都具備智能。至于如何實現(xiàn)？李大海在會上分享了背后的方法論。
為了完整體現(xiàn)李大海的思考，在不改變原意的基礎(chǔ)上，量子位對演講內(nèi)容進行了編輯整理，希望能給你帶來更多啟發(fā)。
中國AIGC產(chǎn)業(yè)峰會是由量子位主辦的AI領(lǐng)域前沿峰會，20余位產(chǎn)業(yè)代表與會討論。線下參會觀眾超千人，線上直播觀眾320萬+，累計曝光2000萬+。
話題要點
- DeepSeek的成功，底層在于三個“密度”的極致：團隊密度、組織密度、高資源密度。
- 我們觀察到大模型“知識密度”是智能的核心指標(biāo)，而高知識密度模型在端上最有價值。
- 大模型知識密度可以跟芯片制程做類比，我們知道芯片的制程，就是在每平方厘米下晶體管的數(shù)量，可反映出計算能力的強弱。而大模型知識密度越高，它的智能就越強
- 未來物理世界實現(xiàn)AGI，一定是通過端側(cè)智能。因為只有把大腦部署在設(shè)備的終端上，把大腦部署在機器人的腦子里面，它才能夠真的去做最靈敏的感知，去做最及時的決策，才能做出最完美的應(yīng)對。
以下為李大海演講全文：
DeepSeek成功最底層因素是三個“密度”
朋友們，大家下午好。我今天穿的T恤是我們公司面壁智能的文化衫，面壁這個名字就來源于《三體》，我們公司的三體迷把公司企業(yè)文化都“三體化”了，我們員工手冊的名字就叫“這是面壁計劃的一部分”。
今天很高興能夠在這里跟大家匯報面壁過去一年多的工作，自從參與創(chuàng)立面壁，開始在大模型這個賽道里長跑，真的非常有意思。因為才短短兩年多，我們經(jīng)歷了許多的“非共識”，其中很多的“非共識”變成了共識，然后又涌現(xiàn)出更多的非共識。整個公司的發(fā)展過程，我們不斷地在更新自己的認(rèn)知，進行迭代。兩年的時間，像是過了十幾年。
今年有一個繞不開的話題DeepSeek。DeepSeek的成功，有著天時地利人和的多重因素，也有很多值得我們重點借鑒的先進經(jīng)驗，我們總結(jié)下來有三個方面的“高密度”：
第一，團隊密度。能夠在大模型領(lǐng)域突出重圍的公司和組織，必須有足夠高的人才密度，組建一支極客式的優(yōu)秀團隊，聚焦在大模型的底層技術(shù)上，進行深入地鉆研。
第二，組織密度。組織密度講的是組織目標(biāo)的一致性，我用另外一個詞叫“組織熵”。當(dāng)一個組織里每個人的目標(biāo)都不一樣時，是熵最大的狀態(tài)，那是最不理想的狀態(tài)。最理想狀態(tài)是上下一心，所有人目標(biāo)一致，這樣整個組織間協(xié)作非常高效。這是“足夠高的組織密度”。
第三，高資源密度。不僅要給創(chuàng)新留出充足的研發(fā)預(yù)算，并且要保障團隊能夠非常長時間地聚焦于技術(shù)的鉆研，持續(xù)進行技術(shù)的積累。
維持三個密度都足夠高，才有可能在大模型的底層技術(shù)上有所突破。
DeepSeek是在云側(cè)，踐行非常高效的大模型組織；而面壁在端側(cè)，也在開展十分令人興奮的高效故事。
我們對大模型“知識密度”的洞察
面壁團隊是從2019年開始all in大模型，2022年8月份公司正式成立，而后在2023年9月份就發(fā)布了第一個千億級的GPT-3.5水平的模型，拿到了網(wǎng)信辦第二批安全備案。
到了2023年年底的時候，看到大模型同質(zhì)化越來越嚴(yán)重，我們開始思考面壁的核心競爭力是什么，差異點是什么。
因為從團隊創(chuàng)立之初，高效就是我們骨子里的基因。早期還因為我們有很多大模型推理加速的工作一段時間被錯歸類為infra公司…… 高效這件事，好像天然就是我們骨子里信奉的東西，也是更加比別人能做好的事情。那么那段時間，我們做了“模型風(fēng)洞”試驗方面的創(chuàng)新性探索，發(fā)現(xiàn)我們的模型總是同等參數(shù)、性能更強。
大模型高效背后的核心指標(biāo)，正是知識密度，并且我們把對大模型成長規(guī)律的觀察總結(jié)為“密度定律”。
我們發(fā)現(xiàn)，大模型知識密度每3.3個月翻一番。大模型知識密度可以跟芯片的制程做類比，我們知道芯片的制程，就是計算密度在每平方厘米下有多少個晶體電子管的數(shù)量，它的電路有多少，可反映出就說明了它的計算能力的強弱有多少，這個密度越高，說明制程越高。而大模型的知識密度就越高，它的智能就越強。
當(dāng)我們聚焦去做高知識密度模型，并且發(fā)現(xiàn)落在端側(cè)具備格外的優(yōu)勢。因為端側(cè)的算力是有限的，內(nèi)存也是有限的，功耗也是有限的，這三個限制條件下，天生是帶著鐐銬跳舞，知識密度高，效果才會好。
未來物理世界實現(xiàn)AGI，一定是通過端側(cè)智能
過去一年我們發(fā)布了九個端側(cè)模型，在今年1月份的時候發(fā)布了全球第一個端側(cè)全模態(tài)的模型，大概是8B大小的模型，這個模型能流暢運行在iPad上，可以實時流式的實時看，持續(xù)聽，自然說，并且“看聽說”的水平從多模態(tài)角度上達(dá)到了GPT-4o的水平，雖然解決復(fù)雜的邏輯問題層面上，還是跟云端模型有區(qū)別，但是在多模態(tài)能力上已經(jīng)非常強。
從這個簡單的例子里面看到，全模態(tài)大模型可以同時接收語音跟視覺的信號，基于語音跟視覺去感知周圍的環(huán)境，同時以聲音或者文字輸出自己的答案。而將這樣的全模態(tài)大模型部署在汽車、機器人等這樣的設(shè)備上，就可以讓汽車、機器人這樣的設(shè)備成為一個能夠同時去看、聽、說的設(shè)備。
基于我們模型的工作，在今年3月份的時候，發(fā)布了純端側(cè)模型驅(qū)動的面壁小鋼炮超級助手產(chǎn)品，首先在汽車上落地。
汽車是我們端側(cè)模型落地的理想場景，因為汽車作為超級終端“智能體”來說是一種成熟的“具身智能”，我們認(rèn)為在汽車上有非常好的發(fā)展空間。
面壁小鋼炮超級助手可以在車上提供目前兩種特別重要的能力。
第一個是端上不依賴網(wǎng)絡(luò)的全天候指令助手，用戶在車上所有的指令，都可以在端側(cè)智能上做到及時響應(yīng)。
第二是通過艙內(nèi)艙外的攝像頭、麥克風(fēng)去感覺艙外環(huán)境和艙內(nèi)車乘人員的指令和狀態(tài)，根據(jù)這個感知去主動關(guān)懷他們。
這是一個感知、決策、執(zhí)行三位一體的模型。幾年以前智能駕駛就在提這個概念，端到端的模型給行業(yè)帶來一些新的可能性。
通過攝像頭感知艙外艙內(nèi)的環(huán)境，在端側(cè)有什么特別優(yōu)勢呢？
首先，汽車作為一個移動客廳，網(wǎng)絡(luò)情況是不可能100%穩(wěn)定可靠的。端側(cè)方案可以不受網(wǎng)絡(luò)的限制，隨時隨地做到感知。
第二，如果在云端，完成艙內(nèi)艙外視覺信息視頻流的感知回傳，可能推理的成本不算高，但是高清視頻流實時傳輸?shù)膸挸杀竞芨?，其次背后也有大量的隱私信息，因此不僅成本高，還有很多隱私暴露的風(fēng)險。我們純端側(cè)能夠在隱私和成本上有很好的優(yōu)勢。
這個視頻可以看到，純端側(cè)的面壁小鋼炮可以陪大家走遍天涯海角，因為它不受網(wǎng)絡(luò)的束縛，它是全天候的。
這個是我們從執(zhí)行層面上的GUI Agent產(chǎn)品。我們既然已經(jīng)有了端側(cè)模型，我們就可以通過端側(cè)去感知到屏幕上發(fā)生的行為，就能夠幫助用戶完成這些任務(wù)，完成這些任務(wù)的基礎(chǔ)是像用戶一樣理解這些屏幕，通過這些方式本質(zhì)上就能夠像人一樣，所以能夠有很強的泛化性。同時因為是在端側(cè)，所以用戶屏幕上的信息是不會被上傳到云端，隱私絕對有保證。
我也想借這個時間跟大家同步一下我們的認(rèn)知。
為什么面壁過了兩年，一直現(xiàn)在云端發(fā)展依然如火如荼的情況下，我們?nèi)匀环浅＞劢褂诘刈龆藗?cè)。因為端側(cè)是我們的信仰，我們相信未來端側(cè)是有非常廣闊的天地。同時我們也相信未來在物理世界要去實現(xiàn)AGI，一定要通過端側(cè)智能。因為只有把大腦部署在設(shè)備的終端上，把大腦部署在機器人的指揮中樞，它才能夠有最靈敏的感知，去做最及時的決策，才能做出最完美的應(yīng)對，這是一個非?；A(chǔ)的事情。
目前我們的端側(cè)模型，已經(jīng)在汽車、部分機器人的場景、手機，還有一些新的智能終端，比如說離線的翻譯機等設(shè)備上落地。
我們的愿景是要讓每一個設(shè)備都具備智能。
好的，我的分享就到這里，謝謝大家！
熱門跟貼