打開網(wǎng)易新聞 查看精彩圖片

編輯 | matrix

數(shù)十年來,科研人員一直致力于構(gòu)建類腦計(jì)算機(jī)硬件,但這一領(lǐng)域尚未迎來真正的突破性進(jìn)展。如今,領(lǐng)先的研究者認(rèn)為,構(gòu)建首個(gè)能解決實(shí)際問題的規(guī)模化神經(jīng)形態(tài)設(shè)備的時(shí)機(jī)已然成熟。

從仿生啟發(fā)的潛力到技術(shù)深層的差異

近年來推動(dòng)人工智能進(jìn)步的神經(jīng)網(wǎng)絡(luò)技術(shù),雖從大腦中獲得靈感,但其算法和硬件與生物神經(jīng)元存在本質(zhì)差異。神經(jīng)形態(tài)工程師希望通過更精確模擬大腦工作機(jī)制,同時(shí)實(shí)現(xiàn)高效計(jì)算與超低能耗。

這一目標(biāo)的核心在于采用脈沖神經(jīng)網(wǎng)絡(luò)(SNN)——其計(jì)算單元通過脈沖信號傳遞信息,而非傳統(tǒng)神經(jīng)網(wǎng)絡(luò)中的數(shù)值計(jì)算。盡管學(xué)界與企業(yè)界興趣日增,但多數(shù)實(shí)驗(yàn)仍停留在小規(guī)模階段,尚未實(shí)現(xiàn)商業(yè)化突破。

今年 1 月發(fā)表于《Nature》的論文指出,神經(jīng)形態(tài)計(jì)算正從學(xué)術(shù)原型轉(zhuǎn)向可應(yīng)對現(xiàn)實(shí)挑戰(zhàn)的成熟設(shè)備。

https://www.nature.com/articles/s41586-024-08253-8

該論文的作者之一、ARM 微處理器首席設(shè)計(jì)師史蒂夫·弗伯(Steve Furber)在接受《IEEE Spectrum》專訪時(shí),分享了關(guān)于技術(shù)臨界點(diǎn)、軟硬件協(xié)同等關(guān)鍵議題的見解。

硬件基礎(chǔ)就緒,亟需「殺手級應(yīng)用」

弗伯指出,當(dāng)前技術(shù)已能支持任意規(guī)模的脈沖神經(jīng)網(wǎng)絡(luò)運(yùn)行,但行業(yè)迫切需要證明其實(shí)際價(jià)值的標(biāo)志性應(yīng)用。

以他主導(dǎo)的 SpiNNaker 項(xiàng)目為例,最初定位是為腦科學(xué)研究提供工具,但近年來逐漸轉(zhuǎn)向工程應(yīng)用。

與此同時(shí),主流 AI 因大語言模型(LLM)的驚人能耗遭遇瓶頸,這為神經(jīng)形態(tài)技術(shù)提供了機(jī)遇——通過模擬生物神經(jīng)元的能效特性,或可顯著降低計(jì)算成本。

目前,英特爾 Loihi 2 系統(tǒng)、曼徹斯特大學(xué)的百萬核 SpiNNaker 架構(gòu)等設(shè)備已具備大規(guī)模部署能力。弗伯的合作團(tuán)隊(duì)正推廣 500 萬核級系統(tǒng),這些平臺理論上可運(yùn)行完整的大語言模型。

但關(guān)鍵問題在于:如何優(yōu)化算法以充分發(fā)揮硬件潛能?

打開網(wǎng)易新聞 查看精彩圖片

圖示:SpiNNaker 團(tuán)隊(duì)組裝了一個(gè)百萬核神經(jīng)形態(tài)系統(tǒng)。(來源:報(bào)道)

軟件生態(tài)與協(xié)作壁壘的突破

硬件并非唯一挑戰(zhàn),高效軟件工具的缺失制約著應(yīng)用開發(fā)。

弗伯坦言,當(dāng)前缺乏類似 TensorFlow 或 PyTorch 的高層設(shè)計(jì)工具,開發(fā)者仍需手動(dòng)配置每個(gè)神經(jīng)元參數(shù)。

歐盟「人類腦計(jì)劃」推動(dòng)的 PyNN 語言是重要進(jìn)展,該框架已兼容 SpiNNaker 與海德堡大學(xué)的 BrainScaleS 系統(tǒng)。然而,多數(shù)實(shí)驗(yàn)室仍局限于自研平臺,跨團(tuán)隊(duì)協(xié)作亟待加強(qiáng)。

英特爾通過 Lava 軟件框架推動(dòng)生態(tài)統(tǒng)一,但距離成熟生態(tài)仍有距離。弗伯強(qiáng)調(diào),硬件底層差異可通過軟件抽象層彌合,關(guān)鍵在于建立通用標(biāo)準(zhǔn)。

打開網(wǎng)易新聞 查看精彩圖片

圖示:SpiNNaker 團(tuán)隊(duì)的一名成員正在檢查該公司的百萬核計(jì)算機(jī)。(來源:報(bào)道)

生物合理性與工程實(shí)用性的權(quán)衡

關(guān)于神經(jīng)形態(tài)系統(tǒng)應(yīng)多大程度模擬生物特性,學(xué)界存在分歧。

弗伯認(rèn)為,研究階段的技術(shù)多樣性有助于探索最優(yōu)方案,但轉(zhuǎn)向應(yīng)用時(shí)需聚焦共性。例如,大語言模型僅需簡單神經(jīng)元模型,但若融入更多生物機(jī)制,可能顯著降低神經(jīng)元數(shù)量。這需要深入研究驗(yàn)證。

在憶阻器等新型器件引發(fā)熱潮的背景下,弗伯提醒:底層技術(shù)創(chuàng)新固然重要,但系統(tǒng)級問題的優(yōu)先級更高?,F(xiàn)有平臺已支持研究推進(jìn),過度聚焦器件可能分散資源。

規(guī)模化轉(zhuǎn)折的信號與挑戰(zhàn)

弗伯將當(dāng)前視為「臨界點(diǎn)」:初創(chuàng)企業(yè)的生存驗(yàn)證了資本信心,主流 AI 的能耗危機(jī)催生變革需求。一旦出現(xiàn)能效優(yōu)勢的實(shí)證案例,行業(yè)格局或?qū)⒅厮堋?/p>

神經(jīng)形態(tài)計(jì)算是否真能開啟新時(shí)代?答案或許就在未來幾年的技術(shù)演進(jìn)與應(yīng)用突破中。

https://www.nature.com/articles/s41586-024-08253-8