新智元報(bào)道
編輯：桃子 好困
【新智元導(dǎo)讀】DeepMind內(nèi)部研究要「封箱」了！為保谷歌在AI競(jìng)賽領(lǐng)先優(yōu)勢(shì)，生成式AI相關(guān)論文設(shè)定6個(gè)月禁發(fā)期。不僅如此，創(chuàng)新成果不發(fā)，Gemini短板不提。
DeepMind研究成果，已被按下暫停鍵。
FT爆料稱，由Demis Hassabis領(lǐng)導(dǎo)的谷歌AI部門，正對(duì)研究論文發(fā)布實(shí)施更嚴(yán)格的審查機(jī)制。
總結(jié)來(lái)說(shuō)，有這么幾種論文不發(fā)：
會(huì)被競(jìng)爭(zhēng)對(duì)手利用的創(chuàng)新成果
讓Gemini模型相形見(jiàn)絀的研究
而那些涉及到GenAI的「戰(zhàn)略性研究」，更是有著長(zhǎng)達(dá)6個(gè)月「禁發(fā)期」。
如果研究員非要發(fā)論文，就得去說(shuō)服多名相關(guān)人員，認(rèn)可其發(fā)表的價(jià)值。
這對(duì)于DeepMind而言，是一個(gè)重大轉(zhuǎn)變。
6個(gè)月禁發(fā)期，DeepMind文化之變
一直以來(lái)，DeepMind以發(fā)布突破性論文聞名。
2017年，「Attention is All you Need」開(kāi)山之作出世，研究團(tuán)隊(duì)提出的Transformer架構(gòu)為如今生成式AI熱潮奠定了基礎(chǔ)。
然而，AI戰(zhàn)場(chǎng)上激烈廝殺，讓谷歌領(lǐng)先優(yōu)勢(shì)不再。他們不得不考慮在公開(kāi)研究上策略進(jìn)行重大調(diào)整。
為了保持領(lǐng)先優(yōu)勢(shì)，獲取最大商業(yè)利益，AI研究開(kāi)放精神正在谷歌內(nèi)部「凍結(jié)」。
至此，曾以AlphaGo擊敗人類棋手、Transformer架構(gòu)革新AI領(lǐng)域的DeepMind，也正式走向了學(xué)術(shù)寒冬的變革。
據(jù)7位現(xiàn)任及前任研究科學(xué)家透露，「公司引入了更嚴(yán)格的審查流程和更繁瑣的程序，加大了發(fā)表研究論文的難度」。
6個(gè)月禁發(fā)期，成為了最大的限制。
不過(guò)，研究人員通過(guò)說(shuō)服多位內(nèi)部員工，證明發(fā)表必要性，還是可以刊發(fā)論文的。
從某種程度上，這樣可以減輕研究人員因谷歌戰(zhàn)略、競(jìng)爭(zhēng)原因，而無(wú)法發(fā)表成果的挫敗感。
但想要像2017年那樣公開(kāi)發(fā)表Transformer這類的論文，幾乎是不可能了。
盡管如此，DeepMind每年仍然可以產(chǎn)出數(shù)百篇論文，并且是各大AI頂會(huì)最重要的貢獻(xiàn)者之一。
商業(yè)利益first，研究生態(tài)受限
從時(shí)間線看，自23年DeepMind與Google Brain合并以來(lái)，谷歌加速推出了大量AI產(chǎn)品，試圖在與OpenAI等勁敵的較量中迎頭趕上。
然而，這一轉(zhuǎn)變也伴隨著企業(yè)文化的變化。
其實(shí)，在兩大機(jī)構(gòu)合并前，谷歌內(nèi)部便已有論文發(fā)表的審查流程，但自那之后流程變得更加官僚化。
一位前DeepMind研究科學(xué)家表示，「公司現(xiàn)在更關(guān)心產(chǎn)品，不關(guān)心為了公共利益而發(fā)布研究成果，這并非我當(dāng)初加入的初衷」。
內(nèi)部人士透露，新政策尤其限制了涉及了商業(yè)敏感領(lǐng)域的研究發(fā)布，避免潛在創(chuàng)新成果泄露。
此前，一項(xiàng)內(nèi)部研究顯示Gemini大模型，在能力/安全性方面不及GPT-4，直接被谷歌叫停。
甚至，他們還阻止了一篇揭露ChatGPT漏洞的論文，因?yàn)閾?dān)心此舉顯得像是一種敵對(duì)的報(bào)復(fù)行為。
不過(guò)，DeepMind方面辯稱，內(nèi)部遵循「負(fù)責(zé)任披露政策」，即在研究員公開(kāi)漏洞前，必須給予相關(guān)公司修復(fù)的機(jī)會(huì)，并非完全禁止此類研究。
AI大佬從谷歌「逃亡」
這種繁瑣的審查流程，已經(jīng)導(dǎo)致部分谷歌AI人才的流失。
對(duì)于以頂級(jí)期刊發(fā)表成果衡量成功的DeepMind研究員來(lái)說(shuō)，這種加強(qiáng)管控帶來(lái)了不小的沖擊。
一位前員工更是直言，「如果你不能發(fā)表論文，那對(duì)研究人員的職業(yè)生涯是致命打擊」。
前段時(shí)間，谷歌DeepMind七年老將Nicholas Carlini官宣離職，在長(zhǎng)文中自述領(lǐng)導(dǎo)層已成絆腳石，想要去追尋真正的科研自由。
他的研究方向重點(diǎn)在于AI安全與隱私方面。
18年博士畢業(yè)后，Nicholas懷揣著夢(mèng)想加入了夢(mèng)寐以求的工作場(chǎng)所——谷歌大腦。
七年過(guò)去，情況卻發(fā)生了天翻地覆的變化。谷歌大腦在與DeepMind合并之后，Nicholas意識(shí)到——DeepMind及I領(lǐng)導(dǎo)層不再支持自己熱衷的安全與隱私研究，這也成為他離職的主要原因。
他提出了兩條自己的核心信念：
機(jī)器學(xué)習(xí)安全與與缺陷的科學(xué)研究，應(yīng)該默認(rèn)開(kāi)放：這個(gè)領(lǐng)域還有太多未知，我們需要在有限時(shí)間內(nèi)取得進(jìn)展，邊需要相互學(xué)習(xí)，充分協(xié)作。
科學(xué)出版物應(yīng)該是傳遞科學(xué)成果的方式：論文是為科學(xué)家寫的，不應(yīng)該參雜公關(guān)的浮夸或法律文件的模棱兩可。
Nicholas進(jìn)一步表示，「寫出真相，有時(shí)并不等于寫出我們希望的真相，但這是科學(xué)應(yīng)該有的態(tài)度」。
此外，內(nèi)部資源（算力、數(shù)據(jù)集）的爭(zhēng)奪也愈加傾向于，支持Gemini系列產(chǎn)品的開(kāi)發(fā)項(xiàng)目，進(jìn)一步壓縮了基礎(chǔ)研究的生存空間。
Hassabis：不接受，就辭職
不過(guò)相應(yīng)的，谷歌近年來(lái)在AI產(chǎn)品上的進(jìn)展，可謂是十分顯著。
從優(yōu)化搜索結(jié)果上方的「AI生成摘要」，到推出能實(shí)時(shí)處理視頻、音頻、文本查詢的「Astra」智能體，谷歌的市場(chǎng)反響令人矚目。
甚至，包括迭代后的Gemini系模型，已經(jīng)在編碼、生圖等方面，得到了全面升級(jí)，超越了OpenAI最強(qiáng)模型。
盡管近期有所回落，過(guò)去一年，谷歌股價(jià)一度上漲高達(dá)1/3。
而作為DeepMind掌舵人，Hassabis一直在谷歌領(lǐng)導(dǎo)層商業(yè)化需求與個(gè)人追求AGI使命之間尋求平衡。
一位現(xiàn)任員工透露，「任何阻礙這一目標(biāo)的障礙，他都會(huì)毫不猶豫地移除」。
對(duì)于暫緩研究的質(zhì)疑聲，Hassabis是這么回應(yīng)的：
這里是公司，不是大學(xué)校園；想在大學(xué)那樣的環(huán)境工作，那就請(qǐng)你離開(kāi)。
或許，谷歌的這種謹(jǐn)慎能鞏固其地位，但也可能讓它失去部分創(chuàng)新活力，甚至是AI行業(yè)翹楚。
這場(chǎng)AI競(jìng)賽的「囚徒困境」，谷歌能否走出？
參考資料：
https://www.ft.com/content/2ee1ffde-008e-4ea4-861b-24f15b25cf54
熱門跟貼