在一項(xiàng)新的調(diào)查中，76%的科學(xué)家表示，擴(kuò)展大型語言模型“不太可能”或“非常不可能”實(shí)現(xiàn)通用人工智能（AGI）。
最近對(duì)行業(yè)專家的一項(xiàng)調(diào)查顯示，目前的人工智能（AI）方法不太可能創(chuàng)造出與人類智能相匹配的模型。
在接受調(diào)查的475名人工智能研究人員中，76%的人表示，大型語言模型（LLM）的擴(kuò)展“不太可能”或“非常不可能”實(shí)現(xiàn)通用人工智能（AGI），這是一個(gè)假設(shè)的里程碑，機(jī)器學(xué)習(xí)系統(tǒng)可以像人類一樣有效或更好地學(xué)習(xí)。
這是對(duì)科技行業(yè)預(yù)測(cè)的一個(gè)值得注意的駁斥，自2022年人工智能繁榮以來，這些預(yù)測(cè)一直認(rèn)為，目前最先進(jìn)的人工智能模型只需要更多的數(shù)據(jù)、硬件、能源和資金，就能超越人類的智能。
現(xiàn)在，由于最近發(fā)布的模型似乎停滯不前，人工智能促進(jìn)協(xié)會(huì)調(diào)查的大多數(shù)研究人員認(rèn)為，科技公司已經(jīng)走到了一個(gè)死胡同，而且錢也救不了它們。
“我認(rèn)為，自從GPT-4發(fā)布后不久，從擴(kuò)容中獲得的收益就很明顯了，而且代價(jià)高昂，”加州大學(xué)伯克利分校的計(jì)算機(jī)科學(xué)家斯圖爾特·拉塞爾（Stuart Russell）告訴媒體。他幫助組織了這份報(bào)告。“（人工智能公司）已經(jīng)投入了太多，當(dāng)它們必須償還投入數(shù)千億美元的投資者時(shí)，它們承擔(dān)不起承認(rèn)自己犯了錯(cuò)誤（并）退出市場(chǎng)幾年的后果。所以他們所能做的就是加倍下注?！?/p>
收益遞減
近年來LLM的驚人進(jìn)步部分歸功于其底層的Transformer架構(gòu)。這是一種深度學(xué)習(xí)架構(gòu)，由谷歌科學(xué)家于2017年首次創(chuàng)建，通過吸收人類輸入的訓(xùn)練數(shù)據(jù)來成長(zhǎng)和學(xué)習(xí)。
這使得模型能夠從它們的神經(jīng)網(wǎng)絡(luò)（機(jī)器學(xué)習(xí)算法的集合，以模仿人類大腦的學(xué)習(xí)方式）中生成概率模式，方法是在給定提示時(shí)向前饋送它們，隨著更多數(shù)據(jù)的增加，它們的答案的準(zhǔn)確性也會(huì)提高。
但這些模型的持續(xù)擴(kuò)展需要大量的資金和能源。僅在2024年，人工智能行業(yè)就在全球籌集了560億美元的風(fēng)險(xiǎn)投資，其中大部分用于建設(shè)龐大的數(shù)據(jù)中心綜合體，自2018年以來，這些數(shù)據(jù)中心的碳排放量增長(zhǎng)了兩倍。
預(yù)測(cè)還顯示，對(duì)進(jìn)一步增長(zhǎng)至關(guān)重要的有限的人為數(shù)據(jù)，很可能在本十年末耗盡。一旦發(fā)生這種情況，替代方案將是開始從用戶那里收集私人數(shù)據(jù)，或者將人工智能生成的“合成”數(shù)據(jù)輸入回模型中，這可能會(huì)使模型面臨因吞下自己的輸入后產(chǎn)生的錯(cuò)誤而崩潰的風(fēng)險(xiǎn)。
但調(diào)查專家表示，當(dāng)前模型的局限性可能不僅僅是因?yàn)樗鼈儗?duì)資源的渴求，還因?yàn)樗鼈兊募軜?gòu)存在根本性的局限性。
“我認(rèn)為當(dāng)前方法的基本問題是，它們都涉及訓(xùn)練大型前饋電路，”斯圖爾特·拉塞爾說?！半娐纷鳛橐环N表示概念的方式有根本的局限性。這意味著電路必須是巨大的，即使是近似地表示這些概念 —— 本質(zhì)上是一個(gè)美化的查找表 —— 這導(dǎo)致了大量的數(shù)據(jù)需求和零敲碎打的表示。這就是為什么，例如，普通的人類棋手可以輕松擊敗“超人”圍棋程序。
人工智能發(fā)展的未來
一些受訪者表示，所有這些瓶頸都給致力于提高人工智能性能的公司帶來了重大挑戰(zhàn)，導(dǎo)致評(píng)估基準(zhǔn)得分停滯不前，而傳聞中的OpenAI GPT-5模型從未出現(xiàn)過。
中國(guó)公司深度求索（DeepSeek）今年也削弱了那種總能通過擴(kuò)展實(shí)現(xiàn)改進(jìn)的假設(shè)。深度求索的性能與硅谷昂貴機(jī)型相當(dāng)，而成本和功率只是后者的一小部分。由于這些原因，79%的受訪者表示，對(duì)人工智能能力的看法與現(xiàn)實(shí)不符。
“有很多專家認(rèn)為這是一個(gè)泡沫，”斯圖爾特·拉塞爾說。“尤其是當(dāng)性能合理的模型免費(fèi)贈(zèng)送時(shí)?！?/p>
然而，這并不意味著人工智能的進(jìn)步已經(jīng)消亡。推理模型 —— 專門為查詢投入更多時(shí)間和計(jì)算能力的模型 —— 已經(jīng)被證明比它們的傳統(tǒng)前輩產(chǎn)生更準(zhǔn)確的響應(yīng)。
受訪者表示，這些模型與其他機(jī)器學(xué)習(xí)系統(tǒng)的配對(duì)，尤其是在它們被提煉成專門的尺度之后，是一條令人興奮的前進(jìn)道路。DeepSeek的成功表明，在如何設(shè)計(jì)人工智能系統(tǒng)方面，工程創(chuàng)新還有很大的空間。專家們還指出，概率編程有可能比目前的電路模型更接近AGI。
俄勒岡州立大學(xué)計(jì)算機(jī)科學(xué)榮譽(yù)教授托馬斯?迪特里希（Thomas Dietterich）指出：“工業(yè)界正押下重注，相信生成式人工智能將會(huì)有高價(jià)值的應(yīng)用。在過去，重大的技術(shù)進(jìn)步需要10到20年才能顯示出巨大的回報(bào)?！?/p>
他補(bǔ)充說：“通常第一批公司都會(huì)失敗，所以我不會(huì)對(duì)今天許多GenAI初創(chuàng)公司的失敗感到驚訝。但其中一些很可能會(huì)大獲成功。我希望我知道是哪些。”
熱門跟貼