以ChatGPT 為首的這些人工智能聊天機器人，真的像我們想象的那么聰明嗎？
大模型不會有更好的結果？
近年來，AI領域的發(fā)展可謂如火如荼。以ChatGPT為代表的聊天機器人，以其強大的自然語言處理能力，贏得了廣泛的關注和贊譽。然而，隨著技術的深入發(fā)展，一些質疑聲也開始出現(xiàn)。
Salesforce的首席執(zhí)行官馬克·貝尼奧夫（Marc Benioff）就是其中之一。他認為，自主代理（AI智能體）才是AI發(fā)展的真正方向，而非當前用于訓練ChatGPT等聊天機器人的大型語言模型(LLM)。他警告說：“我們可能已經接近LLM的技術上限?！瘪R克·貝尼奧夫提到，近年來社會對ChatGPT的熱潮讓許多人錯誤高估AI的能力，他們從而會認為大語言模型是推動AI發(fā)展的核心動力。
事實上，自ChatGPT發(fā)布之后，盡管AI聊天機器人如雨后春筍般涌現(xiàn)，但真正能夠突破技術瓶頸的產品卻寥寥無幾。早在今年9月，硅谷技術圈就一直流傳GPT-5內部測試失敗的消息，稱基于Transformer的GPT類模型已經進入了擴展瓶頸，除了聊天和一些工作流輔助類應用外，很難全面應用于市場，而這些GPT-4已經足夠支撐。原有架構再升級短期內很難有質的突破。
這些瓶頸不僅限于模型自身架構的擴展能力，還包括數(shù)據(jù)瓶頸、安全和倫理需求的應對瓶頸，以及因應用局限帶來的市場需求本身的瓶頸。
美國信息網援引OpenAI內部員工的話稱，該公司一些研究人員認為，下一個旗艦AI模型Orion“在處理特定任務方面不一定優(yōu)于前一版本”。彭博新聞社援引匿名消息人士的話稱，Orion“沒有達到標準”，而且“到目前為止，人們認為它相對OpenAI現(xiàn)有模型取得的進步不如GPT-4對GPT-3.5的進步那么大”。
路透社的報道進一步證實了這一困境。據(jù)報道，“據(jù)三名知情人士透露，各大AI實驗室的研究人員力爭發(fā)布一款性能超過GPT-4模型的大語言模型，但進度一拖再拖，取得的結果也令人失望。而GPT-4模型已經推出了近兩年”。此外，路透社還援引今年5月離開OpenAI的聯(lián)合創(chuàng)始人伊利亞·蘇茨克韋爾的話說：“本世紀10年代是規(guī)模迅速擴張的時代，而現(xiàn)如今，我們又回到了驚奇與發(fā)現(xiàn)的時代。每個人都在尋找下一個突破點?！碧K茨克韋爾還說：“找對擴張方向比以往任何時候都更重要?！?/p>
就連曾積極看好AI發(fā)展的風險投資家馬克·安德烈森也在播客上表示，現(xiàn)有模型在能力方面已撞上類似的天花板。
眾多看好AI的人表示，根據(jù)目前發(fā)布的產品來看，我們可能已經來到一個轉折點。美國投資集團D.A.戴維森公司的常務董事吉爾·盧里亞說：“我們已經有一段時間沒看到突破性模式了。部分原因是我們已經用完人類全部數(shù)據(jù)，對同樣的數(shù)據(jù)進行更多計算可能不會帶來更好的結果。”
AI的瓶頸到底在哪兒？
從技術與應用層面來看，AI的發(fā)展確實遇到了一些挑戰(zhàn)。智源研究院院長王仲遠在近期接受的采訪中表示，大模型技術已經開始發(fā)揮作用并轉化成生產力了。比如，利用相關技術開發(fā)各種各樣的效率型工具，用于會議紀要、生成圖像素材進行廣告投放、輔助設計師創(chuàng)意工作等。但是，當前對人工智能能力的感知還局限于部分領域。“我們一直希望C端AI‘殺手級’應用能夠出現(xiàn)，但目前還需要繼續(xù)提升基座模型的能力，進一步解決‘AI幻覺’等問題?！?/p>
從市場層面來看，AI的發(fā)展同樣面臨著一些挑戰(zhàn)。隨著越來越多的企業(yè)和機構涌入AI領域，市場競爭變得異常激烈。這不僅使得企業(yè)難以在市場中脫穎而出，還可能導致資源的浪費和重復建設。
有觀點認為，國內的百模大戰(zhàn)，事實上已經造成了對社會資源的“巨大浪費”。一開始，各個科技大廠和AI公司為了搶跑，都在和GPT比能力、秀肌肉。但在頭部大模型格局已經形成的背景下，這種競爭是否還能帶來實質性的技術進步和創(chuàng)新？
或許，正如周鴻祎所言，現(xiàn)在是時候多關心明星場景和“超級應用”了。
DA Davidson分析師Gil Luria（盧里亞）在近期表示，“就上季度和本季度對英偉達(產品)的需求而言，毫無疑問，需求已經超過了其供應能力?！钡绻覀冋娴挠龅搅顺叨绕款i，“可能意味著擁有超高市值的科技企業(yè)進行了過度投資”，它們可能在不久的將來縮減規(guī)模。
據(jù)BusinessInsider 11月27日報道，AI技術的進步正在放緩，大模型性能提升瓶頸、訓練數(shù)據(jù)短缺、訓練數(shù)據(jù)質量問題、推理能力提升遇阻等是這一領域面臨的主要困境。然而，以OpenAI、谷歌等為主的幾家頭部公司卻堅稱，AI并沒有遇到所謂的“壁壘”和“瓶頸”。
OpenAI的首席執(zhí)行官Sam Altman是首批發(fā)聲的人之一，他在社交平臺“X”上稱：“根本沒有瓶頸?！盇nthropic和英偉達的CEO也表示，AI的進步并未放緩。
當下，包括Marc Andreessen在內的一些人士質疑，AI模型的性能提升并不顯著，且趨于同質化。對于科技行業(yè)來說，這是一個價值數(shù)萬億美元的問題，如果現(xiàn)有的AI模型訓練方法回報遞減，那么可能會影響到新創(chuàng)企業(yè)、產品以及數(shù)據(jù)中心的投資熱潮。
據(jù)BusinessInsider梳理，AI領域廣泛面臨的困境包括訓練數(shù)據(jù)枯竭、性能提升遇阻等問題。在AI研發(fā)的早期階段，企業(yè)可能會遭遇兩個主要瓶頸：計算能力和訓練數(shù)據(jù)。首先，獲取專用芯片（如GPU）的能力有限，影響大模型訓練。其次，訓練數(shù)據(jù)的瓶頸逐漸顯現(xiàn)，互聯(lián)網上公開可用的數(shù)據(jù)資源已經逐漸枯竭。研究機構Epoch AI預測，到2028年，能夠用于訓練的數(shù)據(jù)可能會耗盡。
數(shù)據(jù)質量也成為一大問題。過去研究人員可以在預訓練階段對數(shù)據(jù)質量要求不高，但現(xiàn)在需要更加關注數(shù)據(jù)的質量，而不僅僅是數(shù)量。而推理能力的提升和突破被認為是AI發(fā)展的下一個關鍵方向。
在這種情況下，尋找下一個突破點成為了AI發(fā)展的關鍵。OpenAI前首席科學家Ilya Sutskever上個月對媒體表示，模型在預訓練階段的規(guī)模擴展已經達到平臺期，且“大家都在尋找下一個突破”。
你認為AI行業(yè)當下的破局點在哪？
熱門跟貼