【CNMO科技消息】5月7日,聯(lián)想創(chuàng)新科技大會正式召開,大會以“讓AI成為創(chuàng)新生產(chǎn)力”為主題,圍繞混合式人工智能,從個人到企業(yè),全方位呈現(xiàn)了聯(lián)想的創(chuàng)新技術(shù)成果。

會上,聯(lián)想首次提出“超級智能體”概念,并明確其三大核心功能,即感知與交互、認知與決策、自主與演進。同時,聯(lián)想正式發(fā)布“聯(lián)想天禧”個人超級智能體和“聯(lián)想樂享”企業(yè)超級智能體。
值得關(guān)注的是,聯(lián)想展示了在端側(cè)算力領(lǐng)域的最新突破——“聯(lián)想推理加速引擎”。該引擎由聯(lián)想、清華大學及無問芯穹聯(lián)合研發(fā),是專為高效AI PC推理打造的軟硬件協(xié)同優(yōu)化平臺。通過它,普通PC的本地推理能力可媲美OpenAI去年發(fā)布的o1-mini云端模型。
“聯(lián)想推理加速引擎”運用高性能并行解碼、算子融合優(yōu)化及異構(gòu)計算技術(shù),在多種應用場景下大幅提升推理速度,同時顯著降低功耗和內(nèi)存占用。與大模型推理芯片結(jié)合后,硬件加速與軟件優(yōu)化無縫協(xié)作,性能提升形成疊加效應。

為直觀展現(xiàn)該引擎實力,聯(lián)想創(chuàng)新科技大會現(xiàn)場進行了“競速賽”。三臺配置相同的AI PC同時解答2024年高考數(shù)學壓軸題,初代大模型耗時27秒且答案0分,二代大模型耗時26秒獲滿分,而搭載“聯(lián)想推理加速引擎”的二代大模型僅耗時13秒便獲滿分。這表明,模型能力提升與“聯(lián)想推理加速引擎”的算力優(yōu)化,使設備預填充更快、解碼速度更高、推理時間更短,內(nèi)存占用和能耗更低,AI能力大幅提升。
熱門跟貼