大模型作為近十年的重點(diǎn)研究方向,之前的主導(dǎo)思想一直是'更大即更好',隨著Transformer、MOE架構(gòu)的提出,深度學(xué)習(xí)模型輕松就能突破上萬億規(guī)模參數(shù)。從24年開始,LLM的開發(fā)方向經(jīng)歷了顯著的范式轉(zhuǎn)變,推理優(yōu)化和模型輕量化逐漸成為主流,高效的壓縮技術(shù)已經(jīng)并必然會成為LLM核心研究趨勢。

打開網(wǎng)易新聞 查看精彩圖片

為了幫助大家掌握大模型工業(yè)級部署,研夢非凡邀請了曾在多家公司任職的資深算法工程師楊導(dǎo)師精心研發(fā)了從暴力剪枝到智能微調(diào)!一鍵速通LLM》。從傳統(tǒng)剪枝/全參數(shù)微調(diào) → 數(shù)據(jù)感知剪枝(BEWARE)→ 動態(tài)參數(shù)微調(diào)(VB-LoRA/LISA)。避開實(shí)際部署中的典型陷阱,掌握工業(yè)級優(yōu)化能力!現(xiàn)在掃碼免費(fèi)觀看第一節(jié)課! 5.9享原價(jià)199 LLM高效優(yōu)化實(shí)戰(zhàn)系列課??

開課即贈300篇精選論文&代碼(模型編輯+大模型+多模態(tài))

課程內(nèi)容

打開網(wǎng)易新聞 查看精彩圖片

導(dǎo)師介紹

楊導(dǎo)師

世界top10大學(xué)計(jì)算機(jī)科學(xué)畢業(yè)博士

博士研究方向?yàn)橛?jì)算機(jī)視覺,自然語言處理,高效的深度學(xué)習(xí)訓(xùn)練和推理方法,大語言模型輕量化與高效微調(diào)技術(shù)。

多家公司擔(dān)任算法研究員,并進(jìn)行計(jì)算機(jī)視覺,高效模型壓縮算法,多模態(tài)大語言模型的研究,包括模型量化,剪枝,蒸餾,編譯以及高效稀疏化訓(xùn)練與推理。

【科研成果】在國際頂級會議CVPR,ICCV, EMNLP等發(fā)表13篇論文,并擔(dān)任CVPR,ICCV,ECCV,ICML,ICLR, NeurIPS等重要會議和期刊的審稿人。

多項(xiàng)發(fā)明專利,指導(dǎo)學(xué)生有耐心,教學(xué)嚴(yán)謹(jǐn),思維邏輯縝密,已經(jīng)指導(dǎo)數(shù)十篇論文。對于成果好的學(xué)生,幫助學(xué)生寫推薦信和指導(dǎo)申請碩/博申請。

【招收學(xué)生方向】計(jì)算機(jī)視覺,自然語言處理,高效模型壓縮算法,多模態(tài)大語言模型,包括模型量化,剪枝,蒸餾,編譯以及高效稀疏化訓(xùn)練與推理,深度學(xué)習(xí)全棧研究。

掃描二維碼找助教0元預(yù)約直播課!

研夢非凡現(xiàn)有課題

研夢非凡科研論文指導(dǎo)方案
打開網(wǎng)易新聞 查看精彩圖片
研夢非凡科研論文指導(dǎo)方案

idea并不是直接拍腦門拍出來的,是一遍一遍實(shí)驗(yàn)、跑代碼、改模型、思路修正的過程中產(chǎn)生的。研夢非凡1V1定制化論文指導(dǎo),和研夢導(dǎo)師一起找idea,研夢導(dǎo)師指導(dǎo)實(shí)驗(yàn),共同解決數(shù)據(jù)問題。授之以漁——搭建論文寫作框架,增刪改查,針對性實(shí)驗(yàn)指導(dǎo)!哪里薄弱補(bǔ)哪里!

打開網(wǎng)易新聞 查看精彩圖片

全程1v1論文輔導(dǎo)掃碼咨詢助教

研夢非凡導(dǎo)師團(tuán)隊(duì)

研夢非凡的導(dǎo)師來自海外QStop50、國內(nèi)華五、C9、985高校的教授/博士導(dǎo)師/博士后,世界500強(qiáng)公司算法工程師,以及國內(nèi)外知名人工智能實(shí)驗(yàn)室研究員。

這是一支實(shí)力強(qiáng)大的高學(xué)歷導(dǎo)師團(tuán)隊(duì),在計(jì)算機(jī)科學(xué)、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等領(lǐng)域,積累了豐富的科研經(jīng)歷,研究成果也發(fā)表在國際各大頂級會議和期刊上,在指導(dǎo)學(xué)員的過程中,全程秉持初心,堅(jiān)持手把手個性化帶教。包括但不限于以下導(dǎo)師~~

打開網(wǎng)易新聞 查看精彩圖片
打開網(wǎng)易新聞 查看精彩圖片
打開網(wǎng)易新聞 查看精彩圖片
打開網(wǎng)易新聞 查看精彩圖片

<<< 左右滑動見更多 >>>

掃碼預(yù)約大牛導(dǎo)師meeting

打開網(wǎng)易新聞 查看精彩圖片