打開網(wǎng)易新聞 查看精彩圖片

本文的作者均來自新加坡國立大學 LinS Lab。本文的共同第一作者為新加坡國立大學實習生許立昕和博士生劉子軒,主要研究方向為機器人學習和靈巧操縱,其余作者分別為碩士生桂哲瑋、實習生郭京翔、江澤宇以及博士生徐志軒、高崇凱。本文的通訊作者為新加坡國立大學助理教授邵林。

在物流倉庫、生產(chǎn)線或家庭場景中,機器人常常需要在大量雜亂擺放的物體中高效地抓取目標。

在這些場景中,如果使用機械夾爪,由于其自由度有限、靈活性不足,需要多次對場景進行操作;而高自由度的靈巧手雖然具有潛在優(yōu)勢,但因控制復雜和訓練難度大,在密集遮擋與復雜排列場景下往往表現(xiàn)不佳。

現(xiàn)有方法常采用先分離、后抓取的策略,存在策略切換不夠靈活,執(zhí)行效率低下的問題。

為解決這一挑戰(zhàn),來自新加坡國立大學的邵林團隊提出了 DexSinGrasp——一種基于強化學習的統(tǒng)一策略,通過整合物體分離與抓取任務,令靈巧手在雜亂環(huán)境中能夠自適應調(diào)整分離與抓取策略,顯著提高抓取成功率和操作效率。該項研究已投稿至 IROS 2025。

打開網(wǎng)易新聞 查看精彩圖片

論文標題:DexSinGrasp: Learning a Unified Policy for Dexterous Object Singulation and Grasping in Cluttered Environments

論文鏈接:https://arxiv.org/abs/2504.04516

項目主頁:https://nus-lins-lab.github.io/dexsingweb/

代碼鏈接:https://github.com/davidlxu/DexSinGrasp

為了讓機器人在多變的雜亂環(huán)境中高效分離物體并抓取目標,DexSinGrasp 提出了「統(tǒng)一策略」的設計。該方法通過強化學習構(gòu)建了一體化的策略框架,實現(xiàn)了「分離—抓取」動作的無縫銜接。該項研究的主要貢獻有:

統(tǒng)一強化學習策略:提出一種統(tǒng)一的強化學習策略,實現(xiàn)靈巧手在雜亂環(huán)境中對物體的有效分離和抓取。

課程學習與策略蒸餾:融入雜亂環(huán)境課程學習以提升不同場景下的策略性能,并通過策略蒸餾獲得適用于實際部署的視覺抓取策略。

多難度抓取任務設計:設計一系列不同難度與排列的雜亂抓取任務,通過大量實驗驗證所提方法的高效性與有效性。

打開網(wǎng)易新聞 查看精彩圖片

方法

統(tǒng)一強化學習策略

DexSinGrasp 的核心在于構(gòu)建一個統(tǒng)一的策略框架,引入分離獎勵項,將「分離障礙」、「抓取目標」整合為一個連續(xù)的動作決策過程,充分利用了分離與抓取融合的優(yōu)勢,避免傳統(tǒng)多階段方法中各模塊間效率低下和動作銜接不暢的問題。為此,我們設計了一個分段式獎勵函數(shù),其關(guān)鍵組成包括:

打開網(wǎng)易新聞 查看精彩圖片
打開網(wǎng)易新聞 查看精彩圖片

雜亂環(huán)境課程學習

在高度雜亂的場景中直接訓練機器人往往容易陷入局部最優(yōu),導致成功率低下。為此,我們引入了「雜亂環(huán)境課程學習」的機制,具體包括:

任務分級設計:從最簡單的單目標抓取任務開始,逐步引入障礙物。我們設計了不同難度的任務,例如:

密集排列任務:用 D-4、D-6、D-8 表示,不同數(shù)字代表環(huán)境中障礙物數(shù)量的遞增;

隨機排列任務:用 R-4、R-6、R-8 表示,以驗證策略在非規(guī)則分布場景下的泛化能力。

循序漸進訓練:先在障礙物較少且排列較規(guī)則的環(huán)境中訓練出初步策略,然后逐步過渡到障礙物數(shù)量更多、排列更隨機的復雜場景。這樣的訓練策略能顯著提高策略的穩(wěn)定性和泛化性能,確保機器人在極端密集的環(huán)境下也能有效分離并抓取目標。

打開網(wǎng)易新聞 查看精彩圖片

教師—學生策略蒸餾

在仿真環(huán)境中,我們能夠利用精確的物體位置、力反饋等特權(quán)信息訓練出高性能的教師策略。但在真實場景中,這些信息難以獲取,為此我們設計了教師—學生策略蒸餾方案:

教師策略:利用仿真中豐富的特權(quán)信息訓練出性能優(yōu)異的策略,能夠精細地控制物體的分離和抓取動作。

數(shù)據(jù)采集與行為克?。和ㄟ^教師策略生成大量示范數(shù)據(jù)(包括視覺觀測、點云數(shù)據(jù)以及動作指令),并采用行為克隆的方法訓練出只依賴攝像頭采集的點云和機器人自感知數(shù)據(jù)的學生策略。這樣,在真實環(huán)境中,機器人無需額外傳感器信息也能保持高成功率,完成從仿真到實機的平滑遷移。

實驗結(jié)果

為了測試 DexSinGrasp 策略在分離抓取時的有效性和泛化性,以及雜亂環(huán)境課程學習的有效性,設計了三組實驗進行測試,并與兩種基線比較。

基線 1 僅訓練了一個抓取策略,沒有鼓勵對周圍物體進行分離?;€ 2 將分離和抓取策略分開且分階段進行。

評價指標為抓取成功率(SR)和平均步數(shù)(AS)。抓取成功率越高,說明策略的有效性越高,平均步數(shù)越少,說明策略的效率越高。

實驗 1

對教師策略和學生策略在不同數(shù)量障礙的緊密排列進行測試,證明了 DexSinGrasp 的有效性和高效率。圖示是教師策略在密集擺放模式下障礙物數(shù)量為 4、6、8 時的仿真演示。

打開網(wǎng)易新聞 查看精彩圖片

打開網(wǎng)易新聞 查看精彩圖片

實驗 2

對教師策略和學生策略在不同數(shù)量障礙的隨機排列進行測試,結(jié)果證明了 DexSinGrasp 在隨機物體擺放下也可以實現(xiàn)成功分離抓取,對不同的場景有一定泛化性。圖示是教師策略在隨機擺放模式下障礙物數(shù)量為 4、6、8 時的仿真演示。

打開網(wǎng)易新聞 查看精彩圖片

打開網(wǎng)易新聞 查看精彩圖片

實驗 3

對雜亂環(huán)境課程學習的方式進行測試。我們嘗試了無課程學習、先隨機排列再緊密排列的課程學習,以及先緊密排列再隨機排列的課程學習的訓練模式。

打開網(wǎng)易新聞 查看精彩圖片

我們發(fā)現(xiàn),無課程學習訓練的各個策略中,隨機排列的任務表現(xiàn)不佳;先隨機排列再緊密排列的課程學習獲得的各個策略中,緊密排列的任務表現(xiàn)不佳;而先緊密排列再隨機排列的課程學習在不同的任務上均取得了不錯的成功率,證實了所提出的課程學習機制在不同場景下的有效性。

此外,研究團隊還在實機平臺上進行了驗證。使用 uFactory xArm6 搭載 LEAP 手,并配備兩臺 Realsense RGB-D 攝像頭以進行實時點云數(shù)據(jù)融合與濾波處理。圖示為實機實驗中對密集與隨機擺放的 4、6、8 個物體場景下成功分離與抓取的演示。實驗表明,經(jīng)過教師—學生策略蒸餾后的視覺策略在實際操作中也能有效完成雜亂環(huán)境的有效分離與抓取。

打開網(wǎng)易新聞 查看精彩圖片

打開網(wǎng)易新聞 查看精彩圖片

總結(jié)

研究團隊所提出的 DexSinGrasp 是一種基于強化學習的統(tǒng)一框架,通過整合物體分離與抓取任務,實現(xiàn)了靈巧手在雜亂環(huán)境中的高效操作。

該方法突破以往直接抓取或多階段分割的策略,利用推移、滑動等動作在抓取過程中直接調(diào)整障礙物布局,結(jié)合環(huán)境復雜度遞進式的雜亂環(huán)境課程學習與教師—學生策略蒸餾技術(shù),有效提升視覺策略的泛化能力與仿真到現(xiàn)實的遷移效果。

實驗表明,該方法在多種測試場景中展現(xiàn)出優(yōu)于傳統(tǒng)方法的抓取成功率和操作效率。未來研究將拓展至動態(tài)復雜場景下的多形態(tài)物體操作,增強抗干擾能力,進一步提高系統(tǒng)在非結(jié)構(gòu)化環(huán)境中的泛化性與適應性。