? 論文題目:
Aux-Think: Exploring Reasoning Strategies for Data-Efficient Vision-Language Navigation
? 論文鏈接:
https://arxiv.org/abs/2505.11886
? 項(xiàng)目主頁(yè):
https://horizonrobotics.github.io/robot_lab/aux-think/
視覺(jué)語(yǔ)言導(dǎo)航 (VLN) 的推理策略
在視覺(jué)語(yǔ)言導(dǎo)航 (VLN) 任務(wù)中,機(jī)器人需要根據(jù)自然語(yǔ)言指令在復(fù)雜環(huán)境中做出實(shí)時(shí)決策。雖然推理在許多任務(wù)中已有廣泛應(yīng)用,但在VLN任務(wù)中,推理的作用一直未被充分探討。我們是第一個(gè)系統(tǒng)性研究推理策略對(duì)VLN任務(wù)影響的團(tuán)隊(duì),發(fā)現(xiàn)現(xiàn)有的推理策略 (Pre-Think和Post-Think) 在測(cè)試階段反而導(dǎo)致了較差的表現(xiàn),讓機(jī)器人導(dǎo)航失敗。與此不同的是,我們提出的Aux-Think框架通過(guò)創(chuàng)新設(shè)計(jì)有效解決了這一問(wèn)題。
Aux-Think優(yōu)于Pre-Think和Post-Think其它推理策略
Aux-Think在數(shù)據(jù)效率與成功率之間達(dá)到帕累托最優(yōu)
測(cè)試階段推理的挑戰(zhàn)
想象一名司機(jī)在開(kāi)車(chē)時(shí)不斷分析路況,并頻繁回顧交通規(guī)則后才做決策。雖然這有助于理解環(huán)境,但當(dāng)遇到陌生或復(fù)雜情況時(shí),這種“思考過(guò)度”的方式反而容易因推理偏差而判斷失誤。
在視覺(jué)語(yǔ)言導(dǎo)航任務(wù)中,推理就像回顧交通規(guī)則,決策則對(duì)應(yīng)真實(shí)的駕駛操作。推理本意是為了幫助機(jī)器人理解任務(wù),但一旦進(jìn)入訓(xùn)練中未見(jiàn)過(guò)的狀態(tài),思維鏈便可能產(chǎn)生幻覺(jué)。尤其是在不熟悉的環(huán)境中,過(guò)度依賴(lài)推理不僅無(wú)法提升決策,反而干擾行動(dòng)、累積誤差,最終導(dǎo)致機(jī)器人“誤入歧途”。這種“推理崩塌”現(xiàn)象正是Aux-Think希望解決的關(guān)鍵問(wèn)題。
長(zhǎng)推理鏈的少量錯(cuò)誤(標(biāo)紅),反而導(dǎo)致決策錯(cuò)誤
Aux-Think給出的新答案
為了應(yīng)對(duì)上述問(wèn)題,我們提出了Aux-Think,一種全新的推理訓(xùn)練框架。Aux-Think的核心思想是:在訓(xùn)練階段通過(guò)推理指導(dǎo)模型的學(xué)習(xí),而在測(cè)試階段,機(jī)器人直接依賴(lài)訓(xùn)練過(guò)程中學(xué)到的知識(shí)進(jìn)行決策,不再進(jìn)行推理生成。具體來(lái)說(shuō),Aux-Think將推理和行動(dòng)分開(kāi)進(jìn)行:
訓(xùn)練階段:通過(guò)引導(dǎo)模型學(xué)習(xí)推理任務(wù),幫助其內(nèi)化推理模式。
測(cè)試階段:直接根據(jù)訓(xùn)練中學(xué)到的決策知識(shí)進(jìn)行行動(dòng)預(yù)測(cè),不再進(jìn)行額外的推理生成。
這種設(shè)計(jì)有效避免了測(cè)試階段推理帶來(lái)的錯(cuò)誤和不穩(wěn)定性,確保機(jī)器人能更加專(zhuān)注于執(zhí)行任務(wù),減少了推理過(guò)程中可能引入的負(fù)面影響。
上圖中展示的是一個(gè)導(dǎo)航任務(wù):“穿過(guò)房間,走到右側(cè)的拱門(mén)并停在玻璃桌旁”。三種策略面對(duì)相同場(chǎng)景做出了不同反應(yīng):Pre-Think模型在行動(dòng)前試圖推理整條路徑,認(rèn)為應(yīng)該“前進(jìn)75cm”,但忽視了當(dāng)前觀察并未穿過(guò)房間,導(dǎo)致偏離目標(biāo);Post-Think模型在執(zhí)行動(dòng)作后才分析環(huán)境,發(fā)現(xiàn)沒(méi)有看到拱門(mén),但錯(cuò)誤已發(fā)生,只能繼續(xù)試探,繼續(xù)偏航;Aux-Think則在訓(xùn)練時(shí)學(xué)習(xí)推理邏輯,測(cè)試時(shí)直接基于當(dāng)前觀察判斷“右轉(zhuǎn)15度”,準(zhǔn)確識(shí)別拱門(mén)位置,成功完成導(dǎo)航任務(wù)。
實(shí)驗(yàn)結(jié)果
大量實(shí)驗(yàn)表明,Aux-Think在數(shù)據(jù)效率與導(dǎo)航表現(xiàn)方面優(yōu)于當(dāng)前領(lǐng)先方法。盡管訓(xùn)練數(shù)據(jù)較少,Aux-Think仍在多個(gè)VLN基準(zhǔn)上取得了單目 (Monocular) 方法中的最高成功率。通過(guò)僅在訓(xùn)練階段內(nèi)化推理能力,Aux-Think有效緩解了測(cè)試階段的推理幻覺(jué)與錯(cuò)誤傳播,在動(dòng)態(tài)、長(zhǎng)程導(dǎo)航任務(wù)中展現(xiàn)出更強(qiáng)的泛化能力與穩(wěn)定性。
R2R-CE上的指標(biāo):Aux-Think在視覺(jué)語(yǔ)言導(dǎo)航任務(wù)的R2R驗(yàn)證集 (Val-Unseen) 上取得領(lǐng)先的成功率 (SR) ,即使使用的訓(xùn)練數(shù)據(jù)更少,也能超越多種現(xiàn)有方法。
RxR-CE上的指標(biāo):RxR比R2R更大、更復(fù)雜,Aux-Think在RxR驗(yàn)證集上依然以更少數(shù)據(jù)實(shí)現(xiàn)更高成功率 (SR) ,展現(xiàn)出優(yōu)越的泛化能力。
總結(jié)與展望
Aux-Think為解決測(cè)試階段推理引發(fā)的導(dǎo)航問(wèn)題提供了新的思路。通過(guò)在訓(xùn)練階段引入推理指導(dǎo),在測(cè)試階段去除推理負(fù)擔(dān),Aux-Think能夠讓機(jī)器人更加專(zhuān)注于任務(wù)執(zhí)行,從而提高其導(dǎo)航穩(wěn)定性和準(zhǔn)確性。這一突破性進(jìn)展將為機(jī)器人在實(shí)際應(yīng)用中的表現(xiàn)奠定更為堅(jiān)實(shí)的基礎(chǔ),也為具身推理策略提供了重要啟示。