論文の概要: Beyond Transformers: Linear Attention Policy for Open-Vocabulary Object Goal Navigation
- arxiv url: http://arxiv.org/abs/2607.18794v1
- Date: Tue, 21 Jul 2026 07:15:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-22 19:05:05.345929
- Title: Beyond Transformers: Linear Attention Policy for Open-Vocabulary Object Goal Navigation
- Title(参考訳): トランスフォーマーを超えて:オープン語彙オブジェクトゴールナビゲーションのための線形アテンションポリシー
- Abstract要約: Open-Vocabulary Object Goal Navigation (OVON) は、エージェントが部分的な可観測性の下で操作する必要がある。
最近のアプローチでは、時間情報を統合するためにコンテキストウィンドウ上に自己アテンションを持つTransformerベースのバックボーンが採用されている。
コンテキストウィンドウ上での自己注意ではなく,構造化された状態更新を維持するために,Linear Attention-based Navigation (LANav)を提案する。
- 参考スコア(独自算出の注目度): 33.113798184579316
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Open-Vocabulary Object Goal Navigation (OVON) requires agents to operate under partial observability, making effective internal state updates critical for navigation performance. This update is implemented by the policy network, where recent approaches adopt Transformer-based backbones with self-attention over a context window to integrate temporal information. However, our controlled experiments show that performance does not scale with context length under Transformer-based policies, questioning the suitability of self-attention for state integration in navigation. To this end, we propose Linear Attention-based Navigation (LANav), which adopts linear attention (LA) as the policy backbone to maintain a structured state update rather than self-attention over the context window. Across multiple LA variants evaluated under identical settings, LANav consistently outperforms Transformer-based baselines. Performance improves as state update mechanisms become more structured and regulated, highlighting the importance of state update design. To improve state update effectiveness, we introduce Weighted State-Expansion Linear Attention (WSLA), which expands each attention head's state into multiple sub-states and uses learnable weighted readout to aggregate expanded sub-states. Equipped with WSLA, LANav achieves 36.4% average success rate (SR) on HM3D-OVON, outperforming Transformer-based counterparts by 6.3 percentage points in macro-averaged SR, while maintaining computational efficiency. Distance-stratified results show larger gains in long-distance episodes, while HSSD transfer and fine-tuning demonstrate robustness across scene distributions. Real-world deployment on a Unitree Go2 further achieves an 82% success rate over 50 trials, supporting the practical feasibility and sim-to-real transfer of LANav.
- Abstract(参考訳): Open-Vocabulary Object Goal Navigation (OVON)は、エージェントが部分的な可観測性の下で動作することを要求する。
この更新はポリシーネットワークによって実装され、最近のアプローチでは、時間情報を統合するためにコンテキストウィンドウに自己アテンションを持つTransformerベースのバックボーンが採用されている。
しかし,制御された実験結果から,Transformerベースのポリシーではコンテキスト長にスケールしないことが明らかとなり,ナビゲーションにおける状態統合に対する自己意識の適合性に疑問が呈された。
この目的のために,Linear Attention-based Navigation (LANav)を提案する。これはコンテキストウィンドウ上での自己注意ではなく,構造化状態の更新を維持するためのポリシーバックボーンとして,線形注意(LA)を採用している。
同一設定で評価された複数のLA亜種の中で、LANavはTransformerベースのベースラインを一貫して上回っている。
状態更新メカニズムがより構造化され、規制されるようになると、パフォーマンスが向上し、状態更新設計の重要性が強調される。
状態更新の有効性を改善するために,重み付き状態拡張線形注意(WSLA)を導入し,各注意ヘッドの状態を複数のサブステートに拡張し,学習可能な重み付き読み出しを用いて拡張されたサブステートを集約する。
WSLAと組み合わせて、LANavはHM3D-OVON上で平均成功率(SR)を36.4%達成し、計算効率を保ちながらトランスフォーマーベースのSRを6.3%上回った。
距離階層化の結果は長距離エピソードにおいて大きな増加を示し,HSSD転送や微調整はシーン分布の堅牢性を示す。
Unitree Go2の実際のデプロイは、50回のトライアルで82%の成功率を達成し、実用的な実現可能性とLANavのシミュレート・トゥ・リアル移行をサポートする。
関連論文リスト
- VerNav: Verifier-First Low-Latency Vision-and-Language Navigation [7.190348268664948]
VLN(Vision-and-Language Navigation)は、エージェントが自然の遅延指示に従って見えない3D環境をナビゲートする必要がある。
我々は低言語LLMベースのVLNのための検証ファーストフレームワークであるVerNavを提案する。
論文 参考訳(メタデータ) (2026-09-01T08:45:15Z) - Scaling GUI Agents with Visual State Transitions [83.06866209578706]
State Transition Pretraining (STP)はGUIエージェントのための新しいスケーリング軸である。
STPは、視覚状態遷移に関する統一マルチモーダルモデルを継続的に事前訓練する。
私たちのモデルは、エージェントベンチマークを直接微調整することでトレーニングされたベースラインを一貫して上回ります。
論文 参考訳(メタデータ) (2026-07-27T07:54:08Z) - Group-Graph Policy Optimization for Long-Horizon Agentic Reinforcement Learning [85.02566758103008]
Group-Graph Policy Optimization (G2PO) は、マルチターンエージェントタスクに適したグループベースの強化学習アルゴリズムである。
G2POは最先端のプロンプトベースとRLベースラインを大幅に上回り、GRPOよりも最大22.2%の成功率の向上を達成した。
論文 参考訳(メタデータ) (2026-06-22T08:12:47Z) - What Limits Vision-and-Language Navigation ? [18.423144111320592]
StereoNavは、現実世界のナビゲーションの一貫性を高めるために設計された、堅牢なVision-Language-Actionフレームワークである。
R2R-CEとRxR-CEの実験は、StereoNavが最先端のエゴセントリックなRGB性能を達成することを示した。
論文 参考訳(メタデータ) (2026-05-13T10:41:24Z) - History-Conditioned Spatio-Temporal Visual Token Pruning for Efficient Vision-Language Navigation [18.716145266309802]
Vision-Language Navigation (LNV)は、ロボットが視覚的に接地された環境で自然言語の指示に従うことを可能にする。
近年のVision-Language-Action-Modelでは,ナビゲーション性能は高いが,リアルタイムデプロイメントを制限している計算遅延は大きい。
VLNベースのVLNに適した学習自由な視覚言語フレームワークを提案する。
論文 参考訳(メタデータ) (2026-03-06T17:03:16Z) - Global Prior Meets Local Consistency: Dual-Memory Augmented Vision-Language-Action Model for Efficient Robotic Manipulation [95.89924101984566]
GPM(Global Prior Memory)とLCM(Local Consistency Memory)を備えたデュアルメモリVLAフレームワークOptimusVLAを紹介する。
GPMはガウスノイズを意味論的に類似した軌道から取得したタスクレベルの先行値に置き換える。
LCMは、時間的コヒーレンスと軌道の滑らかさを強制する学習された一貫性制約を注入する。
論文 参考訳(メタデータ) (2026-02-22T15:39:34Z) - AutoFly: Vision-Language-Action Model for UAV Autonomous Navigation in the Wild [62.47761809929869]
視覚言語ナビゲーション(VLN)は、視覚的観察とともに言語指示を解釈することで、知的エージェントが環境をナビゲートする必要がある。
無人航空機(UAV)の現在のVLN研究は、所定のルートに沿ってUAVを誘導するための詳細な指示に依存している。
本稿では,自律型UAVナビゲーションのためのエンド・ツー・エンドのビジョン・ランゲージ・アクションモデルであるAutoFlyを提案する。
論文 参考訳(メタデータ) (2026-02-10T11:08:07Z) - TrajAware: Graph Cross-Attention and Trajectory-Aware for Generalisable VANETs under Partial Observations [0.5352699766206808]
我々は、VANETにおけるエッジAIデプロイメント用に設計されたRLベースのフレームワークであるTrajAwareを紹介する。
TrajAwareは、3つのコンポーネントを統合している: (i) アクションスペースプルーニング (i) 冗長な隣り合わせの選択肢を減らす グラフクロスアテンション (ii) プルーニングされた近隣をグローバルなグラフコンテキストにマッピングする トラジェクトリ・アウェア予測 (iii) 履歴経路とジャンクション情報を用いて、部分的な観測下でのリアルタイムな位置を推定する 。
以上の結果から,TrajAwareは制約エッジデバイスに適した効率を維持しつつ,最短経路と高配電率を実現していることがわかった。
論文 参考訳(メタデータ) (2025-09-08T13:24:21Z) - DORAEMON: Decentralized Ontology-aware Reliable Agent with Enhanced Memory Oriented Navigation [55.888688171010365]
DORAEMONは、人間のナビゲーション機能を模倣したVentralとDorsal Streamsで構成される、認知にインスパイアされたフレームワークである。
我々は,DORAEMONをHM3D,MP3D,GOATのデータセット上で評価し,成功率(SR)と成功度(SPL)の測定値の両方で最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2025-05-28T04:46:13Z) - MPVO: Motion-Prior based Visual Odometry for PointGoal Navigation [3.9974562667271507]
視覚計測(VO)は,室内環境におけるエンボディエージェントの正確なポイントゴールナビゲーションを可能にするために不可欠である。
近年の深層学習VO法は, 頑健な性能を示すが, トレーニング中のサンプル不効率に悩まされている。
エージェントが環境をナビゲートしている間に利用可能な動作先に基づいて、ロバストでサンプル効率の良いVOパイプラインを提案する。
論文 参考訳(メタデータ) (2024-11-07T15:36:49Z) - Reinforcement Learning in the Wild: Scalable RL Dispatching Algorithm
Deployed in Ridehailing Marketplace [12.298997392937876]
本研究では,強化学習に基づくリアルタイムディスパッチアルゴリズムを提案する。
ディディのA/Bテストの運営下にある複数の都市でオンラインに展開され、主要な国際市場の一つで展開されている。
デプロイされたアルゴリズムは、A/Bテストによるドライバーの総収入を1.3%以上改善している。
論文 参考訳(メタデータ) (2022-02-10T16:07:17Z) - A Deep Value-network Based Approach for Multi-Driver Order Dispatching [55.36656442934531]
そこで本研究では,注文発送のための深層強化学習に基づくソリューションを提案する。
DiDiの配車プラットフォーム上で大規模なオンラインA/Bテストを実施している。
その結果,CVNetは近年提案されているディスパッチ手法よりも一貫して優れていた。
論文 参考訳(メタデータ) (2021-06-08T16:27:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。