論文の概要: HIDRA: Hierarchical Dual-Routing Attention for Replay-Free Lifelong Imitation Learning
- arxiv url: http://arxiv.org/abs/2610.36374v1
- Date: Mon, 26 Oct 2026 22:43:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.445722
- Title: HIDRA: Hierarchical Dual-Routing Attention for Replay-Free Lifelong Imitation Learning
- Title(参考訳): HIDRA: Replay-free Lifelong Imitation Learningのための階層的デュアルルーティング注意
- Abstract要約: 本稿では,専門家によるアプローチを緩和する構造化ルーティングフレームワークHIDRAを提案する。
HIDRAを複数のLIBEROベンチマークスイートで評価し、不均一なタスクシーケンスを持つより難易度の高いバリエーションを含む。
我々のアプローチは、リプレイフリーとリプレイベースラインの両方を一貫して上回ります。
- 参考スコア(独自算出の注目度): 13.225857657465992
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Robotic agents operating in real-world environments must adapt continuously from a stream of multimodal demonstrations, often under constraints that preclude storing or revisiting past data. In this replay-free, single-pass lifelong imitation learning setting, sequential updates can progressively distort the representation space, making expert-based approaches particularly sensitive to routing interference, causing expert selection to degrade over time. We propose HIDRA, a structured routing framework that mitigates this issue through a hierarchical dual-attention mechanism, which decouples instruction-level expert retrieval from context-dependent refinement. To further stabilize routing under representation drift, HIDRA introduces a key-level geometric regularization that enforces both alignment within tasks and separation across tasks. The resulting approach enables reliable expert selection while supporting an expandable set of experts for continual adaptation. We evaluate HIDRA on several LIBERO benchmark suites, including more challenging variants with heterogeneous task sequences and paraphrased language instructions. Our approach consistently outperforms both replay-free and replay-based baselines, improving AUC and forward transfer while maintaining low forgetting, with stronger gains under high interference and language variation. The code is available at: https://github.com/yfqi/HIDRA.
- Abstract(参考訳): 現実の環境で動作しているロボットエージェントは、しばしば過去のデータの保存や再考を妨げる制約の下で、マルチモーダルなデモのストリームから継続的に適応する必要がある。
このリプレイフリーで、シングルパスの生涯学習設定では、シーケンシャルな更新は、表現空間を徐々に歪ませ、特にルーティングの干渉に敏感な専門家ベースのアプローチを実現し、時間とともに専門家の選択が劣化する。
HIDRAは階層的な二重アテンション機構によってこの問題を緩和する構造的ルーティングフレームワークであり、コンテキスト依存の洗練から命令レベルのエキスパート検索を分離する。
表現ドリフト下でのルーティングをさらに安定化するために、HIDRAは、タスク内のアライメントとタスク間の分離の両方を強制するキーレベルの幾何正規化を導入した。
結果として得られたアプローチは、継続的な適応のための拡張可能な専門家セットをサポートしながら、信頼できる専門家の選択を可能にする。
HIDRAを複数のLIBEROベンチマークスイートで評価し、不均一なタスクシーケンスとパラフレーズ言語命令によるより困難なバリエーションを含む。
我々のアプローチは、リプレイフリーとリプレイベースラインの両方を一貫して上回り、AUCとフォワードトランスファーを改善しつつ、低忘れを保ちながら、高い干渉と言語変化下での利得を強くする。
コードは、https://github.com/yfqi/HIDRA.comで入手できる。
関連論文リスト
- Attention Routing Stabilizes Early: Working-Set Inference for Recurrent Language Models [4.667009647193296]
注意経路が再帰的な深さにわたってどのように進化するかを考察し、収束時間スケールで一貫した分離を見出す。
WISE(Working-set Inference with Support Exploitation)は,ブロック構造を有する作業セットを早期に発見するために,制限のない注意力を利用する訓練自由な手法である。
論文 参考訳(メタデータ) (2026-09-23T05:21:10Z) - DRDN: Decoupled Representation Dynamic Network for From-Scratch ViT Class-Incremental Learning [6.097306160389619]
クラスインクリメンタルラーニング(CIL)のための動的拡張手法は、専用トークンや計算作業でタスク固有の知識を保護する。
我々は、主に現在のタスクデータに対する逐次トレーニングからのクロスタスクの混乱と、バックボーン内の過度に最適化された共有表現の2つの課題を特定する。
本稿では,2つのメカニズムを通じてこれらの課題に対処する解答表現動的ネットワーク(DRDN)を提案する。
論文 参考訳(メタデータ) (2026-07-02T02:57:58Z) - ExTra: Exploratory Trajectory Optimization for Language Model Reinforcement Learning [75.26064451955199]
ExTraは、モデル自身のロールアウトから探索信号を抽出するフレームワークである。
GRPO上でQwen3-1.7Bをpass@1で約5ポイント、pass@16で+7ポイント改善する。
論文 参考訳(メタデータ) (2026-06-23T15:51:39Z) - Referring-Aware Visuomotor Policy Learning for Closed-Loop Manipulation [91.20850436220267]
Referring-Aware Visuomotor Policy(ReV)について紹介する。
ReVは、人間または高レベルの推論プランナーによって提供されるスパース参照ポイントを組み込む。
これは、専門家のデモンストレーションにターゲットの摂動を適用することでのみ訓練される。
論文 参考訳(メタデータ) (2026-04-07T07:41:11Z) - TopoCurate:Modeling Interaction Topology for Tool-Use Agent Training [53.93696896939915]
訓練用ツール使用エージェントは一般的に、パスレート選択されたタスクに対して、軌道変更の成功と強化学習(RL)に依存している。
TopoCurateは,同一タスクから多段階的なロールアウトを統一的な意味的商トポロジに投影する対話型フレームワークである。
TopoCurateは最先端のベースラインに対して4.2%(SFT)と6.9%(RL)という一貫したゲインを達成している。
論文 参考訳(メタデータ) (2026-03-02T10:38:54Z) - Training Multi-Turn Search Agent via Contrastive Dynamic Branch Sampling [29.182538022605627]
Branching Relative Policy Optimization (BranPO) は、高額な報酬なしで段階レベルのコントラスト管理を提供する価値のない手法である。
BranPOは尾部付近の軌跡を切断し、他の連続をサンプリングし、共有接頭辞の上に対照的な接尾辞を構成する。
さらに効率を向上し、トレーニングを安定させるために、タスク間の分岐周波数に適応する難易度分岐サンプリングと、不正な動作を抑制するために冗長なステップマスキングを導入する。
論文 参考訳(メタデータ) (2026-02-03T16:43:09Z) - SAME: Stabilized Mixture-of-Experts for Multimodal Continual Instruction Tuning [83.66308307152808]
マルチモーダル・インストラクション・チューニング(MCIT)のためのStAbilized Mixture-of-Experts(SAME)を提案する。
プロプライエタリは、サブスペースへのルーティングダイナミクスを分解し、タスク関連方向のみを更新することで、専門家の選択を安定化する。
また、トレーニング中に選択した専門家を凍結するためにアダプティブな専門家アクティベーションを導入し、冗長でクロスタスクな干渉を減らす。
論文 参考訳(メタデータ) (2026-02-02T11:47:06Z) - PASs-MoE: Mitigating Misaligned Co-drift among Router and Experts via Pathway Activation Subspaces for Continual Learning [30.015399267582044]
一般的な戦略は、異なるLoRA専門家に入力をルーティングすることで、更新を分離することだ。
既存のLoRAベースのMixture-of-Experts(MoE)メソッドは、ルータと専門家を区別できない方法で共同で更新することが多い。
固定容量PASを用いたMoE-LoRA法を提案する。
論文 参考訳(メタデータ) (2026-01-19T12:57:11Z) - Just-in-time Episodic Feedback Hinter: Leveraging Offline Knowledge to Improve LLM Agents Adaptation [77.90555621662345]
JEF Hinterは、オフライントレースをコンパクトでコンテキスト対応のヒントに蒸留するエージェントシステムである。
ズーム機構は、長い軌道における決定的なステップを強調し、戦略と落とし穴の両方をキャプチャする。
MiniWoB++、WorkArena-L1、WebArena-Liteの実験は、JSF Hinterが一貫して強力なベースラインを上回っていることを示している。
論文 参考訳(メタデータ) (2025-10-05T21:34:42Z) - Towards Deviation-Robust Agent Navigation via Perturbation-Aware
Contrastive Learning [125.61772424068903]
視覚言語ナビゲーション(VLN)は、エージェントに与えられた言語命令に従って実際の3D環境をナビゲートするように要求する。
本稿では,既存のVLNエージェントの一般化能力を高めるために,PROPER(Progressive Perturbation-aware Contrastive Learning)と呼ばれるモデルに依存しない学習パラダイムを提案する。
論文 参考訳(メタデータ) (2024-03-09T02:34:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。