論文の概要: Diffeomorphic Hidden-State Steering: Improving Imitation Learning Policy Robustness through Expert Hidden-State Geometry
- arxiv url: http://arxiv.org/abs/2610.21666v1
- Date: Thu, 15 Oct 2026 10:48:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 06:09:33.04014
- Title: Diffeomorphic Hidden-State Steering: Improving Imitation Learning Policy Robustness through Expert Hidden-State Geometry
- Title(参考訳): Diffomorphic Hidden-State Steering:エキスパート隠れ状態幾何学による模倣学習ポリシーのロバスト性向上
- Abstract要約: クローズドループ実行中に小さな観察やアクションエラーが複雑になり、訓練された模倣学習ポリシーを妨害する。
本研究は,テスト時の隠れ状態のステアリングによって,新たな実証や政策再訓練を伴わずに,元の専門家によるデモンストレーションが堅牢性を向上させるかどうかを考察する。
そこで本研究では,凍結したポリシを通じて実演を再現した隠れ状態から,非可逆な非線形座標写像を学習するDHSを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Small observation or action errors can compound during closed-loop execution and disrupt a trained imitation learning policy. We study whether the original expert demonstrations can improve robustness through test-time hidden-state steering without additional demonstrations or policy retraining. Our analysis of a trained policy finds that expert hidden-state variation is concentrated in relatively few dimensions, while the directions capturing this variation differ across regions. Motivated by this geometry, we propose Diffeomorphic Hidden-State Steering (DHS), which learns an invertible nonlinear coordinate map from expert hidden states obtained by replaying the demonstrations through the frozen policy. DHS attenuates coordinates with low expert variance more strongly than those with high variance, then maps the modified coordinates back to hidden-state space. This allows steering directions to vary with the current hidden state while retaining every coordinate. Across four simulated manipulation tasks, DHS improves mean success under observation noise over the unmodified Transformer policies. Controlled comparisons yield higher mean success with learned nonlinear coordinates than with linear coordinates under both hard projection and full-rank rescaling. Combining DHS with action smoothing improves mean success rate under observation noise in certain tasks compared with action smoothing alone.
- Abstract(参考訳): クローズドループ実行中に小さな観察やアクションエラーが複雑になり、訓練された模倣学習ポリシーを妨害する。
本研究は,テスト時の隠れ状態のステアリングによって,新たな実証や政策再訓練を伴わずに,元の専門家によるデモンストレーションが堅牢性を向上させるかどうかを考察する。
専門的な隠れ状態の変動は比較的少数の次元に集中しているが、この変化を捉える方向は地域によって異なる。
本手法を応用したDHS (Diffomorphic Hidden-State Steering) を提案する。
DHSは、高い分散を持つものよりも専門家の分散度の低い座標を減衰させ、修正された座標を隠れ状態空間にマッピングする。
これにより、操舵方向は、すべての座標を保持しながら、現在の隠れ状態によって変化する。
4つのシミュレートされた操作タスクの中で、DHSは、修正されていないトランスフォーマーポリシーよりも観測ノイズ下での平均的な成功を改善する。
制御された比較は、学習された非線形座標において、ハードプロジェクションとフルランク再スケーリングの両方の下での線形座標よりも平均的な成功をもたらす。
DHSと動作平滑化の組み合わせは、動作平滑化単独と比較して、特定のタスクにおける観測雑音下での平均成功率を向上させる。
関連論文リスト
- Safety-aware Skill Adaptation for Reinforcement Learning in Dynamic Environments [2.9923891863939946]
Dist-GPRLは、構造化ロボットスキル適応のための遠隔認識および安全誘導型強化学習フレームワークである。
ガウス過程(GP)に基づくスキルパラメタライゼーションを基盤として,スパーストラジェクトリの局所窓の重なり合いを逐次適応する。
シミュレーションにおける2つの動的オブジェクト操作タスクの枠組みを評価し,実世界のロボットに学習方針を伝達する。
論文 参考訳(メタデータ) (2026-09-10T12:05:54Z) - Encoded but Not Actionable: Auditing the Decode-Generate-Steer Gap in Frozen LLMs for Geometric Constraints [0.0]
我々は、スケッチレベルの制約状態から局所的なペアワイズ関係を分離するための制御テストベッドとしてパラメトリックCAD制約を用いる。
本研究は, 線形着脱性, 強制選択生成, アクティベーションレベルの影響, 行動ステアビリティの4つの特性について検討した。
その結果, テスト環境では, 着脱性, 生成性, アクティベーションレベルの影響, ステアビリティが分散可能であることがわかった。
論文 参考訳(メタデータ) (2026-08-18T14:40:28Z) - Implicit Drifting Policy: One-Step Action Generation via Conditional Expert Geometry [46.0185525503119]
Implicit Drifting Policy (IDP)は、ロボット制御のための一段階の模倣学習フレームワークである。
IDPは、明示的なベクトル場推定なしでポリシー学習にドリフトの訓練時間補正をもたらす。
論文 参考訳(メタデータ) (2026-05-31T08:39:57Z) - SAVGO: Learning State-Action Value Geometry with Cosine Similarity for Continuous Control [1.5469452301122175]
本稿では,ポリシー更新に値に基づく類似性を明示的に組み込んだ幾何学的RLアルゴリズムを提案する。
State-Action Value Geometry Optimization (SAVGO) は、類似のアクション値の推定値を持つペアが高いコサイン類似性を示す共同状態-アクション埋め込み空間を学習する。
この学習された幾何学は、各更新でサンプリングされた候補アクションに対する類似カーネルの生成を可能にし、ポリシーの改善を直接高価値領域へ誘導することを可能にする。
論文 参考訳(メタデータ) (2026-05-01T17:09:58Z) - Unifying UAV Cross-View Geo-Localization via 3D Geometric Perception [51.687842983240564]
無人航空機(UAV)のクロスビューな地上局地化は、斜めのUAV画像と衛星地図との厳密な幾何学的相違により、いまだに困難である。
本稿では,3次元シーン形状を明示的にモデル化し,粗い位置認識ときめ細かなポーズ推定を統一する,幾何認識型UAV測位フレームワークを提案する。
提案手法は, 最先端のベースラインを著しく上回り, ロバストメータレベルのローカライゼーション精度を実現し, 複雑な都市環境における一般化を向上する。
論文 参考訳(メタデータ) (2026-04-02T08:08:41Z) - TAG: Target-Agnostic Guidance for Stable Object-Centric Inference in Vision-Language-Action Models [59.13964209628383]
VLA(Vision-Language-Action)ポリシーは、言語指示や視覚的な観察をロボット行動にマッピングする上で大きな進歩を見せている。
本稿では,VLA政策における乱れや外見に起因したバイアスを明示的に軽減する単純な推論時ガイダンス機構であるTAG(Target-Agnostic Guidance)を提案する。
我々は, LIBERO, LIBERO-Plus, VLABenchなどの標準操作ベンチマーク上でTAGを評価し, クラッタ下での堅牢性を一貫して改善し, ニアミスや不正なオブジェクト実行を減らす。
論文 参考訳(メタデータ) (2026-03-25T17:56:32Z) - Robust Skills, Brittle Grounding: Diagnosing Restricted Generalization in Vision-Language Action Policies via Multi-Object Picking [6.713814849613683]
視覚言語アクション(VLA)ポリシーは、比較的少数のデモで強力な操作ベンチマーク性能を報告している。
本研究は, オブジェクト配置のばらつきを, 作業空間のランダム化まで徐々に増大させる多目的ピッキング研究である。
SmolVLAや$_0.5$といった代表的VLAポリシでは、操作プリミティブの実行は、命令条件のタスク成功よりもかなり信頼性が高いことが分かりました。
論文 参考訳(メタデータ) (2026-02-27T16:20:04Z) - Integrating Disparity Confidence Estimation into Relative Depth Prior-Guided Unsupervised Stereo Matching [55.784713740698365]
教師なしのステレオマッチングは、コストのかかる不均一なアノテーションから独立して、大きな注目を集めている。
実現可能な解決策は、相対深度マップからステレオマッチングネットワークへの3次元幾何学的知識の転送にある。
本研究は,これらの課題に対処する新しい教師なし学習フレームワークを提案する。
論文 参考訳(メタデータ) (2025-08-02T09:11:05Z) - Combating Representation Learning Disparity with Geometric Harmonization [50.29859682439571]
本稿では,表現学習におけるカテゴリレベルの均一性を促進するために,新しい幾何調和法を提案する。
我々の提案はSSLの設定を変更せず、低コストで既存のメソッドに容易に統合できる。
論文 参考訳(メタデータ) (2023-10-26T17:41:11Z) - Off-policy Evaluation in Infinite-Horizon Reinforcement Learning with
Latent Confounders [62.54431888432302]
無限水平エルゴードマルコフ決定過程におけるOPE問題について考察する。
我々は、状態と行動の潜在変数モデルのみを考慮すれば、政策値が政治外のデータから特定できることを示す。
論文 参考訳(メタデータ) (2020-07-27T22:19:01Z) - Confounding-Robust Policy Evaluation in Infinite-Horizon Reinforcement
Learning [70.01650994156797]
教育医療などのバッチ強化学習において、観察データからのシーケンシャルな意思決定方針のオフ・アセスメントが必要である。
我々は、ある政策の境界を推定するアプローチを開発する。
より凝縮したデータを集めることで、シャープな境界への収束を証明します。
論文 参考訳(メタデータ) (2020-02-11T16:18:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。