論文の概要: Steering Robustness into World Action Models via Mechanistic Interpretability and Optimal Control
- arxiv url: http://arxiv.org/abs/2607.14943v1
- Date: Thu, 16 Jul 2026 12:52:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-17 17:01:33.099534
- Title: Steering Robustness into World Action Models via Mechanistic Interpretability and Optimal Control
- Title（参考訳）: 機械的解釈可能性と最適制御による世界行動モデルへのロバストネスのステアリング
- Abstract要約: 本研究では,世界行動モデル(WAM)の活性化空間における頑健性関連摂動の表現について検討する。
成功したロールアウトと失敗したロールアウトのアクティベーションを比較すると、いくつかのWAMアーキテクチャはロバストネスクリティカルな特徴に対して低次元線形分離性を示す。
これにより、トレーニングフリーのWAMステアリングにおける対照的なアクティベーション方向の使用がモチベーションとなる。
また, WAMアクティベーションダイナミクスの局所線形性はモデルベース最適制御による効率的なフィードバックステアリングを可能にすることを示す。
- 参考スコア（独自算出の注目度）: 3.3394856680250284
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: World Action Models (WAMs) enable semantically- and physically-informed control but are brittle under distribution shift. In this work, we use mechanistic interpretability to study how robustness-relevant perturbations are represented in WAM activation space. Comparing activations across successful and unsuccessful rollouts, we find some WAM architectures exhibit low-dimensional linear separability for robustness-critical features, while others do not. This motivates the use of contrastive activation directions for training-free WAM steering. We also show that local linearity in WAM activation dynamics enables efficient feedback steering via model-based optimal control, yielding World-Action Linear Quadratic Regulator (WA-LQR), a minimally-invasive reduced-order LQR controller. Via mechanistic evaluations, we predict strong steerability in the Cosmos-Policy and DiT4DiT models but weak steerability in LingBot-VA, consistent with steering intervention results. On Cosmos-Policy and DiT4DiT, WA-LQR generalizes contrastive directions to new tasks and improves robustness to camera, gripper, and visual-noise perturbations over unsteered and prompt steering baselines.
- Abstract（参考訳）: World Action Models (WAM) は意味論的および物理的にインフォームドされた制御を可能にするが、分散シフト下では不安定である。
本研究では,WAMアクティベーション空間におけるロバスト性関連摂動の表現について,機械論的解釈可能性を用いて検討する。
成功したロールアウトと失敗したロールアウトのアクティベーションを比較すると、WAMアーキテクチャの中にはロバストネスクリティカルな特徴に対して低次元線形分離性を示すものもあれば、そうでないものもある。
これにより、トレーニングフリーのWAMステアリングにおける対照的なアクティベーション方向の使用がモチベーションとなる。
また, WAMアクティベーションダイナミクスの局所線形性によりモデルベース最適制御による効率的なフィードバックステアリングが可能であり, 最小侵襲の低次LQRコントローラであるWA-LQRが得られることを示す。
メカニスティックな評価により,コスモスポリシーモデルとDiT4DiTモデルでは強いステアビリティが予測されるが,LingBot-VAでは弱いステアビリティが,ステアリング介入結果と一致している。
Cosmos-PolicyとDiT4DiTでは、WA-LQRは対照的な方向を新しいタスクに一般化し、ステアリングベースラインに対するカメラ、グリップ、および視覚ノイズの摂動に対する堅牢性を改善する。
関連論文リスト
- A Neural Network Based Teleoperation for Remote Controlled Vehicles [98.38733381483934]
車両の直接遠隔操作は重要な技術的ボトルネックに直面している。
通信遅延とオペレーターの 物理的に知覚できない 未モデル化の環境障害。
本稿では,一方的な遠隔操作フレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-11T01:51:08Z) - Activation Steering Induces Emergent Misalignment: A More Comprehensive Evaluation [74.17379276939599]
近年のQwen-3.5シリーズにおいても,アクティベーションステアリングが広範囲のアライメントを引き起こすことが示されている。
ステアリングサイズ, ステアリングサブスペースの低ランク構造, ステアリングベクター構築時のエポック数など, キーステアリング固有の因子を解析することにより, AS誘起EMの特性を特徴づける。
論文 参考訳（メタデータ） (2026-06-07T15:34:59Z) - Principled Steering via Null-space Projection for Jailbreak Defense in Vision-Language Models [71.11171576590134]
視覚言語モデルは視覚的ジェイルブレイク攻撃によって容易に誘導され、有害なコンテンツを生成する。
本稿では,NullSteerを提案する。
我々はNullSteerが様々なジェイルブレイク攻撃において有害な出力を著しく減少させることを示す。
論文 参考訳（メタデータ） (2026-03-23T15:23:23Z) - Data-Driven Physics Embedded Dynamics with Predictive Control and Reinforcement Learning for Quadrupeds [2.85987101794478]
モデル予測制御(MPC)と強化学習(RL)を統合した4次手法の現状
ラグランジアンニューラルネットワーク(LNN)をRL MPCフレームワークに統合することで、これらの問題に対処する。
サンプル効率の向上,長軸誤差の低減,非構造的ニューラルダイナミクスよりも高速なリアルタイム計画法を示す。
論文 参考訳（メタデータ） (2026-03-15T11:52:14Z) - ResWM: Residual-Action World Model for Visual RL [0.06999740786886534]
生の視覚観測から予測的世界モデルを学ぶことは強化学習(RL)の中心的課題である
ResWM(Residual-Action World Model、Residual-Action World Model)は、制御変数を絶対作用から残留作用に再構成する新しいフレームワークである。
ResWMはより安定的でエネルギー効率のよい行動軌跡を生み出す。
論文 参考訳（メタデータ） (2026-03-11T11:27:08Z) - Why Steering Works: Toward a Unified View of Language Model Parameter Dynamics [81.80010043113445]
局所的な微調整、LoRAに基づく適応、およびアクティベーションに基づく介入を分離して研究する。
制御信号によって誘導される動的ウェイト更新として、これらの介入をフレーム化する統一的な視点を示す。
提案手法では,選択と効用との間に一貫したトレードオフが観測される。
論文 参考訳（メタデータ） (2026-02-02T17:04:36Z) - Efficiently Learning Robust Torque-based Locomotion Through Reinforcement with Model-Based Supervision [14.246416873754905]
モデルに基づく二足歩行と残留強化学習を統合した制御フレームワークを提案する。
提案手法は, ランダム化条件におけるロバスト性の向上と一般化を実証する。
論文 参考訳（メタデータ） (2026-01-22T16:56:52Z) - Mechanistic interpretability for steering vision-language-action models [0.23371356738437823]
VLA(Vision-Language-Action)モデルは、一般のエンボディエージェントを実現するための有望な道である。
本稿では,VLAを内部表現で解釈し,操作するための最初のフレームワークを紹介する。
我々は、微調整、報酬信号、環境相互作用を伴わずに、リアルタイムに行動を調整する汎用的なアクティベーションステアリング手法を提案する。
論文 参考訳（メタデータ） (2025-08-30T03:01:57Z) - Model-Based Reinforcement Learning with Isolated Imaginations [61.67183143982074]
モデルに基づく強化学習手法であるIso-Dream++を提案する。
我々は、切り離された潜在的想像力に基づいて政策最適化を行う。
これにより、野生の混合力学源を孤立させることで、長い水平振動子制御タスクの恩恵を受けることができる。
論文 参考訳（メタデータ） (2023-03-27T02:55:56Z) - Incorporating Recurrent Reinforcement Learning into Model Predictive
Control for Adaptive Control in Autonomous Driving [11.67417895998434]
モデル予測制御(MPC)は、強力な制御技術として自律運転タスクに大きな注目を集めている。
本稿では,この問題を部分的に観測されたマルコフ決定過程(POMDP)として再検討する。
次に、最適かつ適応的な制御のために、リカレント強化学習(RRL)を通して、動的モデルのパラメータを継続的に適応させるリカレントポリシーを学習する。
論文 参考訳（メタデータ） (2023-01-30T22:11:07Z) - Isolating and Leveraging Controllable and Noncontrollable Visual
Dynamics in World Models [65.97707691164558]
Iso-DreamはDream-to-Controlフレームワークを2つの側面で改善する。
まず、逆動力学を最適化することにより、世界モデルに制御可能で制御不能な情報源を学習させることを奨励する。
第2に、エージェントの挙動を世界モデルの切り離された潜在的想像力に最適化する。
論文 参考訳（メタデータ） (2022-05-27T08:07:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。