論文の概要: SteerAct: Unlocking Action Models through Few-Shot Temporal Steering
- arxiv url: http://arxiv.org/abs/2610.25632v1
- Date: Mon, 19 Oct 2026 01:20:06 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:21:35.424704
- Title: SteerAct: Unlocking Action Models through Few-Shot Temporal Steering
- Title(参考訳): SteerAct:Few-Shotテンポラルステアリングによるアクションモデルアンロック
- Abstract要約: アクティベーションステアリングは、いくつかのロールアウトからテスト時にトレーニング済みのロボットアクションモデルを改善する。
本稿では,スパース・フューチャー・ダイナミクスの共有時間記述子を用いた数ショットの時間的ステアリングフレームワークであるSteerActを紹介する。
我々は、$_0.5$、Fast-WAM、RoboTwin 2.0、DexJoCo、および実世界の操作にまたがる評価において、SteerActはタスク成功率を約10%改善することを示した。
- 参考スコア(独自算出の注目度): 64.79247979322437
- License:
- Abstract: Improving pretrained robot action models at test time from only a few rollouts remains challenging. Activation steering offers a lightweight approach by modifying feature activations while keeping model weights fixed. However, effective steering requires identifying which features to modify and determining the timing and strength of modification. We introduce SteerAct, a few-shot temporal steering framework that uses a shared temporal descriptor of sparse-feature dynamics for offline feature selection and online control. A pretrained sparse autoencoder provides candidate features, and our temporal descriptor summarizes the distribution of local activation-order patterns for each feature, enabling comparisons across rollouts without requiring timestep alignment. Before steering begins (offline), we use successful and failed reference rollouts to select a single task-specific feature whose temporal descriptors best distinguish the two outcomes and construct its reference banks. During each new execution (online), we compare the feature's evolving temporal descriptor with these references to determine when to intervene and how strongly to increase or decrease its activation via a steering coefficient. Using only 24 outcome-labeled rollouts per task, SteerAct improves task success by approximately 10% relative to unsteered models in evaluations spanning $π_{0.5}$, Fast-WAM, RoboTwin 2.0, DexJoCo, and real-world manipulation, without updating action-model weights. Code and demos are available at: https://steeract.github.io/.
- Abstract(参考訳): テスト時にトレーニング済みのロボットアクションモデルを改善するのは、わずか数回だけである。
アクティベーションステアリング(Activation steering)は、モデルの重みを固定しながら機能アクティベーションを変更する、軽量なアプローチを提供する。
しかし、効果的なステアリングには、どの機能を変更すべきかを特定し、変更のタイミングと強度を決定する必要がある。
我々は、オフライン機能選択とオンライン制御のためにスパース機能ダイナミクスの共有時間記述子を使用する、数ショットの時間的ステアリングフレームワークであるSteerActを紹介する。
事前訓練されたスパースオートエンコーダは候補機能を提供し、時間記述子は各特徴に対する局所的なアクティベーション順序パターンの分布を要約し、タイムステップアライメントを必要としないロールアウト間の比較を可能にする。
ステアリングを開始する前(オフライン)、私たちは成功し失敗した参照ロールアウトを使用して、時間記述子が2つの結果を最もよく区別し、参照バンクを構築する単一のタスク固有の特徴を選択します。
新しい実行(オンライン)毎に、機能の進化する時間的記述子とこれらの参照を比較して、いつ介入するか、どのようにステアリング係数によってそのアクティベーションを増大または減少するかを判断する。
SteerActはタスク毎の成果ラベル付きロールアウトを24回しか使用せず、アクションモデルウェイトを更新することなく、π_{0.5}$、Fast-WAM、RoboTwin 2.0、DexJoCo、実世界の操作にまたがる評価において、未処理モデルと比較してタスク成功率を約10%改善する。
コードとデモは、https://steeract.github.io/.com/で公開されている。
関連論文リスト
- GoStop: Reinforcement Learning for Adaptive Temporal Aggregation in Event-Based Feature Tracking [71.9852231453445]
イベントカメラは低レイテンシとモーションロバストな知覚を可能にし、高速かつ非線形な動作下での機能追跡に適している。
既存のイベントベースの機能トラッキング手法は、イベントの蓄積を手作業で調整する、固定されたルールに依存している。
オンラインイベントベースの特徴追跡のための蓄積過程を適応的に制御する強化学習フレームワークを導入する。
論文 参考訳(メタデータ) (2026-07-17T07:18:07Z) - Action ControlNet: A Lightweight Delay-Aware Adapter for Smooth Asynchronous Control in Vision-Language-Action Models [2.1822977353368778]
Action ControlNet (ACNet) は、視覚言語-アクションモデルのための軽量遅延対応アダプタである。
ACNetは推論遅延下で堅牢性を改善し、直接チャンクストレよりもスムーズな非同期軌道を得る。
論文 参考訳(メタデータ) (2026-06-24T15:53:43Z) - When is Your LLM Steerable? [56.656180566692946]
アクティベーションステアリングは、推論時に言語モデルの振る舞いを制御するための軽量なアプローチを提供する。
ステアリングを成功させる体制と境界を見つけるには、通常、高価なグリッドサーチが必要である。
生成プロセスの開始時にモデルの内部状態からステアビリティを予測できるかどうかを検討する。
論文 参考訳(メタデータ) (2026-06-10T02:55:34Z) - FineSteer: A Unified Framework for Fine-Grained Inference-Time Steering in Large Language Models [15.040862439283593]
FineSteerは、推論時のステアリングを2つの相補的なステージに分解する、新しいステアリングフレームワークである。
最初の段階では、不要なステアリングを回避してモデルユーティリティを保存するサブスペース誘導型コンディショナルステアリング(SCS)機構を導入する。
第2段階では、所望の操舵動作のマルチモーダルな性質を捉えるMixture-of-Steering-Experts (MoSE) 機構を提案する。
論文 参考訳(メタデータ) (2026-04-16T19:41:41Z) - Weight Updates as Activation Shifts: A Principled Framework for Steering [54.70188910511715]
アクティベーションステアリングは極めてパラメータ効率のよい適応形態となるが、その有効性は重要な設計選択に依存する。
我々は,活性化空間介入と重量空間更新の1次等価性を確立し,活性化ステアリングが微調整動作を再現できる条件を導出する。
この等価性は、設計をステアリングするための原則的な枠組みをもたらし、ポストブロック出力を理論的に支持され、非常に表現力のある介入サイトとして特定する。
論文 参考訳(メタデータ) (2026-02-28T02:50:04Z) - Controllable and explainable personality sliders for LLMs at inference time [1.3688381983244782]
連続多次元パーソナリティ制御のためのモジュラーフレームワークを提案する。
我々の重要な革新は、逐次適応ステアリング(SAS)である。これは、先行介入によってシフトした残流上のその後のプローブをトレーニングすることで、ステアリングベクトルを変換する手法である。
我々は,ビッグファイブの性格特性に関する枠組みを検証し,ゴール順守とコヒーレンスの両方において,ナイーブ・ベースラインを上回っていることを示す。
論文 参考訳(メタデータ) (2026-02-10T08:16:59Z) - Selective Steering: Norm-Preserving Control Through Discriminative Layer Selection [1.7802147489386628]
大規模言語モデル(LLM)は、有害な行動を引き起こす敵攻撃に対して脆弱なままである。
我々は2つの重要な革新を通じてこれらの制限に対処する選択ステアリングを提案する。
9つのモデルに対する実験により、選択ステアリングは以前の手法よりも5.5倍の攻撃成功率を達成することが示された。
論文 参考訳(メタデータ) (2026-01-27T08:56:25Z) - KV Cache Steering for Controlling Frozen LLMs [80.50365534625438]
キャッシュステアリングは、言語モデルの暗黙的なステアリングのための軽量な方法である。
キャッシュステアリングを応用して、小さな言語モデルにおける連鎖推論を誘導する。
論文 参考訳(メタデータ) (2025-07-11T17:59:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。