論文の概要: Wiring Matters: Injection Topology and Initialization of Affordance Heads in Vision-Language-Action Policies
- arxiv url: http://arxiv.org/abs/2610.06318v1
- Date: Mon, 05 Oct 2026 13:32:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-09 09:17:43.714231
- Title: Wiring Matters: Injection Topology and Initialization of Affordance Heads in Vision-Language-Action Policies
- Title(参考訳): 配線物:視覚・言語・アクション政策におけるアフォーダンスヘッドの注入トポロジーと初期化
- Abstract要約: Affordance監督は、視覚言語アクション(VLA)ポリシーのための魅力的な補助信号である。
本稿では,LIBEROベンチマークを用いて,このような頭部を現代のVLAに接続する方法について検討する。
我々のレシピは、停止段階を通してバックボーンを読み出し、学習されたブリッジを介して中間頭部機能をアクションエキスパートに再注入する。
- 参考スコア(独自算出の注目度): 15.73213588583292
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Dense affordance supervision is an appealing auxiliary signal for vision-language-action (VLA) policies, yet naively co-training an affordance head can severely damage instruction following. We present a controlled study of how to wire such a head into a modern VLA on the LIBERO benchmark. Our recipe reads the backbone through a stop-gradient and re-injects an intermediate head feature into the action expert via a learned bridge. The stop-gradient is a precondition: letting affordance gradients reach the backbone drops the policy below the headless base (85.5% vs. 93.1%). With the backbone protected, a same-budget 2*2 ablation over injection topology (concatenation vs. residual) and bridge initialization (zero vs. random) shows initialization is the dominant lever. The best wiring, an actively initialized residual bridge, reaches 96.2%, matching the far more elaborate three-expert AffordanceVLA (95.8%) with under 1% extra parameters. Two probes explain the mechanism: ground-truth affordances fed as an input hurt, and inference-time zeroing shows a lazy bridge acts only as a training-time regularizer while an active bridge becomes load-bearing.
- Abstract(参考訳): 空き時間監視は、視覚言語行動(VLA)ポリシーのための魅力的な補助信号であるが、空き時間ヘッドを鼻で訓練することは、その後の指示に深刻なダメージを与える可能性がある。
本稿では,LIBEROベンチマークを用いて,このような頭部を現代のVLAに接続する方法について検討する。
我々のレシピは、停止段階を通してバックボーンを読み出し、学習されたブリッジを介して中間頭部機能をアクションエキスパートに再注入する。
緩やかな勾配がバックボーンに達すると、政策はヘッドレスベース以下に落ちる(85.5%対93.1%)。
バックボーンは保護されており、注入トポロジー(結合対残留)とブリッジの初期化(ゼロ対ランダム)に対する2*2のアブレーションは、初期化が支配的なレバーであることを示している。
アクティブに初期化された残留橋である最良の配線は96.2%に達し、より精巧な3つのAffordanceVLA(95.8%)と1%以下のパラメータが一致する。
2つのプローブがこのメカニズムを説明している: 入力障害として供給される地道的余裕、および推論時ゼロ化は、アクティブブリッジが負荷に耐えられるようになる間に、遅延ブリッジがトレーニング時正規化器としてのみ機能することを示している。
関連論文リスト
- Bidirectional Preference Synthesis: Learning Prompt-Conditioned Preferences from Boundary Failures [28.414356387459474]
直接選好最適化(DPO)のためのデータ構成法である双方向選好合成(BPS)を導入する。
BPSは従来のフォワードペアを元のプロンプトの下に保持し、合成されたプロンプトの下に逆ペアを追加する。
Qwen3-4B-Instruct-2507では、BPSはオリジナルサイドのペアのランキングを6.8%から62.3%に引き上げた。
論文 参考訳(メタデータ) (2026-10-03T06:48:35Z) - One Step, One Lead: Mitigating Higher-Order Interference in Multi-Domain Reinforcement Learning via Cross-Step Control [62.82372407840088]
同点領域勾配は、連続的な更新が出力空間で部分的に逆転する場合においても、ほぼ一定であることを示す。
トークンレベルのリバウンドリスクをランク付けするために,各イテレーションでフォーカスドメインを指定するOSOLを提案する。
OSOLは0.4822のドメイン-マクロ平均に達し、最強の比較ベースラインよりも5.7%向上した。
論文 参考訳(メタデータ) (2026-09-06T08:32:59Z) - You Only Pass Once: Answering and Abstaining Together in a Single Forward Pass of a Frozen Language Model [9.92799001840128]
本稿は、これらを同一の残留流上で処理する2つの研究線を統合する。
条件付きステアリングプローブは、ストリームを中層に書き込み、凍結したバックボーンから推論精度を回復する。
YOPO(You Only Pass Once)は、凍結したQwen2.5のバックボーンの1つの前方パスに答え、ステア、およびアブテンを答える。
論文 参考訳(メタデータ) (2026-08-14T16:44:35Z) - Verifier-Induced Support Reshaping in On-Policy Optimization [27.782412748608255]
検証可能な報酬(RLVR)によるオンライン強化学習は、現在の目標を改善できる一方で、後の目標に対する行動の成功は、サンプリングや強化が極めて稀であることを示す。
我々は、この検証者によるサポートの再構築と呼び、有効な報奨支援を、固定されたロールアウト予算内で到達可能な軌道として定義する。
論文 参考訳(メタデータ) (2026-07-31T19:05:43Z) - Steering Instruction Hierarchies at Inference Time [12.819290639427445]
V-Steerは、キャッシュされた値ベクトルを即時位置で編集することで特権的影響を回復する訓練不要な推論時間法である。
V-Steerは、低優先度が特権的スパンを支配しているヘッドを特定し、特権的スパンを強化し、対立する低優先度スパンを抑制する。
7Bから70Bまでのモデル全体で、この介入は、コントロールされたロールコンフリクトベンチマークにおいて、18%未満から92%まで、一次制約の精度を高める。
論文 参考訳(メタデータ) (2026-07-28T20:06:31Z) - Doubly Robust Proxy Causal Learning with Neural Mean Embeddings [58.8808794752741]
我々は、連続的かつ構造化された治療を用いて因果学習をプロキシするための、神経的に二重に頑健なフレームワークを開発する。
このフレームワークは、人口、不均一、条件付き線量応答関数をカバーし、完全な応答曲線推定器を生成する。
合成および画像評価ベンチマーク全体で、提案した推定器は既存のベースラインと単一ブリッジニューラル推定器より優れている。
論文 参考訳(メタデータ) (2026-05-10T12:50:25Z) - BadCLIP++: Stealthy and Persistent Backdoors in Multimodal Contrastive Learning [73.46118996284888]
マルチモーダル・コントラスト学習モデルに対するバックドア攻撃の研究は、ステルスネスと永続性という2つの大きな課題に直面している。
両課題に対処する統合フレームワークであるBadCLIP++を提案する。
ステルスネスのために,タスク関連領域付近に知覚不可能なパターンを埋め込むセマンティックフュージョンQRマイクロトリガーを導入する。
持続性については、半径縮小とセントロイドアライメントによるトリガ埋め込みを安定化する。
論文 参考訳(メタデータ) (2026-02-19T08:31:16Z) - PRISM: Festina Lente Proactivity -- Risk-Sensitive, Uncertainty-Aware Deliberation for Proactive Agents [11.440330367799513]
PRISMは、決定論的ゲートとデュアルプロセス推論アーキテクチャを結合する新しいフレームワークである。
フェスティナ・レンテ(ラテン語: "make haste slow")にインスパイアされた私たちは、受け入れ校正されたコスト由来の閾値でゲートする。
ProactiveBenchでは、PRISMは誤報を22.78%減らし、F1を20.14%改善している。
論文 参考訳(メタデータ) (2026-02-02T01:56:29Z) - The Choice of Divergence: A Neglected Key to Mitigating Diversity Collapse in Reinforcement Learning with Verifiable Reward [57.56453588632619]
Reinforcement Learning with Verifiable Reward (RLVR) を用いた細調整大型言語モデル(LLM)における中心的パラドックスは、多目的性能の頻繁な劣化である。
これはしばしば破滅的な忘れが伴い、モデルが以前獲得したスキルを失う。
我々は,標準RLVR目標には知識保持のための重要なメカニズムが欠如していると主張している。
論文 参考訳(メタデータ) (2025-09-09T06:34:32Z) - Towards Demystifying Representation Learning with Non-contrastive
Self-supervision [82.80118139087676]
自己教師型学習の非競合的手法は、同一画像の2つのビュー間の距離を最小化することにより、表現を学習する。
Tian el al. (2021) は最初の質問に対して最初の試みを行い、予測器を直接設定する DirectPred を提案した。
単純な線形ネットワークにおいて、DirectSet($alpha$)は望ましいプロジェクション行列を確実に学習し、下流タスクにおけるサンプルの複雑さを減少させることを示す。
論文 参考訳(メタデータ) (2021-10-11T00:48:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。