論文の概要: The Layer Mystery of VLA: An Information-Theoretical Analysis of VLA Latent Interface
- arxiv url: http://arxiv.org/abs/2609.36118v1
- Date: Mon, 28 Sep 2026 18:51:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:46.960125
- Title: The Layer Mystery of VLA: An Information-Theoretical Analysis of VLA Latent Interface
- Title（参考訳）: VLAの層ミステリー:VLA潜伏インタフェースの情報理論解析
- Abstract要約: 3つの事前訓練されたモデルと2つのベンチマークで凍結したバックボーンの単層選択と多層融合について検討した。
3つの融合機構と3つの層サブセット戦略のうち、54の配置のうち47は、最もよく観察された単一層ポリシーを達成している。
我々は,アクション条件のInfoNCEに対して提案した情報ブロック目標とアクション予測との重み付け等価性を導出し,InfoNCEをレイヤ品質のプロキシとして動機づける。
- 参考スコア（独自算出の注目度）: 26.873230833191357
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Vision-language-action (VLA) policies connect a pretrained vision-language backbone to an action head through a latent interface, but which backbone layers this interface should expose remains unclear. We study single-layer selection and multi-layer fusion for frozen backbones across three pretrained models and two manipulation benchmarks, LIBERO and CALVIN, with three policy-training seeds per configuration. Across three fusion mechanisms and three layer-subset strategies, 47 of 54 configurations underperform the best observed single-layer policy. Our stastical analysis further confirms that fusion's advantage is very limited. However, the best layer varies substantially across backbones and benchmarks, making layer selection consequential and exhaustive policy sweeps expensive. We further derive a reweighting equivalence between the proposed information-bottleneck objectives for action-conditioned InfoNCE and action prediction, motivating InfoNCE as a proxy for layer quality. Empirically, InfoNCE provides the most consistent positive association with policy success among four evaluated proxies. Selecting the layer with the highest InfoNCE score requires 9-33 times less GPU compute than exhaustive policy sweeps and reduces mean selection regret from 17.89 percentage points for deepest-layer selection to 3.71 points across six settings. Its mean regret is close to the 3.28-3.50 points achieved by fixed-layer heuristics optimized retrospectively using all six oracle sweeps, without requiring closed-loop evaluations during selection.
- Abstract（参考訳）: 視覚言語アクション(VLA)ポリシーは、トレーニング済みの視覚言語バックボーンを潜在インターフェースを介してアクションヘッドに接続するが、どのバックボーン層を公開すべきかは明らかになっていない。
3つの事前訓練されたモデルと2つの操作ベンチマークであるLIBEROとCALVINの凍結したバックボーンに対する単一層選択と多層融合について検討した。
3つの融合機構と3つの層サブセット戦略のうち、54の配置のうち47は、最もよく観察された単一層ポリシーを下回った。
我々の統計的分析は核融合の利点が極めて限定的であることをさらに確認している。
しかし、最高のレイヤはバックボーンやベンチマークによって大きく異なり、レイヤーの選択が連続的に行われ、徹底的なポリシーが高価になる。
さらに、アクション条件のInfoNCEに対して提案した情報ブロック目標とアクション予測との重み付け等価性を導出し、InfoNCEをレイヤ品質のプロキシとして動機付ける。
実証的に、InfoNCEは4つの評価されたプロキシの中で、ポリシーの成功と最も一貫したポジティブな関係を提供する。
InfoNCEスコアが最も高い層を選択するには、徹底的なポリシースイープよりもGPU計算の9～33倍の削減が必要であり、最深層選択の17.89ポイントから6つの設定で3.71ポイントまで平均的な選択後悔を減らす。
平均的な後悔は、固定層ヒューリスティックが6つのオラクルスイープ全てを振り返って最適化した3.28-3.50点に近い。
関連論文リスト
- Less Data, Better Alignment: Data-Centric Multi-Evaluator Agreement for Preference Optimization [20.147316178118732]
DMAPOは、ターゲットポリシーから候補応答を生成し、有用性、事実性、およびルーリック特異的評価器による簡潔性を評価する。
この手続きは、54,236人のMistral-7B候補のうち1,871人(3.45%)を受け入れている。
このセットで訓練されたKTOは、MT-Benchで7.50点、テキストダヴィンチ003参照に対して95.5%の勝利率、IFEvalが57.3%に達した。
論文 参考訳（メタデータ） (2026-07-27T23:05:12Z) - Hierarchical Reinforcement Learning for Neural Network Compression (HiReLC): Pruning and Quantization [1.7616042687330635]
HiReLCは、ディープニューラルネットワークの自動量子化と構造化プルーニングのための階層型アンサンブル強化学習フレームワークである。
低レベルエージェント(LLA)はブロックごとに独立して動作し、マルチ離散アクション空間上でカーネル単位の設定を選択する。
高レベルエージェント(HLA)は、フィッシャー情報に基づく感度推定によって導かれるアンサンブル投票を通じて、グローバルな予算配分を調整する。
論文 参考訳（メタデータ） (2026-06-24T16:19:29Z) - Towards Robust Training in NNGPT AutoML Pipeline: A Loss-Optimizer Pairing Selection Study [48.83701310501069]
本稿では, 一つのレシピがヘテロジニアスなアーキテクチャプールに十分であるか, 最適ペアリングが構造的に多様なモデルによって異なるかを検討する。
我々は,CEL(Cross-Entropy),NLL(Negative Log-Likelihood),および最近導入された遺伝学的に進化したNGL損失を,LEMURヘテロジニアス・アーキテクチャー・プールの6つの画像分類データセット上に提示したベースモデル間で比較検討した。
我々の結果は、単一のペアリングが普遍的に最適でないことを確認した。AdamやAdamWとのクロスエントロピーは、最も堅牢な選択である。
論文 参考訳（メタデータ） (2026-06-18T20:51:42Z) - Learning Rate Engineering: From Coarse Single Parameter to Layered Evolution [11.642796814179926]
我々は,(Gen1)グローバル固定学習率,(Gen2)グローバルスケジューリング,(Gen3)パラメータレベル適応,(Gen4)階層レベルの微分,(Gen5)ジョイントレイヤタイムスケジューリングの5世代に学習率スケジューリングを体系化する。
本稿では,位相適応コサインスケジューリング,深度対応Grokfastフィルタ,LARSスタイルの信頼率を1つのコヒーレント勾配に統合する統合フレームワークであるDALSを提案する。
我々は、合成、CIFAR-10(スクラッチから)、RTEの5世代にわたる3つのDALS変種を含む18の戦略をベンチマークした。
論文 参考訳（メタデータ） (2026-04-30T01:13:48Z) - Scoring, Reasoning, and Selecting the Best! Ensembling Large Language Models via a Peer-Review Process [58.265053900416895]
LLM-PeerReviewは、ピアレビューに触発された新しいフレームワークの上に構築されている。
スコアリングには、新たなLCM-as-a-Judgeテクニックを使用します。
推論にはグラフィカルモデルに基づく真理推論アルゴリズムを適用する。
最後に、最高スコア応答をベストアンサンブル出力として選択する。
論文 参考訳（メタデータ） (2025-12-29T05:25:49Z) - Imitate Optimal Policy: Prevail and Induce Action Collapse in Policy Gradient [61.440209025381016]
ポリシー強化学習は、ディープニューラルネットワーク(DNN)を使用して、アクション選択層における可能性を計算するために使用される特徴表現の共有バックボーンを学習する。
特定の制約下では、我々はAction Collapse (AC)と呼ばれる神経崩壊に似た構造が出現する。
本稿では,動作選択層として合成ETFを付加した行動崩壊ポリシー勾配(ACPG)法を提案する。
論文 参考訳（メタデータ） (2025-09-02T18:33:11Z) - Layer Pruning with Consensus: A Triple-Win Solution [0.0]
レイヤ・プルーニングのアプローチは、しばしば、レイヤの複雑な基盤となる特性を完全に捉えない単一の基準に依存します。
本稿では,複数の類似度指標を,コンセンサス基準(Consensus criterion)と呼ばれる低重要層の単一の表現尺度に組み合わせた新しい手法を提案する。
本手法は,低精度低下,高性能化,敵攻撃に対するロバスト性の向上という3つの解を提供する。
論文 参考訳（メタデータ） (2024-11-21T17:41:27Z) - F$^3$OCUS -- Federated Finetuning of Vision-Language Foundation Models with Optimal Client Layer Updating Strategy via Multi-objective Meta-Heuristics [8.577808901433]
微調整において最も重要なVLM層を選択するクライアント固有の層重み付けスコアであるtextitviz. が与える影響について述べる。
本稿では,F$3$OCUSと呼ばれる新しいレイヤ更新戦略を提案する。
論文 参考訳（メタデータ） (2024-11-17T21:54:57Z) - Iterative Nash Policy Optimization: Aligning LLMs with General Preferences via No-Regret Learning [55.65738319966385]
我々は、新しいオンラインアルゴリズム、反復的ナッシュポリシー最適化(INPO)を提案する。
従来の方法とは異なり、INPOは個々の応答に対する期待される勝利率を推定する必要性を回避している。
LLaMA-3-8BベースのSFTモデルで、INPOはAlpacaEval 2.0で42.6%、Arena-Hardで37.8%の勝利率を達成した。
論文 参考訳（メタデータ） (2024-06-30T08:00:34Z) - Advancing LLM Reasoning Generalists with Preference Trees [119.57169648859707]
推論に最適化された大規模言語モデル(LLM)のスイートであるEulusを紹介する。
Eurusモデルは、様々なベンチマークでオープンソースのモデルの間で最先端の結果を得る。
論文 参考訳（メタデータ） (2024-04-02T16:25:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。