論文の概要: SubRot: Signed Gradient Subspace Calibration for VLM Rotation Quantization
- arxiv url: http://arxiv.org/abs/2609.34884v1
- Date: Mon, 28 Sep 2026 10:58:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:59:33.295286
- Title: SubRot: Signed Gradient Subspace Calibration for VLM Rotation Quantization
- Title（参考訳）: SubRot: VLM回転量子化のための符号付き勾配部分空間キャリブレーション
- Abstract要約: SubRot は VLM 回転量子化のための符号付き部分空間キャリブレーション法である。
We show consistent average-score improvements over FlatQuant under W4A6 and W4A4, to to 1.4 points on LLaVA-NeXT-7B。
- 参考スコア（独自算出の注目度）: 11.411411301593011
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Post-training quantization reduces the deployment cost of vision-language models (VLMs), but preserving multimodal capabilities at low bit widths remains challenging. Existing methods rely on modality- or token-level gradient statistics, which are susceptible to cross-sample variations in visual-to-textual token ratios and the positions of visual information, limiting statistical stability. Moreover, overly coarse aggregation through absolute values and averaging discards gradient signs and channel-wise differences, limiting the separation of modality-specific sensitivities. In contrast, the channel space provides a shared coordinate system across samples, making it a more natural basis for capturing stable task-sensitive structures. We therefore propose SubRot, a signed gradient subspace calibration method for VLM rotation quantization. Through eigendecomposition of the empirical Fisher matrix of activation gradients, SubRot identifies a sensitive channel subspace with three properties: cross-sample stability, clear sensitivity separation, and consistent signed effects on the autoregressive loss along certain directions. Guided by a local Taylor expansion, SubRot combines signed first-order guidance along sign-stable directions with second-order constraints along the remaining sensitive directions, while retaining MSE for overall reconstruction quality. This objective steers quantization errors toward loss-decreasing directions while controlling their magnitude. Experiments on five VLMs across five benchmarks show consistent average-score improvements over FlatQuant under W4A6 and W4A4, reaching 1.4 percentage points on LLaVA-NeXT-7B. Under W4A4, average accuracy degradation from FP16 remains within 1.4 percentage points across all evaluated models, while LLaVA-v1.5-13B exceeds its FP16 average score by 0.4 percentage points.
- Abstract（参考訳）: 学習後の量子化は視覚言語モデル(VLM)の展開コストを低減させるが、低ビット幅でのマルチモーダルの保存は依然として困難である。
既存の手法はモダリティレベルあるいはトークンレベルの勾配統計に依存しており、これは視覚とテキストのトークン比と視覚情報の位置のクロスサンプル変動に影響され、統計的安定性が制限される。
さらに、絶対値による過度に粗い凝集と平均化は勾配標識とチャネルワイドの差をなくし、モダリティ固有の感度の分離を制限する。
対照的に、チャネル空間はサンプル間で共有座標系を提供し、安定したタスク依存構造を捉えるためのより自然な基盤となる。
そこで我々は,VLM回転量子化のための符号付き勾配部分空間キャリブレーション法であるSubRotを提案する。
活性化勾配の経験的フィッシャー行列の固有分解により、SubRotは三つの性質を持つ感度チャネル部分空間を同定する。
局所的なテイラー拡張でガイドされたSubRotは、サイン安定方向に沿って署名された一階誘導と残りの機密方向に沿って2階制約を組み合わせ、全体の復元品質をMSEに維持する。
この目的は、その大きさを制御しながら、損失減少方向に対する量子化誤差を導出する。
5つのベンチマークにわたる5つのVLMの実験では、FlatQuantに対してW4A6とW4A4で一貫した平均スコアの改善が見られ、LLaVA-NeXT-7Bでは1.4ポイントに達した。
W4A4では、FP16の平均精度劣化はすべての評価モデルで1.4ポイント以内であり、LLaVA-v1.5-13BはFP16の平均スコアを0.4ポイント上回っている。
関連論文リスト
- Sub-Pixel Affine Registration of Space Debris Images via the Radon Point Spread Function [8.083475003173758]
フレーム間のアフィンのミスアライメントは、光監視におけるポイントターゲットの多フレーム分析に根本的な課題となる。
我々は、Randon変換領域における点目標を特徴付けるために、RPSF(Radon Point Spread Function)を導入する。
我々は,フレーム間の変換と回転を,フレームペアあたり4つのRPSFサンプルから共同で推定するクローズドフォームフレームワークを考案した。
論文 参考訳（メタデータ） (2026-09-07T01:56:13Z) - SHIFT-LLM: Distribution Shift Correction in Depth-Pruned LLMs [18.494055578192015]
本稿では,各プルーニングサイトに線形残差アダプタを挿入するトレーニング不要なポストプルーニング修正フレームワークShift-LLMを紹介する。
各LRAは元の残基の同一性経路を保持し、軽量なアフィン残基補正を追加する。
5つのモデルファミリ,6つの層選択基準,および7つのゼロショットベンチマーク実験により,ShiFT-LLMは深絞りによって失われる精度を常に回復することを示した。
論文 参考訳（メタデータ） (2026-08-25T19:01:58Z) - SubZero+: Efficient Zeroth-Order LLM Fine-Tuning via Large Learning Rates [25.09609527559127]
SubZero+は改善されたSubZeroフレームワークで、3つの補完的な方法で安定性を改善する。
SubZero+ は、ZO ベースラインを一貫して上回り、安定した学習速度範囲を拡大し、メモリオーバーヘッドを最小限に抑えた一階法にギャップを狭めることを示す。
論文 参考訳（メタデータ） (2026-08-16T10:13:25Z) - Full-Stack FP4: Stable LLM Pretraining with Quantized Projections, Optimizers, and Attention [34.07319488267708]
最近のNVFP4事前学習法は主に変圧器線形層を対象としており、4ビットパイプラインで探索された計算状態、算術的および注意点を残している。
この臨界ギャップは、3つのコアモジュールがユニークな数値的な故障パターンを示すため、安定なフルスタック4ビットプリトレーニングをブロックする。
3つの安定性ボトルネックをすべて解決した最初の完全NVFP4事前学習フレームワークであるFull-Stack FP4を提案する。
論文 参考訳（メタデータ） (2026-07-05T17:31:36Z) - The Rescue Effect: Spatio-Semantic Early Exit Bypasses Quantization Collapse in CLIP [6.450516062706025]
CLIPのような共同埋め込みアーキテクチャでは、量子化されたCNN分類器とは異なる障害モードが導入されている。
我々はこれをQIRC(Quantization-induced Representation Collapse)と呼び、CLIP ViT-B/32を置き換えるINT8上で定量化する。
雑音飽和層をバイパスするLRA-EE(Layer-wise Representation-Aware Early Exit)を提案する。
ImageNet-1K ゼロショット分類では、LRA-EE は FLOP を 13.4% 削減し、Top-1 の精度を +2.44%p (58.72% -> 61.16%) 向上させる。
論文 参考訳（メタデータ） (2026-05-26T00:45:46Z) - Hierarchical Consistency Learning for Test-time Adaptation in Camouflage Perception [50.278200968044665]
カモフラージュされた物体検出(COD)は、物理的属性を通して背景から最小限の知覚差を示すターゲットをローカライズすることを目的としている。
既存のメソッドは、静的なTrain-then-freezeパラダイムによって制約されており、ドメインの剛性と依存性のアノテーションに悩まされている。
動的表現再構成のためのテスト時間適応を統合した階層的一貫性学習フレームワークを提案する。
論文 参考訳（メタデータ） (2026-05-25T09:57:46Z) - Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。
NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
論文 参考訳（メタデータ） (2026-05-21T16:45:31Z) - Structure-Informed Estimation for Pilot-Limited MIMO Channels via Tensor Decomposition [51.56484100374058]
本稿では、スパース観測から低ランクテンソル完備化としてパイロットリミテッドチャネル推定を定式化する。
合成チャネル実験による最小二乗平均二乗誤差(NMSE)の最小二乗平均誤差(LS)に対する改善
DeepMIMO線トレーシングチャネルの評価では、純粋なテンソル法よりも24-44%NMSEが減少している。
論文 参考訳（メタデータ） (2026-02-03T23:38:05Z) - GrAInS: Gradient-based Attribution for Inference-Time Steering of LLMs and VLMs [56.93583799109029]
GrAInSは推論時ステアリングのアプローチで、言語のみのモデルと視覚言語の両方のモデルとタスクで動作する。
推論中、GrAInSはトークンレベルの属性信号によって誘導されるトランスフォーマー層で隠されたアクティベーションを隠蔽し、アクティベーションを正規化し、表現スケールを保存する。
微調整と既存のステアリングベースラインの両方を一貫して上回る。
論文 参考訳（メタデータ） (2025-07-24T02:34:13Z) - Optimality and Adaptivity of Deep Neural Features for Instrumental Variable Regression [57.40108516085593]
ディープ・フィーチャー・インスツルメンタル・変数(DFIV)回帰(Deep Feature instrumental variable)は、ディープ・ニューラルネットワークによって学習されたデータ適応的特徴を用いたIV回帰に対する非パラメトリックなアプローチである。
DFIVアルゴリズムは,目的構造関数がベソフ空間にある場合,最小最適学習率を実現する。
論文 参考訳（メタデータ） (2025-01-09T01:22:22Z) - Towards Better Gradient Consistency for Neural Signed Distance Functions
via Level Set Alignment [50.892158511845466]
レベルセットの並列性によって示される場の勾配一貫性が、推論精度に影響を及ぼす重要な要因であることを示す。
そこで本研究では,次数集合の並列性を評価するためのレベルセットアライメント損失を提案する。
論文 参考訳（メタデータ） (2023-05-19T11:28:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。