論文の概要: VCMM: Variance-Calibrated Momentum for Multimodal Learning

• arxiv url: http://arxiv.org/abs/2609.27577v1
• Date: Wed, 23 Sep 2026 08:57:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 00:05:17.960852
• Title: VCMM: Variance-Calibrated Momentum for Multimodal Learning
• Title（参考訳）: VCMM:マルチモーダル学習のための可変校正モメンタム
• Abstract要約: 本稿では、勾配メモリをモーダリティ固有の勾配ダイナミクスに適応させる可変キャリブレーションモメンタムを提案する。 4つのマルチモーダルベンチマークの実験は、適度なトレーニングオーバーヘッドで一貫した改善を示している。
• 参考スコア（独自算出の注目度）: 9.03006660862236
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multimodal joint training often suffers from modality imbalance, where a dominant modality suppresses the optimization of others. Existing methods mainly balance modality learning by modulating gradient magnitudes or directions, modifying optimization objectives, or adjusting training strategies, with most interventions focusing on the current update. However, when combined with widely used momentum-based optimizers, the update also incorporates accumulated information from previous gradients, which is not explicitly addressed by current-step modulation alone. To address this issue, we propose Variance-Calibrated MomentuM (VCMM), which adapts gradient memory to modality-specific gradient dynamics. Specifically, VCMM estimates minibatch noise and temporal drift online and uses their relative strength to determine modality-specific momentum through a Kalman-inspired controller. We further center the control signal across modalities and apply exact bias correction for the time-varying first moment, enabling adaptive gradient memory without extra network passes or explicit learning-rate scaling. Experiments on four multimodal benchmarks demonstrate consistent improvements with modest training overhead.
• Abstract（参考訳）: マルチモーダルジョイントトレーニングは、しばしばモダリティの不均衡に悩まされ、支配的なモダリティは他者の最適化を抑制する。 既存の手法は主に、勾配や方向を調整すること、最適化目標を変更すること、トレーニング戦略を調整することによるモダリティ学習のバランスをとる。 しかし、広く使われているモーメントベースのオプティマイザと組み合わせると、更新には以前の勾配からの蓄積情報も組み込まれている。 この問題に対処するために、勾配メモリをモーダリティ固有の勾配力学に適応させる可変キャリブレーションモメンタム(VCMM)を提案する。 特に、VCMMは、ミニバッチノイズと時間的ドリフトをオンラインで推定し、カルマンにインスパイアされたコントローラを通して、その相対的な強度を用いてモーダル比運動量を決定する。 さらに、モーダル性にまたがって制御信号を集中させ、時間変化した第1モーメントに対して正確なバイアス補正を適用し、追加のネットワークパスや明示的な学習速度スケーリングを伴わずに適応的な勾配メモリを実現する。 4つのマルチモーダルベンチマークの実験は、適度なトレーニングオーバーヘッドで一貫した改善を示している。

関連論文リスト

• Deriving Hyperparameter Scaling Laws via Modern Optimization Theory [55.63126290312615]
  線形最小化Oracle(LMO)に基づく手法の最近の一階境界について検討する。 近年の文献のバウンダリをプロキシとして扱い、異なるチューニング規則をまたいでそれらを最小化することで、学習率、運動量、バッチサイズに関するクローズドフォームのパワーロースケジュールが得られる。 本研究の結果は, 運動量とバッチサイズスケーリングの相互作用に特に注意を払っており, いくつかのスケーリング戦略によって最適性能が達成される可能性が示唆された。
  論文  参考訳（メタデータ） (2026-03-16T22:21:27Z)
• AIM: Adaptive Intra-Network Modulation for Balanced Multimodal Learning [55.56234913868664]
  そこで我々は,適応型ネットワーク内変調(AIM)を提案し,バランスの取れたモダリティ学習を改善する。 AIMは、変調中のネットワーク内のパラメータと深さの最適化状態の違いを考慮に入れている。 AIMは、複数のベンチマークにおいて、最先端の非バランスなモダリティ学習方法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2025-08-27T10:53:36Z)
• Adaptive quantum dynamics with the time-dependent variational Monte Carlo method [0.0]
  変動量子状態の表現率を適応的に制御する,時間依存型変分モンテカルロ法(tVMC)の拡張を導入する。 スピンジャストロウと制限ボルツマン機械波動関数を用いた一次元横場イジングモデルにおける量子クエンチのベンチマークを行った。
  論文  参考訳（メタデータ） (2025-06-10T08:47:01Z)
• Enhancing Online Continual Learning with Plug-and-Play State Space Model and Class-Conditional Mixture of Discretization [72.81319836138347]
  オンライン連続学習(OCL)は、以前に学習したタスクの知識を保持しながら、一度だけ現れるデータストリームから新しいタスクを学習することを目指している。 既存の方法の多くはリプレイに依存しており、正規化や蒸留によるメモリ保持の強化に重点を置いている。 既存のほとんどのメソッドに組み込むことができ、適応性を直接改善できるプラグイン・アンド・プレイモジュールであるS6MODを導入する。
  論文  参考訳（メタデータ） (2024-12-24T05:25:21Z)
• Classifier-guided Gradient Modulation for Enhanced Multimodal Learning [50.7008456698935]
  Gradient-Guided Modulation (CGGM) は,マルチモーダル学習と勾配のバランスをとる新しい手法である。 UPMC-Food 101, CMU-MOSI, IEMOCAP, BraTSの4つのマルチモーダルデータセットについて広範な実験を行った。 CGGMはすべてのベースラインや最先端のメソッドを一貫して上回る。
  論文  参考訳（メタデータ） (2024-11-03T02:38:43Z)
• Continuous-Time Meta-Learning with Forward Mode Differentiation [65.26189016950343]
  本稿では,勾配ベクトル場の力学に適応するメタ学習アルゴリズムであるContinuous Meta-Learning(COMLN)を紹介する。 学習プロセスをODEとして扱うことは、軌跡の長さが現在連続しているという顕著な利点を提供する。 本稿では,実行時とメモリ使用時の効率を実証的に示すとともに,いくつかの画像分類問題に対して有効性を示す。
  論文  参考訳（メタデータ） (2022-03-02T22:35:58Z)
• SDGMNet: Statistic-based Dynamic Gradient Modulation for Local Descriptor Learning [44.69439245287881]
  本稿では,局所記述子学習における三重項損失を改善するためにSDGMNetという動的勾配変調を提案する。 本稿では,一般的な三重項に基づく損失のバック伝播に関する深い解析を行い,距離測定のための包含角度を導入する。 我々の新しい記述子は、パッチ検証、マッチング、検索タスクを含む標準ベンチマークにおける過去の最先端技術を上回っている。
  論文  参考訳（メタデータ） (2021-06-08T15:10:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。