論文の概要: Reassessing Global Gradient-Norm Imbalance in BLIP Fine-Tuning Across Physical Domains

• arxiv url: http://arxiv.org/abs/2609.23655v1
• Date: Sun, 20 Sep 2026 14:06:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-22 20:29:00.903457
• Title: Reassessing Global Gradient-Norm Imbalance in BLIP Fine-Tuning Across Physical Domains
• Title（参考訳）: BLIP微調整領域におけるグローバル・グラディエント・ノーム不均衡の再評価
• Abstract要約: 視覚言語モデルの視覚経路と言語経路の間の不均衡勾配は、しばしば修正すべき欠陥として扱われる。 9つの微調整条件における言語と視覚の勾配-ノルム比を測定した。 不均衡の程度は、予測可能な順序付けを伴わない領域によって著しく異なる。
• 参考スコア（独自算出の注目度）: 9.811723823796768
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Imbalanced gradient magnitudes between the visual and language pathways of a vision-language model are often treated as a defect to be corrected. We test that premise for one family of correction, deliberately excluding adaptive, signal-driven schemes (e.g. BalGrad, OGM, PMR, CGGM), which are a mechanistically distinct class outside this study's scope. Measuring the language-to-visual gradient-norm ratio, reported in parameter-normalised form, across nine fine-tuning conditions, three seeds, and three captioning datasets spanning distinct physical domain shifts -- underwater, aerial, radiological -- we find imbalance magnitude varies markedly across domains with no predictable ordering. A plain learning-rate reduction cuts imbalance substantially and lands within a few BLEU points of the best method on every dataset. Staged freezing reduces the ratio on every domain yet never ranks first; a schedule-only control isolates freezing as the cause on one dataset but not the other two. Forcing the two gradient groups to equal magnitude drives per-parameter imbalance close to zero on every domain, yet is both the best result in the study and the worst placement among full fine-tuning methods, on different datasets, with identical settings. Reductions in gradient-norm ratio do not consistently predict captioning performance across domains, and how a given level of balance is reached matters as much as the level itself. As a secondary finding, a commonly reused LoRA configuration applied to BLIP silently adapts zero visual parameters; correcting it improves BLEU-4 on all three datasets.
• Abstract（参考訳）: 視覚言語モデルの視覚経路と言語経路の間の不均衡勾配は、しばしば修正すべき欠陥として扱われる。 本研究では,適応的信号駆動型スキーム(例えば BalGrad, OGM, PMR, CGGM)を意図的に除外して,一系統の補正の前提を検証した。 パラメータ正規化形式で報告された言語と視覚の勾配-ノルム比の測定では、9つの微調整条件、3つの種、3つのキャプションデータセットが、異なる物理的ドメインシフト(水中、空中、放射線)にまたがっている。 平易な学習率の削減は、データセットごとの最良の方法のいくつかのBLEUポイントに実質的に不均衡を減らし、着地する。 ステージド・フリーズ(Staged freeze)は、各ドメインの比率を1位に抑えるが、スケジュールのみのコントロールは、1つのデータセットの原因としてフリーズを分離するが、他の2つには分離しない。 2つの勾配群を等等等級に強制すると、各領域でパラメータ毎の不均衡はゼロに近いが、研究の最良の結果であり、異なるデータセット上で、完全な微調整手法の中では最悪の配置である。 勾配-ノルム比の減少は、ドメイン間でのキャプション性能を常に予測しておらず、与えられたバランスレベルが、レベルそのものよりも重要であることを予測している。 二次的な発見として、BLIPに適用される一般的に再利用されるLoRA構成は、ゼロ視覚パラメータを静かに適応させ、3つのデータセットすべてでBLEU-4を改善する。

関連論文リスト

• Cone Extended Rayleigh Quotients for Directed Graph Learning: Minimax Spectral Certificates, Sensitivity, and Adaptive Control [0.0]
  我々は、対称性、非負性性、コーン保存を必要とせず、スペクトル認証、感度分析、制御のための学習指向方法論を開発する。 簡単な内部レベルでは、右モードと左モードは[D_C(B)[H]=v_CT H u_C, ]を満たす。 数値実験により,円錐保存演算子と有向学習設定を超越したアプローチの適用性を示す。
  論文  参考訳（メタデータ） (2026-08-27T13:37:02Z)
• Variance-reduced Domain Adaptation using Paired Sampling [2.0305676256390934]
  相関アライメントと最大平均差は、教師なし領域適応に広く使われている。 これらの損失のばらつきは、ミニバッチ環境での有効性を損なうことが示されている。 本稿では,Paired Smpling for Domain Adaptation (PSDA)を提案する。
  論文  参考訳（メタデータ） (2026-07-22T16:58:45Z)
• SDS-LoRA: Overcoming Anisotropic Gradient Scaling in Low-Rank Adaptation [64.33799467286265]
  Low-Rank Adaptation (LoRA)は、大規模な事前訓練されたモデルの下流タスクへの効率的な適応を可能にする。 完全な微調整勾配が低ランク行列に逆伝播すると,その特異値によって誘導される異方性スケーリングを受けることを示す。 本稿では,後方パスから特異値を構造的に分離する新しい低ランクパラメータ化SDS-LoRAを提案する。
  論文  参考訳（メタデータ） (2026-06-15T09:27:50Z)
• Heteroskedastic Signals in Budgeted LLM Verification: Structural Heterogeneity Limits Optimization Gains [4.560961083890857]
  大規模言語モデル(LLM)システムは、検証、テストタイムのスケーリング、ツールの実行、その他の選択的な計算処理に限定的な計算を割り当てるために不確実性信号を使用するようになっている。 我々は,不確実性の品質がコスト層全体で不均一であることを示し,多くのエラーが集中しているにもかかわらず,ほぼランダムな差別性を示す地域もあることを示した。
  論文  参考訳（メタデータ） (2026-06-14T14:45:57Z)
• Invariant Gradient Alignment for Robust Reasoning Distillation [9.39195684989942]
  大規模言語モデル(LLM)は、論理構造が同一であっても、意味的表面がトレーニングデータと異なるOOD入力で失敗する。 このことは知識蒸留パイプラインを弱め、より小規模の学生にチェーン・オブ・ソート・推論を伝達する。 Invariant Gradient Alignment (IGA)は、意味的に多様だが論理的に同型な例にまたがって勾配更新を調整するトレーニングフレームワークである。
  論文  参考訳（メタデータ） (2026-06-03T15:48:52Z)
• Relative Scaling Laws for LLMs [91.73497548097775]
  スケーリング法則は、追加のデータ、パラメータ、計算によって言語モデルがどのように改善されるかを記述する。 相対的なスケーリング法則を導入し、テスト分布間のパフォーマンスギャップをスケールで追跡する。 これらの結果は、スケーリングは全体的なパフォーマンスを改善するが、普遍的等化器ではないことを示している。
  論文  参考訳（メタデータ） (2025-10-28T16:55:22Z)
• Towards Better Gradient Consistency for Neural Signed Distance Functions via Level Set Alignment [50.892158511845466]
  レベルセットの並列性によって示される場の勾配一貫性が、推論精度に影響を及ぼす重要な要因であることを示す。 そこで本研究では,次数集合の並列性を評価するためのレベルセットアライメント損失を提案する。
  論文  参考訳（メタデータ） (2023-05-19T11:28:05Z)
• AdaTriplet-RA: Domain Matching via Adaptive Triplet and Reinforced Attention for Unsupervised Domain Adaptation [15.905869933337101]
  教師なしドメイン適応(Unsupervised Domain Adaption、UDA)は、ソースドメインのデータとアノテーションが利用できるが、トレーニング中にラベル付けされていないターゲットデータにのみアクセスできるトランスファー学習タスクである。 本稿では、ドメイン間サンプルマッチング方式を用いて、教師なしドメイン適応タスクを改善することを提案する。 ドメイン間サンプルに合わせるために,広く利用され,堅牢なTriplet損失を適用した。 トレーニング中に発生する不正確な擬似ラベルの破滅的効果を低減するため,信頼度の高い擬似ラベルを自動的に選択し,段階的に改良する新しい不確実性測定法を提案する。
  論文  参考訳（メタデータ） (2022-11-16T13:04:24Z)
• Divide and Contrast: Source-free Domain Adaptation via Adaptive Contrastive Learning [122.62311703151215]
  Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。 DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。 さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
  論文  参考訳（メタデータ） (2022-11-12T09:21:49Z)
• Label Distributionally Robust Losses for Multi-class Classification: Consistency, Robustness and Adaptivity [55.29408396918968]
  多クラス分類のためのラベル分布ロバスト(LDR)損失という損失関数群について検討した。 我々の貢献は、多クラス分類のためのLDR損失のトップ$kの一貫性を確立することによって、一貫性と堅牢性の両方を含んでいる。 本稿では,各インスタンスのクラスラベルの雑音度に個別化温度パラメータを自動的に適応させる適応型LDR損失を提案する。
  論文  参考訳（メタデータ） (2021-12-30T00:27:30Z)
• Deep F-measure Maximization for End-to-End Speech Understanding [52.36496114728355]
  本稿では,F測度に対する微分可能な近似法を提案し,標準バックプロパゲーションを用いてネットワークをトレーニングする。 我々は、アダルト、コミュニティ、犯罪の2つの標準フェアネスデータセットの実験を行い、ATISデータセットの音声・インテリジェンス検出と音声・COCOデータセットの音声・イメージ概念分類を行った。 これらの4つのタスクのすべてにおいて、F測定は、クロスエントロピー損失関数で訓練されたモデルと比較して、最大8%の絶対的な絶対的な改善を含む、マイクロF1スコアの改善をもたらす。
  論文  参考訳（メタデータ） (2020-08-08T03:02:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。