論文の概要: ReGRA: Residual-Gradient Adaptation for Complementary Low-Rank Fine-Tuning

• arxiv url: http://arxiv.org/abs/2610.19700v1
• Date: Wed, 14 Oct 2026 07:23:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:16.001939
• Title: ReGRA: Residual-Gradient Adaptation for Complementary Low-Rank Fine-Tuning
• Title（参考訳）: ReGRA: 相補的低ランクファインチューニングのための残留勾配適応
• Abstract要約: 低ランク適応(LoRA)は、低ランクの重み更新を学習することでパラメータ効率の良い微調整を可能にする。 ランクの上昇は適応能力を高めるが、学習した全ての方向が下流のパフォーマンスを改善することを保証しない。 固定格の予算をより効果的に活用するための2段階の手法であるResidual-Gradient Adaptation (ReGRA)を提案する。
• 参考スコア（独自算出の注目度）: 10.59750444734296
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Low-rank adaptation (LoRA) enables parameter-efficient fine-tuning by learning low-rank weight updates. Increasing rank expands adaptation capacity, but does not guarantee that all learned directions improve downstream performance. In a diagnostic experiment with rank-16 LoRA, we show that retaining only the top singular components achieves the best performance, whereas adding further components degrades it. Motivated by this, we propose Residual-Gradient Adaptation (ReGRA), a two-stage method for making more effective use of a fixed rank budget. After the first stage, ReGRA estimates task gradients on a calibration set and removes their projections onto the two-sided subspace induced by the first-stage update. It then aggregates the residual-gradient directions to initialize a second-stage adapter without changing the first-stage update. An orthogonality regularizer encourages the two updates to capture complementary directions. Both updates can be merged into the pretrained weights, incurring no additional inference overhead. Across diverse benchmark sets, ReGRA achieves stronger performance than alternatives with the same total rank and even matches LoRA adapters with twice the rank. Ablation studies and further analysis support the contribution of its core design choices. Code is available at https://github.com/Fanyao-Li/ReGRA.
• Abstract（参考訳）: 低ランク適応(LoRA)は、低ランクの重み更新を学習することでパラメータ効率の良い微調整を可能にする。 ランクの上昇は適応能力を高めるが、学習した全ての方向が下流のパフォーマンスを改善することを保証しない。 ランク16LORAを用いた診断実験では,上位特異成分のみの保持が最高の性能を達成する一方で,さらなる成分の追加によって劣化することを示した。 そこで我々はResidual-Gradient Adaptation (ReGRA)を提案する。 第1ステージの後、ReGRAはキャリブレーションセット上のタスク勾配を推定し、第1ステージ更新によって誘導される両側部分空間へのプロジェクションを除去する。 その後、残る段階的な方向を集約し、第1段階の更新を変更することなく第2段階のアダプタを初期化する。 直交正則化器は2つの更新を補完的な方向を捉えるように促す。 どちらの更新も事前訓練された重みにマージすることができ、追加の推論オーバーヘッドは発生しない。 多様なベンチマークセット全体にわたって、ReGRAは同じ全ランクの代替品よりもパフォーマンスが向上し、LoRAアダプタと2倍のランクでマッチする。 アブレーション研究とさらなる分析は、その中核となる設計選択の貢献を支持している。 コードはhttps://github.com/Fanyao-Li/ReGRAで入手できる。

関連論文リスト

• Spectral-Driven Adaptive-Rank Optimizer for Large Language Model Reinforcement Learning with Verifiable Rewards [96.15300825638985]
  RLVR(Reinforcement Learning with rewards)は、大規模言語モデル(LLM)が推論能力を取得する方法を変えようとしている。 RLVRは異なる幾何を要求する異なる最適化幾何を誘導するのか? 我々は、勾配のスペクトルエネルギー分布から効果的な更新ランクを推定し、その進化を追跡し、各更新を低ランク部分空間に駆動する勾配信号を閉じ込めるアレスを導入する。
  論文  参考訳（メタデータ） (2026-10-12T10:21:21Z)
• Learn the Directions, Normalize the Gains: Post-Training Normalization for LoRA [36.66664283517932]
  Low-Rank Adaptation (LoRA)は効率的なタスク特殊化を可能にする。 トレーニング後の正規化手法である textbfLoRA-Norm をモチベーションとし、学習の方向性を維持しながら利得を再バランスさせる。
  論文  参考訳（メタデータ） (2026-10-01T17:07:21Z)
• Learn What's Left, Not What's Mastered: Saturation Aware Advantage Reweighting for Multi-Reward Policy Optimization [60.89431018071735]
  グループ相対的な優位性を持つ強化学習は、訓練後の言語モデル推論のデファクトスタンダードとなっている。 異なる報酬プロファイルを持つロールアウトは、同じ利点を享受でき、現在の飽和度に関わらず、全ての目的が固定相対重みで最適化されることを示す。 本研究では,各報酬目標を独立に標準化し,目標飽和度をバッチレベルで推定した値に従って貢献を適応的に割引する飽和度認識再重み付けを導入する。
  論文  参考訳（メタデータ） (2026-08-17T04:07:50Z)
• SMoA: Spectrum Modulation Adapter for Parameter-Efficient Fine-Tuning [57.85676271833619]
  低ランク適応 (LoRA) は、全パラメータの微調整をシミュレートするために低ランク更新法を用いる。 ランクが大きくなるにつれて、より主特異な方向が保存され、一般にモデルの性能が向上する。 textbfSpectrum textbfModulation textbfAdapterを提案する。
  論文  参考訳（メタデータ） (2026-05-20T13:19:28Z)
• Spectral Surgery: Training-Free Refinement of LoRA via Gradient-Guided Singular Value Reweighting [19.886879714344076]
  Low-Rank Adaptation (LoRA)は、タスク更新を低ランクパラメータサブスペースに制限することで、ダウンストリームのパフォーマンスを改善する。 訓練されたLoRA更新は、しばしば非効率なスペクトルを示し、タスク効果は特異方向の小さなサブセットに集中している。 SVD で LoRA 更新を分解する訓練自由改良法である Spectral Surgery を提案する。
  論文  参考訳（メタデータ） (2026-03-04T12:38:36Z)
• ReasonRank: Empowering Passage Ranking with Strong Reasoning Ability [83.16850534680505]
  本稿では,自動推論集約型トレーニングデータ合成フレームワークを提案する。 自己整合性データフィルタリング機構は、データ品質を保証するために設計されている。 トレーニングされた推論集約型リランカ textbfReasonRank は,BRIGHT のリーダボード上での最先端 (SOTA) のパフォーマンス40.6 を達成する。
  論文  参考訳（メタデータ） (2025-08-09T17:26:18Z)
• Regularized Low-Rank Adaptation for Few-Shot Organ Segmentation [17.875098424936542]
  Low-Rank Adaptation (LoRA) は、低次元部分空間において適応が本質的に発生するという仮定に基づく顕著なアプローチである。 本稿では,適応時の内因性階位を動的に調整する医用画像セグメンテーションのための新しいアプローチを提案する。 提案手法は実写数発の微調整で評価され,まず標準のLoRAおよび他のPEFT法と比較する。
  論文  参考訳（メタデータ） (2025-07-21T16:51:53Z)
• AROMA: Autonomous Rank-one Matrix Adaptation [15.919752343000992]
  階層固有の更新を自動的に構築するフレームワークであるAROMAを導入し、段階的にゼロに減少するトレーニング可能なパラメータがほとんどないランクワンのコンポーネントを反復的に構築する。 AROMAは、自然言語理解や常識推論タスクにおいて優れたパフォーマンスを実現しつつ、LoRAやAdaLoRAと比較してパラメータを著しく削減する。
  論文  参考訳（メタデータ） (2025-04-06T09:14:43Z)
• Sparse Low-rank Adaptation of Pre-trained Language Models [79.74094517030035]
  本稿では,適応過程における固有ランクの動的調整を可能にする疎低ランク適応(SoRA)を提案する。 提案手法は,LoRAを高いランクで初期化すると同時に,一時的に増大するパラメータを効率的に利用することにより,LoRAの表現力を向上する。 実験の結果,SoRAは70%の保持パラメータと70%のトレーニング時間でも,他のベースラインよりも優れていることがわかった。
  論文  参考訳（メタデータ） (2023-11-20T11:56:25Z)
• Correcting Momentum in Temporal Difference Learning [95.62766731469671]
  時間差(TD)学習のモーメントは2倍に不安定になる勾配を蓄積すると主張している。 この現象が存在することを示し、その上で運動量に対する一階補正項を提案する。 この研究の重要な洞察は、深いRL法は、常に監督された設定から直接テクニックをインポートすることで最適ではないということである。
  論文  参考訳（メタデータ） (2021-06-07T20:41:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。