論文の概要: Reasoning Supervision and Capability Retention in LoRA Domain Adaptation
- arxiv url: http://arxiv.org/abs/2611.17072v1
- Date: Thu, 12 Nov 2026 16:45:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.557755
- Title: Reasoning Supervision and Capability Retention in LoRA Domain Adaptation
- Title(参考訳): LoRAドメイン適応における推論スーパービジョンとキャパビリティ保持
- Abstract要約: 低ランク適応(LoRA)を用いた微調整Qwen3-8Bの幅広い改善点について述べる。
本研究は,(1)指示応答のみをラベルとするLoRA,(2)教師モデルからの推論トレースをラベルに加えるシングルアダプタ推論,(3)ラベルとラベルに基づいて個別のLoRAアダプタをトレーニングするデュアルアダプタ複合トレーニング,の3つのトレーニング体制を比較した。
- 参考スコア(独自算出の注目度): 3.512564397445344
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Fine-tuning foundation models on financial data has a wide range of applications, including identifying event types from news, monitoring risk and compliance language, and answering questions over filings and earnings calls. In this setting, the main challenge is to improve task performance without degrading the generalization capabilities of the model. In this paper, we present an extensive set of ablations for fine-tuning Qwen3-8B with low-rank adaptation (LoRA). We compare three training regimes: (1) response-only LoRA, where the supervised response is the label alone; (2) single-adapter reasoning, where reasoning traces from a teacher model are included alongside the labels in the training loss; and (3) dual-adapter composite training, where separate LoRA adapters are trained on traces and labels. Response-only LoRA improves in-domain performance and leaves general capabilities near those of the frozen model. The in-domain change is largest for calibration and argmax accuracy. Under single-adapter reasoning, the in-domain metrics remain behind those of the response-only regime, while MMLU-Pro can rise slightly and the other retention benchmarks stay within ordinary variation. Dual-adapter composite training remains on the same side of this comparison and yields no further gain. Finally, we compress the teacher traces by summarizing them before training, and show that shorter summaries move calibration toward the response-only regime without reaching it.
- Abstract(参考訳): 金融データに関する微調整の基礎モデルは、ニュースからイベントタイプを特定すること、リスクとコンプライアンスの言語を監視すること、申請書や決算報告に関する質問に答えることなど、幅広い応用がある。
この設定では、モデルの一般化能力を低下させることなくタスク性能を改善することが主な課題である。
本稿では,低ランク適応 (LoRA) を用いた微調整Qwen3-8Bのアブレーションについて述べる。
本研究は,(1)指示応答のみをラベルとするLoRA,(2)教師モデルからの推論トレースをラベルに加えるシングルアダプタ推論,(3)ラベルとラベルに基づいて個別のLoRAアダプタをトレーニングするデュアルアダプタ複合トレーニング,の3つのトレーニング体制を比較した。
応答のみのLoRAはドメイン内のパフォーマンスを改善し、凍結モデルに近い一般的な機能を残している。
ドメイン内の変更はキャリブレーションとargmaxの精度で最大である。
一方、MMLU-Proはわずかに上昇し、他の保持ベンチマークは通常の変動に留まる。
二重適応型複合訓練は、この比較の同じ側に留まり、それ以上の利得は得られない。
最後に,教師のトレースをトレーニング前に要約することで圧縮し,短いサマリーが応答のみの体制に到達せずにキャリブレーションを移動させることを示す。
関連論文リスト
- SD-LoRA: Training-Time Structural Distillation into LoRA for Few-Shot Vision-Language Adaptation [8.464628798336483]
SD-LoRAは,訓練中のみトークンレベルのグラフ推論を用いる構造蒸留フレームワークである。
このグラフをテスト時に保持するのではなく、SD-LoRAは構造バイアスを共有CLIP-LoRAバックボーンに転送する。
その結果, トレーニング時間構造監視は精度と伝達信頼性を両立させることがわかった。
論文 参考訳(メタデータ) (2026-11-04T19:22:47Z) - Learn the Directions, Normalize the Gains: Post-Training Normalization for LoRA [36.66664283517932]
Low-Rank Adaptation (LoRA)は効率的なタスク特殊化を可能にする。
トレーニング後の正規化手法である textbfLoRA-Norm をモチベーションとし、学習の方向性を維持しながら利得を再バランスさせる。
論文 参考訳(メタデータ) (2026-10-01T17:07:21Z) - Mask the Target: A Plug-and-Play Regularizer Against LoRA Forgetting [28.32780832670352]
Low-Rank Adaptation (LoRA)は、大規模言語モデルに適応するための最も広く使われている微調整機構の1つである。
適応分布がモデルのオリジナルのトレーニングやアライメントの分布と大きく異なる場合,この考え方は特に深刻なものとなる。
この制約に触発されて、我々はLoRAベースの適応が、リプレイフリー環境で忘れることに対する新しい学習のバランスをいかに改善するかを考察した。
論文 参考訳(メタデータ) (2026-05-28T07:22:39Z) - Strategic Over-Parameterization for Generalizable Low-Rank Adaptation [14.867641913391779]
大規模言語モデルへの完全な微調整による下流タスクへの適応は、計算とメモリの要求のため、ますます現実的ではない。
LoRA-Overは単純な原則に基づくフレームワークで、トレーニング中に最適化の風景を豊かにし、推論時に豊かにする。
LLaMA 2-7B と LLaMA 3.1-8B を用いた言語理解 (GLUE, T5-Base), 対話 (MT-Bench), 算術的推論 (GSM8K), コード生成 (HumanEval) に基づく LoRA-Over の評価を行った。
論文 参考訳(メタデータ) (2026-05-15T12:26:17Z) - Learning Rate Matters: Vanilla LoRA May Suffice for LLM Fine-tuning [48.66442009036754]
Low-Rank Adaptation (LoRA)は、効率的な大規模言語モデルの微調整のための一般的なアプローチである。
本研究では,バニラ・ロラとともに4つの代表的ロラ変種を再評価する。
異なるLoRA手法が学習率の異なる範囲を好んでいることが判明した。
論文 参考訳(メタデータ) (2026-02-04T19:36:20Z) - SD-LoRA: Scalable Decoupled Low-Rank Adaptation for Class Incremental Learning [73.93639228235622]
基礎モデルによる継続的な学習は、シーケンシャルなタスクに取り組むための事前トレーニング中に得られた豊富な知識を活用するための有望なパラダイムとして現れてきた。
既存のプロンプトベースおよびローランク適応ベース(LoRAベース)メソッドでは、プロンプト/ローラプールの拡張や、以前のタスクのサンプルの保持がしばしば必要である。
クラスインクリメンタル学習のためのスケーラブルデカップリングLoRA(SD-LoRA)を提案する。
論文 参考訳(メタデータ) (2025-01-22T20:00:41Z) - Unlocking Tuning-Free Few-Shot Adaptability in Visual Foundation Models by Recycling Pre-Tuned LoRAs [76.40876036912537]
大規模言語モデル(LLM)は、微調整を必要とせず、強力な少数ショット適応性を示す。
現在のVisual Foundation Models (VFM) は十分なチューニングデータを持つ明示的な微調整を必要とする。
そこで我々は, メタ学習目的の多様なLoRAからメタLoRAを蒸留するフレームワークであるLoRA Recycleを提案する。
論文 参考訳(メタデータ) (2024-12-03T07:25:30Z) - Replay-Free Continual Low-Rank Adaptation with Dynamic Memory [62.85596937435928]
我々は、事前学習された視覚変換器(ViT)が、時間とともに新しい下流タスクを逐次微調整できる連続学習を再考する。
近年の研究では、CL技術とパラメータ効率の良い微調整の交差が強調されている。
DualLoRA (Dual Low-Rank Adaptation) と呼ばれる新しいPEFT-CL法を提案する。
論文 参考訳(メタデータ) (2024-11-01T14:28:39Z) - DoRA: Weight-Decomposed Low-Rank Adaptation [57.68678247436207]
本稿では,FTとLoRAの相違点を明らかにするために,新しい重み分解解析法を提案する。
本研究は、FTの学習能力に類似することを目的として、重量分解低ランク適応(DoRA)を提案する。
DoRAは、事前訓練された重量を、微調整のための大きさと方向の2つの構成要素に分解する。
論文 参考訳(メタデータ) (2024-02-14T17:59:34Z) - PRILoRA: Pruned and Rank-Increasing Low-Rank Adaptation [65.268245109828]
我々はPRILoRAを導入し、各層ごとに異なるランクを線形に割り当て、トレーニングプロセスを通してプルーニングを行う。
8つのGLUEベンチマークで広範な実験を行い,PRILoRAの有効性を検証する。
論文 参考訳(メタデータ) (2024-01-20T20:25:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。