論文の概要: RecycleLoRA: Rank-Revealing QR-Based Dual-LoRA Subspace Adaptation for Domain Generalized Semantic Segmentation
- arxiv url: http://arxiv.org/abs/2603.28142v1
- Date: Mon, 30 Mar 2026 08:05:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-31 23:18:45.291138
- Title: RecycleLoRA: Rank-Revealing QR-Based Dual-LoRA Subspace Adaptation for Domain Generalized Semantic Segmentation
- Title(参考訳): RecycleLoRA: QR-based Dual-LoRA subspace Adaptation for Domain Generalized Semantic Segmentation
- Authors: Chanseul Cho, Seokju Yun, Jeaseong Jeon, Seungjae Moon, Youngmin Ro,
- Abstract要約: Vision Foundation Models (VFM) は、一般化を強化するための豊富なマルチドメイン知識を提供する。
VFM内のリッチな部分空間構造を積極的に活用するための既存の戦略は、未探索のままである。
本稿では,VFMのサブスペース構造を体系的に活用するためにRop-Revealing QR Decomposition (RRQR) を用いるRecycleLoRAを提案する。
- 参考スコア(独自算出の注目度): 8.041397263753709
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Domain Generalized Semantic Segmentation (DGSS) aims to maintain robust performance across unseen target domains. Vision Foundation Models (VFMs) offer rich multi-domain knowledge that can enhance generalization. However, strategies for actively exploiting the rich subspace structures within VFMs remain under-explored, with many existing methods focusing primarily on preserving pre-trained knowledge. Furthermore, their LoRA components often suffer from limited representational diversity and inefficient parameter utilization. We propose RecycleLoRA, which addresses both challenges by employing Rank-Revealing QR Decomposition (RRQR) to systematically exploit VFM's subspace structures and enhance LoRA's representational richness. Our main adapter leverages minor subspace directions identified by RRQR to learn diverse and independent features, achieving competitive performance even when used alone. We further introduce a sub adapter that carefully refines major directions with minimal adjustments, providing complementary improvements to the main adapter's strong baseline performance. This design enables the dual adapters to learn distinct representations without requiring additional regularization losses. Our systematic exploitation of pre-trained subspace structures through RRQR-based initialization leads to superior domain generalization performance. RecycleLoRA achieves state-of-the-art performance on both synthetic-to-real generalization and real-to-real generalization tasks without complex architectures or additional inference latency.
- Abstract(参考訳): ドメイン一般化セマンティックセグメンテーション(DGSS)は、目に見えないターゲットドメイン間で堅牢なパフォーマンスを維持することを目的としている。
Vision Foundation Models (VFM) は、一般化を強化するための豊富なマルチドメイン知識を提供する。
しかしながら、VFM内のリッチな部分空間構造を積極的に活用するための戦略は未探索のままであり、既存の多くの手法は、主に訓練済みの知識の保存に重点を置いている。
さらに、彼らのLoRAコンポーネントは、表現の多様性と非効率なパラメータ利用に悩まされることが多い。
本稿では,Range-Revealing QR Decomposition (RRQR)を用いてVFMのサブスペース構造を体系的に活用し,LoRAの表現豊かさを高めることで,両課題に対処するRecycleLoRAを提案する。
我々のメインアダプタは、RRQRで特定された小さな部分空間方向を利用して、多様で独立した特徴を学習し、単独で使用しても競争力を発揮する。
さらに、最小限の調整で主要方向を注意深く洗練し、主アダプタの強いベースライン性能を補完的に改善するサブアダプタも導入する。
この設計により、デュアルアダプタは、追加の正規化損失を必要とせずに、異なる表現を学習することができる。
RRQRをベースとした初期化による事前学習した部分空間構造の体系的利用により、ドメイン一般化性能が向上する。
RecycleLoRAは、複雑なアーキテクチャや追加の推論遅延なしに、合成から現実への一般化タスクと現実への一般化タスクの両方で最先端のパフォーマンスを実現する。
関連論文リスト
- $\text{R}^2\text{R}$: A Route-to-Rerank Post-Training Framework for Multi-Domain Decoder-Only Rerankers [14.52446670807422]
動的エキスパートルーティングと2段階のトレーニング戦略を組み合わせたドメイン認識フレームワークであるR2Rを紹介する。
ドメインエキスパートを効率的に活性化するために、R2Rは軽量のLatent Semantic Routerを使用している。
以上の結果から,R2Rは強いドメイン間ロバスト性を持つドメイン特殊化に対するモデルに依存しないモジュラーアプローチであることが確認された。
論文 参考訳(メタデータ) (2025-11-25T06:54:51Z) - Mixture of Ranks with Degradation-Aware Routing for One-Step Real-World Image Super-Resolution [76.66229730098759]
実世界の画像超解像(Real-ISR)では、既存のアプローチは主に微調整された事前学習拡散モデルに依存している。
単一ステップ画像超解像のためのMixture-of-Ranks (MoR)アーキテクチャを提案する。
LoRAの各ランクを独立した専門家として扱う、きめ細かい専門家分割戦略を導入する。
論文 参考訳(メタデータ) (2025-11-20T04:11:44Z) - HiLoRA: Adaptive Hierarchical LoRA Routing for Training-Free Domain Generalization [39.23407996213986]
Low-Rank Adaptation (LoRA) は、大規模言語モデルを新しいドメインに適応させる手法として広く使われている。
既存のメソッドは明示的なタスクラベルや追加のトレーニングに依存しており、デプロイには実用的ではない。
トレーニング不要なフレームワークである textttHiLoRA を提案し,LoRA プール上で適応的な階層的ルーティングを行う。
論文 参考訳(メタデータ) (2025-10-14T08:19:13Z) - Domain-Specific Data Generation Framework for RAG Adaptation [58.20906914537952]
Retrieval-Augmented Generation (RAG)は、大規模言語モデルの言語理解と推論能力と外部検索を組み合わせ、ドメイン基底応答を可能にする。
本稿では,様々なRAG適応手法に合わせて,ドメイン基底型質問応答コンテキスト(QAC)トリプルを生成するフレームワークであるRAGenを提案する。
論文 参考訳(メタデータ) (2025-10-13T09:59:49Z) - GENRE-CMR: Generalizable Deep Learning for Diverse Multi-Domain Cardiac MRI Reconstruction [0.8749675983608171]
本稿では,GAN(Generative Adversarial Network)ベースのアーキテクチャであるGENRE-CMRを提案する。
実験により、GENRE-CMRはトレーニングおよび未確認データに関する最先端の手法を超越し、未確認の分布に対して 0.9552 SSIM と 38.90 dB PSNR を達成したことが確認された。
我々のフレームワークは、高品質なCMR再構成のための統一的で堅牢なソリューションを提供し、不均一な取得プロトコルをまたいだ臨床適応可能なデプロイメントの道を開く。
論文 参考訳(メタデータ) (2025-08-28T09:43:59Z) - Crossing the Reward Bridge: Expanding RL with Verifiable Rewards Across Diverse Domains [92.36624674516553]
検証可能な報酬付き強化学習(RLVR)は、大規模言語モデル(LLM)の数学的推論と符号化性能の向上に成功している。
本稿では,医学,化学,心理学,経済学,教育など,さまざまな現実世界領域におけるRLVRの有効性と拡張性について検討する。
我々は,2値検証による制限を克服するために,ソフトなモデルに基づく報酬信号を生成する生成的スコアリング手法を利用する。
論文 参考訳(メタデータ) (2025-03-31T08:22:49Z) - Role Prompting Guided Domain Adaptation with General Capability Preserve
for Large Language Models [55.51408151807268]
特定のドメインに合わせると、LLM(Large Language Models)は破滅的な忘れを経験する傾向がある。
同時に複数のドメインのための汎用モデルを構築することで、全体的なパフォーマンスが低下することが多い。
RolE Prompting Guided Multi-Domain Adaptation (REGA) 戦略を提案する。
論文 参考訳(メタデータ) (2024-03-05T08:22:41Z) - Specificity-Preserving Federated Learning for MR Image Reconstruction [94.58912814426122]
統合学習は、磁気共鳴(MR)画像再構成におけるデータのプライバシーと効率を改善するために使用できる。
近年のFL技術は、グローバルモデルの一般化を強化することで、この問題を解決する傾向にある。
MR画像再構成のための特異性保存FLアルゴリズム(FedMRI)を提案する。
論文 参考訳(メタデータ) (2021-12-09T22:13:35Z) - Feature Alignment and Restoration for Domain Generalization and
Adaptation [93.39253443415392]
クロスドメイン機能アライメントは、ドメイン不変表現を学ぶために、異なるドメインの特徴分布を抽出するために広く研究されてきた。
本稿では,FAR(Feature Alignment and Restoration)と呼ばれる統合フレームワークを提案する。
複数の分類ベンチマークの実験は、ドメインの一般化と教師なしドメインの適応の両方のためのFARフレームワークの性能と強力な一般化を実証している。
論文 参考訳(メタデータ) (2020-06-22T05:08:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。