論文の概要: Discovering Undisclosed Concepts in LoRA Adapters for Diffusion-Based AIGC Models
- arxiv url: http://arxiv.org/abs/2610.18990v1
- Date: Tue, 13 Oct 2026 18:00:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.737682
- Title: Discovering Undisclosed Concepts in LoRA Adapters for Diffusion-Based AIGC Models
- Title（参考訳）: 拡散型AIGCモデルのためのLoRAアダプタにおける未公表概念の発見
- Abstract要約: Low-Rank Evolutionary Adaptation (LoRA)は、拡散モデルのパーソナライゼーションを安価かつ広く共有可能にする。
テキストから画像へのLoRAのための2段階フレームワークを開発した。
- 参考スコア（独自算出の注目度）: 24.83048107636854
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Low-Rank Adaptation (LoRA) has made diffusion model personalization affordable and widely shareable, but it also creates moderation risks when harmful or problematic content is not faithfully disclosed. Hence, it is desired to develop a mechanism that, given a LoRA adapter, discovers the concept it was trained to generate, so as to support downstream investigation. We characterize the target concept through the conditioning input that most clearly exposes what the LoRA has learned. Such an input should induce coherent LoRA outputs that are distinctive from those of the base model and strongly align with the learned LoRA subspace. We therefore formulate concept discovery as searching for the conditioning input that jointly maximizes output coherence, LoRA-induced distinctiveness, and subspace alignment. Even with a clear objective, however, optimizing it over an open-ended input space is prohibitively expensive, since reliable evaluation of coherence and distinctiveness requires repeated diffusion rendering. Crucially, we observe that an input need not be rendered to determine whether it is promising. Its alignment with the learned LoRA subspace provides a lightweight signal for localizing promising candidates before visual verification. Based on this insight, we develop a two-stage framework for text-to-image LoRAs. Subspace-Guided Evolutionary Search (SGES) uses render-free subspace alignment to explore candidate prompts and retain a compact shortlist, while Paired Visual Identification (PVI) renders only these candidates and compares the LoRA and base-model outputs to identify those exhibiting coherent and distinctive generation behavior. This design enables efficient and reliable discovery of previously unknown concepts encoded in LoRA adapters.
- Abstract（参考訳）: Low-Rank Adaptation (LoRA)は、拡散モデルのパーソナライゼーションを安価かつ広く共有可能にする一方で、有害または問題のあるコンテンツが忠実に開示されない場合のモデレーションリスクも生み出している。
したがって、LoRAアダプタが与えられたら、下流の調査を支援するために、それが生成するために訓練された概念を発見するメカニズムを開発することが望まれる。
我々は、LoRAが学んだことを最も明確に示す条件入力により、ターゲット概念を特徴づける。
このような入力は、ベースモデルの出力とは異なるコヒーレントなLoRA出力を誘導し、学習したLoRA部分空間と強く整合するべきである。
そこで我々は、出力コヒーレンス、LoRAによる特異性、および部分空間アライメントを共同で最大化する条件入力を探すために、概念発見を定式化する。
しかし、明確な目的があるとしても、コヒーレンスと特異性の信頼性評価には反復拡散レンダリングが必要であるため、オープンエンドの入力空間上で最適化することは非常に高価である。
重要なことに、有望かどうかを判断するために入力を描画する必要はない。
学習したLoRAサブスペースとのアライメントは、視覚的検証の前に有望な候補をローカライズするための軽量信号を提供する。
この知見に基づき、テキストから画像へのLoRAのための2段階のフレームワークを開発する。
Subspace-Guided Evolutionary Search (SGES)は、レンダリングのないサブスペースアライメントを使用して、候補プロンプトを探索し、コンパクトなショートリストを保持する。
この設計により、LoRAアダプタで符号化された未知の概念を効率的かつ信頼性の高い発見が可能となった。
関連論文リスト
- Exploring Data-Free LoRA Transferability for Video Diffusion Models [41.981710361053196]
ステップ蒸留や因果蒸留を利用したビデオ拡散モデルは優れた性能を発揮した。
既存のLoRAをこれらの変種に適用することは、重量空間のミスマッチのため重要な課題である。
本稿では、ターゲットの多様体の保護とLoRAアライメントの復元を動的に仲裁するデータフリーフレームワークであるCluster-Aware Spectral Arbitration (CASA)を提案する。
論文 参考訳（メタデータ） (2026-05-03T15:22:53Z) - Preference-Aligned LoRA Merging: Preserving Subspace Coverage and Addressing Directional Anisotropy [50.63908869296697]
複数のローランド適応(LoRA)モジュールを統合することで汎用システムの構築が期待できる。
優先重み付きクロスエントロピー擬似空間を用いて重みを重み付けするTARA-Mergingを提案する。
8つのビジョンと6つのNLIベンチマークで、TARA-MergingはバニラとLoRA対応のベースラインを一貫して上回っている。
論文 参考訳（メタデータ） (2026-03-27T11:07:46Z) - AuthenLoRA: Entangling Stylization with Imperceptible Watermarks for Copyright-Secure LoRA Adapters [52.556959321030966]
Low-Rank Adaptation (LoRA) は拡散モデルをカスタマイズするための効率的なパラダイムを提供する。
既存の透かし技術はベースモデルをターゲットにするか、LoRAモジュール自体を検証する。
本稿では,LoRAトレーニングプロセスに直接,認識不能でトレーサブルな透かしを埋め込む統一透かしフレームワークであるAuthenLoRAを提案する。
論文 参考訳（メタデータ） (2025-11-26T09:48:11Z) - NP-LoRA: Null Space Projection Unifies Subject and Style in LoRA Fusion [16.64405108290577]
Low-Rank Adaptation (LoRA) 融合は学習対象とスタイル表現を再利用・構成するための重要な技術である。
既存の方法は重量ベースのマージに依存しており、一方のLoRAが他方を支配下に置くことが多い。
サブスペース分離を強制するLoRA融合のためのプロジェクションベースのフレームワークであるNull Space Projection LoRAを提案する。
論文 参考訳（メタデータ） (2025-11-14T08:06:01Z) - Latent Space Factorization in LoRA [10.994747174370099]
低ランク適応 (LoRA) はパラメータ効率の高い微調整法として広く用いられている。
本稿ではFVAE-LoRA(Facterized Variational Autoencoder LoRA)を提案する。
また,本論文のエビデンス・ロウアー・バウンドの定式化は,潜在空間間の分解を明示的に促進し,一方の潜在空間をタスク・サレントな特徴に,他方の残余情報に割り当てるものである。
論文 参考訳（メタデータ） (2025-10-22T14:37:20Z) - LoRAtorio: An intrinsic approach to LoRA Skill Composition [11.429106388558925]
Low-Rank Adaptation (LoRA) はテキスト・画像拡散モデルにおいて広く採用されている手法である。
既存のアプローチでは、複数のLoRAアダプタを効果的に構成するのに苦労している。
ロラトリオ(Loratorio)は、マルチロラ合成のための新しいフリートレインフレームワークである。
論文 参考訳（メタデータ） (2025-08-15T17:52:56Z) - TARA: Token-Aware LoRA for Composable Personalization in Diffusion Models [34.116172209476254]
token-Aware LoRA (TARA) を提案する。
TARAは、各モジュールが干渉を避けるために関連するレアトークンに集中することを制約し、トレーニング目的はレアトークンの空間的注意をその概念領域に合わせるように促す。
提案手法は,複数の独立したTARAモジュールを推論時に直接注入することで,トレーニング不要なマルチコンセプト合成を可能にする。
論文 参考訳（メタデータ） (2025-08-12T10:14:15Z) - Mixture of LoRA Experts [87.50120181861362]
本稿では,階層的制御と未分散分岐選択を利用する LoRA Experts (MoLE) アプローチを提案する。
MoLEアプローチは直接算術マージよりも優れたLoRA融合性能を実現する。
論文 参考訳（メタデータ） (2024-04-21T11:59:53Z) - Continual Forgetting for Pre-trained Vision Models [70.51165239179052]
現実のシナリオでは、選択的な情報は事前訓練されたモデルから継続的に取り除かれることが期待される。
効率的な削除のためのグループスパースロラ(GS-LoRA)を提案する。
我々は,顔認識,物体検出,画像分類に関する広範な実験を行い,GS-LoRAが他のクラスに最小限の影響で,特定のクラスを忘れることが実証された。
論文 参考訳（メタデータ） (2024-03-18T07:33:56Z) - LoRATK: LoRA Once, Backdoor Everywhere in the Share-and-Play Ecosystem [55.2986934528672]
タスク強化型LORAにバックドアを注入する方法を検討する。
シンプルで効率的で具体的なレシピで、バックドアのLoRAを一度トレーニングして、シームレスに複数のLoRAとマージできることが分かりました。
我々の研究は、下流の可搬性イットバックドア注入型LORAのトレーニング不要分布の新しい脅威モデルを研究する最初のものである。
論文 参考訳（メタデータ） (2024-02-29T20:25:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。