論文の概要: Output Composability of QLoRA PEFT Modules for Plug-and-Play Attribute-Controlled Text Generation

• arxiv url: http://arxiv.org/abs/2605.12345v1
• Date: Tue, 12 May 2026 16:21:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-13 21:48:57.008278
• Title: Output Composability of QLoRA PEFT Modules for Plug-and-Play Attribute-Controlled Text Generation
• Title（参考訳）: プラグ・アンド・プレイ属性制御テキスト生成のためのQLoRA PEFTモジュールの出力構成性
• Authors: Michela Lorandi, Anya Belz,
• Abstract要約: 組み合わせ効率のよい微調整(PEFT)技術は、完全な微調整のコストのごく一部でタスク固有の微調整を提供する。 i)複数の関連するデータセットの組み合わせに関するトレーニング、(ii)個別に訓練されたPEFTモジュールの重量行列を構成する推論、(iii)個別に訓練されたPEFTモジュールの出力を構成する推論の3つの方法を探る。
• 参考スコア（独自算出の注目度）: 5.999912718983889
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Parameter-efficient fine-tuning (PEFT) techniques offer task-specific fine-tuning at a fraction of the cost of full fine-tuning, but require separate fine-tuning for every new task (combination). In this paper, we explore three ways of generalising beyond single-task training/inference: (i) training on combinations of multiple, related datasets; (ii) at inference, composing the weight matrices of separately trained PEFT modules; and (iii) at inference, composing the outputs of separately trained PEFT modules. We test these approaches on three different LLMs, QLoRA as the PEFT technique, and three sets of controlled text generation datasets for sentiment control, topic control, and multi-attribute control. We find that summing PEFT module outputs is a particularly strong composition method, which consistently either outperforms or matches the performance of alternative approaches. This is the case even when comparing against single-task specialised modules on the single-task test set, where three-module output composition achieves an average 2% point performance increase across all models for sentiment control.
• Abstract（参考訳）: パラメータ効率のよい微調整(PEFT)技術は、完全な微調整のコストのごく一部でタスク固有の微調整を提供するが、新しいタスク(組み合わせ)ごとに個別の微調整を必要とする。 本稿では,単一タスクのトレーニング/推論を超えて,3つの一般化方法を検討する。 一 複数の関連データセットの組み合わせの訓練 (二)個別に訓練されたPEFTモジュールの重量行列の作成、及び (iii)個別に訓練されたPEFTモジュールの出力を構成する推論において。 提案手法は,PEFT手法としてQLoRA,感情制御,トピック制御,マルチ属性制御のための3種類のテキスト生成データセットを用いて検証した。 PEFTモジュール出力の総和は特に強い合成法であり,他の手法よりも優れるか,あるいは一致していることがわかった。 3つのモジュールの出力構成が感情制御のための全てのモデルで平均2%のポイントパフォーマンス向上を達成した場合、シングルタスクの特殊モジュールと比較した場合も、これは同じである。

関連論文リスト

• One LLM to Train Them All: Multi-Task Learning Framework for Fact-Checking [7.856998585396422]
  大規模言語モデル(LLM)は、統合されたエンドツーエンドの検証パイプラインを有効にすることで、自動化されたファクトチェック(AFC)を再構築している。 我々は,主張検出,エビデンスランキング,スタンス検出を共同で行うために,単一のモデルを微調整する,より効率的な代替手段として,textbfmulti-task Learning (MTL)を提案する。
  論文  参考訳（メタデータ） (2026-01-16T13:44:25Z)
• TT-LoRA MoE: Unifying Parameter-Efficient Fine-Tuning and Sparse Mixture-of-Experts [4.5558042369389105]
  TT-LoRA MoEはトレーニングを2つの異なる最適化段階に分解する。 まず、軽量かつテンソル化低ランクアダプタ(TT-LoRAエキスパート)を個別に訓練する。 その後、これらの専門家アダプタは凍結状態のままであり、マルチタスク設定でタスク間干渉を排除し、忘れる。 個別に訓練されたスパースMOEルータは、ベースモデル表現を動的に活用し、推論時に入力ごとに正確に1つの特別なアダプタを選択する。 総合的な実験により、我々のアーキテクチャは低ランクアダプタのメモリ効率を保ち、大きなエキスパートプールにシームレスにスケールし、堅牢なタスクレベルの最適化を実現する。
  論文  参考訳（メタデータ） (2025-04-29T21:46:43Z)
• Efficient and Effective Weight-Ensembling Mixture of Experts for Multi-Task Model Merging [111.8456671452411]
  マルチタスク学習(MTL)は、共有モデルを利用して複数のタスクを遂行し、知識伝達を促進する。 マルチタスクモデル統合のためのウェイトエンセブリング・ミックス・オブ・エキスパート(WEMoE)手法を提案する。 WEMoEとE-WEMoEは, MTL性能, 一般化, 堅牢性の観点から, 最先端(SOTA)モデルマージ法より優れていることを示す。
  論文  参考訳（メタデータ） (2024-10-29T07:16:31Z)
• Learning to Route for Dynamic Adapter Composition in Continual Learning with Language Models [56.93608812478369]
  本稿では,新たなPEFTモジュールのトレーニングを分離し,タスクの専門化を保証する手法であるL2Rを提案する。 その後、L2Rは学習したモジュールを学習し、以前見たタスクの例を含む小さなメモリを利用するルータのネットワークをトレーニングする。 その結果,L2RはPEFTモジュールの効率的な構成を提供し,他の手法と比較して一般化と性能が向上した。
  論文  参考訳（メタデータ） (2024-08-16T23:57:29Z)
• Assessing the Portability of Parameter Matrices Trained by Parameter-Efficient Finetuning Methods [6.653947064461629]
  タスク固有の知識をあるモデルから別のモデルにエンコードする機能モジュール全体を移植する。 我々は,パラメータ効率の微調整(PEFT)技術で訓練されたモジュールの可搬性をテストするために,1,440のトレーニング/テストランからなる研究を設計した。 移植したモジュールは2つの代替品よりはるかに優れているが,4つのPEFT技術の間には興味深い性能差がある。
  論文  参考訳（メタデータ） (2024-01-25T15:11:07Z)
• AutoPEFT: Automatic Configuration Search for Parameter-Efficient Fine-Tuning [77.61565726647784]
  ニューラルアーキテクチャ検索の進歩により,自動PEFT設定選択のためのAutoPEFTを提案する。 本稿では,AutoPEFTが検出した構成が既存のPEFT法よりも大幅に優れており,FFTと同等かそれ以上であることを示す。
  論文  参考訳（メタデータ） (2023-01-28T08:51:23Z)
• UniPELT: A Unified Framework for Parameter-Efficient Language Model Tuning [64.638804236566]
  本稿では,異なるPELTメソッドをサブモジュールとして組み込んだ統一フレームワークUniPELTを提案する。 注目すべきは、GLUEベンチマークにおいて、UniPELTは、異なる設定で微調整を組み込んだり、性能を上回る、最高のPELTメソッドと比較して、一貫して13パーセントのゲインを達成していることだ。
  論文  参考訳（メタデータ） (2021-10-14T17:40:08Z)
• UPDeT: Universal Multi-agent Reinforcement Learning via Policy Decoupling with Transformers [108.92194081987967]
  タスクに適合する1つのアーキテクチャを設計し、汎用的なマルチエージェント強化学習パイプラインを最初に試行する。 従来のRNNモデルとは異なり、トランスフォーマーモデルを用いてフレキシブルなポリシーを生成する。 提案方式はUPDeT(Universal Policy Decoupling Transformer)と名付けられ,動作制限を緩和し,マルチエージェントタスクの決定プロセスをより説明しやすいものにする。
  論文  参考訳（メタデータ） (2021-01-20T07:24:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。