Fugu-MT 論文翻訳(概要): Learning to Select, Not Relearn: Hard-Routed Mixtures of Reasoning LoRAs

論文の概要: Learning to Select, Not Relearn: Hard-Routed Mixtures of Reasoning LoRAs

arxiv url: http://arxiv.org/abs/2606.31413v1
Date: Tue, 30 Jun 2026 09:40:38 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-01 18:27:19.168283
Title: Learning to Select, Not Relearn: Hard-Routed Mixtures of Reasoning LoRAs
Title（参考訳）: 学習者が選択し、学習しない: 推論するLoRAの難解な混合
Abstract要約: 本稿では,Loraの専門家を単位スケールのハードセレクションにより凍結推論するフレームワークを提案する。実験により、ハードルートMoR-LoRAはソフトルート混合基線よりもトレーニング可能なパラメータをかなり少なく必要としながら、専門家の挙動を保っていることが示された。
参考スコア（独自算出の注目度）: 27.71932231964013
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Composing independently trained LoRA adapters into a single large language model is useful for multi-domain adaptation, especially when the original training data cannot be shared. A common approach is to use MoE-style routing over LoRA experts, but for frozen pretrained adapters, soft weighted combinations can change the unit-scale additive update under which each LoRA module was originally trained. We propose \textbf{Hard-Routed MoR-LoRA}, a two-stage framework for composing frozen reasoning LoRA experts through unit-scale hard selection. First, domain-specific LoRA adapters are trained independently using reinforcement learning from verifiable feedback to obtain reasoning experts. Then, all experts are frozen, reasoning traces are distilled from them, and only a lightweight shared router together with a small attention LoRA is trained for integration. The router selects exactly one expert per token using hard top-1 routing, while a straight-through estimator enables gradient-based training. Experiments across five benchmarks, multiple model scales, and additional model families show that Hard-Routed MoR-LoRA preserves expert behavior while requiring substantially fewer trainable parameters than soft-routing mixture baselines. Our analysis further shows that normalized soft mixtures often concentrate most routing mass on a single expert, suggesting that hard unit-scale routing provides a simple and efficient abstraction for frozen LoRA expert composition.
Abstract（参考訳）: 独立に訓練されたLoRAアダプタを1つの大きな言語モデルに組み込むことは、特に元のトレーニングデータを共有できない場合、マルチドメイン適応に有用である。一般的なアプローチは、LoRAの専門家に対してMoEスタイルのルーティングを使用することであるが、凍結した事前訓練されたアダプタでは、各LoRAモジュールが最初にトレーニングされた単位スケールの加算更新を変更することができる。そこで我々は,LRAの専門家を単位スケールのハードセレクションで構成する2段階のフレームワークである‘textbf{Hard-Routed MoR-LoRA} を提案する。まず、ドメイン固有のLoRAアダプタは、検証可能なフィードバックから強化学習を使用して独立して学習し、推論の専門家を得る。すると、すべての専門家は凍結し、推論トレースはそれらから蒸留され、LoRAに小さな注意を払って軽量の共有ルータのみが統合のために訓練される。ルータはハードトップ1ルーティングを使用してトークンごとに正確に1つの専門家を選択し、ストレートスルー推定器は勾配ベースのトレーニングを可能にする。 5つのベンチマーク、複数のモデルスケール、モデルファミリーによる実験により、Hard-Routed MoR-LoRAはソフトルーチンの混合ベースラインよりもトレーニング可能なパラメータをかなり少なくし、専門家の振る舞いを保っていることが示された。さらに, ソフトミックスの正規化は, 単一エキスパートにほとんどのルーティング質量を集中させることがしばしばあり, ハードユニットスケールのルーティングは, 凍結したLORAのエキスパート構成に対して, 単純かつ効率的な抽象化を提供することを示す。

関連論文リスト

MoE$^2$-LoRA: When MoE Models Meet MoE-style Low-Rank Adaptation [23.49321952252126]
ミックス・オブ・エクササイズ(Mixture-of-Experts, MOE)アーキテクチャは大規模言語モデルで広く採用されているが、パラメータ効率のよいMOEモデルのための微細チューニング(PEFT)は未検討のままである。我々は、MoEスタイルの低ランク適応でMoEモデルを微調整する最初の試みを行う: “MoE$2$-LoRA” と題された我々の手法は、タスク固有の適応性を備えた事前訓練された専門家専門化を深く結合する。
論文参考訳（メタデータ） (2026-07-24T04:50:39Z)
ReMix: Reinforcement routing for mixtures of LoRAs in LLM finetuning [85.39146836671897]
低ランクアダプタ(LoRAs)は、トレーニング可能な低ランク行列をトレーニング済みモデルに注入し、新しいタスクに適応するパラメータ効率の微調整技術である。既存のMixture-of-LoRAsルータは学習したルーティングウェイトを各LoRAに割り当て、ルータのエンドツーエンドのトレーニングを可能にする。 Reinforcement Routing for Mixture-of-LoRAs (ReMix) と呼ばれる新しいルータを提案する。
論文参考訳（メタデータ） (2026-03-10T18:51:27Z)
CoMoL: Efficient Mixture of LoRA Experts via Dynamic Core Space Merging [49.87105462292961]
Core Space Mixture of LoRA (bfCoMoL)は、専門家の多様性、パラメータ効率、きめ細かい適応を取り入れた新しいMoE-LoRAフレームワークである。 CoMoLは、複数のタスクで既存のメソッドを一貫して上回る。
論文参考訳（メタデータ） (2026-02-28T09:40:11Z)
FURINA: Free from Unmergeable Router via LINear Aggregation of mixed experts [17.056585698418587]
パラメータ効率の良い微調整のために,Mixture of Experts (MoE) をローランド適応 (LoRA) に統合することに成功している。既存のMoE-LoRA手法の鍵となる制限は、離散ルータに依存することである。我々は,LINear Aggregation of expertsに基づく,フリー・アグリゲーション・オブ・アンマージブル・ルータ・フレームワークであるFURINAを提案する。
論文参考訳（メタデータ） (2025-09-18T12:22:32Z)
LoRA-Mixer: Coordinate Modular LoRA Experts Through Serial Attention Routing [17.171872354057694]
LoRA-Mixerはモジュール式で軽量なMoEフレームワークであり、LoRAの専門家を統合している。私たちの中心となるイノベーションは、アテンションモジュールの入出力線形レイヤのプロジェクション行列をタスク固有のLoRA専門家に置き換えることです。 LoRA-Mixerは、GSM8K、HumanEval、MedQAといったデータセットの大幅な改善を実現している。
論文参考訳（メタデータ） (2025-06-17T14:58:54Z)
Each Rank Could be an Expert: Single-Ranked Mixture of Experts LoRA for Multi-Task Learning [53.053604713064544]
Low-Rank Adaptation (LoRA)は、その効率性とモジュール性から、大きな言語モデル(LLM)を特定のドメインに適用するために広く使われている。最近の研究は、各LoRAモジュールを専門家として扱い、複数の特殊なLoRAモジュールによるタスク干渉を軽減することで、Mixture of Experts (MoE)を採用している。効果はあるものの、これらの手法は個々のタスク内の知識を分離することが多く、関連するタスク間で共有された知識を完全に活用することができない。各ランクをテキスト処理することでMoEをLoRAに埋め込むシングルランク専門家LoRA(textbfSMoRA)を提案する。
論文参考訳（メタデータ） (2025-01-25T06:56:39Z)
MiLoRA: Efficient Mixture of Low-Rank Adaptation for Large Language Models Fine-tuning [9.91790333647256]
低ランク適応法(LoRA)とその混合実験法(MOE)は,高効率なパラメータ効率微調整法(PEFT)である。新規かつ効率的なLoRA変種であるMiLoRAを提案する。 MiLoRAは、各LoRAモジュールを専門家として考慮し、プロンプト対応のルーティング機構を採用することで、従来のMOEスタイルのLoRAメソッドと異なる。
論文参考訳（メタデータ） (2024-10-23T17:04:40Z)
Retrieval-Augmented Mixture of LoRA Experts for Uploadable Machine Learning [57.36978335727009]
Low-Rank Adaptation (LoRA)は、大規模言語モデル(LLM)を微調整する効率的な方法を提供する。本稿では,入力プロンプトに基づいて複数のLoRAを適応的に検索・構成するフレームワークを提案する。
論文参考訳（メタデータ） (2024-06-24T05:24:41Z)
MixLoRA: Enhancing Large Language Models Fine-Tuning with LoRA-based Mixture of Experts [3.6301530893494127]
MixLoRAは、リソース効率の良いスパースMoEモデルを構築するためのアプローチである。評価の結果,MixLoRAはマルチタスク学習シナリオにおける最先端PEFT法と比較して約9%精度が向上していることがわかった。
論文参考訳（メタデータ） (2024-04-22T02:15:52Z)
Mixture of LoRA Experts [87.50120181861362]
本稿では,階層的制御と未分散分岐選択を利用する LoRA Experts (MoLE) アプローチを提案する。 MoLEアプローチは直接算術マージよりも優れたLoRA融合性能を実現する。
論文参考訳（メタデータ） (2024-04-21T11:59:53Z)
LoraRetriever: Input-Aware LoRA Retrieval and Composition for Mixed Tasks in the Wild [76.67343971195267]
Low-Rank Adaptation (LoRA)は、大規模言語モデル(LLM)を微調整するための効率的なソリューションを提供する。 LoraRetrieverは、入力プロンプトに従って複数のLoRAを適応的に検索して構成する検索テーマ構成フレームワークである。実験結果から、LoraRetrieverは一貫してベースラインを上回っていることが示唆された。
論文参考訳（メタデータ） (2024-02-15T15:02:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。