論文の概要: LiST: Local-Simplex Test-Time LoRA Fusion

• arxiv url: http://arxiv.org/abs/2608.22370v2
• Date: Mon, 31 Aug 2026 07:53:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:30.67271
• Title: LiST: Local-Simplex Test-Time LoRA Fusion
• Title（参考訳）: LiST: Local-Simplex Test-Time LoRA Fusion
• Authors: Yihua Shao, Jia Li, Siyu Chen, Xinyu Luo, Yang Liu, Kecheng Chen, Xinwei Long, Lingyu Zhu, Fanhu Zeng, Maolin Wang, Ziyang Yan, Jingcai Guo, Hao Tang, Nicu Sebe, Zhenyi Wang,
• Abstract要約: textbfLiSTはラベルのないテストタイムのLoRA融合フレームワークである。 マルチモーダルおよび言語ベンチマークの実験では、LiSTは静的LoRAマージや従来のテスト時間適応ベースラインよりも優れていた。
• 参考スコア（独自算出の注目度）: 68.96696100246577
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Task-specific LoRA adapters offer a modular way to specialize large language and vision-language models. However, existing adapter composition methods are mostly static and cannot adapt to individual test inputs. To address these issues, we propose \textbf{LiST}, a label-free test-time LoRA fusion framework that converts an existing LoRA bank into a target-conditioned local simplex and searches sample-specific fusion weights at inference time. LiST builds joint task representations from LoRA parameter anchors and prompt-level behavior vectors, retrieves neighboring adapters as a local search space, and performs branch-preserving fusion without updating the backbone or adapters. Candidate weights are selected by a prompt-level energy with prior, geometric, and stochastic-consistency constraints, and are deployed only when they pass a safe acceptance rule. Otherwise, LiST falls back to a target-conditioned prior. Experiments on multimodal and language benchmarks show that LiST outperforms static LoRA merging and conventional test-time adaptation baselines, while preserving task-specific adapter utility and improving robustness on unseen tasks.
• Abstract（参考訳）: タスク固有のLoRAアダプタは、大きな言語と視覚言語モデルを専門とするモジュラーな方法を提供する。 しかし、既存のアダプタ構成法はほとんど静的であり、個々のテスト入力に適応できない。 これらの問題に対処するために,既存のLoRAバンクをターゲット条件の局所的単純度に変換し,サンプル固有の融合重みを推論時に検索するラベルフリーなテスト時間LoRA融合フレームワークである \textbf{LiST} を提案する。 LiSTは、LoRAパラメータアンカーとプロンプトレベルの振る舞いベクトルから共同タスク表現を構築し、隣接するアダプタをローカル検索スペースとして検索し、バックボーンやアダプタを更新せずにブランチ保存融合を実行する。 候補重みは、事前、幾何学的、確率的整合性の制約のある急速レベルのエネルギーで選択され、安全な受け入れ規則を成立させるときにのみ展開される。 さもないと、LiSTはターゲット条件の前の状態に戻る。 マルチモーダルおよび言語ベンチマークの実験では、LiSTは静的LoRAマージや従来のテスト時間適応ベースラインよりも優れており、タスク固有のアダプタユーティリティを保持し、目に見えないタスクの堅牢性を改善している。

関連論文リスト

• Dual-Grained Agent Memory and Shapley Context Attribution for Multimodal Agentic Learner [55.80248281761638]
  マルチモーダルな大言語モデル (MLLM) は、科学的および数学的推論において、印象的な認識を提供する。 本稿では,DG-Memを提案する。DG-Memは,トレーニングタイムのロールアウトから一度構築した外部記憶メモリと,テスト時に読み取り専用に相談することで,凍結したMLLMを拡張可能なエージェントメモリフレームワークである。
  論文  参考訳（メタデータ） (2026-08-24T13:56:01Z)
• REAR: Test-time Preference Realignment through Reward Decomposition [68.09214603569744]
  本稿では,タスクを階層化問題としてモデル化する新しいフレームワークを提案する。 これら2つの報酬項の比率を選択的に再スケールするREAR(Realignment Reward)を導出する。 我々は,REARをトークンレベルのポリシログ確率の線形結合として定式化することができ,様々なTSアルゴリズムと容易に統合できることを示す。
  論文  参考訳（メタデータ） (2026-06-29T14:17:53Z)
• SCALE-LoRA: Auditing Post-Retrieval LoRA Composition with Residual Merging and View Reliability [2.9388795721577328]
  低ランク適応(LoRA)アダプタはパラメータ効率適応の実用的な副産物になりつつある。 オープンプール LoRA 再利用のための監査・構成フレームワークである Sparse-Composition Agreement Layer (SCALE) を導入する。 実験項目では,詳細なスコア,ペア監査,パスコスト記録が報告されている。
  論文  参考訳（メタデータ） (2026-05-02T13:00:05Z)
• Context Parametrization with Compositional Adapters [3.4155322317700576]
  CompAsは、コンテキストをコンポジション構造を持つアダプタパラメータに変換するメタ学習フレームワークである。 我々の研究は、大規模言語モデルのスケーリングのための実用的で効率的な代替手段として、構成可能なアダプタ生成を確立している。
  論文  参考訳（メタデータ） (2025-09-26T10:16:28Z)
• ELDER: Enhancing Lifelong Model Editing with Mixture-of-LoRA [55.697627106315004]
  大規模言語モデル(LLM)は、特定の知識を効率的に更新し、事実の誤りを避けるためにモデル編集を必要とする。 従来のアプローチでは、元のパラメータを凍結し、知識更新毎に新しいパラメータを個別に割り当てることで、シーケンシャルな編集を管理する。 本稿では,データとアダプタを連続的に関連付ける新しい手法であるELDERを提案する。
  論文  参考訳（メタデータ） (2024-08-19T02:27:00Z)
• LoRA-Guard: Parameter-Efficient Guardrail Adaptation for Content Moderation of Large Language Models [15.900125475191958]
  大規模言語モデル(LLM)のコンテンツモデレーションのための安全アライメントの代替としてガードレールが登場した。 LLMとガードレールモデル間の知識共有に依存するパラメータ効率の高いガードレール適応法であるLoRA-Guardを導入する。 LoRA-Guardは100-1000倍のパラメータオーバヘッドで既存の手法より優れ、精度を保ちながらオンデバイスコンテンツのモデレーションを実現している。
  論文  参考訳（メタデータ） (2024-07-03T10:38:40Z)
• Retrieval-Augmented Mixture of LoRA Experts for Uploadable Machine Learning [57.36978335727009]
  Low-Rank Adaptation (LoRA)は、大規模言語モデル(LLM)を微調整する効率的な方法を提供する。 本稿では,入力プロンプトに基づいて複数のLoRAを適応的に検索・構成するフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-24T05:24:41Z)
• MeteoRA: Multiple-tasks Embedded LoRA for Large Language Models [4.978361907192563]
  MeteoRAはスケーラブルで効率的なフレームワークで、複数のタスク固有のLoRAアダプタをベースLLMに再利用する。 MeteoRAは複合タスクの処理において優れた性能を実現し、単一の推論パスで10のシーケンシャルな問題を効果的に解決する。
  論文  参考訳（メタデータ） (2024-05-19T20:46:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。