論文の概要: WeAct: Dynamic Weight Switching as Agent Actions
- arxiv url: http://arxiv.org/abs/2610.26847v1
- Date: Mon, 19 Oct 2026 17:59:19 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:01:06.655339
- Title: WeAct: Dynamic Weight Switching as Agent Actions
- Title（参考訳）: WeAct: エージェントアクションとしての動的ウェイトスイッチング
- Abstract要約: WeActは、フリーズバックボーン上で独立した機能固有のLoRAアダプタをトレーニングし、エージェントのアクション空間にアダプタ選択を追加する。
WeActは計算量が少ないにもかかわらず、完全な微調整に比べて平均精度を6.2%改善し、最強の静的LoRAマージ法に比べて27.5%向上した。
- 参考スコア（独自算出の注目度）: 32.60417441961941
- License:
- Abstract: Long-horizon agents must learn heterogeneous capabilities from interleaved trajectories. Updating shared parameters to learn new capabilities can degrade previously acquired ones, resulting in catastrophic forgetting. As a trajectory unfolds, different stages may require different capabilities, yet conventional joint training and static adapter merging maintain a fixed parameter configuration throughout execution. We introduce WeAct (Weight-level Internal Actions), which trains independent capability-specific LoRA adapters over a frozen backbone and adds adapter selection to the agent's action space. These internal actions use the model's native tool-calling interface for on-demand capability composition in a shared context. Across eight deep-research benchmarks, Qwen3-32B with WeAct improves average accuracy by 6.2% relative to full fine-tuning counterparts despite using less compute, and by 27.5% relative to the strongest static LoRA-merging method. WeAct also supports modular continual adaptation, by adding a new code computation adapter to expand the agent's capabilities and updating the existing writing adapter to improve report quality. Both updates leave the backbone and other adapters unchanged, supporting modular continual adaptation in agents.
- Abstract（参考訳）: ロングホライゾンエージェントは、インターリーブされた軌跡から不均一な能力を学ばなければならない。
共有パラメータを更新して新しい能力を学ぶことは、以前取得したパラメータを劣化させ、破滅的な忘れてしまう。
軌道が展開するにつれて、異なるステージは異なる機能を必要とするかもしれないが、従来のジョイントトレーニングと静的アダプタのマージは実行中、固定パラメータ構成を維持している。
WeAct(Weight-level Internal Actions)を導入し、フリーズバックボーン上で独立した機能固有のLoRAアダプタをトレーニングし、エージェントのアクション空間にアダプタ選択を追加する。
これらの内部アクションは、モデルのネイティブツールコールインターフェースを使用して、共有コンテキストにおけるオンデマンド機能の構成を行う。
8つのDeep-Researchベンチマークで、Qwen3-32B with WeActは計算量が少ないにもかかわらず、完全な微調整と比較して平均精度を6.2%改善し、最強の静的LoRAマージ法と比較して27.5%向上した。
WeActはまた、エージェントの機能を拡張するための新しいコード計算アダプタを追加し、レポート品質を改善するために既存の書き込みアダプタを更新することで、モジュールの連続的な適応もサポートする。
どちらのアップデートもバックボーンと他のアダプタは変更せず、エージェントのモジュールの連続的な適応をサポートする。
関連論文リスト
- BACAM: Behavior-Aware Continual Agent Merging for Multi-Turn Interaction [58.08711759956845]
本研究では,従来の統合された専門家を維持しない連続的なエージェント統合について検討する。
本稿では,パラメータ的にゲートを結合する行動認識型連続エージェント・マージ(BACAM)を提案する。
4つのインタラクティブなタスクの中で、BACAMは平均成功率62.82%に達し、最も評価の高いマージベースラインを21.69ポイント上回っている。
論文 参考訳（メタデータ） (2026-10-04T05:26:08Z) - Exploring Sparse Adapters for Scalable Merging of Parameter Efficient Experts [72.22148263683037]
ニューラルネットワークの重みのサブセットのみをトレーニングするスパースアダプタの特性をモジュラーアーキテクチャの潜在的な構成要素として検討する。
まず,本論文の既存の手法よりも概念的にシンプルである,効果的なスパースアダプタの訓練方法を提案する。
次に,これらのスパースアダプタのマージ特性について,最大20の自然言語処理タスクに対して,アダプタをマージすることで検討する。
論文 参考訳（メタデータ） (2025-07-09T03:25:45Z) - Replay-Free Continual Low-Rank Adaptation with Dynamic Memory [62.85596937435928]
我々は、事前学習された視覚変換器(ViT)が、時間とともに新しい下流タスクを逐次微調整できる連続学習を再考する。
近年の研究では、CL技術とパラメータ効率の良い微調整の交差が強調されている。
DualLoRA (Dual Low-Rank Adaptation) と呼ばれる新しいPEFT-CL法を提案する。
論文 参考訳（メタデータ） (2024-11-01T14:28:39Z) - Adapter-X: A Novel General Parameter-Efficient Fine-Tuning Framework for Vision [52.80792724919329]
本稿では,2次元画像と3次元点雲の微調整を改善するためのAdapter-Xという新しいフレームワークを提案する。
2D画像と3Dポイントの雲のモードで完全な微調整をし、パラメータが大幅に少ない、すなわち2Dと3Dの分類タスクにおいて、オリジナルのトレーニング可能なパラメータのわずか0.20%と1.88%で、初めて性能を上回った。
論文 参考訳（メタデータ） (2024-06-05T08:26:44Z) - AdaMix: Mixture-of-Adapter for Parameter-efficient Tuning of Large
Language Models [119.7093605087114]
大規模なトレーニング済み言語モデルをダウンストリームタスクに微調整するには、数億のパラメータを更新する必要がある。
これにより、各タスクのモデルの重みの大量コピーを格納するためのサービスコストが増大するだけでなく、数発のタスク適応中に不安定を示す。
パラメータや計算コストを2つの重要な手法で増大させることなく、アダプタ容量を改善するための新しいメカニズムを導入する。
論文 参考訳（メタデータ） (2022-05-24T23:41:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。