論文の概要: MuEdit: An efficient multi-task editing method towards inter-domain knowledge conflicts
- arxiv url: http://arxiv.org/abs/2611.14910v1
- Date: Wed, 11 Nov 2026 02:06:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:32.979401
- Title: MuEdit: An efficient multi-task editing method towards inter-domain knowledge conflicts
- Title(参考訳): MuEdit:ドメイン間知識衝突に対する効率的なマルチタスク編集手法
- Abstract要約: 大規模言語モデル(LLM)は、異種ドメイン間で頻繁に知識を更新する必要がある。
既存の編集方法は、マルチタスク設定に順次適用されると失敗する。
本研究では,(1)畳み込みを最小化するための競合認識命令,(2)順序付けが不十分な場合のヌル空間拡大のための動的低ランク近似を用いてマルチタスク競合を緩和する Mu-Edit を提案する。
- 参考スコア(独自算出の注目度): 60.55608405019558
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Large language models (LLMs) require frequent knowledge updates across heterogeneous domains, but existing editing methods fail when applied sequentially to multi-task settings. We trace this collapse to inter-domain null-space misalignment: heterogeneous tasks induce distinct Jacobian geometries, causing their common null space to shrink dramatically and leaving insufficient admissible directions for conflict-free updates. We propose the Conflict Index to quantify this geometric interference, and introduce Mu-Edit, which mitigates multi-task conflicts via (1) conflict-aware ordering to minimize cumulative interference, and (2) dynamic low-rank approximation to expand the null space when ordering alone is insufficient. Experiments across five functional domains and three backbones show that Mu-Edit significantly outperforms existing baselines in multi-task editing performance while preserving general capabilities, and remains effective under incremental task arrival.
- Abstract(参考訳): 大規模言語モデル(LLM)は、異種ドメイン間で頻繁に知識を更新する必要があるが、既存の編集方法はマルチタスク設定に順次適用すると失敗する。
異質なタスクはヤコビ空間を区別し、それらの共通ヌル空間は劇的に縮小し、矛盾のない更新に対して許容できない方向を残す。
我々は,この幾何学的干渉を定量化するための衝突指数を提案し,(1) 累積干渉を最小限に抑えるために,(1) 競合認識命令によるマルチタスク競合を緩和する Mu-Edit を導入し,(2) 単独で順序付けが不十分な場合に,ヌル空間を拡張するための動的低ランク近似を提案する。
5つの機能ドメインと3つのバックボーンにわたる実験により、Mu-Editは汎用性を維持しながらマルチタスク編集性能において既存のベースラインを大幅に上回っており、インクリメンタルタスクの到着時にも有効であることが示された。
関連論文リスト
- Riding the Shifting Potential: When Reactive Control Suffices for Multi-Goal Behavior [7.648784748888186]
私たちは、現在の目的がどうあるのかを反映できないエンコーディングを活用しています。
競合がnull空間を拡張することによって相互作用する2つの領域でこれを実証する。
同じ定式化は、制御を付加した本物のロボットに直接転送する。
論文 参考訳(メタデータ) (2026-05-26T17:24:46Z) - Resolving Task Objective Conflicts in Unified Model via Task-Aware Mixture-of-Experts [11.790264535536965]
マルチモーダル・大規模言語モデル(MLLM)は、理解タスクと生成タスクを単一のフレームワークに統合する。
固有のタスク目的 理解における高レベルのセマンティックな抽象化と、生成時のきめ細かい詳細保存との間の対立は、重大な課題である。
タスク目的の衝突を解決するために,ARの内部コンポーネントを分離する新しいアプローチを提案する。
論文 参考訳(メタデータ) (2025-06-04T05:44:21Z) - ThanoRA: Task Heterogeneity-Aware Multi-Task Low-Rank Adaptation [96.86211867758652]
Low-Rank Adaptation (LoRA) は、基礎モデルの下流の微調整に広く採用されている。
タスク不均一性を考慮したマルチタスク低ランク適応フレームワークであるTanoRAを提案する。
論文 参考訳(メタデータ) (2025-05-24T11:01:45Z) - Marmot: Object-Level Self-Correction via Multi-Agent Reasoning [55.74860093731475]
Marmotは、マルチオブジェクトの自己修正にマルチエージェント推論を活用する、新しくて一般化可能なフレームワークである。
Marmotは、画像生成タスクにおけるオブジェクトカウント、属性割り当て、空間関係の精度を大幅に改善する。
論文 参考訳(メタデータ) (2025-04-10T16:54:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。