論文の概要: Deconstructing Multi-Task Active Learning: The Paradox of Gradient Conflict and Orthogonal Decomposition

• arxiv url: http://arxiv.org/abs/2610.23623v1
• Date: Fri, 16 Oct 2026 15:32:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.992174
• Title: Deconstructing Multi-Task Active Learning: The Paradox of Gradient Conflict and Orthogonal Decomposition
• Title（参考訳）: マルチタスクアクティブラーニングのデコンストラクション:グラディエント・コンフリクトと直交分解のパラドックス
• Abstract要約: MTLAL(Multi-task active learning)法は、主に異種目的の線形スカラー化に依存している。 本稿では,組み合わせからデコンストラクションへのシフトを提案し,MTLALを3次元に再考する枠組みを提案する。
• 参考スコア（独自算出の注目度）: 6.212773021157861
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Existing multi-task active learning (MTL-AL) methods predominantly rely on linear scalarization of heterogeneous objectives such as uncertainty, diversity, and gradient conflict. We argue that this entangled formulation is fundamentally limited, as linear combination fails to capture Pareto-optimal trade-offs under conflicting objectives. We propose a shift from combination to deconstruction and introduce a principled framework that rethinks MTL-AL along three orthogonal dimensions. First, we identify the Conflict Paradox: although the optimization literature treats gradient conflict as interference to be suppressed, penalizing conflict when ranking candidates is measurably worse than not scoring it at all. We therefore decouple the two concerns: the acquisition function does not score conflict, and the resulting interference is resolved by gradient surgery during training. Second, we introduce Orthogonal Decomposition, separating acquisition into Informativeness and Exploration. This two-stage process, informativeness filtering followed by coverage maximization, prevents "diversity dilution" by excluding uninformative outliers before enforcing diversity. Third, we propose Cross-Task Mutual Information (CTMI), a covariance-based statistic of cross-task dependency computed from MC-dropout task entropies. Extensive experiments on COCO, Cityscapes, and NYUv2, including comparisons against recent MTL-AL and data-selection baselines, demonstrate consistent improvements over state-of-the-art methods, highlighting that structural rethinking of acquisition yields larger gains than incremental heuristic design. Code is available at https://github.com/Juho-Jung/multitask_active_learning_official.
• Abstract（参考訳）: 既存のマルチタスクアクティブラーニング(MTL-AL)手法は、不確実性、多様性、勾配衝突などの不均一な目的の線形スカラー化に大きく依存している。 この絡み合った定式化は、相反する目的の下で、線形結合がパレート最適トレードオフを捕捉できないため、基本的に制限されていると我々は主張する。 組み合わせからデコンストラクションへのシフトを提案し、3つの直交次元に沿って MTL-AL を再考する原理的枠組みを提案する。 最適化文献は、勾配の衝突を抑制すべき干渉として扱うが、ランク付け候補が全く得点しないよりも測定上劣る場合の紛争を罰する。 そこで我々は, 獲得関数が相反点を示さず, 結果として生じる干渉は, 訓練中の勾配手術によって解決される,という2つの懸念を分離する。 第二に、直交分解を導入し、買収をInformativeness and Explorationに分離する。 この2段階のプロセスは、情報度フィルタリングとカバレッジの最大化に続くもので、多様性を強制する前に不定形外乱を排除して「多様性の希薄化」を防ぐ。 第3に、MCドロップアウトタスクエントロピーから計算されたクロスタスク依存性の共分散に基づく統計量であるクロスタスク相互情報(CTMI)を提案する。 COCO、Cityscapes、NYUv2に関する大規模な実験は、最近のMTL-ALとデータ選択ベースラインとの比較を含む、最先端の手法に対する一貫した改善を示し、獲得の構造的再考が漸進的なヒューリスティック設計よりも大きな利益をもたらすことを強調している。 コードはhttps://github.com/Juho-Jung/multitask_active_learning_officialで公開されている。

関連論文リスト

• Explaining and Breaking the Safety-Helpfulness Ceiling via Preference Dimensional Expansion [75.37308041820552]
  大規模言語モデルの多目的アライメントの領域では、異なる人間の嗜好のバランスがゼロサム競合として現れることが多い。 提案するMORA: Multi-Objective Reward Assimilationは, 複数次元インテントを組み込むために, 元の質問を書き換えることにより, 報酬の多様性を拡大し, シングルリワードプロンプトを分離する。
  論文  参考訳（メタデータ） (2026-05-12T07:38:59Z)
• TopoCurate:Modeling Interaction Topology for Tool-Use Agent Training [53.93696896939915]
  訓練用ツール使用エージェントは一般的に、パスレート選択されたタスクに対して、軌道変更の成功と強化学習(RL)に依存している。 TopoCurateは,同一タスクから多段階的なロールアウトを統一的な意味的商トポロジに投影する対話型フレームワークである。 TopoCurateは最先端のベースラインに対して4.2%(SFT)と6.9%(RL)という一貫したゲインを達成している。
  論文  参考訳（メタデータ） (2026-03-02T10:38:54Z)
• On the Paradoxical Interference between Instruction-Following and Task Solving [50.75960598434753]
  次の命令は、大規模言語モデル(LLM)を、タスクの実行方法に関する明示的な制約を指定することで、人間の意図と整合させることを目的としている。 我々は,LLMのタスク解決能力にパラドックス的に干渉する命令に従うという,直感に反する現象を明らかにした。 本稿では,タスク解決に追従する命令の干渉を定量化する指標として,SUSTAINSCOREを提案する。
  論文  参考訳（メタデータ） (2026-01-29T17:48:56Z)
• From Sparse Decisions to Dense Reasoning: A Multi-attribute Trajectory Paradigm for Multimodal Moderation [59.27094165576015]
  疎度な意思決定から高密度な推論トレースへ移行する新しい学習パラダイム(UniMod)を提案する。 モノリシックな意思決定タスクを多次元境界学習プロセスに再構成し,エビデンス,モダリティ評価,リスクマッピング,政策決定,応答生成を含む構造化軌道を構築する。 タスク固有のパラメータを分離し、トレーニングダイナミクスを再バランスさせ、マルチタスク学習における多様な目的間の干渉を効果的に解消する、特別な最適化戦略を導入する。
  論文  参考訳（メタデータ） (2026-01-28T09:29:40Z)
• Ground What You See: Hallucination-Resistant MLLMs via Caption Feedback, Diversity-Aware Sampling, and Conflict Regularization [38.469173375694076]
  マルチモーダル大言語モデル(MLLM)における幻覚の根本原因を系統的に解析する。 1)不正確な初期記述が後続の推論を誤った前提に固定する連鎖的視覚推論の過度な信頼、(2)政策最適化中の探索の多様性が不十分で、過度に自信があるが誤ったアウトプットを発生させる要因、(3)トレーニングサンプル間の破壊的な衝突、NTKの類似性が誤関連や不安定なパラメータ更新を引き起こす要因である。 実験の結果,提案手法は幻覚率を著しく低減し,MLLMの推論精度を効果的に向上することが示された。
  論文  参考訳（メタデータ） (2026-01-09T07:59:18Z)
• Soft Conflict-Resolution Decision Transformer for Offline Multi-Task Reinforcement Learning [10.712621254661302]
  SoCo-DTはパラメータ重要度に基づくソフト・コンフリクト分解法である。 我々は、インタークアタイルレンジに基づく動的空間調整戦略を導入する。 実験結果から,SoCo-DTはMT50では7.6%,準最適データセットでは10.5%,最先端手法では7.6%を上回った。
  論文  参考訳（メタデータ） (2025-11-17T08:40:41Z)
• In-Context Learning Is Provably Bayesian Inference: A Generalization Theory for Meta-Learning [51.56484100374058]
  本稿では,ICLリスクをベイズギャップとポストリアバリアンスの2つのコンポーネントに分割する基本的リスク分解を導入する。 一様アテンション変換器の場合、このギャップの非漸近上界を導出し、事前学習プロンプトの数への依存を明確にする。 後方変動は本質的なタスクの不確実性を表すモデルに依存しないリスクである。
  論文  参考訳（メタデータ） (2025-10-13T03:42:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。