論文の概要: Learning Pareto Stationary Fronts via Single-Pass Backpropagation

• arxiv url: http://arxiv.org/abs/2610.06397v1
• Date: Mon, 05 Oct 2026 14:18:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-09 08:39:34.016184
• Title: Learning Pareto Stationary Fronts via Single-Pass Backpropagation
• Title（参考訳）: 単一パスバックプロパゲーションによるパレート定常面の学習
• Abstract要約: MOSEL(Multi-Objective Stackelberg Efficient Learning)は、ディープニューラルネットワークにおける後方多目的最適化(MOO)のためのフレームワークである。 双レベル最適化問題をスタックルバーグゲームとしてキャストすることで、元のアプリートMOO問題を1つの前方後進パスで解くことができる。
• 参考スコア（独自算出の注目度）: 6.921186449399721
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We propose MOSEL (Multi-Objective Stackelberg Efficient Learning), a framework for a posteriori multi-objective optimization (MOO) in deep neural networks that recovers a full front of Pareto stationary solutions at the computational cost of standard single-objective training. MOSEL reformulates the problem as a bilevel optimization problem that leverages network modularity to decouple representation learning from objective-preference alignment. Casting the bilevel optimization problem as a Stackelberg game enables solving the original a posteriori MOO problem in a single forward-backward pass. As a result, MOSEL matches the time and memory efficiency of standard single-objective training while enabling scalable Pareto stationary front learning. Empirically, MOSEL uncovers diverse and optimal Pareto frontiers in strongly conflicting settings (e.g., fairness-accuracy). Remarkably, even in weakly conflicting regimes such as multi-task learning, it consistently converges to solutions closer to the utopia point, outperforming both standard single-objective training and specialized multi-task learning methods. These results highlight the broader potential of a posteriori MOO learning as a pathway to efficiently learn more diverse and robust representations, ultimately improving generalization.
• Abstract（参考訳）: MOSEL (Multi-Objective Stackelberg Efficient Learning, MOSEL) は, 深層ニューラルネットワークにおける多目的最適化(MOO)のためのフレームワークであり, 標準単目的学習の計算コストでパレート定常解の全前面を復元する。 MOSELは、ネットワークモジュール性を活用して表現学習を客観参照アライメントから切り離す二段階最適化問題として問題を再構築する。 双レベル最適化問題をスタックルバーグゲームとしてキャストすることで、元のアプリートMOO問題を1つの前方後進パスで解くことができる。 その結果、MOSELは標準単目的学習の時間とメモリ効率と一致し、スケーラブルなPareto定常前向き学習を可能にした。 経験的に、MOSELは多様で最適なParetoフロンティアを強く矛盾する設定(例えば、フェアネス精度)で明らかにする。 注目すべきは、マルチタスク学習のような弱い対立する体制でも、ユトピア点に近い解に一貫して収束し、標準的な単一目的学習法と特殊マルチタスク学習法の両方を上回ります。 これらの結果は、より多様でロバストな表現を効率的に学習し、最終的には一般化を改善する経路として、後部MOO学習の幅広い可能性を強調している。

関連論文リスト

• Scaling Decision-Focused Learning to Large Problems with Lagrangian Decomposition [8.22941091333064]
  決定に焦点を絞った学習は、予測を最適化する問題に対処する上で非常に有望である。 イテレーション毎にトレーニングインスタンス毎に制約付き最適化問題を解決する必要があります。 本稿では,ラグランジアン分解を意思決定中心の学習パラダイムに組み込んだ新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-06-07T19:27:59Z)
• Objective Soups: Multilingual Multi-Task Modeling for Speech Processing [69.52720282028385]
  マルチ言語・マルチタスク音声処理(MSP)のための単一モデルの訓練は,タスク間の目的の相反によって著しく妨げられる。 本稿では,多目的MSPの3つの定式化について検討し,これらをthabfobjective soup recipesと呼ぶ。 我々の研究は、階層型MOOが最先端のMSPモデルを構築する上で、より効率的でスケーラブルなアプローチであることを実証している。
  論文  参考訳（メタデータ） (2025-08-12T07:01:09Z)
• Towards Efficient Pareto Set Approximation via Mixture of Experts Based Model Fusion [53.33473557562837]
  大規模深層ニューラルネットワークに対する多目的最適化問題を解くことは、損失ランドスケープの複雑さと高価な計算コストのために難しい課題である。 本稿では,専門家(MoE)をベースとしたモデル融合を用いて,この問題を実用的でスケーラブルに解決する手法を提案する。 特殊な単一タスクモデルの重みをまとめることで、MoEモジュールは複数の目的間のトレードオフを効果的に捉えることができる。
  論文  参考訳（メタデータ） (2024-06-14T07:16:18Z)
• UCB-driven Utility Function Search for Multi-objective Reinforcement Learning [51.00436121587591]
  マルチオブジェクト強化学習(MORL)エージェントでは、意思決定行動の最適化を行う。 重みベクトル w でパラメトリした線型効用関数の場合に焦点を当てる。 学習過程の異なる段階で最も有望な重みベクトルを効率的に探索する上信頼境界に基づく手法を提案する。
  論文  参考訳（メタデータ） (2024-05-01T09:34:42Z)
• Pareto Manifold Learning: Tackling multiple tasks via ensembles of single-task models [50.33956216274694]
  マルチタスク学習(MTL)では、タスクは、ソリューションへの最適化を導くのではなく、互いに達成したパフォーマンスを競い、制限することができる。 重み空間におけるアンサンブル手法であるTextitPareto Manifold Learningを提案する。
  論文  参考訳（メタデータ） (2022-10-18T11:20:54Z)
• Exact Pareto Optimal Search for Multi-Task Learning and Multi-Criteria Decision-Making [10.914300987810128]
  EPO 探索は線形収束速度で EPO 解に収束することを示す。 我々は, PFを後部MCDMで近似するPESA-EPOと, 対話型MCDMで誘導するGP-EPOという新しいアルゴリズムを開発した。 EPO検索は変数数と線形にスケールし、ディープEコマースネットワークに使用することができる。
  論文  参考訳（メタデータ） (2021-08-02T02:13:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。