論文の概要: ParetoM$^3$: Learning on the Pareto Set under Preference Guidance via Min-Max-Min Optimization
- arxiv url: http://arxiv.org/abs/2611.18252v1
- Date: Fri, 13 Nov 2026 14:49:23 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-16 19:23:48.556049
- Title: ParetoM$^3$: Learning on the Pareto Set under Preference Guidance via Min-Max-Min Optimization
- Title(参考訳): ParetoM$^3$: Min-Max-Min Optimizationによる選好誘導によるPareto集合の学習
- Abstract要約: 弱選好関数は、同じ漸近的目的に対して選択することができることを示す。
また、得られたM$3$問題の定常解の1次アルゴリズムも開発する。
- 参考スコア(独自算出の注目度): 40.26680514021724
- License:
- Abstract: Learning across multiple inherently conflicting objectives requires selecting desirable trade-offs from the Pareto set. In this work, we study preference-guided multi-objective optimization, where a predefined preference function is minimized over the weak Pareto set of multiple nonconvex objectives. Leveraging a merit function that vanishes on the weak Pareto set, we propose a penalty-based min-max-min formulation, termed the M$^3$ problem, which unifies preference optimization and the enforcement of weak Pareto optimality in a single objective. We further develop ParetoM$^3$, a single-loop first-order algorithm for computing stationary solutions of the resulting M$^3$ problem. Under a local Kurdyka-Lojasiewicz assumption, we prove that ParetoM$^3$ finds an $ε$-stationary point of the M$^3$ problem that is also approximately weakly Pareto optimal for the original multi-objective problem when the penalty parameter is sufficiently large, with explicit non-asymptotic convergence rates. We also show that this stationarity notion recovers existing optimality criteria, including approximate preference stationarity and approximate Karush-Kuhn-Tucker conditions, under the same assumptions used in prior works. Experiments on a synthetic benchmark, image classification, regression, and math reasoning demonstrate that ParetoM$^3$ reliably attains preferred weak Pareto optimal solutions while achieving strong practical performance. Code is available at https://github.com/tpgoodboy/ParetoM3.
- Abstract(参考訳): 複数の本質的に矛盾する目標を学習するには、Paretoセットから望ましいトレードオフを選択する必要があります。
本研究では,複数の非凸対象の弱いパレート集合上で事前定義された選好関数を最小化する,選好誘導多目的最適化について検討する。
弱パレート集合上で消滅するメリット関数を利用し、M$^3$問題(英語版)と呼ばれるペナルティベースのmin-max-minの定式化を提案し、1つの目的において選好最適化と弱パレート最適性の強制を統一する。
さらに、結果のM$^3$問題の定常解を計算するための一ループ一階法であるParetoM$^3$を開発する。
局所的なクルディカ・ロジャシエヴィチの仮定の下で、パレートM$^3$がM$^3$問題のε$-定常点を見つけることを証明する。
また、この定常性の概念は、事前の作業と同じ仮定の下で、近似的な選好定常性や近似的なカルーシュ・クーン・タッカー条件を含む既存の最適性基準を回復することを示した。
合成ベンチマーク、画像分類、回帰、数学推論の実験により、ParetoM$^3$がより弱いPareto最適解を確実に達成し、高い実用性能を達成できることを示した。
コードはhttps://github.com/tpgoodboy/ParetoM3.comで入手できる。
関連論文リスト
- FraPPE: Fast and Efficient Preference-based Pure Exploration [17.53646399595373]
任意の選好円錐に対して既存の下界を最適に追跡する効率的なアルゴリズムを提案する。
提案したPrePExアルゴリズムであるFraPPEが最適なサンプル複雑性を実現することを証明した。
論文 参考訳(メタデータ) (2025-08-22T16:02:06Z) - Stochastic Momentum Methods for Non-smooth Non-Convex Finite-Sum Coupled Compositional Optimization [68.22688819802622]
我々は、(ほぼ)$レベルのKKTソリューションを見つけるために、$O(/epsilon)$の最先端の複雑さを新たに提案する。
O(/epsilon)$ の(ほぼ) $ レベルの KKT ソリューションを見つけるための技術的複雑さを適用することで、(ほぼ) $ レベルの KKT ソリューションを見つけるための $O(/epsilon)$ の最先端の複雑さを新たに達成する。
論文 参考訳(メタデータ) (2025-06-03T06:31:59Z) - Scalable Min-Max Optimization via Primal-Dual Exact Pareto Optimization [66.51747366239299]
拡張ラグランジアンに基づくmin-max問題のスムーズな変種を提案する。
提案アルゴリズムは, 段階的戦略よりも目的数で拡張性が高い。
論文 参考訳(メタデータ) (2025-03-16T11:05:51Z) - Preference-Optimized Pareto Set Learning for Blackbox Optimization [1.9628841617148691]
すべての目的を同時に最適化できる単一のソリューションはありません。
典型的なMOO問題では、目的間の好みを交換する最適解(パレート集合)を見つけることが目的である。
我々の定式化は、例えば微分可能なクロスエントロピー法によって解決できる二段階最適化問題につながる。
論文 参考訳(メタデータ) (2024-08-19T13:23:07Z) - Faster Convergence with Multiway Preferences [99.68922143784306]
本稿では,符号関数に基づく比較フィードバックモデルについて考察し,バッチとマルチウェイの比較による収束率の解析を行う。
本研究は,マルチウェイ選好による凸最適化の問題を初めて研究し,最適収束率を解析するものである。
論文 参考訳(メタデータ) (2023-12-19T01:52:13Z) - Optimization on Pareto sets: On a theory of multi-objective optimization [7.907376287850398]
多目的最適化では、単一の決定ベクトルは、多くの目的間のトレードオフのバランスをとる必要がある。
我々は,制約セットの最適化を目標とする,より現実的に重要な最適化問題を考える。
論文 参考訳(メタデータ) (2023-08-04T05:55:52Z) - Pessimistic Minimax Value Iteration: Provably Efficient Equilibrium
Learning from Offline Datasets [101.5329678997916]
両プレイヤーゼロサムマルコフゲーム(MG)をオフライン環境で研究する。
目標は、事前収集されたデータセットに基づいて、近似的なナッシュ均衡(NE)ポリシーペアを見つけることである。
論文 参考訳(メタデータ) (2022-02-15T15:39:30Z) - Pareto Navigation Gradient Descent: a First-Order Algorithm for
Optimization in Pareto Set [17.617944390196286]
マルチタスク学習のような現代の機械学習アプリケーションは、複数の目的関数をトレードオフするために最適なモデルパラメータを見つける必要がある。
勾配情報のみを用いてOPT-in-Paretoを近似的に解く1次アルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-10-17T04:07:04Z) - Minimax Optimization with Smooth Algorithmic Adversaries [59.47122537182611]
対戦相手が展開するスムーズなアルゴリズムに対して,Min-playerの新しいアルゴリズムを提案する。
本アルゴリズムは,制限周期のない単調進行を保証し,適切な勾配上昇数を求める。
論文 参考訳(メタデータ) (2021-06-02T22:03:36Z) - A Hybrid 2-stage Neural Optimization for Pareto Front Extraction [3.918940900258555]
最適なトレードオフソリューションに対する大きな障害は、それらが必ずしも互いに収束しないことです。
正確かつ費用対効果の高い二段階アプローチを提案する。
論文 参考訳(メタデータ) (2021-01-27T20:56:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。