論文の概要: Not All Objectives Are Born Equal: Priority-Constrained Descent for Hierarchical Multi-Objective Optimization
- arxiv url: http://arxiv.org/abs/2606.29521v1
- Date: Sun, 28 Jun 2026 17:31:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:15.949305
- Title: Not All Objectives Are Born Equal: Priority-Constrained Descent for Hierarchical Multi-Objective Optimization
- Title(参考訳): すべての目的が平等に生まれているわけではない:階層的多目的最適化のための優先順位制約付き未熟
- Abstract要約: 階層的対象構造を明示的に活用するために,PCD(Preferity-Constrained Descent)を導入する。
PCDは一次降下方向を保ち、二次目標の進行を保証するために必要な最小歪みを許容する。
我々は,構造化ネットワーク圧縮設定,非構造化空間性,低ランク性,および各種合成実験におけるPCDの評価を行った。
- 参考スコア(独自算出の注目度): 0.6875312133832079
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep learning problems rarely involve objectives that are equal in importance. A primary objective defines the goal, whilst secondary objectives, such as sparsity, compression, or robustness constrain the solution. While existing multi-objective methods have proven effective in practice, they have a clear symmetry problem and neglect the inherent objective hierarchy built into these objective spaces. We introduce Priority-Constrained Descent (PCD), a gradient-based optimization framework designed to explicitly exploit hierarchical objective structures. PCD preserves the direction of primary descent whilst allowing for the minimal distortion necessary to guarantee progress on secondary objectives, controlled by a single $τ\in [0, 1]$ that dictates the strength of the distortion. The resulting formulation is invariant to objective scaling and admits exact closed-form solutions for problems with two and three objectives. We evaluate PCD within structured network compression settings, unstructured sparsity and low-rankness, and across a variety of synthetic experiments, showing Pareto dominance and better per-objective performance with secondary progress guarantees over existing methods, further exhibiting the interpretable trade-off that $τ$ provides.
- Abstract(参考訳): ディープラーニングの問題は、重要度が等しい目的を伴うことは滅多にない。
主目的は目標を定義する一方で、スパーシリティ、圧縮、ロバストネスといった二次目的はソリューションを制約する。
既存の多目的法は実際は有効であることが証明されているが、明確な対称性の問題があり、これらの目的空間に組み込まれた固有の客観的階層を無視している。
階層的対象構造を明示的に活用するために設計された勾配に基づく最適化フレームワークであるプライオリティ制約Descent (PCD) を導入する。
PCDは一次降下方向を保ちながら、歪みの強さを規定する単一の$τ\in [0, 1]$で制御される二次目標の進行を保証するために必要な最小歪みを許容する。
結果の定式化は客観的なスケーリングに不変であり、2つと3つの目的を持つ問題に対する正確な閉形式解を認める。
我々は、構造化ネットワーク圧縮設定、非構造化空間性、低ランク性、および様々な合成実験においてPCDを評価し、既存の手法よりも2次進行保証によるパレート優位性とオブジェクトごとの性能の向上を示し、さらに$τ$が提供する解釈可能なトレードオフを示す。
関連論文リスト
- Towards Pareto-Optimal Tool-Integrated Agents with Pareto Ranking Policy Optimization [54.855135506924775]
ツールを用いた大規模言語モデル(LLM)を競合する目的の下で整列するための2段階多目的最適化フレームワークを提案する。
この設計は、複数の矛盾する目的に対してきめ細かいアクションレベルの最適化を可能にする。
論文 参考訳(メタデータ) (2026-06-15T01:58:07Z) - Rethinking Layer Redundancy in Large Language Models: Calibration Objectives and Search for Depth Pruning [4.422051502416615]
異なる目的が定性的に異なる冗長層を生み出すことを示し、パープレキシティと下流の精度ランキングが一貫して一致しないことを示す。
しかし、一定の目的の下では、探索アルゴリズムは類似した解を生成する傾向がある。
論文 参考訳(メタデータ) (2026-04-27T19:25:28Z) - Reward-free Alignment for Conflicting Objectives [12.275610380458119]
我々は、競合対象(RACO)に対するリワードフリーアライメントフレームワークを提案する。
RACOはペアワイズ選好データを直接利用し、競合-逆勾配勾配の新たなクリッピング変種を通じて勾配衝突を解消する。
ユーザが指定した目標重みを尊重するパレート臨界点に対する収束保証を行い、クリッピングが2目的設定における収束率を厳密に改善できることを示す。
論文 参考訳(メタデータ) (2026-02-02T18:59:52Z) - Bounded Rationality for LLMs: Satisficing Alignment at Inference-Time [52.230936493691985]
本稿では,2次基準のしきい値に基づく制約を満たしつつ,主目的を最大化し,アライメントの多面性に対処する推論フレームワークSITAlignを提案する。
我々は、満足度に基づく推論アライメントアプローチの準最適境界を導出することで理論的洞察を提供する。
論文 参考訳(メタデータ) (2025-05-29T17:56:05Z) - Multi-start Optimization Method via Scalarization based on Target Point-based Tchebycheff Distance for Multi-objective Optimization [2.9248680865344348]
多目的最適化(multi-jective optimization)は、競合する目的間のトレードオフのバランスをとるための、科学的および工業的応用において重要である。
NSGA-IIIやMOEA/Dのような最先端の手法は、多くの目的に対処できるが、カバレッジの問題には対処できない。
これらの課題に対処する新しいマルチスタート最適化手法を提案する。
論文 参考訳(メタデータ) (2025-05-01T02:27:25Z) - Goal-Conditioned Supervised Learning for Multi-Objective Recommendation [8.593384839118658]
多目的学習は、一つのモデルを用いて複数の目的を同時に最適化する。
本稿では,オフラインシーケンシャルデータから複数の目標を自動学習する多目的目標定義型監視学習フレームワークを提案する。
論文 参考訳(メタデータ) (2024-12-12T03:47:40Z) - Deep Pareto Reinforcement Learning for Multi-Objective Recommender Systems [54.2484458418885]
複数の目的を同時に最適化することは、レコメンデーションプラットフォームにとって重要なタスクです。
既存の多目的推薦システムは、そのような動的な関係を体系的に考慮していない。
論文 参考訳(メタデータ) (2024-07-04T02:19:49Z) - Controllable Preference Optimization: Toward Controllable Multi-Objective Alignment [103.12563033438715]
人工知能におけるアライメントは、モデル応答と人間の好みと値の一貫性を追求する。
既存のアライメント技術は、主に一方向であり、様々な目的に対して、最適以下のトレードオフと柔軟性の低下につながる。
制御可能な選好最適化(CPO)を導入し、異なる目的に対する選好スコアを明確に指定する。
論文 参考訳(メタデータ) (2024-02-29T12:12:30Z) - Cycle Consistency Driven Object Discovery [75.60399804639403]
本研究では,シーンの各オブジェクトが異なるスロットに関連付けられなければならない制約を明示的に最適化する手法を提案する。
これらの一貫性目標を既存のスロットベースのオブジェクト中心手法に統合することにより、オブジェクト発見性能を大幅に改善することを示す。
提案手法は,オブジェクト発見を改善するだけでなく,下流タスクのよりリッチな機能も提供することを示唆している。
論文 参考訳(メタデータ) (2023-06-03T21:49:06Z) - Alleviating Search Bias in Bayesian Evolutionary Optimization with Many
Heterogeneous Objectives [9.139734850798124]
異種目的(HE-MOP)を用いた多目的最適化問題に対処する。
高速な目的に対して探索バイアスを緩和する新たな獲得関数を提案する。
提案アルゴリズムの有効性を,多目的・多目的のベンチマーク問題で検証することによって実証する。
論文 参考訳(メタデータ) (2022-08-25T17:07:40Z) - Generative multitask learning mitigates target-causing confounding [61.21582323566118]
マルチタスク学習のための因果表現学習のためのシンプルでスケーラブルなアプローチを提案する。
改善は、目標を狙うが入力はしない、観測されていない共同ファウンダーを緩和することによる。
人の属性とタスクノミーのデータセットに対する我々の結果は、事前の確率シフトに対するロバストネスの概念的改善を反映している。
論文 参考訳(メタデータ) (2022-02-08T20:42:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。