論文の概要: Nonsmooth Set-Gradient Ascent to the Pareto Front via Layered Hypervolume and Magnitude Indicators
- arxiv url: http://arxiv.org/abs/2605.13468v1
- Date: Wed, 13 May 2026 12:55:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-14 23:30:28.054233
- Title: Nonsmooth Set-Gradient Ascent to the Pareto Front via Layered Hypervolume and Magnitude Indicators
- Title(参考訳): 層状ハイパーボリュームとマグニチュードインジケータによるパレートフロントへの非滑らかな集合勾配上昇
- Authors: Michael T. M. Emmerich,
- Abstract要約: 有限近似集合をパレート前面へ移動させる非滑らかな集合勾配法を開発した。
2つのベースインジケータが扱われる: 超体積インジケータと、支配集合の大きさインジケータである。
有限$サロゲートに対して、主非滑らか性機構は孤立し、有界集合上の室内的リプシッツ連続性が証明される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A nonsmooth set-gradient ascent method is developed for moving finite approximation sets toward the Pareto front in multiobjective optimization. The method optimizes layered set indicators: a base indicator is evaluated on successive nondomination layers, and the layer values are combined with rapidly decreasing weights. This gives ascent directions to nondominated and dominated points while preventing deeper layers from compensating for deterioration of the first front. Two base indicators are treated: the hypervolume indicator and the magnitude indicator of the dominated set, whose expansion over coordinate projections contains extent, projected-area, and volume terms. The scalar objectives are nonsmooth because nondomination layers change combinatorially and the active orthogonal-union geometry changes piecewise. On fixed strata, where layer assignments and active geometry remain unchanged, the indicators are piecewise smooth and chamberwise continuous. For the magnitude indicator, an exact gradient formula is derived as a linear combination of hypervolume gradients of projected shadow sets. Thus, for fixed objective dimension, magnitude gradients have the same asymptotic time complexity as hypervolume gradients. Lexicographic layer aggregation is related to a unary infinitesimal encoding. For finite-$ε$ surrogates, the main nonsmoothness mechanisms are isolated and chamberwise Lipschitz continuity on bounded sets is proved; a two-point counterexample shows that hard-layer scalarization is not globally continuous across layer switches. The theory motivates a projected finite-difference implementation with repulsion and recovery from stagnation. Numerical examples and reproducible code cover two- and three-objective settings, including objective-space tests, curved fronts, a supersphere benchmark, and traces comparing layered magnitude and hypervolume ascent.
- Abstract(参考訳): 多目的最適化において有限近似集合をパレート前面へ移動させる非滑らかな集合勾配法を開発した。
本手法は、連続する非支配層上で基底指標を評価し、その層値と急速に減少する重みを組み合わせ、階層化セットインジケータを最適化する。
これにより、非支配的および支配的地点への上昇方向を与え、さらに深い層が第1フロントの劣化を補うのを防ぐことができる。
2つのベースインジケータが扱われる: 超体積インジケータと支配集合の大きさインジケータで、その座標射影に対する拡張は範囲、射影面積、体積項を含む。
非支配層が組合せ的に変化し、活発な直交ユニオン幾何学が断片的に変化するので、スカラーの目的は非滑らかである。
層配置と活性幾何が変化しない固定成層では、指標は断片的に滑らかで空間的に連続である。
等級インジケータでは、投影影集合の超体積勾配の線形結合として正確な勾配公式が導出される。
したがって、固定された客観的次元に対して、等級勾配は超体積勾配と同じ漸近時間複雑性を持つ。
レキソグラフィー層アグリゲーションは単一の無限小エンコーディングと関連している。
有限$ε$サロゲートに対して、主非滑らか性機構は孤立し、有界集合上の等方的なリプシッツ連続性が証明される。
この理論は、反発と停滞からの回復を伴う射影有限差分実装を動機付けている。
数値的な例と再現可能なコードは、客観空間テスト、曲面フロント、超球面ベンチマーク、層の大きさと超体積上昇を比較するトレースを含む2次元と3次元の設定をカバーしている。
関連論文リスト
- The Geometric Wall: Manifold Structure Predicts Layerwise Sparse Autoencoder Scaling Laws [13.054357482525505]
Gemma 2 2B および 9B の68 層に収着・退避する第1 層間SAEスケーリング研究を行った。
多様体幾何は、両方のモデルにおいて、層ごとの幅指数を予測する。
論文 参考訳(メタデータ) (2026-05-11T02:24:46Z) - Flatness and Gradient Alignment Are Both Necessary: Spectral-Aware Gradient-Aligned Exploration for Multi-Distribution Learning [7.794885131732119]
マルチディストリビューション・ラーニング・セッティングにおいて,平坦性と勾配のアライメントを考慮すべきであることを示す。
両用語を対象とするSAGE(Spectral-Aware Gradient-Aligned Exploration)を提案する。
5つの領域一般化と2つのマルチタスク学習ベンチマーク実験により,提案手法が新たな最先端技術を確立することを示す。
論文 参考訳(メタデータ) (2026-05-08T15:52:34Z) - The Magnitude of Dominated Sets: A Pareto Compliant Indicator Grounded in Metric Geometry [0.0]
マグニチュード(Magnitude)は、コンパクトな距離空間に対する大きさや点内容の概念である。
el_1)ボックス設定における支配領域の場合、等級は超体積に近い。
超体積とは異なり、等級は1つ以上の座標をアンカー点と共有する境界点に正の値を割り当てる。
論文 参考訳(メタデータ) (2026-04-20T12:10:12Z) - AEGIS: Anchor-Enforced Gradient Isolation for Knowledge-Preserving Vision-Language-Action Fine-Tuning [0.0]
ロボット制御に事前訓練された視覚言語モデル(VLM)を適用するには、フローマッチングアクションエキスパートから高次連続勾配を、クロスエントロピーに特化して訓練されたバックボーンに注入する必要がある。
このクロスモーダル勾配非対称性は、VLMの視覚的問合せ能力(VQA)の急激で激しい侵食を引き起こす。
産業標準防衛は、勾配経路を完全に停止勾配で切断し、豊かな継続的監督を放棄するか、または、更新のランクを制約するローランクアダプタ(LoRA)を通してパラメータ容量を制限するか、したがって、訓練済み多様体を上書きする。
論文 参考訳(メタデータ) (2026-04-17T13:49:57Z) - The Devil Is in Gradient Entanglement: Energy-Aware Gradient Coordinator for Robust Generalized Category Discovery [76.35318747478522]
Energy-Aware Gradient Coordinator (EAGC) は、最適化プロセスを明示的に制御するプラグイン・アンド・プレイの勾配モジュールである。
EAGCはAnchor-based Gradient Alignment (AGA)とEnergy-Aware Elastic Projection (EEP)の2つのコンポーネントから構成される。
論文 参考訳(メタデータ) (2026-03-25T14:58:42Z) - SPINAL -- Scaling-law and Preference Integration in Neural Alignment Layers [16.976750197698063]
本研究では,深度にまたがってアライメントが表現にどう影響するかを測定する診断手法であるSPINALを紹介する。
モデルファミリ全体で、DPOは最終デコーダブロックに集中する層ワイドキャリブレーション効果を生成する。
調整されたチェックポイントは、収縮の後期層の増加と輸送の円滑な減少を示し、厳密で安定した政策質量と一致している。
論文 参考訳(メタデータ) (2026-01-08T17:47:12Z) - Implicit Bias in Leaky ReLU Networks Trained on High-Dimensional Data [63.34506218832164]
本研究では,ReLUを活性化した2層完全連結ニューラルネットワークにおける勾配流と勾配降下の暗黙的バイアスについて検討する。
勾配流には、均一なニューラルネットワークに対する暗黙のバイアスに関する最近の研究を活用し、リーク的に勾配流が2つ以上のランクを持つニューラルネットワークを生成することを示す。
勾配降下は, ランダムな分散が十分小さい場合, 勾配降下の1ステップでネットワークのランクが劇的に低下し, トレーニング中もランクが小さくなることを示す。
論文 参考訳(メタデータ) (2022-10-13T15:09:54Z) - On optimization of coherent and incoherent controls for two-level
quantum systems [77.34726150561087]
本稿では、閉かつオープンな2レベル量子系の制御問題について考察する。
閉系の力学は、コヒーレント制御を持つシュリンガー方程式によって支配される。
開系の力学はゴリーニ=コサコフスキー=スダルシャン=リンドブラッドのマスター方程式によって支配される。
論文 参考訳(メタデータ) (2022-05-05T09:08:03Z) - Deriving Differential Target Propagation from Iterating Approximate
Inverses [91.3755431537592]
本稿では,各層が学習した逆数に依存するターゲット伝搬の特定の形態が,ガウス-ニュートン勾配に基づく近似最適化に対応する更新規則を導出することを示す。
そこで我々は,各層における局所的自動エンコーダに基づく反復計算について検討し,より正確な目標伝搬のインバージョンを実現する。
論文 参考訳(メタデータ) (2020-07-29T22:34:45Z) - Cogradient Descent for Bilinear Optimization [124.45816011848096]
双線形問題に対処するために、CoGDアルゴリズム(Cogradient Descent Algorithm)を導入する。
一方の変数は、他方の変数との結合関係を考慮し、同期勾配降下をもたらす。
本アルゴリズムは,空間的制約下での1変数の問題を解くために応用される。
論文 参考訳(メタデータ) (2020-06-16T13:41:54Z) - Analytic Signal Phase in $N-D$ by Linear Symmetry Tensor--fingerprint
modeling [69.35569554213679]
解析信号位相とその勾配は2-D$以上の不連続性を持つことを示す。
この欠点は深刻なアーティファクトをもたらす可能性があるが、問題は1-D $シグナルには存在しない。
本稿では,複数のGaborフィルタに頼って線形シンメトリー位相を用いることを提案する。
論文 参考訳(メタデータ) (2020-05-16T21:17:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。