論文の概要: Matrix-Valued Optimism is Matrix-Valued Augmentation: Additive Hybrid Designs for Constrained Optimization

• arxiv url: http://arxiv.org/abs/2605.06141v1
• Date: Thu, 07 May 2026 12:39:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-08 22:27:11.779036
• Title: Matrix-Valued Optimism is Matrix-Valued Augmentation: Additive Hybrid Designs for Constrained Optimization
• Title（参考訳）: 行列値最適化は行列値拡張である:制約付き最適化のための付加的ハイブリッド設計
• Authors: Jiayi Zhao,
• Abstract要約: 拡張ラグランジアンおよび楽観的な原始-双対法は、一見異なるメカニズムを通して等式制約付き最適化を安定化させる。 近年の研究では、これらのメカニズムはスカラーパラメータと等価であることが示されている。 対称行列パラメータに対して、理想的原始軌道は補正行列にのみ依存する。
• 参考スコア（独自算出の注目度）: 4.093285905350807
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Augmented Lagrangian and optimistic primal--dual methods stabilize equality-constrained optimization through seemingly different mechanisms: the former adds constraint-dependent primal curvature, while the latter adds dual memory. Recent work has shown that these mechanisms are equivalent for scalar parameters. We extend this equivalence to matrix-valued correction. We prove an additivity principle: for symmetric matrix parameters, the ideal primal trajectory depends only on the summed correction matrix, not on how it is split between augmented and optimistic channels. This exposes a design freedom: algebraically equivalent decompositions can have different finite-step feasibility because augmented correction affects primal curvature, whereas optimistic correction affects the scale of the dual memory correction. We formulate the resulting step-size-limited design problem and derive a closed-form hybrid rule that selects a matrix correction, splits it between the two channels, and chooses primal and dual steps using local spectral weights. Experiments on nonlinear equality-constrained problems with controlled constraint-Jacobian conditioning show that the hybrid design improves over pure augmented and pure optimistic endpoints, closely tracks a grid-search hybrid oracle, and is competitive with first-order primal--dual baselines under mild-to-moderate ill-conditioning. The experiments also identify the expected limitation: exact cancellation requires increasingly large matrix corrections as the constraint Jacobian becomes ill-conditioned.
• Abstract（参考訳）: 拡張されたラグランジアンおよび楽観的な原始-双対法は、一見異なるメカニズムで等性制約付き最適化を安定化する:前者は制約依存の原始曲率、後者は二重メモリを付加する。 近年の研究では、これらのメカニズムはスカラーパラメータと等価であることが示されている。 この等価性を行列値補正に拡張する。 対称行列パラメータに対して、理想的な原始軌道は、拡張チャネルと楽観チャネルの間でどのように分割されるかではなく、要約された補正行列にのみ依存する。 代数的に等価な分解は、拡張補正が一次曲率に影響を与えるのに対して、楽観的な補正は二重メモリ補正のスケールに影響を与えるため、異なる有限ステップの実現性を持つ。 得られたステップサイズ限定設計問題を定式化し、行列補正を選択し、それを2つのチャネルに分割し、局所的なスペクトル重みを用いて原始的および二重的なステップを選択する閉形式ハイブリッドルールを導出する。 制御された制約-ヤコビアン条件付き非線形等式制約問題の実験により、ハイブリッド設計は純粋な拡張および純粋楽観的なエンドポイントよりも改善され、グリッド探索ハイブリッドオラクルを密に追跡し、軽度からモデレートな条件下での1次原始-双対基底線と競合することを示した。 正確なキャンセルは、制約ヤコビアンが不条件となるにつれて、ますます大きな行列補正を必要とする。

関連論文リスト

• GPU-friendly and Linearly Convergent First-order Methods for Certifying Optimal $k$-sparse GLMs [7.079949618914198]
  ブランチ・アンド・バウンド(BnB)フレームワークは、パースペクティブ・リラクゼーションを使って最適性を証明できる。 これらの緩和を解く既存の手法は計算集約的であり、スケーラビリティを制限している。 我々は線形収束性と計算効率の両立した近位フレームワークを開発する。
  論文  参考訳（メタデータ） (2026-03-01T22:26:09Z)
• Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
  プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。 我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。 重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
  論文  参考訳（メタデータ） (2026-02-24T05:32:03Z)
• Adaptive Matrix Online Learning through Smoothing with Guarantees for Nonsmooth Nonconvex Optimization [54.723834588133165]
  我々は,演算子AMLによる行列変数を用いたオンライン線形最適化について検討した。 プロジェクションを避ける2つの効率的な手法でこのフレームワークをインスタンス化する。 両手法とも, クローズドフォーム更新はシャンプーの後悔と一致し, 計算コストを大幅に削減することを示した。
  論文  参考訳（メタデータ） (2026-02-09T03:09:47Z)
• Symplectic Optimization on Gaussian States [0.0]
  ボソニックな基底状態問題を解決するためのシンプレクティック最適化フレームワークを提案する。 このフレームワークは、弱い非四面体相互作用の大規模近似処理の基礎を提供する。
  論文  参考訳（メタデータ） (2026-01-28T18:31:50Z)
• Mirror Descent Under Generalized Smoothness [23.5387392871236]
  一般ノルムと双対という観点からヘッセンのノルムを測定する新しい$ell*$-smoothnessの概念を導入する。 我々は、古典的な滑らかさの下でのレートに一致するミラー・ディフレッシュ型アルゴリズムの収束性を確立する。
  論文  参考訳（メタデータ） (2025-02-02T11:23:10Z)
• Double Duality: Variational Primal-Dual Policy Optimization for Constrained Reinforcement Learning [132.7040981721302]
  本研究では,訪問尺度の凸関数を最小化することを目的として,制約付き凸決定プロセス(MDP)について検討する。 制約付き凸MDPの設計アルゴリズムは、大きな状態空間を扱うなど、いくつかの課題に直面している。
  論文  参考訳（メタデータ） (2024-02-16T16:35:18Z)
• Matrix Completion via Non-Convex Relaxation and Adaptive Correlation Learning [90.8576971748142]
  閉形式解によって最適化できる新しいサロゲートを開発する。 そこで我々は, 上向きの相関関係を利用して, 適応的相関学習モデルを構築した。
  論文  参考訳（メタデータ） (2022-03-04T08:50:50Z)
• Understanding Implicit Regularization in Over-Parameterized Single Index Model [55.41685740015095]
  我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。 暗黙正則化現象の理論的保証を提供する。
  論文  参考訳（メタデータ） (2020-07-16T13:27:47Z)
• Multi-Objective Matrix Normalization for Fine-grained Visual Recognition [153.49014114484424]
  双線形プールは細粒度視覚認識(FGVC)において大きな成功を収める 近年,行列パワー正規化は双線形特徴量において2次情報を安定化させることができることが示されている。 両線形表現を同時に正規化できる効率的な多目的行列正規化法(MOMN)を提案する。
  論文  参考訳（メタデータ） (2020-03-30T08:40:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。