論文の概要: Controlled-Minimax: Stabilizing Adversarial Optimization via Control Theory
- arxiv url: http://arxiv.org/abs/2610.12915v1
- Date: Fri, 09 Oct 2026 03:05:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 04:06:29.365736
- Title: Controlled-Minimax: Stabilizing Adversarial Optimization via Control Theory
- Title(参考訳): 制御ミニマックス:制御理論による逆最適化の安定化
- Abstract要約: 最小限の最適化は、敵対的学習の基本であるが、深刻な安定性の課題に悩まされている。
制御可能な物理系として最適化軌道を再構成する,新しい安定化フレームワークである Controlled-Minimax を導入する。
本手法は,従来の勾配勾配勾配法が失敗する一般のミニマックス問題を安定化する。
- 参考スコア(独自算出の注目度): 26.825644649984472
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Minimax optimization is fundamental to adversarial learning yet suffers from severe stability challenges, often manifesting as persistent limit cycles or divergence. This paper investigates these instabilities through the lens of continuous-time dynamical systems. By modeling training dynamics as a second-order Ordinary Differential Equation (ODE), we rigorously identify the root cause of non-convergence: the problematic eigenstructure of the loss function's Hessian near equilibrium points. To address this, we introduce Controlled-Minimax, a novel stabilization framework that reformulates the optimization trajectory as a controllable physical system. Unlike heuristic regularization techniques, our approach derives a specific feedback controller that provides theoretical guarantees of local exponential stability, regardless of the underlying Hessian spectrum. Consequently, our method stabilizes general minimax problems where traditional gradient descent-ascent methods fail. Extensive experiments on pathological benchmarks including the Dirac-GAN, 2D Gaussian mixtures, and Swiss Roll datasets, as well as high-resolution image synthesis with StyleGAN2-ada, demonstrate that Controlled-Minimax effectively suppresses oscillatory behavior while ensuring fast and robust convergence.
- Abstract(参考訳): 最小限の最適化は、敵対的な学習の基本であるが、厳しい安定性の課題に悩まされ、しばしば永続的な極限サイクルまたは分岐として表される。
本稿では, 連続時間力学系のレンズによる不安定性について検討する。
2次正規微分方程式(ODE)としてのトレーニング力学をモデル化することにより、非収束の根本原因を厳密に特定する。
そこで本研究では,制御可能な物理系として最適化軌道を再構成する,新しい安定化フレームワークである Controlled-Minimax を紹介する。
ヒューリスティックな正則化手法とは異なり、本手法は、基礎となるヘッセンスペクトルに関わらず、局所指数安定性の理論的保証を提供する特定のフィードバックコントローラを導出する。
その結果、従来の勾配降下法が失敗する一般のミニマックス問題を安定化する。
Dirac-GAN、2D Gaussianmixs、Swiss Rollデータセット、StyleGAN2-adaによる高分解能画像合成などの病理学的ベンチマークに関する広範な実験は、制御されたミニマックスが高速で堅牢な収束を保ちながら、発振挙動を効果的に抑制することを示した。
関連論文リスト
- Boundary-aware Reinforcement Learning for Hypercube State Spaces via Deterministic Policy Gradient [2.838891711119927]
我々は、リフレクションダイナミクスを用いた強化学習のための連続時間決定論的政策勾配フレームワークを開発する。
本研究では,境界認識手法がノイマン境界残差を大幅に低減し,学習安定性を向上させることを示す。
論文 参考訳(メタデータ) (2026-10-07T09:07:40Z) - The Role of Gradient Modification in Heavy-Tailed Nonconvex Stochastic Min-Max Optimization [50.59470683896735]
min-max最適化は、現代の機械学習に応用されているため、注目を集めている。
我々は、勾配降下(SGDA)の包括的理論を提供する。
我々は,Stoc-GDAMとStoc-TRmaxという新たなクリッピングフリーアルゴリズムを開発し,グラディエントクリッピングを使わずに,目標精度への最適依存を実現する。
論文 参考訳(メタデータ) (2026-09-05T12:49:28Z) - The Road Taken: The Role of Optimizers at the Edge of Stability [53.81268610971847]
安定性のエッジ(Edge of stability)とは、古典的な降下が不安定であると予測されるしきい値より上のヘッセンの固有値が安定である深層学習における現象を指す。
それまでの研究は、最大ヘッセン固有値と学習率に関して安定性の端を定式化していた。
我々は、勾配降下を含む多くの一階法が、これらの理論によって予測される安定性を21.1ドルという大きな因子で著しく破っていることを観察した。
論文 参考訳(メタデータ) (2026-08-19T01:03:34Z) - Heterogeneous Knowledge Distillation via Geometry Decoupling and Momentum-Aware Gradient Regulation [3.619179880246355]
SPOFAは、新しいFeature and Gradient Dual Stabilizationメカニズムの上に構築されたフレームワークである。
MEMAは瞬時勾配の衝突を積極的に評価し、有害な蒸留信号を適応的に罰する。
2つの主要なベンチマークの実験は、SPOFAが最先端の精度を達成することを示した。
論文 参考訳(メタデータ) (2026-06-23T13:23:58Z) - Breaking the Stochasticity Barrier: An Adaptive Variance-Reduced Method for Variational Inequalities [0.0]
非コン最適化タスクのための新しいアルゴリズムとしてVR-A-A(VarianceReduced-Ascent with Armijo)を提案する。
本手法は,手動学習スケジューリングへの依存度を低減して,限界周期を効果的に抑制し,収束を加速することを示す。
論文 参考訳(メタデータ) (2026-01-30T14:43:07Z) - Beyond the Edge of Stability via Two-step Gradient Updates [49.03389279816152]
Gradient Descent(GD)は、現代の機械学習の強力な仕事場である。
GDが局所最小値を見つける能力は、リプシッツ勾配の損失に対してのみ保証される。
この研究は、2段階の勾配更新の分析を通じて、単純だが代表的でありながら、学習上の問題に焦点をあてる。
論文 参考訳(メタデータ) (2022-06-08T21:32:50Z) - Gaussian Process-based Min-norm Stabilizing Controller for
Control-Affine Systems with Uncertain Input Effects and Dynamics [90.81186513537777]
本稿では,この問題の制御・アフィン特性を捉えた新しい化合物カーネルを提案する。
この結果の最適化問題は凸であることを示し、ガウス過程に基づく制御リャプノフ関数第二次コーンプログラム(GP-CLF-SOCP)と呼ぶ。
論文 参考訳(メタデータ) (2020-11-14T01:27:32Z) - Pushing the Envelope of Rotation Averaging for Visual SLAM [69.7375052440794]
視覚SLAMシステムのための新しい最適化バックボーンを提案する。
従来の単分子SLAMシステムの精度, 効率, 堅牢性を向上させるために, 平均化を活用している。
我々のアプローチは、公開ベンチマークの最先端技術に対して、同等の精度で最大10倍高速に表示することができる。
論文 参考訳(メタデータ) (2020-11-02T18:02:26Z) - Fine-Grained Analysis of Stability and Generalization for Stochastic
Gradient Descent [55.85456985750134]
我々は,SGDの反復的リスクによって制御される新しい境界を開発する,平均モデル安定性と呼ばれる新しい安定性尺度を導入する。
これにより、最良のモデルの振舞いによって一般化境界が得られ、低雑音環境における最初の既知の高速境界が導かれる。
我々の知る限りでは、このことはSGDの微分不能な損失関数でさえも初めて知られている安定性と一般化を与える。
論文 参考訳(メタデータ) (2020-06-15T06:30:19Z) - Convergence and sample complexity of gradient methods for the model-free
linear quadratic regulator problem [27.09339991866556]
本稿では,コントローラの空間を直接探索することにより,未知の計算系に対する最適制御を求める。
我々は、安定化フィードバックゲインの勾配-フローのダイナミクスセットに焦点をあてて、そのような手法の性能と効率を最小化するための一歩を踏み出した。
論文 参考訳(メタデータ) (2019-12-26T16:56:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。