論文の概要: Projection-Free Gradient Tracking Neurodynamic for Distributed Nonnegative Sparse Optimization
- arxiv url: http://arxiv.org/abs/2611.07643v1
- Date: Thu, 05 Nov 2026 08:27:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 21:50:50.599012
- Title: Projection-Free Gradient Tracking Neurodynamic for Distributed Nonnegative Sparse Optimization
- Title(参考訳): 分散非負スパース最適化のための投影自由勾配追従神経力学
- Abstract要約: 本稿では,分散非負スパース最適化のための連続時間プロジェクションフリー神経力学系を提案する。
従来の手法とは異なり、我々の手法は実現可能な集合への状態の投影を避ける。
このシステムは局所リプシッツベクトル場を通じて一意解を保証する。
- 参考スコア(独自算出の注目度): 38.13983406595066
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper proposes a continuous-time, projection-free neurodynamic system based on gradient tracking for distributed nonnegative sparse optimization. Unlike traditional methods, our approach avoids projecting states onto the feasible set. Instead, it employs gradient tracking to estimate average gradients under heterogeneous costs, coupling primal and dual dynamics such that feasibility and sparsity emerge naturally from the equilibrium conditions. The system ensures unique solutions through a locally Lipschitz vector field and guarantees that every equilibrium corresponds to an exact KKT point. We establish rigorous convergence guarantees for convex objectives through three distinct analytical layers. These include a centralized kernel rate, a computable distributed rate derived from Jacobian analysis without restrictive stability assumptions, and a global exponential stability proof based on Lur'e system theory. Our analysis quantitatively separates these layers, revealing that the convergence rate is primarily limited by graph sparsity and remains robust to variations in momentum time scales. Numerical experiments on strongly convex quadratic problems validate the theoretical rates, demonstrate effective active set recovery, and show that the system maintains stable tail convergence rates even under strong local heterogeneity.
- Abstract(参考訳): 本稿では,非負の分散スパース最適化のための勾配追跡に基づく連続時間プロジェクションフリー神経力学系を提案する。
従来の手法とは異なり、我々の手法は実現可能な集合への状態の投影を避ける。
その代わりに、不均一なコストの下で平均勾配を推定するために勾配追跡を使い、均衡条件から実現可能性とスパーシリティが自然に現れるような原始と双対力学を結合する。
このシステムは局所リプシッツベクトル場を通じて一意解を保証し、すべての平衡が正確なKKT点に対応することを保証している。
我々は3つの異なる分析層を通して凸目標に対する厳密な収束保証を確立する。
これらには、集中化されたカーネル率、制限的安定性の仮定を持たないヤコビ解析から導かれる計算可能な分散率、Lur'eシステム理論に基づく大域的な指数的安定性証明が含まれる。
我々の分析はこれらの層を定量的に分離し、収束速度が主にグラフの間隔によって制限され、運動量時間スケールの変動に対して頑健であることを明らかにする。
強凸二次問題に関する数値実験は、理論速度を検証し、有効能動集合回復を示し、強い局所的不均一性の下でも安定な尾収束速度を維持することを示した。
関連論文リスト
- TR-SSQP: A Trust-Region Method for Constrained Stochastic Optimization under Heavy-Tailed Noise [7.51257009931438]
逐次2次プログラミングフレームワークTR-SSQPにおける新しい信頼領域法を提案する。
本手法では, 最適性と実現可能性のバランスをとるために, 通常のタングル分解を用いる。
我々の知る限りでは、これは重み付き雑音下での制約付き最適化に対する最初の収束結果である。
論文 参考訳(メタデータ) (2026-09-25T03:00:50Z) - Coherence Estimation Beyond the Liouvillian Gap in a Finite Nonequilibrium System [0.0]
本研究では, 温度貯留層と相互作用する有限量子系における入浴によるコヒーレンスの推定について検討する。
コヒーレンス推定の促進は過渡であり、推定精度は定常状態で完全に消失する。
有限系を量子空洞に結合し、熱バイアスを保ち、過渡的なメトロジー最適化を持続的な定常状態資源に変換することを示す。
論文 参考訳(メタデータ) (2026-07-07T12:41:15Z) - A Mean-Field Analysis of Multi-Head Self-Attention under Cross-Entropy Training [0.0]
本稿では,クロスエントロピー最小化により学習した単一層因果多頭部自己注意モデルの平均場理論について述べる。
無限の上限において、平均的な注意ログは確率測度上のリスク関数を定義し、その最初の変動は非線形ワッサーシュタイン勾配流方程式を生成する。
我々は,PDEの長期的挙動について検討する:エネルギー散逸,コンパクト性の下での定常集合への収束,トポロジカルあるいはクルディカ-オジャシエヴィチ仮定の下での1つの定常測度への収束,勾配支配条件下での明示的な収束率。
論文 参考訳(メタデータ) (2026-06-09T06:38:27Z) - A Generative Sampler for distributions with possible discrete parameter based on Reversibility [9.349846971147256]
本稿では,多種多様な状態空間にまたがって適用可能な,統一的かつ段階的な目標自由な生成サンプリングフレームワークを提案する。
我々は,前方と後方のマルコフ軌道の関節分布の最大平均差 (MMD) を最小化する。
実験により,本フレームワークは熱力学観測器を正確に再現し,すべてのレシエーションでモードスイッチング動作を捉えていることがわかった。
論文 参考訳(メタデータ) (2026-03-10T06:32:51Z) - Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳(メタデータ) (2026-02-24T05:32:03Z) - Stability as a Liability:Systematic Breakdown of Linguistic Structure in LLMs [5.96875296117642]
安定なパラメータトラジェクトリが定常解を導出し、経験的分布へのKLの分岐を最小化することを示す。
制御されたフィードバックベースのトレーニングフレームワークを用いて,この効果を実証的に検証する。
これは、最適化の安定性と生成的表現性は本質的に一致していないことを示し、安定性のみが生成的品質の指標として不十分であることを示している。
論文 参考訳(メタデータ) (2026-01-26T15:34:50Z) - Revisiting Zeroth-Order Optimization: Minimum-Variance Two-Point Estimators and Directionally Aligned Perturbations [57.179679246370114]
乱摂動の分布は, 摂動段差がゼロになる傾向にあるため, 推定子の分散を最小限に抑える。
以上の結果から, 一定の長さを維持するのではなく, 真の勾配に方向を合わせることが可能であることが示唆された。
論文 参考訳(メタデータ) (2025-10-22T19:06:39Z) - Stochastic Optimization with Optimal Importance Sampling [49.484190237840714]
本稿では,両者の時間的分離を必要とせずに,意思決定とIS分布を共同で更新する反復型アルゴリズムを提案する。
本手法は,IS分布系に対する目的的,軽度な仮定の凸性の下で,最小の変数分散を達成し,大域収束を保証する。
論文 参考訳(メタデータ) (2025-04-04T16:10:18Z) - Convex Analysis of the Mean Field Langevin Dynamics [49.66486092259375]
平均場ランゲヴィン力学の収束速度解析について述べる。
ダイナミックスに付随する$p_q$により、凸最適化において古典的な結果と平行な収束理論を開発できる。
論文 参考訳(メタデータ) (2022-01-25T17:13:56Z) - On dissipative symplectic integration with applications to
gradient-based optimization [77.34726150561087]
本稿では,離散化を体系的に実現する幾何学的枠組みを提案する。
我々は、シンプレクティックな非保守的、特に散逸的なハミルトン系への一般化が、制御された誤差まで収束率を維持することができることを示す。
論文 参考訳(メタデータ) (2020-04-15T00:36:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。