論文の概要: LEAF: A Learning-Enabled ADMM Framework for Accelerated Convex Optimization

• arxiv url: http://arxiv.org/abs/2606.08993v1
• Date: Mon, 08 Jun 2026 03:44:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-09 14:42:06.685133
• Title: LEAF: A Learning-Enabled ADMM Framework for Accelerated Convex Optimization
• Title（参考訳）: LEAF: 高速化凸最適化のための学習可能なADMMフレームワーク
• Authors: Binh Nguyen, Trinh Tran, Truong X. Nghiem,
• Abstract要約: コンベックス最適化を高速化するための学習可能なADMMフレームワークであるLEAFを提案する。 入力凸ニューラルネットワーク(ICNN)による目的関数のモローエンベロープの近似 LEAFはスカラー値のMoreauエンベロープを学習し、モデルの複雑さを大幅に低減し、データ効率を向上させる。
• 参考スコア（独自算出の注目度）: 1.838884769821944
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We propose LEAF, a learning-enabled ADMM framework for accelerated convex optimization. The key idea is to approximate the Moreau envelope of the objective function using an Input Convex Neural Network (ICNN), resulting in a learned model that preserves convexity and smoothness. This leads to the proposed Moreau Envelope Learning ADMM (MEL-ADMM) and its splitting variant sMEL-ADMM. Unlike existing approaches that learn high-dimensional operators directly, LEAF learns a scalar-valued Moreau envelope, significantly reducing model complexity and improving data efficiency. The framework accommodates a broad class of convex problems with smooth and non-smooth objectives. By embedding convexity explicitly through the ICNN architecture, the proposed approach maintains high approximation accuracy while preserving key structural properties of the optimization problem. Both MEL-ADMM and sMEL-ADMM are developed with theoretical guarantees of convergence and feasibility under the learned model. Rigorous analysis shows that the proposed methods achieve convergence rates comparable to classical ADMM while reducing per-iteration computational cost. Numerical experiments demonstrate up to an order-of-magnitude speedup over state-of-the-art solvers while maintaining low optimality gaps
• Abstract（参考訳）: コンベックス最適化を高速化するための学習可能なADMMフレームワークであるLEAFを提案する。 鍵となるアイデアは、入力凸ニューラルネットワーク(ICNN)を用いて目的関数のモローエンベロープを近似し、凸性と滑らか性を保持する学習モデルを構築することである。 これにより、Moreau Envelope Learning ADMM (MEL-ADMM) が提案され、その分割版であるsMEL-ADMMが提案される。 高次元演算子を直接学習する既存のアプローチとは異なり、LEAFはスカラー値のモローエンベロープを学習し、モデルの複雑さを著しく低減し、データ効率を向上させる。 このフレームワークは滑らかで非滑らかな目的を持つ幅広い凸問題に対応している。 ICNNアーキテクチャを通じて凸性を明示的に埋め込むことにより,最適化問題の鍵となる構造特性を保ちながら高い近似精度を維持する。 MEL-ADMM と sMEL-ADMM はどちらも,学習モデルの下での収束性と実現可能性の理論的保証をもって開発されている。 厳密な解析により,提案手法は古典的ADMMに匹敵する収束率を達成し,定位当たりの計算コストを低減できることを示した。 低最適性ギャップを保ちながら、最先端の解法器上での次数-次数-次数-次数-次数-次数-次数-次数-の高速化を実証する数値実験

関連論文リスト

• New Hybrid Fine-Tuning Paradigm for LLMs: Algorithm Design and Convergence Analysis Framework [52.69678300445233]
  fine-tuning Large Language Models (LLMs) は通常、すべてのモデルパラメータを更新するフルきめ細やかな調整を必要とする。 PEFT(Efficient Fine-Tuning)は、パラメータの小さなサブセットを調整する。 ゼロ次最適化法と1次最適化法を組み合わせて,LLMとPEFTモジュールを共同で更新するハイブリッドファインチューニング手法を提案する。
  論文  参考訳（メタデータ） (2026-04-10T22:39:38Z)
• Learning to accelerate distributed ADMM using graph neural networks [4.309217525488745]
  分散ADMMイテレーションは,グラフニューラルネットワークのメッセージパッシングフレームワーク内で自然に表現可能であることを示す。 我々は、アルゴリズムの収束特性を保ちながら、与えられた問題クラスの最終繰り返しエラーを最小限に抑えるために、ネットワークパラメータをエンドツーエンドに訓練する。
  論文  参考訳（メタデータ） (2025-09-05T17:55:22Z)
• Moreau Envelope ADMM for Decentralized Weakly Convex Optimization [55.2289666758254]
  本稿では,分散最適化のための乗算器の交互方向法(ADMM)の近位変種を提案する。 数値実験の結果,本手法は広く用いられている手法よりも高速かつ堅牢であることが示された。
  論文  参考訳（メタデータ） (2023-08-31T14:16:30Z)
• Rényi Divergence Deep Mutual Learning [3.682680183777648]
  本稿では,Deep Learning Mutual (DML) を,単純かつ効果的な計算パラダイムとして再考する。 より柔軟で限定的なKL発散の代わりにR'enyi発散を提案する。 我々の経験的結果は、DMLとR'enyiの発散を併用した利点を示し、モデル一般化のさらなる改善につながった。
  論文  参考訳（メタデータ） (2022-09-13T04:58:35Z)
• Meta-Learning with Neural Tangent Kernels [58.06951624702086]
  メタモデルのニューラルタンジェントカーネル(NTK)によって誘導される再生カーネルヒルベルト空間(RKHS)における最初のメタラーニングパラダイムを提案する。 このパラダイムでは,MAMLフレームワークのように,最適な反復内ループ適応を必要としない2つのメタ学習アルゴリズムを導入する。 本研究の目的は,1) 適応をRKHSの高速適応正則化器に置き換えること,2) NTK理論に基づいて解析的に適応を解くことである。
  論文  参考訳（メタデータ） (2021-02-07T20:53:23Z)
• Cauchy-Schwarz Regularized Autoencoder [68.80569889599434]
  変分オートエンコーダ(VAE)は、強力で広く使われている生成モデルのクラスである。 GMMに対して解析的に計算できるCauchy-Schwarz分散に基づく新しい制約対象を導入する。 本研究の目的は,密度推定,教師なしクラスタリング,半教師なし学習,顔分析における変分自動エンコーディングモデルの改善である。
  論文  参考訳（メタデータ） (2021-01-06T17:36:26Z)
• Optimization-driven Machine Learning for Intelligent Reflecting Surfaces Assisted Wireless Networks [82.33619654835348]
  インテリジェントサーフェス(IRS)は、個々の散乱素子の位相シフトを制御して無線チャネルを再形成するために用いられる。 散乱素子の規模が大きいため、受動ビームフォーミングは一般に高い計算複雑性によって挑戦される。 本稿では、IRS支援無線ネットワークの性能向上のための機械学習(ML)アプローチに焦点を当てる。
  論文  参考訳（メタデータ） (2020-08-29T08:39:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。