論文の概要: Revisiting the Role of Euler Numerical Integration on Acceleration and Stability in Convex Optimization

• arxiv url: http://arxiv.org/abs/2102.11537v1
• Date: Tue, 23 Feb 2021 08:05:05 GMT
• ステータス: 処理完了
• システム内更新日: 2021-02-24 13:47:44.003933
• Title: Revisiting the Role of Euler Numerical Integration on Acceleration and Stability in Convex Optimization
• Title（参考訳）: euler数値積分が凸最適化の加速と安定性に及ぼす影響の再検討
• Authors: Peiyuan Zhang, Antonio Orvieto, Hadi Daneshmand, Thomas Hofmann, Roy Smith
• Abstract要約: 加速度と積分器の品質の関係に疑問を呈する新しい常微分方程式を提案する。 半単純法は物理系の統合に望ましい特徴を多く享受するために数値解析でよく知られているが,これらの特性が必ずしも加速度に関係しないことを示す。
• 参考スコア（独自算出の注目度）: 25.171367662119113
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Viewing optimization methods as numerical integrators for ordinary differential equations (ODEs) provides a thought-provoking modern framework for studying accelerated first-order optimizers. In this literature, acceleration is often supposed to be linked to the quality of the integrator (accuracy, energy preservation, symplecticity). In this work, we propose a novel ordinary differential equation that questions this connection: both the explicit and the semi-implicit (a.k.a symplectic) Euler discretizations on this ODE lead to an accelerated algorithm for convex programming. Although semi-implicit methods are well-known in numerical analysis to enjoy many desirable features for the integration of physical systems, our findings show that these properties do not necessarily relate to acceleration.
• Abstract（参考訳）: 常微分方程式(ODE)の数値積分器としての最適化手法の展望は、加速された一階最適化器を研究するための思考を誘発する現代的な枠組みを提供する。 この文献では、加速はしばしば積分器の品質(正確性、エネルギー保存、シンプレクティリティ)に関係していると考えられる。 本研究では、この接続に疑問を呈する新しい常微分方程式を提案する: このODE上の明示的および半単純(シンプレクティック)なオイラー離散化は、凸プログラミングの高速化アルゴリズムに繋がる。 半単純法は物理系の統合に望ましい特徴を多く享受するために数値解析でよく知られているが,これらの特性が必ずしも加速度に関係しないことを示す。

関連論文リスト

• PINNIES: An Efficient Physics-Informed Neural Network Framework to Integral Operator Problems [0.0]
  本稿では,物理インフォームド深層学習フレームワークにおける積分演算子近似のための効率的なテンソルベクトル積法を提案する。 我々は、この方法がフレドホルムとボルテラ積分作用素の両方に適用可能であることを実証する。 また,カプトー微分を効率的に計算する高速行列ベクトル積アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-09-03T13:43:58Z)
• ODE-based Learning to Optimize [28.380622776436905]
  我々は、慣性系とヘッセン駆動制振方程式(ISHD)を統合した包括的枠組みを提案する。 収束・安定条件を考慮した停止時間を最小化することを目的とした新しい学習法(L2O)を定式化する。 本フレームワークの実証検証は,多種多様な最適化問題に対する広範な数値実験を通じて行われる。
  論文  参考訳（メタデータ） (2024-06-04T06:39:45Z)
• An Optimization-based Deep Equilibrium Model for Hyperspectral Image Deconvolution with Convergence Guarantees [71.57324258813675]
  本稿では,ハイパースペクトル画像のデコンボリューション問題に対処する新しい手法を提案する。 新しい最適化問題を定式化し、学習可能な正規化器をニューラルネットワークの形で活用する。 導出した反復解法は、Deep Equilibriumフレームワーク内の不動点計算問題として表現される。
  論文  参考訳（メタデータ） (2023-06-10T08:25:16Z)
• On the connections between optimization algorithms, Lyapunov functions, and differential equations: theory and insights [0.0]
  Fazylabらによって導入されたフレームワークを再検討し、離散的かつ連続的な時間で最適化アルゴリズムのためのLyapunov関数を構築する。 滑らかで強凸な目的関数に対して、そのような構成に必要な要求を緩和する。 文献で利用できるものよりも良い収束率を証明します。
  論文  参考訳（メタデータ） (2023-05-15T14:03:16Z)
• Optimization on manifolds: A symplectic approach [127.54402681305629]
  本稿では、最適化問題を解くための一般的な枠組みとして、ディラックの制約付きハミルトン系理論の散逸拡張を提案する。 我々の(加速された)アルゴリズムのクラスは単純で効率的なだけでなく、幅広い文脈にも適用できる。
  論文  参考訳（メタデータ） (2021-07-23T13:43:34Z)
• A Discrete Variational Derivation of Accelerated Methods in Optimization [68.8204255655161]
  最適化のための異なる手法を導出できる変分法を導入する。 我々は1対1の対応において最適化手法の2つのファミリを導出する。 自律システムのシンプレクティシティの保存は、ここでは繊維のみに行われる。
  論文  参考訳（メタデータ） (2021-06-04T20:21:53Z)
• A Contraction Theory Approach to Optimization Algorithms from Acceleration Flows [1.90365714903665]
  私たちは、適切なODEを設計し、識別するための原則化された方法論を提供するために収縮理論を使用します。 本稿では, ODE の新しいシステム,すなわち Accelerated-Contracting-Nesterov フローを提案する。 注目すべきことに、この流れの単純明示的なオイラー離散化はネステロフ加速度法に対応する。
  論文  参考訳（メタデータ） (2021-05-18T21:11:37Z)
• Acceleration Methods [57.202881673406324]
  まず2次最適化問題を用いて加速法を2つ導入する。 我々は、ネステロフの精巧な研究から始まる運動量法を詳細に論じる。 我々は、ほぼ最適な収束率に達するための一連の簡単な手法である再起動スキームを議論することで結論付ける。
  論文  参考訳（メタデータ） (2021-01-23T17:58:25Z)
• DiffPD: Differentiable Projective Dynamics with Contact [65.88720481593118]
  DiffPDは、暗黙の時間積分を持つ効率的な微分可能なソフトボディシミュレータである。 我々はDiffPDの性能を評価し,様々な応用における標準ニュートン法と比較して4～19倍のスピードアップを観測した。
  論文  参考訳（メタデータ） (2021-01-15T00:13:33Z)
• Fast and differentiable simulation of driven quantum systems [58.720142291102135]
  我々は、ダイソン展開に基づく半解析手法を導入し、標準数値法よりもはるかに高速に駆動量子系を時間発展させることができる。 回路QEDアーキテクチャにおけるトランスモン量子ビットを用いた2量子ゲートの最適化結果を示す。
  論文  参考訳（メタデータ） (2020-12-16T21:43:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。