論文の概要: Optimal Control Theoretic Neural Optimizer: From Backpropagation to Dynamic Programming
- arxiv url: http://arxiv.org/abs/2510.14168v1
- Date: Wed, 15 Oct 2025 23:39:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-17 21:15:14.653672
- Title: Optimal Control Theoretic Neural Optimizer: From Backpropagation to Dynamic Programming
- Title（参考訳）: 最適制御理論ニューラルオプティマイザ:バックプロパゲーションから動的プログラミングへ
- Authors: Guan-Horng Liu, Tianrong Chen, Evangelos A. Theodorou,
- Abstract要約: 本稿では,ディープニューラルネットワーク(DNN)の最適化に関するアルゴリズム的視点に焦点を当てる。
我々の動機付けされた観測は、DNNの勾配計算のためのバックプロパゲーションアルゴリズムと力学系における最適条件との顕著なアルゴリズム的類似性である。
最適制御 ニューラル理論 (OCNOpt) と呼ばれる結果の物理は、豊かなアルゴリズムの機会を与える。
- 参考スコア（独自算出の注目度）: 29.911180907218053
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Optimization of deep neural networks (DNNs) has been a driving force in the advancement of modern machine learning and artificial intelligence. With DNNs characterized by a prolonged sequence of nonlinear propagation, determining their optimal parameters given an objective naturally fits within the framework of Optimal Control Programming. Such an interpretation of DNNs as dynamical systems has proven crucial in offering a theoretical foundation for principled analysis from numerical equations to physics. In parallel to these theoretical pursuits, this paper focuses on an algorithmic perspective. Our motivated observation is the striking algorithmic resemblance between the Backpropagation algorithm for computing gradients in DNNs and the optimality conditions for dynamical systems, expressed through another backward process known as dynamic programming. Consolidating this connection, where Backpropagation admits a variational structure, solving an approximate dynamic programming up to the first-order expansion leads to a new class of optimization methods exploring higher-order expansions of the Bellman equation. The resulting optimizer, termed Optimal Control Theoretic Neural Optimizer (OCNOpt), enables rich algorithmic opportunities, including layer-wise feedback policies, game-theoretic applications, and higher-order training of continuous-time models such as Neural ODEs. Extensive experiments demonstrate that OCNOpt improves upon existing methods in robustness and efficiency while maintaining manageable computational complexity, paving new avenues for principled algorithmic design grounded in dynamical systems and optimal control theory.
- Abstract（参考訳）: ディープニューラルネットワーク(DNN)の最適化は、現代の機械学習と人工知能の発展の原動力となっている。
DNNは、長期にわたる非線形伝播によって特徴づけられるため、目的とする最適パラメータは、最適制御プログラミングの枠組みに自然に適合する。
力学系としてのDNNの解釈は、数値方程式から物理学への原理解析の理論的基礎を提供する上で極めて重要であることが証明されている。
これらの理論的追求と並行して,本論文はアルゴリズム的視点に焦点をあてる。
我々のモチベートされた観察は、DNNの勾配計算のためのバックプロパゲーションアルゴリズムと、動的プログラミングとして知られる別の後方プロセスを通して表現される動的システムの最適条件との顕著なアルゴリズム的類似性である。
この接続を統合すると、バックプロパゲーションは変分構造を認め、一階展開まで近似的動的計画法を解くことで、ベルマン方程式の高階展開を探索する新しい最適化手法が導かれる。
最適制御理論ニューラルオプティマイザ(OCNOpt,Optimal Control Theoretic Neural Optimizer)と呼ばれる結果のオプティマイザは,階層的なフィードバックポリシやゲーム理論の適用,ニューラルODEなどの連続時間モデルの高次トレーニングなど,豊富なアルゴリズム的機会を実現する。
大規模な実験により、OCNOptは計算複雑性を管理可能とし、動的システムと最適制御理論を基礎としたアルゴリズム設計のための新たな道を開くとともに、ロバストネスと効率の既存の手法を改善することが示されている。
関連論文リスト
- Understanding Inverse Reinforcement Learning under Overparameterization: Non-Asymptotic Analysis and Global Optimality [52.906438147288256]
我々のアルゴリズムは,特定のニューラルネットワーク構造の下で,最適報酬とポリシーを識別できることが示される。
これは、国際的最適性を確実に達成する非漸近収束保証を持つ最初のIRLアルゴリズムである。
論文 参考訳（メタデータ） (2025-03-22T21:16:08Z) - Training Neural ODEs Using Fully Discretized Simultaneous Optimization [2.290491821371513]
ニューラルネットワークの正規微分方程式(Neural ODEs)の学習には、各エポックにおける微分方程式の解法が必要であるため、計算コストが高い。
特に、コロケーションに基づく完全に離散化された定式化を採用し、大規模な非線形最適化にIPOPT-aソルバを用いる。
この結果から,(コロケーションをベースとした)同時ニューラルODE訓練パイプラインの可能性が示唆された。
論文 参考訳（メタデータ） (2025-02-21T18:10:26Z) - Super Level Sets and Exponential Decay: A Synergistic Approach to Stable Neural Network Training [0.0]
指数減衰と高度な反オーバーフィッティング戦略を統合する動的学習率アルゴリズムを開発した。
適応学習率の影響を受けて、損失関数の超レベル集合が常に連結であることを証明する。
論文 参考訳（メタデータ） (2024-09-25T09:27:17Z) - Efficient and Flexible Neural Network Training through Layer-wise Feedback Propagation [49.44309457870649]
レイヤワイドフィードバックフィードバック(LFP)は、ニューラルネットワークのような予測器のための新しいトレーニング原則である。
LFPはそれぞれの貢献に基づいて個々のニューロンに報酬を分解する。
提案手法は,ネットワークの有用な部分と有害な部分の弱体化を両立させる手法である。
論文 参考訳（メタデータ） (2023-08-23T10:48:28Z) - Neural Combinatorial Optimization: a New Player in the Field [69.23334811890919]
本稿では,ニューラルネットワークに基づくアルゴリズムの古典的最適化フレームワークへの導入に関する批判的分析を行う。
性能, 転送可能性, 計算コスト, 大規模インスタンスなど, これらのアルゴリズムの基本的側面を分析するために, 総合的研究を行った。
論文 参考訳（メタデータ） (2022-05-03T07:54:56Z) - Fractal Structure and Generalization Properties of Stochastic
Optimization Algorithms [71.62575565990502]
最適化アルゴリズムの一般化誤差は、その一般化尺度の根底にあるフラクタル構造の複雑性'にバウンドできることを示す。
さらに、特定の問題(リニア/ロジスティックレグレッション、隠れ/層ニューラルネットワークなど)とアルゴリズムに対して、結果をさらに専門化します。
論文 参考訳（メタデータ） (2021-06-09T08:05:36Z) - Iterative Surrogate Model Optimization (ISMO): An active learning
algorithm for PDE constrained optimization with deep neural networks [14.380314061763508]
反復代理モデル最適化(ISMO)と呼ばれる新しい能動学習アルゴリズムを提案する。
このアルゴリズムはディープニューラルネットワークに基づいており、その重要な特徴は、ディープニューラルネットワークと基礎となる標準最適化アルゴリズムの間のフィードバックループを通じて、トレーニングデータの反復的な選択である。
論文 参考訳（メタデータ） (2020-08-13T07:31:07Z) - A Differential Game Theoretic Neural Optimizer for Training Residual
Networks [29.82841891919951]
本稿では、残差接続と畳み込み層の両方を受け入れる一般化微分動的プログラミング(DDP)ニューラルアーキテクチャを提案する。
得られた最適制御表現は、トレーニング残余ネットワークを、状態拡張システム上での協調的軌道最適化と解釈できるゲーム論的視点を許容する。
論文 参考訳（メタデータ） (2020-07-17T10:19:17Z) - Iterative Algorithm Induced Deep-Unfolding Neural Networks: Precoding
Design for Multiuser MIMO Systems [59.804810122136345]
本稿では,AIIDNN(ディープ・アンフォールディング・ニューラルネット)を一般化した,ディープ・アンフォールディングのためのフレームワークを提案する。
古典的重み付き最小二乗誤差(WMMSE)反復アルゴリズムの構造に基づく効率的なIAIDNNを提案する。
提案したIAIDNNは,計算複雑性を低減した反復WMMSEアルゴリズムの性能を効率よく向上することを示す。
論文 参考訳（メタデータ） (2020-06-15T02:57:57Z) - Dynamic Hierarchical Mimicking Towards Consistent Optimization
Objectives [73.15276998621582]
一般化能力を高めたCNN訓練を推進するための汎用的特徴学習機構を提案する。
DSNに部分的にインスパイアされた私たちは、ニューラルネットワークの中間層から微妙に設計されたサイドブランチをフォークしました。
カテゴリ認識タスクとインスタンス認識タスクの両方の実験により,提案手法の大幅な改善が示された。
論文 参考訳（メタデータ） (2020-03-24T09:56:13Z) - DDPNOpt: Differential Dynamic Programming Neural Optimizer [29.82841891919951]
トレーニングのための最も広く使われているアルゴリズムは、差分動的プログラミング(DDP)とリンク可能であることを示す。
本稿では,フィードフォワードと畳み込みネットワークをトレーニングするためのDDPOptの新たなクラスを提案する。
論文 参考訳（メタデータ） (2020-02-20T15:42:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。