Fugu-MT 論文翻訳(概要): A Dual Optimization View to Empirical Risk Minimization with f-Divergence Regularization

論文の概要: A Dual Optimization View to Empirical Risk Minimization with f-Divergence Regularization

arxiv url: http://arxiv.org/abs/2508.03314v1
Date: Tue, 05 Aug 2025 10:48:40 GMT
ステータス: 翻訳完了
システム内更新日: 2025-08-06 18:18:55.919811
Title: A Dual Optimization View to Empirical Risk Minimization with f-Divergence Regularization
Title（参考訳）: f-Divergence正則化による経験的リスク最小化のための双対最適化
Authors: Francisco Daunas, Iñaki Esnaola, Samir M. Perlaza,
Abstract要約: ERM-fDRに対する双対最適化問題の解は、暗黙関数として導入された正規化関数の概念に関係している。レジェンダー=フェンシェル変換と暗黙関数定理は正規化関数に非線形ODE表現を与える。
参考スコア（独自算出の注目度）: 1.024113475677323
License: http://creativecommons.org/licenses/by/4.0/
Abstract: The dual formulation of empirical risk minimization with f-divergence regularization (ERM-fDR) is introduced. The solution of the dual optimization problem to the ERM-fDR is connected to the notion of normalization function introduced as an implicit function. This dual approach leverages the Legendre-Fenchel transform and the implicit function theorem to provide a nonlinear ODE expression to the normalization function. Furthermore, the nonlinear ODE expression and its properties provide a computationally efficient method to calculate the normalization function of the ERM-fDR solution under a mild condition.
Abstract（参考訳）: f分割正則化(ERM-fDR)による経験的リスク最小化の2つの定式化を導入する。 ERM-fDRに対する双対最適化問題の解は、暗黙関数として導入された正規化関数の概念に関係している。この双対アプローチはルジャンドル・フェンシェル変換と暗黙関数定理を利用して正規化関数に対する非線形ODE式を提供する。さらに, 非線形ODE式とその特性は, 温和条件下でのERM-fDR溶液の正規化関数を計算的に効率的に計算する方法を提供する。

関連論文リスト

Generalization Error of $f$-Divergence Stabilized Algorithms via Duality [2.6024036282674587]
制限付き最適化問題に対して、$f$-divergence regularization (ERM-$f$DR)による経験的リスク最小化の解が拡張される。 ERM-$f$DRの双対定式化を導入し、ERM-$f$DR解の正規化関数を導出する計算効率の良い方法を提供する。
論文参考訳（メタデータ） (2025-02-20T13:21:01Z)
Alternating Minimization Schemes for Computing Rate-Distortion-Perception Functions with $f$-Divergence Perception Constraints [10.564071872770146]
離散メモリレスソースに対するRDPF(Ralse-Distortion-Perception Function)の計算について検討した。最適パラメトリック解を特徴付ける。歪みと知覚制約について十分な条件を提供する。
論文参考訳（メタデータ） (2024-08-27T12:50:12Z)
Double Duality: Variational Primal-Dual Policy Optimization for Constrained Reinforcement Learning [132.7040981721302]
本研究では,訪問尺度の凸関数を最小化することを目的として,制約付き凸決定プロセス(MDP)について検討する。制約付き凸MDPの設計アルゴリズムは、大きな状態空間を扱うなど、いくつかの課題に直面している。
論文参考訳（メタデータ） (2024-02-16T16:35:18Z)
Equivalence of the Empirical Risk Minimization to Regularization on the Family of f-Divergences [45.935798913942904]
経験的リスク最小化の解決策として、$f$-divergence regularization (ERM-$f$DR) を挙げる。関数の特定の選択に対する解の例は、$f$である。
論文参考訳（メタデータ） (2024-02-01T11:12:00Z)
Analysis of the Relative Entropy Asymmetry in the Regularization of Empirical Risk Minimization [70.540936204654]
相対エントロピー非対称性の効果は、相対エントロピー正則化(ERM-RER)問題による経験的リスク最小化において解析される。新しい正規化はType-II正規化(Type-II regularization)と呼ばれ、ERM-RER問題の解決を可能にする。
論文参考訳（メタデータ） (2023-06-12T13:56:28Z)
Variational Laplace Autoencoders [53.08170674326728]
変分オートエンコーダは、遅延変数の後部を近似するために、償却推論モデルを用いる。完全分解ガウス仮定の限定的後部表現性に対処する新しい手法を提案する。また、深部生成モデルのトレーニングのための変分ラプラスオートエンコーダ(VLAE)という一般的なフレームワークも提示する。
論文参考訳（メタデータ） (2022-11-30T18:59:27Z)
Log-based Sparse Nonnegative Matrix Factorization for Data Representation [55.72494900138061]
非負の行列因子化(NMF)は、非負のデータを部品ベースの表現で表すことの有効性から、近年広く研究されている。そこで本研究では,係数行列に対数ノルムを課した新しいNMF法を提案する。提案手法のロバスト性を高めるために,$ell_2,log$-(pseudo) ノルムを新たに提案した。
論文参考訳（メタデータ） (2022-04-22T11:38:10Z)
A Dual Approach to Constrained Markov Decision Processes with Entropy Regularization [7.483040617090451]
本研究では,ソフトマックスパラメータ化の下で,エントロピー規則化制約付きマルコフ決定過程(CMDP)について検討する。我々の理論的解析は、ラグランジアン双対函数は滑らかであり、ラグランジアン双対性ギャップは原始性ギャップと制約違反に分解できることを示している。
論文参考訳（メタデータ） (2021-10-17T21:26:40Z)
On the Double Descent of Random Features Models Trained with SGD [78.0918823643911]
勾配降下(SGD)により最適化された高次元におけるランダム特徴(RF)回帰特性について検討する。本研究では, RF回帰の高精度な非漸近誤差境界を, 定常および適応的なステップサイズSGD設定の下で導出する。理論的にも経験的にも二重降下現象を観察する。
論文参考訳（メタデータ） (2021-10-13T17:47:39Z)
Understanding Implicit Regularization in Over-Parameterized Single Index Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。暗黙正則化現象の理論的保証を提供する。
論文参考訳（メタデータ） (2020-07-16T13:27:47Z)
Solving high-dimensional eigenvalue problems using deep neural networks: A diffusion Monte Carlo like approach [14.558626910178127]
固有値問題は、演算子によって誘導される半群フローの固定点問題として再構成される。この方法は拡散モンテカルロと同様の精神を持つが、ニューラル・ネットワーク・アンサッツによる固有関数への直接近似を増大させる。我々の手法はいくつかの数値例で正確な固有値と固有関数の近似を提供することができる。
論文参考訳（メタデータ） (2020-02-07T03:08:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。