論文の概要: Non-Parametric Optimization for Scalable Learning in Stochastic Decision Problems
- arxiv url: http://arxiv.org/abs/2610.23204v1
- Date: Fri, 16 Oct 2026 09:42:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.85634
- Title: Non-Parametric Optimization for Scalable Learning in Stochastic Decision Problems
- Title(参考訳): 確率的決定問題におけるスケーラブル学習のための非パラメトリック最適化
- Abstract要約: 本稿では,行列論的時間変動最適化のための行列計算に基づく変分フレームワークを開発する。
次元のパラメータ化に敏感なディープラーニングアルゴリズムの設計をサポートする。
実験結果から,提案手法は性能および拡張性の両方において,状態ベースおよび勾配ベースの手法より優れていることが示された。
- 参考スコア(独自算出の注目度): 3.1925030748447742
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Stochastic optimization (SO) plays a central role in decision-making under uncertainty. Among SO problems, time-varying stochastic optimization (TV-SO) is particularly important due to its applications in adaptive control and machine learning. Non-parametric approaches have been proposed for time-varying deterministic optimization; however, they have not been developed for their stochastic counterparts. This work addresses that gap by developing a stochastic variational framework based on Malliavin calculus. This framework yields non-parametric optimality conditions for SO problems with stochastic decisions and supports the design of a scalable deep-learning algorithm that is insensitive to the parameterization dimension. This algorithm, called the Stochastic Path Follower (SPF), is applied to two important problems under distribution drift, namely least-squares recovery and logistic regression. Experimental results show that the proposed approach outperforms state-of-the-art learning-based and gradient-based methods in both performance and scalability.
- Abstract(参考訳): 確率最適化(SO)は不確実性の下での意思決定において中心的な役割を果たす。
SO問題の中では、適応制御や機械学習に応用されるため、時間変化確率最適化(TV-SO)が特に重要である。
非パラメトリックなアプローチは時間変化による決定論的最適化のために提案されているが、その確率論的最適化のために開発されていない。
この研究は、マリアビン計算に基づく確率的変分フレームワークを開発することで、このギャップに対処する。
この枠組みは確率的決定を伴うSO問題に対する非パラメトリック最適条件を導出し、パラメータ化次元に敏感なスケーラブルなディープラーニングアルゴリズムの設計を支援する。
このアルゴリズムはStochastic Path Follower (SPF)と呼ばれ、分布ドリフト中の2つの重要な問題、すなわち最小二乗回復とロジスティック回帰に適用される。
実験結果から,提案手法は性能と拡張性の両方において,最先端の学習法および勾配法よりも優れていることがわかった。
関連論文リスト
- Adaptive Learning-based Surrogate Method for Stochastic Programs with Implicitly Decision-dependent Uncertainty [1.5412450351033007]
暗黙的に決定に依存した確率変数が非パラメトリック回帰モデルに従属するプログラミング問題のクラスを考える。
本研究では,シミュレーションスキームと統計的推定を統合した適応学習に基づく代理法を開発し,推定に基づく代理関数を構築する。
論文 参考訳(メタデータ) (2025-05-12T07:35:06Z) - Stochastic Optimization with Optimal Importance Sampling [49.484190237840714]
本稿では,両者の時間的分離を必要とせずに,意思決定とIS分布を共同で更新する反復型アルゴリズムを提案する。
本手法は,IS分布系に対する目的的,軽度な仮定の凸性の下で,最小の変数分散を達成し,大域収束を保証する。
論文 参考訳(メタデータ) (2025-04-04T16:10:18Z) - A New Stochastic Approximation Method for Gradient-based Simulated Parameter Estimation [0.7673339435080445]
本稿では,マルチ時間スケール近似アルゴリズムを用いた勾配に基づくシミュレーションパラメータ推定フレームワークを提案する。
提案手法は,最大推定問題と後続密度推定問題の両方で生じる比バイアスを効果的に解決する。
我々の研究はGSPEフレームワークを拡張し、マルコフモデルや変分推論に基づく問題のような複雑なモデルを扱う。
論文 参考訳(メタデータ) (2025-03-24T03:54:50Z) - A Stochastic Approach to Bi-Level Optimization for Hyperparameter Optimization and Meta Learning [74.80956524812714]
我々は,現代のディープラーニングにおいて広く普及している一般的なメタ学習問題に対処する。
これらの問題は、しばしばBi-Level Optimizations (BLO)として定式化される。
我々は,与えられたBLO問題を,内部損失関数が滑らかな分布となり,外損失が内部分布に対する期待損失となるようなii最適化に変換することにより,新たな視点を導入する。
論文 参考訳(メタデータ) (2024-10-14T12:10:06Z) - An Efficient On-Policy Deep Learning Framework for Stochastic Optimal Control [14.832859803172846]
本稿では、最適制御(SOC)問題を解決するための新しいオン政治アルゴリズムを提案する。
ギルサノフの定理を利用することで、微分方程式や随伴問題解による高価なバックプロパゲーションを伴わずに、SOC対象の政治的勾配を直接計算する。
実験により,従来の手法に比べて計算速度とメモリ効率が大幅に向上した。
論文 参考訳(メタデータ) (2024-10-07T16:16:53Z) - End-to-End Learning for Fair Multiobjective Optimization Under
Uncertainty [55.04219793298687]
機械学習における予測-Then-Forecast(PtO)パラダイムは、下流の意思決定品質を最大化することを目的としている。
本稿では,PtO法を拡張して,OWA(Nondifferentiable Ordered Weighted Averaging)の目的を最適化する。
この結果から,不確実性の下でのOWA関数の最適化とパラメトリック予測を効果的に統合できることが示唆された。
論文 参考訳(メタデータ) (2024-02-12T16:33:35Z) - Multistage Stochastic Optimization via Kernels [3.7565501074323224]
我々は,多段階最適化問題に対する非パラメトリック,データ駆動,トラクタブルアプローチを開発した。
本稿では,提案手法が最適に近い平均性能で決定ルールを生成することを示す。
論文 参考訳(メタデータ) (2023-03-11T23:19:32Z) - Learning to Optimize with Stochastic Dominance Constraints [103.26714928625582]
本稿では,不確実量を比較する問題に対して,単純かつ効率的なアプローチを開発する。
我々はラグランジアンの内部最適化をサロゲート近似の学習問題として再考した。
提案したライト-SDは、ファイナンスからサプライチェーン管理に至るまで、いくつかの代表的な問題において優れた性能を示す。
論文 参考訳(メタデータ) (2022-11-14T21:54:31Z) - Learning MDPs from Features: Predict-Then-Optimize for Sequential
Decision Problems by Reinforcement Learning [52.74071439183113]
我々は、強化学習を通して解決された逐次決定問題(MDP)の文脈における予測列最適化フレームワークについて検討した。
2つの重要な計算課題は、意思決定中心の学習をMDPに適用することである。
論文 参考訳(メタデータ) (2021-06-06T23:53:31Z) - Robust, Accurate Stochastic Optimization for Variational Inference [68.83746081733464]
また, 共通最適化手法は, 問題が適度に大きい場合, 変分近似の精度が低下することを示した。
これらの結果から,基礎となるアルゴリズムをマルコフ連鎖の生成とみなして,より堅牢で正確な最適化フレームワークを開発する。
論文 参考訳(メタデータ) (2020-09-01T19:12:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。