論文の概要: On the Computational and Statistical Efficiency of the Empirical Maximum Entropy on the Mean Method
- arxiv url: http://arxiv.org/abs/2608.27705v1
- Date: Thu, 27 Aug 2026 20:47:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-31 17:16:04.148207
- Title: On the Computational and Statistical Efficiency of the Empirical Maximum Entropy on the Mean Method
- Title（参考訳）: 平均法による経験的最大エントロピーの計算と統計的効率について
- Abstract要約: 平均値の最大エントロピー法を用いて,データ忠実度とエントロピーに基づく正規化を組み合わせることで,逆問題を解決する。
我々は、経験的MEMを期待して、パラメトリック収束率$O(n-1/2)$を定め、以前に確立された$O(n-1/4)$保証を改善した。
- 参考スコア（独自算出の注目度）: 2.515240189421229
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The Maximum Entropy on the Mean (MEM) method provides a flexible computational framework for solving inverse problems by combining data fidelity with entropy-based regularization. In practice, however, the prior distribution is typically unknown but can be estimated from data, giving rise to the empirical MEM method. We establish a parametric convergence rate of $O(n^{-1/2})$ in expectation for empirical MEM, improving upon the previously established $O(n^{-1/4})$ guarantee by King-Roskamp et al. (2026). Our proof is based on a novel stability analysis of the primal and dual optimization problems under perturbations of the underlying probability measure, relying only on foundational tools from convex analysis and probability. We further show that the MEM dual problem admits a reformulation as an expected risk minimization problem, thereby placing MEM within the modern framework of stochastic optimization and enabling scalable stochastic gradient algorithms for large-scale inverse problems. Together, these results place empirical MEM as a statistically and computationally efficient methodology for data-driven inverse problems.
- Abstract（参考訳）: 平均値の最大エントロピー (MEM) 法は、データフィデリティとエントロピーに基づく正規化を組み合わせることで、逆問題を解決するフレキシブルな計算フレームワークを提供する。
しかし、実際には、以前の分布は一般的に不明であるが、データから推定できるため、経験的なMEM法がもたらされる。
我々は、経験的 MEM の期待値として $O(n^{-1/2})$ のパラメトリック収束率を確立し、King-Roskamp et al (2026) による以前に確立された $O(n^{-1/4})$ の保証を改善した。
この証明は,基礎となる確率尺度の摂動下での一次および双対最適化問題の新たな安定性解析に基づいており,凸解析と確率による基礎ツールのみに依存している。
さらに、MEM双対問題は、変更を予測されるリスク最小化問題として認め、MEMを現代の確率最適化の枠組みの中に配置し、大規模逆問題に対するスケーラブルな確率勾配アルゴリズムを実現する。
これらの結果は、データ駆動逆問題に対する統計的および計算学的に効率的な方法論として実証的なMEMを位置づけている。
関連論文リスト
- Online Inference of Constrained Optimization: Primal-Dual Optimality and Sequential Quadratic Programming [55.848340925419286]
等式制約と不等式制約を持つ2次最適化問題の解に対するオンライン統計的推測について検討した。
これらの問題を解決するための逐次プログラミング(SSQP)手法を開発し、目的の近似と制約の線形近似を逐次実行することでステップ方向を計算する。
本手法は,Hjek と Le Cam の意味での最適原始双対制限行列を用いて局所正規性を示す。
論文 参考訳（メタデータ） (2025-11-27T06:16:17Z) - Improving Value-based Process Verifier via Low-Cost Variance Reduction [24.609940184050043]
大規模言語モデル(LLM)は、幅広いタスクにおいて顕著な成功を収めた。
しかし、特に数学のような複雑な分野において、それらの推論能力は依然として重要な課題である。
正解につながる部分的推論連鎖の確率を推定する値ベースのプロセス検証器は、推論を改善するための有望なアプローチである。
論文 参考訳（メタデータ） (2025-08-14T11:22:29Z) - Learning from Samples: Inverse Problems over measures via Sharpened Fenchel-Young Losses [20.246040671823557]
確率測度空間上の最適化問題の準最適差を測る,シャープ化フェンシェル・ヤング損失と呼ばれる,新たな損失関数のクラスを導入する。
最適輸送の文脈における2つの関連する設定に対して、明確な安定性を保証する。
本稿では,iUOTとiJKOの問題を効率的に解ける最適化アルゴリズムを提案する。
論文 参考訳（メタデータ） (2025-05-11T21:26:44Z) - Covariates-Adjusted Mixed-Membership Estimation: A Novel Network Model with Optimal Guarantees [3.6936359356095454]
本稿では,ネットワークにおける推定の問題に対処し,ネットワークから潜在混合メンバーシップ構造を効率的に推定することを目的とする。
本稿では,情報とノード共メンバシップモデルとの類似性の両方を取り入れた新しいモデルを提案する。
提案手法は類似度行列とフロベニウスノルムのエントリー損失の両方に対して最適精度が得られることを示す。
論文 参考訳（メタデータ） (2025-02-10T16:56:00Z) - Data-Driven Priors in the Maximum Entropy on the Mean Method for Linear Inverse Problems [1.458337589364508]
我々は,それぞれのログモーメント生成関数間のエピグラフィカル距離に基づいて,先行値がmu$ と $nu$ の MEM 解の違いを推定する。
MNIST と Fashion-MNIST のデータセットについて,本研究の結果を概説する。
論文 参考訳（メタデータ） (2024-12-23T19:09:37Z) - A Stochastic Approach to Bi-Level Optimization for Hyperparameter Optimization and Meta Learning [74.80956524812714]
我々は,現代のディープラーニングにおいて広く普及している一般的なメタ学習問題に対処する。
これらの問題は、しばしばBi-Level Optimizations (BLO)として定式化される。
我々は,与えられたBLO問題を,内部損失関数が滑らかな分布となり,外損失が内部分布に対する期待損失となるようなii最適化に変換することにより,新たな視点を導入する。
論文 参考訳（メタデータ） (2024-10-14T12:10:06Z) - Sample-Efficient Multi-Agent RL: An Optimization Perspective [103.35353196535544]
一般関数近似に基づく汎用マルコフゲーム(MG)のためのマルチエージェント強化学習(MARL)について検討した。
汎用MGに対するマルチエージェントデカップリング係数(MADC)と呼ばれる新しい複雑性尺度を導入する。
我々のアルゴリズムは既存の研究に匹敵するサブリニアな後悔を与えることを示す。
論文 参考訳（メタデータ） (2023-10-10T01:39:04Z) - Adaptive Estimation of Graphical Models under Total Positivity [13.47131471222723]
ガウス図形モデルにおける(対角的に支配的な)M-行列を精度行列として推定する問題を考える。
そこで本研究では,提案手法を改良した適応型多段階推定手法を提案する。
正規化問題を解くために,勾配予測法に基づく統一的なフレームワークを開発する。
論文 参考訳（メタデータ） (2022-10-27T14:21:27Z) - Orthogonal Nonnegative Matrix Factorization with Sparsity Constraints [0.0]
本稿では,空間制約付き直交非負行列因子分解(SCONMF)問題に対する新しいアプローチを提案する。
容量制約のある施設配置問題としてSCONMFを再構成することにより, 提案手法は非負性, 直交性, 疎性制約を自然に統合する。
具体的には,動的最適制御設計問題に使用される制御バリア関数(CBF)に基づくフレームワークと,施設配置問題に使用される最大エントロピー原理に基づくフレームワークを統合し,ロバストな因子化を確保しつつ,これらの制約を強制する。
論文 参考訳（メタデータ） (2022-10-06T04:30:59Z) - Stability and Generalization for Markov Chain Stochastic Gradient
Methods [49.981789906200035]
本稿では,最小化問題と最小化問題の両方に対して,MC-SGMの包括的一般化解析を行う。
我々はスムーズかつ非スムーズなケースに対して最適な過剰人口リスク境界を確立する。
コンベックス・コンケーブ問題に対する最初期のほぼ最適な収束率を期待と高い確率で開発する。
論文 参考訳（メタデータ） (2022-09-16T15:42:51Z) - Trustworthy Multimodal Regression with Mixture of Normal-inverse Gamma
Distributions [91.63716984911278]
このアルゴリズムは、異なるモードの適応的統合の原理における不確かさを効率的に推定し、信頼できる回帰結果を生成する。
実世界のデータと実世界のデータの両方に対する実験結果から,多モード回帰タスクにおける本手法の有効性と信頼性が示された。
論文 参考訳（メタデータ） (2021-11-11T14:28:12Z) - Jointly Modeling and Clustering Tensors in High Dimensions [6.072664839782975]
テンソルの合同ベンチマークとクラスタリングの問題を考察する。
本稿では,統計的精度の高い近傍に幾何的に収束する効率的な高速最適化アルゴリズムを提案する。
論文 参考訳（メタデータ） (2021-04-15T21:06:16Z) - Entropy Minimizing Matrix Factorization [102.26446204624885]
NMF(Nonnegative Matrix Factorization)は、広く使用されているデータ分析技術であり、多くの実際のタスクで印象的な結果をもたらしました。
本研究では,上述の問題に対処するために,EMMF (Entropy Minimizing Matrix Factorization framework) を開発した。
通常、外れ値が通常のサンプルよりもはるかに小さいことを考えると、行列分解のために新しいエントロピー損失関数が確立される。
論文 参考訳（メタデータ） (2021-03-24T21:08:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。