論文の概要: Hybrid least squares for learning functions from highly noisy data

• arxiv url: http://arxiv.org/abs/2507.02215v1
• Date: Thu, 03 Jul 2025 00:31:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-04 15:37:15.379658
• Title: Hybrid least squares for learning functions from highly noisy data
• Title（参考訳）: 高雑音データから関数を学習するためのハイブリッド最小二乗法
• Authors: Ben Adcock, Bernhard Hientzsch, Akil Narayan, Yiming Xu,
• Abstract要約: 大量の汚染データを用いた最小二乗関数近似問題を考える。 大きなノイズが存在する場合、小さなノイズレシエーションにおいて強力な既存の手法は最適以下である。 提案アルゴリズムは,サンプル点生成とノイズモリゼーションの両方に対して,適切な最適性を有することを示す。
• 参考スコア（独自算出の注目度）: 7.096701481970196
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Motivated by the need for efficient estimation of conditional expectations, we consider a least-squares function approximation problem with heavily polluted data. Existing methods that are powerful in the small noise regime are suboptimal when large noise is present. We propose a hybrid approach that combines Christoffel sampling with certain types of optimal experimental design to address this issue. We show that the proposed algorithm enjoys appropriate optimality properties for both sample point generation and noise mollification, leading to improved computational efficiency and sample complexity compared to existing methods. We also extend the algorithm to convex-constrained settings with similar theoretical guarantees. When the target function is defined as the expectation of a random field, we extend our approach to leverage adaptive random subspaces and establish results on the approximation capacity of the adaptive procedure. Our theoretical findings are supported by numerical studies on both synthetic data and on a more challenging stochastic simulation problem in computational finance.
• Abstract（参考訳）: 条件付き期待値の効率的な推定の必要性から, 大量の汚染データを用いた最小二乗関数近似問題を考える。 大きなノイズが存在する場合、小さなノイズレシエーションにおいて強力な既存の手法は最適以下である。 この問題に対処するために、Christoffelサンプリングとある種の最適な実験設計を組み合わせたハイブリッドアプローチを提案する。 提案アルゴリズムは,サンプル点生成とノイズモリゼーションの両方に対して適切な最適性を有しており,既存の手法と比較して計算効率とサンプルの複雑さが向上していることを示す。 また、同様の理論的保証で凸制約設定に拡張する。 対象関数がランダムフィールドの期待値として定義されるとき、適応的ランダム部分空間を活用するためのアプローチを拡張し、適応的手続きの近似能力について結果を確立する。 我々の理論的な知見は、合成データと計算ファイナンスにおけるより困難な確率的シミュレーション問題の両方に関する数値的研究によって裏付けられている。

関連論文リスト

• Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
  凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。 このような問題は医学、物理学、機械学習で発生する。 両種類の雑音下で提案アルゴリズムの収束保証を行う。
  論文  参考訳（メタデータ） (2024-11-21T10:26:17Z)
• Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
  実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。 本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
  論文  参考訳（メタデータ） (2023-06-13T01:18:16Z)
• Selection of the Most Probable Best [2.1095005405219815]
  予測値ランキングと選択(R&S)問題では,すべてのk解のシミュレーション出力が,分布によって不確実性をモデル化可能な共通パラメータに依存する。 我々は、最も確率の高い最適解 (MPB) を、分布に関して最適である確率が最も大きい解と定義する。 最適化条件における未知の手段をその推定値に置き換えるアルゴリズムを考案し,シミュレーション予算が増加するにつれて,アルゴリズムのサンプリング比が条件を満たすことを証明した。
  論文  参考訳（メタデータ） (2022-07-15T15:27:27Z)
• Local policy search with Bayesian optimization [73.0364959221845]
  強化学習は、環境との相互作用によって最適な政策を見つけることを目的としている。 局所探索のための政策勾配は、しばしばランダムな摂動から得られる。 目的関数の確率モデルとその勾配を用いたアルゴリズムを開発する。
  論文  参考訳（メタデータ） (2021-06-22T16:07:02Z)
• High Probability Complexity Bounds for Non-Smooth Stochastic Optimization with Heavy-Tailed Noise [51.31435087414348]
  アルゴリズムが高い確率で小さな客観的残差を与えることを理論的に保証することが不可欠である。 非滑らか凸最適化の既存の方法は、信頼度に依存した複雑性境界を持つ。 そこで我々は,勾配クリッピングを伴う2つの手法に対して,新たなステップサイズルールを提案する。
  論文  参考訳（メタデータ） (2021-06-10T17:54:21Z)
• Adaptive Sampling for Best Policy Identification in Markov Decision Processes [79.4957965474334]
  本稿では,学習者が生成モデルにアクセスできる場合の,割引マルコフ決定(MDP)における最良の政治的識別の問題について検討する。 最先端アルゴリズムの利点を論じ、解説する。
  論文  参考訳（メタデータ） (2020-09-28T15:22:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。