論文の概要: Mesh-Based Solutions for Nonparametric Penalized Regression
- arxiv url: http://arxiv.org/abs/2112.03428v1
- Date: Tue, 7 Dec 2021 00:12:42 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-08 16:07:22.420838
- Title: Mesh-Based Solutions for Nonparametric Penalized Regression
- Title（参考訳）: 非パラメトリックペナル化回帰のためのメッシュに基づく解法
- Authors: Brayan Ortiz and Noah Simon
- Abstract要約: 回帰関数を非パラメトリックに推定することはしばしば興味がある。
多くの場合、PR問題の正確な解を見つけることは、計算的に難解である。
これらのシナリオに対して,メッシュベースの近似解(MBS)を提案する。
- 参考スコア（独自算出の注目度）: 6.827783641211451
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: It is often of interest to estimate regression functions non-parametrically.
Penalized regression (PR) is one statistically-effective, well-studied solution
to this problem. Unfortunately, in many cases, finding exact solutions to PR
problems is computationally intractable. In this manuscript, we propose a
mesh-based approximate solution (MBS) for those scenarios. MBS transforms the
complicated functional minimization of NPR, to a finite parameter, discrete
convex minimization; and allows us to leverage the tools of modern convex
optimization. We show applications of MBS in a number of explicit examples
(including both uni- and multi-variate regression), and explore how the number
of parameters must increase with our sample-size in order for MBS to maintain
the rate-optimality of NPR. We also give an efficient algorithm to minimize the
MBS objective while effectively leveraging the sparsity inherent in MBS.
- Abstract（参考訳）: 回帰関数を非パラメトリックに見積もることはしばしば興味深い。
罰則回帰(PR)は、この問題の統計的に有効でよく研究された解である。
残念なことに、多くの場合、pr問題の厳密な解を見つけることは計算上は難解である。
本稿では,これらのシナリオに対するメッシュベースの近似解(MBS)を提案する。
mbs は npr の複雑な関数的最小化を有限パラメータの離散凸最小化に変換し、現代的な凸最適化のツールを活用することができる。
単変量回帰と多変量回帰の両方を含むいくつかの明示的な例でMBSの適用例を示し、MBSがNPRのレート最適性を維持するためには、我々のサンプルサイズでパラメータの数がどのように増加するかを検討する。
また,MBS固有の空間を効果的に活用しながら,MBSの目的を最小化するアルゴリズムを提案する。
関連論文リスト
- A Stochastic Approach to Bi-Level Optimization for Hyperparameter Optimization and Meta Learning [74.80956524812714]
我々は,現代のディープラーニングにおいて広く普及している一般的なメタ学習問題に対処する。
これらの問題は、しばしばBi-Level Optimizations (BLO)として定式化される。
我々は,与えられたBLO問題を,内部損失関数が滑らかな分布となり,外損失が内部分布に対する期待損失となるようなii最適化に変換することにより,新たな視点を導入する。
論文 参考訳（メタデータ） (2024-10-14T12:10:06Z) - Regression-aware Inference with LLMs [52.764328080398805]
提案手法は,一般的な回帰と評価指標に準最適であることを示す。
本稿では,ベイズ最適解を推定し,サンプル応答からクローズド形式の評価指標を推定する代替推論手法を提案する。
論文 参考訳（メタデータ） (2024-03-07T03:24:34Z) - Non-stationary Reinforcement Learning under General Function
Approximation [60.430936031067006]
まず,非定常MDPに対する動的ベルマンエルダー次元(DBE)と呼ばれる新しい複雑性指標を提案する。
提案する複雑性指標に基づいて,SW-OPEAと呼ばれる新しい信頼度セットに基づくモデルフリーアルゴリズムを提案する。
SW-OPEAは,変動予算がそれほど大きくない限り,有効に有効であることを示す。
論文 参考訳（メタデータ） (2023-06-01T16:19:37Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳（メタデータ） (2022-09-16T19:15:50Z) - Sparse Bayesian Learning via Stepwise Regression [1.2691047660244335]
我々は、RMP(Relevance Matching Pursuit)と呼ばれるSBLのための座標加算アルゴリズムを提案する。
ノイズ分散パラメータがゼロになるにつれて、RMPはステップワイド回帰と驚くべき関係を示す。
ステップワイド回帰アルゴリズムの新たな保証を導き、RMPにも光を当てる。
論文 参考訳（メタデータ） (2021-06-11T00:20:27Z) - Parallel Stochastic Mirror Descent for MDPs [72.75921150912556]
無限水平マルコフ決定過程(MDP)における最適政策学習の問題を考える。
リプシッツ連続関数を用いた凸プログラミング問題に対してミラー・ディクセントの変種が提案されている。
このアルゴリズムを一般の場合において解析し,提案手法の動作中に誤差を蓄積しない収束率の推定値を得る。
論文 参考訳（メタデータ） (2021-02-27T19:28:39Z) - Efficient semidefinite-programming-based inference for binary and
multi-class MRFs [83.09715052229782]
分割関数やMAP推定をペアワイズMRFで効率的に計算する手法を提案する。
一般のバイナリMRFから完全多クラス設定への半定緩和を拡張し、解法を用いて再び効率的に解けるようなコンパクトな半定緩和を開発する。
論文 参考訳（メタデータ） (2020-12-04T15:36:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。