論文の概要: Determinantal Point Processes Implicitly Regularize Semi-parametric Regression Problems

• arxiv url: http://arxiv.org/abs/2011.06964v2
• Date: Tue, 9 Mar 2021 13:47:11 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-25 23:35:17.966067
• Title: Determinantal Point Processes Implicitly Regularize Semi-parametric Regression Problems
• Title（参考訳）: 半パラメトリック回帰問題を暗黙的に正則化する決定点過程
• Authors: Micha\"el Fanuel, Joachim Schreurs, Johan A.K. Suykens
• Abstract要約: 半パラメトリックモデルを近似するための有限決定点過程(DPP)について論じる。 この形式主義の助けを借りて、決定的サンプリングの暗黙的な正則化効果を示す重要なアイデンティティを導出する。 また、新しい射影Nystr"om近似が定義され、対応する近似に対する期待されるリスクを導出するために使用される。
• 参考スコア（独自算出の注目度）: 13.136143245702915
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Semi-parametric regression models are used in several applications which require comprehensibility without sacrificing accuracy. Typical examples are spline interpolation in geophysics, or non-linear time series problems, where the system includes a linear and non-linear component. We discuss here the use of a finite Determinantal Point Process (DPP) for approximating semi-parametric models. Recently, Barthelm\'e, Tremblay, Usevich, and Amblard introduced a novel representation of some finite DPPs. These authors formulated extended L-ensembles that can conveniently represent partial-projection DPPs and suggest their use for optimal interpolation. With the help of this formalism, we derive a key identity illustrating the implicit regularization effect of determinantal sampling for semi-parametric regression and interpolation. Also, a novel projected Nystr\"om approximation is defined and used to derive a bound on the expected risk for the corresponding approximation of semi-parametric regression. This work naturally extends similar results obtained for kernel ridge regression.
• Abstract（参考訳）: 半パラメトリック回帰モデルは、精度を犠牲にすることなく理解性を必要とするいくつかのアプリケーションで使用される。 典型的な例としては、地球物理学におけるスプライン補間(英語版)(非線形時系列問題)がある。 ここでは,有限決定点過程(DPP)を用いて半パラメトリックモデルを近似する。 最近、Barthelm\'e, Tremblay, Usevich, Amblard はいくつかの有限 DPP の表現を導入した。 これらの著者は、部分射影 DPP を便利に表現できる拡張 L-アンサンブルを定式化し、最適な補間に使用することを提案した。 この形式主義の助けを借りて、半パラメトリック回帰と補間に対する行列式サンプリングの暗黙的正規化効果を示す重要なアイデンティティを導出する。 また、新しい射影nystr\"om近似が定義され、対応する半パラメトリック回帰の近似に対する期待リスクの境界を導出するために用いられる。 この研究は、カーネルリッジ回帰で得られた類似の結果を自然に拡張する。

関連論文リスト

• Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
  我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。 我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
  論文  参考訳（メタデータ） (2024-07-11T13:28:34Z)
• Overparameterized Multiple Linear Regression as Hyper-Curve Fitting [0.0]
  線形モデルは, モデル仮定に反する非線形依存が存在する場合でも, 正確な予測を生成することが証明された。 ハイパーカーブのアプローチは、予測変数のノイズに関する問題を正規化するのに特に適しており、モデルからノイズや「不適切な」予測子を取り除くのに使うことができる。
  論文  参考訳（メタデータ） (2024-04-11T15:43:11Z)
• Gradient-based bilevel optimization for multi-penalty Ridge regression through matrix differential calculus [0.46040036610482665]
  我々は,l2-正則化を用いた線形回帰問題に対する勾配に基づくアプローチを導入する。 提案手法はLASSO, Ridge, Elastic Netレグレッションよりも優れていることを示す。 勾配の解析は、自動微分と比較して計算時間の観点からより効率的であることが証明されている。
  論文  参考訳（メタデータ） (2023-11-23T20:03:51Z)
• Monte Carlo inference for semiparametric Bayesian regression [5.488491124945426]
  本稿では、未知の変換とすべての回帰モデルパラメータの結合後部推論のための単純で汎用的で効率的な戦略を提案する。 これは(1)複数のモデルの不特定性を含む一般条件下での合同後続一貫性を提供し、(2)変換に対する効率的なモンテカルロ(マルコフ連鎖でないモンテカルロ)の推論と重要な特殊ケースに対する全てのパラメータを提供する。
  論文  参考訳（メタデータ） (2023-06-08T18:42:42Z)
• Kernel-based off-policy estimation without overlap: Instance optimality beyond semiparametric efficiency [53.90687548731265]
  本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。 任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
  論文  参考訳（メタデータ） (2023-01-16T02:57:37Z)
• Sparse high-dimensional linear regression with a partitioned empirical Bayes ECM algorithm [62.997667081978825]
  疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。 パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。 提案手法はRパッケージプローブに実装されている。
  論文  参考訳（メタデータ） (2022-09-16T19:15:50Z)
• Inverting brain grey matter models with likelihood-free inference: a tool for trustable cytoarchitecture measurements [62.997667081978825]
  脳の灰白質細胞構造の特徴は、体密度と体積に定量的に敏感であり、dMRIでは未解決の課題である。 我々は新しいフォワードモデル、特に新しい方程式系を提案し、比較的スパースなb殻を必要とする。 次に,提案手法を逆転させるため,確率自由推論 (LFI) として知られるベイズ解析から最新のツールを適用した。
  論文  参考訳（メタデータ） (2021-11-15T09:08:27Z)
• Understanding Implicit Regularization in Over-Parameterized Single Index Model [55.41685740015095]
  我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。 暗黙正則化現象の理論的保証を提供する。
  論文  参考訳（メタデータ） (2020-07-16T13:27:47Z)
• SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for Gaussian Process Regression with Derivatives [86.01677297601624]
  本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。 我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
  論文  参考訳（メタデータ） (2020-03-05T14:33:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。