論文の概要: Interpolating Discriminant Functions in High-Dimensional Gaussian Latent Mixtures

• arxiv url: http://arxiv.org/abs/2210.14347v2
• Date: Wed, 29 Mar 2023 03:04:44 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-30 18:34:13.976410
• Title: Interpolating Discriminant Functions in High-Dimensional Gaussian Latent Mixtures
• Title（参考訳）: 高次元ガウスラテント混合系の補間識別関数
• Authors: Xin Bing and Marten Wegkamp
• Abstract要約: 本稿では,仮定モデルに基づく高次元特徴のバイナリ分類について考察する。 一般化された最小二乗推定器を用いて、最適分離超平面の方向を推定する。
• 参考スコア（独自算出の注目度）: 1.4213973379473654
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper considers binary classification of high-dimensional features under a postulated model with a low-dimensional latent Gaussian mixture structure and non-vanishing noise. A generalized least squares estimator is used to estimate the direction of the optimal separating hyperplane. The estimated hyperplane is shown to interpolate on the training data. While the direction vector can be consistently estimated as could be expected from recent results in linear regression, a naive plug-in estimate fails to consistently estimate the intercept. A simple correction, that requires an independent hold-out sample, renders the procedure minimax optimal in many scenarios. The interpolation property of the latter procedure can be retained, but surprisingly depends on the way the labels are encoded.
• Abstract（参考訳）: 本稿では,低次元ラテントガウス混合構造と非消滅雑音を有する仮定モデルに基づく高次元特徴のバイナリ分類について考察する。 一般化された最小二乗推定器を用いて最適分離超平面の方向を推定する。 推定された超平面は、トレーニングデータに補間される。 方向ベクトルは線形回帰の最近の結果から予測されるように一貫して推定できるが、ナイーブなプラグイン推定では、インターセプトを一貫して見積もることができない。 独立したホールドアウトサンプルを必要とする単純な修正は、多くのシナリオで最小限の手順を最適にする。 後者の手続きの補間特性は保持できるが、驚くほどラベルの符号化方法に依存する。

関連論文リスト

• Quasi-Bayes meets Vines [2.3124143670964448]
  我々は、スクラーの定理を用いて、準ベイズ予想を高次元に拡張する別の方法を提案する。 提案した準ベイジアンVine (QB-Vine) は完全に非パラメトリックな密度推定器であることを示す。
  論文  参考訳（メタデータ） (2024-06-18T16:31:02Z)
• Sampling and estimation on manifolds using the Langevin diffusion [45.57801520690309]
  離散化マルコフ過程に基づく$mu_phi $の線形汎函数の2つの推定器を検討する。 誤差境界は、本質的に定義されたランゲヴィン拡散の離散化を用いてサンプリングと推定のために導出される。
  論文  参考訳（メタデータ） (2023-12-22T18:01:11Z)
• Unbiased Kinetic Langevin Monte Carlo with Inexact Gradients [0.8749675983608172]
  動力学的ランゲヴィンダイナミクスに基づく後進手段の非バイアス化手法を提案する。 提案した推定器は偏りがなく、有限分散となり、中心極限定理を満たす。 以上の結果から、大規模アプリケーションでは、非バイアスアルゴリズムは「ゴールドスタンダード」なハミルトニアン・モンテカルロよりも2～3桁効率が良いことが示された。
  論文  参考訳（メタデータ） (2023-11-08T21:19:52Z)
• Sampling from Gaussian Process Posteriors using Stochastic Gradient Descent [43.097493761380186]
  勾配アルゴリズムは線形系を解くのに有効な方法である。 最適値に収束しない場合であっても,勾配降下は正確な予測を導出することを示す。 実験的に、勾配降下は十分に大規模または不条件の回帰タスクにおいて最先端の性能を達成する。
  論文  参考訳（メタデータ） (2023-06-20T15:07:37Z)
• Kernel-based off-policy estimation without overlap: Instance optimality beyond semiparametric efficiency [53.90687548731265]
  本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。 任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
  論文  参考訳（メタデータ） (2023-01-16T02:57:37Z)
• Benign overfitting and adaptive nonparametric regression [71.70323672531606]
  本研究では,データポイントを高い確率で補間する連続関数である推定器を構築する。 我々は未知の滑らかさに適応してH"古いクラスのスケールにおいて平均2乗リスクの下で最小値の最適速度を得る。
  論文  参考訳（メタデータ） (2022-06-27T14:50:14Z)
• Differentiable Annealed Importance Sampling and the Perils of Gradient Noise [68.44523807580438]
  Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。 差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。 我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
  論文  参考訳（メタデータ） (2021-07-21T17:10:14Z)
• Near-optimal inference in adaptive linear regression [60.08422051718195]
  最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。 我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。 我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
  論文  参考訳（メタデータ） (2021-07-05T21:05:11Z)
• Path Sample-Analytic Gradient Estimators for Stochastic Binary Networks [78.76880041670904]
  二進的アクティベーションや二進的重みを持つニューラルネットワークでは、勾配降下によるトレーニングは複雑である。 そこで本研究では,サンプリングと解析近似を併用した新しい推定法を提案する。 勾配推定において高い精度を示し、深部畳み込みモデルにおいてより安定かつ優れた訓練を行うことを示す。
  論文  参考訳（メタデータ） (2020-06-04T21:51:21Z)
• Support recovery and sup-norm convergence rates for sparse pivotal estimation [79.13844065776928]
  高次元スパース回帰では、ピボット推定器は最適な正規化パラメータがノイズレベルに依存しない推定器である。 非滑らかで滑らかな単一タスクとマルチタスク正方形ラッソ型推定器に対するミニマックス超ノルム収束率を示す。
  論文  参考訳（メタデータ） (2020-01-15T16:11:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。