論文の概要: Nonparametric Functional Analysis of Generalized Linear Models Under
Nonlinear Constraints
- arxiv url: http://arxiv.org/abs/2110.04998v1
- Date: Mon, 11 Oct 2021 04:49:59 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-12 17:13:23.575703
- Title: Nonparametric Functional Analysis of Generalized Linear Models Under
Nonlinear Constraints
- Title(参考訳): 非線形制約下における一般化線形モデルの非パラメトリック機能解析
- Authors: K. P. Chowdhury
- Abstract要約: 本稿では、一般化線形モデルのための新しい非パラメトリック方法論を紹介する。
これは二項回帰の強さとカテゴリーデータに対する潜在変数の定式化の強さを組み合わせたものである。
これは最近公開された方法論のパラメトリックバージョンを拡張し、一般化する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: This article introduces a novel nonparametric methodology for Generalized
Linear Models which combines the strengths of the binary regression and latent
variable formulations for categorical data, while overcoming their
disadvantages. Requiring minimal assumptions, it extends recently published
parametric versions of the methodology and generalizes it. If the underlying
data generating process is asymmetric, it gives uniformly better prediction and
inference performance over the parametric formulation. Furthermore, it
introduces a new classification statistic utilizing which I show that overall,
it has better model fit, inference and classification performance than the
parametric version, and the difference in performance is statistically
significant especially if the data generating process is asymmetric. In
addition, the methodology can be used to perform model diagnostics for any
model specification. This is a highly useful result, and it extends existing
work for categorical model diagnostics broadly across the sciences. The
mathematical results also highlight important new findings regarding the
interplay of statistical significance and scientific significance. Finally, the
methodology is applied to various real-world datasets to show that it may
outperform widely used existing models, including Random Forests and Deep
Neural Networks with very few iterations.
- Abstract(参考訳): 本稿では、二項回帰と潜在変数定式化の長所を組み合わせた一般化線形モデルのための新しい非パラメトリック手法を紹介し、その欠点を克服する。
最小の仮定を必要とするため、最近公開された方法論のパラメトリックバージョンを拡張し、一般化する。
基礎となるデータ生成プロセスが非対称であれば、パラメトリックな定式化よりも予測と推論のパフォーマンスが均一に向上する。
さらに,パラメトリック版よりもモデル適合性,推論性,分類性能が優れており,特にデータ生成過程が非対称である場合には,その差は統計的に有意であることを示す。
さらに、この方法論はあらゆるモデル仕様に対してモデル診断を行うのに使うことができる。
これは非常に有用な結果であり、科学全般にわたって分類モデル診断のための既存の研究を拡張している。
数学的結果はまた、統計的重要性と科学的重要性の相互作用に関する重要な新しい発見を浮き彫りにした。
最後に、この方法論は様々な現実世界のデータセットに適用され、ごくわずかなイテレーションでランダムフォレストやディープニューラルネットワークなど、広く使われている既存のモデルを上回る可能性があることを示している。
関連論文リスト
- Scaling and renormalization in high-dimensional regression [72.59731158970894]
本稿では,様々な高次元リッジ回帰モデルの訓練および一般化性能の簡潔な導出について述べる。
本稿では,物理と深層学習の背景を持つ読者を対象に,これらのトピックに関する最近の研究成果の紹介とレビューを行う。
論文 参考訳(メタデータ) (2024-05-01T15:59:00Z) - Diffusion posterior sampling for simulation-based inference in tall data settings [53.17563688225137]
シミュレーションベース推論(SBI)は、入力パラメータを所定の観測に関連付ける後部分布を近似することができる。
本研究では、モデルのパラメータをより正確に推測するために、複数の観測値が利用できる、背の高いデータ拡張について考察する。
提案手法を,最近提案した各種数値実験の競合手法と比較し,数値安定性と計算コストの観点から,その優位性を実証した。
論文 参考訳(メタデータ) (2024-04-11T09:23:36Z) - Conformal inference for regression on Riemannian Manifolds [49.7719149179179]
回帰シナリオの予測セットは、応答変数が$Y$で、多様体に存在し、Xで表される共変数がユークリッド空間にあるときに検討する。
我々は、多様体上のこれらの領域の経験的バージョンが、その集団に対するほぼ確実に収束していることを証明する。
論文 参考訳(メタデータ) (2023-10-12T10:56:25Z) - On the Influence of Enforcing Model Identifiability on Learning dynamics
of Gaussian Mixture Models [14.759688428864159]
特異モデルからサブモデルを抽出する手法を提案する。
本手法はトレーニング中のモデルの識別性を強制する。
この手法がディープニューラルネットワークのようなより複雑なモデルにどのように適用できるかを示す。
論文 参考訳(メタデータ) (2022-06-17T07:50:22Z) - A Farewell to the Bias-Variance Tradeoff? An Overview of the Theory of
Overparameterized Machine Learning [37.01683478234978]
機械学習(ML)の急速な進歩は、この分野の長年のドグマに挑戦する科学的な疑問を数多く提起している。
最も重要なライドルの1つは、パラメータ化されたモデルの優れた経験的一般化である。
論文 参考訳(メタデータ) (2021-09-06T10:48:40Z) - Post-mortem on a deep learning contest: a Simpson's paradox and the
complementary roles of scale metrics versus shape metrics [61.49826776409194]
我々は、ニューラルネットワーク(NN)モデルの一般化精度を予測するために、コンテストで公に利用可能にされたモデルのコーパスを分析する。
メトリクスが全体としてよく機能するが、データのサブパーティションではあまり機能しない。
本稿では,データに依存しない2つの新しい形状指標と,一連のNNのテスト精度の傾向を予測できるデータ依存指標を提案する。
論文 参考訳(メタデータ) (2021-06-01T19:19:49Z) - Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。
テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。
以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
論文 参考訳(メタデータ) (2020-06-22T21:12:31Z) - Amortized Bayesian model comparison with evidential deep learning [0.12314765641075436]
本稿では,専門的なディープラーニングアーキテクチャを用いたベイズモデルの比較手法を提案する。
提案手法は純粋にシミュレーションベースであり,観測された各データセットに対して,すべての代替モデルを明示的に適合させるステップを回避している。
提案手法は,本研究で検討した事例に対して,精度,キャリブレーション,効率の点で優れた結果が得られることを示す。
論文 参考訳(メタデータ) (2020-04-22T15:15:46Z) - Asymptotic Analysis of an Ensemble of Randomly Projected Linear
Discriminants [94.46276668068327]
[1]では、ランダムに投影された線形判別式のアンサンブルを用いてデータセットを分類する。
我々は,計算コストのかかるクロスバリデーション推定器の代替として,誤分類確率の一貫した推定器を開発する。
また、実データと合成データの両方で投影次元を調整するための推定器の使用を実証する。
論文 参考訳(メタデータ) (2020-04-17T12:47:04Z) - Dimension Independent Generalization Error by Stochastic Gradient
Descent [12.474236773219067]
本稿では, 局所凸損失関数に対する降下(SGD)解の一般化誤差に関する理論を提案する。
一般化誤差は$p$次元に依存したり、低効用$p$対数因子に依存しないことを示す。
論文 参考訳(メタデータ) (2020-03-25T03:08:41Z) - Predicting Multidimensional Data via Tensor Learning [0.0]
本研究では,本データセットの内在的多次元構造を保持するモデルを開発する。
モデルパラメータを推定するために、オルタネート・リースト・スクエアスアルゴリズムを開発した。
提案モデルは,予測文献に存在するベンチマークモデルより優れている。
論文 参考訳(メタデータ) (2020-02-11T11:57:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。