論文の概要: Learning a binary search with a recurrent neural network. A novel
approach to ordinal regression analysis
- arxiv url: http://arxiv.org/abs/2101.02609v1
- Date: Thu, 7 Jan 2021 16:16:43 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-10 13:48:08.019278
- Title: Learning a binary search with a recurrent neural network. A novel
approach to ordinal regression analysis
- Title(参考訳): リカレントニューラルネットワークによるバイナリ検索の学習。
順序回帰分析への新しいアプローチ
- Authors: Louis Falissard, Karim Bounebache, Gr\'egoire Rey
- Abstract要約: 本稿では,順序回帰における深層学習フレームワークが提供するシーケンス・ツー・シーケンス学習手法の応用について検討する。
対象変数の順序に応じてモデルの説明変数を可視化する手法を提案する。
この手法は、多くのベンチマークデータセット上の従来の順序回帰法と比較され、同等またははるかに優れた予測能力を有することが示されている。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep neural networks are a family of computational models that are naturally
suited to the analysis of hierarchical data such as, for instance, sequential
data with the use of recurrent neural networks. In the other hand, ordinal
regression is a well-known predictive modelling problem used in fields as
diverse as psychometry to deep neural network based voice modelling. Their
specificity lies in the properties of their outcome variable, typically
considered as a categorical variable with natural ordering properties,
typically allowing comparisons between different states ("a little" is less
than "somewhat" which is itself less than "a lot", with transitivity allowed).
This article investigates the application of sequence-to-sequence learning
methods provided by the deep learning framework in ordinal regression, by
formulating the ordinal regression problem as a sequential binary search. A
method for visualizing the model's explanatory variables according to the
ordinal target variable is proposed, that bears some similarities to linear
discriminant analysis. The method is compared to traditional ordinal regression
methods on a number of benchmark dataset, and is shown to have comparable or
significantly better predictive power.
- Abstract(参考訳): ディープニューラルネットワーク(Deep Neural Network)は、リカレントニューラルネットワークを用いたシーケンシャルデータなどの階層データの解析に自然に適する計算モデルの一群である。
一方、順序回帰は、心理測定からディープニューラルネットワークに基づく音声モデリングまで様々な分野で使われているよく知られた予測モデル問題である。
それらの特異性は結果変数の性質に関係しており、典型的には自然順序性を持つカテゴリー変数と見なされ、異なる状態間の比較が可能である(「少し」は「幾分」よりも小さいが、推移性は許容される)。
本稿では, 逐次二分探索として順序回帰問題を定式化することにより, 深層学習フレームワークが提供するシーケンス・ツー・シーケンス学習手法の適用について検討する。
線形判別解析といくつかの類似性を有する順序的目標変数に従ってモデルの説明変数を可視化する手法を提案する。
この手法は、多くのベンチマークデータセット上の従来の順序回帰法と比較され、同等またははるかに優れた予測力を持つことが示された。
関連論文リスト
- Latent Variable Sequence Identification for Cognitive Models with Neural Network Estimators [7.7227297059345466]
本稿では,ニューラルベイズ推定を拡張して,実験データと対象変数空間との直接マッピングを学習する手法を提案する。
我々の研究は、リカレントニューラルネットワークとシミュレーションベースの推論を組み合わせることで、潜在変数配列を特定することで、研究者がより広範な認知モデルにアクセスできるようになることを強調している。
論文 参考訳(メタデータ) (2024-06-20T21:13:39Z) - Trade-Offs of Diagonal Fisher Information Matrix Estimators [53.35448232352667]
Fisher情報行列は、ニューラルネットワークのパラメータ空間の局所幾何学を特徴付けるのに使うことができる。
精度とサンプルの複雑さが関連する分散に依存する2つの人気推定器について検討する。
分散のバウンダリを導出し、回帰と分類のためにニューラルネットワークでそれらをインスタンス化する。
論文 参考訳(メタデータ) (2024-02-08T03:29:10Z) - Can neural networks count digit frequency? [16.04455549316468]
本研究では,従来の機械学習モデルとニューラルネットワークの性能を比較し,各桁の出現頻度を推定する。
ニューラルネットワークは6桁と10桁の両方のレグレッションと分類の指標で、従来の機械学習モデルよりも大幅に優れています。
論文 参考訳(メタデータ) (2023-09-25T03:45:36Z) - An interpretable neural network-based non-proportional odds model for
ordinal regression [3.0277213703725767]
本研究では,直交回帰のための解釈可能なニューラルネットワークに基づく非局所奇数モデル(N$3$POM)を提案する。
N$3$POMは、正規回帰に対する従来のアプローチとはいくつかの点で異なる。
論文 参考訳(メタデータ) (2023-03-31T06:40:27Z) - What learning algorithm is in-context learning? Investigations with
linear models [87.91612418166464]
本稿では,トランスフォーマーに基づくインコンテキスト学習者が標準学習アルゴリズムを暗黙的に実装する仮説について検討する。
訓練された文脈内学習者は、勾配降下、隆起回帰、および正確な最小二乗回帰によって計算された予測値と密に一致していることを示す。
文脈内学習者がこれらの予測器とアルゴリズム的特徴を共有するという予備的証拠。
論文 参考訳(メタデータ) (2022-11-28T18:59:51Z) - Neural Dependencies Emerging from Learning Massive Categories [94.77992221690742]
この研究は、大規模画像分類のために学んだニューラルネットワークに関する2つの驚くべき発見を示す。
1) 十分に訓練されたモデルが与えられた場合、いくつかのカテゴリで予測されたロジットは、他のいくつかのカテゴリの予測を線形に組み合わせることで直接得ることができる。
2) 神経依存は1つのモデルに留まらず、2つの独立した学習モデルの間にさえ存在する。
論文 参考訳(メタデータ) (2022-11-21T09:42:15Z) - Bagged Polynomial Regression and Neural Networks [0.0]
時系列とデータセットの回帰は、ニューラルネットワークと同じ関数クラスを近似することができる。
textitbagged regression (BPR)は、ニューラルネットワークの魅力的な代替品である。
BPRは、衛星データを用いた作物分類において、ニューラルネットワークと同様に機能する。
論文 参考訳(メタデータ) (2022-05-17T19:55:56Z) - Dynamically-Scaled Deep Canonical Correlation Analysis [77.34726150561087]
カノニカル相関解析 (CCA) は, 2つのビューの特徴抽出手法である。
本稿では,入力依存の正準相関モデルをトレーニングするための新しい動的スケーリング手法を提案する。
論文 参考訳(メタデータ) (2022-03-23T12:52:49Z) - Two-step penalised logistic regression for multi-omic data with an
application to cardiometabolic syndrome [62.997667081978825]
我々は,各層で変数選択を行うマルチオミックロジスティック回帰に対する2段階のアプローチを実装した。
私たちのアプローチは、可能な限り多くの関連する予測子を選択することを目標とすべきです。
提案手法により,分子レベルでの心筋メタボリックシンドロームの特徴を同定することができる。
論文 参考訳(メタデータ) (2020-08-01T10:36:27Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳(メタデータ) (2020-07-02T17:55:47Z) - Deep Ordinal Regression with Label Diversity [19.89482062012177]
本稿では,複数の離散データ表現を同時に使用することで,ニューラルネットワーク学習を改善することを提案する。
我々のアプローチはエンドツーエンドで微分可能であり、従来の学習方法への単純な拡張として追加することができる。
論文 参考訳(メタデータ) (2020-06-29T08:23:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。