論文の概要: Learning a binary search with a recurrent neural network. A novel
approach to ordinal regression analysis
- arxiv url: http://arxiv.org/abs/2101.02609v1
- Date: Thu, 7 Jan 2021 16:16:43 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-10 13:48:08.019278
- Title: Learning a binary search with a recurrent neural network. A novel
approach to ordinal regression analysis
- Title(参考訳): リカレントニューラルネットワークによるバイナリ検索の学習。
順序回帰分析への新しいアプローチ
- Authors: Louis Falissard, Karim Bounebache, Gr\'egoire Rey
- Abstract要約: 本稿では,順序回帰における深層学習フレームワークが提供するシーケンス・ツー・シーケンス学習手法の応用について検討する。
対象変数の順序に応じてモデルの説明変数を可視化する手法を提案する。
この手法は、多くのベンチマークデータセット上の従来の順序回帰法と比較され、同等またははるかに優れた予測能力を有することが示されている。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep neural networks are a family of computational models that are naturally
suited to the analysis of hierarchical data such as, for instance, sequential
data with the use of recurrent neural networks. In the other hand, ordinal
regression is a well-known predictive modelling problem used in fields as
diverse as psychometry to deep neural network based voice modelling. Their
specificity lies in the properties of their outcome variable, typically
considered as a categorical variable with natural ordering properties,
typically allowing comparisons between different states ("a little" is less
than "somewhat" which is itself less than "a lot", with transitivity allowed).
This article investigates the application of sequence-to-sequence learning
methods provided by the deep learning framework in ordinal regression, by
formulating the ordinal regression problem as a sequential binary search. A
method for visualizing the model's explanatory variables according to the
ordinal target variable is proposed, that bears some similarities to linear
discriminant analysis. The method is compared to traditional ordinal regression
methods on a number of benchmark dataset, and is shown to have comparable or
significantly better predictive power.
- Abstract(参考訳): ディープニューラルネットワーク(Deep Neural Network)は、リカレントニューラルネットワークを用いたシーケンシャルデータなどの階層データの解析に自然に適する計算モデルの一群である。
一方、順序回帰は、心理測定からディープニューラルネットワークに基づく音声モデリングまで様々な分野で使われているよく知られた予測モデル問題である。
それらの特異性は結果変数の性質に関係しており、典型的には自然順序性を持つカテゴリー変数と見なされ、異なる状態間の比較が可能である(「少し」は「幾分」よりも小さいが、推移性は許容される)。
本稿では, 逐次二分探索として順序回帰問題を定式化することにより, 深層学習フレームワークが提供するシーケンス・ツー・シーケンス学習手法の適用について検討する。
線形判別解析といくつかの類似性を有する順序的目標変数に従ってモデルの説明変数を可視化する手法を提案する。
この手法は、多くのベンチマークデータセット上の従来の順序回帰法と比較され、同等またははるかに優れた予測力を持つことが示された。
関連論文リスト
- Can neural networks count digit frequency? [16.04455549316468]
本研究では,従来の機械学習モデルとニューラルネットワークの性能を比較し,各桁の出現頻度を推定する。
ニューラルネットワークは6桁と10桁の両方のレグレッションと分類の指標で、従来の機械学習モデルよりも大幅に優れています。
論文 参考訳(メタデータ) (2023-09-25T03:45:36Z) - A Spectral Theory of Neural Prediction and Alignment [8.65717258105897]
我々は、回帰からモデルと対象のスペクトル特性への一般化誤差を関連づける最近の理論的枠組みを用いる。
我々は、視覚的皮質活動を予測するディープニューラルネットワークを多数テストし、回帰によって測定された低ニューラルネットワーク予測誤差をもたらす複数のタイプのジオメトリーが存在することを示す。
論文 参考訳(メタデータ) (2023-09-22T12:24:06Z) - An interpretable neural network-based non-proportional odds model for
ordinal regression [3.0277213703725767]
本研究では,直交回帰のための解釈可能なニューラルネットワークに基づく非局所奇数モデル(N$3$POM)を提案する。
N$3$POMは、正規回帰に対する従来のアプローチとはいくつかの点で異なる。
論文 参考訳(メタデータ) (2023-03-31T06:40:27Z) - What learning algorithm is in-context learning? Investigations with
linear models [87.91612418166464]
本稿では,トランスフォーマーに基づくインコンテキスト学習者が標準学習アルゴリズムを暗黙的に実装する仮説について検討する。
訓練された文脈内学習者は、勾配降下、隆起回帰、および正確な最小二乗回帰によって計算された予測値と密に一致していることを示す。
文脈内学習者がこれらの予測器とアルゴリズム的特徴を共有するという予備的証拠。
論文 参考訳(メタデータ) (2022-11-28T18:59:51Z) - Neural Dependencies Emerging from Learning Massive Categories [94.77992221690742]
この研究は、大規模画像分類のために学んだニューラルネットワークに関する2つの驚くべき発見を示す。
1) 十分に訓練されたモデルが与えられた場合、いくつかのカテゴリで予測されたロジットは、他のいくつかのカテゴリの予測を線形に組み合わせることで直接得ることができる。
2) 神経依存は1つのモデルに留まらず、2つの独立した学習モデルの間にさえ存在する。
論文 参考訳(メタデータ) (2022-11-21T09:42:15Z) - Supervised Parameter Estimation of Neuron Populations from Multiple
Firing Events [3.2826301276626273]
本研究では,一対のスパイキング系列とパラメータラベルからなる学習セットから,ニューロン集団のパラメータを自動的に学習する手法について,教師あり学習を通して検討した。
我々は、ニューロンモデルを用いて、異なるパラメータ設定での計算において多くのニューロン集団をシミュレートする。
次に、遺伝的検索、ベイズ逐次推定、ランダムウォーク近似モデルなどの古典的手法と比較する。
論文 参考訳(メタデータ) (2022-10-02T03:17:05Z) - Dynamically-Scaled Deep Canonical Correlation Analysis [77.34726150561087]
カノニカル相関解析 (CCA) は, 2つのビューの特徴抽出手法である。
本稿では,入力依存の正準相関モデルをトレーニングするための新しい動的スケーリング手法を提案する。
論文 参考訳(メタデータ) (2022-03-23T12:52:49Z) - X-model: Improving Data Efficiency in Deep Learning with A Minimax Model [78.55482897452417]
ディープラーニングにおける分類と回帰設定の両面でのデータ効率の向上を目標とする。
両世界の力を生かすために,我々は新しいX-モデルを提案する。
X-モデルは、特徴抽出器とタスク固有のヘッドの間でミニマックスゲームを行う。
論文 参考訳(メタデータ) (2021-10-09T13:56:48Z) - Two-step penalised logistic regression for multi-omic data with an
application to cardiometabolic syndrome [62.997667081978825]
我々は,各層で変数選択を行うマルチオミックロジスティック回帰に対する2段階のアプローチを実装した。
私たちのアプローチは、可能な限り多くの関連する予測子を選択することを目標とすべきです。
提案手法により,分子レベルでの心筋メタボリックシンドロームの特徴を同定することができる。
論文 参考訳(メタデータ) (2020-08-01T10:36:27Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳(メタデータ) (2020-07-02T17:55:47Z) - Deep Ordinal Regression with Label Diversity [19.89482062012177]
本稿では,複数の離散データ表現を同時に使用することで,ニューラルネットワーク学習を改善することを提案する。
我々のアプローチはエンドツーエンドで微分可能であり、従来の学習方法への単純な拡張として追加することができる。
論文 参考訳(メタデータ) (2020-06-29T08:23:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。