論文の概要: DNN2LR: Interpretation-inspired Feature Crossing for Real-world Tabular Data

• arxiv url: http://arxiv.org/abs/2008.09775v5
• Date: Tue, 19 Jan 2021 06:54:36 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-26 07:47:12.881191
• Title: DNN2LR: Interpretation-inspired Feature Crossing for Real-world Tabular Data
• Title（参考訳）: DNN2LR:実世界のタブラルデータに対する解釈に基づく特徴交差
• Authors: Zhaocheng Liu and Qiang Liu and Haoli Zhang and Yuntian Chen
• Abstract要約: ロジスティック回帰(LR)は世界規模で解釈可能であるが、複雑な非線形相互作用をモデル化するほど強力ではない。 ディープニューラルネットワーク(DNN)は、データモデリングに非常に有効であるが、世界規模では解釈できない。 本研究では, 特定の特徴のDNNにおける局所的な部分的解釈は, 通常, 異なるサンプルにおいて矛盾する。 そこで我々は,DNNにおける特徴の相互作用を見つけるための自動的特徴交差法を提案し,それをLRの横断的特徴として利用する。
• 参考スコア（独自算出の注目度）: 8.263759079040108
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: For sake of reliability, it is necessary for models in real-world applications to be both powerful and globally interpretable. Simple classifiers, e.g., Logistic Regression (LR), are globally interpretable, but not powerful enough to model complex nonlinear interactions among features in tabular data. Meanwhile, Deep Neural Networks (DNNs) have shown great effectiveness for modeling tabular data, but is not globally interpretable. In this work, we find local piece-wise interpretations in DNN of a specific feature are usually inconsistent in different samples, which is caused by feature interactions in the hidden layers. Accordingly, we can design an automatic feature crossing method to find feature interactions in DNN, and use them as cross features in LR. We give definition of the interpretation inconsistency in DNN, based on which a novel feature crossing method called DNN2LR is proposed. Extensive experiments have been conducted on four public datasets and two real-world datasets. The final model, i.e., a LR model empowered with cross features, generated by DNN2LR can outperform the complex DNN model, as well as several state-of-the-art feature crossing methods. The experimental results strongly verify the effectiveness and efficiency of DNN2LR, especially on real-world datasets with large numbers of feature fields.
• Abstract（参考訳）: 信頼性のためには、現実世界のアプリケーションのモデルが強力かつグローバルに解釈可能である必要がある。 単純な分類器、例えばロジスティック回帰 (lr) はグローバルに解釈可能であるが、表データの特徴間の複雑な非線形相互作用をモデル化するには十分ではない。 一方、ディープニューラルネットワーク(dnn)は、表データモデリングに優れた効果を示しているが、グローバルに解釈できない。 本研究では,特定の特徴の局所的な部分的解釈は,通常,異なるサンプルにおいて矛盾するが,これは隠蔽層における特徴的相互作用に起因する。 そこで我々は,DNNにおける特徴の相互作用を見つけるための自動的特徴交差法を設計し,LRの横断的特徴として利用することができる。 本稿では,DNN2LRと呼ばれる新しい特徴交差法を提案する。 4つのパブリックデータセットと2つの実世界のデータセットで広範な実験が行われている。 最終モデル、すなわち、DNN2LRが生成するクロス機能を備えたLRモデルは、いくつかの最先端の機能交差法と同様に、複雑なDNNモデルよりも優れている。 実験結果はDNN2LRの有効性と効率を特に多数の特徴フィールドを持つ実世界のデータセットで強く検証した。

関連論文リスト

• LION: Linear Group RNN for 3D Object Detection in Point Clouds [85.97541374148508]
  本稿では,LInear grOup RNN上に構築されたウィンドウベースフレームワークを提案する。 3次元空間特徴記述器を導入し,それを線形群 RNN 演算子に統合して空間特徴を増強する。 高分散点雲の課題にさらに対処するため,前景の特徴を密度化するための3次元ボクセル生成戦略を提案する。
  論文  参考訳（メタデータ） (2024-07-25T17:50:32Z)
• Recurrent Bilinear Optimization for Binary Neural Networks [58.972212365275595]
  BNNは、実数値重みとスケールファクターの内在的双線型関係を無視している。 私たちの仕事は、双線形の観点からBNNを最適化する最初の試みです。 我々は、様々なモデルやデータセット上で最先端のBNNに対して印象的な性能を示す頑健なRBONNを得る。
  論文  参考訳（メタデータ） (2022-09-04T06:45:33Z)
• Integrating Random Effects in Deep Neural Networks [4.860671253873579]
  深層ニューラルネットワークにおける相関データを扱うために混合モデルフレームワークを提案する。 相関構造に基づく効果をランダムな効果として扱うことにより、混合モデルは過度に適合したパラメータ推定を避けることができる。 LMMNNと呼ばれる我々のアプローチは、様々な相関シナリオにおいて、自然競合よりも性能を向上させることが実証されている。
  論文  参考訳（メタデータ） (2022-06-07T14:02:24Z)
• Graph-adaptive Rectified Linear Unit for Graph Neural Networks [64.92221119723048]
  グラフニューラルネットワーク(GNN)は、従来の畳み込みを非ユークリッドデータでの学習に拡張することで、目覚ましい成功を収めた。 本稿では,周辺情報を利用した新しいパラメトリックアクティベーション機能であるグラフ適応整流線形ユニット(GRELU)を提案する。 我々は,GNNのバックボーンと様々な下流タスクによって,プラグアンドプレイGRELU法が効率的かつ効果的であることを示す包括的実験を行った。
  論文  参考訳（メタデータ） (2022-02-13T10:54:59Z)
• Discovering Invariant Rationales for Graph Neural Networks [104.61908788639052]
  グラフニューラルネットワーク(GNN)の固有の解釈可能性とは、入力グラフの特徴の小さなサブセットを見つけることである。 本稿では,本質的に解釈可能なGNNを構築するために,不変理性(DIR)を発見するための新しい戦略を提案する。
  論文  参考訳（メタデータ） (2022-01-30T16:43:40Z)
• Shift-Robust GNNs: Overcoming the Limitations of Localized Graph Training data [52.771780951404565]
  Shift-Robust GNN (SR-GNN) は、バイアス付きトレーニングデータとグラフの真の推論分布の分布差を考慮に入れた設計である。 SR-GNNが他のGNNベースラインを精度良く上回り、バイアス付きトレーニングデータから生じる負の効果の少なくとも40%を排除していることを示す。
  論文  参考訳（メタデータ） (2021-08-02T18:00:38Z)
• ARM-Net: Adaptive Relation Modeling Network for Structured Data [29.94433633729326]
  ARM-Netは、構造化データに適した適応関係モデリングネットワークであり、リレーショナルデータのためのARM-Netに基づく軽量フレームワークARMORである。 ARM-Netは既存のモデルより一貫して優れており、データセットに対してより解釈可能な予測を提供する。
  論文  参考訳（メタデータ） (2021-07-05T07:37:24Z)
• Joint Distribution across Representation Space for Out-of-Distribution Detection [16.96466730536722]
  本稿では,各隠蔽層から生成した潜伏特性を表現空間間の連成分布として利用し,分布内データに対する新たな展望を示す。 まず,隠れ層ごとに分布しない潜在特性に基づいてガウス混合モデル(GMM)を構築し,その後,推定トレースの遷移確率を介してGMMを接続する。
  論文  参考訳（メタデータ） (2021-03-23T06:39:29Z)
• DNN2LR: Automatic Feature Crossing for Credit Scoring [29.429167381455684]
  クレジットスコアリングは、金融機関がクレジットローンを承認するか拒否するかを決めるための機械学習の大きな応用である。 信頼性のためには、信用スコアモデルが正確かつグローバルに解釈可能である必要がある。 単純な分類器、例えばロジスティック回帰(LR)はホワイトボックスモデルであるが、機能間の複雑な非線形相互作用をモデル化するほど強力ではない。
  論文  参考訳（メタデータ） (2021-02-24T02:36:23Z)
• Complex-Valued vs. Real-Valued Neural Networks for Classification Perspectives: An Example on Non-Circular Data [10.06162739966462]
  複素数値データセットの分類タスクに対する複素値ニューラルネットワーク(CVNN)の潜在的関心を示す。 CVNN精度は実値ニューラルネットワーク(RVNN)よりも統計的に高い平均と中央値のばらつきと低いばらつきを示す
  論文  参考訳（メタデータ） (2020-09-17T14:39:35Z)
• Architecture Disentanglement for Deep Neural Networks [174.16176919145377]
  ディープニューラルネットワーク(DNN)の内部動作を説明するために,ニューラルアーキテクチャ・ディコンタングルメント(NAD)を導入する。 NADは、訓練済みのDNNを独立したタスクに従ってサブアーキテクチャに切り離すことを学び、推論プロセスを記述する情報フローを形成する。 その結果、誤分類された画像は、タスクサブアーキテクチャーに正しいサブアーキテクチャーに割り当てられる確率が高いことが示された。
  論文  参考訳（メタデータ） (2020-03-30T08:34:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。