論文の概要: Attention-like feature explanation for tabular data

• arxiv url: http://arxiv.org/abs/2108.04855v1
• Date: Tue, 10 Aug 2021 18:14:24 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-12 13:39:53.190157
• Title: Attention-like feature explanation for tabular data
• Title（参考訳）: 表データに対する注意的特徴説明
• Authors: Andrei V. Konstantinov and Lev V. Utkin
• Abstract要約: AFEX(Attention-like Feature Explanation)は、機械学習ブラックボックスモデルの局所的およびグローバル的説明のための新しい手法である。 AFEXは、説明段階でニューラルネットワークを再びトレーニングする必要がなくなるように、データセット全体をエンドツーエンドにトレーニングする。
• 参考スコア（独自算出の注目度）: 6.85316573653194
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A new method for local and global explanation of the machine learning black-box model predictions by tabular data is proposed. It is implemented as a system called AFEX (Attention-like Feature EXplanation) and consisting of two main parts. The first part is a set of the one-feature neural subnetworks which aim to get a specific representation for every feature in the form of a basis of shape functions. The subnetworks use shortcut connections with trainable parameters to improve the network performance. The second part of AFEX produces shape functions of features as the weighted sum of the basis shape functions where weights are computed by using an attention-like mechanism. AFEX identifies pairwise interactions between features based on pairwise multiplications of shape functions corresponding to different features. A modification of AFEX with incorporating an additional surrogate model which approximates the black-box model is proposed. AFEX is trained end-to-end on a whole dataset only once such that it does not require to train neural networks again in the explanation stage. Numerical experiments with synthetic and real data illustrate AFEX.
• Abstract（参考訳）: グラフデータによる機械学習によるブラックボックスモデル予測の局所的およびグローバル的説明法を提案する。 AFEX(Attention-like Feature Explanation)と呼ばれるシステムとして実装され、2つの主要な部分から構成される。 第1部は、形状関数の基底の形で全ての特徴の特定の表現を得ることを目的とした、一機能神経サブネットワークのセットである。 サブネットワークはネットワーク性能を改善するためにトレーニング可能なパラメータとショートカット接続を使用する。 AFEXの第2部は、注目機構を用いて重みが計算される基底形状関数の重み付け和として特徴の形状関数を生成する。 AFEXは、異なる特徴に対応する形状関数のペアワイズ乗算に基づいて、特徴間のペアワイズ相互作用を特定する。 ブラックボックスモデルに近似した追加の代理モデルを組み込んだAFEXの修正を提案する。 AFEXは、説明段階でニューラルネットワークを再びトレーニングする必要がなくなるように、データセット全体をエンドツーエンドにトレーニングする。 合成および実データによる数値実験はAFEXを例証する。

関連論文リスト

• Retain, Blend, and Exchange: A Quality-aware Spatial-Stereo Fusion Approach for Event Stream Recognition [57.74076383449153]
  本稿では,差分融合によるイベントストリームに基づくパターン認識のための新しいデュアルストリームフレームワークEFV++を提案する。 イベントイメージとイベントボクセルという2つの共通のイベント表現を同時にモデル化する。 Bullying10kデータセットで新しい最先端のパフォーマンス、すなわち90.51%$を達成し、2位を+2.21%$で上回る。
  論文  参考訳（メタデータ） (2024-06-27T02:32:46Z)
• Functional Neural Networks: Shift invariant models for functional data with applications to EEG classification [0.0]
  我々は、データのスムーズさを保ちながら不変な新しいタイプのニューラルネットワークを導入する:関数型ニューラルネットワーク(FNN) そこで我々は,多層パーセプトロンと畳み込みニューラルネットワークを機能データに拡張するために,機能データ分析(FDA)の手法を用いる。 脳波(EEG)データの分類にFNNをうまく利用し,FDAのベンチマークモデルより優れていることを示す。
  論文  参考訳（メタデータ） (2023-01-14T09:41:21Z)
• Functional Indirection Neural Estimator for Better Out-of-distribution Generalization [27.291114360472243]
  FINE(Functional Indirection Neural Estorimator)は、入力されたデータをオンザフライで出力する関数を構成することを学ぶ。 我々は、MNIST、Omniglot、CIFAR100データセットの画像を用いて、IQタスク上でFINEと競合するモデルを訓練する。 FINEはすべてのタスクで最高のパフォーマンスを達成するだけでなく、小さなデータシナリオにも適応できる。
  論文  参考訳（メタデータ） (2022-10-23T14:43:02Z)
• Towards Open-World Feature Extrapolation: An Inductive Graph Learning Approach [80.8446673089281]
  グラフ表現と学習を伴う新しい学習パラダイムを提案する。 本フレームワークは,1) 下位モデルとしてのバックボーンネットワーク(フィードフォワードニューラルネットなど)が,予測ラベルの入力および出力として機能を取り,2) 上位モデルとしてのグラフニューラルネットワークが,観測データから構築された特徴データグラフをメッセージパッシングすることで,新機能の埋め込みを外挿することを学ぶ。
  論文  参考訳（メタデータ） (2021-10-09T09:02:45Z)
• X-volution: On the unification of convolution and self-attention [52.80459687846842]
  本稿では,畳み込み操作と自己注意操作の両方からなるマルチブランチ基本モジュールを提案する。 提案したX-進化は、非常に競争力のある視覚的理解の改善を実現する。
  論文  参考訳（メタデータ） (2021-06-04T04:32:02Z)
• GraphFM: Graph Factorization Machines for Feature Interaction Modeling [27.307086868266012]
  本稿では,グラフ構造の特徴を自然に表現し,グラフ因子化マシン(GraphFM)を提案する。 特に,有用な特徴間相互作用を選択し,特徴間のエッジとして定式化する機構を設計する。 提案モデルでは, FMの相互作用関数をグラフニューラルネットワーク(GNN)の特徴集約戦略に統合する。
  論文  参考訳（メタデータ） (2021-05-25T12:10:54Z)
• Feature Decomposition and Reconstruction Learning for Effective Facial Expression Recognition [80.17419621762866]
  本稿では,表情認識のための特徴分解再構成学習(FDRL)手法を提案する。 FDRLは、FDN(Feature Decomposition Network)とFRN(Feature Restruction Network)の2つの重要なネットワークで構成されている。
  論文  参考訳（メタデータ） (2021-04-12T02:22:45Z)
• Pre-Trained Models for Heterogeneous Information Networks [57.78194356302626]
  異種情報ネットワークの特徴を捉えるための自己教師付き事前学習・微調整フレームワークPF-HINを提案する。 PF-HINは4つのデータセットにおいて、各タスクにおける最先端の代替よりも一貫して、大幅に優れています。
  論文  参考訳（メタデータ） (2020-07-07T03:36:28Z)
• Activation functions are not needed: the ratio net [3.9636371287541086]
  本稿では,新しい関数近似器の設計に焦点をあてる。 新しいアクティベーション関数やカーネル関数を設計する代わりに、新しい提案されたネットワークは分数形式を使用する。 その結果、ほとんどの場合、比率ネットはより速く収束し、分類とRBFの両方を上回っていることがわかった。
  論文  参考訳（メタデータ） (2020-05-14T01:07:56Z)
• BasisVAE: Translation-invariant feature-level clustering with Variational Autoencoders [9.51828574518325]
  変分オートエンコーダ(VAE)は、非線形次元削減のための柔軟でスケーラブルなフレームワークを提供する。 崩壊した変分推論スキームがBasisVAEのスケーラブルかつ効率的な推論にどのように寄与するかを示す。
  論文  参考訳（メタデータ） (2020-03-06T23:10:52Z)
• Revisiting Graph based Collaborative Filtering: A Linear Residual Graph Convolutional Network Approach [55.44107800525776]
  グラフ畳み込みネットワーク(GCN)は、最先端のグラフベースの表現学習モデルである。 本稿では、GCNベースの協調フィルタリング(CF)ベースのレコメンダシステム(RS)について再検討する。 単純なグラフ畳み込みネットワークの理論と整合して,非線形性を取り除くことで推奨性能が向上することを示す。 本稿では,ユーザ・イテム相互作用モデリングを用いたCF用に特別に設計された残差ネットワーク構造を提案する。
  論文  参考訳（メタデータ） (2020-01-28T04:41:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。