論文の概要: Multi-Layer Attention-Based Explainability via Transformers for Tabular Data

• arxiv url: http://arxiv.org/abs/2302.14278v1
• Date: Tue, 28 Feb 2023 03:28:18 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-01 18:13:57.680655
• Title: Multi-Layer Attention-Based Explainability via Transformers for Tabular Data
• Title（参考訳）: 表データ用変圧器による多層注意型説明可能性
• Authors: Andrea Trevi\~no Gavito, Diego Klabjan, Jean Utke
• Abstract要約: グラフ指向の注意に基づく表データの説明可能性法を提案する。 説明を提供するため、すべてのレイヤの注意行列を概ね考慮する。 多層アテンションに基づく説明の質を評価するために、一般的なアテンション、勾配、摂動に基づく説明可能性法と比較する。
• 参考スコア（独自算出の注目度）: 18.76745359031975
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose a graph-oriented attention-based explainability method for tabular data. Tasks involving tabular data have been solved mostly using traditional tree-based machine learning models which have the challenges of feature selection and engineering. With that in mind, we consider a transformer architecture for tabular data, which is amenable to explainability, and present a novel way to leverage self-attention mechanism to provide explanations by taking into account the attention matrices of all layers as a whole. The matrices are mapped to a graph structure where groups of features correspond to nodes and attention values to arcs. By finding the maximum probability paths in the graph, we identify groups of features providing larger contributions to explain the model's predictions. To assess the quality of multi-layer attention-based explanations, we compare them with popular attention-, gradient-, and perturbation-based explanability methods.
• Abstract（参考訳）: グラフ指向の注意に基づく表データの説明可能性法を提案する。 表データに関わるタスクは主に、機能選択とエンジニアリングの課題を持つ従来のツリーベースの機械学習モデルを使用して解決されている。 そこで本稿では,表層データに対するトランスフォーマーアーキテクチャについて考察し,説明可能性に配慮し,各層全体の注意行列を考慮し,自己注意機構を活用して説明を提供する新しい手法を提案する。 行列は、特徴の群がノードに対応し、注意値がアークに対応するグラフ構造にマッピングされる。 グラフの最大確率パスを見つけることで、モデルの予測を説明するのにより大きな貢献を提供する特徴群を識別する。 本研究では,多層注意に基づく説明の質を評価するため,注意・勾配・摂動・説明の方法と比較した。

関連論文リスト

• Graph-Dictionary Signal Model for Sparse Representations of Multivariate Data [49.77103348208835]
  グラフの有限集合がラプラシアンの重み付き和を通してデータ分布の関係を特徴付けるグラフ辞書信号モデルを定義する。 本稿では,観測データからグラフ辞書表現を推論するフレームワークを提案する。 我々は,脳活動データに基づく運動画像復号作業におけるグラフ辞書表現を利用して,従来の手法よりも想像的な動きをよりよく分類する。
  論文  参考訳（メタデータ） (2024-11-08T17:40:43Z)
• Linear Transformer Topological Masking with Graph Random Features [52.717865653036796]
  重み付き隣接行列の学習可能な関数としてトポロジカルマスクをパラメータ化する方法を示す。 私たちの効率的なマスキングアルゴリズムは、画像およびポイントクラウドデータのタスクに対して、強力なパフォーマンス向上を提供します。
  論文  参考訳（メタデータ） (2024-10-04T14:24:06Z)
• Hierarchical Aggregations for High-Dimensional Multiplex Graph Embedding [7.271256448682229]
  HMGEは高次元多重グラフの階層的アグリゲーションに基づく新しい埋め込み手法である。 我々は、ローカルパッチとグローバルサマリー間の相互情報を活用して、監督なしにモデルを訓練する。 合成および実世界のデータに関する詳細な実験は、下流監視タスクに対する我々のアプローチの適合性を示している。
  論文  参考訳（メタデータ） (2023-12-28T05:39:33Z)
• Bures-Wasserstein Means of Graphs [60.42414991820453]
  本研究では,スムーズなグラフ信号分布の空間への埋め込みを通じて,グラフ平均を定義する新しいフレームワークを提案する。 この埋め込み空間において平均を求めることにより、構造情報を保存する平均グラフを復元することができる。 我々は,新しいグラフの意味の存在と特異性を確立し,それを計算するための反復アルゴリズムを提供する。
  論文  参考訳（メタデータ） (2023-05-31T11:04:53Z)
• Learning Representations without Compositional Assumptions [79.12273403390311]
  本稿では,特徴集合をグラフノードとして表現し,それらの関係を学習可能なエッジとして表現することで,特徴集合の依存関係を学習するデータ駆動型アプローチを提案する。 また,複数のビューから情報を動的に集約するために,より小さな潜在グラフを学習する新しい階層グラフオートエンコーダLEGATOを導入する。
  論文  参考訳（メタデータ） (2023-05-31T10:36:10Z)
• GrannGAN: Graph annotation generative adversarial networks [72.66289932625742]
  本稿では,高次元分布をモデル化し,グラフスケルトンと整合した複雑な関係特徴構造を持つデータの新しい例を生成することの問題点を考察する。 提案するモデルは,タスクを2つのフェーズに分割することで,各データポイントのグラフ構造に制約されたデータ特徴を生成する問題に対処する。 第一に、与えられたグラフのノードに関連する機能の分布をモデル化し、第二に、ノードのフィーチャに条件付きでエッジ機能を補完する。
  論文  参考訳（メタデータ） (2022-12-01T11:49:07Z)
• Cell Attention Networks [25.72671436731666]
  グラフの頂点上で定義されたデータを操作するニューラルネットワークであるCell Attention Networks (CANs)を紹介する。 CANは、細胞複合体にコードされているように、下部と上部の地区を利用して、2つの独立したマスク付き自己保持機構を設計する。 実験結果から,CANはグラフベースの学習課題における技術結果と同等に比較可能な,低複雑性戦略であることが示唆された。
  論文  参考訳（メタデータ） (2022-09-16T21:57:39Z)
• Graph Attention Transformer Network for Multi-Label Image Classification [50.0297353509294]
  複雑なラベル間関係を効果的にマイニングできる多ラベル画像分類のための一般的なフレームワークを提案する。 提案手法は3つのデータセット上で最先端の性能を実現することができる。
  論文  参考訳（メタデータ） (2022-03-08T12:39:05Z)
• Siamese Attribute-missing Graph Auto-encoder [35.79233150253881]
  我々は,Samese Attribute-missing Graph Auto-Encoder (SAGA)を提案する。 まず、両方のプロセスで学習したパラメータを共有するために、シアムネットワーク構造を導入することで、属性の埋め込みと構造埋め込みを絡み合わせる。 第二に, K-nearest neighbor (KNN) と構造制約強化学習機構を導入し, 欠落属性の潜伏特性の質を向上させる。
  論文  参考訳（メタデータ） (2021-12-09T11:21:31Z)
• Multiple Graph Learning for Scalable Multi-view Clustering [26.846642220480863]
  少数のアンカー点とテンソルシャッテンp-ノルム最小化による効率的な多重グラフ学習モデルを提案する。 具体的には、各ビューに対してアンカーグラフを用いて、隠蔽かつトラクタブルな大きなグラフを構築する。 本研究では,データサイズと線形にスケールする効率的なアルゴリズムを開発し,提案したモデルを解く。
  論文  参考訳（メタデータ） (2021-06-29T13:10:56Z)
• SUGAR: Subgraph Neural Network with Reinforcement Pooling and Self-Supervised Mutual Information Mechanism [33.135006052347194]
  本稿では,グラフ分類のための階層型サブグラフレベル選択および埋め込み型グラフニューラルネットワーク,すなわちシュガーを提案する。 SUGARは、原グラフの代表的な部分として印象的なサブグラフを抽出し、サブグラフレベルのパターンを明らかにすることにより、スケッチグラフを再構築する。 グラフ間の部分グラフ表現を区別するために,自己教師付き相互情報機構を提案する。
  論文  参考訳（メタデータ） (2021-01-20T15:06:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。