論文の概要: A Comparative Study of Importance Attribution to Columns in Deep Learning over Relational Databases
- arxiv url: http://arxiv.org/abs/2611.05986v1
- Date: Wed, 04 Nov 2026 05:33:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 03:25:57.951518
- Title: A Comparative Study of Importance Attribution to Columns in Deep Learning over Relational Databases
- Title(参考訳): 関係データベースを用いた深層学習におけるコラムの重要性に関する比較研究
- Abstract要約: 本研究では,重要度と貢献度を比較する手法を開発し,その類似点と相違点を解析する。
我々は,モンテカルロ・シャプリー,ケルネル・SHAP,シングルアトリビュート・インパクト,マスク学習の4つの手法を実験的に検討した。
本実験は, 予測型によって説明法が異なる動作をすることを示し, 回帰法と分類法を併用した。
- 参考スコア(独自算出の注目度): 4.636716420912213
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep learning over relational databases has led to increasingly effective prediction models, motivating a growing need to explain their behavior. We study explanation methods that assign importance scores to individual database attributes, focusing on a fundamental question: to what extent does the choice of importance-attribution method matter? We develop a methodology to systematically compare importance-attribution methods and analyze their similarities and differences. In particular, we study two aspects of the explanations: which attributes they deem important, captured by differences in attribute rankings, and how importance scores vary across attributes, captured by differences in score distributions. We further investigate whether these differences are reflected in the conventional measure of explanation quality, fidelity. We apply our methodology in an extensive empirical study of four methods: Monte Carlo Shapley, Kernel SHAP, single-attribute impact, and mask learning. We experiment with multiple datasets and tasks using two RDL architectures: heterogeneous GraphSAGE and Relational Graph Transformers. Our experiments show that explanation methods behave differently depending on the prediction type: regression or classification. In regression, most methods exhibit high agreement in attribute rankings, whereas classification yields considerably less consensus. Notably, while mask learning frequently diverges in its importance distributions, Shapley-based methods and single-attribute impact often converge to similar explanations. This suggests that, in many settings, single-attribute impact can replace Shapley at substantially lower computational cost. Overall, our study provides methodological tools for comparing importance-attribution methods, and empirical evidence that their choice has important consequences for interpreting relational deep learning models.
- Abstract(参考訳): リレーショナルデータベースに対する深い学習は、ますます効果的な予測モデルをもたらし、それらの振る舞いを説明する必要性が増している。
重要度スコアを個々のデータベース属性に割り当てる説明手法について,基本的問題に焦点をあてて検討する。
本研究では,重要度と貢献度を体系的に比較し,類似点と相違点を解析する手法を開発した。
特に,どの属性が重要か,どの属性が属性ランキングの違いによって評価され,重要度が属性によって異なるか,スコア分布の違いによって評価されるか,という2つの側面について検討する。
さらに、これらの違いが従来の説明の質、忠実さの尺度に反映されているかどうかについても検討する。
我々は,モンテカルロ・シャプリー,ケルネル・SHAP,シングルアトリビュート・インパクト,マスク学習の4つの手法を実験的に検討した。
ヘテロジニアスグラフSAGEとリレーショナルグラフ変換器という2つのRDLアーキテクチャを用いて,複数のデータセットとタスクを実験する。
本実験は, 予測型によって説明法が異なる動作をすることを示し, 回帰法と分類法を併用した。
回帰において、ほとんどの手法は属性ランキングにおいて高い一致を示すが、分類はコンセンサスをかなり少なくする。
特に、マスク学習は、その重要性の分布において頻繁に分岐するが、シェープリーに基づく手法と単一属性の影響は、しばしば同様の説明に収束する。
これは、多くの設定において、単一属性の影響はShapleyを計算コストのかなり低いものに置き換えることができることを示唆している。
全体として,本研究は,重要属性法を比較するための方法論的ツールを提供し,それらの選択が関係深層学習モデルの解釈に重要な結果をもたらすことを示す実証的証拠を提供する。
関連論文リスト
- Consistency of Feature Attribution in Deep Learning Architectures for Multi-Omics [0.36646002427839136]
マルチオミクスデータに適用した多視点深層学習モデルにおけるShapley Additive Explanations (SHAP)の使用について検討する。
SHAPによる機能ランキングは、メソッドの一貫性を評価するために様々なアーキテクチャで比較される。
本稿では,重要な生体分子の同定の堅牢性を評価する方法を提案する。
論文 参考訳(メタデータ) (2025-07-30T17:53:42Z) - How to Probe: Simple Yet Effective Techniques for Improving Post-hoc Explanations [69.72654127617058]
ポストホック重要属性法は、ディープニューラルネットワーク(DNN)を"説明"するための一般的なツールである
この研究において、我々はこの概念に挑戦する経験的証拠を提示する。
トレーニング済みモデルの分類レイヤのトレーニング詳細が重要な役割を果たすことを示す。
論文 参考訳(メタデータ) (2025-03-01T22:25:11Z) - A Critical Assessment of Interpretable and Explainable Machine Learning for Intrusion Detection [0.0]
本稿では,過度に複雑で不透明なMLモデル,不均衡なデータと相関した特徴,異なる説明法における不整合な影響特徴,そして説明の不可能な有用性について検討する。
具体的には、Deep Neural Networksのような複雑な不透明モデルを避け、代わりにDecision Treesのような解釈可能なMLモデルを使用することを推奨する。
機能ベースのモデル説明は、多くの場合、異なる設定で矛盾している。
論文 参考訳(メタデータ) (2024-07-04T15:35:42Z) - A Probabilistic Model Behind Self-Supervised Learning [53.64989127914936]
自己教師付き学習(SSL)では、アノテートラベルなしで補助的なタスクを通じて表現が学習される。
自己教師型学習のための生成潜在変数モデルを提案する。
対照的な方法を含む識別的SSLのいくつかのファミリーは、表現に匹敵する分布を誘導することを示した。
論文 参考訳(メタデータ) (2024-02-02T13:31:17Z) - Comparing Explanation Methods for Traditional Machine Learning Models
Part 2: Quantifying Model Explainability Faithfulness and Improvements with
Dimensionality Reduction [0.0]
忠実さ」または「忠実さ」とは、割り当てられた特徴の重要性と、その特徴のモデル性能への貢献の対応を指す。
本研究は,関係する特徴を限定することによる説明可能性の向上と,異なる説明可能性手法の相対的忠実性を知ることから,初めて説明可能性の向上を定量化した1つである。
論文 参考訳(メタデータ) (2022-11-18T17:15:59Z) - On Modality Bias Recognition and Reduction [70.69194431713825]
マルチモーダル分類の文脈におけるモダリティバイアス問題について検討する。
本稿では,各ラベルの特徴空間を適応的に学習するプラグアンドプレイ損失関数法を提案する。
本手法は, ベースラインに比べ, 顕著な性能向上を実現している。
論文 参考訳(メタデータ) (2022-02-25T13:47:09Z) - The impact of feature importance methods on the interpretation of defect
classifiers [13.840006058766766]
我々は18のソフトウェアプロジェクトと6つのよく使用される分類器のケーススタディにより,研究対象の分類器に関連する特徴的重要性のランクの一致を評価した。
調査対象のCA法では,各データセットの上位1位と上位3位に記載された特徴を含め,計算された特徴量のランクは強い一致を示した。
CFSのような単純な手法であっても,これらの特徴相互作用の除去はCAとCSの手法との整合性を向上させることが実証された。
論文 参考訳(メタデータ) (2022-02-04T21:00:59Z) - Selecting the suitable resampling strategy for imbalanced data
classification regarding dataset properties [62.997667081978825]
医学、情報検索、サイバーセキュリティ、ソーシャルメディアなどの多くのアプリケーションドメインでは、分類モデルの導入に使用されるデータセットは、各クラスのインスタンスの不平等な分布を持つことが多い。
この状況は不均衡データ分類と呼ばれ、少数民族の例では予測性能が低い。
オーバーサンプリングとアンダーサンプリングの技術は、各クラスの例の数とバランスをとることでこの問題に対処する、よく知られた戦略である。
論文 参考訳(メタデータ) (2021-12-15T18:56:39Z) - Partial Order in Chaos: Consensus on Feature Attributions in the
Rashomon Set [50.67431815647126]
ポストホックなグローバル/ローカルな特徴属性法は、機械学習モデルを理解するために徐々に採用されている。
この手法により局所的・言語的特徴の半順序が生じることを示す。
これらの部分的な順序に現れる特徴間の関係は、既存のアプローチによって提供されたランクにも当てはまることを示す。
論文 参考訳(メタデータ) (2021-10-26T02:53:14Z) - Interpretable Multi-dataset Evaluation for Named Entity Recognition [110.64368106131062]
本稿では,名前付きエンティティ認識(NER)タスクに対する一般的な評価手法を提案する。
提案手法は,モデルとデータセットの違いと,それらの間の相互作用を解釈することを可能にする。
分析ツールを利用可能にすることで、将来の研究者が同様の分析を実行し、この分野の進歩を促進することができる。
論文 参考訳(メタデータ) (2020-11-13T10:53:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。