論文の概要: Greedy PIG: Adaptive Integrated Gradients
- arxiv url: http://arxiv.org/abs/2311.06192v1
- Date: Fri, 10 Nov 2023 17:16:18 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-13 14:28:08.012800
- Title: Greedy PIG: Adaptive Integrated Gradients
- Title(参考訳): Greedy PIG: Adaptive Integrated Gradients
- Authors: Kyriakos Axiotis, Sami Abu-al-haija, Lin Chen, Matthew Fahrbach, Gang
Fu
- Abstract要約: 本稿では,サブセット選択に基づく特徴属性と特徴選択のための統一的な離散最適化フレームワークを提案する。
これにより、特徴属性に対するパス積分勾配法(PIG)の自然な適応的一般化が導かれる。
本稿では,画像特徴属性,グラフ圧縮/説明,ポストホック特徴選択など,さまざまなタスクにおけるGreedy PIGの成功例を示す。
- 参考スコア(独自算出の注目度): 19.473857784368374
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep learning has become the standard approach for most machine learning
tasks. While its impact is undeniable, interpreting the predictions of deep
learning models from a human perspective remains a challenge. In contrast to
model training, model interpretability is harder to quantify and pose as an
explicit optimization problem. Inspired by the AUC softmax information curve
(AUC SIC) metric for evaluating feature attribution methods, we propose a
unified discrete optimization framework for feature attribution and feature
selection based on subset selection. This leads to a natural adaptive
generalization of the path integrated gradients (PIG) method for feature
attribution, which we call Greedy PIG. We demonstrate the success of Greedy PIG
on a wide variety of tasks, including image feature attribution, graph
compression/explanation, and post-hoc feature selection on tabular data. Our
results show that introducing adaptivity is a powerful and versatile method for
making attribution methods more powerful.
- Abstract(参考訳): ディープラーニングは多くの機械学習タスクの標準的なアプローチになっている。
その影響は否定できないが、人間の視点からディープラーニングモデルの予測を解釈することは依然として困難である。
モデルトレーニングとは対照的に、モデル解釈可能性は定量化が難しく、明確な最適化問題として機能する。
auc softmax information curve (auc sic) メトリックにインスパイアされて特徴帰属評価を行い,部分集合選択に基づく特徴帰属と特徴選択のための統一的離散最適化フレームワークを提案する。
これにより、Greedy PIGと呼ばれる特徴属性に対するパス積分勾配法(PIG)の自然な適応的一般化が導かれる。
本稿では、画像特徴属性、グラフ圧縮/説明、グラフデータに対するポストホック特徴選択など、さまざまなタスクにおけるGreedy PIGの成功例を示す。
その結果,適応性の導入は,帰属法をより強力にするための強力で多用途な手法であることがわかった。
関連論文リスト
- Variational Stochastic Gradient Descent for Deep Neural Networks [16.96187187108041]
現在の最先端は、Adamのような適応的勾配に基づく最適化手法である。
ここでは,2つのアプローチを組み合わせることを提案し,その結果,VSGD(Variational Gradient Descent)を導出する。
我々は、VSGD法がAdamのような他の適応勾配ベースとどのように関係しているかを示す。
論文 参考訳(メタデータ) (2024-04-09T18:02:01Z) - IGANN Sparse: Bridging Sparsity and Interpretability with Non-linear Insight [4.010646933005848]
IGANN Sparseは、一般化された加法モデルのファミリーから生まれた、新しい機械学習モデルである。
トレーニング中の非線形特徴選択プロセスを通じて、スパシティを促進する。
これにより、予測性能を犠牲にすることなく、モデル空間の改善による解釈可能性を保証する。
論文 参考訳(メタデータ) (2024-03-17T22:44:36Z) - Optimizing Neural Networks with Gradient Lexicase Selection [7.554281369517276]
機械学習で集約されたパフォーマンス測定を使用することの潜在的な欠点は、トレーニングケースのより高いエラーを、他のケースの低いエラーに対する妥協として受け入れることを学ぶことができることである。
本稿では、勾配降下と語彙選択を進化的に組み合わせた最適化フレームワークであるグラディエント・レキシケース選択を提案する。
実験により,提案手法は,広く使用されているディープニューラルネットワークアーキテクチャの一般化性能を向上することを示した。
論文 参考訳(メタデータ) (2023-12-19T21:21:25Z) - Adaptive Meta-learner via Gradient Similarity for Few-shot Text
Classification [11.035878821365149]
本稿では, モデル一般化能力の向上を図るため, 適応型メタラーナをグラディエント類似性(AMGS)を介して提案する。
いくつかのベンチマークによる実験結果から,提案したAMGSは連続的にテキスト分類性能を向上することが示された。
論文 参考訳(メタデータ) (2022-09-10T16:14:53Z) - Deep Manifold Learning with Graph Mining [80.84145791017968]
グラフマイニングのための非段階的決定層を持つ新しいグラフ深層モデルを提案する。
提案モデルでは,現行モデルと比較して最先端性能を実現している。
論文 参考訳(メタデータ) (2022-07-18T04:34:08Z) - Adaptive Fine-Grained Predicates Learning for Scene Graph Generation [122.4588401267544]
一般的なシーングラフ生成(SGG)モデルは、頭部の述語を予測する傾向があり、再バランス戦略は尾のカテゴリを好む。
本稿では,SGGの難解な述語を識別することを目的とした適応的微粒述語学習(FGPL-A)を提案する。
提案したモデル非依存戦略は,VG-SGGおよびGQA-SGGデータセットのベンチマークモデルの性能を最大175%,Mean Recall@100では76%向上させ,新たな最先端性能を実現する。
論文 参考訳(メタデータ) (2022-07-11T03:37:57Z) - Learning Graph Regularisation for Guided Super-Resolution [77.7568596501908]
誘導超解像のための新しい定式化を導入する。
そのコアは、学習親和性グラフ上で動作する微分可能な最適化層である。
提案手法をいくつかのデータセット上で広範囲に評価し, 定量的な再構成誤差の点から最近のベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2022-03-27T13:12:18Z) - Learning MDPs from Features: Predict-Then-Optimize for Sequential
Decision Problems by Reinforcement Learning [52.74071439183113]
我々は、強化学習を通して解決された逐次決定問題(MDP)の文脈における予測列最適化フレームワークについて検討した。
2つの重要な計算課題は、意思決定中心の学習をMDPに適用することである。
論文 参考訳(メタデータ) (2021-06-06T23:53:31Z) - An Adaptive Framework for Learning Unsupervised Depth Completion [59.17364202590475]
カラー画像から高密度深度マップとそれに伴うスパース深度測定を推定する手法を提案する。
正規化とコビジュアライゼーションは、モデルの適合度とデータによって関連付けられており、単一のフレームワークに統合可能であることを示す。
論文 参考訳(メタデータ) (2021-06-06T02:27:55Z) - Deep Reinforcement Learning of Graph Matching [63.469961545293756]
ノードとペアの制約下でのグラフマッチング(GM)は、最適化からコンピュータビジョンまでの領域におけるビルディングブロックである。
GMのための強化学習ソルバを提案する。
rgmはペアワイズグラフ間のノード対応を求める。
本手法は,フロントエンドの特徴抽出と親和性関数学習に焦点をあてるという意味において,従来のディープグラフマッチングモデルと異なる。
論文 参考訳(メタデータ) (2020-12-16T13:48:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。