論文の概要: Fourier Feature Attribution: A New Efficiency Attribution Method
- arxiv url: http://arxiv.org/abs/2504.02016v1
- Date: Wed, 02 Apr 2025 13:20:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-04-04 12:55:56.106612
- Title: Fourier Feature Attribution: A New Efficiency Attribution Method
- Title(参考訳): Fourier Feature Attribution:新しい効率属性法
- Authors: Zechen Liu, Feiyang Zhang, Wei Song, Xiang Li, Wei Wei,
- Abstract要約: 本稿では,信号分解理論に基づく新しいフーリエ特徴帰属法を提案する。
実験により,Fourier特徴帰属は空間領域帰属法と比較して優れた特徴選択能力を示すことが示された。
その結果、フーリエの特徴はクラス内濃度とクラス間特異性が高く、より効率的な分類と説明可能なAIアルゴリズムの可能性を示していることが明らかとなった。
- 参考スコア(独自算出の注目度): 11.76411086670363
- License:
- Abstract: The study of neural networks from the perspective of Fourier features has garnered significant attention. While existing analytical research suggests that neural networks tend to learn low-frequency features, a clear attribution method for identifying the specific learned Fourier features has remained elusive. To bridge this gap, we propose a novel Fourier feature attribution method grounded in signal decomposition theory. Additionally, we analyze the differences between game-theoretic attribution metrics for Fourier and spatial domain features, demonstrating that game-theoretic evaluation metrics are better suited for Fourier-based feature attribution. Our experiments show that Fourier feature attribution exhibits superior feature selection capabilities compared to spatial domain attribution methods. For instance, in the case of Vision Transformers (ViTs) on the ImageNet dataset, only $8\%$ of the Fourier features are required to maintain the original predictions for $80\%$ of the samples. Furthermore, we compare the specificity of features identified by our method against traditional spatial domain attribution methods. Results reveal that Fourier features exhibit greater intra-class concentration and inter-class distinctiveness, indicating their potential for more efficient classification and explainable AI algorithms.
- Abstract(参考訳): フーリエの特徴の観点からのニューラルネットワークの研究は、大きな注目を集めている。
既存の分析研究では、ニューラルネットワークは低周波の特徴を学習する傾向があることが示唆されているが、特定の学習されたフーリエの特徴を特定するための明確な帰属法はいまだ解明されていない。
このギャップを埋めるために,信号分解理論に基づく新しいフーリエ特徴属性法を提案する。
さらに,Fourier と空間領域の特徴に対するゲーム理論帰属指標の違いを分析し,ゲーム理論的評価指標がFourier の特徴帰属に適していることを示す。
実験により,Fourier特徴帰属は空間領域帰属法と比較して優れた特徴選択能力を示すことが示された。
例えば、ImageNetデータセット上のViT(Vision Transformers)の場合、元の予測を80\%のサンプルで維持するには、Fourierの機能の8\%しか必要としない。
さらに,本手法により同定された特徴の特異性を,従来の空間領域属性法と比較した。
その結果、フーリエの特徴はクラス内濃度とクラス間特異性が高く、より効率的な分類と説明可能なAIアルゴリズムの可能性を示していることが明らかとなった。
関連論文リスト
- Robustifying Fourier Features Embeddings for Implicit Neural Representations [25.725097757343367]
Inlicit Neural Representation (INR) は、目標関数の対応する値に座標をマッピングすることで、連続関数を表現するためにニューラルネットワークを使用する。
INRは、様々な周波数を含むシーンを扱う際に、スペクトルバイアスとして知られる課題に直面している。
本稿では,多層パーセプトロン (MLP) を添加剤なしで使用することを提案する。
論文 参考訳(メタデータ) (2025-02-08T07:43:37Z) - Robust Fourier Neural Networks [1.0589208420411014]
フーリエ埋込層の後, 単純な対角層を導入することにより, ネットワークの騒音測定がより堅牢になることを示す。
特定の条件下では,フーリエ関数の非線形関数の雑音混合である関数も学習することができる。
論文 参考訳(メタデータ) (2024-09-03T16:56:41Z) - Noise-Resilient Unsupervised Graph Representation Learning via Multi-Hop Feature Quality Estimation [53.91958614666386]
グラフニューラルネットワーク(GNN)に基づく教師なしグラフ表現学習(UGRL)
マルチホップ特徴量推定(MQE)に基づく新しいUGRL法を提案する。
論文 参考訳(メタデータ) (2024-07-29T12:24:28Z) - Fourier Sensitivity and Regularization of Computer Vision Models [11.79852671537969]
本稿では,ディープニューラルネットワークの周波数感度特性について,原理的アプローチを用いて検討する。
コンピュータビジョンモデルは、データセット、トレーニング方法、アーキテクチャに依存する特定の周波数に一貫して敏感であることがわかった。
論文 参考訳(メタデータ) (2023-01-31T10:05:35Z) - Deep Fourier Up-Sampling [100.59885545206744]
フーリエ領域のアップサンプリングは、そのような局所的な性質に従わないため、より難しい。
これらの問題を解決するために理論的に健全なDeep Fourier Up-Sampling (FourierUp)を提案する。
論文 参考訳(メタデータ) (2022-10-11T06:17:31Z) - Fourier Disentangled Space-Time Attention for Aerial Video Recognition [54.80846279175762]
本稿では,UAVビデオ行動認識のためのFAR(Fourier Activity Recognition)アルゴリズムを提案する。
我々の定式化は、人間のエージェントを背景から自然に分離するために、新しいフーリエオブジェクト・ディコンタングルメント法を用いています。
我々はUAV Human RGB、UAV Human Night、Drone Action、NEC Droneを含む複数のUAVデータセットに対するアプローチを評価した。
論文 参考訳(メタデータ) (2022-03-21T01:24:53Z) - Aspect Based Sentiment Analysis Using Spectral Temporal Graph Neural
Network [0.0]
レビュー文の複雑さ、二重否定の存在、単語の特定の使用により、感情を正確に予測することが困難になる。
スペクトル領域で生成された特徴を持つグラフフーリエ変換に基づくネットワークを提案する。
提案モデルでは、Eコマースドメインから最近提案された他の2つのデータセットに対して、競合する結果も見出した。
論文 参考訳(メタデータ) (2022-02-14T14:55:00Z) - Functional Regularization for Reinforcement Learning via Learned Fourier
Features [98.90474131452588]
本稿では、入力を学習されたフーリエベースに埋め込むことにより、深層強化学習のための簡単なアーキテクチャを提案する。
その結果、状態ベースと画像ベースの両方のRLのサンプル効率が向上することがわかった。
論文 参考訳(メタデータ) (2021-12-06T18:59:52Z) - A Fourier-based Framework for Domain Generalization [82.54650565298418]
ドメインの一般化は、複数のソースドメインから伝達可能な知識を学習して、未確認のターゲットドメインに一般化することでこの問題に対処することを目的としている。
本稿では、ドメイン一般化のための新しいフーリエに基づく視点を紹介する。
3つのベンチマーク実験により,提案手法は領域一般化のための最先端性能を実現することができることを示した。
論文 参考訳(メタデータ) (2021-05-24T06:50:30Z) - Learning Set Functions that are Sparse in Non-Orthogonal Fourier Bases [73.53227696624306]
フーリエスパース集合関数を学習するための新しいアルゴリズム群を提案する。
Walsh-Hadamard変換に焦点をあてた他の研究とは対照的に、我々の新しいアルゴリズムは最近導入された非直交フーリエ変換で機能する。
いくつかの実世界のアプリケーションで有効性を示す。
論文 参考訳(メタデータ) (2020-10-01T14:31:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。