論文の概要: E-TCAV: Formalizing Penultimate Proxies for Efficient Concept Based Interpretability

• arxiv url: http://arxiv.org/abs/2605.10261v1
• Date: Mon, 11 May 2026 09:25:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:50.694046
• Title: E-TCAV: Formalizing Penultimate Proxies for Efficient Concept Based Interpretability
• Title（参考訳）: E-TCAV:効率的な概念に基づく解釈可能性のための形式化Pultimate Proxies
• Authors: Hasib Aslam, Muhammad Ali Chattha, Muhammad Taha Mukhtar, Muhammad Imran Malik, Andreas Dengel, Sheraz Ahmed,
• Abstract要約: TCAV (Testing with Concept Activation Vectors) は、解釈可能な方法である。 TCAVは計算オーバーヘッド、TCAVスコアの層間不一致、統計的不安定さに悩まされている。 E-TCAVは、TCAVスコアの効率的な近似のためのフレームワークである。
• 参考スコア（独自算出の注目度）: 6.496864934809427
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: TCAV (Testing with Concept Activation Vectors) is an interpretability method that assesses the alignment between the internal representations of a trained neural network and human-understandable, high-level concepts. Though effective, TCAV suffers from significant computational overhead, inter-layer disagreement of TCAV scores, and statistical instability. This work takes a step toward addressing these challenges by introducing E-TCAV, a framework for efficient approximation of TCAV scores, which is based on extensive investigation into three key aspects of the TCAV methodology: 1) the effect of latent classifiers on the stability of TCAV scores, 2) the inter-layer agreement of TCAV scores, and 3) the use of the penultimate layer as a fast proxy for earlier layers for TCAV computation. To ensure a solid foundation for E-TCAV, we conduct extensive evaluations across four different architectures and five datasets, encompassing problems from both computer vision and natural language domains. Our results show that the layers in the final block of the neural network strongly agree with the penultimate layer in terms of the TCAV scores, and the commonly observed variance of the TCAV scores can be attributed to the choice of the latent classifier. Leveraging this inter-layer agreement and the degeneracy of directional sensitivities at the penultimate layer, E-TCAV guarantees linearly scaling speed-ups with respect to the network's size and the number of evaluation samples, marking a step towards efficient model debugging and real-time concept-guided training.
• Abstract（参考訳）: TCAV(Testing with Concept Activation Vectors)は、トレーニングされたニューラルネットワークの内部表現と人間の理解可能な高レベルな概念とのアライメントを評価する、解釈可能性の手法である。 有効ではあるが、TCAVは計算上のオーバーヘッド、TCAVスコアの層間不一致、統計的不安定さに悩まされている。 この研究は、TCAV方法論の3つの重要な側面を広範囲に調査したTCAVスコアを効率的に近似するフレームワークであるE-TCAVを導入することで、これらの課題に対処するための一歩を踏み出した。 1)TCAVスコアの安定性に及ぼす潜時分類器の影響 2)TCAVスコアの層間合意、及び 3)TCAV計算において,初期レイヤの高速プロキシとしてペナルティ層が使用される。 E-TCAVの確固たる基盤を確保するため、4つの異なるアーキテクチャと5つのデータセットにまたがって広範な評価を行い、コンピュータビジョンと自然言語ドメインの両方の問題を含む。 以上の結果から, ニューラルネットワークの最終ブロックの層は, TCAVスコアの観点からは最下位層と強く一致しており, 一般に観測されるTCAVスコアのばらつきは潜在型分類器の選択によるものと考えられる。 E-TCAVは、この層間合意と、垂直層における方向性の感度の縮退を利用して、ネットワークのサイズと評価サンプルの数に関して線形にスピードアップを保証し、効率的なモデルデバッグとリアルタイムな概念誘導トレーニングへの一歩を踏み出した。

関連論文リスト

• GCAV: A Global Concept Activation Vector Framework for Cross-Layer Consistency in Interpretability [41.6338086518055]
  概念活性化ベクトル(CAV)は、人間の定義した概念に対する感度を定量化することによって、ディープニューラルネットワークを解釈するための強力なアプローチを提供する。 異なる層で独立に計算されると、CAVは不整合を示すことが多く、層間比較は信頼性が低い。 我々は,CAVを単一の意味的に一貫した表現に統一する新しいフレームワークであるGlobal Concept Activation Vector (GCAV)を提案する。
  論文  参考訳（メタデータ） (2025-08-28T20:29:05Z)
• Channel Fingerprint Construction for Massive MIMO: A Deep Conditional Generative Approach [65.47969413708344]
  CF双生児の概念を導入し、条件付き生成拡散モデル(CGDM)を設計する。 本研究では, 粗粒CFに条件付き観測された細粒CFの対数分布に対するエビデンスローバウンド(ELBO)を導出するために, 変分推論手法を用いる。 提案手法は, ベースラインと比較して, 復元性能が著しく向上していることを示す。
  論文  参考訳（メタデータ） (2025-05-12T01:36:06Z)
• Cyber Attacks Prevention Towards Prosumer-based EV Charging Stations: An Edge-assisted Federated Prototype Knowledge Distillation Approach [25.244719630000407]
  本稿では,1)ネットワークトラフィック(NT)データに対するサイバーアタック検出と,2)サイバーアタック介入の2つの側面について述べる。 本稿では,各クライアントを専用ローカルエッジサーバ(DLES)上に配置するエッジ支援型プロトタイプ知識蒸留(E-FPKD)手法を提案する。 実験分析により、提案したE-FPKDは、NSL-KDD、UNSW-NB15、IoTID20データセット上で最大のODCを達成可能であることが示された。
  論文  参考訳（メタデータ） (2024-10-17T06:31:55Z)
• The Pitfalls and Promise of Conformal Inference Under Adversarial Attacks [90.52808174102157]
  医療画像や自律運転などの安全クリティカルな応用においては、高い敵の堅牢性を維持し、潜在的敵の攻撃から保護することが不可欠である。 敵対的に訓練されたモデルに固有の不確実性に関して、注目すべき知識ギャップが残っている。 本研究では,共形予測(CP)の性能を標準対向攻撃の文脈で検証することにより,ディープラーニングモデルの不確実性について検討する。
  論文  参考訳（メタデータ） (2024-05-14T18:05:19Z)
• Once for Both: Single Stage of Importance and Sparsity Search for Vision Transformer Compression [63.23578860867408]
  重要度評価と疎度評価を1段階にまとめる方法について検討する。 重要度と疎度の両方を同時に評価するコスト効率の高いOFBを提案する。 実験により、OFBは最先端のサーチベースおよびプルーニングベース手法よりも優れた圧縮性能が得られることが示された。
  論文  参考訳（メタデータ） (2024-03-23T13:22:36Z)
• Diffusion-Based Particle-DETR for BEV Perception [94.88305708174796]
  Bird-Eye-View (BEV)は、自律走行車(AV)における視覚知覚のための最も広く使われているシーンの1つである。 近年の拡散法は、視覚知覚のための不確実性モデリングに有望なアプローチを提供するが、BEVの広い範囲において、小さな物体を効果的に検出することができない。 本稿では,BEVにおける拡散パラダイムと最先端の3Dオブジェクト検出器を組み合わせることで,この問題に対処する。
  論文  参考訳（メタデータ） (2023-12-18T09:52:14Z)
• You Only Train Once: A Unified Framework for Both Full-Reference and No-Reference Image Quality Assessment [45.62136459502005]
  本稿では,完全な参照 (FR) と非参照 (NR) IQA を行うネットワークを提案する。 まず、入力画像から多レベル特徴を抽出するためにエンコーダを用いる。 FRおよびNR入力のユニバーサルアダプタとして階層的注意(HA)モジュールを提案する。 エンコーダの浅い層と深い層との間の特徴相関を調べるために, セマンティック・ディストーション・アウェア (SDA) モジュールを提案する。
  論文  参考訳（メタデータ） (2023-10-14T11:03:04Z)
• Multi-Agent Reinforcement Learning in NOMA-aided UAV Networks for Cellular Offloading [59.32570888309133]
  複数の無人航空機(UAV)によるセルローディングのための新しい枠組みの提案 非直交多重アクセス(NOMA)技術は、無線ネットワークのスペクトル効率をさらに向上するために、各UAVに採用されている。 相互深いQ-network (MDQN) アルゴリズムは,UAVの最適3次元軌道と電力配分を共同で決定するために提案される。
  論文  参考訳（メタデータ） (2020-10-18T20:22:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。