論文の概要: Few-class Fidelity: Evaluating Explanations of Real-conditions CNN classifiers with Optimized Perturbations

• arxiv url: http://arxiv.org/abs/2606.28391v1
• Date: Tue, 23 Jun 2026 17:26:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.54238
• Title: Few-class Fidelity: Evaluating Explanations of Real-conditions CNN classifiers with Optimized Perturbations
• Title（参考訳）: 少数のクラス忠実度:最適摂動を用いた実条件CNN分類器の記述評価
• Abstract要約: 本稿では、実条件アプリケーションに焦点をあてて、フィデリティに基づくXAIメトリクスのバリエーションを提案する。 新しいCNNモデルのトレーニングを検証するために、ドメイン、データキュレーション、XAIソリューションの選択の複雑な相関を強調します。
• 参考スコア（独自算出の注目度）: 1.6682715542079578
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: The wide use of Convolutional Neural Networks (CNN) in numerous domains and real-world classification applications is justified by their high precision and automation speed, helping users concentrate on higher-expertise tasks. To better understand the models and avoid bias during deployment, eXplainable Artificial Intelligence (XAI) techniques can be used after training. But as the list of XAI solutions expand, comparisons between them diverge, and consensus over their evaluation cannot be reached. This paper proposes a variation of Fidelity-based XAI metrics, with a focus on real-conditions applications, where the number of classes is often low. The approach generates in-distribution, uncertainty-provoking perturbations, to ensure proper measurement of the XAI methods faithfulness. As demonstration of the evaluation framework usefulness, it is compared with human-centric object localization and segmentation metrics. Once applied to both medical and natural imaging applications, it highlights the intricate correlation between domain, data curation, and XAI solution choices in order to validate training of a new CNN model.
• Abstract（参考訳）: 多数のドメインや現実世界の分類アプリケーションにおける畳み込みニューラルネットワーク(CNN)の広範な使用は、その高精度と自動化のスピードによって正当化され、より高度なタスクに集中するのに役立つ。 モデルの理解を深め、デプロイメント中のバイアスを回避するために、eXplainable Artificial Intelligence(XAI)技術はトレーニング後に使用することができる。 しかし、XAIソリューションのリストが拡大するにつれて、それらの比較は多様化し、評価に関するコンセンサスには到達できない。 本稿では,クラス数が少ない実条件のアプリケーションに焦点をあてた,忠実度に基づくXAIメトリクスのバリエーションを提案する。 この手法は、XAI手法の忠実度を適切に測定するために、不確実性を引き起こし、不確実性を引き起こす摂動を生成する。 評価フレームワークの有用性の実証として、人間中心のオブジェクトの局所化とセグメンテーションのメトリクスと比較する。 医学および自然画像の両方に適用すると、新しいCNNモデルのトレーニングを検証するために、ドメイン、データキュレーション、XAIソリューションの選択の複雑な相関が強調される。

関連論文リスト

• Topology-Aware Modeling for Unsupervised Simulation-to-Reality Point Cloud Recognition [63.55828203989405]
  我々はオブジェクトポイントクラウド上でSim2Real UDAのための新しいTopology-Aware Modeling (TAM)フレームワークを紹介する。 提案手法は,低レベルの高周波3次元構造を特徴とするグローバル空間トポロジを利用して,領域間隙を緩和する。 本稿では,クロスドメイン・コントラスト学習と自己学習を組み合わせた高度な自己学習戦略を提案する。
  論文  参考訳（メタデータ） (2025-06-26T11:53:59Z)
• Soft-CAM: Making black box models self-explainable for high-stakes decisions [6.635611625764804]
  畳み込みニューラルネットワーク(CNN)は医学のような高度な応用に広く使われており、しばしば人間のパフォーマンスを上回っている。 ほとんどの説明法は、既に訓練されたブラックボックスモデルの意思決定プロセスを近似して、ポストホックの帰属に依存している。 我々は、標準CNNアーキテクチャを本質的に解釈可能なものにする、単純で効果的なアプローチであるSoftCAMを紹介する。
  論文  参考訳（メタデータ） (2025-05-23T11:15:21Z)
• Continuous Visual Autoregressive Generation via Score Maximization [69.67438563485887]
  本稿では,ベクトル量子化なしで直接視覚的自己回帰生成を可能にする連続VARフレームワークを提案する。 このフレームワークの中で必要なのは、厳密な適切なスコアを選択し、最適化のトレーニング目標として設定することだけです。
  論文  参考訳（メタデータ） (2025-05-12T17:58:14Z)
• CASC-AI: Consensus-aware Self-corrective Learning for Noise Cell Segmentation [8.50335568530725]
  高解像度ギガピクセル全スライド画像における多クラス細胞セグメンテーションは様々な臨床応用に不可欠である。 近年の取り組みは、医療の専門知識を持たないレイアノテータを巻き込むことによって、このプロセスを民主化している。 本稿では,Consensus Matrixを利用して学習プロセスをガイドする,コンセンサス対応の自己修正型AIエージェントを提案する。
  論文  参考訳（メタデータ） (2025-02-11T06:58:50Z)
• Multi-Modal Prompt Learning on Blind Image Quality Assessment [65.0676908930946]
  画像品質評価(IQA)モデルは意味情報から大きな恩恵を受け、異なる種類のオブジェクトを明瞭に扱うことができる。 十分な注釈付きデータが不足している従来の手法では、セマンティックな認識を得るために、CLIPイメージテキスト事前学習モデルをバックボーンとして使用していた。 近年のアプローチでは、このミスマッチに即時技術を使って対処する試みがあるが、これらの解決策には欠点がある。 本稿では、IQAのための革新的なマルチモーダルプロンプトベースの手法を提案する。
  論文  参考訳（メタデータ） (2024-04-23T11:45:32Z)
• DIMAT: Decentralized Iterative Merging-And-Training for Deep Learning Models [21.85879890198875]
  Decentralized Iterative Merging-And-Training (DIMAT) は、新しい分散深層学習アルゴリズムである。 DIMATは, 独立・同一分散(IID)および非IIDデータを用いて, 通信オーバヘッドの低減を図ることにより, より高速かつ高い初期ゲインが得られることを示す。 このDIMATパラダイムは未来の分散学習に新たな機会を与え、疎結合な通信計算で現実世界への適応性を高める。
  論文  参考訳（メタデータ） (2024-04-11T18:34:29Z)
• Activate and Reject: Towards Safe Domain Generalization under Category Shift [71.95548187205736]
  カテゴリーシフト(DGCS)下における領域一般化の実践的問題について検討する。 未知のクラスサンプルを同時に検出し、ターゲットドメイン内の既知のクラスサンプルを分類することを目的としている。 従来のDGと比較すると,1)ソースクラスのみを用いたトレーニングにおいて,未知の概念を学習する方法,2)ソーストレーニングされたモデルを未知の環境に適応する方法,の2つの新しい課題に直面している。
  論文  参考訳（メタデータ） (2023-10-07T07:53:12Z)
• Extending CAM-based XAI methods for Remote Sensing Imagery Segmentation [7.735470452949379]
  我々は,モデルの不確実性を測定するために,「エントロピー」に基づく新しいXAI評価手法とメトリクスを導入する。 本研究では,Entropyを用いて,対象クラス内の画素のセグメンテーションにおけるモデル不確実性を監視することがより適切であることを示す。
  論文  参考訳（メタデータ） (2023-10-03T07:01:23Z)
• Robust-by-Design Classification via Unitary-Gradient Neural Networks [66.17379946402859]
  安全クリティカルシステムにおけるニューラルネットワークの使用には、敵攻撃が存在するため、安全で堅牢なモデルが必要である。 任意の入力 x の最小逆摂動を知るか、または同値に、分類境界から x の距離は、分類ロバスト性を評価し、証明可能な予測を与える。 Unitary-Gradient Neural Networkと呼ばれる新しいネットワークアーキテクチャが紹介される。 実験結果から,提案アーキテクチャは符号付き距離を近似し,単一の推論コストでxのオンライン分類が可能であることがわかった。
  論文  参考訳（メタデータ） (2022-09-09T13:34:51Z)
• Domain Adaptation Principal Component Analysis: base linear method for learning with out-of-distribution data [55.41644538483948]
  ドメイン適応は現代の機械学習において一般的なパラダイムである。 ドメイン適応主成分分析(DAPCA)という手法を提案する。 DAPCAは、領域適応タスクの解決に有用な線形化データ表現を見つける。
  論文  参考訳（メタデータ） (2022-08-28T21:10:56Z)
• Neural Network Attribution Methods for Problems in Geoscience: A Novel Synthetic Benchmark Dataset [0.05156484100374058]
  我々は、地質科学における回帰問題に対するアトリビューションベンチマークデータセットを生成するフレームワークを提供する。 シミュレーションの基盤となる機能を学ぶために、完全に接続されたネットワークを訓練する。 異なるXAI手法から得られた推定帰属ヒートマップと基底真理を比較して,特定のXAI手法が良好に機能する事例を同定する。
  論文  参考訳（メタデータ） (2021-03-18T03:39:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。