論文の概要: PiPS: Post-Hoc Prototypical Explanations for Interpretable Semantic Segmentation

• arxiv url: http://arxiv.org/abs/2609.16909v1
• Date: Tue, 15 Sep 2026 09:40:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 14:56:08.435989
• Title: PiPS: Post-Hoc Prototypical Explanations for Interpretable Semantic Segmentation
• Title（参考訳）: PiPS : 解釈可能なセマンティックセグメンテーションのためのポストホックの原型的説明法
• Abstract要約: セマンティックセグメンテーションモデルのための説明を生成するための,最初の完全ポストホック解であるPiPS(Post-hoc Interpretable Prototypeal)を提案する。 本手法は,任意の事前学習ネットワークから直感的かつ空間的局所的な説明を,修正や微調整を伴わずに抽出することができる。 このアプローチは、高度なコンピュータビジョンタスクに透過的なシステムを安全かつ費用効率で配置するための新たな道を開く。
• 参考スコア（独自算出の注目度）: 1.4649457503983967
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: With the increasing deployment of deep neural networks in critical systems, such as medical diagnostics and autonomous vehicles, ensuring their interpretability is crucial to building trust in decision-making systems. In the field of explainable artificial intelligence, prototype-based reasoning has gained particular popularity, as it mimics human cognitive processes by explaining model decisions based on visual similarity under the looks like this paradigm. While this paradigm has been thoroughly investigated in the context of global image classification, the interpretability of dense predictions, particularly semantic segmentation, remains largely unexplored despite its immense importance in tasks requiring precise object localization. Existing prototype-based interpretable segmentation models rely on ante-hoc architectures, which entails significant limitations because they require costly training from scratch and modifications to the network structure, ultimately leading to a noticeable drop in predictive performance compared to standard black-box models. To address this issue, we propose PiPS (Post-hoc interpretable Prototypical Segmentation), the first fully post-hoc solution for generating prototypical explanations for semantic segmentation models. Our method enables the extraction of intuitive, spatially localized explanations from any pre-trained network without modification or fine-tuning, thereby preserving 100% of the model's original predictive performance. This approach opens a new avenue for the safe and cost-effective deployment of transparent systems in advanced computer vision tasks. Codebase available at https://github.com/gmum/PIPS.
• Abstract（参考訳）: 医療診断や自動運転車といった重要なシステムへのディープニューラルネットワークの展開の増加により、その解釈可能性を保証することは、意思決定システムにおける信頼を構築する上で不可欠である。 説明可能な人工知能の分野では、プロトタイプベースの推論が特に人気を集めており、このようなパラダイムの下で視覚的類似性に基づくモデル決定を説明することによって、人間の認知過程を模倣している。 このパラダイムは、グローバルな画像分類の文脈で徹底的に研究されてきたが、密接な予測、特にセマンティックセグメンテーションの解釈可能性はほとんど解明されていない。 既存のプロトタイプベースの解釈可能なセグメンテーションモデルは、標準のブラックボックスモデルに比べて予測性能が著しく低下し、スクラッチからコストのかかるトレーニングとネットワーク構造への修正を必要とするため、アンテホックアーキテクチャに依存している。 この問題に対処するために,意味的セグメンテーションモデルのための原型説明を生成するための,最初の完全なポストホック解であるPiPS(Post-hoc Interpretable Prototypeal Segmentation)を提案する。 提案手法により,事前学習したネットワークから直感的かつ空間的局所的な説明を修正や微調整なしに抽出し,モデル本来の予測性能の100%を保存できる。 このアプローチは、高度なコンピュータビジョンタスクに透過的なシステムを安全かつ費用効率で配置するための新たな道を開く。 Codebaseはhttps://github.com/gmum/PIPSで入手できる。

関連論文リスト

• Interpreting Object-Dependent Concept Brittleness in Text-to-Image Diffusion Models [105.53190946111586]
  我々はこの現象をオブジェクト依存概念の脆さと呼ぶ。 これらの障害を監査し、最小限に修正する、解釈可能性指向のフレームワークを提案する。 複数の拡散バックボーンにまたがるスタイルと属性の故障事例について,提案手法の評価を行った。
  論文  参考訳（メタデータ） (2026-09-09T09:07:40Z)
• Interpretable Anomaly Detection in Encrypted Traffic Using SHAP with Machine Learning Models [0.0]
  本研究の目的は,暗号化されたネットワークトラフィックにおける異常検出のための解釈可能な機械学習ベースのフレームワークを開発することである。 モデルはトレーニングされ、3つのベンチマークで暗号化されたトラフィックデータセットで評価される。 SHAPビジュアライゼーションは、異常予測に寄与する最も影響力のあるトラフィック特徴を明らかにした。
  論文  参考訳（メタデータ） (2025-05-22T05:50:39Z)
• Interpretable Image Classification via Non-parametric Part Prototype Learning [14.390730075612248]
  解釈可能な意思決定プロセスで画像を分類することは、コンピュータビジョンにおける長年の問題である。 近年、自己説明可能なニューラルネットワークのアプローチとして、プロトタイプのPart Networksが注目を集めている。 本稿では,各クラスに対して意味的に固有のオブジェクト部品の集合を学習する,部分的解釈可能な画像分類のためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-03-13T10:46:53Z)
• Mechanistic understanding and validation of large AI models with SemanticLens [13.712668314238082]
  航空機のような人間工学的なシステムとは異なり、AIモデルの内部動作はほとんど不透明である。 本稿では、コンポーネントによって符号化された隠れた知識をマッピングするニューラルネットワークの普遍的説明法であるSemanticLensを紹介する。
  論文  参考訳（メタデータ） (2025-01-09T17:47:34Z)
• DCBM: Data-Efficient Visual Concept Bottleneck Models [13.36057999450821]
  概念ボトルネックモデル(CBM)は、人間の理解可能な概念をベースとした予測によって、ニューラルネットワークの解釈可能性を高める。 我々は,解釈可能性を維持しつつ,概念生成時の大規模なサンプルサイズの必要性を低減できるデータ効率のCBMを提案する。
  論文  参考訳（メタデータ） (2024-12-16T09:04:58Z)
• Language Model Meets Prototypes: Towards Interpretable Text Classification Models through Prototypical Networks [1.1711824752079485]
  論文は、LMをエンコーダとして使用する際に本質的に解釈可能なモデルを開発することに焦点を当てている。 ホワイトボックスのマルチヘッドグラフアテンションに基づくプロトタイプネットワークを開発した。 私は、解釈可能なグラフニューラルネットワークを再設計するために、コントラスト学習による注意ベースのプロトタイプネットワークの拡張に取り組んでいます。
  論文  参考訳（メタデータ） (2024-12-04T22:59:35Z)
• Orthogonal Subspace Decomposition for Generalizable AI-Generated Image Detection [58.87142367781417]
  航法的に訓練された検出器は、限定的で単調な偽のパターンに過度に適合する傾向にあり、特徴空間は高度に制約され、低ランクになる。 潜在的な治療法の1つは、ビジョンファウンデーションモデルに事前訓練された知識を取り入れて、機能領域を広げることである。 主要なコンポーネントを凍結し、残ったコンポーネントのみを適用することで、フェイクパターンを学習しながら、トレーニング済みの知識を保存します。
  論文  参考訳（メタデータ） (2024-11-23T19:10:32Z)
• Neural Clustering based Visual Representation Learning [61.72646814537163]
  クラスタリングは、機械学習とデータ分析における最も古典的なアプローチの1つである。 本稿では,特徴抽出をデータから代表者を選択するプロセスとみなすクラスタリング(FEC)による特徴抽出を提案する。 FECは、個々のクラスタにピクセルをグループ化して抽象的な代表を配置し、現在の代表とピクセルの深い特徴を更新する。
  論文  参考訳（メタデータ） (2024-03-26T06:04:50Z)
• Concept-Centric Transformers: Enhancing Model Interpretability through Object-Centric Concept Learning within a Shared Global Workspace [1.6574413179773757]
  概念中心変換器は、解釈可能性のための共有グローバルワークスペースの単純かつ効果的な構成である。 本モデルでは,すべての問題に対して,すべてのベースラインの分類精度が向上することを示す。
  論文  参考訳（メタデータ） (2023-05-25T06:37:39Z)
• ALSO: Automotive Lidar Self-supervision by Occupancy estimation [70.70557577874155]
  本稿では,ポイントクラウド上で動作している深層知覚モデルのバックボーンを事前学習するための自己教師型手法を提案する。 中心となる考え方は、3Dポイントがサンプリングされる表面の再構成であるプリテキストタスクでモデルをトレーニングすることである。 直感的には、もしネットワークがわずかな入力ポイントのみを考慮し、シーン表面を再構築できるなら、おそらく意味情報の断片をキャプチャする。
  論文  参考訳（メタデータ） (2022-12-12T13:10:19Z)
• Self-Ensembling GAN for Cross-Domain Semantic Segmentation [107.27377745720243]
  本稿では,セマンティックセグメンテーションのためのクロスドメインデータを利用した自己理解型生成逆数ネットワーク(SE-GAN)を提案する。 SE-GANでは、教師ネットワークと学生ネットワークは、意味分節マップを生成するための自己組織化モデルを構成する。 その単純さにもかかわらず、SE-GANは敵の訓練性能を大幅に向上させ、モデルの安定性を高めることができる。
  論文  参考訳（メタデータ） (2021-12-15T09:50:25Z)
• Generative Counterfactuals for Neural Networks via Attribute-Informed Perturbation [51.29486247405601]
  AIP(Attribute-Informed Perturbation)の提案により,生データインスタンスの反事実を生成するフレームワークを設計する。 異なる属性を条件とした生成モデルを利用することで、所望のラベルとの反事実を効果的かつ効率的に得ることができる。 実世界のテキストや画像に対する実験結果から, 設計したフレームワークの有効性, サンプル品質, および効率が示された。
  論文  参考訳（メタデータ） (2021-01-18T08:37:13Z)
• DoLFIn: Distributions over Latent Features for Interpretability [8.807587076209568]
  ニューラルネットワークモデルにおける解釈可能性を実現するための新しい戦略を提案する。 我々のアプローチは、確率を中心量として使う成功に基づいている。 DoLFInは解釈可能なソリューションを提供するだけでなく、古典的なCNNやBiLSTMテキスト分類よりも若干優れています。
  論文  参考訳（メタデータ） (2020-11-10T18:32:53Z)
• Towards Efficient Scene Understanding via Squeeze Reasoning [71.1139549949694]
  我々はSqueeze Reasoningと呼ばれる新しいフレームワークを提案する。 空間地図上の情報を伝播するのではなく、まず入力特徴をチャネルワイドなグローバルベクトルに絞ることを学ぶ。 提案手法はエンドツーエンドのトレーニングブロックとしてモジュール化可能であり,既存のネットワークに簡単に接続可能であることを示す。
  論文  参考訳（メタデータ） (2020-11-06T12:17:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。