論文の概要: Operational Abstractions of Neural Network Concepts via Topological Representations

• arxiv url: http://arxiv.org/abs/2610.05017v1
• Date: Sun, 04 Oct 2026 07:22:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-11 06:58:58.32815
• Title: Operational Abstractions of Neural Network Concepts via Topological Representations
• Title（参考訳）: トポロジカル表現によるニューラルネットワーク概念の操作的抽象化
• Abstract要約: トポロジカル概念表現(トポロジカル概念表現、TCR)は、学習された表現とそれらの関係に符号化された概念を特徴付けるポストホックな操作抽象化である。 我々はTCRを用いて既存の消去手法の事前処理ステップとして概念をアンタングルし、最小グループ精度を21.89倍に向上させる。 さらにTCRを用いて、教師モデルから学生モデルへ概念を伝達し、最大5.54まで概念回復性を向上させるとともに、競争力のあるテストトップ1の精度を向上または維持する。
• 参考スコア（独自算出の注目度）: 9.054847466972328
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Concept-based methods provide a semantic level for interpreting and manipulating learned representations, but existing editing approaches are typically specialized to particular interventions and do not provide a common and editable representation of concept organization. To achieve this, we introduce Topological Concept Representations (TCR), a post-hoc operational abstraction that jointly characterizes the concepts encoded in a learned representation and their relationships. TCR constructs an intermediate concept space from concept recoverability and interaction scores, and compactly encodes its organization through topology. Interventions are expressed through modifications of this abstraction that are propagated back to the underlying learned representation. This allows different concept-level operations to share the same optimization framework and separates the desired concept organization from the mechanism to achieve it. We establish stability and reparameterization-invariance properties of TCR and its connections to existing concept-editing formulations. We use TCR to disentangle concepts as a preprocessing step for existing erasure methods, improving worst-group accuracy by 21.89 on average at comparable concept leakage. We further use TCR to transfer concepts from teacher to student models, improving concept recoverability by up to 5.54 while also improving or maintaining competitive test top-1 accuracy.
• Abstract（参考訳）: 概念に基づく手法は、学習した表現を解釈し操作するための意味レベルを提供するが、既存の編集アプローチは通常、特定の介入に特化しており、概念組織の共通かつ編集可能な表現を提供しない。 そこで本研究では,TCR(Topological Concept Representation, トポロジカル概念表現)を紹介した。 TCRは概念回復性と相互作用スコアから中間概念空間を構築し、トポロジーを通じてその組織をコンパクトにエンコードする。 介入は、基礎となる学習表現に伝達されるこの抽象の修正によって表現される。 これにより、異なる概念レベルのオペレーションが同じ最適化フレームワークを共有し、望まれる概念組織とそれを実現するメカニズムを分離できる。 我々は、TCRの安定性と再パラメータ化不変性を確立し、既存の概念編集式への接続を確立する。 我々はTCRを用いて既存の消去手法の事前処理ステップとして概念をアンタングルし、最小グループ精度を21.89倍に向上させる。 さらにTCRを用いて、教師モデルから学生モデルへ概念を伝達し、最大5.54まで概念回復性を向上させるとともに、競争力のあるテストトップ1の精度を向上または維持する。

関連論文リスト

• Disentanglement-Based Equivariant Learning for Compositional VQA [51.109034846842405]
  本稿では,合成VQAのための新しいディスタングルメント・エクイブアリアント学習フレームワークを提案する。 我々は、再エンコードフレームワーク内で視覚的およびテキスト的入力から導かれる概念をアンタングル化するために因果性にインスパイアされた介入を用いる。
  論文  参考訳（メタデータ） (2026-06-01T12:28:37Z)
• ConceptSeg-R1: Segment Any Concept via Meta-Reinforcement Learning [134.61875033137514]
  プロンプト可能なセグメンテーションの最近の進歩は、視覚知覚をオブジェクトレベルのローカライゼーションから概念レベルの理解へとシフトさせてきた。 我々は文脈非依存(CI)、文脈依存(CD)、文脈推論(CR)の概念からなる3段階の分類によって概念セグメンテーションを定式化する。 本稿では,概念セグメンテーションをルール誘発概念基盤として再構成する統合フレームワークであるConceptSeg-R1を提案する。
  論文  参考訳（メタデータ） (2026-05-19T18:35:38Z)
• SCoCCA: Multi-modal Sparse Concept Decomposition via Canonical Correlation Analysis [7.4746628878102195]
  CCA(Concept CCA)は,解釈可能な概念分解を実現しつつ,クロスモーダルな埋め込みを整列するフレームワークである。 我々はスパースの概念CCA(ScoCCA)を提案する。 提案手法は, 概念に基づくマルチモーダル埋め込みの説明を一般化し, 概念発見における最先端の性能向上を促進する。
  論文  参考訳（メタデータ） (2026-03-14T10:45:59Z)
• Rethinking Concept Bottleneck Models: From Pitfalls to Solutions [53.84388497227224]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念の基底予測である。 CBM-Suiteはこれらの課題に対処するための方法論的なフレームワークである。
  論文  参考訳（メタデータ） (2026-03-05T19:37:49Z)
• Interpretable Few-Shot Image Classification via Prototypical Concept-Guided Mixture of LoRA Experts [79.18608192761512]
  自己説明可能なモデル(SEM)は、視覚認識プロセスをより解釈可能なものにするために、プロトタイプ概念学習(PCL)に依存している。 パラメトリック不均衡と表現の不整合という2つの重要な課題を緩和するFew-Shotプロトタイプ概念分類フレームワークを提案する。 我々のアプローチは、既存のSEMを顕著な差で常に上回っており、5-way 5-shot分類では4.2%-8.7%の相対的な利得がある。
  論文  参考訳（メタデータ） (2025-06-05T06:39:43Z)
• Concept Layers: Enhancing Interpretability and Intervenability via LLM Conceptualization [2.163881720692685]
  本稿では,概念層をアーキテクチャに組み込むことにより,解釈可能性とインターベンタビリティを既存モデルに組み込む新しい手法を提案する。 我々のアプローチは、モデルの内部ベクトル表現を、再構成してモデルにフィードバックする前に、概念的で説明可能なベクトル空間に投影する。 複数のタスクにまたがるCLを評価し、本来のモデルの性能と合意を維持しつつ、意味のある介入を可能にしていることを示す。
  論文  参考訳（メタデータ） (2025-02-19T11:10:19Z)
• Improving Intervention Efficacy via Concept Realignment in Concept Bottleneck Models [57.86303579812877]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念に基づいて、解釈可能なモデル決定を可能にする画像分類である。 既存のアプローチは、強いパフォーマンスを達成するために、画像ごとに多数の人間の介入を必要とすることが多い。 本稿では,概念関係を利用した学習型概念認識介入モジュールについて紹介する。
  論文  参考訳（メタデータ） (2024-05-02T17:59:01Z)
• A Self-explaining Neural Architecture for Generalizable Concept Learning [29.932706137805713]
  現在,SOTA の概念学習アプローチは,概念の忠実さの欠如と,概念の相互運用の限界という2つの大きな問題に悩まされている。 ドメイン間の概念学習のための新しい自己説明型アーキテクチャを提案する。 提案手法は,現在広く使われている4つの実世界のデータセットに対するSOTA概念学習手法に対して有効であることを示す。
  論文  参考訳（メタデータ） (2024-05-01T06:50:18Z)
• Interpretable Neural-Symbolic Concept Reasoning [7.1904050674791185]
  概念に基づくモデルは、人間の理解可能な概念のセットに基づいてタスクを学習することでこの問題に対処することを目的としている。 本稿では,概念埋め込みに基づく最初の解釈可能な概念ベースモデルであるDeep Concept Reasoner (DCR)を提案する。
  論文  参考訳（メタデータ） (2023-04-27T09:58:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。