論文の概要: Are You Thinking What I am Thinking? : Examining Conceptual Separation in Neural Architectures

• arxiv url: http://arxiv.org/abs/2609.00764v1
• Date: Tue, 01 Sep 2026 05:53:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-02 16:31:36.406849
• Title: Are You Thinking What I am Thinking? : Examining Conceptual Separation in Neural Architectures
• Title（参考訳）: 私が何を考えているか考えるか? : ニューラルアーキテクチャにおける概念分離の検討
• Authors: Jaee Ponde, Roshni Agarwal, Subhashis Banerjee,
• Abstract要約: 畳み込みニューラルネットワーク(CNN)と大規模言語モデル(LLM)の概念的組織について検討する。 CNNでは、慣れ親しんだImageNetの概念は一貫性があり、セマンティックに順序づけられた表現を形成するが、これは目に見えない概念を弱める。 LLMでは、明確に区別されたドメインが適切に分離され、関連するドメインがより深く移動し、あいまいなトピックの区別が崩壊する。 これらの結果は、概念的分離は、出力精度だけでは不可能な構造を明らかにし、モデルがいかに頑健に、そのモデルを識別するよう要求された概念を表すかの有用な診断として役立ちうることを示唆している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Neural networks are increasingly employed to identify both well-defined and ambiguous concepts, yet output-level metrics reveal little about how those concepts are represented internally. Our study asks if these networks exhibit \textit{conceptual separation}: if examples of the same concept form coherent representations, and whether related concepts lie closer together in the representation space. We examine this conceptual organisation in Convolutional Neural Networks (CNNs) and Large Language Models (LLMs) through geometric and distributional analysis of their internal activations. In CNNs, familiar ImageNet concepts form coherent and semantically ordered representations, while this coherence weakens for unseen concepts and suffers within-class domain shift. In LLMs, clearly distinct domains remain well separated, related subdomains move closer together, and the distinction between ambiguous topics collapses at both the mean and covariance level. These results suggest that conceptual separation can reveal structure that output accuracy alone cannot, and may serve as a useful diagnostic of how robustly a model represents the concepts it is asked to identify. Code and data available on \href{https://github.com/JaeeRoshniCapstoneProject/Are-You-Thinking-What-I-m-Thinking-Examining-Conceptual -Separation-in-Neural-Architectures}{GitHub}.
• Abstract（参考訳）: ニューラルネットワークは、明確に定義された概念とあいまいな概念の両方を特定するためにますます使われていますが、アウトプットレベルのメトリクスは、これらの概念が内部的にどのように表現されるのかをほとんど示していません。 これらのネットワークは、同じ概念の例がコヒーレント表現を形成し、関連する概念が表現空間において密接に関連しているかどうかを問う。 本稿では, 畳み込みニューラルネットワーク(CNN)と大言語モデル(LLM)におけるこの概念組織を, 内部アクティベーションの幾何学的, 分布的解析により検討する。 CNNでは、慣れ親しんだImageNetの概念が一貫性とセマンティックに順序づけられた表現を形成する一方、このコヒーレンスは目に見えない概念を弱め、クラス内のドメインシフトに悩まされる。 LLMでは、明確に区別されたドメインが適切に分離され、関連するサブドメインがより深く移動し、平均と共分散のレベルで曖昧なトピックの区別が崩壊する。 これらの結果は、概念的分離が、出力精度だけでは不可能な構造を明らかにし、モデルがいかに頑健に識別される概念を表現するかの有用な診断として役立つことを示唆している。 コードとデータは \href{https://github.com/JaeeRoshniCapstoneProject/Are-You-Thinking-What-I-m-Thinking-Examining-Conceptual -Separation-in-Neural-Architectures}{GitHub} で公開されている。

関連論文リスト

• Insight: Interpretable Semantic Hierarchies in Vision-Language Encoders [52.94006363830628]
  言語対応の視覚基盤モデルは、下流の様々なタスクで強く機能する。 近年の研究では、これらの表現を人間の解釈可能な概念に分解するが、空間的接地が乏しく、画像分類に限られている。 入力画像に人間が解釈可能で空間的に接地した、きめ細かい概念を提供する言語対応概念基盤モデルであるInsightを提案する。
  論文  参考訳（メタデータ） (2026-01-20T09:57:26Z)
• A Geometric Unification of Concept Learning with Concept Cones [58.70836885177496]
  解釈可能性の2つの伝統は、並べて進化してきたが、互いに話すことはめったにない:概念ボトルネックモデル(CBM)とスパースオートエンコーダ(SAE)。 両パラダイムが同じ幾何学的構造をインスタンス化することを示す。 CBMは人間の定義した参照ジオメトリを提供するが、SAEは学習した円錐がCBMをどの程度よく近似するか、あるいは包含しているかによって評価することができる。
  論文  参考訳（メタデータ） (2025-12-08T09:51:46Z)
• FaCT: Faithful Concept Traces for Explaining Neural Network Decisions [56.796533084868884]
  ディープネットワークは、幅広いタスクで顕著なパフォーマンスを示しているが、それらの機能に関するグローバルな概念レベルの理解は、依然として重要な課題である。 本稿では,概念に基づく説明の忠実さを強調し,モデル独立な機械的概念説明を用いた新しいモデルを提案する。 私たちの概念はクラス間で共有され、あらゆるレイヤから、ロジットへの貢献と入力-視覚化を忠実にトレースすることができます。
  論文  参考訳（メタデータ） (2025-10-29T13:35:46Z)
• MindCraft: How Concept Trees Take Shape In Deep Models [15.113541622429084]
  コンセプトツリー上に構築されたMindCraftフレームワークを紹介します。 概念木は階層的な概念の出現を再構築し、共有表現から線形に分離可能な部分空間へと正確に分岐する。 実証的な評価は、概念ツリーが意味的階層を回復し、潜在概念を歪め、複数のドメインにまたがって広く適用可能であることを示している。
  論文  参考訳（メタデータ） (2025-09-26T20:39:52Z)
• Concept-Guided Interpretability via Neural Chunking [64.6429903327095]
  ニューラルネットワークは、トレーニングデータの規則性を反映した生の集団活動のパターンを示す。 神経集団レベルで繰り返しチャンクを抽出する3つの方法を提案する。 私たちの研究は、認知原則と自然主義的データの構造の両方を活用する、解釈可能性の新しい方向性を指し示しています。
  論文  参考訳（メタデータ） (2025-05-16T13:49:43Z)
• Do Concept Bottleneck Models Respect Localities? [14.77558378567965]
  概念に基づく説明可能性法は、人間の理解可能な仲介者を用いて機械学習モデルの説明を生成する。 我々は、概念予測者が「関連」機能を利用して予測を行うかどうかを評価する。 概念予測器は必ずしも明確な概念を区別できないため、実際には多くの概念ベースモデルは局所性を尊重しない。
  論文  参考訳（メタデータ） (2024-01-02T16:05:23Z)
• Learning Hierarchically-Structured Concepts II: Overlapping Concepts, and Networks With Feedback [4.847980206213334]
  Lynch and Mallmann-Trenn (Neural Networks, 2021)では、単純な木構造の概念とフィードフォワード層ネットワークを検討した。 ここでは、モデルを2つの方法で拡張する: 異なる概念を持つ子供間で限られた重複を許容し、ネットワークにフィードバックエッジを含めることを可能にする。 認識のためのアルゴリズムと学習のためのアルゴリズムを記述・分析する。
  論文  参考訳（メタデータ） (2023-04-19T10:11:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。