論文の概要: Geo-Spatial Concept Probing of Large Language Models: Abstraction, Compositionality, and Grounding

• arxiv url: http://arxiv.org/abs/2608.07353v1
• Date: Fri, 07 Aug 2026 15:46:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-10 16:21:25.543499
• Title: Geo-Spatial Concept Probing of Large Language Models: Abstraction, Compositionality, and Grounding
• Title（参考訳）: 大規模言語モデルの地理空間的概念:抽象性,構成性,接地性
• Abstract要約: 大きな言語モデル(LLM)は、依然として真の概念理解に苦戦しています。 我々は,方向,距離,トポロジ,それらの構成といった空間的概念を対象とする,概念中心のベンチマークを構築した。 我々は、モデルスケールと設計が概念的理解にどのように影響するかを分析するために、複数のLLMアーキテクチャとトレーニング体制にわたる広範な実験を行う。
• 参考スコア（独自算出の注目度）: 1.6658912537684456
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Understanding concepts is fundamental to generalization. Despite their impressive performance on a wide range of tasks, Large Language Models (LLMs) still struggle with genuine concept understanding. Prior work has evaluated conceptual understanding in LLMs using natural-language benchmarks or narrowly scoped synthetic tasks, but these settings often conflate multiple skills or lack precise control over the underlying concepts and their properties. To support controlled probing of concepts in LLMs, we design tests on their core properties: abstraction, compositionality, and groundness. We set up a concept-centric benchmark, targeting spatial concepts such as direction, distance, topology, and their compositions, and use question answering tasks serving as a proxy. We conduct extensive experiments across multiple LLM architectures and training regimes to analyze how model scale and design impact conceptual understanding. The results reveal clear limitations in current LLMs and provide insights into the factors shaping their ability to acquire and compose structured concepts. Our findings shed light on how concept-based LLMs can be redesigned for improved information access and knowledge management. The code will be available at https://github.com/rd20karim/concept-probing.
• Abstract（参考訳）: 概念を理解することは一般化の基本である。 幅広いタスクにおける印象的なパフォーマンスにもかかわらず、Large Language Models (LLM) は依然として真の概念理解に苦戦している。 従来の研究は、自然言語ベンチマークや狭い範囲の合成タスクを用いて、LLMの概念的理解を評価してきたが、これらの設定は、複数のスキルを分割したり、基礎となる概念やそれらの特性を正確に制御できないことが多い。 LLMにおける概念の制御的探索を支援するため、我々はそれらのコア特性である抽象性、構成性、基底性に関する試験を設計する。 我々は,方向,距離,トポロジ,それらの構成といった空間的概念をターゲットとした,概念中心のベンチマークを作成した。 我々は、モデルスケールと設計が概念的理解にどのように影響するかを分析するために、複数のLLMアーキテクチャとトレーニング体制にわたる広範な実験を行う。 その結果、現在のLLMにおける明らかな限界を明らかにし、構造化概念の獲得と構成の能力を形成する要因についての洞察を提供する。 我々の研究結果は、情報アクセスと知識管理を改善するために、概念ベースのLLMをどのように再設計できるかを浮き彫りにした。 コードはhttps://github.com/rd20karim/concept-probing.comから入手できる。

関連論文リスト

• Concept Component Analysis: A Principled Approach for Concept Extraction in LLMs [51.378834857406325]
  機械的解釈可能性(Mechanistic interpretability)は、大きな言語モデルからの抽出によって問題を緩和しようとする。 スパースオートエンコーダ (SAE) は、解釈可能・単意味的な概念を抽出するための一般的なアプローチである。 SAEは基本的な理論的曖昧さに悩まされており、LLM表現と人間解釈可能な概念との明確に定義された対応はいまだに不明である。
  論文  参考訳（メタデータ） (2026-01-28T09:27:05Z)
• FaCT: Faithful Concept Traces for Explaining Neural Network Decisions [56.796533084868884]
  ディープネットワークは、幅広いタスクで顕著なパフォーマンスを示しているが、それらの機能に関するグローバルな概念レベルの理解は、依然として重要な課題である。 本稿では,概念に基づく説明の忠実さを強調し,モデル独立な機械的概念説明を用いた新しいモデルを提案する。 私たちの概念はクラス間で共有され、あらゆるレイヤから、ロジットへの貢献と入力-視覚化を忠実にトレースすることができます。
  論文  参考訳（メタデータ） (2025-10-29T13:35:46Z)
• ConceptViz: A Visual Analytics Approach for Exploring Concepts in Large Language Models [18.456737929856125]
  ConceptVizは、大規模言語モデル(LLM)の概念を探索するために設計された視覚分析システムである 本研究では,LLMにおける意味ある概念表現の発見と検証を合理化することで,概念Vizは解釈可能性の研究を強化することを示す。
  論文  参考訳（メタデータ） (2025-09-20T04:57:20Z)
• Probe by Gaming: A Game-based Benchmark for Assessing Conceptual Knowledge in LLMs [17.753896112412942]
  CK-Arenaは、Undercoverゲーム上に開発されたマルチエージェントインタラクションゲームである。 対話的な設定で概念を推論するために,大規模言語モデルの能力を評価するように設計されている。 CK-Arenaは動的環境における概念推論を評価するためのスケーラブルで現実的なベンチマークを提供する。
  論文  参考訳（メタデータ） (2025-05-23T06:06:28Z)
• Reasoning about concepts with LLMs: Inconsistencies abound [13.042591838719936]
  大きな言語モデル(LLM)は、しばしばその知識に重大な矛盾を示し、示す。 特に,多種多種多種多種多様のLCMの軽量化を図り,その性能を著しく向上させることができた。
  論文  参考訳（メタデータ） (2024-05-30T15:38:54Z)
• Exploring Concept Depth: How Large Language Models Acquire Knowledge and Concept at Different Layers? [57.04803703952721]
  大規模言語モデル(LLM)は、幅広いタスクで顕著なパフォーマンスを示している。 しかし、これらのモデルが様々な複雑さのタスクを符号化するメカニズムは、いまだに理解されていない。 概念深さ」の概念を導入し、より複雑な概念が一般的により深い層で得られることを示唆する。
  論文  参考訳（メタデータ） (2024-04-10T14:56:40Z)
• Towards Concept-Aware Large Language Models [56.48016300758356]
  概念は、学習、推論、コミュニケーションなど、様々な人間の認知機能において重要な役割を果たす。 概念を形作り、推論する能力を持つ機械を授けることは、ほとんどない。 本研究では,現代における大規模言語モデル(LLM)が,人間の概念とその構造をどのように捉えているかを分析する。
  論文  参考訳（メタデータ） (2023-11-03T12:19:22Z)
• COPEN: Probing Conceptual Knowledge in Pre-trained Language Models [60.10147136876669]
  概念的知識は人間の認知と知識基盤の基本である。 既存の知識探索作業は、事前訓練された言語モデル(PLM)の事実知識のみに焦点を当て、概念知識を無視する。 PLMが概念的類似性によってエンティティを編成し、概念的特性を学習し、コンテキスト内でエンティティを概念化するかどうかを調査する3つのタスクを設計する。 タスクのために、393のコンセプトをカバーする24kのデータインスタンスを収集、注釈付けします。
  論文  参考訳（メタデータ） (2022-11-08T08:18:06Z)
• Concept Learners for Few-Shot Learning [76.08585517480807]
  本研究では,人間の解釈可能な概念次元に沿って学習することで,一般化能力を向上させるメタ学習手法であるCOMETを提案する。 我々は,細粒度画像分類,文書分類,セルタイプアノテーションなど,さまざまな領域からの少数ショットタスクによるモデルの評価を行った。
  論文  参考訳（メタデータ） (2020-07-14T22:04:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。