論文の概要: Concept-Grounded Attention: A Controlled Evaluation of Graph-Injected Attention, Temporal Versioning, and Epistemic Status

• arxiv url: http://arxiv.org/abs/2609.38684v1
• Date: Wed, 30 Sep 2026 00:10:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:26.871259
• Title: Concept-Grounded Attention: A Controlled Evaluation of Graph-Injected Attention, Temporal Versioning, and Epistemic Status
• Title（参考訳）: 概念を包含した注意: グラフ注入注意, 時間的バージョニング, てんかん状態の制御による評価
• Abstract要約: 概念ライフサイクルモデル (CLM) を導入し, 概念を永続的, グラフ的, 時間的にバージョン管理されたエンティティとして表現する。 障害機構ベースラインを用いた制御設定におけるフレームワークの評価を行った。
• 参考スコア（独自算出の注目度）: 42.17843805583916
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Knowledge-intensive language-model systems typically represent external knowledge as text chunks or static graphs, with limited support for concept evolution, point-in-time reasoning, and distinctions between validated and inferred knowledge. We introduce the Concept Lifecycle Model (CLM), which represents concepts as persistent, graph-grounded, temporally versioned entities with explicit provenance and epistemic status, and Concept-Grounded Attention (CGA), which injects concept-graph structure into transformer computation through graph-biased self-attention (Form A) and gated cross-attention over concept nodes (Form B). We evaluate the framework in controlled settings using disabled-mechanism baselines. On 200 MuSiQue and HotpotQA questions with retrieval fixed, concept-graph retrieval recovers explicit multi-hop paths but does not improve evidence recall. Form A appears to steer attention, with 2.76 times more attention on gold than distractor concepts, but the same ratio occurs when Form A is disabled; the learned bias is negligible and no answers change. An identity-preserving Form B improves F1 from 0.188 to 0.221, but control concepts yield 0.213, indicating that most of the gain reflects added capacity. On LongMemEval, explicit temporal representation improves answer accuracy by 13 to 25 points across all tested generators, up to 122B parameters, while simplified CLM version resolution performs similarly to dated serialization because concept identity is not established reliably. On a synthetic source-independence task, protocol-derived epistemic status reduces unsupported assertions from 28% to 0.1% in a fine-tuned small model and from 19-68% to 0-5% in 72-122B models. Overall, the results support making temporal validity and epistemic status explicit, while showing that graph-attention diagnostics are not informative without disabled-mechanism controls.
• Abstract（参考訳）: 知識集約型言語モデルシステムは、典型的には外部知識をテキストチャンクまたは静的グラフとして表現し、概念進化、ポイントインタイム推論、検証された知識と推測された知識の区別を限定的にサポートする。 概念ライフサイクルモデル (CLM) を導入し, 概念を持続的, グラフ的, 時間的にバージョン管理されたエンティティとして, 明確な証明とエピステミックな状態を示す概念ライフサイクルモデル (CLM) と, 概念グラフ構造を, 概念ノード (Form B) 上でのゲートクロスアテンション(gate cross-attention) を通じてトランスフォーマ計算に注入する概念グラフィックアテンション (Concept-Grounded Attention) を導入する。 障害機構ベースラインを用いた制御設定におけるフレームワークの評価を行った。 200 MuSiQue と HotpotQA で検索が固定された質問に対して、概念グラフ検索は明示的なマルチホップパスを復元するが、エビデンスリコールは改善しない。 フォームAは、イントラクタの概念の2.76倍の金に注意を向けているように見えるが、フォームAが無効になると同じ割合が生じる。 恒等保存形式BはF1を0.188から0.221に改善するが、制御概念は0.213となり、利得の大部分が追加容量を反映していることを示す。 LongMemEvalでは、明示的な時間的表現により、すべてのテストされたジェネレータで13から25ポイント、最大122Bのパラメータで回答精度が向上する。 合成ソース依存タスクでは、プロトコル由来のてんかん状態は、細調整された小さなモデルでは28%から0.1%に、72-122Bモデルでは19-68%から0-5%に減少する。 以上の結果から, グラフ注意診断は障害・機械的制御なしでは有意ではないことが明らかとなった。

関連論文リスト

• Interpreting Object-Dependent Concept Brittleness in Text-to-Image Diffusion Models [105.53190946111586]
  我々はこの現象をオブジェクト依存概念の脆さと呼ぶ。 これらの障害を監査し、最小限に修正する、解釈可能性指向のフレームワークを提案する。 複数の拡散バックボーンにまたがるスタイルと属性の故障事例について,提案手法の評価を行った。
  論文  参考訳（メタデータ） (2026-09-09T09:07:40Z)
• Dual Spatial-Temporal Attribution: Architecture-Aligned Post-Hoc Explainability for Recurrent Graph Anomaly Detection [1.8899300124593645]
  動的グラフにおける異常検出のためのポストホックな説明可能性フレームワークであるX-AddGraphを提案する。 検出器は凍結されているため、検出性能は正確に保存される。 X-AddGraphはすべてのスコアを同一に再現し、存在しない説明を追加します。
  論文  参考訳（メタデータ） (2026-08-12T15:58:27Z)
• DriftScope: Measuring The Hidden Effects of Diffusion Model Adaptation [50.584834483403675]
  新しい視覚概念を学習するか、望ましくないものを消去するか、事前学習したテキスト・画像拡散モデルに適応させることは、意図した効果だけで日常的に評価される。 適応が意味論的に無関係な概念を、構造的にメトリクスを集約することができない方法で体系的に損なうことを実証する。 DriftScopeは、任意の2つのモデルチェックポイントを取り込み、視覚的概念が最も移行したトークンのランクリストを返す、プロンプトレベルの診断ツールである。
  論文  参考訳（メタデータ） (2026-06-30T20:57:51Z)
• Understanding Degradation with Vision Language Model [56.09241449206817]
  視覚的劣化を理解することは、コンピュータビジョンにおいて重要な問題であるが、難しい問題である。 本稿では,教師付き微調整と強化学習を併用したマルチモーダル・チェーン・オブ・ソート・モデルであるDU-VLMを紹介する。 また,110,000個のクリーン劣化ペアと接地された物理アノテーションからなる大規模データセットである textbfDU-110k も導入した。
  論文  参考訳（メタデータ） (2026-02-04T13:51:15Z)
• Temporal Concept Dynamics in Diffusion Models via Prompt-Conditioned Interventions [70.87254264798341]
  PCIは、拡散時間を通して概念力学を解析するためのトレーニング不要でモデルに依存しないフレームワークである。 拡散モデルにまたがる様々な時間的挙動を明らかにしており、同じ概念タイプであっても、軌道の特定の位相は特定の概念に好適である。
  論文  参考訳（メタデータ） (2025-12-09T11:05:08Z)
• The Mirror Loop: Recursive Non-Convergence in Generative Reasoning Systems [0.0]
  外部からのフィードバックのない再帰的な自己評価は、進歩よりもむしろ改革をもたらすことが多い。 3つのモデル(OpenAI GPT-4o-mini, Anthropic Claude 3 Haiku, Google Gemini 2.0 Flash)と4つのタスクファミリー(パラメータ、コード、説明、リフレクション)にまたがる144の推論シーケンスについて検討する。 我々はこれを、生成的推論における自己補正の構造的限界の証拠として解釈する。
  論文  参考訳（メタデータ） (2025-10-23T07:53:26Z)
• Revisiting Multivariate Time Series Forecasting with Missing Values [65.30332997607141]
  現実の時系列では欠落値が一般的である。 現在のアプローチでは、計算モジュールを使用して、不足した値を補う、計算済みの予測フレームワークが開発されている。 このフレームワークは、致命的な問題を見落としている: 欠落した値に対して基礎的な真理は存在せず、予測精度を劣化させる可能性のあるエラーの影響を受けやすいようにしている。 本稿では,Information Bottleneck原則に基づく新しいフレームワークであるConsistency-Regularized Information Bottleneck(CRIB)を紹介する。
  論文  参考訳（メタデータ） (2025-09-27T20:57:48Z)
• Concept-free Causal Disentanglement with Variational Graph Auto-Encoder [4.171080633895958]
  本稿では, 最適因子を近似した理論的に証明可能な高次境界上に構築した, 概念自由因果解(concept-free causal disentanglement)を提案する。 本研究では,新しい因果不整合層を変分グラフオートエンコーダに組み込むことで,概念自由因果VGAE(Concept-free Causal VGAE)を提案する。 そこで我々は,概念自由因果不整合(concept-free causal disentanglement)フレームワークにおいて概念整合性を証明し,概念自由因果メタグラフ(concept-free causal Meta-Graph)と呼ばれるメタラーニングフレームワークを強化する。
  論文  参考訳（メタデータ） (2023-11-17T16:50:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。