論文の概要: Holographic Memory for Zero-Shot Compositional Reasoning in Knowledge Graphs: A Mechanistic Study of Where and Why It Fails

• arxiv url: http://arxiv.org/abs/2606.24948v1
• Date: Tue, 23 Jun 2026 07:33:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-25 17:05:30.065577
• Title: Holographic Memory for Zero-Shot Compositional Reasoning in Knowledge Graphs: A Mechanistic Study of Where and Why It Fails
• Title（参考訳）: 知識グラフにおけるゼロショット合成推論のためのホログラフィック記憶:それがなぜ失敗したかに関する力学的研究
• Authors: Randhir Kumar,
• Abstract要約: HRRとFHRR(Fourier HRR)の2つのホログラフィックメモリ変種について検討し,それぞれに現代的なホップフィールドのクリーンアップを施した。 まず、どちらも競合するシングルホップレトリバー(HRRはMRR 0.358 +/- 0.002、FHRRは0.350 +/- 0.021)である。 ホップ1プローブは、メモリが高い忠実度(MRR 0.896 +/- 0.002 for HRR)で正しい中間体を復元することを示しているが、検証された正しい中間体であっても、構成は失敗する。
• 参考スコア（独自算出の注目度）: 0.9392167468538464
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Knowledge graph embedding (KGE) models predict single-hop links well but have no mechanism for zero-shot compositional queries: multi-hop questions whose relation chains never appeared during training. Holographic Reduced Representations (HRR), which bind and unbind symbols via circular convolution, are a theoretically attractive candidate, since binding is approximately invertible and associative. We test whether this promise holds. We study two holographic memory variants, real-valued HRR and phase-only Fourier HRR (FHRR), each with a modern Hopfield cleanup, on FB15k-237 over five seeds. Four findings follow. First, both are competitive single-hop retrievers (filtered MRR 0.358 +/- 0.002 for HRR, 0.350 +/- 0.021 for FHRR). Second, neither composes zero-shot: accuracy stays at chance across all cleanup temperatures. Third, the main contribution, we localise the failure mechanistically. A hop-1 probe shows the memory recovers the correct intermediate entity with high fidelity (MRR 0.896 +/- 0.002 for HRR), yet composition still fails even with a verified-correct intermediate. A second probe shows why: posing the ground-truth second-hop fact as a standalone atomic query, bypassing composition entirely, already recovers it at only 0.26 to 0.48x average atomic accuracy, uniformly across relation fan-out. The bottleneck is not the bind-unbind algebra or the cleanup; it is that facts compositional chains pass through are intrinsically harder for the superposed memory to retrieve, a capacity and interference effect present already at a single hop. Fourth, we prove (Lemma 4.1) that FHRR's softmax cleanup is not phase-equivariant, compounding the primary failure on the minority of chains where hop-1 itself errs. Fixing zero-shot composition requires improving retrieval capacity under superposition, not just redesigning the cleanup.
• Abstract（参考訳）: 知識グラフ埋め込み(KGE)モデルはシングルホップリンクをうまく予測するが、ゼロショット合成クエリのメカニズムを持たない。 ホログラフィック還元表現(HRR)は、結合がほぼ可逆的で連想的であるため理論的に魅力的な候補である。 私たちはこの約束が成り立つかどうかテストする。 5種以上のFB15k-237において,2種類のホログラフィックメモリ,実値HRRと位相のみフーリエHRR(FHRR)について検討した。 以下の4つの発見がある。 まず、競合するシングルホップレトリバー(HRRはMRR 0.358 +/- 0.002、FHRRは0.350 +/- 0.021)である。 第2に、どちらもゼロショットを構成していない。 第3に、主な貢献は、障害を機械的にローカライズすることです。 ホップ-1プローブは、メモリが高い忠実度(MRR 0.896 +/- 0.002 for HRR)で正しい中間体を復元することを示しているが、検証された正しい中間体でも、構成は失敗する。 第2のプローブはなぜか: 独立した原子問合せとして地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地対地 ボトルネックは結合結合代数(bind-unbind algebra)やクリーンアップ(cleanup)ではなく、構成鎖が通過するという事実は、重畳されたメモリが取り出すのが本質的に困難である、すなわち、既に1つのホップに存在している容量と干渉効果である。 第4に、(Lemma 4.1) は FHRR のソフトマックス浄化が相同変ではなく、ホップ-1 自体が不安定な少数鎖の一次失敗を複雑にすることを示した。 ゼロショット構成の修正には、クリーンアップを再設計するだけでなく、重ね合わせによる検索能力の改善が必要である。

関連論文リスト

• The Gentle Collapse: Distributional Metrics for Continual Learning [7.30570760963699]
  本報告では, 真のラベルランク(TLR), 予測信頼度, および, 連続的な忘れを特徴付ける分布の分散度にまたがる6つのソフトマックス由来の指標について紹介する。 CIFAR-100では、これらの指標が正確でない情報を持っている:0%の精度で、Confusion Marginは[0.32, 0.50]のICCにまたがっており、精度は同じである。 損失重みとして使用されるサンプル単位のスコアは、CIFAR-100上の統一経験リプレイ(ER)よりも1.3ポイント少ない。
  論文  参考訳（メタデータ） (2026-06-23T20:53:06Z)
• Compositional Multi-hop Factual Error Correction via Decomposition-and-Injection [60.34509125517578]
  本稿では,合成誤り訂正のための論理的枠組みであるCECoR(Reasoning-aware Synthesis)を提案する。 CECoRはマルチホップクレームを解釈可能な推論ステップに分解し、制御された摂動を注入して高品質なトレーニングペアを合成する。 教師付き微調整と強化学習を組み合わせた2段階学習戦略は、事実の正確性と堅牢性を向上させる。
  論文  参考訳（メタデータ） (2026-05-04T07:08:39Z)
• Reasoning Graphs: Self-Improving, Deterministic RAG through Evidence-Centric Feedback [0.0]
  言語モデルエージェントは、クエリ毎にスクラッチから推論し、各実行後に思考の連鎖を破棄する。 このグラフ構造は,エビデンス・チェーンを,評価項目に関連付けられた構造化されたエッジとみなす。 逐次クラスタプロトコル,高再利用デプロイメントシミュレーション,決定論的実験を用いて,MuSiQueとHotpotQAの評価を行った。
  論文  参考訳（メタデータ） (2026-04-08T20:57:21Z)
• BridgeRAG: Training-Free Bridge-Conditioned Retrieval for Multi-Hop Question Answering [0.0]
  本稿では,BridgeRAGを提案する。 BridgeRAGは、スコアリングからカバーを分離する: 二重エンタテイティーANNは、第2のホップ候補プールを広げる。 ブリッジコンディショニングが生産的再ランク付けを引き起こすことを示す(並列チェーンでは18.7%、単一チェーンでは0.6%)。
  論文  参考訳（メタデータ） (2026-04-03T18:27:51Z)
• A Phase-Space Geometric Measure of Magic in Qubit Systems [0.0]
  状態の離散ウィグナー関数から安定化ウィグナー関数の凸包までの l1 距離 C(rho) を導入する。 我々は、その安定化度Gamma(rho)との関係を、Kappa(rho) := (Gamma(rho)-1)/C(rho)を介して研究する。
  論文  参考訳（メタデータ） (2026-03-21T12:33:13Z)
• HopChain: Multi-Hop Data Synthesis for Generalizable Vision-Language Reasoning [86.82637240330791]
  ロングチェーン・オブ・シークレット(CoT)推論は、さまざまな障害モードを公開する。 検証可能な報酬を持つ強化学習に用いられる既存の視覚言語データの多くは、複雑な推論連鎖を含まない。 マルチホップ視覚言語推論データを合成するためのスケーラブルなフレームワークであるHopChainを提案する。
  論文  参考訳（メタデータ） (2026-03-17T18:04:58Z)
• Robust Fine-tuning of Zero-shot Models via Variance Reduction [56.360865951192324]
  微調整ゼロショットモデルの場合、このデシドラトゥムは細調整モデルで、分布内(ID)と分布外(OOD)の両方で優れる。 トレードオフを伴わずに最適なIDとOODの精度を同時に達成できるサンプルワイズアンサンブル手法を提案する。
  論文  参考訳（メタデータ） (2024-11-11T13:13:39Z)
• Faithful Chain-of-Thought Reasoning [51.21714389639417]
  CoT(Chain-of-Thought)は言語モデル(LM)のパフォーマンスを様々な推論タスクで向上させる。 翻訳と問題解決という2つの段階を含む推論フレームワークであるFithful CoTを提案する。 このことは、推論連鎖が最終回答の忠実な説明を提供することを保証している。
  論文  参考訳（メタデータ） (2023-01-31T03:04:26Z)
• FastLR: Non-Autoregressive Lipreading Model with Integrate-and-Fire [74.04394069262108]
  我々は,全てのターゲットトークンを同時に生成する非自己回帰(NAR)リップリーダーモデルであるFastLRを提案する。 FastLRは最先端のリップリーダーモデルと比較して10.97$times$のスピードアップを実現している。
  論文  参考訳（メタデータ） (2020-08-06T08:28:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。