論文の概要: ImplicitHop: Evaluating knowledge integration across context and memory

• arxiv url: http://arxiv.org/abs/2610.41169v1
• Date: Fri, 30 Oct 2026 02:44:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.595719
• Title: ImplicitHop: Evaluating knowledge integration across context and memory
• Title（参考訳）: ImplicitHop: コンテキストとメモリ間の知識統合を評価する
• Abstract要約: 本稿では,推論深度関数として帰納的推論を評価するための2つの補完的自然言語ベンチマークを提案する。 これらのベンチマークを用いて、事前訓練中にコンテキストでエンコードされた情報とモデルウェイトでエンコードされた情報との知識統合を比較する。 その結果,事前学習と文脈内知識の双方において,構成長の増大とともに精度が急激に低下することが判明した。
• 参考スコア（独自算出の注目度）: 39.47298454012977
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The ability to integrate new information and deduce its consequences is central to learning, understanding, and reasoning in large language models (LLMs). Whether information arrives during training or in-context, models must not only store local facts, but propagate their long-range implications globally. To explore information integration in LLMs, we introduce two complementary natural language benchmarks for large-scale evaluation of deductive reasoning as a function of inference depth. The first is a formal graph benchmark enabling controlled evaluation over a wide range of graph topologies and integration tasks; the second is a knowledge composition benchmark grounded in real-world knowledge graphs. We use these benchmarks to compare knowledge integration from information encoded in context versus information encoded in model weights during pretraining, evaluating a set of open models implicitly, without chain of thought. We find that accuracy decays sharply with increased composition length for both pretrained and in-context knowledge. Information presented in-context, however, substantially outperforms deduction over information encoded in weights. These results quantify a fundamental limitation of current models with direct implications for prompt-based control of agent behavior and for continual learning strategies, and they provide a foundation for developing training, prompting, and integration methods that support deeper reasoning.
• Abstract（参考訳）: 新しい情報を統合し、その結果を推論する能力は、大きな言語モデル(LLM)における学習、理解、推論の中心である。 トレーニング中に情報が到着したか、あるいはコンテキスト内で到着したかに関わらず、モデルはローカルな事実を記憶するだけでなく、その長期的影響を世界中に広めなければならない。 LLMにおける情報統合を探求するため,推論深度関数としての帰納的推論を大規模に評価するために,2つの補完的な自然言語ベンチマークを導入する。 ひとつは、さまざまなグラフトポロジと統合タスクに対する制御された評価を可能にするフォーマルなグラフベンチマークであり、もうひとつは、現実世界の知識グラフに基礎を置いている知識合成ベンチマークである。 これらのベンチマークを用いて、文脈でエンコードされた情報と事前学習中にモデルウェイトでエンコードされた情報との知識統合を比較し、思考の連鎖なしにオープンモデルの集合を暗黙的に評価する。 その結果,事前学習と文脈内知識の双方において,構成長の増大とともに精度が急激に低下することが判明した。 しかし、文脈内で提示される情報は重みで符号化された情報よりもかなり優れている。 これらの結果は,エージェント行動の迅速な制御や継続的な学習戦略に直接的な意味を持つ現行モデルの基本的制限を定量化し,より深い推論を支援するトレーニング,プロンプト,統合手法の開発のための基盤を提供する。

関連論文リスト

• LMEnt: A Suite for Analyzing Knowledge in Language Models from Pretraining Data to Representations [35.01080969148123]
  言語モデル(LM)は、世界の知識を必要とする現実世界のアプリケーションをますます推進します。 プレトレーニング中のLMにおける知識獲得の分析スイートであるLMEntについて述べる。 チェックポイントをまたいだ知識獲得を研究し,事実頻度が重要であるが,学習の傾向を十分に説明していないことを明らかにする。
  論文  参考訳（メタデータ） (2025-09-03T15:31:18Z)
• ADKGD: Anomaly Detection in Knowledge Graphs with Dual-Channel Training [38.3788247358102]
  本稿では、二重チャネル学習(ADKGD)を用いた知識グラフにおける異常検出アルゴリズムを提案する。 両チャネル間のスコアリング関数の精度を向上させるために,KL(Kullback-leibler)-loss成分を導入する。 実験の結果,ADKGDは最先端の異常検出アルゴリズムよりも優れていた。
  論文  参考訳（メタデータ） (2025-01-13T06:22:52Z)
• NeedleBench: Evaluating LLM Retrieval and Reasoning Across Varying Information Densities [51.07379913779232]
  NeedleBenchは、長いコンテキストタスクにおける検索と推論のパフォーマンスを評価するためのフレームワークである。 モデルの機能を厳格にテストするために、キーデータポイントをさまざまな深さに埋め込む。 実験の結果,Deep-R1やOpenAIのo3のような推論モデルは,情報密度シナリオにおける連続的な検索と推論に苦労していることがわかった。
  論文  参考訳（メタデータ） (2024-07-16T17:59:06Z)
• Reinforcement Learning Approach for Integrating Compressed Contexts into Knowledge Graphs [7.091151453598395]
  本研究は、文脈を知識グラフに統合するプロセスを強化するための強化学習(RL)に基づくアプローチを提案する。 我々のDQNモデルはネットワークを関数近似器として利用し、Q値を継続的に更新してアクション値関数を推定する。 我々のRL法は、様々な標準知識グラフデータセット間で正確な文脈統合を実現する技術より優れている。
  論文  参考訳（メタデータ） (2024-04-19T02:32:43Z)
• MoCoSA: Momentum Contrast for Knowledge Graph Completion with Structure-Augmented Pre-trained Language Models [11.57782182864771]
  構造強化事前学習言語モデル(MoCoSA)を用いた知識グラフ補完のためのMomentum Contrastを提案する。 また,WN18RRでは2.5%,OpenBG500では21%向上した。
  論文  参考訳（メタデータ） (2023-08-16T08:09:10Z)
• Large Language Models with Controllable Working Memory [64.71038763708161]
  大規模言語モデル(LLM)は、自然言語処理(NLP)の一連のブレークスルーをもたらした。 これらのモデルをさらに切り離すのは、事前訓練中に内在する膨大な量の世界的知識だ。 モデルの世界知識が、文脈で提示された事実情報とどのように相互作用するかは、まだ解明されていない。
  論文  参考訳（メタデータ） (2022-11-09T18:58:29Z)
• Knowledge Graph Augmented Network Towards Multiview Representation Learning for Aspect-based Sentiment Analysis [96.53859361560505]
  本稿では,知識グラフ拡張ネットワーク(KGAN)を提案する。 KGANは感情の特徴表現を、文脈、構文、知識に基づく複数の視点から捉えている。 3つの人気のあるABSAベンチマークの実験は、我々のKGANの有効性と堅牢性を示している。
  論文  参考訳（メタデータ） (2022-01-13T08:25:53Z)
• Common Sense or World Knowledge? Investigating Adapter-Based Knowledge Injection into Pretrained Transformers [54.417299589288184]
  本研究では,概念ネットとそれに対応するオープンマインド・コモンセンス(OMCS)コーパスから,BERTの分布知識と概念知識を補完するモデルについて検討する。 我々のアダプタベースのモデルは,ConceptNet や OMCS に明示的に存在する概念的知識のタイプを必要とする推論タスクにおいて,BERT を大幅に上回っている。
  論文  参考訳（メタデータ） (2020-05-24T15:49:57Z)
• Exploiting Structured Knowledge in Text via Graph-Guided Representation Learning [73.0598186896953]
  本稿では、知識グラフからのガイダンスを用いて、生テキスト上で学習する2つの自己教師型タスクを提案する。 エンティティレベルのマスキング言語モデルに基づいて、最初のコントリビューションはエンティティマスキングスキームです。 既存のパラダイムとは対照的に,本手法では事前学習時にのみ,知識グラフを暗黙的に使用する。
  論文  参考訳（メタデータ） (2020-04-29T14:22:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。