論文の概要: From Storage to Access: Verifiable Activation of Parametric Knowledge in LLMs via Explicit Priming and Implicit Reasoning

• arxiv url: http://arxiv.org/abs/2608.18581v1
• Date: Wed, 19 Aug 2026 06:20:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-20 20:13:55.304549
• Title: From Storage to Access: Verifiable Activation of Parametric Knowledge in LLMs via Explicit Priming and Implicit Reasoning
• Title（参考訳）: ストレージからアクセスへ:明示的プライミングと暗黙的推論によるLCMにおけるパラメトリック知識の活性化の検証
• Authors: Zuocheng Ying, Yang Yang, Yumou Wu, Chuanbo Zhu, Jiarui Wang, Ziqi Wu, Jingming Cai, Junqing Yu, Zikai Song,
• Abstract要約: 既存のエンド・ツー・エンドの手法は、知識の引用と推論を結びつけるため、パラメトリックな知識や入力コンテキストから正しい答えが生じるかどうかを判断することは困難である。 VAKEは2段階の強化学習フレームワークで、暗黙のプライミングによって潜在パラメトリック知識を外部化し、取得した推論能力を暗黙の推論に転送する。 プライミングで学んだポリシーに基づいて、推論ステージはモデルに元の入力からの応答を訓練し、明示的な知識の引用によって得られた能力が暗黙の推論に移行するかどうかをテストする。
• 参考スコア（独自算出の注目度）: 16.56504142773247
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Although Large Language Models (LLMs) encode rich factual knowledge in their parameters, reliably recalling and verifying such knowledge remains a key bottleneck in factual question answering. Existing end-to-end methods entangle knowledge elicitation with reasoning, making it difficult to determine whether correct answers arise from parametric knowledge or the input context. To address this challenge, we propose VAKE (Verifiable Activation of Parametric KnowledgE), a two-stage reinforcement-learning framework that externalizes latent parametric knowledge through explicit Priming and transfers the acquired elicitation capability to implicit Reasoning. Given a query and an insufficient retrieved subgraph, the Priming policy explicitly inserts bridging triples as verifiable evidence, with supervision provided by rewards derived from answers generated by a separate frozen model over the augmented subgraph. Building on the policy learned during Priming, the Reasoning stage trains the model to answer from the original input, testing whether the capability acquired through explicit knowledge elicitation transfers to implicit reasoning. Experiments across seven benchmarks and models from 3B to 14B show that VAKE consistently outperforms standard baselines, including when transferring directly from HotpotQA to OOD datasets. LLM-based evaluation further shows that over 80% of the inserted triples provide factual bridging knowledge not derivable from the retrieved context, while more than half elicit knowledge inaccessible through direct prompting. These results suggest that VAKE activates latent parametric knowledge rather than copying the input context or memorizing dataset-specific associations.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、それらのパラメータにおける豊富な事実知識を符号化するが、そのような知識を確実にリコールし、検証することは、事実質問応答において重要なボトルネックである。 既存のエンド・ツー・エンドの手法は、知識の引用と推論を結びつけるため、パラメトリックな知識や入力コンテキストから正しい答えが生じるかどうかを判断することは困難である。 この課題に対処するために、暗黙的なプライミングを通じて潜時パラメトリック知識を外部化し、取得したエリケーション能力を暗黙の推論に転送する2段階強化学習フレームワークであるVAKE(Verifiable Activation of Parametric KnowledgE)を提案する。 クエリと検索が不十分なサブグラフが与えられた場合、プライミングのポリシーは、拡張されたサブグラフ上で別個の凍結モデルによって生成された回答から得られる報酬から導かれる報酬によって、ブリッジングトリプルを検証可能な証拠として明示的に挿入する。 プライミングで学んだポリシーに基づいて、推論ステージはモデルに元の入力からの応答を訓練し、明示的な知識の引用によって得られた能力が暗黙の推論に移行するかどうかをテストする。 3Bから14Bまでの7つのベンチマークとモデルによる実験によると、VAKEはHotpotQAからOODデータセットへの直接転送を含む、標準ベースラインを一貫して上回っている。 LLMに基づく評価は、挿入された三重項の80%以上は、検索された文脈から導出できない事実的ブリッジング知識を提供する一方で、直接的プロンプトによってアクセスできない半分以上のエリシット知識を提供することを示している。 これらの結果から,VAKEは入力コンテキストのコピーやデータセット固有の関連性を記憶するよりも,潜時パラメトリック知識を活性化することが示唆された。

関連論文リスト

• DeepRefine: Agent-Compiled Knowledge Refinement via Reinforcement Learning [60.35032268606525]
  エージェントコンパイルされた知識ベースは、下流タスクにおいて、大きな言語モデル(LLM)エージェントに対して永続的な外部知識を提供する。 しかし、その品質は、不完全性、不完全性、浮揚性によって体系的に制限される
  論文  参考訳（メタデータ） (2026-05-11T12:48:31Z)
• GRADE: Probing Knowledge Gaps in LLMs through Gradient Subspace Dynamics [51.647572539626715]
  GRADE(Gradient Dynamics for Knowledge gap Detection)は,勾配の層間ランク比と対応する隠れ状態部分空間の層間ランク比を用いて,知識ギャップを定量化する。 6つのベンチマークでモデル名を検証し、入力摂動に対するその有効性と堅牢性を示す。 さらに, 勾配連鎖が長文解に対する知識ギャップの解釈可能な説明をいかに生み出すかを示すケーススタディを示す。
  論文  参考訳（メタデータ） (2026-04-03T07:52:26Z)
• Leveraging LLM Parametric Knowledge for Fact Checking without Retrieval [60.25608870901428]
  信頼性は、大規模言語モデル(LLM)上に構築されたエージェントAIシステムの中核研究課題である 本研究では,任意の自然言語クレームの検証に焦点をあて,検索なしで事実チェックを行うタスクを提案する。
  論文  参考訳（メタデータ） (2026-03-05T18:42:51Z)
• Hindsight Distillation Reasoning with Knowledge Encouragement Preference for Knowledge-based Visual Question Answering [55.368681418311894]
  既存の知識に基づくビジュアル質問回答 (KBVQA) 手法は、マルチモーダルな大規模言語モデル (MLLM) における暗黙的な知識をコンテキスト内学習または検索拡張生成による明示的な知識を介して利用する。 KEPO(Knowledge Encouragement Preference Optimization)を用いたHindsight Distilled Reasoning(HinD)フレームワークを提供する。 OK-VQAとA-OKVQAの実験によりHinDの有効性が検証され、7BサイズのMLLMから推論したHinDが商用モデルAPIや外部知識を使わずに優れた性能を発揮することが示された。
  論文  参考訳（メタデータ） (2025-11-14T10:03:23Z)
• Prompting Large Language Models with Partial Knowledge for Answering Questions with Unseen Entities [43.88784275673178]
  Retrieval-Augmented Generation (RAG) は、Large Language Models (LLMs) におけるパラメトリック知識の補足と置換によって優れた性能を示す 我々は,金の推論経路とその変種が,その答えを含む経路を除去することにより,部分的に関連する知識を構築するためにどのように使用されるかを示す。 我々の覚醒に基づくアプローチは、組み込みベースの類似性に依存する従来の手法よりも優れた実用的効果を示す。
  論文  参考訳（メタデータ） (2025-08-02T09:54:46Z)
• Knowledge Graph-Enhanced Large Language Models via Path Selection [58.228392005755026]
  大規模言語モデル(LLM)は、様々な現実世界のアプリケーションで前例のない性能を示している。 LLMは実際に不正確な出力、すなわち幻覚の問題を発生させることが知られている。 上記の問題に対処する3段階の原理的フレームワークKELPを提案する。
  論文  参考訳（メタデータ） (2024-06-19T21:45:20Z)
• Self-Bootstrapped Visual-Language Model for Knowledge Selection and Question Answering [11.183845003492964]
  私たちはPassage Retrieval(DPR)を使って関連する知識を取得し、モデルが質問に答える手助けをします。 DPRは自然言語空間における検索を行うが、画像情報の総合的な取得は保証されない。 本稿では、視覚言語モデルを利用して、DPRが検索した重要な知識を選択し、質問に答える新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-04-22T07:44:20Z)
• A Unified End-to-End Retriever-Reader Framework for Knowledge-based VQA [67.75989848202343]
  本稿では,知識に基づくVQAに向けて,エンド・ツー・エンドのレトリバー・リーダー・フレームワークを提案する。 我々は、視覚言語による事前学習モデルからの多モーダルな暗黙の知識に光を当て、知識推論の可能性を掘り下げた。 提案手法では,知識検索のガイダンスを提供するだけでなく,質問応答に対してエラーが発生しやすいケースも排除できる。
  論文  参考訳（メタデータ） (2022-06-30T02:35:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。