論文の概要: Filling the Gaps: Selective Knowledge Augmentation for LLM Recommenders
- arxiv url: http://arxiv.org/abs/2604.07825v1
- Date: Thu, 09 Apr 2026 05:27:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-10 18:34:05.717362
- Title: Filling the Gaps: Selective Knowledge Augmentation for LLM Recommenders
- Title(参考訳): ギャップを埋める: LLMレコメンダのための選択的知識強化
- Authors: Jaehyun Lee, Sanghwan Jang, SeongKu Kang, Hwanjo Yu,
- Abstract要約: 本稿では,知識ギャップ問題を軽減するために,ノウSA_CKP (Knowledge-aware Selective Augmentation with Comparison Knowledge Probing)を提案する。
KnowSA_CKPは、LLMの内部知識を、協調関係を捉える能力を評価することによって推定する。
4つの実世界のデータセットのレコメンデーション精度とコンテキスト効率を一貫して改善する。
- 参考スコア(独自算出の注目度): 22.267478425137313
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models (LLMs) have recently emerged as powerful training-free recommenders. However, their knowledge of individual items is inevitably uneven due to imbalanced information exposure during pretraining, a phenomenon we refer to as knowledge gap problem. To address this, most prior methods have employed a naive uniform augmentation that appends external information for every item in the input prompt. However, this approach not only wastes limited context budget on redundant augmentation for well-known items but can also hinder the model's effective reasoning. To this end, we propose KnowSA_CKP (Knowledge-aware Selective Augmentation with Comparative Knowledge Probing) to mitigate the knowledge gap problem. KnowSA_CKP estimates the LLM's internal knowledge by evaluating its capability to capture collaborative relationships and selectively injects additional information only where it is most needed. By avoiding unnecessary augmentation for well-known items, KnowSA_CKP focuses on items that benefit most from knowledge supplementation, thereby making more effective use of the context budget. KnowSA_CKP requires no fine-tuning step, and consistently improves both recommendation accuracy and context efficiency across four real-world datasets.
- Abstract(参考訳): 大規模言語モデル(LLM)は、最近、強力なトレーニングフリーレコメンデータとして登場した。
しかし,事前学習中に情報露出が不均衡になるため,各項目の知識は必然的に不均一であり,この現象を知識ギャップ問題と呼ぶ。
これを解決するために、ほとんどの先行する手法では、入力プロンプト内の各項目の外部情報を付加する、単純で均一な拡張が採用されている。
しかし、このアプローチは、よく知られた項目の冗長な拡張に限られたコンテキスト予算を浪費するだけでなく、モデルの効果的な推論を妨げる可能性がある。
そこで我々は,知識ギャップ問題を軽減するために,ノウSA_CKP (Knowledge-aware Selective Augmentation with Comparison Knowledge Probing)を提案する。
KnowSA_CKPは、LLMの内部知識を、協調関係を捕捉し、最も必要な場所でのみ追加情報を選択的に注入する能力を評価することで推定する。
KnowSA_CKPは、よく知られた項目の不要な拡張を避けることで、知識の補充から最も恩恵を受ける項目に焦点を当て、コンテキスト予算をより効果的に活用する。
KnowSA_CKPは微調整のステップを必要とせず、4つの実世界のデータセットのレコメンデーション精度とコンテキスト効率を一貫して改善する。
関連論文リスト
- When to Speak, When to Abstain: Contrastive Decoding with Abstention [12.639085523137998]
大規模言語モデル(LLM)は、事前訓練された(パラメトリック)知識と外部(文脈)知識を活用することで、様々なタスクにまたがる例外的なパフォーマンスを示す。
本稿では,LLMが関連する知識が利用可能であれば応答を生成でき,それ以外は無視できる新しい学習自由復号法であるContrastive Decoding with Abstentionを提案する。
論文 参考訳(メタデータ) (2024-12-17T04:38:08Z) - InfuserKI: Enhancing Large Language Models with Knowledge Graphs via Infuser-Guided Knowledge Integration [58.61492157691623]
知識を統合する手法が開発され、外部モジュールを通してLLMをドメイン固有の知識グラフに拡張した。
本研究は,未知の知識をLLMに効率的に統合することで,未知の知識を不要に重複させるという,新たな問題に焦点をあてる。
新しい知識を導入するリスクは、既存の知識を忘れることである。
論文 参考訳(メタデータ) (2024-02-18T03:36:26Z) - KnowTuning: Knowledge-aware Fine-tuning for Large Language Models [83.5849717262019]
本研究では,LLMの微粒で粗粒な知識認識を改善するための知識認識ファインタニング(KnowTuning)手法を提案する。
KnowTuningは、きめ細かい事実評価の下で、より少ない事実エラー率で多くの事実を生成する。
論文 参考訳(メタデータ) (2024-02-17T02:54:32Z) - Self-Knowledge Guided Retrieval Augmentation for Large Language Models [59.771098292611846]
大規模言語モデル(LLM)はタスク固有の微調整なしで優れた性能を示す。
検索に基づく手法は、非パラメトリックな世界知識を提供し、質問応答のようなタスクのパフォーマンスを向上させることができる。
SKR(Self-Knowledge guided Retrieval augmentation)は、LLMがこれまで遭遇した質問を参照できるようにする、シンプルで効果的な方法である。
論文 参考訳(メタデータ) (2023-10-08T04:22:33Z) - Thrust: Adaptively Propels Large Language Models with External Knowledge [69.50273822565363]
大規模事前学習言語モデル(PTLM)は、モデルパラメータの豊富な知識を符号化する。
PTLMの固有の知識は不透明または静的であり、外部の知識を必要とする。
本稿では,外部知識のインスタンスレベル適応推進(IAPEK)を提案する。
論文 参考訳(メタデータ) (2023-07-19T20:16:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。