論文の概要: Do Personalized LLMs Need the Whole Conversation? Matching the Full History with Only 5% of Its Text via Relevance-Filtered Context
- arxiv url: http://arxiv.org/abs/2610.14952v1
- Date: Sat, 10 Oct 2026 14:25:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 03:14:32.490131
- Title: Do Personalized LLMs Need the Whole Conversation? Matching the Full History with Only 5% of Its Text via Relevance-Filtered Context
- Title(参考訳): パーソナライズされたLLMは全会話を必要とするか? 関連文脈による全履歴とテキストの5%を一致させる
- Abstract要約: PersonaMem-v2 (180 質問)では、GPT-5.6-terra と Claude Opus 5.5 を審査員として、関連フィルタリングされたコンテキストは全史の正確さとわずか5%しか一致しない。
Retrievalは、関連する証拠を61%の質問の文脈に配置し、その証拠が全歴史を15.6ポイント上回ったという宣誓供述書を提出した。
- 参考スコア(独自算出の注目度): 2.0339465062586566
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Personalized assistants accumulate long conversation histories, and passing the whole history to an LLM with every request is costly. We show that it is also unnecessary. On PersonaMem-v2 (180 questions), with GPT-5.6-terra and Claude Opus 5.5 as judges, a relevance-filtered context, built by sentence-level retrieval that ranks the history by similarity to the current request and stops at a fixed budget, matches full-history accuracy with only 5% of the text, cutting the judge's input about 20-fold. An LLM summary of the same length performs on par, but it needs an LLM to read the entire history, whereas retrieval needs only a small embedding model. While both sentence-level retrieval and LLM summary perform strongly, retrieval does so while placing the relevant evidence in the context for only 61% of the questions, and an oracle given only that evidence beats the full history by 15.6 points, making better context selection a promising path to surpassing the full history.
- Abstract(参考訳): パーソナライズされたアシスタントは長い会話履歴を蓄積し、すべてのリクエストですべての履歴をLSMに渡すことはコストがかかる。
私たちはそれが不要であることも示します。
PersonaMem-v2 (180 質問)では、GPT-5.6-terra と Claude Opus 5.5 が審査員として登場し、関連する文脈は文レベルの検索によって構築され、現在の要求と類似性によって歴史をランク付けし、固定予算で停止する。
同じ長さのLLMサマリーは同等に動作しますが、履歴全体を読むのにLLMが必要です。
文レベルの検索とLLMの要約はどちらも強く機能するが、関連する証拠をコンテキストに61%の質問に配置しながら検索を行う。
関連論文リスト
- CompCQR: Compositional Query Generation for Training-Free Conversational Search [21.486648754819466]
ユーザクエリは曖昧でコンテキストに依存しないことが多いため、検索クエリとして直接使用するには不適当である。
オープンおよびクローズドソースのLLMと,高密度かつスパースなレトリバーの両方にまたがるフレームワークを一般化する。
広く使用されている4つの会話ベンチマークでは、従来の最先端ベースラインよりも22.5%の相対的なMRR改善が達成されている。
論文 参考訳(メタデータ) (2026-09-13T16:31:22Z) - On Many-Shot In-Context Learning for Long-Context Evaluation [10.500629810624769]
本稿では,マルチショットICLによる長文言語モデルの評価について検討する。
ICLタスクを共通サンプル学習(SSL)と全サンプル学習(ASL)の2つのグループに分類するメトリクスを開発する。
最先端のモデルではSSLタスクで64kトークンまでパフォーマンスが向上するが、ASLタスクで16kトークンしかなかったため、多くのモデルは大幅なパフォーマンス低下を経験している。
論文 参考訳(メタデータ) (2024-11-11T17:00:59Z) - Long-context Language Models Fail in Basic Retrieval Tasks Without Sufficient Reasoning Steps [21.811552521030137]
長期コンテキスト言語モデル (LCLM) は、その広範囲なコンテキストウインドウによって特徴付けられるようになった。
標準の長文検索タスクにほぼ完全であるにもかかわらず,本評価では,いくつかの基本事例においてフェールすることを示した。
特定のCoTプロンプトによって導かれる十分な数の推論ステップで、うまく対処できることが分かりました。
論文 参考訳(メタデータ) (2024-10-06T09:29:19Z) - DetectiveQA: Evaluating Long-Context Reasoning on Detective Novels [86.93099925711388]
長い文脈内での物語的推論に特化したデータセットである textbfDetectiveQA を提案する。
100万以上のトークンを平均化する探偵小説を活用して、中国語と英語の両方で1200人の注釈付き質問を含むデータセットを作成します。
論文 参考訳(メタデータ) (2024-09-04T06:28:22Z) - NeedleBench: Evaluating LLM Retrieval and Reasoning Across Varying Information Densities [51.07379913779232]
NeedleBenchは、長いコンテキストタスクにおける検索と推論のパフォーマンスを評価するためのフレームワークである。
モデルの機能を厳格にテストするために、キーデータポイントをさまざまな深さに埋め込む。
実験の結果,Deep-R1やOpenAIのo3のような推論モデルは,情報密度シナリオにおける連続的な検索と推論に苦労していることがわかった。
論文 参考訳(メタデータ) (2024-07-16T17:59:06Z) - SuRe: Summarizing Retrievals using Answer Candidates for Open-domain QA of LLMs [85.54906813106683]
大規模言語モデル(LLM)を用いたオープンドメイン質問応答(ODQA)の簡易かつ効果的なフレームワークを提案する。
SuRe は LLM が与えられた質問に対するより正確な回答を予測するのに役立つ。
様々なODQAベンチマークの実験結果はSuReの優位性を示し、標準的なプロンプトアプローチよりも4.6%、F1スコアが4.0%向上した。
論文 参考訳(メタデータ) (2024-04-17T01:15:54Z) - Ada-LEval: Evaluating long-context LLMs with length-adaptable benchmarks [76.43527940649939]
大規模言語モデル(LLM)の長文理解を評価するベンチマークであるAda-LEvalを紹介する。
Ada-LEvalにはTSortとBestAnswerという2つの挑戦的なサブセットが含まれている。
Ada-LEvalを用いた4つの最先端クローズドソースAPIモデルと6つのオープンソースモデルを評価した。
論文 参考訳(メタデータ) (2024-04-09T17:30:48Z) - Rescue: Ranking LLM Responses with Partial Ordering to Improve Response Generation [28.89786334298637]
ランキングメトリクスを用いたLCMの最適化手法を開発した。
従来の完全順序付けではなく、部分順序付けを提唱する。
ベンチマークデータセットを用いて,システムの改善された応答生成能力を検証した。
論文 参考訳(メタデータ) (2023-11-15T17:27:14Z) - Retrieval meets Long Context Large Language Models [59.431200671427064]
大規模言語モデル(LLM)のコンテキストウィンドウの拡張が最近人気を集めている。
Retrieval-augmentation対ロングコンテキストウィンドウ。
両方の方法を組み合わせることで、両方の世界を最大限に活用できますか?
我々の最良モデルである32Kコンテキストウィンドウ付きLlama2-70Bは、9つの長いコンテキストタスクの平均スコアにおいて、GPT-3.5-turbo-16kとDavinci003より優れています。
論文 参考訳(メタデータ) (2023-10-04T17:59:41Z) - PEARL: Prompting Large Language Models to Plan and Execute Actions Over
Long Documents [78.27865456183397]
長い文書に対する推論を改善するためのフレームワークであるPEARLを提案する。
PEARLの各ステージは、最小限の人間の入力でゼロショットまたは少数ショットのプロンプトによって実装される。
PEARLをQuALITYデータセットの挑戦的なサブセットで評価し、長い物語テキストに対して複雑な推論を必要とする質問を含む。
論文 参考訳(メタデータ) (2023-05-23T23:06:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。