論文の概要: PairPref: When Should Memory Guide the Answer? A Benchmark for Contextual Preference Use

• arxiv url: http://arxiv.org/abs/2609.34526v1
• Date: Mon, 28 Sep 2026 07:59:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 12:45:24.070922
• Title: PairPref: When Should Memory Guide the Answer? A Benchmark for Contextual Preference Use
• Title（参考訳）: PairPref://///////////////////////////////////////////////////////////////////////
• Abstract要約: PairPrefは、文脈的嗜好使用のベンチマークである。 各ペアは状況だけを変更し、好み、要求、および4つの候補の応答を固定する。 選択トラックでは、モデルは適切な場合にのみ好みを適用する返信を選択する必要がある。 フリージェネレーショントラックでは、候補の応答を見ることなくいつ適用するかを決めなければなりません。
• 参考スコア（独自算出の注目度）: 3.225459438373827
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Memory-augmented assistants use retrieved preferences to guide their responses. A small change in the situation can change whether a preference is appropriate while barely affecting its retrieval similarity. Memory benchmarks typically test whether systems store and retrieve preferences, with less attention to when those preferences should apply. We introduce PairPref, a benchmark of contextual preference use. Each pair changes only the situation, keeping the preference, request, and four candidate replies fixed. The preference remains valid in both situations. In the selection track, models must choose the reply that applies the preference only where appropriate. In the free-generation track, they must decide when to apply it without seeing candidate replies. Both tracks use the same 1,227 pairs across 45 preferences and eight situation categories. We evaluate eight models, most of which achieve selection scores ($Δ$) of 51 to 65 points. In free generation, however, both responses are appropriate for their respective situations in only 3.6\% to 18.3\% of pairs. Models continue to apply the preference in both situations even with fewer retrieved memories, alternative presentation formats, and a stricter prompt. These results show that models still struggle to judge when user preferences apply and respond accordingly.
• Abstract（参考訳）: メモリ拡張されたアシスタントは、検索された好みを使ってレスポンスをガイドする。 状況の変化は、好みが適切かどうかを変更でき、検索の類似性にはほとんど影響を与えない。 メモリベンチマークは通常、システムが好みを保存し、取得するかどうかをテストする。 PairPrefは、文脈的嗜好使用のベンチマークである。 各ペアは状況だけを変更し、好み、要求、および4つの候補の応答を固定する。 どちらの状況でも優先権は有効である。 選択トラックでは、モデルは適切な場合にのみ好みを適用する返信を選択する必要がある。 フリージェネレーショントラックでは、候補の応答を見ることなくいつ適用するかを決めなければなりません。 どちらのトラックも、45の選好と8つの状況カテゴリーで同じ1,227のペアを使用している。 我々は8つのモデルを評価し、そのほとんどは51点から65点の選択スコア(Δ$)を達成している。 しかし、フリージェネレーションでは、両方の応答はそれぞれの状況に対してわずか3.6\%から18.3\%のペアで適切である。 モデルは、検索された記憶が少なく、代替のプレゼンテーションフォーマット、より厳格なプロンプトがあるにもかかわらず、両方の状況で好みを適用し続けている。 これらの結果は、モデルがユーザーの好みをいつ適用し、それに応じて反応するかを判断するのに依然として苦労していることを示している。

関連論文リスト

• Memory Retrieval for Changing Preferences [19.459455322636025]
  本稿では、メモリアクセスと選択のための統一的なフレームワークを提案する。 ベイズ係数を用いて各メモリターンの有効性を定量化する。 提案手法は,長いコンテキスト,嗜好集約的なタスクにおいて,既存の埋め込みベースの検索よりも優れる。
  論文  参考訳（メタデータ） (2026-06-02T00:29:12Z)
• Probing Persona-Dependent Preferences in Language Models [5.686792581873827]
  大きな言語モデルは、根本的に異なる好みを持つ異なるペルソナを採用することができる。 我々は, Gemma-3-27BとQwen-3.5-122Bの残差ストリーム活性化に関する線形プローブを訓練し, 対のタスク選択を予測した。 補助アシスタントで訓練された調査員は、アシスタントのものと反相関の悪いペルソナなど、質的に異なるペルソナの選択を予測し、判断する。
  論文  参考訳（メタデータ） (2026-05-13T10:57:37Z)
• Can LLMs Discern the Traits Influencing Your Preferences? Evaluating Personality-Driven Preference Alignment in LLMs [10.04942779683801]
  選好文の背景にある「ラテント」信号としてパーソナリティを研究する。 パーソナライズされた嗜好の条件付けは、パーソナライズされた質問応答を大幅に改善する。 本稿では,LLMモデルを用いて人格に適合した好みを自動検索し,回答生成時に組み込むフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-06T20:37:02Z)
• Learning from Reference Answers: Versatile Language Model Alignment without Binary Human Preference Data [56.44985139322512]
  RefAlignは、報酬モデルや参照モデルに依存しない汎用的なREINFORCEスタイルのアライメントアルゴリズムである。 報酬モデルや参照モデルに依存しない汎用REINFORCEスタイルアライメントアルゴリズムである textitRefAlign を導入する。
  論文  参考訳（メタデータ） (2025-04-14T05:43:21Z)
• Beyond the Binary: Capturing Diverse Preferences With Reward Regularization [15.518838657050173]
  この二項選択への依存は、現実のタスクにおいて対象ユーザのより広範囲で集約的な嗜好を捉えるものではない、と我々は主張する。 本稿では、既存の二分選好データセットを合成選好判断で拡張し、潜在的なユーザ不一致を推定する、シンプルで効果的な方法を提案する。
  論文  参考訳（メタデータ） (2024-12-05T02:35:46Z)
• Comparing Bad Apples to Good Oranges: Aligning Large Language Models via Joint Preference Optimization [105.3612692153615]
  命令応答対に対して協調的に好みを抽出する新しい軸を提案する。 命令と応答ペアを併用することで、大きな言語モデルのアライメントを大幅に向上させることができる。
  論文  参考訳（メタデータ） (2024-03-31T02:05:40Z)
• Eliciting User Preferences for Personalized Multi-Objective Decision Making through Comparative Feedback [76.7007545844273]
  目的に対して異なるユーザの好みに対応する多目的意思決定フレームワークを提案する。 我々のモデルは、ベクトル値の報酬関数を持つマルコフ決定プロセスで構成され、各ユーザが未知の選好ベクトルを持つ。 少数の比較クエリを用いて,ユーザに対してほぼ最適なポリシを求めるアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-02-07T23:58:19Z)
• Learning Choice Functions with Gaussian Processes [0.225596179391365]
  消費者理論において、利用可能なオブジェクトを選好関係でランク付けすると、個々の選択の最も一般的な記述が得られる。 本稿では,個人が設定値の選択を表現できる選択モデルを提案する。
  論文  参考訳（メタデータ） (2023-02-01T12:46:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。