論文の概要: Not All Is Lost: Repairing Lossy User Preference States of Personalization Encoders

• arxiv url: http://arxiv.org/abs/2610.01270v1
• Date: Thu, 01 Oct 2026 08:09:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:19:23.991199
• Title: Not All Is Lost: Repairing Lossy User Preference States of Personalization Encoders
• Title（参考訳）: パーソナライゼーション・エンコーダの喪失状態が修復される
• Abstract要約: パーソナライズエンコーダは、インタラクション履歴をアイテムや条件テキスト生成のランク付けに使用する優先状態に圧縮する。 この状態でのみ動作するタスクヘッドは、凍結エンコーダのキャッシュされた表現に残る、個々のタイムステップの有効なエビデンスを見逃す可能性がある。 この回復可能性ギャップを考察し、キャッシュされた表現と、コンパクトな学習座標空間における現在の嗜好状態を比較した重み付きコンパクト構造を提案する。
• 参考スコア（独自算出の注目度）: 14.89856361365585
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Personalization encoders compress evolving interaction histories into preference states used to rank items or condition text generation. A task head operating only on this state can miss useful evidence that remains in the frozen encoder's cached representations for individual timesteps. We study this recoverability gap and propose REPAIR, which compares cached representations with the current preference state in a compact learned coordinate space. It resolves corrective evidence over extended history, recent interactions, and localized bursts. It then selects which patterns at which timesteps contribute and adds their aggregate correction to the state before the task head. Encoder-host repair reuses representations from the existing forward computation without re-encoding the history. Across MovieLens, PENS, MIND, and Amazon Reviews 2023, training only REPAIR improves MRR and nDCG@10 for all twelve representative recommendation hosts while both encoder and task head remain frozen. Head-only finetuning of the same hosts yields smaller gains. For example, Mamba4Rec on MovieLens gains 3.96 MRR points, compared with 0.19 from head-only finetuning. Rank and temporal diagnostics support a compact, host-dependent corrective structure. In personalized generation, IMPerSumm improves the two reported weighted PerSEval variants, which assess responsiveness to user preference, by up to 25.23%. These results support post-compression state correction and distinguish the availability of preference evidence from its downstream use.
• Abstract（参考訳）: パーソナライズエンコーダは、進化するインタラクション履歴を、アイテムや条件テキスト生成のランク付けに使用される選好状態に圧縮する。 この状態でのみ動作するタスクヘッドは、凍結エンコーダのキャッシュされた表現に残る、個々のタイムステップの有効なエビデンスを見逃す可能性がある。 本稿では、この回復可能性ギャップについて検討し、キャッシュされた表現と、コンパクトな学習座標空間における現在の嗜好状態を比較するREPAIRを提案する。 長い歴史、最近の相互作用、局所的なバーストに関する修正的な証拠を解決している。 次に、どのタイムステップがコントリビュートするパターンを選択し、タスクヘッド前の状態にアグリゲート補正を追加する。 Encoder-host repairは、履歴を再エンコードすることなく、既存のフォワード計算から表現を再利用する。 MovieLens、PENS、MIND、およびAmazon Reviews 2023では、トレーニングのみのREPAIRは、12の代表レコメンデーションホストすべてに対してMRRとnDCG@10を改善し、エンコーダとタスクヘッドは凍結されている。 同じホストの頭部のみの微調整は、より小さな利得をもたらす。 例えば、MovieLensのMamba4Recは3.96 MRRポイントを獲得し、ヘッドオンリーの微調整では0.19ポイントだった。 ランクと時間的診断は、コンパクトでホストに依存した補正構造をサポートする。 パーソナライズされた世代では、IMPerSummは2つの重み付きPerSEvalのバリエーションを改善し、最大25.23%までユーザの好みに対する応答性を評価する。 これらの結果は、圧縮後の状態補正と、その下流での使用による嗜好証拠の入手を区別するものである。

関連論文リスト

• Are We Recovering Mechanisms? Objective-Level Recovery Gaps in Mechanistic Interpretability [9.522452128296834]
  介入定義忠実度は、モデルの振る舞いを再現しにくくする等サイズの回路を好むことを示す。 除外された信号を置き換えることで、保持されたコンポーネントが動作する入力が変化する。
  論文  参考訳（メタデータ） (2026-10-01T17:25:23Z)
• ATTUNER: Recomputation-Free KV Cache Reuse via Query-Side Adaptation [39.350115407978656]
  大規模言語モデル(LLM)エージェントは、再利用可能なコンテンツを現在のコンテキストに繰り返しロードする。 位置独立キャッシング(PIC)は、フルコンテキストのプリフィルに比べて品質が低下する。 凍結したアーティファクトキャッシュを読み取るためのクエリ側適応手法であるtextscAttunerを提案する。
  論文  参考訳（メタデータ） (2026-09-29T05:00:29Z)
• Independent Patch Verification for Coding Agents with a Bidirectional Reconstruct-and-Verify Framework [49.16055123488827]
  大規模言語モデルを利用したコーディングエージェントは、バグレポートから直接コードパッチを生成することができる。 報告された問題を真に解決するかどうかを独立に検証するメカニズムは存在しない。 本稿では,RETRACE をトレーニング不要なポストジェネレーション検証フレームワークとして提案する。
  論文  参考訳（メタデータ） (2026-08-09T22:59:13Z)
• Causal Episodic Memory for Feedback-Driven Agent Repair [2.641347237473854]
  オラクル認証のオンライン双極性メモリを保守するトレーニングフリーエージェントであるMERITを紹介する。 負のメモリが適度に寄与することを示し、型条件付けと語彙ランク付けの値はデータセットに依存し、スキーマローカルエクスペリエンスが最も一貫した利点を提供する。
  論文  参考訳（メタデータ） (2026-08-06T11:34:03Z)
• Voice Memory for Agentic Speech Recognition [66.69623133635868]
  エージェント音声認識のための推論専用スキームであるVoice Memoryを提案する。 同期的に、スコア付き例は、境界編集を通じてそのファイルを更新する。 10のHyPoradiseドメインにオープン修正器、Voice Memory、重み付き単語エラー率8.36%から7.52%の10のドメインがある。
  論文  参考訳（メタデータ） (2026-07-29T02:42:56Z)
• Decoder-Preserving Sparse Autoencoders: Which Readouts Survive Sparse Compression? [0.0]
  我々は,この曖昧さを最適リッジ予測演算子と列車復号器保存SAE間の行列値歪みとして定式化する。 制御されたスパース実験は、宣言された事前がタスクサブスペースから保持された組み合わせを保護していることを示している。 これらの結果から,どのリフィットされたリニアリードアウトがスパース圧縮に耐えるかは,再構成品質が決定できないことが示唆された。
  論文  参考訳（メタデータ） (2026-07-19T22:19:17Z)
• ReFIT: Relevance Feedback from a Reranker during Inference [109.33278799999582]
  Retrieve-and-Rerankは、ニューラル情報検索の一般的なフレームワークである。 本稿では,リランカを利用してリコールを改善する手法を提案する。
  論文  参考訳（メタデータ） (2023-05-19T15:30:33Z)
• Quick Dense Retrievers Consume KALE: Post Training Kullback Leibler Alignment of Embeddings for Asymmetrical dual encoders [89.29256833403169]
  我々は,高密度検索手法の推論効率を高めるための効率的かつ正確な手法であるKulback Leibler Alignment of Embeddings (KALE)を紹介した。 KALEは、バイエンコーダトレーニング後の従来の知識蒸留を拡張し、完全なリトレーニングやインデックス生成なしに効率的なクエリエンコーダ圧縮を可能にする。 KALEと非対称トレーニングを用いることで、3倍高速な推論を持つにもかかわらず、DistilBERTの性能を超えるモデルを生成することができる。
  論文  参考訳（メタデータ） (2023-03-31T15:44:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。