論文の概要: Prompt-Space Meta-Learning Does Not Transfer Across Users: A Frozen-LLM Negative Result
- arxiv url: http://arxiv.org/abs/2609.01615v1
- Date: Thu, 25 Jun 2026 03:55:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.435755
- Title: Prompt-Space Meta-Learning Does Not Transfer Across Users: A Frozen-LLM Negative Result
- Title(参考訳): Prompt-Spaceのメタラーニングはユーザ間で転送されない: 凍ったLLMの否定的な結果
- Abstract要約: 本研究では,メタトレイン利用者を対象に,単一の共用適応プロンプトを進化させるMuseについて検討する。
Museは、独自の未進化のシードプロンプトや、ミスマッチしたユーザサポートペアにメタトレインを付加する構造破壊制御において、大幅な改善はない。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Personalizing a frozen large language model (LLM) to individual users is often framed as a meta-learning problem in prompt space: each user is a task, and one seeks a shared natural-language adaptation policy that, given a handful of the user's labeled interactions, configures the frozen model for that user. The framing is attractive because it is backbone-agnostic and reuses the machinery of prompt optimization, yet the field rarely tests whether the optimized meta-objective encodes transferable cross-user adaptation rather than generic instruction quality. We study this question with Muse (Meta-learned User-adaptation via Shared Evolution), which evolves a single shared adaptation prompt over a meta-train user population by reflective prompt evolution, freezes it, and applies it zero-shot to held-out users; matched controls isolate learning from confounds of phrasing and selection. On two standard personalization benchmarks (LaMP-2 categorization and LaMP-3 rating) over 200 held-out users each, Muse does not significantly improve on its own un-evolved seed prompt or on a structure-broken control that meta-trains on mismatched user-support pairs, and is dominated by plain few-shot retrieval on the rating task (Delta MAE +0.175, p < 0.001). We attribute these outcomes to a single mechanism, meta-objective collapse: the meta-validation objective is statistically invariant to whether the user-support correspondence is genuine (p=0.555 on LaMP-2, p=0.622 on LaMP-3), so it cannot be optimized into transferable adaptation and instead rewards instruction polish and validation overfitting. The seed-prompt, wrong-support, and invariance-oracle controls form a reusable protocol that separates learned adaptation from these confounds.
- Abstract(参考訳): 凍結された大きな言語モデル(LLM)を個々のユーザにパーソナライズすることは、プロンプトスペースにおけるメタラーニングの問題として、しばしばフレーム化される。
フレーミングはバックボーン非依存であり、迅速な最適化の機械を再利用するので魅力的であるが、最適化されたメタオブジェクトが汎用的な命令品質ではなく、転送可能なクロスユーザー適応をコード化するかどうかを検査することは滅多にない。
本研究では,メタトレイン利用者に対する単一共用適応プロンプトを反映的進化により進化させ,それを凍結し,保留ユーザに対してゼロショットで適用するMuse (Meta-learned User-Adaptation via Shared Evolution)を用いてこの問題を考察する。
2つの標準パーソナライゼーションベンチマーク(LaMP-2分類とLaMP-3格付け)において、Museは、それぞれ200以上の保持されたユーザーに対して、独自の未進化のシードプロンプトや、ミスマッチしたユーザサポートペアにメタトレインを配置する構造を著しく改善せず、評価タスク(Delta MAE +0.175, p < 0.001)において、通常の数ショット検索に支配されている。
メタバリデーション目的は、ユーザ対応対応が真であるかどうか(LaMP-2ではp=0.555、LaMP-3ではp=0.622)に対して統計的に不変であるため、転送可能な適応に最適化できず、代わりに命令の研磨と検証オーバーフィッティングを報いる。
シードプロンプト、不正サポート、不変オーラコントロールは、学習した適応をこれらの相違点から分離する再利用可能なプロトコルを形成する。
関連論文リスト
- One Prompt Does Not Fit All: Self-Meta-Evolve for Personalized Information Extraction [40.983949983653865]
Self-Meta-Evolveは階層的なフレームワークで、各ユーザに専用のプロンプトを保持し、デュアルループプロセスを通じて継続的に改善する。
ベンチマークでは、Self-Meta-Evolveは74.58%の成功率を記録し、13.56絶対点で最強のプロンプト最適化ベースラインを上回った。
20人の現実的な専門家による二重盲検研究は、我々のフレームワークがペアワイズ比較の71%で静的なベースラインに勝つことを裏付けている。
論文 参考訳(メタデータ) (2026-09-18T11:05:41Z) - AdaptFuse: Training-Free Sequential Preference Learning via Externalized Bayesian Inference [24.596125996494717]
既存のソリューションでは、機密性の高いユーザーインタラクションデータを微調整する必要がある。
本稿では,LLM の原理的確率計算を外部化する,トレーニング不要なフレームワーク AdaptFuse を提案する。
本稿では,フライトレコメンデーション,ホテルレコメンデーション,Webショッピングの3分野にわたるAdaptFuseを評価する。
論文 参考訳(メタデータ) (2026-04-05T01:35:50Z) - One Adapts to Any: Meta Reward Modeling for Personalized LLM Alignment [55.86333374784959]
これらの制約に対処するには、データの適合からユーザの好みを学習し、嗜好適応のプロセスを学ぶためのパラダイムシフトが必要である、と我々は主張する。
メタ学習問題としてパーソナライズされた報酬モデルを変更するメタリワードモデリング(MRM)を提案する。
MRMはパーソナライズを強化し、ユーザの堅牢性を向上し、ベースラインを一貫して上回ることを示す。
論文 参考訳(メタデータ) (2026-01-26T17:55:52Z) - Few-shot Steerable Alignment: Adapting Rewards and LLM Policies with Neural Processes [50.544186914115045]
大きな言語モデル(LLM)は、日々のアプリケーションにますます組み込まれています。
個人ユーザの多様な嗜好との整合性を確保することは、重要な課題となっている。
数発のステアライメントのための新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-12-18T16:14:59Z) - Beyond the Binary: Capturing Diverse Preferences With Reward Regularization [15.518838657050173]
この二項選択への依存は、現実のタスクにおいて対象ユーザのより広範囲で集約的な嗜好を捉えるものではない、と我々は主張する。
本稿では、既存の二分選好データセットを合成選好判断で拡張し、潜在的なユーザ不一致を推定する、シンプルで効果的な方法を提案する。
論文 参考訳(メタデータ) (2024-12-05T02:35:46Z) - Improved Diversity-Promoting Collaborative Metric Learning for Recommendation [127.08043409083687]
CML(Collaborative Metric Learning)は、リコメンデーションシステムにおいて人気のある手法として最近登場した。
本稿では,ユーザが複数のカテゴリの関心を持つ,困難なシナリオに焦点をあてる。
textitDiversity-Promoting Collaborative Metric Learning (DPCML) と呼ばれる新しい手法を提案する。
論文 参考訳(メタデータ) (2024-09-02T07:44:48Z) - Relative Preference Optimization: Enhancing LLM Alignment through Contrasting Responses across Identical and Diverse Prompts [95.09994361995389]
Relative Preference Optimization (RPO) は、同一のプロンプトと関連するプロンプトの両方から、より多く、あまり好まれない応答を識別するように設計されている。
RPOは、大きな言語モデルをユーザの好みに合わせて調整し、トレーニングプロセスにおける適応性を改善する優れた能力を示している。
論文 参考訳(メタデータ) (2024-02-12T22:47:57Z) - The Minority Matters: A Diversity-Promoting Collaborative Metric
Learning Algorithm [154.47590401735323]
CML(Collaborative Metric Learning)は、リコメンデーションシステムにおいて人気のある手法として最近登場した。
本稿では,ユーザが複数のカテゴリの関心を持つ,困難なシナリオに焦点をあてる。
textitDiversity-Promoting Collaborative Metric Learning (DPCML) と呼ばれる新しい手法を提案する。
論文 参考訳(メタデータ) (2022-09-30T08:02:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。