論文の概要: PersonaEdit: Representative Sample Selection for Personalized Model Editing
- arxiv url: http://arxiv.org/abs/2608.27816v1
- Date: Fri, 28 Aug 2026 01:25:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-31 17:16:04.174618
- Title: PersonaEdit: Representative Sample Selection for Personalized Model Editing
- Title(参考訳): PersonaEdit:パーソナライズされたモデル編集のための代表サンプル選択
- Abstract要約: 本稿では,比例的階層化サンプリングにより代表編集サンプルを選択する隠れ表現クラスタリング戦略であるPersonaEditを提案する。
実験により、モデル編集はパーソナライズに有効であり、我々の選択戦略は性能の大部分を保っていることが示された。
- 参考スコア(独自算出の注目度): 9.118615355121934
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Personalization has attracted growing interest in LLM applications, yet existing retrieval-based approaches depend heavily on retrieval quality and degrade in long-term interactions. Model editing, which directly modifies internal model parameters to incorporate new knowledge, has demonstrated effective knowledge modification capabilities in factual knowledge editing tasks and may provide a potential solution for personalization. However, scaling model editing to personalization is non-trivial. Editing large amounts of user data increases computational cost and causes interference among edits, motivating the need for effective sample selection. To address this issue, we propose, PersonaEdit, a hidden representation clustering strategy that selects representative editing samples through proportional stratified sampling. Experiments show that model editing is effective for personalization, and that our selection strategy preserves most of the performance while substantially reducing the number of required editing samples. Beyond standalone editing, we find that combining model editing with retrieval-based prompt augmentation further improves personalization, as edited knowledge and retrieved context provide complementary information. These results demonstrate the potential of model editing as an efficient and scalable approach for LLM personalization.
- Abstract(参考訳): パーソナライゼーションはLLMアプリケーションへの関心が高まりつつあるが、既存の検索ベースのアプローチは検索品質に大きく依存し、長期的な相互作用において劣化している。
新しい知識を取り入れるために内部モデルパラメータを直接修正するモデル編集は、実際の知識編集タスクにおいて効果的な知識修正能力を示し、パーソナライズのための潜在的ソリューションを提供する可能性がある。
しかし、モデル編集からパーソナライズへのスケーリングは簡単ではない。
大量のユーザデータを編集することは、計算コストを増大させ、編集間の干渉を引き起こし、効果的なサンプル選択の必要性を動機付ける。
この問題に対処するために、比例的階層化サンプリングにより代表編集サンプルを選択する隠れ表現クラスタリング戦略であるPersonaEditを提案する。
実験の結果、モデル編集はパーソナライズに有効であり、我々の選択戦略は、必要な編集サンプルの数を大幅に減らしながら、ほとんどの性能を保っていることがわかった。
モデル編集と検索に基づくプロンプト拡張を組み合わせることで、編集された知識や検索されたコンテキストが補完的な情報を提供するため、パーソナライゼーションがさらに向上することがわかった。
これらの結果は、LLMパーソナライズのための効率的でスケーラブルなアプローチとしてモデル編集の可能性を示している。
関連論文リスト
- HP-Edit: A Human-Preference Post-Training Framework for Image Editing [56.02114960634816]
そこで我々は,Human Preference-aligned EditingのためのポストトレーニングフレームワークHP-Editを提案する。
また、RealPref-50Kは8つの共通タスクにまたがる現実世界のデータセットであり、共通オブジェクト編集のバランスをとる。
論文 参考訳(メタデータ) (2026-04-21T12:29:50Z) - KEditVis: A Visual Analytics System for Knowledge Editing of Large Language Models [40.75210566048808]
KEditVisは、ユーザが知識編集をより深く理解するのを支援するために設計された、新しいビジュアル分析システムである。
KEditVisでは、ユーザーは編集対象として適切なレイヤを選択し、非効率的な編集の背景にある理由を調べ、よりターゲット的で効果的な編集を行うことができる。
論文 参考訳(メタデータ) (2026-03-31T12:45:46Z) - One Adapts to Any: Meta Reward Modeling for Personalized LLM Alignment [55.86333374784959]
これらの制約に対処するには、データの適合からユーザの好みを学習し、嗜好適応のプロセスを学ぶためのパラダイムシフトが必要である、と我々は主張する。
メタ学習問題としてパーソナライズされた報酬モデルを変更するメタリワードモデリング(MRM)を提案する。
MRMはパーソナライズを強化し、ユーザの堅牢性を向上し、ベースラインを一貫して上回ることを示す。
論文 参考訳(メタデータ) (2026-01-26T17:55:52Z) - Towards Effective Model Editing for LLM Personalization [36.236438676571034]
我々はパーソナライズをモデル編集タスクとして概念化し、パーソナライズ編集を導入する。
このフレームワークは、クラスタ化された選好表現によってガイドされる局所的な編集を適用する。
微調整よりも高い編集精度と計算効率を実現する。
論文 参考訳(メタデータ) (2025-12-15T18:58:15Z) - InComeS: Integrating Compression and Selection Mechanisms into LLMs for Efficient Model Editing [86.17245523439514]
In-context Learningは、コンテキストエンコーディングを通じて編集情報を解釈することで、有望な編集方法である。
この方法は、大きな言語モデルの限られたコンテキストウィンドウによって制約される。
編集コンテキストの処理能力を向上させるフレキシブルなフレームワークであるInComeSを提案する。
論文 参考訳(メタデータ) (2025-05-28T09:20:18Z) - PIXELS: Progressive Image Xemplar-based Editing with Latent Surgery [10.594261300488546]
PIXELSと呼ばれる,市販拡散モデルを用いたプログレッシブな例駆動編集のための新しいフレームワークを提案する。
PIXELSは編集のきめ細かい制御を提供し、ピクセルや領域レベルでの調整を可能にする。
我々は,PIXELSが高品質な編集を効率よく行うことを実証し,定量化と人的評価に顕著な改善をもたらすことを示した。
論文 参考訳(メタデータ) (2025-01-16T20:26:30Z) - Bridging Personalization and Control in Scientific Personalized Search [53.7152408217116]
本研究では、パーソナライズされたランキングを積極的に制御できるパーソナライズされた検索モデルを提案する。
我々のモデルであるCtrlCEは、ユーザの過去のインタラクションから構築された編集可能なメモリを付加した、新しいクロスエンコーダモデルである。
論文 参考訳(メタデータ) (2024-11-05T03:55:25Z) - Is Bigger Edit Batch Size Always Better? -- An Empirical Study on Model Editing with Llama-3 [2.569159339315845]
本研究では,最新の大言語モデルであるLlama-3に着目したターゲットモデル編集分析を行う。
最大4096個の編集を対象とする評価により,最も効果的な編集層を同定する。
論文 参考訳(メタデータ) (2024-05-01T17:50:37Z) - The Butterfly Effect of Model Editing: Few Edits Can Trigger Large Language Models Collapse [58.0132400208411]
単一の編集でさえモデル崩壊を引き起こし、様々なベンチマークタスクで大幅なパフォーマンス低下を示す。
編集後の大規模言語モデルのベンチマークは、過激な時間とリソース集約である。
我々は、GPT-3.5を用いて、ハードケースに基づいた新しいデータセット、HardEditを開発した。
論文 参考訳(メタデータ) (2024-02-15T01:50:38Z) - Model Editing Harms General Abilities of Large Language Models: Regularization to the Rescue [122.20016030723043]
大規模言語モデル(LLM)におけるモデル編集の副作用を評価する。
分析の結果,モデルの重みを過度に修正したモデル編集によって副作用が生じることが明らかとなった。
これを軽減するために、修正の重み付けを正規化するためにRECTというメソッドが提案されている。
論文 参考訳(メタデータ) (2024-01-09T18:03:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。