論文の概要: Re-Centering Humans in LLM Personalization

• arxiv url: http://arxiv.org/abs/2606.06614v1
• Date: Thu, 04 Jun 2026 18:04:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-08 14:33:29.396192
• Title: Re-Centering Humans in LLM Personalization
• Title（参考訳）: LLMのパーソナライゼーションにおける再中心型人間
• Authors: Lechen Zhang, Jiarui Liu, Tal August,
• Abstract要約: 合成データと人的データを用いた場合のパーソナライズ性能の差について検討する。 我々は、パーソナライゼーションの3段階にわたって、人間の会話(550の会話)と判断を収集する。 学習した報酬モデルが人間の評価とわずかに相関していることがわかった。
• 参考スコア（独自算出の注目度）: 15.480006171928435
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Despite growing interest, most evaluations of large language models' (LLMs') personalization abilities have relied on synthetic data. It remains unclear how well current personalization systems work for real users. In this paper, we study the gap in LLM personalization performance when using synthetic versus human data. We collect human conversations (550 conversations) and judgments across three stages of personalization: extracting user attributes from conversations (5,949 judgments), pairing relevant attributes with new prompts (11,919), and incorporating relevant attributes into a personalized response (1,101). Incorporating human data reveals system limitations at each stage. Models struggle to extract attributes from human conversations, disagree with human judgments on relevant attributes, and generate personalized responses that humans judge no better than generic responses (though that LLM judges widely rate as better). We introduce two lightweight training-based interventions that shift automated personalization evaluation closer to human data in our first two stages. However, in our third stage we find that learned reward models achieve only modest correlation with human ratings, suggesting that human-aligned personalization quality judgments are difficult to model directly. Our collected data provides a foundation for studying how models should extract, select, and incorporate user information in ways that humans find useful.
• Abstract（参考訳）: 関心が高まっているにもかかわらず、大きな言語モデル(LLM)のパーソナライズ能力の評価のほとんどは、合成データに依存している。 現在のパーソナライズシステムが実際のユーザにとってどの程度うまく機能しているかは、まだ不明だ。 本稿では,合成データと人的データを用いたLLMパーソナライズ性能の差について検討する。 会話からユーザ属性を抽出し(5,949件)、関連する属性を新しいプロンプトとペアリングする(11,919件)、関連する属性をパーソナライズされた応答に組み込む(1,101件)。 人間のデータを組み込むと、各段階でのシステムの制限が明らかになる。 モデルは、人間の会話から属性を取り出すのに苦労し、関連する属性についての人間の判断に異を唱え、人間が一般的な反応より優れていると判断するパーソナライズされた応答を生成する(ただし、LLMは広く評価される)。 最初の2段階では、人間のデータに近い自動パーソナライズ評価をシフトする2つの軽量なトレーニングベースの介入を導入する。 しかし,第3段階では,学習報酬モデルが人間格付けとの微妙な相関しか達成できず,人格化品質判断が直接的にモデル化することが困難であることが示唆された。 収集したデータは、モデルがどのようにユーザー情報を抽出し、選択し、組み込むべきかを研究するための基盤を提供する。

関連論文リスト

• ReLay: Personalized LLM-Generated Plain-Language Summaries for Better Understanding, but at What Cost? [54.44351107428039]
  大規模言語モデル(LLMs)は、Plain Language Summaries(PLS)をパーソナライズするための新しい機会を提供する パーソナライズが有効か、どの戦略が最も効果的か、そしてパーソナライズと安全のバランスをとるかは、まだ不明である。 ReLayは、静的(専門家による)およびインタラクティブな設定の両方で、50人のレイ参加者から300人の参加者--PLSペアのデータセットを紹介します。 ReLayには、ユーザ特性、健康情報のニーズ、情報検索行動、理解結果、対話ログ、品質評価が含まれている。
  論文  参考訳（メタデータ） (2026-05-01T07:11:12Z)
• HumanLLM: Towards Personalized Understanding and Simulation of Human Nature [72.55730315685837]
  HumanLLMは個人のパーソナライズされた理解とシミュレーションのために設計された基礎モデルである。 私たちはまず、Reddit、Twitter、Blogger、Amazonといったプラットフォーム上で、現実世界のユーザデータをキュレートした大規模なコーパスであるCognitive Genomeを構築しました。 次に、多様な学習タスクを定式化し、教師付き微調整を行い、モデルの幅広い個人化された人間の行動、思考、経験を予測する。
  論文  参考訳（メタデータ） (2026-01-22T09:27:27Z)
• IMPersona: Evaluating Individual Level LM Impersonation [28.040025302581366]
  本稿では,特定の個人の書き方や個人の知識を擬人化するためのLM評価フレームワークであるIMPersonaを紹介する。 我々は、Llama-3.1-8B-Instructのような、わずかにサイズのオープンソースモデルでさえ、関連するレベルでの偽造能力を達成することを実証した。
  論文  参考訳（メタデータ） (2025-04-06T02:57:58Z)
• FSPO: Few-Shot Preference Optimization of Synthetic Preference Data in LLMs Elicits Effective Personalization to Real Users [111.56469697145519]
  メタ学習問題として報酬モデルを再設計するFew-Shot Preference Optimizationを提案する。 このフレームワークでは、LDMはそのユーザからいくつかのラベル付けされた好みを通じてユーザへの迅速な適応を学び、パーソナライズされた報酬関数を構築する。 公開されているLLMを用いて100万以上の合成パーソナライズされた好みを生成する。 本研究は,映画レビュー,教育背景に基づく教育適応,一般質問応答の3分野を対象に,最大1,500人の総合ユーザを対象に,パーソナライズされたオープンエンド世代に対するFSPOの評価を行った。
  論文  参考訳（メタデータ） (2025-02-26T17:08:46Z)
• Hybrid Preferences: Learning to Route Instances for Human vs. AI Feedback [87.37721254914476]
  我々はHyPERを紹介した。HyPERは、人間または言語モデル(LM)にアノテーションを付与するハイブリッド推論ルータである。 その結果,HyPERを用いた人工選好と直接選好の混合は,RewardBenchでは7-13%しか使用せず,RM性能が向上していることがわかった。 また、HyPERの機能を分析した結果、安全上の懸念や複雑さが人間のフィードバックから最も恩恵を受けていることがわかりました。
  論文  参考訳（メタデータ） (2024-10-24T20:04:15Z)
• Chatting Up Attachment: Using LLMs to Predict Adult Bonds [0.0]
  GPT-4とClaude 3 Opusを使用して、さまざまなプロファイル、子供時代の記憶、アタッチメントスタイルを持つ大人をシミュレートするエージェントを作成します。 我々は,同一の面接プロトコルを施行し,精神保健専門家によって分析・ラベル付けされた9人のヒトの転写データセットを用いて,我々のモデルを評価した。 以上の結果から,合成データのみを用いたモデルトレーニングは,人間のデータを用いたモデルトレーニングに匹敵する性能を発揮することが示唆された。
  論文  参考訳（メタデータ） (2024-08-31T04:29:19Z)
• Personality Alignment of Large Language Models [30.710131188931317]
  パーソナリティ・アライメント(Personality Alignment)は、大きな言語モデルと個々のユーザの好みを合わせることを目的としている。 このデータセットには、複数のパーソナリティアセスメントを含む、32万人以上の実際の被験者のデータが含まれている。 本研究では,個人の行動選好を効率的に整合させるために,アクティベーション介入最適化手法を開発した。 私たちの仕事は、未来のAIシステムが真にパーソナライズされた方法で意思決定と推論を行うための道を開くものです。
  論文  参考訳（メタデータ） (2024-08-21T17:09:00Z)
• Comparing Pre-trained Human Language Models: Is it Better with Human Context as Groups, Individual Traits, or Both? [36.03935815294279]
  人間中心の自然言語処理には、人間のコンテキストを言語モデルに組み込む必要がある。 現在、1)グループワイド属性(例:45歳以上)での事前トレーニング、または2)個々の特性の2つの方法が存在する。 事前学習モデルと,1)グループ属性,2)個人属性,3)ユーザレベルと文書レベルの5つのタスクに対する複合アプローチによる人間コンテキストとの比較を行った。
  論文  参考訳（メタデータ） (2024-01-23T05:20:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。