論文の概要: From Profiles to Steering Vectors: Global Sparse Priors and Local Semantic Calibration for Personalized Text Generation

• arxiv url: http://arxiv.org/abs/2607.21620v1
• Date: Mon, 01 Jun 2026 12:42:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-02 22:55:38.947881
• Title: From Profiles to Steering Vectors: Global Sparse Priors and Local Semantic Calibration for Personalized Text Generation
• Title（参考訳）: プロファイルからステアリングベクトルへ:グローバルスパース優先とパーソナライズされたテキスト生成のための局所セマンティック校正
• Abstract要約: GLASSは、Sparse以前のGlobal-Local Activation Steeringを通じてパーソナライズされた生成のためのトレーニング不要のフレームワークである。 推論の間、グローバルとローカルのベクトルを異なるモデル層に共同で注入し、コンテキスト認識のパーソナライゼーションを可能にする。 LaMPとLongLaMPの実験では、GLASSは検索、微調整、ステアリングに基づくベースラインよりも優れていた。
• 参考スコア（独自算出の注目度）: 32.0379999980339
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Personalized text generation requires models to capture user-specific writing styles from historical data. Existing approaches based on retrieval, parameter-efficient fine-tuning, or activation steering either introduce inference and storage overhead or struggle to separate stylistic signals from semantic content. We propose GLASS, a training-free framework for personalized generation via Global-Local Activation Steering with Sparse priors. GLASS uses sparse autoencoders to extract a global user-style prior from historical responses and constructs local contrastive style vectors over clustered interaction scenarios. During inference, it jointly injects global and local vectors into different model layers, enabling context-aware personalization without retrieval or parameter updates. Experiments on LaMP and LongLaMP show that GLASS outperforms retrieval-, fine-tuning-, and steering-based baselines across ROUGE metrics and LLM-as-judge evaluations. Further analyses show that SAE-based representations are more robust to topic and length shifts, suggesting better disentanglement of stylistic information from semantic residue.
• Abstract（参考訳）: パーソナライズされたテキスト生成は、履歴データからユーザ固有の書き込みスタイルをキャプチャするモデルを必要とする。 既存のアプローチは、検索、パラメータ効率の良い微調整、あるいはアクティベーションステアリングに基づいており、推論とストレージのオーバーヘッドを導入するか、セマンティックコンテンツからスタイリスティックな信号を切り離すのに苦労する。 我々はGLASSを提案する。Global-Local Activation Steering with Sparse Priorsによるパーソナライズのためのトレーニングフリーフレームワークである。 GLASSはスパースオートエンコーダを使用して、過去の応答からグローバルなユーザスタイルを抽出し、クラスタ化されたインタラクションシナリオ上で局所的なコントラスト型ベクトルを構築する。 推論の間、グローバルとローカルのベクトルを異なるモデル層に共同で注入し、検索やパラメータの更新なしにコンテキスト認識のパーソナライズを可能にする。 LaMPとLongLaMPの実験により、GLASSはROUGEメトリクスとLCM-as-judge評価で検索、微調整、ステアリングベースラインを上回っていることが示された。 さらに分析したところ、SAEに基づく表現はトピックや長さのシフトに対してより堅牢であることが示され、セマンティックな残基からのスタイリスティックな情報のより良い切り離しが示唆された。

関連論文リスト

• Low-Resource Preference Adaptation of LLMs via Activation-Based Label Propagation [6.262888209373497]
  言語モデルが、その中間表現における嗜好情報をエンコードする方法について検討する。 選択された応答と拒否された応答からのアクティベーションは、事前訓練されたモデルであっても、層をまたいだ異なるクラスタを形成する。 この構造を実行し、ラベル付き選好ペアの軽量線形プローブをトレーニングし、それを用いて大きな未ラベルデータセットを注釈付けする。
  論文  参考訳（メタデータ） (2026-08-31T14:52:19Z)
• Open-Vocabulary Gaze Object Prediction: Benchmark and Method [16.472504490295282]
  In-the-wild category 86を含むベンチマークである Diverse Scenes for Gaze Object Prediction (DiSG) を導入する。 DiSGを基盤として,テキスト駆動型物体発見を利用した潜在的視線候補のローカライズを行うフレームワークを提案する。 提案手法は,オープン語彙設定において効果的に動作し,従来のクローズド語彙設定では既存手法よりも優れていた。
  論文  参考訳（メタデータ） (2026-07-21T08:03:02Z)
• Generative Archetype-Grounded Item Representations for Sequential Recommendation [45.91194797303667]
  GenAIRは、ジェネレーティブアーキタイプのグラウンドドアイテム表現でシーケンシャルなレコメンデーションを付与する一般的なフレームワークである。 本稿では,実際のインタラクションからの行動信号を明示的に組み込んだ行動校正手法を提案する。 3つの実世界のデータセットで実施された実験は、GenAIRが様々なシーケンシャルレコメンデーションモデルの性能を大幅に改善することを示した。
  論文  参考訳（メタデータ） (2026-06-09T15:59:14Z)
• MomentSeg: Moment-Centric Sampling for Enhanced Video Pixel Understanding [40.37010049965347]
  Referring Video Object (RefVOS)は、自然言語記述でガイドされたビデオにターゲットオブジェクトをセグメント化しようとする。 本稿では,時空間接地(TSG)とRefVOSを協調的に最適化し,キーモーメント接地機能を自然に組み込んだ統合フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-10-10T11:18:21Z)
• RecBase: Generative Foundation Model Pretraining for Zero-Shot Recommendation [78.01030342481246]
  RecBaseは、レコメンデーション指向の目的によって事前訓練されたドメインに依存しない基礎モデルである。 アイテムを階層的な概念識別子にエンコードする統一されたアイテムトークンを導入します。 我々のモデルは、ゼロショットおよびクロスドメインレコメンデーションタスクにおいて、LLMのベースラインの最大7Bパラメータのパフォーマンスを一致または超過します。
  論文  参考訳（メタデータ） (2025-09-03T08:33:43Z)
• Towards Explainable Temporal User Profiling with LLMs [3.719862246745416]
  我々は,大規模言語モデル(LLM)を利用して,ユーザのインタラクション履歴の自然言語要約を生成する。 我々のフレームワークは、時間的ユーザの好みをモデル化するだけでなく、解釈可能な方法でレコメンデーションを説明するために使える自然言語プロファイルも生成する。
  論文  参考訳（メタデータ） (2025-05-01T22:02:46Z)
• PathGPT: Reframing Path Recommendation as a Natural Language Generation Task with Retrieval-Augmented Language Models [5.808911935927279]
  パスレコメンデーション(PR)は、ユーザの特定の好みや制約に合わせてカスタマイズされた旅行経路を生成することを目的としている。 本稿では,自然言語生成タスクとしてPRを概念化する代替パラダイムを提案する。 PathGPTは,歴史軌跡データと自然言語利用者の制約を生かした検索拡張大型言語モデル(LLM)システムである。
  論文  参考訳（メタデータ） (2025-04-08T09:25:21Z)
• Unseen from Seen: Rewriting Observation-Instruction Using Foundation Models for Augmenting Vision-Language Navigation [63.54377402784965]
  視覚言語ナビゲーション(VLN)のためのリライト駆動型AugMentation(RAM)パラダイムを提案する。 書き換え機構から, シミュレータフリー, 省力両面において, 新たな観察・指導ペアを得ることができた。 離散環境(R2R,REVERIE,R4Rデータセット)と連続環境(R2R-CEデータセット)の両方における実験は,本手法の優れた性能と優れた一般化能力を示している。
  論文  参考訳（メタデータ） (2025-03-23T13:18:17Z)
• Personalized Text Generation with Contrastive Activation Steering [63.60368120937822]
  そこで本研究では,ベクタとしてパーソナライズされた書体スタイルを分離し,表現する学習自由フレームワークを提案する。 本フレームワークは,PEFT法よりも1700倍のストレージ要求を削減しつつ,パーソナライズ生成において,8%の相対的な改善を実現している。
  論文  参考訳（メタデータ） (2025-03-07T08:07:15Z)
• Align-SLM: Textless Spoken Language Models with Reinforcement Learning from AI Feedback [50.84142264245052]
  テキストレス音声言語モデル(SLM)のセマンティック理解を強化するためのAlign-SLMフレームワークを導入する。 提案手法は、与えられたプロンプトから複数の音声継続を生成し、意味的指標を用いて、直接選好最適化(DPO)のための選好データを生成する。 語彙および構文モデリングのためのZeroSpeech 2021ベンチマーク、意味的コヒーレンスのためのStoryClozeデータセットの音声バージョン、GPT4-oスコアや人間評価などの音声生成指標を用いて、フレームワークの評価を行った。
  論文  参考訳（メタデータ） (2024-11-04T06:07:53Z)
• Generative Context-aware Fine-tuning of Self-supervised Speech Models [54.389711404209415]
  生成型大規模言語モデル(LLM)生成コンテキスト情報の利用について検討する。 自己教師型音声モデルの微調整中に生成した情報を抽出する手法を提案する。 本稿では,SLUE と Libri-light のベンチマークを用いて,自動音声認識,名前付きエンティティ認識,感情分析を行う手法を提案する。
  論文  参考訳（メタデータ） (2023-12-15T15:46:02Z)
• Unsupervised Neural Stylistic Text Generation using Transfer learning and Adapters [66.17039929803933]
  応答生成のためのスタイル特化属性を学習するために,モデルパラメータの0.3%しか更新しない新しい転送学習フレームワークを提案する。 我々はPERSONALITY-CAPTIONSデータセットからスタイル固有の属性を学習する。
  論文  参考訳（メタデータ） (2022-10-07T00:09:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。