論文の概要: Vela: User Behavior as Supervision Sparks LLM Intelligence

• arxiv url: http://arxiv.org/abs/2610.14709v1
• Date: Sat, 10 Oct 2026 08:28:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.094065
• Title: Vela: User Behavior as Supervision Sparks LLM Intelligence
• Title（参考訳）: Vela: スーパービジョンとしてのユーザ行動がLLMインテリジェンスを揺るがす
• Abstract要約: 大規模言語モデルは、ユーザの長期的な行動履歴に作用するアプリケーションにますます多くデプロイされている。 現在のモデルは静的テキストや合成データに基づいてトレーニングされており、どちらのモデルも時間の経過とともにユーザーの振る舞いを捉えない。 本稿では,実際のユーザ行動データをトレーニング可能なタスクやトラジェクトリに変換するフレームワークであるVelaを紹介する。
• 参考スコア（独自算出の注目度）: 30.315945959670774
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models are increasingly deployed in applications that act on users' long-term behavior histories, from personal assistants to recommendation and advertising systems. These applications demand the user dimension of LLM intelligence: inferring a person's preferences, intent, and likely future actions from weeks to years of behavior data. Yet current models are trained on static text or synthetic data, neither of which captures how user behavior evolves over time. Real-world behavior records, already available at scale on content platforms and in personal-assistant agents, offer a natural supervisory signal. We propose user behavior as supervision and introduce Vela, a framework that converts real user behavior data into trainable tasks and trajectories. From the anonymized behavior records of 100,000 users, Vela generates 100,000 tasks across 91 real-world task templates; difficulty-based filtering and trajectory acceptance criteria retain approximately 75,000 tasks with selected training trajectories. Fine-tuning Qwen3.6-35B-A3B on these trajectories improves performance over the base model by up to 11.5 points on user-related tasks and by an average of 4 points on general benchmarks. Training on more user behavior data further improves user-related performance, and reinforcement learning after fine-tuning outperforms reinforcement learning from the base model by up to 7.7 points. These gains suggest that real-world user behavior is a scalable source of supervision for both user-centered capabilities and the broader intelligence of LLMs.
• Abstract（参考訳）: 大規模言語モデルは、パーソナルアシスタントからレコメンデーションや広告システムに至るまで、ユーザの長期的な行動履歴に作用するアプリケーションにますます多くデプロイされている。 これらのアプリケーションには、LLMインテリジェンス(英語版)のユーザディメンジョン(英語版)が要求される: 個人の好み、意図、そしておそらく将来の行動データを数週間から数年の行動データから推測する。 しかし、現在のモデルは静的テキストや合成データに基づいてトレーニングされており、どちらのモデルも時間の経過とともにユーザーの振る舞いを捉えない。 実世界の行動記録は、コンテンツプラットフォームや個人エージェントで既に大規模に利用可能であり、自然な監視信号を提供する。 本稿では,実際のユーザ行動データをトレーニング可能なタスクやトラジェクトリに変換するフレームワークであるVelaを紹介する。 10万人のユーザの匿名化行動記録から、Velaは91の現実世界のタスクテンプレートに10万のタスクを生成する。 これらの軌道上の微調整Qwen3.6-35B-A3Bは、ユーザ関連のタスクで最大11.5ポイント、一般的なベンチマークで平均4ポイントの性能を改善する。 さらなるユーザ行動データのトレーニングは、ユーザ関連のパフォーマンスをさらに向上させ、微調整後の強化学習は、ベースモデルからの強化学習を最大7.7ポイント向上させる。 これらの成果から,実世界のユーザ行動は,ユーザ中心の能力とLLMの広範な知性の両方に対する,スケーラブルな管理源であることを示唆している。

関連論文リスト

• Action-Aware Generative Sequence Modeling for Short Video Recommendation [50.74467504063892]
  ショートビデオには様々な部分が含まれており、ユーザーはそれらすべてに対して同じ態度を取ることはできない。 従来のバイナリ分類レコメンデーションモデルは、ビデオを単一の全体的エンティティとして扱うが、そのような微妙な好みを正確に捉えるには限界に直面している。 本稿では,時間的次元に沿ってユーザアクションを洗練させる行動認識生成系列ネットワーク(A2Gen)を提案する。
  論文  参考訳（メタデータ） (2026-04-28T16:41:04Z)
• Personas within Parameters: Fine-Tuning Small Language Models with Low-Rank Adapters to Mimic User Behaviors [1.8352113484137629]
  正確なレコメンデーションモデルを開発する上での長年の課題は、主にユーザインタラクションの複雑な性質のために、ユーザの振る舞いをシミュレートすることである。 本研究では, 凍結したLarge Language Models (LLMs) を用いてロバストなユーザ表現を抽出し, 微調整小言語モデル (SLMs) を用いたコスト効率, 資源効率のよいユーザエージェントをシミュレートする手法を提案する。 提案手法の有効性を実証し,本手法を用いて開発したユーザエージェントが,オフラインメトリクスとレコメンデータシステムの実環境性能のギャップを埋める可能性を示した。
  論文  参考訳（メタデータ） (2025-08-18T22:14:57Z)
• DEEPER Insight into Your User: Directed Persona Refinement for Dynamic Persona Modeling [38.18345641589625]
  本稿では,動的ペルソナモデリングのための新しいアプローチであるDEEPERを提案する。 10ドメインにわたる4800人のユーザによる動的ペルソナモデリングの実験は、DEEPERの優れたペルソナ最適化能力を強調している。
  論文  参考訳（メタデータ） (2025-02-16T11:02:37Z)
• USE: Dynamic User Modeling with Stateful Sequence Models [26.74966828348815]
  User Stateful Embedding (USE)は、徹底的な再処理を必要とせずに、ユーザ埋め込みを生成する。 我々は,次世代の予測の限界を超越するために,将来のW行動予測という新たな訓練目標を導入する。 静的(固定されたユーザ行動シーケンス)および動的(定期的に更新されたユーザ行動シーケンス)設定の両方で、Snapchatユーザーの行動ログを使用して、8つの下流タスクで実験を行う。
  論文  参考訳（メタデータ） (2024-03-20T07:05:19Z)
• ALP: Action-Aware Embodied Learning for Perception [60.64801970249279]
  認知のための行動認識型身体学習(ALP)について紹介する。 ALPは、強化学習ポリシーと逆ダイナミクス予測目標を最適化することにより、行動情報を表現学習に組み込む。 ALPは、複数の下流認識タスクにおいて、既存のベースラインよりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-06-16T21:51:04Z)
• User Behavior Simulation with Large Language Model based Agents [116.74368915420065]
  LLMベースのエージェントフレームワークを提案し,実際のユーザ動作をシミュレートするサンドボックス環境を設計する。 実験結果から,本手法のシミュレーション行動は実人の行動に非常に近いことが判明した。
  論文  参考訳（メタデータ） (2023-06-05T02:58:35Z)
• PUNR: Pre-training with User Behavior Modeling for News Recommendation [26.349183393252115]
  ニュースレコメンデーションは、ユーザーの行動に基づいてクリック行動を予測することを目的としている。 ユーザの表現を効果的にモデル化する方法が、望ましいニュースを推奨する鍵である。 本研究では,ユーザ行動マスキングとユーザ行動生成という2つのタスクを備えた教師なし事前学習パラダイムを提案する。
  論文  参考訳（メタデータ） (2023-04-25T08:03:52Z)
• Latent User Intent Modeling for Sequential Recommenders [92.66888409973495]
  逐次リコメンデータモデルは、プラットフォーム上での氏のインタラクション履歴に基づいて、ユーザが次に対話する可能性のあるアイテムを予測することを学習する。 しかし、ほとんどのシーケンシャルなレコメンデータは、ユーザの意図に対する高いレベルの理解を欠いている。 したがって、インテントモデリングはユーザー理解と長期ユーザーエクスペリエンスの最適化に不可欠である。
  論文  参考訳（メタデータ） (2022-11-17T19:00:24Z)
• Learning Transferrable Parameters for Long-tailed Sequential User Behavior Modeling [70.64257515361972]
  テールユーザに注力することで、より多くのメリットをもたらし、長いテールの問題に対処できる、と私たちは主張しています。 具体的には、頭部から尾部への知識伝達を容易にするために、勾配アライメントを提案し、敵のトレーニングスキームを採用する。
  論文  参考訳（メタデータ） (2020-10-22T03:12:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。